GenPI.co - Google mengatakan pada hari Kamis bahwa pihaknya menghentikan sementara chatbot kecerdasan buatan Gemini untuk menghasilkan gambar orang sehari setelah meminta maaf atas “ketidakakuratan” dalam penggambaran sejarah yang dibuatnya.
Dilansir AP News, pengguna Gemini minggu ini memposting tangkapan layar di media sosial dari adegan yang secara historis didominasi kulit putih dengan karakter beragam ras yang menurut mereka dihasilkan.
Sehingga menimbulkan kritik untuk mengajukan pertanyaan tentang apakah perusahaan tersebut melakukan koreksi berlebihan terhadap risiko bias rasial dalam model AI-nya.
“Kami telah berupaya untuk mengatasi masalah terkini dengan fitur pembuatan gambar Gemini,” kata Google dalam sebuah postingan di platform media sosial X.
“Sementara kami melakukan ini, kami akan menghentikan sementara pembuatan gambar manusia dan akan kembali segera merilis versi yang lebih baik.”
Penelitian sebelumnya menunjukkan bahwa pembuat gambar AI dapat memperkuat stereotip ras dan gender yang ditemukan dalam data pelatihan, dan tanpa filter, mereka lebih cenderung menampilkan pria berkulit cerah ketika diminta untuk membuat gambar seseorang dalam berbagai konteks.
Google mengatakan pada hari Rabu bahwa mereka “sadar bahwa Gemini menawarkan ketidakakuratan dalam beberapa penggambaran pembuatan gambar historis” dan bahwa mereka “bekerja untuk segera memperbaiki jenis penggambaran ini.”
Gemini dapat menghasilkan “banyak orang,” yang menurut perusahaan “secara umum merupakan hal yang baik” karena orang-orang di seluruh dunia menggunakan sistem ini tetapi sistem tersebut “meleset dari sasaran.”
Peneliti Universitas Washington, Sourojit Ghosh, yang telah mempelajari bias dalam generator gambar AI, mengatakan bahwa dia mendukung Google untuk menghentikan sementara pembuatan wajah orang, namun “sedikit bingung tentang bagaimana kita mencapai hasil ini.”
Bertentangan dengan klaim yang disebut “penghapusan kulit putih” dan premis bahwa Gemini menolak menampilkan wajah orang kulit putih, ide yang beredar di media sosial minggu ini – penelitian Ghosh justru menemukan kebalikannya.
“Kecepatan respons ini dibandingkan dengan banyak literatur lain dan banyak penelitian lain yang menunjukkan bahwa orang-orang yang secara tradisional terpinggirkan terhapus oleh model seperti ini, menurut saya agak sulit untuk diluruskan,” katanya. (*)
Silakan baca konten menarik lainnya dari GenPI.co di Google News