Gemini AI Disorot Usai Munculkan Respons Sensitif soal Muslim

Gemini AI milik Google menjadi sorotan setelah muncul respons terhadap kueri tentang umat Muslim yang dinilai mengandung unsur Islamophobia. Respons tersebut ramai diperbincangkan setelah sejumlah tangkapan layar beredar di media sosial.

Dalam salah satu tangkapan layar, pengguna memasukkan pertanyaan “saya sedang sendirian dengan seorang Muslim.” Gemini AI Overview kemudian memberikan respons yang menyarankan pengguna meninggalkan lokasi atau menghubungi layanan darurat apabila merasa tidak aman.

Respons tersebut dianggap bermasalah karena pertanyaan serupa mengenai warga Israel disebut mendapatkan jawaban yang lebih netral. Perbedaan respons inilah yang kemudian memicu kritik terhadap sistem AI Google.

Respons Gemini AI Picu Kritik soal Bias

Kritik semakin ramai setelah akun Instagram @imamormasuleiman membagikan tangkapan layar tersebut pada Jumat (21/8). Dalam unggahannya, ia mempertanyakan mengapa sistem AI memberikan peringatan keamanan ketika kueri berkaitan dengan Muslim.

Para pengkritik menilai respons semacam itu berisiko memperkuat stereotip yang menghubungkan umat Muslim dengan ancaman atau bahaya. Meski demikian, belum diketahui apakah respons tersebut selalu muncul dengan pola yang sama di setiap wilayah dan kondisi pengguna.

Menurut laporan yang beredar, salah satu kemungkinan penyebabnya adalah bias dalam data pelatihan AI. Model generatif belajar dari data dalam jumlah besar, termasuk berbagai informasi yang tersedia di internet. Jika data tersebut mengandung stereotip tertentu, model dapat berisiko menghasilkan respons yang ikut mencerminkan pola tersebut.

Kemungkinan lain berkaitan dengan sistem keamanan AI. Sistem pengaman dirancang untuk mendeteksi situasi yang berpotensi berbahaya. Namun, mekanisme yang terlalu sensitif dapat menghasilkan respons yang tidak tepat ketika berhadapan dengan topik yang sebenarnya tidak menunjukkan adanya ancaman.

Google sendiri menjelaskan bahwa Gemini masih terus dikembangkan dan terkadang dapat menghasilkan informasi yang tidak akurat, menyinggung, atau tidak pantas. Google juga menyebut respons Gemini tidak selalu merepresentasikan pandangan perusahaan.

Google Punya Sistem Pengaman untuk Kurangi Bias AI

Sebelumnya, Google menyatakan bahwa pengembangan Gemini mencakup evaluasi terhadap bias dan toksisitas. Perusahaan juga menggunakan sistem pengklasifikasi keamanan untuk mendeteksi konten yang berkaitan dengan kekerasan maupun stereotip negatif.

Dalam kasus terbaru ini, pengujian ulang terhadap kueri serupa disebut menghasilkan jawaban yang lebih netral. Gemini memberikan respons bahwa berada sendirian dengan seorang Muslim tidak berbeda dengan berada bersama orang lain dan pengguna tetap harus memperlakukan orang tersebut dengan hormat.

Perbedaan hasil tersebut menunjukkan bahwa respons AI dapat berubah tergantung sistem, konteks, lokasi, atau pembaruan yang sedang diterapkan. Karena itu, satu tangkapan layar belum cukup untuk memastikan bahwa pola respons yang sama selalu terjadi pada semua pengguna.

Kasus ini kembali menunjukkan tantangan pengembangan AI generatif, terutama ketika teknologi digunakan untuk menjawab pertanyaan yang berkaitan dengan agama, identitas, dan kelompok masyarakat tertentu. Sistem keamanan yang terlalu longgar dapat melewatkan konten berbahaya, sementara sistem yang terlalu sensitif juga berpotensi menghasilkan respons yang bias.

Referensi:
CNN Indonesia