Grok Disorot Global Usai Dipakai Buat Konten Deepfake Tidak Senonoh

Penggunaan kecerdasan buatan kembali menuai sorotan global setelah Grok, chatbot AI buatan xAI, dilaporkan menghasilkan jutaan gambar deepfake bermuatan seksual sebelum akhirnya dilakukan pembatasan fitur. Temuan ini memicu kekhawatiran serius terkait penyalahgunaan teknologi AI, terutama yang menyasar perempuan dan anak-anak.

Berdasarkan laporan Center for Countering Digital Hate (CCDH), Grok diperkirakan membuat sekitar 3 juta gambar berbau seksual hanya dalam periode 11 hari, termasuk sekitar 23.000 gambar yang melibatkan anak-anak. Data ini dikumpulkan dari analisis konten yang dihasilkan Grok sejak 29 Desember 2025 hingga 9 Januari 2026.

Menurut CCDH, estimasi tersebut diperoleh dengan menganalisis 20.000 gambar buatan Grok yang diambil secara acak, lalu diekstrapolasi dari total sekitar 4,6 juta gambar yang dihasilkan selama periode pengamatan. Organisasi nirlaba asal Inggris itu menilai temuan ini mencerminkan skala masalah yang jauh lebih besar dari perkiraan awal.

CCDH mendefinisikan gambar bermuatan seksual sebagai visual yang menampilkan penggambaran realistis seseorang dalam situasi atau pose seksual, penggunaan pakaian terbuka seperti pakaian dalam atau pakaian renang minim, hingga gambar yang memperlihatkan cairan seksual. Dalam laporannya, CCDH menemukan banyak gambar Grok yang menampilkan individu mengenakan bikini transparan atau bikini mikro.

Salah satu contoh yang disorot adalah gambar deepfake yang menggambarkan Wakil Perdana Menteri Swedia Ebba Busch mengenakan bikini dengan cairan putih di bagian kepala. Selain itu, ditemukan pula permintaan pengguna untuk mengedit foto selfie anak-anak agar tampak mengenakan bikini, termasuk gambar yang memperlihatkan enam anak perempuan dengan pakaian renang sangat minim.

“Ini adalah pelecehan berskala industri terhadap perempuan dan anak perempuan,” kata Imran Ahmad, CEO CCDH. Ia menambahkan bahwa meski alat pembuat gambar telanjang sudah lama ada, Grok dinilai berbeda karena kemudahan akses dan distribusinya. “Memang ada alat untuk membuat foto telanjang, tapi alat-alat tersebut tidak memiliki distribusi, kemudahan penggunaan, atau integrasi ke dalam platform besar seperti yang dilakukan Elon Musk dengan Grok,” ujar Imran Ahmad, CEO CCDH.

Selain tokoh politik, sejumlah figur publik internasional juga dilaporkan menjadi korban manipulasi gambar oleh Grok. Nama-nama yang disebut antara lain Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Christina Hendricks, Millie Bobby Brown, hingga Kamala Harris.

Pembatasan Fitur Grok dan Celah Pengawasan

Menanggapi polemik tersebut, pada 9 Januari 2026, xAI mulai membatasi fitur pengeditan gambar Grok sehingga hanya dapat diakses oleh pengguna berbayar. Lima hari kemudian, platform X juga membatasi kemampuan Grok untuk membuat konten yang menelanjangi orang sungguhan secara digital.

Namun, berdasarkan temuan CCDH, pembatasan ini hanya berlaku untuk Grok yang terintegrasi dengan X. Aplikasi Grok di Apple App Store dan Google Play Store dilaporkan masih dapat menghasilkan konten cabul jika diminta pengguna. Kondisi ini menimbulkan pertanyaan mengenai efektivitas pengawasan dan tanggung jawab platform dalam mengendalikan penggunaan AI generatif.

Kasus Grok menambah daftar panjang tantangan etika dan keamanan digital dalam pengembangan teknologi kecerdasan buatan. Pengawasan, regulasi, serta pembatasan fitur dinilai menjadi aspek krusial untuk mencegah penyalahgunaan AI di masa depan.

Referensi: Detik Inet