Malaysia resmi membatasi akses ke platform kecerdasan buatan Grok milik Elon Musk pada Minggu (11/1). Kebijakan ini diambil hanya sehari setelah Indonesia melakukan pemblokiran sementara terhadap layanan tersebut. Langkah dua negara Asia Tenggara ini menandai meningkatnya kekhawatiran pemerintah terhadap penyalahgunaan teknologi AI, khususnya terkait konten seksual dan manipulasi gambar tanpa persetujuan.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan pembatasan dilakukan setelah Grok berulang kali digunakan untuk menghasilkan gambar yang dinilai cabul, eksplisit secara seksual, tidak pantas, serta sangat menyinggung. Berdasarkan penjelasan MCMC, konten bermasalah itu juga mencakup gambar manipulatif tanpa izin yang melibatkan perempuan dan anak-anak, kelompok yang dinilai paling rentan di ruang digital.
Menurut MCMC, pihaknya telah menyampaikan pemberitahuan resmi kepada pengelola platform X dan perusahaan pengembang Grok, xAI, untuk menerapkan langkah teknis serta moderasi yang lebih efektif. Namun, tanggapan yang diterima dinilai belum memadai karena terlalu bergantung pada mekanisme pelaporan dari pengguna dan tidak menyentuh risiko yang muncul dari desain dan operasional sistem AI itu sendiri.
“MCMC menganggap pendekatan tersebut tidak cukup untuk mencegah kerugian atau memastikan kepatuhan terhadap hukum yang berlaku,” kata perwakilan MCMC dalam pernyataan resminya.
Di sisi lain, perusahaan xAI sempat mengumumkan pembatasan fitur pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar. Kebijakan ini diambil setelah munculnya kelalaian yang memungkinkan pengguna menghasilkan konten seksual tentang individu lain, sering kali tanpa persetujuan. Meski demikian, langkah tersebut dinilai belum cukup meredam risiko penyalahgunaan.
Indonesia menjadi negara pertama yang memblokir sementara Grok melalui Kementerian Komunikasi dan Digital pada Sabtu (10/1). Kebijakan ini diambil menyusul kekhawatiran meluasnya konten pornografi palsu atau deepfake seksual yang dihasilkan menggunakan teknologi AI.
Ikuti Saluran Resmi Trenmedia di WhatsApp!
Dapatkan berita terkini, tren viral, serta tips inspiratif langsung dari redaksi.
📱 Saluran Trenmedia 🍳 Saluran Resep Masakan Viral
Klik dan bergabung sekarang – update terbaru langsung masuk ke WhatsApp kamu!
Kecerdasan buatan atau Artificial Intelligence (AI) kini tidak lagi hanya dipakai untuk mencari informasi, belanja online, atau membantu pekerjaan harian....
Read more
Ada masa-masa ketika nasi putih biasa terasa membosankan. Bukan karena tidak enak, tapi karena kita ingin sesuatu yang lebih “niat”...
Banyak dari kita pasti pernah berada di momen klasik ini. Isi dompet mulai menipis, stok bahan di kulkas terbatas, tapi...
