Google Didesak Hentikan Video AI untuk Anak, Ini Alasannya

Google mendapat tekanan dari ratusan pakar tumbuh kembang anak untuk membatasi penayangan video berbasis kecerdasan buatan atau AI kepada penonton anak-anak, khususnya di platform YouTube dan YouTube Kids.

Berdasarkan data dari surat terbuka yang dikirimkan kepada CEO Google Sundar Pichai dan CEO YouTube Neal Mohan, lebih dari 200 ahli, organisasi advokasi, dan institusi pendidikan menyuarakan kekhawatiran terhadap maraknya konten AI yang ditujukan untuk anak.

Mereka menilai banyak video yang dihasilkan AI mengklaim bersifat edukatif, namun sebenarnya memiliki kualitas rendah dan minim substansi.

Konten AI Dinilai Berisiko bagi Perkembangan Anak

Dalam surat tersebut, para pakar mengkritik fenomena konten anak yang diproduksi secara massal menggunakan generator AI. Video semacam ini disebut dibuat untuk mengejar keuntungan dengan menargetkan penonton paling muda yang dinilai mudah terpengaruh.

Para ahli juga memperkenalkan istilah AI slop, yaitu konten berkualitas rendah hasil produksi AI yang dinilai dapat berdampak negatif terhadap anak-anak.

Menurut mereka, paparan konten semacam ini berpotensi mengganggu kemampuan anak dalam membedakan antara realitas dan hal yang tidak nyata. Selain itu, terlalu banyak waktu di depan layar juga dinilai dapat menghambat perkembangan sosial dan emosional anak.

“Masih banyak yang belum kita ketahui mengenai dampak konten AI bagi anak-anak. YouTube turut serta dalam eksperimen yang tidak terkendali ini dengan mempromosikan konten yang dihasilkan AI tanpa penelitian yang membuktikan manfaatnya,” tulis kelompok tersebut dalam suratnya.

Surat itu juga ditandatangani oleh Jonathan Haidt, seorang psikolog sosial yang dikenal melalui bukunya The Anxious Generation. Buku tersebut mendorong gerakan global untuk mengurangi dampak negatif media sosial terhadap anak dan remaja.

Sejumlah organisasi seperti Fairplay, National Alliance to Advance Adolescent Health, serta Federasi Guru Amerika turut mendukung desakan ini.

Di sisi lain, pihak YouTube memberikan tanggapan bahwa mereka telah memiliki standar ketat untuk konten anak. “Kami memiliki standar tinggi untuk konten di YouTube Kids, termasuk membatasi konten yang dihasilkan AI di aplikasi tersebut pada sejumlah kecil saluran berkualitas tinggi,” kata juru bicara YouTube, Boot Bullwinkle.

Ia juga menambahkan bahwa orang tua memiliki opsi untuk memblokir saluran tertentu. Selain itu, YouTube mengklaim telah menerapkan transparansi dengan memberi label pada konten AI dan mewajibkan kreator mengungkapkan penggunaan teknologi tersebut.

Namun, para pakar menilai langkah tersebut belum cukup efektif. Mereka berargumen bahwa label pada konten AI kemungkinan tidak dipahami oleh anak-anak, terutama yang belum bisa membaca.

Di tengah kontroversi ini, video AI terus berkembang pesat di platform YouTube, terutama untuk segmen balita. Banyak kreator memanfaatkan teknologi AI karena dinilai lebih cepat dan murah dalam memproduksi konten.

Menurut pernyataan Neal Mohan pada Januari lalu, pengelolaan konten AI berkualitas rendah menjadi salah satu prioritas utama YouTube di tahun 2026. Perusahaan juga ingin memastikan platform tetap menjadi tempat yang aman dan nyaman bagi pengguna.

Meski begitu, YouTube menegaskan bahwa tidak semua konten AI memiliki kualitas buruk. Jika digunakan dengan tepat, teknologi ini dinilai tetap bisa memberikan manfaat positif.

Di sisi lain, Google juga diketahui berinvestasi dalam studio animasi berbasis AI bernama Animaj pada Maret lalu. Langkah ini disebut sebagai upaya untuk meningkatkan kualitas konten bagi pengguna muda.

Desakan terhadap Google muncul di tengah meningkatnya tekanan global terhadap platform digital terkait perlindungan anak. Sebelumnya, dalam sebuah putusan pengadilan pada Maret, perusahaan teknologi besar dinilai bertanggung jawab atas dampak negatif produk digital terhadap pengguna muda.

Kondisi ini membuat para pembuat kebijakan dan kelompok advokasi semakin mendorong perubahan pada algoritma dan sistem distribusi konten di platform digital.

Referensi:
BloombergTechnoz