Instagram Perketat Aturan Influencer AI yang Menyamar sebagai Manusia

Instagram mulai memperketat aturan terhadap akun yang menampilkan karakter manusia buatan AI tetapi tidak mengungkapkan identitas tersebut kepada pengguna. Kebijakan ini hadir ketika semakin banyak influencer virtual dan profil buatan AI yang tampil menyerupai manusia sungguhan.

Platform tersebut memperkenalkan perubahan pada sistem pelabelan profil AI. Label yang sebelumnya disebut “AI creator” kini diubah menjadi “AI generated profile”. Label ini dirancang agar pengguna dapat lebih mudah mengetahui ketika sosok manusia yang ditampilkan dalam sebuah profil dibuat atau sebagian besar direkayasa menggunakan kecerdasan buatan.

Menurut juru bicara Instagram, perubahan tersebut dilakukan setelah platform menerima masukan dari komunitas pengguna. Banyak pengguna merasa tidak nyaman ketika menemukan profil yang terlihat seperti milik manusia asli, tetapi kemudian mengetahui bahwa sosok yang ditampilkan ternyata merupakan hasil rekayasa AI.

“Kami mendengar dari komunitas kami bahwa mereka tidak suka menemukan profil yang terlihat seperti manusia, tapi kemudian mengetahui bahwa orang yang ditampilkan adalah rekayasa AI,” kata juru bicara Instagram.

“Mereka ingin tahu ketika sebuah profil menampilkan orang rekayasa AI,” sambungnya.

Akun Influencer AI yang Tidak Transparan Bisa Kehilangan Jangkauan

Aturan baru Instagram tidak hanya berkaitan dengan pemberian informasi kepada pengguna. Kreator yang tidak memberikan label secara tepat pada profil yang menampilkan manusia buatan AI dapat dikenai pengurangan jangkauan.

Artinya, konten dari akun tersebut berpotensi tidak direkomendasikan kepada pengguna yang belum menjadi pengikutnya melalui fitur seperti Reels dan Explore.

Kebijakan ini membuat label profil menjadi bagian penting bagi kreator yang menggunakan karakter AI sebagai identitas utama akun. Kreator yang menggunakan label “AI generated profile” tidak akan dihukum hanya karena menggunakan manusia buatan AI sebagai subjek profil.

Pemilik akun juga tetap memiliki kesempatan untuk mengajukan banding apabila merasa mendapatkan sanksi secara tidak sengaja.

Instagram menegaskan bahwa kebijakan tersebut tidak berlaku untuk setiap penggunaan AI dalam pembuatan konten. Pengguna yang memanfaatkan AI hanya untuk mengedit foto, menyempurnakan caption, membuat grafik, atau melakukan perubahan kreatif lainnya tidak diwajibkan menggunakan label “AI generated profile”.

Perubahan ini secara khusus menyasar profil yang sosok manusianya memang dibuat atau sebagian besar dihasilkan menggunakan AI.

Langkah tersebut sejalan dengan upaya Meta untuk meningkatkan transparansi terhadap konten yang dibuat menggunakan kecerdasan buatan. Meta sebelumnya telah menggunakan label “AI info” pada sejumlah konten yang terdeteksi dibuat atau diedit menggunakan AI, termasuk melalui sinyal teknis dari standar industri maupun pengungkapan dari pengguna.

Influencer AI Palsu Makin Sulit Dibedakan dari Manusia

Kemunculan kebijakan baru ini tidak terlepas dari perkembangan teknologi generatif yang semakin mampu menghasilkan wajah, foto, video, dan karakter digital dengan tampilan sangat realistis.

Influencer AI kini dapat dibuat dengan tampilan, gaya hidup, serta aktivitas media sosial yang menyerupai kreator manusia. Kondisi tersebut membuat pengguna semakin sulit mengetahui apakah sosok yang mereka lihat benar-benar manusia atau karakter sintetis.

Fenomena tersebut juga mulai menarik perhatian karena sejumlah profil AI digunakan untuk mempromosikan produk dan layanan. Dalam beberapa kasus, pengguna dapat mengira mereka sedang mengikuti kreator manusia biasa.

Sejumlah investigasi media internasional sebelumnya juga menemukan keberadaan jaringan influencer yang diduga dibuat menggunakan AI. Beberapa di antaranya digunakan untuk mempromosikan aplikasi dan merek tertentu melalui media sosial.

Selain persoalan promosi, keberadaan influencer AI juga menimbulkan kekhawatiran ketika karakter tersebut membagikan informasi yang terlihat meyakinkan tetapi tidak memiliki dasar keahlian yang sebenarnya.

The New York Times, sebagaimana disebut dalam laporan sumber utama, bahkan menemukan ratusan influencer AI yang membagikan konten kesehatan. Sebagian karakter tersebut mengaku sebagai dokter, meskipun sebenarnya merupakan sosok buatan AI.

Masalah ini menjadi semakin rumit karena konten semacam itu tidak selalu secara langsung melanggar aturan platform. Namun, keberadaannya tetap dapat meningkatkan risiko misinformasi, terutama ketika pengguna tidak mengetahui bahwa sosok yang memberikan informasi tersebut bukan manusia nyata.

Dengan label “AI generated profile”, Instagram berupaya memberikan informasi yang lebih jelas sejak awal. Pengguna diharapkan dapat mengetahui bahwa sosok yang ditampilkan merupakan karakter buatan AI sebelum mengikuti akun, berinteraksi dengan kontennya, atau mempercayai informasi yang dibagikan.

Bagi kreator, aturan tersebut juga memberikan batas yang lebih jelas mengenai penggunaan karakter AI. Penggunaan AI tetap diperbolehkan, tetapi transparansi mengenai identitas profil menjadi hal yang semakin penting ketika karakter buatan tersebut dibuat menyerupai manusia nyata.

Meta sendiri sebelumnya telah menjelaskan bahwa pelabelan konten AI merupakan bagian dari upaya memberikan konteks kepada pengguna. Perusahaan tersebut menyatakan bahwa transparansi diperlukan agar orang dapat memahami ketika melihat konten yang dibuat menggunakan AI.

Di tengah perkembangan teknologi yang membuat konten sintetis semakin realistis, perubahan label Instagram ini menjadi salah satu langkah untuk membedakan profil manusia dengan karakter digital. Bagi akun yang menggunakan sosok AI sebagai identitas utama, tidak mencantumkan informasi tersebut kini dapat berdampak langsung terhadap jangkauan konten di Instagram.

Referensi:
Detik.com