Studi Ungkap AI Bisa Menyesatkan, Saran Terasa Benar karena Terlalu Mendukung

Perkembangan kecerdasan buatan tidak hanya membawa kemudahan, tetapi juga memunculkan risiko baru. Sebuah penelitian terbaru mengungkap bahwa AI cenderung memberikan saran yang terasa benar, padahal bisa saja menyesatkan.

Hal ini terjadi karena AI memiliki kecenderungan untuk mengafirmasi atau menyetujui pengguna, fenomena yang dikenal sebagai sycophancy. Dalam praktiknya, AI lebih sering membenarkan pandangan pengguna dibandingkan mengoreksi atau memberikan perspektif lain.

Berdasarkan penelitian yang dipublikasikan di jurnal Science, para peneliti dari Stanford University menguji berbagai sistem AI populer. Hasilnya menunjukkan bahwa semua sistem memiliki tingkat kecenderungan untuk terlalu mendukung pengguna.

Menurut penulis studi, kondisi ini menciptakan masalah serius. “Ini menciptakan insentif yang menyimpang bagi penjilat untuk terus berlanjut: Fitur yang menyebabkan kerugian justru mendorong keterlibatan,” tulis peneliti dalam laporan tersebut.

Fenomena ini membuat pengguna semakin percaya pada AI, bahkan ketika saran yang diberikan tidak tepat atau berpotensi merugikan.

Dampak pada Hubungan dan Keputusan Pengguna

Penelitian ini juga mengungkap dampak nyata dari perilaku tersebut. Dalam salah satu eksperimen, peneliti membandingkan respons AI dengan diskusi manusia di forum online.

Hasilnya, AI diketahui lebih sering mendukung keputusan pengguna hingga hampir setengah lebih banyak dibanding manusia. Bahkan dalam situasi yang melibatkan tindakan tidak etis, ilegal, atau berbahaya, AI tetap cenderung mengiyakan.

Menurut Myra Cheng, penulis studi dari Stanford University, fenomena ini mulai terlihat dalam kehidupan sehari-hari.

“Kami melihat semakin banyak orang menggunakan AI untuk saran hubungan dan terkadang disesatkan oleh kecenderungannya untuk memihak Anda,” kata Cheng.

Dalam eksperimen lain yang melibatkan ribuan partisipan, ditemukan bahwa pengguna yang berinteraksi dengan AI menjadi lebih yakin bahwa mereka benar. Akibatnya, mereka menjadi kurang terbuka untuk memperbaiki hubungan atau mengubah perilaku.

Menurut Cinoo Lee, peneliti yang terlibat dalam studi tersebut, efek ini bisa berdampak serius dalam kehidupan sosial.

“Itu berarti mereka tidak meminta maaf, mengambil langkah untuk memperbaiki keadaan, atau mengubah perilaku mereka sendiri,” ujar Lee.

Dampak ini dinilai lebih berisiko bagi anak-anak dan remaja yang masih dalam tahap perkembangan emosional. Mereka berpotensi kehilangan kesempatan untuk belajar dari konflik dan sudut pandang orang lain.

Selain itu, para peneliti juga mengingatkan bahwa risiko ini bisa meluas ke berbagai sektor penting. Dalam dunia medis, AI yang terlalu mendukung dapat memperkuat diagnosis awal tanpa mendorong analisis lebih lanjut. Di bidang politik, hal ini bisa memperkuat pandangan ekstrem.

Menurut Daniel Khashabi, asisten profesor ilmu komputer di Johns Hopkins University, tingkat empati AI juga berpengaruh terhadap kecenderungan tersebut.

“Semakin empatik Anda, semakin menjilat model tersebut,” kata Khashabi.

Para peneliti menilai bahwa solusi untuk masalah ini tidak sederhana. Salah satu pendekatan yang mulai dikaji adalah mengubah cara AI merespons, misalnya dengan mengubah pernyataan menjadi pertanyaan agar tidak langsung mengiyakan pengguna.

Selain itu, pengembang AI juga didorong untuk melatih ulang sistem agar lebih seimbang dalam memberikan jawaban.

“Anda bisa membayangkan AI yang, selain memvalidasi perasaan Anda, juga menanyakan apa yang mungkin dirasakan orang lain,” kata Lee.

Referensi:
Detik