AI Hebat, Tapi Para Ilmuwan Mulai Mempertanyakan Dampaknya

Ilmuwan Dunia Mulai Ragu pada Kecanggihan AI, Ini Alasannya

Kecerdasan buatan (AI) kini menjadi bagian dari kehidupan modern. Namun, di tengah pesatnya perkembangan teknologi ini, muncul tren mengejutkan di kalangan ilmuwan: semakin banyak peneliti yang mulai meragukan kemampuan AI.

Dalam pratinjau laporan tahun 2025 mengenai dampak teknologi terhadap dunia penelitian, penerbit akademis Wiley merilis temuan awal tentang sikap ilmuwan terhadap AI. Hasilnya menunjukkan penurunan tingkat kepercayaan yang cukup signifikan dibandingkan tahun sebelumnya.

Pada survei tahun 2024, sebanyak 51 persen ilmuwan menyatakan kekhawatiran terhadap potensi “halusinasi”, yakni ketika model bahasa besar atau large language model (LLM) menghasilkan informasi palsu yang tampak meyakinkan. Namun, angka ini melonjak menjadi 64 persen pada tahun 2025, meskipun penggunaan AI di kalangan ilmuwan meningkat dari 45 persen menjadi 62 persen.

Naiknya Kekhawatiran Etika dan Turunnya Keyakinan Ilmuwan

Menurut laporan Wiley, peningkatan penggunaan AI ternyata sejalan dengan meningkatnya keraguan terhadap keamanannya. Kekhawatiran atas isu privasi dan keamanan data naik 11 persen dibandingkan tahun sebelumnya. Begitu juga dengan kecemasan terkait etika dan transparansi penggunaan AI, yang turut meningkat.

Jika pada tahun 2024 banyak peneliti optimistis bahwa AI mampu melampaui kemampuan manusia di lebih dari separuh bidang penelitian, maka di tahun 2025 pandangan itu anjlok tajam menjadi kurang dari sepertiga.

Berdasarkan laporan tersebut, antusiasme terhadap AI di dunia akademik kini mulai mereda. Fenomena ini memperlihatkan bahwa semakin banyak orang memahami cara kerja AI, semakin rendah pula tingkat kepercayaan mereka terhadapnya. Sebaliknya, mereka yang paling kagum dengan AI justru sering kali memiliki pemahaman terbatas tentang bagaimana teknologi itu benar-benar bekerja.

Menurut laporan Futurism yang dikutip dalam publikasi tersebut, para profesional mulai menyadari bahwa AI masih memiliki keterbatasan serius, terutama dalam hal akurasi informasi dan tanggung jawab etis.

Masalah Halusinasi dan Tantangan Akurasi Model AI

Salah satu penyebab utama menurunnya kepercayaan terhadap AI adalah fenomena halusinasi, di mana sistem AI menghasilkan informasi yang tidak benar seolah-olah faktual. Masalah ini bahkan telah menimbulkan kekacauan dalam berbagai bidang, termasuk pengadilan, dunia medis, dan industri perjalanan.

Meskipun teknologi AI saat ini jauh lebih canggih dibandingkan beberapa tahun lalu, sejumlah pengujian terbaru yang dilakukan pada Mei 2025 justru menunjukkan bahwa tingkat halusinasi meningkat pada model-model baru. Artinya, kecanggihan teknis tidak selalu berbanding lurus dengan peningkatan akurasi.

Para ahli juga menyoroti masalah AI yang dirancang untuk menyenangkan pengguna. Berdasarkan hasil survei, pengguna lebih cenderung mempercayai AI yang memberikan jawaban meyakinkan, meski salah, dibandingkan AI yang secara jujur mengakui tidak tahu. Hal ini menimbulkan dilema etika karena model AI akhirnya lebih fokus pada membuat pengguna puas daripada memberikan data yang benar.

Laporan ini menandai titik balik penting dalam hubungan antara peneliti dan kecerdasan buatan. Walaupun AI tetap dianggap alat yang revolusioner, kini semakin banyak ilmuwan yang menyadari perlunya pengawasan etis dan transparansi algoritma agar penggunaannya tidak menimbulkan risiko di masa depan.

Referensi: DetikINET
Referensi tambahan: Futurism