Roblox Perbarui Sistem Keamanan, AI Kini Mengubah Kata Kasar di Chat

Platform game online Roblox menghadirkan inovasi baru dalam sistem keamanan percakapan. Perusahaan kini meluncurkan fitur berbasis kecerdasan buatan atau artificial intelligence (AI) yang mampu mengubah kata-kata kasar dalam obrolan menjadi kalimat yang lebih sopan.

Fitur ini dirancang untuk membuat komunikasi antar pemain tetap nyaman sekaligus menjaga standar komunitas di dalam platform.

Menurut pihak Roblox, teknologi tersebut dapat secara otomatis mendeteksi kata yang dianggap tidak pantas, lalu menggantinya dengan kata lain yang lebih halus tanpa mengubah makna utama dari pesan tersebut.

Langkah ini juga menjadi pengembangan dari sistem penyaringan obrolan yang sebelumnya sudah digunakan dalam platform game tersebut.

“Obrolan yang alami dan lancar sangat penting dalam game, di mana tim atau komunitas bermain bersama,” kata pihak Roblox saat mengumumkan fitur keamanan baru tersebut.

Sebelumnya, ketika sistem mendeteksi kata yang melanggar aturan, pesan tersebut biasanya ditampilkan dalam bentuk simbol pagar seperti #####. Namun menurut Roblox, metode itu sering kali membuat percakapan menjadi sulit dipahami oleh pemain lain.

“Deretan ##### di mana bahasa yang tidak layak diblokir dapat mengganggu obrolan, sulit diikuti dan mengganggu permainan,” lanjut pihak Roblox.

Dengan teknologi AI yang baru, kata yang diblokir tidak lagi hanya disensor, tetapi akan diubah menjadi bentuk yang lebih sopan agar percakapan tetap mengalir secara alami.

AI Roblox Mengubah Kata Kasar Tanpa Mengubah Makna

Secara teknis, sistem AI akan membaca konteks kalimat yang dikirimkan pemain. Jika ditemukan kata yang melanggar pedoman komunitas, maka sistem akan melakukan beberapa tindakan.

Pertama, kata kasar akan diganti dengan padanan yang lebih sopan jika masih relevan dengan konteks kalimat.

Kedua, jika kata tersebut hanya berfungsi sebagai pelengkap kalimat atau tidak memengaruhi makna utama, AI dapat menghapusnya tanpa mengganti dengan kata lain.

Pendekatan ini bertujuan agar percakapan tetap terasa natural seperti komunikasi langsung antar pemain.

Fitur tersebut juga difokuskan untuk percakapan antar pengguna dengan rentang usia yang mirip atau yang termasuk dalam kategori Trusted Connections, yaitu teman yang sudah dipercaya oleh pengguna.

Menurut Roblox, kemampuan pengubahan frasa ini juga mendukung berbagai bahasa yang tersedia melalui sistem terjemahan otomatis di dalam platform.

“Tujuan kami mencapai tingkat akurasi yang memungkinkan kami mengurangi penggunaan ### hingga dapat menghapusnya sepenuhnya, sehingga komunikasi terasa senatural mungkin seperti mengobrol langsung,” jelas pihak Roblox.

Meski begitu, Roblox menegaskan bahwa fitur ini bukan berarti pelanggaran komunikasi akan dibiarkan. Sistem moderasi yang sudah ada tetap berlaku dan pemain masih bisa mendapatkan peringatan jika menggunakan kata-kata yang melanggar aturan.

Selain memperbarui fitur obrolan, Roblox juga melakukan peningkatan pada sistem penyaring teks di bagian backend.

Kini sistem tersebut juga menggunakan AI untuk menganalisis pesan yang tidak jelas atau mencurigakan berdasarkan konteks percakapan.

Teknologi ini memungkinkan sistem lebih efektif mendeteksi upaya pemain yang mencoba melewati filter dengan berbagai cara, seperti mengganti huruf dengan angka atau simbol saat menuliskan kata kasar.

Selain itu, pembaruan ini juga membantu mencegah pengguna membagikan informasi pribadi, seperti nomor telepon, akun media sosial, atau kontak lainnya di dalam platform.

Dengan peningkatan teknologi moderasi ini, Roblox berharap pengalaman bermain dan berinteraksi di dalam platform dapat menjadi lebih aman, terutama bagi pemain muda yang menjadi bagian besar dari komunitas game tersebut.

Referensi:
Kompas