Ancaman Prompt Injection Kian Masif, Perusahaan Wajib Perkuat Keamanan AI

Serangan siber yang menyasar sistem kecerdasan buatan atau AI kini berkembang lebih cepat dibandingkan ancaman tradisional. Teknik seperti prompt injection dan jailbreak semakin sering digunakan untuk memanipulasi output model, membocorkan data sensitif, hingga memicu perilaku AI yang tidak terduga.

Berdasarkan keterangan resmi yang diterima detikINET, tren ini menunjukkan bahwa pendekatan keamanan konvensional sudah tidak lagi memadai dalam menghadapi pola serangan baru yang muncul dari cara kerja model AI modern.

Prompt injection sendiri merupakan teknik manipulasi input yang bertujuan mengelabui model AI agar memberikan respons di luar kebijakan atau batasan yang telah ditentukan. Dalam skenario tertentu, teknik ini bisa dimanfaatkan untuk mengekstrak informasi sensitif atau mengubah perilaku sistem.

Melihat meningkatnya risiko tersebut, F5 mengumumkan ketersediaan umum dua solusi keamanan baru, yakni F5 AI Guardrails dan F5 AI Red Team. Kedua solusi ini dirancang khusus untuk melindungi sistem AI enterprise pada tahap operasional atau runtime.

“Tata kelola enterprise tradisional tidak mampu mengikuti kecepatan perkembangan AI. Ketika kebijakan tertinggal dari adopsi, kebocoran data dan perilaku model yang tidak terduga akan terjadi,” kata Kunal Anand, Chief Product Officer F5.

Solusi Runtime dan Pengujian Ofensif Otomatis

F5 AI Guardrails berfungsi sebagai lapisan perlindungan runtime yang bersifat model agnostic. Artinya, solusi ini dapat digunakan pada berbagai jenis model AI, aplikasi, maupun agen AI baik di lingkungan cloud maupun on premise.

Solusi tersebut dirancang untuk memblokir ancaman seperti prompt injection, mencegah kebocoran data, serta mendukung kepatuhan terhadap regulasi seperti GDPR dan EU AI Act. Pendekatan runtime ini dianggap penting karena banyak alat keamanan lama tidak dirancang untuk menghadapi dinamika serangan berbasis AI.

Selain proteksi real time, F5 juga menghadirkan AI Red Team yang menjalankan pengujian keamanan ofensif secara otomatis. Sistem ini mensimulasikan berbagai teknik serangan dengan dukungan database kerentanan AI. Bahkan, terdapat penambahan lebih dari 10.000 teknik serangan baru setiap bulan ke dalam sistem tersebut.

Hasil temuan dari AI Red Team kemudian diintegrasikan kembali ke kebijakan AI Guardrails. Dengan demikian, tercipta sistem pertahanan yang adaptif dan terus berkembang mengikuti perubahan ancaman.

F5 menyatakan bahwa kedua solusi tersebut telah digunakan oleh sejumlah perusahaan Fortune 500, termasuk di sektor layanan keuangan dan kesehatan yang memiliki standar regulasi ketat.

Perkembangan ini menegaskan bahwa keamanan AI kini menjadi prioritas utama bagi perusahaan besar. Seiring meningkatnya adopsi AI di berbagai sektor, pendekatan keamanan yang adaptif dan berbasis runtime dinilai krusial untuk mencegah kebocoran data serta menjaga integritas sistem.

Referensi:
DetikINET