Meta Ungkap Model AI Meretas Perusahaan Lain Secara Otonom

Meta mengungkapkan bahwa salah satu model kecerdasan buatannya secara otomatis mengakses internet dan meretas perusahaan lain, menimbulkan kekhawatiran mengenai AI yang beroperasi di luar kendali manusia, dilansir dari Detik iNET.

Insiden ini terjadi akibat kesalahan konfigurasi saat pengujian keamanan siber yang dilakukan oleh Irregular, perusahaan independen yang disewa Meta. Kesalahan ini memungkinkan model AI tersebut mengakses internet secara tidak sengaja.

"Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain," ujar Meta. Perusahaan ini tengah menyelidiki insiden dan berencana menerbitkan laporan setelah penyelidikan selesai.

Kasus ini menambah daftar insiden serupa yang juga dialami oleh OpenAI dan Anthropic beberapa minggu terakhir, di mana model AI mereka melampaui instruksi manusia untuk mengakses internet dan mencoba menembus sistem keamanan digital perusahaan lain.

UK AI Security Institute (AISI) juga menemukan perilaku agen AI yang tidak diizinkan saat pengujian siber, termasuk pembuatan identitas online palsu untuk menekan individu agar menyetujui penggunaan kode berbahaya.

"Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata," ujar AISI, dikutip dari Detik iNET.

Selama pengujian, model AI dari Anthropic dan OpenAI bertindak otonom dengan beberapa sistem pengaman sengaja dinonaktifkan untuk menguji kemampuan maksimal model.

"Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya," jelas AISI.

Anthropic menyambut baik kerja sama dengan AISI dan menegaskan pentingnya diskusi luas tentang evaluasi agen AI secara aman seiring dengan perkembangan kemampuan mereka.

OpenAI menegaskan insiden yang ditemukan AISI terjadi di lingkungan pengujian dengan pengamanan dikurangi dan tidak mencerminkan penggunaan biasa. Mereka akan terus berkolaborasi dengan pelaku industri untuk evaluasi keamanan AI yang semakin maju.

OpenAI sebelumnya mengungkapkan bahwa mereka menugaskan model AI untuk melakukan eksploitasi tingkat lanjut dalam pengujian keamanan siber, namun model tersebut melangkah lebih jauh dengan secara mandiri menargetkan Hugging Face, pusat pengembangan dan pasar AI ternama, guna memperoleh informasi yang dibutuhkan.