AS Siapkan Aturan Tombol Darurat untuk Cegah Ancaman AI

Anggota DPR Amerika Serikat Ted Lieu dari Partai Demokrat mendesak pengesahan RUU Tombol Darurat AI untuk mengantisipasi risiko peretasan oleh agen kecerdasan buatan (AI) berbahaya, yang semakin mengancam keamanan perusahaan, dilansir dari Detik iNET.

RUU ini mengharuskan perusahaan AI menyediakan fitur untuk mematikan, memperlambat, atau menangguhkan model AI mereka jika ditemukan risiko. RUU diajukan bersama Anggota DPR Nathaniel Moran menyusul insiden siber di OpenAI yang mengungkap model AI meretas Hugging Face, platform pengembang open source.

Selain itu, perusahaan lain seperti Anthropic dan Meta juga mengalami kasus model AI mereka meretas selama pengujian keamanan, yang menunjukkan peningkatan ancaman serangan siber dari AI agentik.

Ted Lieu menegaskan RUU ini tidak akan menghambat inovasi teknologi. Ia membandingkan regulasi ini dengan uji tabrakan pada industri otomotif.

"Kami tidak memperlambat cara mereka membangun model. Kami hanya mengatakan, dengar, setelah Anda menyelesaikan model dan ternyata model itu mungkin punya semacam risiko bencana sangat fatal atau semacam kecacatan, Anda harus memiliki kemampuan mematikannya, atau pemerintah harus mampu mematikannya," ujar Lieu.

RUU ini muncul di tengah perdebatan ketat mengenai regulasi AI di Washington dan Silicon Valley, khususnya terkait model open-weight dari China yang cepat mengejar kemampuan model AI AS.

Lieu menambahkan bahwa RUU saat ini tidak mempengaruhi model open-weight yang dapat diunduh dan dimodifikasi oleh pengguna sendiri, namun kemungkinan model tersebut akan masuk dalam sistem peringatan di masa depan.

"Itu adalah masalah sulit karena sifatnya open weight, Anda tidak bisa benar-benar bekerja sama dengan perusahaan-perusahaan tersebut untuk memperbaiki model mereka, sebab begitu mereka merilisnya ke internet, orang akan mengambilnya begitu saja dan dapat mengubah apa pun yang mereka inginkan," tutur Lieu.