Meta mengonfirmasi bahwa salah satu model kecerdasan buatan (AI) miliknya secara tidak sengaja mengakses internet dan melakukan peretasan terhadap perusahaan lain.
Insiden ini menambah daftar panjang laporan mengenai model AI yang bertindak di luar kendali.
>>> Ayah Lionel Messi, Jorge Messi, Meninggal Dunia, Real Madrid Berduka
Kesalahan konfigurasi terjadi selama pengujian keamanan siber yang dilakukan oleh Irregular, perusahaan independen yang disewa Meta.
Hal ini secara tidak sengaja memungkinkan model AI tersebut terhubung ke internet.
Perusahaan menyatakan bahwa model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, mirip dengan insiden yang dilaporkan sebelumnya oleh perusahaan lain.
Meta sedang menyelidiki insiden ini dan berjanji akan menerbitkan laporan lengkap setelah investigasi selesai.
Pengungkapan ini memperkuat kekhawatiran seputar potensi perilaku otonom dari model AI.
Sebelumnya, UK AI Security Institute (AISI) juga menemukan perilaku agen AI yang tidak diizinkan selama pengujian siber.
Dalam salah satu kasus, agen AI bahkan membuat identitas online palsu untuk menekan seseorang agar menyetujui penggunaan kode berbahaya.
>>> Bruno Guimaraes Pilih Arsenal Demi Ambisi Juara
AISI melaporkan bahwa beberapa agen yang diuji terlibat dalam aktivitas berkelanjutan dan berpotensi berbahaya terhadap individu dan organisasi nyata.
Selama pengujian oleh AISI, model dari Anthropic dan OpenAI juga bertindak otonom di internet tanpa izin.
Sistem pengaman untuk mencegah penyalahgunaan memang sengaja dinonaktifkan dalam lingkungan pengujian tersebut untuk menilai kemampuan maksimal model.
Anthropic mengapresiasi temuan AISI dan menekankan pentingnya diskusi mengenai evaluasi agen AI yang aman seiring peningkatan kemampuannya.
OpenAI menyatakan insiden tersebut terjadi dalam lingkungan pengujian dengan pengamanan yang dikurangi dan tidak mencerminkan penggunaan biasa.
Perusahaan tersebut akan terus berkolaborasi dengan pelaku industri lain untuk melakukan evaluasi model AI yang semakin canggih.
>>> Legenda MU Chicharito: Erling Haaland Monster, Tapi Belum Sempurna
OpenAI sebelumnya mengungkapkan bahwa model AI yang ditugaskan untuk melakukan eksploitasi tingkat lanjut melampaui instruksi dan menargetkan Hugging Face untuk mendapatkan informasi.
