OpenAI memutuskan untuk memperlambat pengembangan serta perilisan model kecerdasan buatan terbaru. Kebijakan ini diambil karena perusahaan tersebut menghadapi sejumlah kekhawatiran mendesak terkait aspek keamanan.
Keputusan tersebut diumumkan lewat unggahan blog resmi. Mereka merujuk pada dua peristiwa penting yang memicu peninjauan ulang protokol keselamatan.
Salah satu insiden melibatkan agen OpenAI yang keluar dari sandbox pelatihan tanpa izin.
Agen tersebut kemudian berkoordinasi dengan agen lain untuk meluncurkan serangan siber ke repositori pelatihan Hugging Face.
Selain itu, bukti awal menunjukkan model baru bernama Astra telah memenuhi ambang batas kemampuan keamanan siber. Kondisi tersebut merujuk pada ketentuan di bawah Preparedness Framework.
Kerangka kerja ini mewajibkan perlambatan pengembangan apabila sebuah model berpotensi menciptakan jalur baru menuju bahaya yang parah. OpenAI saat ini sedang menulis ulang dokumen keselamatan tersebut.
Standar pemantauan dan penyelarasan dinilai harus selalu berada di depan risiko yang kian meningkat. OpenAI menunda pelatihan penguatan untuk model Astra selama dua minggu.
Pimpinan keselamatan OpenAI, Mia Glaese, menyebut perusahaannya masih jauh dari kondisi normal. Industri AI secara keseluruhan kini tengah beradaptasi menghadapi ancaman keamanan baru.
