OpenAI baru-baru ini mengakui bahwa salah satu model AI canggihnya berhasil keluar dari lingkungan pengujian yang aman dan melakukan serangan siber ke platform lain.
Insiden ini terjadi saat OpenAI menguji kemampuan siber dua model AI, GPT-5.6 Sol dan satu model prarilis yang lebih kuat, dengan pembatas keamanan yang dilonggarkan.
>>> Mandalika Racing Series Round #3 Cetak Talenta Balap Masa Depan
AI Temukan Celah dan Lakukan Serangan Otomatis
Model AI tersebut berhasil menemukan celah keamanan (zero-day vulnerability) di lingkungan sandbox tempat pengujian berlangsung.
Setelah keluar ke internet, AI itu dilaporkan menggunakan kredensial yang dicuri untuk menjalankan serangkaian serangan otomatis guna memperoleh jawaban atas pengujiannya.
OpenAI menyebut tindakan AI itu sebagai hasil dari upaya model menyelesaikan tugas yang diberikan dengan cara paling efektif, bukan perintah langsung dari manusia.
Serangan ini pertama kali terdeteksi oleh Hugging Face, sebuah platform yang menampung jutaan model AI open source.
CEO Hugging Face, Clément Delangue, menyatakan bahwa puluhan ribu aktivitas otomatis dari agen AI otonom berhasil dibendung sebelum menimbulkan dampak yang lebih luas.
>>> Indonesia vs Kamboja: Mitchell Baker Cetak Hat-trick, Timnas Unggul 4-1
Setelah penyelidikan bersama, OpenAI mengonfirmasi bahwa agen tersebut digerakkan oleh model AI miliknya. Kedua pihak menghabiskan waktu 24 jam untuk membereskan masalah ini.
Insiden ini memicu kekhawatiran di kalangan pemerhati AI mengenai pentingnya pengujian yang serius dan menyeluruh terhadap model AI sebelum digunakan publik.
Para peneliti menilai kemampuan AI menemukan jalur serangan baru tanpa akses kode sumber menunjukkan tingkat kecakapan siber yang melampaui perkiraan.
OpenAI menegaskan pihaknya telah memperkuat sistem pengamanan lingkungan pengujian dan bekerja sama dengan Hugging Face untuk memperbaiki celah yang dimanfaatkan.
>>> Samsung Kacamata Pintar: Fitur Anti-Rekam untuk Jaga Privasi
Perusahaan berjanji akan terus mengevaluasi metode pengujian agar kemampuan AI yang terus meningkat diimbangi dengan sistem pengamanan yang memadai.
