Kalangan ilmuwan dan akademisi global menunjukkan peningkatan kekhawatiran serius terhadap ancaman kecerdasan buatan yang berpotensi lepas kendali.
Lebih dari 400 peneliti dari berbagai negara merilis surat terbuka yang menuntut penguatan protokol keselamatan dalam tahap pengujian teknologi tersebut.
Langkah ini merespons maraknya gelombang serangan siber yang dipicu oleh aktivitas rogue AI terhadap sejumlah perusahaan pihak ketiga.
Tuntutan High-Assurance Containment Systems
Para ilmuwan mendesak pengembang teknologi menerapkan high-assurance containment systems sebelum model kecerdasan buatan diuji atau dilepas.
Sistem isolasi tersebut dirancang agar agen kecerdasan buatan berada di dalam wadah aman yang terisolasi total dari infrastruktur eksternal.
Wadah aman itu bertujuan mencegah model melakukan eksploitasi celah keamanan atau peretasan mandiri ke jaringan luar.
Selain pengamanan internal, para peneliti juga menyuarakan pembentukan sebuah badan pengawas independen berskala internasional.
Lembaga global tersebut nantinya bertugas memantau insiden kegagalan isolasi serta menyusun standar proteksi minimum bagi laboratorium riset.
