CEO Microsoft Satya Nadella mengungkapkan pandangannya terkait risiko kecerdasan buatan atau AI yang berpotensi lepas kendali.
Ia menilai teknologi tersebut memerlukan fitur khusus agar dapat dihentikan kapan saja oleh manusia.
Melalui sebuah unggahan di platform X, Nadella menyatakan bahwa AI tidak boleh dianggap sebagai sekumpulan kotak hitam yang hasilnya wajib diterima begitu saja.
Dirinya mendorong penciptaan sistem transparan agar model bisa diawasi secara ketat.
Menurutnya, pihak berwenang harus mempunyai kewenangan untuk mematikan sementara atau menghentikan operasional model di tengah tugas. Pendekatan ini dinilai penting demi mengantisipasi potensi ancaman dari teknologi tingkat lanjut.
Selain itu, Nadella merekomendasikan serangkaian mekanisme pengawasan seperti audit independen, pengujian sistem secara berkelanjutan, hingga penahanan model. Langkah tersebut bertujuan meningkatkan aspek keamanan sebelum teknologi berkembang lebih jauh.
