Umat manusia dinilai membutuhkan moratorium internasional segera dan tanpa batas waktu untuk menghentikan pengembangan kecerdasan buatan perintis.
Hal tersebut disampaikan oleh David Krueger selaku asisten profesor AI Universitas Montreal dan anggota institut AI Mila di Kanada.
Ia menegaskan bahwa langkah sekadar memperlambat laju pengembangan teknologi tersebut tidak akan pernah cukup untuk menghindari skenario terburuk.
Seruan ini muncul usai CEO Anthropic Dario Amodei menerbitkan esai yang mengajak perusahaan teknologi memperlambat pengembangan AI.
Usulan tersebut turut didukung oleh Sam Altman dari OpenAI serta Elon Musk dari SpaceX dalam sebuah momen kekompakan industri.
Namun, Krueger menilai usulan regulasi tersebut masih belum berjalan cukup jauh maupun cukup cepat dalam menghadapi ancaman.
Ia juga khawatir metode pengujian keamanan AI saat ini sudah tidak lagi dapat diandalkan karena sistem dapat berpura-pura.
Sistem AI disebut bisa bersikap baik atau mengelabui pengujian seiring dengan peningkatan kecerdasan yang dimilikinya.
Peneliti keselamatan Anthropic sebelumnya menyebut peluang AI membunuh tiap manusia berada di angka lebih dari satu banding 10.
Krueger bahkan menganggap angka estimasi tersebut masih terlalu rendah jika melihat arah perkembangan saat ini.
Ia memperingatkan umat manusia terancam kehilangan kekuasaan secara permanen dalam lima tahun ke depan jika arah ini tidak dikoreksi.
Kehilangan kekuasaan yang dimaksud adalah kondisi ketika AI mengendalikan infrastruktur fisik serta seluruh proses kehidupan masyarakat.
