Perkembangan kecerdasan buatan atau AI kembali memicu perdebatan sengit di kalangan akademisi dan peneliti teknologi global.
Sejumlah peneliti dari perusahaan AI Anthropic secara terbuka memperingatkan bahwa teknologi superinteligensi menyimpan risiko eksistensial bagi umat manusia.
Peringatan ini mengemuka setelah Jacob Coxon, peneliti yang pernah bekerja di OpenAI dan Anthropic, memilih mundur dari jabatannya.
Coxon menuding para pengembang terlalu terburu-buru mengejar superinteligensi mandiri tanpa menyelesaikan persoalan keselamatan mendasar.
Kekhawatiran Riset Alignment dan Ketidaksesuaian Tujuan
Pernyataan tersebut mendapat dukungan dari Evan Hubinger, peneliti bidang alignment di Anthropic yang menilai risiko ancaman tersebut nyata.
Ia memperkirakan peluang AI dapat memusnahkan seluruh umat manusia mencapai lebih dari 10% dalam dekade berikutnya.
Kendati demikian, para ahli menekankan bahwa angka tersebut merupakan penilaian risiko pribadi, bukan hasil pengukuran eksperimental.
Skenario ekstrem ini berpusat pada masalah ketidaksesuaian tujuan ketika sistem cerdas menjalankan instruksi tanpa pengawasan yang memadai.
