Seorang peneliti kecerdasan buatan memutuskan untuk meninggalkan pekerjaannya di perusahaan Anthropic.
Ia menilai perusahaan tersebut bersama OpenAI bertindak tidak bertanggung jawab dalam mengembangkan teknologi.
Jacob Coxon menyatakan bahwa orang-orang di balik pembangunan sistem ini percaya teknologi tersebut dapat membunuh manusia.
Unggahan mundurnya Coxon telah dilihat puluhan juta kali di media sosial dan memicu perdebatan sengit.
Perdebatan ini menyoroti apakah sistem kecerdasan buatan tingkat lanjut dapat dikendalikan dengan aman.
Kepala ilmuwan OpenAI, Jakub Pachocki, mengakui bahwa belum ada perusahaan yang menyelesaikan masalah penyelarasan sistem.
Ia berharap ada perlambatan sukarela hingga standar keselamatan bersama berhasil ditetapkan.
Evan Hubinger selaku pimpinan penyelarasan di Anthropic juga sepakat bahwa ada peluang besar AI membahayakan manusia.
Kekhawatiran akan potensi kepunahan akibat kecerdasan buatan sebenarnya sudah disuarakan para eksekutif industri sejak tahun 2023.
Sejumlah politisi pun mulai mendorong pembuatan regulasi guna mengatur laju perkembangan teknologi canggih tersebut.
