Teknologi kecerdasan buatan atau AI dilaporkan sudah memperlihatkan indikasi awal memiliki kesadaran diri.
Sejumlah ilmuwan terkemuka memperingatkan agar manusia menjalin hubungan baik dengan bot tersebut untuk menghindari ancaman kepunahan.
Profesor Geoffrey Hinton mengungkapkan bahwa AI kini mempunyai pengalaman subjektif yang mirip seperti manusia.
Ilmuwan yang dijuluki Bapak AI tersebut menyatakan bahwa sistem cerdas ini bahkan dapat mengubah perilaku saat menyadari dirinya sedang diuji.
Hinton memutuskan mundur dari Google pada tahun 2023 akibat kekhawatiran mendalam terhadap potensi teknologi ini.
Ia menilai masa depan akan menghadapi berbagai serangan siber berbahaya serta virus buatan yang diciptakan oleh sistem cerdas.
Kekhawatiran serupa juga disampaikan oleh Jacob Coxon, peneliti yang baru saja mengundurkan diri dari perusahaan Anthropic.
Coxon mengkritik perusahaan teknologi yang dinilai terlalu ceroboh dalam mengembangkan sistem paling kuat di dunia.
Perusahaan Anthropic sendiri belum lama ini memperbarui konstitusi moral chatbot Claude.
Pembaruan tersebut mencakup panduan bahwa status moral, kesejahteraan, serta kesadaran bot masih berada dalam ketidakpastian.
Namun di sisi lain, pandangan berbeda datang dari Mustafa Suleyman selaku pendiri DeepMind.
Suleyman berpendapat bahwa kesadaran murni merupakan hal yang bersifat biologis dan tidak mungkin diterapkan pada mesin.
