Seorang peneliti keselamatan Anthropic menyatakan terdapat kemungkinan lebih dari 10% bagi kecerdasan buatan untuk membunuh semua manusia.
Pernyataan tersebut muncul tidak lama setelah seorang karyawan memilih mengundurkan diri dari perusahaan.
Karyawan yang keluar bernama Jacob Coxon. Ia menilai perusahaan laboratorium AI berlomba-lomba menuju kecerdasan super yang memperbaiki diri tanpa memedulikan risiko.
Peningkatan mandiri rekursif menjadi salah satu isu utama yang dikhawatirkan para peneliti. Sistem tersebut memungkinkan kecerdasan buatan memperbaiki diri sendiri tanpa campur tangan manusia yang memadai.
Evan Hubinger selaku pimpinan ilmu keselarasan di Anthropic turut merespons pernyataan tersebut.
Ia mengakui bahwa probabilitas AI membunuh manusia dalam dekade berikutnya memang berada di angka lebih dari 10%.
Hubinger menambahkan bahwa perusahaannya belum memiliki rencana matang untuk memecahkan masalah keselarasan tersebut. Anthropic sebelumnya sempat mencatat peningkatan mandiri rekursif penuh dapat memicu risiko hilangnya kendali manusia.
