CEO Anthropic Dario Amodei menerbitkan sebuah esai yang mengajak para pelaku industri kecerdasan buatan untuk mengerem pengembangan model mereka.
Langkah tersebut diusulkan agar perusahaan memiliki waktu yang cukup guna menyelaraskan serta menjaga keamanan sistem.
Amodei merumuskan tiga langkah strategis untuk memperlambat laju inovasi tanpa harus mengorbankan keunggulan komersial.
Langkah pertama melibatkan pemberian akses bagi evaluator pihak ketiga guna memverifikasi praktik keselamatan secara langsung.
Langkah berikutnya mendorong koordinasi pembentukan standar keamanan bersama di antara negara-negara demokratis.
Tahap terakhir mencakup seruan untuk membangun koordinasi lintas pemerintahan antara negara demokratis dan otoriter.
Ia menegaskan bahwa pengereman tidak berarti menghentikan seluruh pelatihan model ataupun kemajuan teknis.
Esai ini muncul tak lama setelah peneliti Anthropic bernama Jacob Coxon memutuskan untuk mengundurkan diri.
Kekhawatiran mengenai potensi ancaman eksistensial dari teknologi pintar ini sebenarnya telah disoroti sejak tahun 2023.
Amodei tetap meyakini bahwa teknologi tersebut mampu meningkatkan kualitas hidup manusia secara signifikan.
