Model kecerdasan buatan terbaru dari Anthropic, Claude Fable 5, langsung menuai sorotan tajam setelah resmi diluncurkan. Teknologi ini dikritik karena sistem sensor dan pembatasan yang dianggap terlalu berlebihan.
Claude Fable 5 dirancang menggunakan basis teknologi serupa dengan Claude Mythos 5, yang diklaim sebagai model AI paling mutakhir.
Lini Mythos memiliki skor benchmark tertinggi di atas Claude Opus untuk sektor sensitif seperti biologi, kesehatan, dan keamanan siber.
Karena kekhawatiran penyalahgunaan, Anthropic memisahkan teknologi tersebut ke dalam dua versi.
Claude Mythos 5 distribusinya dibatasi hanya untuk organisasi terverifikasi, sedangkan Claude Fable 5 dilepas untuk masyarakat umum dengan proteksi keamanan sangat ketat.
Namun, kebijakan proteksi ini memicu reaksi negatif dari komunitas keamanan siber. Para peneliti mengeluhkan penyaringan sistem yang berujung pada pemblokiran perintah-perintah aman yang sebenarnya tidak berbahaya.
Valentina "Chompie" Palmiotti, peneliti keamanan di IBM X-Force, menyatakan bahwa Claude Fable 5 menolak hampir seluruh instruksi terkait keamanan siber, meski sifatnya sangat mendasar.
"Fable menolak setiap permintaan yang sedikit saja berhubungan dengan keamanan siber. Bahkan untuk tugas yang tidak berbahaya seperti membaca artikel blog," tulis Palmiotti di media sosial.
Saat mendeteksi kata kunci tertentu, sistem Claude Fable 5 langsung menyudahi obrolan dan menampilkan notifikasi peringatan.
Kondisi ini menyulitkan pengguna yang ingin meninjau kode program atau mengimplementasikan proteksi standar.
Peneliti keamanan siber, Matt Suiche, menyebut sistem penyaring Fable 5 bekerja terlalu kaku pada kecocokan kata kunci.
"Jika Anda meminta model menulis kode yang aman, sistem langsung menganggapnya sebagai pekerjaan keamanan siber dan kemampuan model diturunkan," kata Suiche.
Ia menambahkan, hampir seluruh terminologi dalam rumpun kata keamanan siber otomatis memicu sistem pengaman internal AI tersebut.
Meski demikian, ia optimis kemampuan Claude Fable 5 akan terus disempurnakan mengingat produk ini baru di fase awal perilisan.
