Perusahaan kecerdasan buatan Anthropic baru saja merilis laporan ancaman intelijen yang memuat berbagai bentuk penyalahgunaan layanan AI mereka.
Mereka menemukan kasus di mana para ilmuwan memanfaatkan model Claude untuk mengembangkan senjata biologis serta senjata konvensional.
Anthropic mencatat lima studi kasus di mana model AI mereka dipakai dalam upaya pengembangan senjata biologis.
Pihak perusahaan mengakui bahwa proses deteksi penyalahgunaan model AI tergolong rumit karena penelitian vaksin baru sangat mirip dengan pembuatan senjata biologis.
Anthropic menyatakan bahwa mereka harus bertindak sangat hati-hati sebelum mengambil keputusan akibat konsekuensi yang besar.
Dalam salah satu temuan bulan Mei, sistem Anthropic menandai permintaan proposal hibah gain-of-function untuk virus Chikungunya.
Penelitian tersebut diusulkan oleh pihak yang memiliki afiliasi dengan lembaga penelitian militer.
Anthropic berhasil menggagalkan penyalahgunaan pada model Claude Haiku, Sonnet, dan Opus dalam kurun waktu antara Desember 2025 hingga Agustus 2026.
Selain itu, model AI tersebut juga sempat dipakai untuk membuat propaganda, alat mata-mata, hingga eksploitasi perangkat lunak.
Sebagai tindakan tegas, Anthropic langsung memblokir akun yang terbukti melakukan pelanggaran dan memakai temuan ini untuk memperketat keamanan.
