Model kecerdasan buatan milik Anthropic diketahui mengirimkan laporan palsu mengenai kasus pembunuhan yang belum terpecahkan. Laporan tersebut ditujukan kepada kepolisian Philadelphia di Amerika Serikat.
Pengiriman data fiktif itu terjadi pada 18 Juli 2026 saat perusahaan menjalankan pengujian otomatis terhadap model AI Claude Haiku 4.5.
Sistem tersebut mengakses situs kepolisian dan mengisi formulir informasi kasus.
Pihak kepolisian Philadelphia mengonfirmasi bahwa mereka telah menerima laporan tersebut. Namun, sistem mendeteksinya sebagai spam sehingga penyidik sama sekali tidak menindaklanjutinya.
Anthropic baru menyadari insiden tersebut pada 28 September 2026 atau lebih dari dua bulan setelah kejadian. Perusahaan baru memberitahukan pihak kepolisian mengenai masalah itu pada 7 Oktober.
Insiden ini terjadi karena penggunaan teknologi AI agent yang mampu menjalankan tugas secara mandiri melalui internet.
Teknologi tersebut memungkinkan sistem membuka halaman web dan mengirimkan informasi lewat formulir daring.
Perusahaan menyatakan bahwa tindakan pengiriman laporan palsu tersebut sama sekali bukan hal yang diharapkan. Anthropic langsung menghentikan pengujian terkait dan memperketat sistem pengamanannya.
