Seorang wanita di Florida, Amerika Serikat, harus berurusan dengan pihak berwenang usai menulis rencana ancaman penembakan di chatbot kecerdasan buatan.
Pelaku memperlakukan platform AI Claude milik Anthropic layaknya buku harian pribadi miliknya.
Sistem keamanan internal Anthropic mendeteksi tulisan tersebut karena memuat konten berbahaya bertingkat tinggi.
Potongan ancaman itu kemudian diteruskan kepada peninjau manusia yang langsung melaporkannya ke aparat kepolisian.
Petugas Lee County Sheriff's Office langsung mendatangi kediaman pelaku bernama Carli Michelle Heller untuk melakukan penangkapan.
Kebijakan Darurat dan Privasi Pengguna AI
Anthropic menegaskan perusahaan mempunyai kebijakan untuk membagikan informasi pengguna kepada pihak berwenang dalam situasi darurat.
Langkah cepat ini dilakukan demi mencegah risiko kematian atau cedera fisik yang serius di tengah masyarakat.
Pelaku kini dijerat pasal ancaman kekerasan tertulis berdasarkan undang-undang yang berlaku di wilayah Florida.
