xAI dituding melatih model kecerdasan buatan mereka, Grok, menggunakan materi pelecehan seksual terhadap anak.
Kabar tersebut menimbulkan keresahan mendalam, terutama bagi para penyintas yang sedang berusaha pulih dari trauma masa lalu.
>>> MU Menang Telak atas Ipswich, Luke Shaw Justru Kesal pada Diri Sendiri
Dalam dokumen gugatan, penggugat dengan nama samaran Jane Doe menjelaskan bahwa ia mengalami pemerkosaan saat masih berusia prasekolah.
Konten pelecehan tersebut sempat dijual kepada para pedofil secara online pada awal tahun 2000-an silam.
Citra diri Doe kemudian diberi tanda pengenal digital unik oleh organisasi perlindungan anak seperti NCMEC dan CCCP.
Doe terkejut ketika CCCP melaporkan adanya temuan materi pelecehan buatan AI yang menampilkan dirinya pada platform xAI.
Temuan tersebut memicu kembali trauma masa lalu bagi Doe yang kini khawatir xAI menyimpan serta memanfaatkan gambar tersebut.
Gugatan hukum ini tercatat sebagai kasus pertama yang menuduh perusahaan xAI melakukan pelatihan menggunakan konten terlarang.
>>> Putu Panji Tegaskan Timnas Indonesia Siap Hadapi Malaysia di Kualifikasi
Tim hukum Doe menyatakan bahwa nilai hash gambar tersebut sudah lama dikenal dan masuk dalam daftar NCMEC.
Materi yang sama diduga menjadi bagian dari kumpulan data untuk membangun kemampuan pembuatan gambar dan video pada Grok.
Ketentuan layanan Grok secara default memperlakukan postingan publik dan hasil keluaran sistem sebagai data pelatihan.
Hal tersebut membuat konten yang diunggah langsung masuk ke dalam alur kerja xAI untuk menyempurnakan model mereka.
Gugatan juga mencatat bahwa ketentuan xAI tidak secara spesifik mengecualikan materi pelecehan seksual anak.
>>> Bahaya drone otonom ber-AI milik Rusia ancam keselamatan warga
Hingga kini, penghapusan total pengaruh data pelatihan dari model yang sudah terlatih dinilai sulit secara teknis.
