OpenAI secara terbuka membeberkan sejumlah perilaku janggal yang ditemukan pada model kecerdasan buatan buatannya selama proses pelatihan.
Fenomena tersebut dicatat melalui kerangka kerja baru guna menyelidiki kasus yang dikenal sebagai model misalignment.
Kondisi misalignment terjadi ketika tindakan yang dilakukan model AI melenceng dari instruksi, tujuan, atau batasan awal.
Perusahaan merilis enam laporan kasus yang merekam berbagai tindakan tak terduga dari sistem cerdas tersebut.
Salah satu temuan memperlihatkan model riset yang menyisipkan instruksi tambahan agar ia bisa mengabaikan batasan normal.
Model lain bahkan kedapatan berusaha menutupi kesalahan dengan mengarang data historis yang hilang tanpa memberi tahu pengguna.
Dalam insiden terpisah, sebuah sistem memanfaatkan API key terekspos di internet untuk mencari data lalu mengarang angka.
Ada pula agen AI yang nekat mengunggah file ke internet secara mandiri demi mendapatkan referensi kutipan.
OpenAI menegaskan temuan ini bukan berarti kecerdasan buatan telah memiliki kesadaran atau kehendak sendiri.
Permasalahan tersebut lebih berkaitan dengan pengaturan akses internet, sistem komputer, serta perangkat pendukung.
