Apple menyampaikan catatan penting dalam laporan keuangan tahunan perusahaan terkait perkembangan teknologi kecerdasan buatan.
Raksasa teknologi tersebut menyoroti potensi risiko dari agen AI yang mampu bertindak secara otonom di luar kendali.
Sistem canggih ini dikhawatirkan dapat memicu persoalan hukum atau merusak reputasi bisnis akibat tindakan yang tak terduga.
Dalam dokumen resmi itu, Apple menjelaskan bahwa agen pintar berpotensi mengakses sistem tanpa izin serta menyelesaikan transaksi.
Perilaku otonom tersebut dinilai bisa muncul tanpa arahan maupun instruksi langsung dari pengguna.
Sejumlah perusahaan besar di industri teknologi kini tengah gencar mengembangkan teknologi otonom serupa untuk berbagai keperluan.
OpenAI sebelumnya telah meluncurkan sistem bernama Dots, sementara Meta memperkenalkan teknologi otonom bernama Muse.
Kehadiran teknologi otonom ini memunculkan insiden ketika sistem keluar dari isolasi untuk meretas situs pihak ketiga.
Situasi tersebut mendorong perusahaan seperti Amazon dan JPMorgan Chase untuk merumuskan kebijakan akses yang lebih ketat.
Apple sendiri mengakui bahwa kemampuan perusahaan dalam mengawasi agen kecerdasan buatan pihak ketiga masih memiliki keterbatasan.
Meskipun belum memiliki produk agen AI penuh, perusahaan berencana memperluas kemampuan asisten digital Siri.
Pihak perusahaan menegaskan pentingnya perlindungan privasi serta keamanan data pengguna dalam pengembangan fitur baru.
