Amazon Web Services merumuskan empat prinsip utama untuk mengamankan sistem kecerdasan buatan otonom atau agentic AI.
Sistem ini memanfaatkan Large Language Models sebagai mesin penalaran yang terhubung langsung ke basis data.
Karakteristik tersebut memunculkan risiko baru di mana tindakan tidak disengaja dapat terjadi sebelum intervensi manusia.
Kerangka Kerja dan Blok Bangunan Keamanan AWS
AWS menegaskan bahwa keamanan AI agentic memerlukan perluasan dari kerangka kerja keamanan tradisional yang ada.
Prinsip pertama adalah SDLC menyeluruh yang menggabungkan pengujian perangkat lunak standar dengan evaluasi adversarial.
Prinsip kedua melibatkan penegakan kontrol keamanan tradisional seperti pencegahan pembajakan sesi dan mitigasi rantai pasok.
Prinsip ketiga adalah kontrol eksternal deterministik karena model bahasa besar bersifat probabilistik.
Prinsip keempat menerapkan otonomi berbasis evaluasi berkelanjutan yang diberikan secara bertahap kepada sistem.
