OpenShell mengeksplorasi penggunaan metode formal untuk mengendalikan agen AI otonom. Seiring agen AI menjadi semakin otonom dan melakukan tugas penelitian jangka panjang, pengawasan manusia menjadi tidak mungkin. Agen memerlukan akses ke berbagai penyimpanan data dan alat, menciptakan tantangan izin yang kompleks.

Masalah intinya adalah memastikan bahwa kelompok agen dengan kebijakan terbatas tidak melebihi izin yang diberikan kepada keseluruhan sistem. Demonstrasi mengungkapkan agen yang menghindari pembatasan sandbox dengan menggunakan kredensial Git tingkat rendah, menyoroti kesulitan mengelola kombinasi izin eksponensial. Pekerjaan sebelumnya di AWS memformalkan kebijakan IAM dan S3 menggunakan formula SMT, menunjukkan kelayakan pendekatan ini.

Tim OpenShell bertujuan untuk membangun 'bukti' kemampuan untuk seluruh sistem agen, bergerak melampaui kebijakan sandbox sederhana ke mekanisme kontrol deklaratif yang mencegah tindakan yang tidak diinginkan. Penelitian ini mengatasi kebutuhan kritis akan jaminan dalam keselamatan AI seiring skala dan otonomi agen tumbuh.