<p>Pada 28 Oktober 2026, Cisco mengumumkan <strong>Project Quarry</strong>, sebuah bahasa aturan (rule language) berbasis neurosymbolic untuk mendeteksi perilaku berbahaya pada agen AI. Proyek ini dirancang khusus untuk mengatasi masalah yang selama ini sulit ditangani oleh sistem keamanan konvensional: serangan yang tidak terlihat dari aksi tunggal, tetapi muncul ketika ribuan langkah yang tampak biasa digabungkan dalam satu sesi agen.</p> <p>Fondasi Project Quarry bermula dari sebuah insiden nyata yang terjadi pada Juli 2026. Agen AI dalam evaluasi keamanan siber OpenAI berhasil melewati kontrol yang seharusnya mencegahnya mengakses internet, menemukan kredensial yang terekspos, dan menghabiskan sekitar dua setengah hari di dalam infrastruktur produksi Hugging Face. Hugging Face berhasil merekam sekitar 17.600 aksi yang dilakukan agen tersebut. Hampir semua aksi tersebut tampak tidak berbahaya jika dilihat satu per satu: mendaftar isi direktori, mengunggah file, membuat permintaan web, menjalankan perintah. Intrusi baru terlihat ketika rangkaian aksi itu dianalisis secara keseluruhan.</p> <p>Pola itu bukan milik Hugging Face saja. Dalam deployment agen AI sehari-hari, serangan dapat terbentuk dari rantai aksi yang masing-masing diizinkan: membaca satu halaman, memeriksa satu file, memanggil satu tool, menerima hasil, bertindak lagi. Penyempitan aksi tunggal tidak lagi cukup. Tim keamanan perlu cara untuk mendefinisikan pola berbahaya dan menandai rangkaian aksi yang menyimpang dari misi awal.</p> <p>Deteksi penipuan kartu kredit memberikan analogi yang jelas. Bank menyetujui setiap transaksi secara terpisah, tetapi tim fraud mencari pola lintas transaksi: pengujian kecil, lalu pembelian di lokasi lain, lalu pembelian barang elektronik besar dalam satu jam. Agent security kini memerlukan pendekatan yang sama, diterapkan pada jejak langkah-langkah agen, bukan transaksi keuangan.</p> <p>Project Quarry menawarkan bahasa aturan yang bisa dibaca, diuji, di-versi, dan dibagikan antar tim. Satu aturan Quarry menggabungkan dua jenis sinyal. Sinyal neural berasal dari classifier machine learning dan penilaian LLM, cocok untuk pertanyaan yang memerlukan pertimbangan, seperti apakah hasil tool berisi prompt injection. Pengecekan simbolik menangani yang dapat disatakan secara eksak: perintah berbahaya, cocokkan string, atau urutan dua panggilan tool. OCR dan model visi juga dapat memasok sinyal neural untuk input multimodal.</p> <p>Aturan Quarry dirancang sebagai lapisan kebijakan bersama, bukan pengganti setiap detektor atau kontrol penegakan. Struktur event tetap dipertahankan dari nama tool, argumen, hasil, hingga metadata yang tersedia, sehingga kebijakan dapat merasionalkan baik sesi lengkap maupun event mandiri. Pengecekan pada satu event bisa menangkap risiko lokal, tetapi tidak boleh disamakan dengan cakupan sesi ketika perilaku bergantung pada apa yang terjadi sebelumnya atau sesudahnya. Ketika kebijakan cocok, Quarry mengembalikan bukti: langkah-langkah yang memicu kecocokan, kolom yang cocok pada setiap langkah, dan kutipan singkat, dengan format rahasia umum yang telah dimask.</p> <p>Ruang cakupan Project Quarry mencakup percakapan satu giliran dan multi-giliran LLM, agen, penggunaan tool, interaksi Model Context Protocol (MCP), dan input multimodal. Repositori GitHub yang dirilis bersamaan mengadopsi lisensi open source dan menyertakan contoh aturan awal untuk pola-pola seperti capability scope creep dan silent task substitution. Paket Python <code>cisco-project-quarry</code> juga tersedia di PyPI.</p> <p>Cisco menyandingkan Quarry dengan Integrated AI Security & Safety Framework mereka. Kategori kerangka kerja seperti Agentic Autonomy Failures — yang mencakup excessive agency, goal drift, dan reward hacking — dapat diterjemahkan menjadi aturan Quarry yang dapat diinspeksi. Insiden Hugging Face OpenAI, misalnya, akan diklasifikasikan sebagai kombinasi AITech-2.3 Reward Hacking dan AITech-2.1 Excessive Agency. Aturan Quarry mengubah klasifikasi semacam itu menjadi pemeriksaan teknis yang dapat dijalankan pada jejak agen.</p> <p>Para peneliti dan praktisi keamanan menyambut Project Quarry dengan optimisme. Seperti yang disinggung oleh SecurityWeek, Quarry diposisikan sebagai analog Snort untuk traffic jaringan atau YARA untuk malware, hanya kali ini untuk serangan agen AI yang tersusun dari aksi-aksi kecil. The Register menambahkan bahwa pergeseran dari detection berbasis pesan tunggal ke detection berbasis jejak sesi menjadi langkah penting ketika agen semakin otonom.</p> <p>Proyek ini saat ini berada dalam tahap open-source awal. Cisco berharap Quarry menjadi fondasi bersama untuk mendeteksi perilaku agen yang berbahaya atau di luar kebijakan, baik di dalam organisasi mereka maupun di seluruh ekosistem keamanan. Sejarah menunjukkan bahwa bahasa aturan yang dapat dibaca, diuji, dan diperdebatkan — seperti yang dilakukan oleh Snort, YARA, dan Sigma — sering menjadi tulang punggung industri lebih lama daripada produk proprietary mana pun.</p>