Microsoft Perluas Project Perception untuk Mengawasi AI Agent

Microsoft memperluas Project Perception untuk mengamankan agen AI yang bekerja di dalam perusahaan. Dalam pengumuman pada 19 Oktober 2026, Microsoft menyebut agen-agen ini sebagai “agentic insiders”: bukan karena mereka berniat jahat, melainkan karena mereka bisa diberi akses ke data, aplikasi, alat kerja, dan sistem lain yang penting bagi organisasi.

Perubahan sudut pandangnya cukup penting. Selama ini, pembahasan keamanan AI sering berfokus pada penyerang dari luar yang memakai model untuk membuat serangan lebih cepat. Microsoft kini menempatkan agen internal dalam model ancaman yang sama sekali berbeda: agen bisa salah memahami konteks, dimanipulasi oleh input, menghasilkan keluaran yang berubah-ubah, atau terus bekerja dengan izin yang terlalu luas ketika situasi sudah berubah.

Dalam tulisan Microsoft Security, agen digambarkan sebagai perangkat lunak yang dapat membuat rencana, memakai alat, dan mengambil tindakan lintas sistem dengan kecepatan mesin. Risiko itu muncul bahkan ketika agen tidak pernah “diretas” dalam arti tradisional. Kesalahan desain, prompt injection, konteks yang berubah, atau kredensial yang terlalu kuat sudah cukup untuk membuat sebuah agen bertindak di luar maksud awalnya.

Project Perception mendapat peran baru

Microsoft memperkenalkan Project Perception pada Juli 2026 sebagai sistem keamanan agentik yang menggabungkan sinyal, konteks, model, dan kelompok agen khusus untuk membantu tim pertahanan siber. Arsitektur awalnya memakai tiga peran: red agents untuk mencari kelemahan seperti penyerang, blue agents untuk menyelidiki ancaman, dan green agents untuk memperbaiki serta memperkeras lingkungan.

Perluasan terbaru memakai fondasi yang sama untuk mengawasi agen yang berjalan di dalam perusahaan. Microsoft menyebut Guardian Agents sebagai pengawas yang bekerja terus-menerus. Mereka menerima sinyal dari identitas, data, endpoint, jaringan, cloud, dan runtime, lalu membantu menilai apakah tindakan sebuah agen masih sesuai dengan tujuan dan tingkat akses yang diberikan kepadanya.

Microsoft juga menghubungkan Project Perception dengan Microsoft Agent 365. Keduanya berbagi sinyal, konteks, dan registri terpadu sehingga tim TI dan keamanan memiliki gambaran yang sama tentang agen yang ada, siapa pemiliknya, untuk apa agen itu dibuat, dan apa yang sedang dikerjakannya.

Model ini tidak hanya mengandalkan daftar agen yang dibuat saat proses inventarisasi. Sistem perlu terus memeriksa perilaku aktual. Agen yang awalnya hanya diminta membaca dokumen bisa saja mulai memanggil API tambahan, mengakses data yang tidak dibutuhkan, atau mengubah rencana setelah menemukan instruksi baru. Karena itu, pengelolaan identitas dan izin perlu mengikuti perubahan risiko, bukan berhenti pada konfigurasi saat agen pertama kali didaftarkan.

Model tetap bukan otoritas keamanan

Microsoft menekankan prinsip bahwa kecerdasan model dan kewenangan keamanan harus dipisahkan. Model boleh membantu memahami situasi atau menyusun tindakan, tetapi aturan mengenai data apa yang boleh diakses, alat apa yang boleh dipakai, dan kapan sebuah proses harus dihentikan sebaiknya berada di luar model.

Prinsip tersebut penting karena model bersifat non-deterministik. Dua percakapan dengan tujuan yang sama dapat menghasilkan rencana berbeda ketika konteks, instruksi, atau data yang tersedia berubah. Jika model sekaligus menjadi pengambil keputusan terakhir tentang izinnya sendiri, organisasi akan kesulitan membuktikan mengapa tindakan tertentu diizinkan dan siapa yang dapat menghentikannya.

Project Perception mencoba membungkus kecerdasan yang tidak selalu dapat diprediksi dengan kontrol yang lebih deterministik, bukti independen, dan batas containment. Microsoft merangkum tanggung jawabnya ke dalam beberapa pekerjaan berkelanjutan: menemukan agen, memahami pemilik dan tujuannya, mengukur risiko tindakannya, mengurangi kewenangan sebelum tindakan dilakukan, serta menyesuaikan perlindungan ketika risiko meningkat.

Keamanan agen bukan hanya urusan model

Perubahan ini juga memperjelas bahwa keamanan agentik tidak dapat diselesaikan hanya dengan memilih model yang dianggap lebih aman. Tim perlu mengelola identitas agen, hubungan antaragen, izin API, data yang dapat dibaca, endpoint tempat agen berjalan, jaringan yang dilewati, dan runtime yang mengeksekusi alatnya. Semua lapisan tersebut ikut menentukan apa yang sebenarnya dapat dilakukan agen.

Microsoft Digital Defense Report 2026 memakai kerangka yang serupa. Laporan itu menyoroti identitas agen, akses yang sesuai, autentikasi antaragen, atribusi, kemampuan mencabut akses, prompt injection, memori, data, dan integritas layanan sebagai bagian dari permukaan risiko AI. Dengan kata lain, catatan “modelnya aman” tidak banyak membantu jika token, tool, dan sistem di sekelilingnya tetap tidak terkelola.

Ada satu bagian yang masih perlu dibaca hati-hati. Microsoft menyebut kemampuan untuk memahami bukan hanya apa yang dilakukan agen, tetapi juga mengapa tindakan itu muncul, termasuk kemungkinan melihat proses penalaran model. Transparansi semacam itu dapat membantu audit dan atribusi, tetapi bukan pengganti containment. Bahkan jika alasan agen bisa diperiksa, kontrol eksternal tetap diperlukan untuk membatasi dampaknya ketika keputusan ternyata keliru.

Bagi organisasi yang mulai menjalankan agen untuk coding, layanan pelanggan, keuangan, atau operasi internal, pesan praktisnya sederhana: perlakukan agen sebagai identitas yang punya izin dan dapat melakukan kesalahan. Beri akses secukupnya, catat tindakannya, siapkan tombol pencabutan, dan pastikan sistem di luar model dapat menghentikannya. Project Perception adalah jawaban Microsoft untuk kebutuhan itu, tetapi tantangannya berlaku lebih luas daripada produk Microsoft: semakin banyak pekerjaan yang diserahkan kepada agen, semakin penting lapisan kontrol yang tidak bergantung pada niat baik model.