Google menyerahkan tiga proyek open source untuk infrastruktur agen AI—Agent Substrate, gVisor, dan OpenRL—ke Cloud Native Computing Foundation (CNCF) sebagai proyek Sandbox. Pada saat yang sama, Agent Substrate mencapai versi 1.0 dan tersedia umum sebagai kemampuan terkelola di Google Kubernetes Engine (GKE).
Langkah ini memindahkan sebagian fondasi teknis agen AI dari satu vendor ke tata kelola open source yang lebih netral. Google tetap menyediakan implementasi terkelola di GKE, tetapi kode Agent Substrate dan gVisor dapat dijalankan di klaster Kubernetes lain. Bagi pengembang, perbedaan itu penting: layanan cloud dan proyek yang menjadi fondasinya tidak harus selalu berada di tempat yang sama.
Tiga lapisan untuk agen yang tidak selalu aktif
Agent Substrate ditujukan untuk sesi agen yang berjalan dalam beberapa putaran, bukan untuk pola request-response singkat seperti endpoint web biasa. Agen mungkin mengeksekusi kode atau pengujian selama beberapa detik, lalu menunggu giliran model, layanan eksternal, atau instruksi manusia. Menjaga satu container tetap hidup sepanjang jeda akan mengikat memori dan compute yang sebenarnya sedang tidak dipakai.
Pendekatan Substrate adalah memisahkan identitas dan keadaan sesi agen dari worker yang menjalankannya. Saat agen berhenti sementara, keadaannya dapat disimpan. Ketika perlu melanjutkan, keadaan itu dipulihkan ke worker yang tersedia. Google menyebut pemulihan dapat berlangsung kurang dari 500 milidetik, dengan target menjalankan jutaan sandbox pada kepadatan hingga 10 kali container standar.
Angka tersebut adalah klaim dari Google, bukan hasil pengujian independen. Namun masalah yang disasar cukup konkret. Agen coding, agen riset, dan sistem yang melakukan banyak panggilan tool memang memiliki waktu tunggu yang berbeda dari aplikasi web biasa. Model bisa berhenti karena menunggu pengguna, API pihak ketiga, atau hasil komputasi lain. Runtime yang memperlakukan setiap sesi sebagai proses aktif permanen akan membayar biaya idle untuk setiap jeda itu.
Lapisan berikutnya adalah gVisor. Proyek ini menyediakan application kernel di ruang pengguna dan menangani system call di luar kernel host Linux. Tujuannya adalah membatasi dampak ketika agen menjalankan kode yang dihasilkan model, paket eksternal, atau skrip yang belum ditinjau. Container biasa tetap berbagi kernel host; gVisor menambahkan batas isolasi di antara kode yang berjalan dan sistem operasi utama.
Google tidak menyebut gVisor sebagai pengganti semua pertimbangan keamanan. Pembatasan akses jaringan, identitas, secret, filesystem, dan izin Kubernetes tetap diperlukan. Sandbox juga tidak membuat kode yang tidak tepercaya menjadi aman secara otomatis. Nilainya ada pada pengurangan permukaan serangan, terutama ketika banyak sesi agen berbagi node.
OpenRL mengisi lapisan yang berbeda. Proyek ini mengorkestrasi loop post-training berbasis reinforcement learning di Kubernetes. Dalam alur tersebut, banyak sandbox menjalankan rollout secara paralel, lalu hasilnya dipakai untuk melatih atau mengevaluasi agen. OpenRL mencoba menyediakan resep yang dapat dijalankan dengan model dan akselerator berbeda, alih-alih mengikat proses pelatihan pada satu platform.
Mengapa CNCF menjadi tempatnya
Ketiga proyek itu masuk CNCF Sandbox, status awal untuk proyek yang masih membangun komunitas, tata kelola, dan jalur menuju kematangan. Status Sandbox bukan sertifikasi bahwa proyek sudah siap untuk semua produksi. Ia lebih tepat dibaca sebagai pintu masuk ke ekosistem dengan proses dan infrastruktur komunitas yang lebih terbuka.
Google juga menyebut sejumlah kontributor dan pengguna yang terlibat dalam gVisor. Perpindahan ke CNCF dapat membantu proyek mengembangkan pemelihara di luar Google, sekaligus membuka jalan untuk membahas optimasi kernel dan performa secara lebih luas. Proses itu tidak otomatis cepat, tetapi tata kelola vendor-neutral memberi konteks yang berbeda dibanding proyek yang dimiliki satu perusahaan.
Agent Substrate on GKE sudah berstatus general availability, sedangkan proyek open source-nya dapat diuji di Kubernetes lain. Pengembang tetap perlu memeriksa versi, dukungan akselerator, batas isolasi, biaya penyimpanan snapshot, dan perilaku pemulihan sebelum menjalankan beban kerja penting. Klaim kepadatan dan waktu resume juga perlu diuji pada pola sesi yang benar-benar dipakai aplikasi.
Yang sedang dibangun Google bukan sekadar cara baru menjalankan chatbot. Ini adalah tumpukan untuk agen yang menyimpan keadaan, menjalankan kode, menunggu lama, lalu kembali bekerja tanpa memegang satu mesin sepanjang waktu. Dengan menyerahkan komponen-komponennya ke CNCF, Google berharap pola tersebut menjadi bagian dari infrastruktur cloud native yang bisa dipakai lintas cloud. Apakah ekosistem akan mengadopsinya secara luas bergantung pada dokumentasi, integrasi Kubernetes, performa nyata, dan kontribusi komunitas—bukan pada label AI-nya.