Google menambahkan Tool Retrieval ke Gemini API dalam status preview. Fitur ini dirancang untuk agen yang terhubung ke puluhan atau ratusan tool: model tetap mengetahui nama dan deskripsi tool yang tersedia, tetapi skema parameter lengkapnya baru dimuat ketika diperlukan.

Masalah yang ingin diatasi cukup praktis. Dalam pola function calling biasa, aplikasi mengirimkan definisi setiap tool pada setiap permintaan. Ketika jumlah tool bertambah, kumpulan skema itu ikut memakan token input, menambah latensi, dan memperbesar daftar kandidat yang harus dipilih model. Google juga menyebut konteks yang terlalu ramai dapat menurunkan akurasi pemilihan tool.

Tool Retrieval memindahkan sebagian pekerjaan itu ke mekanisme pencarian. Developer menambahkan tool_search ke permintaan, lalu memberi tanda defer_loading: true pada tool yang jarang dipakai atau berada di ekor panjang pustaka. Nama dan deskripsi singkatnya tetap terlihat oleh model. Skema parameter—jenis data, properti, dan field wajib—ditahan di luar konteks sampai model meminta tool tersebut.

Dalam contoh Google, sebuah agen memiliki tool bernama issue_refund untuk mengembalikan uang pesanan. Ketika pengguna meminta pengembalian dana, Gemini lebih dulu membuat tool search call untuk mencari fungsi yang relevan. API kemudian memuat skema issue_refund dan model melanjutkan dengan function call biasa. Tiga tahap itu tercatat di interaction.steps: pencarian tool, hasil pencarian yang berisi skema, lalu pemanggilan fungsi.

Pendekatan ini berbeda dari sistem retrieval yang harus dibangun sendiri. Untuk server-side retrieval, tidak ada indeks tambahan yang perlu dibuat atau di-host developer. Gemini menjalankan pencarian di sisi server. Perubahan kode utamanya adalah menambahkan tool_search dan menandai tool yang ingin ditunda. Tool yang paling sering dipakai tetap bisa dimuat sejak awal, sedangkan tool yang jarang muncul dapat ditahan.

Google juga menyebut dampaknya terhadap prefix caching. Skema yang ditunda tidak mengubah bagian awal prompt. Ketika sebuah skema diperlukan, detailnya ditambahkan setelahnya dalam percakapan. Secara teori, pola ini membantu mempertahankan prefix yang sama dari satu giliran ke giliran berikutnya. Namun penghematan aktual tetap bergantung pada perilaku aplikasi: berapa banyak tool yang benar-benar dipakai, seberapa sering skemanya berubah, dan berapa panjang definisinya.

Tool Retrieval tidak hanya berlaku untuk function tool lokal. Gemini API juga mendukung penggunaannya bersama remote MCP server. Developer dapat menandai mcp_server dengan defer_loading: true, sehingga tool yang ditawarkan server tersebut ikut dimuat sesuai kebutuhan. Ini berguna bagi agen yang menghubungkan banyak layanan, tetapi tidak menghapus kebutuhan untuk mengatur izin di sisi aplikasi dan server MCP.

Ada pula mode client-side retrieval. Jika organisasi memiliki registri tool sendiri, indeks embedding, atau filter izin per pengguna, tool_search dapat dijalankan dengan execution: client. Dalam mode ini, aplikasi menerima permintaan pencarian dari model, mencari skema yang sesuai, lalu mengirimkan hasilnya melalui function_result pada interaksi berikutnya. Google memperingatkan bahwa pola tersebut menambah satu round trip untuk setiap pencarian.

Perbedaan server-side dan client-side penting untuk desain sistem. Pencarian di server Google lebih sederhana untuk mulai, tetapi aplikasi menyerahkan logika pemilihan skema kepada platform. Pencarian di sisi klien memberi kontrol atas registri, relevansi, dan pembatasan akses, tetapi menambah kode, latensi, dan tanggung jawab keamanan. Tool yang muncul dalam hasil pencarian tetap harus diperlakukan sebagai kemampuan yang sensitif, bukan sekadar metadata.

Google mengatakan Tool Retrieval tidak memiliki biaya terpisah. Token input dan output tetap mengikuti harga model yang dipakai. tool_search menambahkan blok kecil token input, sedangkan setiap skema yang benar-benar dimuat ditagihkan sebagai input untuk sisa percakapan—seperti tool yang dideklarasikan sejak awal. Penghematan baru terjadi ketika skema yang tidak pernah dipakai lebih banyak daripada skema yang dimuat.

Fitur ini tersedia dalam preview di Gemini Interactions API dan memerlukan API versi v1beta. Google menyebut dukungan untuk Gemini 3.6 dan model yang lebih baru, termasuk seluruh model Gemini 4. Dokumentasi resmi juga menegaskan bahwa permukaan API preview masih dapat berubah sebelum general availability.

Itu batas penting dari pengumuman ini. Tool Retrieval bukan jaminan bahwa setiap agen otomatis menjadi lebih cepat atau murah. Tim perlu mengukur token, latensi, tingkat keberhasilan pemilihan tool, dan jumlah pencarian yang menghasilkan fungsi yang benar pada traffic mereka sendiri. Untuk pustaka kecil dengan beberapa tool yang selalu dipakai, menunda skema mungkin hanya menambah satu lapisan. Untuk agen dengan ratusan integrasi, pendekatan ini bisa menjadi cara yang lebih masuk akal untuk menjaga prompt tetap ramping.

Sumber https://blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval/ Dokumentasi: https://ai.google.dev/gemini-api/docs/tool-retrieval Catatan rilis: https://aistudio.google.com/docs/changelog