Anthropic meluncurkan FlashProve, sebuah prototipe sistem terbuka yang memungkinkan pengguna memverifikasi model AI mana yang benar-benar menghasilkan suatu keluaran. Pengumuman tersebut dirilis Selasa (3 November) dan merupakan bagian dari upaya laboratorium dalam bidang keamanan AI untuk memberikan tanda tangan kriptografis pada output model.
Istilah yang dipakai Anthropic adalah provable inference, singkatan dari inferensi yang dapat dibuktikan. Prinsipnya sederhana: pengirim model mengumikan bobot modelnya ke dalam sebuah fingerprint, lalu menghasilkan bukti kriptografis bahwa suatu keluaran tertentu berasal dari bobot tersebut. Mata uang yang memeriksa bukti ini tidak perlu mengakses bobot atau arsitektur model. Ini menyelesaikan masalah yang sering dihadapi pengguna layanan AI: pembeli berjanji menggunakan model tertentu, tetapi di belakang layar model yang menjawab bisa saja berbeda, mungkin model lebih murah atau lebih mahal dari janji.
Anthropic menulis bahwa FlashProve dirancang mengatasi ancaman di mana satu model disembunyikan sebagai model lain, bahkan ketika penyerang adalah laboratorium yang membangun dan menjalankan model. Hal ini mengeksplorasi skenario di mana perusahaan secara diam-diam mengganti model dengan model yang lebih murah untuk mengurangi biaya, atau sebaliknya menggunakan model yang lebih mahal untuk menghasilkan hasil yang tampak lebih baik dari seharusnya.
Selain itu, sistem ini bisa digunakan untuk memverifikasi klaim pihak ketiga. Sebagai contoh, seorang developer bisa mengklaim sebuah pustaka perangkat lunak telah diperiksa kerentanan menggunakan model keamanan frontier. Sebuah perusahaan bisa mengklaim rencananya bisnis telah disetujui oleh model yang sesuai. Dengan FlashProve, pengguna akhir bisa memeriksa bahwa klaim tersebut benar-benar berasal dari model yang disebut, tanpa perlu mempercayai pernyataan tersebut begitu saja.
Sistem ini juga dirancang untuk berjalan di perangkat lokal. Anthropic menyebut bahwa sistem ini ringan, sehingga verifikasi dapat dilakukan di perangkat pengguna. Penyelesaian mencakup spesifikasi teknis tertulis, kode sumber yang berfungsi, serta kode di bawah lisensi open source yang dapat diakses di GitHub. Penelitian dalam sistem ini masih berlangsung, dan Anthropic menyatakan tidak ada rencana untuk deployment di Anthropic maupun laboratorium lainnya.
FlashProve dibangun di atas protokol kriptografi yang dikenal sebagai zero-knowledge succinct argument, atau zkSNARK. Cara kerja sistem terdiri dari dua fase: fase offline dan fase online. Pada fase offline, pembawa model memublikasikan sebuah keterikatan terhadap bobot model, yang berupa fingerprint pendek untuk menentukan satu pilihan bobot tertentu sambil menjaga bobot tersebut tetap tetap. Pada fase online, setelah menerima permintaan verifikasi, pembawa model menghasilkan file bukti yang menyatakan pernyataan tertentu: model yang ditetapkan menghasilkan token keluaran tersebut.
Beberapa properti keamanan yang dijanjikan dalam protocol ini dibuktikan menggunakan Lean, sebuah bahasa verifikasi formal. Anthropic menetapkan tiga properti utama: completeness, yaitu bukti diterima jika pernyataan benar; soundness, yaitu bukti palsu ditolak; dan zero knowledge, yaitu bukti tidak mengungkap informasi apa pun tentang bobot model selain pernyataan itu sendiri. Sifat-sifat ini dinyatakan dalam random oracle model, suatu metode analisis informasi teoretis yang bergantung pada fungsi hash.
Anthropic melaporkan hasil pada model Llama 4 Maverick, sebuah model dengan 400 miliar parameter dan campuran ahli, dalam bobot kuantisasi 4-bit. Pada satu GPU H100, bukti dihasilkan sekitar 110 token per detik, dengan ukuran bukti sekitar 19 MB per permintaan 1.024 token. Dibandingkan dengan menjalankan model sendiri menggunakan vLLM, penurunan bukti mengambil sekitar 70 hingga 95 kali waktu GPU. Versi uji coba ini merupakan prototipe penelitian dan memiliki beberapa keterbatasan, termasuk konteks yang terbatas pada 1.024 token, dukungan untuk decoding greedy yang ketat, serta asumsi arsitektur mixture-of-experts. Anthropic juga mencatat bahwa bukti dapat mengungkap sisi ancaman, seperti waktu pembuatan, tetapi hal ini di luar cakupan rilis ini.
Keterkaitan dengan rencana keamanan terdepan Anthropic juga menjadi informasi penting. Di dokumen yang dirilis, Anthropic menyebutkan komitmen publik untuk menghasilkan prototipe bukti inferensi pada 30 September 2026. Rilis FlashProve ini menandakan tujuan tersebut tercapai melalui proyek yang berhubungan tetapi berbeda.
Media resmi, termasuk Ars Technica, Wired, dan MIT Technology Review, telah melaporkan pengumuman ini sejak Selasa. Berita tersebut masih berstatus prototipe dan belum ditetapkan untuk digunakan langsung oleh Anthropic dalam layanan publiknya, sehingga pembaca harus mempertimbangkan klaim-klaim tersebut sebagai dokumen penelitian, bukan jaminan produk yang siap digunakan. Kegagalan dalam verifikasi tetap mungkin terjadi pada konfigurasi tertentu, dan sistem ini masih dalam tahap pengembangan yang mendalam.