Anthropic mulai menempatkan enam anggota METR di dalam operasinya dengan akses yang disebut—dengan hati-hati—‘employee-like’. Mereka mendapat perangkat perusahaan, ruang kerja, serta akses ke alat dan sistem internal yang kurang lebih setara dengan akses tim penilai risiko Anthropic sendiri. Pengumuman ini diterbitkan pada 15 Oktober 2026, ketika perusahaan AI mulai mencari bentuk pengawasan eksternal yang lebih dekat daripada audit dokumen biasa.

Anthropic mengatakan pegawainya didorong untuk berbagi informasi dengan tim METR seperti mereka berbagi informasi dengan rekan kerja yang menangani risiko alignment. Ada pengecualian yang jelas: data pelanggan, informasi yang dilindungi hak istimewa pengacara-klien, serta data tentang arsitektur model termasuk kategori yang tidak dibuka secara bebas. METR juga bekerja sebagai tim kecil yang terikat perjanjian dan terpisah dari anggota METR lain yang menangani proyek berbeda dengan perusahaan tersebut.

Bukan sekadar menerima laporan risiko

Tujuan dari pengaturan ini adalah memberi evaluator pandangan yang lebih dekat terhadap cara model dibuat, diuji, dan diamankan. Evaluator eksternal biasanya bisa menguji model atau membaca laporan yang sudah disiapkan. Dengan akses internal, mereka berpotensi melihat keputusan dan bukti yang berada di belakang laporan itu: bagaimana pengujian dirancang, bagaimana temuan ditindaklanjuti, dan bagian mana dari proses keselamatan yang tidak terlihat dari luar.

Anthropic menyamakan idenya dengan pengawas yang ditempatkan di lembaga keuangan besar. Analogi itu tidak sepenuhnya sama, karena METR bukan regulator dan tidak memiliki kewenangan pemerintah. Namun, logikanya serupa: organisasi yang membangun sistem biasanya mengetahui lebih banyak tentang risiko sistem tersebut daripada pengamat luar. Pengawasan yang bermakna membutuhkan akses yang cukup untuk menguji apakah penilaian internal perusahaan memang didukung bukti.

METR akan menerbitkan analisis tentang tingkat risiko, insiden, atau praktik Anthropic. Perusahaan mengatakan mereka tidak memiliki hak veto atas publikasi. Anthropic hanya dapat meminta penghapusan informasi yang masuk ke kategori terbatas dan telah ditentukan sebelumnya. METR tetap boleh menjelaskan bahwa suatu bagian telah disunting dan menyampaikan apakah mereka menilai penyuntingan itu beralasan.

Batas ini penting. Akses luas tidak berarti semua informasi akan muncul di laporan publik. Pembaca tetap perlu mengetahui bukan hanya kesimpulan evaluator, tetapi juga seberapa banyak bukti yang bisa mereka lihat dan apakah ada bagian penting yang tidak dapat dibuka. Anthropic mengatakan informasi tentang arsitektur model memiliki risiko kebocoran yang tinggi dan biasanya kurang relevan untuk penilaian risiko, tetapi perusahaan juga membuka kemungkinan membagikannya bila informasi tersebut sangat penting dan mendapat persetujuan internal.

Tiga tingkat akses

Anthropic sedang mengembangkan tiga tingkat hubungan dengan evaluator. Pada tingkat pertama, evaluator melakukan investigasi risiko yang ruang lingkupnya sempit. Anthropic menentukan akses yang diberikan, dan publikasi temuan membutuhkan persetujuan perusahaan.

Tingkat kedua memberi evaluator akses yang lebih besar dan hak publikasi tanpa persetujuan Anthropic. Perusahaan masih dapat meminta penghapusan kategori informasi tertentu, tetapi evaluator dapat menerbitkan penilaiannya atas keputusan redaksi tersebut.

Pengaturan METR ditempatkan pada tingkat ketiga. Enam anggota tim itu mendapat akses internal yang mendekati akses karyawan dan kebebasan publikasi yang sebanding dengan tingkat kedua. Anthropic menekankan bahwa pengaturan tersebut hanya berlaku untuk tim kecil, bukan akses terbuka bagi semua anggota METR atau organisasi lain.

Perusahaan juga menyebut SecureBio, Accenture, dan Faculty sebagai mitra evaluator lain. SecureBio berada pada tingkat pertama dan sedang meninjau bagian senjata kimia serta biologi dari Risk Report Anthropic. Anthropic dan Accenture sebelumnya mengumumkan kerja sama untuk menguji model, melakukan red-teaming, menilai alignment, serta menguji sistem pengaman. Hubungan dengan mitra-mitra ini masih berada pada tahap yang berbeda dan belum semuanya memberi hak publikasi seperti pengaturan dengan METR.

Akses bukan otomatis berarti independen

Pengumuman ini menjawab satu persoalan lama dalam evaluasi AI: evaluator tidak mungkin menilai sistem berisiko tinggi secara serius jika hanya diberi demo dan ringkasan perusahaan. Tetapi pengaturan ini juga membuka pertanyaan lain. Seberapa independen evaluator ketika bekerja dari dalam perusahaan? Bagaimana konflik kepentingan dikelola? Siapa yang membayar pekerjaan tersebut? Dan standar apa yang menentukan bahwa redaksi memang diperlukan?

Anthropic menyatakan METR harus tetap independen, tidak memegang saham perusahaan, dan bebas menyampaikan kesimpulan. Pada saat yang sama, perusahaan menentukan batas informasi yang dikecualikan dan menerapkan standar keamanan internalnya kepada tim yang ditempatkan di dalam. Dua hal ini tidak otomatis bertentangan, tetapi keduanya perlu diperiksa lewat laporan dan pengalaman nyata, bukan hanya lewat rancangan kebijakan.

Belum ada hasil evaluasi baru dari pengaturan ini yang dapat dibaca publik. Karena itu, kabar utamanya bukan bahwa METR telah menyatakan model Anthropic aman. Kabar utamanya adalah perusahaan mulai menguji bentuk pengawasan yang lebih invasif dan lebih dapat diverifikasi daripada audit dari jarak jauh. Nilai pengaturan ini baru akan terlihat ketika METR menerbitkan temuan, menjelaskan bukti yang tersedia, dan menunjukkan apakah mereka bisa mempertahankan penilaian yang tidak nyaman bagi Anthropic.

Jika model frontier semakin mampu menjalankan tugas panjang dan mengambil tindakan melalui alat, pengawasan semacam ini akan menjadi bagian penting dari infrastruktur keselamatan, bukan aksesori komunikasi. Namun, evaluator di dalam perusahaan tetap membutuhkan ruang untuk berkata tidak, dokumentasi yang dapat diperiksa, dan aturan publik tentang apa yang boleh disunting. Tanpa itu, ‘employee-like access’ hanya akan menjadi label menarik untuk hubungan yang masih sulit dinilai dari luar.

Sumber - Primary: https://www.anthropic.com/news/an-update-on-independent-evaluators - Context: https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents - Context: https://www.anthropic.com/news/improving-alignment-security-efforts