GitHub resmi membuka pratinjau eksperimental untuk perutean model kecerdasan buatan lokal melalui fitur Copilot Fusion pada akhir Oktober 2026. Pembaruan ini memungkinkan Copilot memilih secara dinamis antara model yang berjalan langsung di perangkat keras pengguna dan model berukuran besar di cloud. Kemampuan tersebut hadir di tiga antarmuka utama developer: Visual Studio Code, GitHub Copilot CLI, dan aplikasi desktop GitHub Copilot.
Langkah ini menandai pergeseran arsitektur bagi asisten koding milik Microsoft tersebut. Selama ini, Copilot hampir sepenuhnya bergantung pada kluster server terpusat untuk memproses setiap baris instruksi dan penyelesaian kode. Melalui integrasi lokal, beban inferensi untuk tugas-tugas ringan atau rutin dapat dipindahkan ke kartu grafis dan memori workstation pengguna, sehingga menghemat konsumsi kuota AI Credits serta memangkas latensi jaringan.
Namun, di balik klaim fleksibilitas komputasi hibrida, dokumentasi resmi GitHub memperlihatkan batasan teknis yang cukup ketat: mulai dari kebutuhan perangkat keras tingkat tinggi, ketergantungan pada runtime pihak ketiga, hingga fakta bahwa sesi Copilot Fusion tetap membutuhkan koneksi internet aktif.
Cara kerja perutean Fusion Standard
Fitur perutean lokal ini ditanamkan di dalam skema Copilot Fusion. Pada konfigurasi standar, Fusion membagi tingkat pemrosesan menjadi tiga level upaya: Fusion Fast untuk penyelesaian inline berkecepatan tinggi, Fusion Standard untuk tugas kerja sehari-hari, dan Fusion Max untuk penalaran mendalam yang memerlukan model frontier.
Model lokal hanya diaktifkan ketika pengguna memilih level Fusion Standard. Saat opsi ini aktif, mesin pengambil keputusan Copilot akan menilai tingkat kesulitan instruksi yang diajukan. Jika tugas dinilai cukup sederhana—misalnya refaktor fungsi pendek, pembuatan pengujian unit dasar, atau penjelasan sintaksis—permintaan diarahkan ke model di mesin lokal. Sebaliknya, bila instruksi melibatkan ketergantungan lintas repositori yang kompleks atau penalaran arsitektur yang berat, permintaan diteruskan ke model cloud seperti Claude atau OpenAI GPT.
Pengembang yang tidak ingin bergantung pada keputusan otomatis Fusion tetap dapat memilih model lokal secara manual melalui pemilih model (model picker). Model lokal juga bisa dipasangkan ke dalam custom agent di Copilot CLI untuk menangani sub-tugas berulang, sementara sesi percakapan utama tetap berjalan di cloud.
Jalur terkelola di Windows dan syarat 96 GB RAM
Untuk ekosistem Windows, GitHub menyediakan alur pengunduhan dan instalasi terkelola langsung dari antarmuka aplikasi atau CLI. Dua model awal yang didukung adalah MAI Code 1.1 Flash—model koding ringkas buatan Microsoft—dan Flint NVFP4.
Meski labelnya menyandang kata "Flash", prasyarat sistem yang diwajibkan untuk menjalankan model ini tergolong sangat tinggi dan berada di luar jangkauan laptop pengembang biasa. Pengguna diwajibkan menggunakan PC Windows dengan kartu grafis Nvidia; akselerasi AMD secara eksplisit tidak didukung pada jalur terkelola. Untuk MAI Code 1.1 Flash, sistem membutuhkan gabungan memori kerja minimal 96 GB serta ruang penyimpanan kosong 60 GB. Sementara untuk Flint NVFP4, batas minimal memori ditetapkan sebesar 48 GB dengan ruang disk 23 GB.
Di lapisan bawah, integrasi ini memanfaatkan llama.cpp versi v0.7.0 ke atas dengan build CUDA spesifik—minimal build b11669 untuk MAI Code dan b11803 untuk Flint. Pengguna harus mengatur variabel lingkungan sistem LLAMACPP_SERVER_PATH agar Copilot dapat memanggil server inferensi lokal tersebut.
Pengguna macOS dan Linux lewat skema mandiri
Bagi developer di luar Windows atau yang tidak memiliki spesifikasi workstation 96 GB, GitHub tidak menyediakan jalur unduhan otomatis. Pengguna macOS, Linux, serta pengguna Windows dengan konfigurasi mandiri harus menggunakan skema Bring Your Own Key (BYOK) atau menghubungkan server lokal kompatibel OpenAI, seperti Ollama.
Pada jalur mandiri ini, model yang dikenali oleh sistem perutean Copilot Fusion adalah Qwen3.8 Flash Next dengan pengenal qwen3.8-flash-next-local atau MAI Code 1.1 Flash yang di-host sendiri. Pengembang bertanggung jawab penuh atas manajemen model, runtime inferensi, alokasi memori, dan kestabilan soket lokal.
Pendekatan dua jalur ini menciptakan disparitas pengalaman: ekosistem Windows mendapatkan kemudahan konfigurasi klik-dan-pasang namun terbentur syarat perangkat keras yang ekstrem, sementara pengguna Linux dan macOS mendapatkan fleksibilitas arsitektur tetapi harus merakit pipa inferensinya secara manual.
Otak routing di cloud dan konsekuensi privasi
Salah satu aspek teknis paling penting yang ditegaskan GitHub adalah bahwa menjalankan model di mesin lokal tidak otomatis membuat sesi Copilot menjadi sesi offline. Saat berada dalam mode Copilot Fusion, logika perutean dan evaluasi instruksi tetap dieksekusi di server cloud GitHub.
Artinya, metadata prompt dan konteks tugas tetap dikirimkan ke jaringan sebelum server memutuskan apakah permintaan akan dipulangkan ke localhost atau dikirim ke penyedia model komersial. Sesi benar-benar terisolasi offline hanya dapat dicapai apabila pengembang mengunci model lokal secara eksplisit tanpa melibatkan Copilot Fusion.
Selain itu, GitHub mencatat perbedaan pagar pengaman (safety guardrails). Model lokal yang berjalan di komputer pengguna tidak melewati lapisan filter moderasi konten cloud yang sama ketatnya dengan infrastruktur terpusat Copilot. Tanggung jawab validasi keluaran kode, deteksi kerentanan, dan penyaringan token berbahaya dengan demikian bergeser lebih banyak ke tangan insinyur yang mengoperasikannya.
Pembaruan ini memperlihatkan arah kompromi industri perangkat lunak developer: vendor raksasa mulai mengakui bahwa beban komputasi agen AI tidak berkelanjutan jika seluruhnya dipikul di pusat data, tetapi mereka juga belum sepenuhnya bersedia melepaskan kendali orkestrasi dari cloud.
Sumber GitHub Changelog, “GitHub Copilot Fusion now supports selection of local models”, 28 Oktober 2026. Sumber teknis tambahan: GitHub Docs, “About GitHub Copilot Fusion”, “Adding LLM models to GitHub Copilot CLI”, dan “Adding LLM models to the GitHub Copilot app”.