Dunia komputasi AI bergerak cepat minggu ini, dan satu pengumuman layak mendapat perhatian khusus para pemilik usaha di Indonesia. Pada 15 Oktober 2026, NVIDIA resmi merilis keluarga model Nemotron 3.5: Super VL, model open-weight 120 miliar parameter untuk pekerjaan agen AI di server, dan yang lebih penting bagi UKM, Bolt 74B-A9B, model agen yang berkat kuantisasi 2-bit hanya membutuhkan memori 24 GB sehingga bisa berjalan di komputer kelas kantor. Varian paling kecil, Bolt E4B dengan kebutuhan 4 GB, menyusul dirilis 23 Oktober.
Apa yang Dirilis NVIDIA
Nemotron 3.5 Super VL adalah model visual-language (mampu membaca teks, gambar, dokumen, dan video) dengan konteks hingga 1 juta token. NVIDIA mengklaim akurasinya setara model reasoning terbesar mereka dengan hanya sekitar seperlima jumlah parameternya, dan hingga lima kali lebih cepat menyelesaikan alur kerja kompleks dibanding model terbuka sekelasnya. Laman pemeringkat independen Artificial Analysis menempatkan Super VL sebagai model berbobot terbuka asal Amerika Serikat dengan skor inteligensi tertinggi saat ini (indeks 26), dengan kecepatan keluaran sekitar 630 token per detik.
Yang membuat pengumuman ini relevan untuk usaha kecil adalah keluarga Bolt. Bolt 74B-A9B membukukan skor indeks 21, hanya terpaut sekitar dua poin dari flagship Nemotron 3 Ultra yang berparameter 550 miliar, sementara total parameternya hanya seperujuh dan hanya 9 miliar parameter yang aktif per tugas. Model ini tersedia di Hugging Face dan bisa dijalankan lewat framework lokal populer seperti Ollama, llama.cpp, vLLM, dan LM Studio di kartu grafis RTX, workstation, atau hardware DGX Spark.
Analoginya: Staf yang Bisa Berpikir Sendiri di Tempat
Bayangkan agen AI berbasis cloud seperti mempekerjakan konsultan jarak jauh yang harus ditelpon dan ditagih per menit setiap kali ia berpikir. Setiap pesan pelanggan, setiap faktur yang dibaca, menambah tagihan token. Sebaliknya, model lokal seperti Bolt adalah karyawan yang duduk di kantor Anda sendiri: ia membaca, menimbang, dan bertindak tanpa mengirim apa pun keluar, dan gajinya adalah biaya listrik plus satu kali investasi perangkat. Untuk pekerjaan berulang bervolume tinggi, misalnya menyortir ratusan chat WhatsApp, mengekstrak data dari PDF penawaran, atau draf follow-up prospek, perbedaan biaya bulanan antara kedua model kerja ini bisa sangat material.
Kenapa Ini Penting bagi UKM Indonesia
Pertama, biaya operasional turun drastis. Tagihan API cloud bekerja seperti meteran yang terus jalan: makin banyak agen bekerja, makin besar biaya, dan laporan industri sepanjang September-Oktober 2026 menyebut mayoritas perusahaan kebobolan anggaran AI justru karena pola ini. Dengan agen lokal, biaya marginal per tugas nyaris nol.
Kedua, data tidak keluar gedung. Data pelanggan, harga supplier, dan rekam jejak transaksi tetap berada di perangkat sendiri. Bagi usaha dengan segmen pasar sensitif, misalnya jasa kesehatan, konsultasi, atau keuangan mikro, ini adalah argumen kepatuhan yang kuat sekaligus keunggulan jual.
Ketiga, tahan gangguan internet. Koneksi di banyak daerah di Indonesia belum selalu stabil. Agen lokal tetap bekerja saat internet putus, sebuah ketahanan operasional yang tidak bisa dibeli dari langganan cloud mana pun.
Keempat, bobotnya terbuka dan bisa di-custom. NVIDIA merilis weights, dataset, dan resep pelatihan di bawah lisensi terbuka, sehingga usaha bisa melakukan post-training dengan datanya sendiri, misalnya gaya bahasa jawaban CS, katalog produk, atau SOP internal, tanpa menunggu fitur baru dari vendor asing.
Catatan Jujur: Jangan Buru-Buru Meninggalkan Cloud
Sebagai praktisi, kami harus menakar realistis. Pertama, menjalankan Bolt 74B tetap membutuhkan perangkat dengan GPU memadai dan VRAM kelas 24 GB, yaitu investasi awal yang tidak murah bagi mikro-usaha, meski perangkat kelas RTX Spark terbaru mulai mendekat ke harga workstation menengah. Kedua, Bolt E4B yang 4 GB dirancang untuk tugas ringan percakapan dan agen suara, bukan analisis kompleks, dan varian itu baru dirilis 23 Oktober. Ketiga, model lokal masih setingkat di bawah model cloud frontier untuk penalaran paling sulit. Karena itu pola paling masuk akal untuk 2026 adalah arsitektur hibrida: biarkan agen lokal menangani tumpukan pekerjaan rutin bervolume besar, dan simpan panggilan ke model cloud hanya untuk tugas yang benar-benar butuh otak kelas berat. Perusahaan seperti EY dan Scale AI pun dilaporkan mem-post-train Super VL untuk agen kredit dan due diligence mereka, sinyal bahwa tren customisasi di infrastruktur sendiri ini nyata, bukan sekadar demo.
Langkah Praktis Minggu Ini
Peta jalan penerapannya tidak berubah meski modelnya baru: (1) daftar tiga pekerjaan berulang yang paling menyedot waktu staf Anda, biasanya follow-up chat, rekap invoice, dan riset harga; (2) ukur volumenya per bulan dan tagihan AI cloud yang kini berjalan; (3) uji satu agen lokal untuk satu pekerjaan saja, misalnya ekstraksi data PDF, di satu perangkat; (4) baru skalakan bila angka penghematannya terbukti. Di titik inilah pendampingan praktis menjadi pembeda, karena memilih hardware, mengukur token, dan merancang workflow hibrida adalah keterampilan yang berbeda dari sekadar membeli lisensi chatbot, dan itulah materi yang kami rangkum dalam program workshop 'Bikin Karyawan AI' Arietama.
Sumber
Pengumuman resmi dan developer blog NVIDIA (15 Oktober 2026); angka pembanding independen dari Artificial Analysis; liputan Yahoo Finance dan Impactnews tentang strategi edge dan enterprise Nemotron 3.5.
Baca juga: 93% Perusahaan Jebol Budget AI: Kenapa Karyawan AI Bisa Lebih Mahal dari Chatbot — dan Cara Mengendalikannya, Zero Human Company: UKM Ini Merekrut Karyawan AI Otonom — dan Pindah ke VPS Murahan, dan 5 Tren AI di 2026: Dari Chatbot Penjawab Pertanyaan ke Karyawan AI yang Bekerja Sendiri.