NVIDIA Rilis Nemotron 3.5 Lightning, AI Cepat untuk Tugas Berat

NVIDIA Nemotorn 3.5 Lightning Hadir untuk AI yang Lebih Efisien

teknotera – Nvidia kembali memperluas persaingan di industri kecerdasan buatan (AI) dengan meluncurkan Nemotron 3.5 Lightning. Model baru ini membawa pendekatan berbeda karena NVIDIA tidak hanya mengejar kemampuan penalaran tinggi, tetapi juga ingin membuat sistem AI bekerja lebih cepat dan efisien untuk berbagai tugas yang berjalan terus-menerus.

NVIDIA memperkenalkan Nemotron 3.5 Lightning pada 11 Agustus 2026 sebagai model open yang dirancang untuk mendukung agentic AI. Model tersebut menyasar sistem AI yang mampu menjalankan rangkaian tugas secara mandiri, menggunakan berbagai alat, memproses informasi, hingga menyelesaikan pekerjaan tertentu tanpa harus selalu menunggu instruksi manusia.

Menariknya, NVIDIA tidak merancang Lightning sebagai model yang harus menangani seluruh pekerjaan AI sendirian. Perusahaan justru menempatkannya sebagai model khusus yang dapat bekerja bersama model lain dalam sebuah sistem AI.

Pendekatan tersebut memungkinkan perusahaan menggunakan model berukuran besar hanya ketika sebuah pekerjaan membutuhkan penalaran kompleks. Untuk tugas rutin dengan volume tinggi, sistem dapat mengandalkan Nemotron 3.5 Lightning yang lebih ringan dan cepat.

Nemotron 3.5 Lightning Punya 30 Miliar Parameter

Secara teknis, Nemotron 3.5 Lightning memiliki 30 miliar parameter dan menggunakan arsitektur Mixture-of-Experts (MoE). Arsitektur ini memungkinkan model memilih bagian tertentu dari jaringan untuk mengerjakan sebuah permintaan sehingga sistem tidak harus menjalankan seluruh kapasitas model pada setiap proses.

Konsep tersebut menjadi penting dalam pengembangan agentic AI. Agen AI biasanya tidak hanya menghasilkan satu jawaban. Sistem dapat melakukan banyak langkah seperti membaca data, menggunakan tool, mengecek hasil, memperbaiki kesalahan, kemudian melanjutkan proses berikutnya.

Jika perusahaan menggunakan model berkapasitas sangat besar untuk setiap langkah, biaya komputasi dan waktu pemrosesan dapat meningkat dengan cepat. Nemotron 3.5 Lightning mencoba mengatasi masalah tersebut dengan menyediakan model yang lebih efisien untuk pekerjaan yang membutuhkan respons cepat.

NVIDIA mengklaim Lightning mampu menghasilkan output hingga empat kali lebih cepat dibandingkan model lain di kelasnya. Perusahaan juga menyebut model tersebut dapat mempercepat penyelesaian tugas agentic hingga 30 persen dibandingkan model sekelas. Angka tersebut berasal dari pengujian yang dilakukan NVIDIA melalui PinchBench.

Bukan untuk Menggantikan Semua Model AI

Kehadiran Nemotron 3.5 Lightning menunjukkan perubahan cara perusahaan membangun sistem AI. Alih-alih menggunakan satu model untuk seluruh kebutuhan, perusahaan dapat menggabungkan beberapa model berdasarkan jenis pekerjaan.

Sebagai contoh, sebuah agen AI mungkin membutuhkan model berkemampuan tinggi untuk menyusun rencana atau melakukan penalaran kompleks. Setelah itu, sistem dapat mengalihkan pekerjaan sederhana seperti pemeriksaan kode, pemanggilan tool, pemantauan peringatan keamanan, atau menjawab pertanyaan pelanggan kepada model yang lebih ringan.

NVIDIA menyebut pendekatan tersebut sebagai systems of models. Dalam konsep ini, setiap model memiliki peran masing-masing sesuai kemampuan dan kebutuhan komputasi. Model berkapasitas besar menangani pekerjaan yang membutuhkan kecerdasan tinggi, sedangkan model yang lebih kecil mengerjakan tugas berulang dengan volume besar.

Strategi tersebut juga dapat membantu perusahaan mengendalikan biaya operasional. Tidak semua permintaan pengguna membutuhkan model AI paling mahal. Dengan memilih model yang sesuai, perusahaan dapat mengurangi penggunaan sumber daya tanpa harus mengorbankan kualitas untuk tugas yang memang membutuhkan kemampuan lebih tinggi.

NVIDIA Hadirkan NeMo Switchyard untuk Memilih Model

Bersamaan dengan Nemotron 3.5 Lightning, NVIDIA juga memperkenalkan NeMo Switchyard. Teknologi ini berfungsi sebagai sistem routing yang menentukan model AI mana yang paling sesuai untuk menangani sebuah permintaan.

Cara kerjanya cukup menarik. Ketika sebuah agen menerima tugas, Switchyard dapat mengarahkan permintaan tersebut ke model yang dianggap paling cocok berdasarkan kebutuhan seperti kualitas, kecepatan, biaya, atau kemampuan khusus.

Dengan mekanisme tersebut, pengembang tidak perlu membuat sistem routing dari awal. Mereka juga dapat menyesuaikan strategi routing sesuai kebutuhan perusahaan.

Misalnya, perusahaan dapat memprioritaskan kecepatan untuk pertanyaan sederhana. Untuk tugas yang membutuhkan penalaran mendalam, sistem dapat mengarahkannya ke model AI yang lebih kuat. Perusahaan juga dapat mengatur sistem berdasarkan pertimbangan biaya agar tidak terlalu sering menggunakan model kelas frontier.

NVIDIA mengembangkan Switchyard sebagai library open source. Teknologi tersebut juga dapat bekerja dengan berbagai model, termasuk model open, model proprietary, dan model NVIDIA.

Bisa Dikustomisasi untuk Kebutuhan Perusahaan

Salah satu keunggulan Nemotron 3.5 Lightning terletak pada kemampuan kustomisasinya. NVIDIA memungkinkan pengembang melakukan post-training menggunakan NVIDIA NeMo dengan data, tool, dan workflow milik perusahaan.

Kemampuan ini penting karena setiap perusahaan memiliki kebutuhan berbeda. Model AI untuk perusahaan keamanan siber tentu membutuhkan kemampuan yang berbeda dari model yang digunakan untuk pemeriksaan kode atau layanan hukum.

Dengan melakukan post-training, perusahaan dapat mengarahkan Lightning agar memahami pola pekerjaan yang lebih spesifik. NVIDIA juga menyediakan sejumlah data dan resep pelatihan yang dapat membantu pengembang melakukan proses tersebut.

Beberapa perusahaan telah menguji atau mengembangkan Lightning untuk kebutuhan khusus. NVIDIA menyebut CrowdStrike menggunakannya untuk keamanan siber, sementara Harvey memanfaatkannya untuk layanan hukum. CodeRabbit dan Baseten juga mengembangkan penggunaan Lightning untuk kebutuhan code review.

Hal ini menunjukkan bahwa NVIDIA ingin menjadikan Nemotron bukan hanya sebagai model AI siap pakai, tetapi juga sebagai fondasi yang dapat dikembangkan sesuai kebutuhan masing-masing organisasi.

Bisa Berjalan di Perangkat Lokal hingga Data Center

NVIDIA juga menonjolkan fleksibilitas deployment Nemotron 3.5 Lightning. Model tersebut dapat berjalan pada sejumlah perangkat dan infrastruktur NVIDIA, mulai dari PC berbasis RTX hingga sistem seperti DGX Spark, DGX Station, Jetson, workstation RTX PRO, data center, dan cloud.

Kemampuan menjalankan AI secara lokal atau on-premises memberikan keuntungan bagi perusahaan yang membutuhkan kontrol lebih besar terhadap data. Perusahaan dapat menjalankan tugas tertentu tanpa harus mengirim seluruh informasi ke layanan cloud eksternal.

Aspek tersebut menjadi semakin penting ketika perusahaan menggunakan AI untuk mengolah informasi internal, kode sumber, data pelanggan, dokumen hukum, atau informasi sensitif lainnya.

NVIDIA juga menekankan bahwa model ini cocok untuk tugas khusus dengan volume tinggi yang membutuhkan respons cepat. Dengan begitu, Lightning dapat berperan sebagai mesin kerja yang terus menjalankan tugas-tugas tertentu di belakang sistem AI yang lebih besar.

Masa Depan Agentic AI Mulai Bergeser ke Sistem Multi-Model

Peluncuran Nemotron 3.5 Lightning memperlihatkan arah perkembangan AI yang semakin mengutamakan efisiensi. Persaingan AI tidak lagi hanya berkutat pada pertanyaan model mana yang memiliki kemampuan penalaran paling tinggi.

Perusahaan kini juga perlu memikirkan biaya, kecepatan, konsumsi komputasi, privasi, dan kemampuan model untuk menjalankan tugas secara berkelanjutan.

Agentic AI menjadi salah satu alasan utama perubahan tersebut. Agen AI dapat menjalankan puluhan bahkan ratusan langkah dalam satu alur kerja. Jika setiap langkah menggunakan model paling besar, kebutuhan komputasi akan meningkat drastis.

Karena itu, sistem yang mampu memilih model berdasarkan tingkat kesulitan tugas dapat memberikan keuntungan besar. Nemotron 3.5 Lightning mengambil peran sebagai model cepat untuk pekerjaan khusus, sedangkan NeMo Switchyard membantu menentukan kapan model tersebut perlu digunakan dan kapan sistem membutuhkan model yang lebih kuat.

NVIDIA sendiri menyebut pengujian internal NeMo Switchyard menunjukkan potensi pengurangan biaya penyelesaian tugas hingga hampir sepertiga dibandingkan penggunaan Opus 4.8 secara tunggal, dengan tingkat akurasi yang tetap berada pada level frontier. Hasil tersebut merupakan klaim dari pengujian internal NVIDIA, sehingga performanya di lingkungan penggunaan yang berbeda dapat bervariasi.

Nemotron 3.5 Lightning Sudah Tersedia

NVIDIA menyediakan Nemotron 3.5 Lightning melalui sejumlah platform, termasuk Hugging Face, ModelScope, OpenRouter, serta build.nvidia.com sebagai layanan NVIDIA NIM. Model tersebut juga tersedia melalui berbagai mitra cloud dan platform inference. Sementara itu, NeMo Switchyard tersedia melalui GitHub.

Peluncuran ini memperkuat strategi NVIDIA dalam mengembangkan ekosistem open AI yang tidak hanya berisi model, tetapi juga dataset, tool, framework, dan sistem pendukung untuk membangun agen AI.

Bagi pengembang dan perusahaan, kehadiran Nemotron 3.5 Lightning menawarkan pilihan baru untuk menangani tugas AI berulang dengan lebih cepat dan efisien. Model ini tidak harus menggantikan model AI berukuran besar. Justru, NVIDIA ingin Lightning menjadi bagian dari sistem yang lebih luas, dengan setiap model mengerjakan tugas sesuai kemampuan masing-masing.

Dengan pendekatan tersebut, masa depan AI kemungkinan tidak hanya bergantung pada satu model superbesar. Sistem multi-model yang mampu memilih model paling tepat untuk setiap pekerjaan justru dapat menjadi salah satu fondasi penting dalam perkembangan agentic AI berikutnya.