Startup Goodfire Rilis Silico, Tool Debug LLM untuk Kendali AI Lebih Presisi

SAN FRANCISCO, (30 April 2026)

Melansir laporan dari MIT Technology Review, startup yang berbasis di San Francisco, Goodfire, baru saja merilis tool baru bernama Silico. Tool ini memungkinkan para peneliti dan engineer untuk mengintip ke dalam model AI dan menyesuaikan parameters—pengaturan yang menentukan perilaku model—selama proses training. Inovasi ini memberikan kendali yang lebih presisi kepada pembuat model AI dibandingkan metode yang ada sebelumnya.

Goodfire mengklaim bahwa Silico adalah produk off-the-shelf pertama di jenisnya yang dapat membantu pengembang melakukan debugging di semua tahap pengembangan, mulai dari membangun dataset hingga proses training model. Misi perusahaan ini adalah mengubah proses pembangunan model AI yang selama ini dianggap seperti "alkimia" menjadi sebuah sains yang lebih terukur layaknya software engineering tradisional.

Membedah Mekanisme di Balik LLM

Selama ini, model bahasa besar seperti ChatGPT atau Gemini sering kali dianggap sebagai "kotak hitam". Meskipun mampu melakukan hal-hal luar biasa, tidak ada yang tahu pasti bagaimana atau mengapa mereka bekerja, yang membuat perbaikan bug atau pemblokiran perilaku yang tidak diinginkan menjadi sulit.

Goodfire adalah salah satu dari sedikit perusahaan, bersama pemimpin industri seperti Anthropic, OpenAI, dan Google DeepMind, yang memelopori teknik mechanistic interpretability. Teknik ini bertujuan memahami apa yang terjadi di dalam model AI saat menjalankan tugas dengan memetakan neurons dan jalur di antara mereka. Sebagai informasi, MIT Technology Review memilih mechanistic interpretability sebagai salah satu dari 10 Breakthrough Technologies of 2026.

CEO Goodfire, Eric Ho, menyatakan bahwa tujuan mereka adalah menghapus metode trial and error. "Kami ingin mengekspos tombol-tombol kendali sehingga Anda benar-benar dapat menggunakannya selama proses training," ungkap Ho.

Otomatisasi dengan AI Agent

Salah satu keunggulan Silico adalah penggunaan AI Agent untuk mengotomatiskan pekerjaan interpretasi yang kompleks. Menurut Ho, AI Agent saat ini sudah cukup kuat untuk melakukan tugas-tugas interpretasi yang dulunya harus dilakukan oleh manusia. Hal ini membuat platform ini layak digunakan oleh pelanggan secara mandiri tanpa harus memiliki tim riset khusus.

Dalam pengujian internal, Goodfire berhasil menggunakan teknik ini untuk mengurangi jumlah hallucination pada LLM. Mereka juga menemukan bahwa dengan meningkatkan aktivasi neurons tertentu yang terkait dengan transparansi, mereka dapat mengubah respon model dari tertutup menjadi lebih etis dan jujur.

Namun, pengamat seperti Leonard Bereska dari University of Amsterdam memberikan catatan. Meskipun Silico adalah alat yang berguna, ia berpendapat bahwa menyebutnya sebagai "engineering" mungkin sedikit berlebihan. "Pada kenyataannya, mereka hanya menambahkan presisi pada alkimia tersebut," ujarnya.

Dampak bagi Indonesia

Kehadiran Silico membawa dampak signifikan bagi ekosistem teknologi di Indonesia:

1. Demokratisasi Teknologi: Startup AI di Indonesia kini bisa memiliki kemampuan debugging setingkat OpenAI tanpa perlu merekrut talenta interpretability yang sangat langka dan mahal. Biaya penggunaan Silico (yang disesuaikan per kasus) diprediksi akan lebih efisien dibandingkan melakukan retraining model dari nol secara berulang-ulang.
2. Kepatuhan Regulasi: Seiring dengan upaya pemerintah Indonesia dalam merancang regulasi tata kelola AI, tool seperti Silico dapat membantu perusahaan lokal membuktikan transparansi model mereka (explainable AI), terutama di sektor krusial seperti Fintech dan layanan kesehatan.
3. Lokalitas dan Akurasi: Pengembang lokal dapat menggunakan Silico untuk melakukan debugging pada model open-source agar lebih selaras dengan nilai-nilai budaya Indonesia atau membuang bias data yang tidak relevan dengan konteks lokal.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.