Gimlet Labs Hadirkan Solusi Cerdas Atasi Bottleneck AI Inference Melalui Orkestrasi Multi-Silicon

SAN FRANCISCO, (23 Maret 2026)

Melansir laporan dari TechCrunch, startup pendatang baru Gimlet Labs baru saja menutup putaran pendanaan Seri A senilai $80 juta. Putaran ini dipimpin oleh Menlo Ventures untuk mendanai teknologi yang diklaim sebagai solusi elegan atas masalah bottleneck pada AI inference.

Didirikan oleh Zain Asgar, profesor pembantu di Stanford sekaligus pendiri startup Pixie yang sebelumnya diakuisisi New Relic, Gimlet Labs menciptakan apa yang mereka sebut sebagai "multi-silicon inference cloud". Ini merupakan sebuah software yang memungkinkan workload AI dijalankan secara bersamaan di berbagai jenis hardware, mulai dari CPU tradisional, GPU yang dioptimalkan untuk AI, hingga sistem high-memory.

"Kami pada dasarnya berjalan di atas hardware apa pun yang tersedia," ujar Asgar kepada TechCrunch. Menurut Tim Tully dari Menlo Ventures, sebuah AI Agent tunggal sering kali merantai beberapa langkah yang membutuhkan spesifikasi berbeda: Inference bersifat compute-bound; decode bersifat memory-bound; dan tool calls bersifat network-bound. Saat ini, belum ada satu chip pun yang unggul di semua lini tersebut.

Mengoptimalkan Sumber Daya yang Terbuang

Di tengah perlombaan pembangunan Data Center yang diperkirakan McKinsey akan menelan biaya hampir $7 triliun pada tahun 2030, Gimlet Labs menyoroti inefisiensi yang terjadi. Asgar menyatakan bahwa aplikasi saat ini hanya menggunakan hardware yang terpasang sekitar 15 hingga 30 persen dari kapasitas totalnya.

"Ini berarti ada ratusan miliar dolar yang terbuang karena sumber daya dibiarkan menganggur (idle)," tambahnya. Dengan orchestration software buatan Gimlet Labs, beban kerja agentic dipotong-potong sehingga dapat disebar secara simultan ke berbagai arsitektur chip. Perusahaan ini telah menjalin kemitraan strategis dengan raksasa semikonduktor seperti NVIDIA, AMD, Intel, ARM, Cerebras, dan d-Matrix.

Gimlet Labs menyediakan produknya baik sebagai software mandiri maupun melalui API ke layanan Gimlet Cloud. Target pasarnya bukanlah pengembang aplikasi AI biasa, melainkan laboratorium model AI skala besar dan pengelola Data Center raksasa.

Dampak bagi Indonesia

Inovasi dari Gimlet Labs ini memiliki relevansi yang sangat tinggi bagi ekosistem teknologi di Indonesia, terutama di tengah ambisi pemerintah untuk memperkuat infrastruktur digital. Pendanaan sebesar $80 juta ini (setara kurang lebih Rp1,26 triliun) menandai kepercayaan besar investor terhadap solusi efisiensi hardware.

Bagi sektor Data Center di Indonesia yang sedang tumbuh pesat di wilayah seperti Jabodetabek dan Batam, teknologi multi-silicon ini menawarkan cara untuk menekan biaya operasional yang tinggi. Mengingat kelangkaan dan harga GPU kelas atas seperti NVIDIA H100 yang sangat mahal di pasar lokal, kemampuan untuk memberdayakan hardware yang sudah ada—termasuk CPU dan chip dari vendor lain secara simultan—dapat mempercepat adopsi Generative AI di perusahaan-perusahaan lokal tanpa harus menunggu antrean pasokan chip terbaru. Selain itu, efisiensi energi yang ditawarkan (3x-10x lebih cepat dengan daya yang sama) sangat selaras dengan tren Green Data Center yang sedang didorong di Indonesia.

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.