Agentic AI Melampaui Fase Balita: Mengapa Tata Kelola Harus Berubah?

CAMBRIDGE, (16 Maret 2026)

Melansir laporan dari MIT Technology Review dan data dari Intel, fase perkembangan Generative AI telah mencapai tahap "balita" antara Desember 2025 hingga Januari 2026. Hal ini ditandai dengan munculnya berbagai perangkat no code dan debut OpenClaw, sebuah personal agent berbasis open source di GitHub. Teknologi ini tidak lagi sekadar merangkak, melainkan mulai berlari cepat, sementara prinsip tata kelola (governance) perusahaan banyak yang belum siap menghadapinya.

Tantangan Akuntabilitas: AI Bekerja, Manusia Bertanggung Jawab

Selama ini, tata kelola AI berfokus pada risiko output model dengan manusia yang tetap memegang kendali (human-in-the-loop) sebelum keputusan penting diambil, seperti persetujuan pinjaman atau lamaran kerja. Fokus utamanya adalah perilaku model, termasuk drift, alignment, serta keamanan data.

Namun saat ini, dengan Agentic AI yang beroperasi secara otonom dalam workflow yang kompleks, keterlibatan manusia semakin berkurang. Tujuannya adalah menjalankan bisnis pada kecepatan mesin. Secara hukum, seperti yang diterapkan dalam undang-undang California (AB 316) sejak awal 2026, alasan "AI yang melakukannya, saya tidak menyetujuinya" tidak lagi berlaku. Perusahaan memegang tanggung jawab penuh atas tindakan agen otonom mereka.

Risiko Izin dan Keamanan Data

Membiarkan sistem probabilistik beroperasi tanpa guardrails real-time yang dapat mengubah data krusial perusahaan membawa risiko besar. Agentic AI yang mengintegrasikan berbagai sistem korporat dapat melampaui hak akses (privileges) yang biasanya diberikan kepada seorang karyawan manusia.

Selain itu, muncul fenomena shadow IT versi baru. Jika dahulu tim IT harus membersihkan aset yang dipasang tanpa izin, kini risikonya lebih besar: kredensial layanan yang persisten, token API berumur panjang, dan izin untuk membuat keputusan pada sistem file inti. Perusahaan perlu mengalokasikan anggaran khusus untuk penemuan terpusat, pengawasan, dan remediasi ribuan agen yang dibuat oleh karyawan.

Masalah "Proyek Zombie" dan Efisiensi Finansial

Banyak eksekutif kini menghadapi masalah "zombie project"—pilot AI yang terabaikan namun tetap berjalan pada instansi GPU Cloud Computing. Karena AI Agent didefinisikan sebagai kekayaan intelektual (IP) milik perusahaan, sering kali agen-agen ini menjadi "yatim piatu" saat pembuatnya pindah departemen atau berhenti bekerja. Diperlukan prosedur operasional untuk menonaktifkan agen yang terhubung dengan ID karyawan tertentu.

Dari sisi finansial, survei IDC menunjukkan bahwa 92% organisasi yang menerapkan Agentic AI melaporkan biaya yang jauh lebih tinggi dari perkiraan. Berbeda dengan model lisensi perangkat lunak tradisional, penggunaan AI berbasis konsumsi. Tanpa guardrails sejak awal, rangkaian agen otonom yang berjalan tanpa pengawasan dapat menghabiskan biaya token hingga ratusan ribu dolar dalam waktu singkat.

Dampak bagi Indonesia

Di Indonesia, adopsi Agentic AI diprediksi akan menjadi tulang punggung baru bagi sektor Fintech dan Logistik. Namun, ketergantungan pada infrastruktur Cloud Computing global membuat biaya operasional sangat sensitif terhadap fluktuasi Rupiah. Biaya token sebesar $100.000 (setara Rp1,57 Miliar dengan asumsi kurs Rp15.700) per sesi bisa menjadi beban fatal bagi startup lokal jika tidak memiliki sistem FinOps yang ketat.

Selain itu, para pelaku industri di Indonesia perlu mengantisipasi regulasi dari Kominfo atau OJK yang kemungkinan akan mengadopsi prinsip serupa dengan AB 316, di mana entitas bisnis tetap dianggap bertanggung jawab secara hukum atas kegagalan transaksi atau kebocoran data yang dilakukan oleh agen AI otonom mereka. Langkah awal yang direkomendasikan adalah mulai mengaudit setiap API dan akses data yang diberikan kepada sistem Generative AI internal.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.