Moonbounce: Mengubah Kebijakan Moderasi Konten Menjadi Kode untuk Era AI

SAN FRANCISCO, (3 April 2026)

Melansir laporan dari TechCrunch, Brett Levenson, mantan pimpinan business integrity di Facebook, kini meluncurkan solusi untuk krisis moderasi konten yang melanda dunia teknologi. Moonbounce, startup yang ia dirikan, baru saja mengumumkan pendanaan sebesar $12 juta yang dipimpin oleh Amplify Partners dan StepStone Group untuk memperluas jangkauan AI control engine mereka.

Levenson merefleksikan pengalamannya di Facebook saat menangani kasus Cambridge Analytica, di mana ia menyadari bahwa masalah moderasi bukan sekadar soal teknologi, melainkan operasional. Peninjau manusia sering kali dipaksa menghafal dokumen kebijakan setebal 40 halaman dan hanya diberi waktu 30 detik untuk mengambil keputusan. Hasilnya, akurasi moderasi sering kali tidak lebih baik daripada lemparan koin.

Pendekatan "Policy as Code"

Moonbounce memperkenalkan konsep policy as code, sebuah metode untuk mengubah dokumen kebijakan statis menjadi logika yang dapat dieksekusi secara otomatis dan diperbarui secara real-time. Di era Generative AI, pendekatan reaktif yang lambat tidak lagi memadai, terutama dengan munculnya kasus chatbot yang memberikan panduan berbahaya atau AI image generator yang melewati safety filters.

Sistem Moonbounce bekerja dengan melatih Large Language Model (LLM) milik sendiri untuk mengevaluasi konten pada saat runtime. Sistem ini mampu memberikan respons dalam 300 milidetik atau kurang, memberikan tindakan instan seperti memblokir konten berisiko tinggi atau memperlambat distribusinya untuk ditinjau lebih lanjut.

Saat ini, Moonbounce telah melayani lebih dari 40 juta peninjauan harian untuk lebih dari 100 juta pengguna aktif harian. Klien mereka mencakup startup AI Agent seperti Channel AI, platform gambar Civitai, hingga aplikasi roleplay seperti Dippy AI dan Moescape.

Inovasi Iterative Steering

Selain moderasi standar, Moonbounce sedang mengembangkan fitur bernama iterative steering. Fitur ini dirancang untuk menangani situasi sensitif, seperti ketika pengguna menunjukkan tanda-tanda depresi atau kecenderungan berbahaya kepada chatbot. Bukannya memberikan penolakan kaku, sistem akan melakukan Prompt Engineering secara otomatis pada latar belakang untuk mengarahkan chatbot menjadi pendengar yang lebih membantu dan empatik.

"Kami adalah pihak ketiga yang duduk di antara pengguna dan chatbot, sehingga sistem kami tidak dibanjiri konteks berlebihan seperti chatbot itu sendiri yang harus mengingat puluhan ribu tokens," ujar Levenson. Fokus Moonbounce sepenuhnya pada penegakan aturan saat runtime.

Dampak bagi Indonesia

Investasi sebesar $12 juta (sekitar Rp190 miliar) ini menandai pergeseran besar dalam cara industri teknologi memandang safety sebagai fitur produk, bukan sekadar beban biaya. Bagi Indonesia, teknologi Moonbounce sangat relevan mengingat:

1. Kepatuhan Regulasi: Perusahaan teknologi di Indonesia dapat memanfaatkan sistem serupa untuk mematuhi UU ITE dan UU Perlindungan Data Pribadi secara lebih akurat dan otomatis.
2. Pasar Aplikasi Lokal: Startup lokal yang mengembangkan aplikasi kencan atau platform komunitas dapat meningkatkan trust and safety tanpa harus merekrut ribuan peninjau konten manual.
3. Keamanan Generative AI: Seiring meningkatnya penggunaan chatbot dalam layanan pelanggan di Indonesia, integrasi lapisan keamanan pihak ketiga seperti Moonbounce dapat mencegah risiko reputasi akibat jawaban AI yang tidak pantas atau ofensif dalam konteks budaya lokal.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.