Peneliti MIT Kembangkan "Humble AI": Sistem Pintar yang Berani Akui Ketidakpastian

CAMBRIDGE, (24 Maret 2026)

Melansir laporan resmi dari MIT News, tim ilmuwan internasional yang dipimpin oleh Massachusetts Institute of Technology (MIT) kini tengah merancang sistem Artificial Intelligence (AI) untuk diagnosis medis yang lebih kolaboratif. Berbeda dengan model konvensional, sistem ini bersifat "humble" atau rendah hati, di mana AI akan berterus terang jika tingkat keyakinan mereka terhadap suatu diagnosis atau rekomendasi pengobatan sedang rendah.

Para peneliti memperingatkan bahwa sistem AI yang ada saat ini sering kali memiliki risiko overconfidence. Hal ini berbahaya karena dapat mengarahkan dokter ke keputusan yang salah jika mereka menganggap saran AI sebagai kebenaran mutlak. Mengutip data dari BMJ Health and Care Informatics, dokter di unit gawat darurat cenderung mengikuti saran AI meskipun intuisi mereka berkata sebaliknya, terutama jika sistem tersebut menyajikan informasi dengan nada otoriter.

Transformasi AI: Dari Peramal Menjadi Pelatih

Leo Anthony Celi, peneliti senior di Institute for Medical Engineering and Science MIT sekaligus profesor di Harvard Medical School, menyatakan bahwa selama ini kita memperlakukan AI sebagai "peramal" (oracle).

"Kita bisa menggunakan AI sebagai pelatih atau co-pilot sejati. Hal ini tidak hanya meningkatkan kemampuan kita dalam mengambil informasi, tetapi juga meningkatkan agensi kita untuk menghubungkan berbagai titik data secara mandiri," ujar Celi.

Framework yang dikembangkan oleh konsorsium MIT Critical Data ini mencakup beberapa modul komputasi yang dapat diintegrasikan ke dalam sistem AI yang sudah ada. Salah satu komponen utamanya adalah Epistemic Virtue Score, sebuah metode untuk mengevaluasi kepastian model saat membuat prediksi diagnostik. Jika sistem mendeteksi bahwa bukti yang tersedia tidak memadai, AI akan menjeda proses dan meminta tes tambahan atau konsultasi dengan spesialis.

Mencegah Bias dalam Machine Learning

Selain masalah teknis, tim ini juga menyoroti masalah inklusivitas. Banyak model Machine Learning saat ini dilatih menggunakan data dari Amerika Serikat, seperti basis data MIMIC, yang mungkin tidak mencakup konteks masyarakat di wilayah lain atau kelompok minoritas.

Melalui lokakarya data, peneliti mendorong para ilmuwan untuk mempertanyakan dataset mereka: Apakah ada pasien yang eksklusi? Apakah data tersebut mencerminkan ketidakadilan struktural? Dengan pendekatan yang lebih "humble", AI diharapkan tidak hanya memberikan jawaban, tetapi juga memberi sinyal kapan jawaban tersebut harus disikapi dengan waspada.

Dampak bagi Indonesia

Kehadiran "Humble AI" memiliki relevansi tinggi bagi transformasi digital kesehatan di Indonesia, terutama dalam mendukung program SATUSEHAT milik Kemenkes. Implementasi teknologi ini dapat memberikan dampak signifikan:

1. Akurasi di Daerah Terpencil: Di wilayah dengan keterbatasan dokter spesialis, AI sering digunakan sebagai alat bantu diagnosis. Sistem yang berani mengakui ketidakpastian akan mencegah kesalahan fatal di Puskesmas atau RSUD yang memiliki fasilitas terbatas.
2. Regulasi dan Etika: Framework ini sejalan dengan kebutuhan regulasi Cybersecurity dan tata kelola data medis di Indonesia. Penggunaan AI yang transparan dapat meningkatkan kepercayaan masyarakat terhadap layanan Telemedicine.
3. Investasi Infrastruktur: Meskipun implementasi sistem AI canggih memerlukan investasi Cloud Computing dan Data Center lokal yang besar—dengan estimasi biaya infrastruktur mulai dari Rp 2 miliar hingga Rp 10 miliar untuk integrasi skala rumah sakit besar—penghematan dari pengurangan risiko malpraktik akan jauh lebih bernilai secara ekonomi.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.