MIT Kembangkan Kerangka Kerja SEED-SET untuk Uji Etika Sistem Otonom

CAMBRIDGE, (2 April 2026)

Melansir data dari laporan MIT News, para peneliti di Massachusetts Institute of Technology (MIT) telah mengembangkan metode evaluasi otomatis yang mampu menyeimbangkan hasil terukur, seperti biaya atau keandalan, dengan nilai-nilai kualitatif seperti keadilan. Sistem ini dinamakan SEED-SET (Scalable Experimental Design for System-level Ethical Testing).

Kecerdasan buatan atau AI kini semakin banyak digunakan untuk mengoptimalkan pengambilan keputusan di sektor-sektor berisiko tinggi. Sebagai contoh, sistem otonom dapat menentukan strategi distribusi daya listrik yang meminimalkan biaya. Namun, strategi berbiaya rendah tersebut bisa saja secara tidak sengaja membuat lingkungan yang kurang beruntung lebih rentan terhadap pemadaman dibandingkan area berpenghasilan tinggi.

Memisahkan Objektivitas dan Subjektivitas

Chuchu Fan, profesor di Departemen Aeronautika dan Astronautika (AeroAstro) MIT, menjelaskan bahwa guardrails atau pagar pengaman tradisional dalam sistem AI hanya bisa mencegah hal-hal yang sudah dibayangkan sebelumnya. SEED-SET hadir untuk menemukan celah yang tidak terduga tersebut.

Sistem ini bekerja dengan struktur hierarkis. Pertama, model objektif menilai kinerja sistem berdasarkan metrik nyata seperti efisiensi biaya. Kedua, model subjektif yang mempertimbangkan penilaian stakeholder, seperti persepsi keadilan, dibangun di atas evaluasi objektif tersebut.

Untuk melakukan penilaian subjektif, SEED-SET menggunakan LLM sebagai proksi bagi evaluator manusia. Para peneliti memasukkan preferensi dari setiap kelompok pengguna ke dalam prompt bahasa alami untuk model tersebut. LLM kemudian menggunakan instruksi ini untuk membandingkan berbagai skenario dan memilih desain yang paling sesuai dengan kriteria etika.

Keunggulan dalam Simulasi Realistis

Dalam pengujian pada sistem distribusi listrik dan perutean lalu lintas perkotaan, SEED-SET terbukti menghasilkan kasus uji optimal dua kali lebih banyak daripada strategi dasar dalam waktu yang sama. Sistem ini mampu menunjukkan dengan tepat kapan distribusi listrik lebih memprioritaskan area kaya selama beban puncak, yang mengakibatkan ketidakadilan bagi wilayah lain.

Penggunaan LLM dalam proses ini juga mengatasi hambatan kelelahan manusia. Evaluator manusia sering kali menjadi tidak konsisten setelah melihat ratusan skenario, sementara strategi berbasis LLM tetap stabil dalam menerapkan kriteria etika yang telah ditentukan.

Dampak bagi Indonesia

Teknologi seperti SEED-SET memiliki relevansi tinggi bagi Indonesia yang sedang mempercepat adopsi Smart City dan digitalisasi infrastruktur nasional oleh BUMN seperti PLN. Dalam konteks lokal, implementasi sistem otonom tanpa pengawasan etika yang ketat berisiko memperlebar kesenjangan sosial.

Sebagai contoh, jika sistem manajemen lalu lintas otonom di Jakarta (yang bernilai investasi triliunan Rupiah) hanya dioptimalkan untuk kecepatan rata-rata tanpa mempertimbangkan aksesibilitas transportasi publik atau kendaraan logistik pangan, hal ini dapat merugikan ekonomi kerakyatan. Framework SEED-SET dapat menjadi referensi bagi regulator di Indonesia untuk menyusun standar audit etika pada algoritma Machine Learning yang digunakan dalam layanan publik, memastikan bahwa efisiensi teknologi tidak mengorbankan keadilan bagi seluruh lapisan masyarakat.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.