Prediksi AI: Memahami Kekuatan dan Kontrol di Balik Algoritma

CAMBRIDGE, AS, (Rabu, 18 Februari 2026)

Sebagai manusia, kita secara fundamental adalah peramal. Terkadang cukup baik dalam melakukannya. Upaya melihat masa depan, baik melalui lensa pengalaman masa lalu maupun logika sebab-akibat, telah membantu kita berburu, menghindari perburuan, menanam tanaman, membangun ikatan sosial, dan secara umum bertahan hidup di dunia yang tidak memprioritaskan kelangsungan hidup kita. Bahkan, seiring berubahnya alat ramalan selama berabad-abad, dari daun teh hingga data sets, keyakinan kita bahwa masa depan dapat diketahui (dan karena itu dikendalikan) semakin kuat.

Mengutip laporan dari MIT Technology Review, hari ini, kita "dibanjiir" oleh prediksi yang begitu luas dan tak henti-hentinya sehingga kebanyakan dari kita hampir tidak menyadarinya. Saat ini, algorithms di beberapa remote server sibuk mencoba menebak kata saya berikutnya berdasarkan yang telah saya ketik. Jika Anda membaca ini secara online, serangkaian algorithms terpisah kemungkinan besar telah menyajikan iklan yang dianggap paling mungkin Anda klik.

Jika gagasan tentang lapisan prediktif yang ada di mana-mana, sebagian besar tidak terlihat, secara rahasia dicangkokkan ke dalam hidup Anda oleh sekelompok perusahaan yang haus keuntungan membuat Anda merasa tidak nyaman... yah, begitu juga saya.

Lalu, bagaimana semua ini bisa terjadi? Keinginan orang akan ramalan yang andal dapat dimengerti. Namun, tidak ada yang mendaftar untuk memiliki "oracle" algoritmik yang omnipresent memediasi setiap aspek kehidupan mereka. Tiga buku baru mencoba memahami dunia kita yang berfokus pada masa depan—bagaimana kita sampai di sini, dan apa arti perubahan ini. Masing-masing memiliki resepnya sendiri untuk menavigasi realitas baru ini, tetapi semuanya setuju pada satu hal: Prediksi pada akhirnya adalah tentang kekuasaan dan kontrol.

The Means of Prediction: How AI Really Works (and Who Benefits) oleh Maximilian Kasy

Dalam buku The Means of Prediction: How AI Really Works (and Who Benefits), ekonom Oxford Maximilian Kasy menjelaskan bagaimana sebagian besar prediksi dalam hidup kita didasarkan pada analisis statistik pola dalam large, labeled data sets—yang dalam lingkaran AI dikenal sebagai supervised learning. Setelah "dilatih" pada data sets tersebut, algorithms untuk supervised learning dapat disajikan dengan segala jenis informasi baru dan kemudian memberikan tebakan terbaik mereka mengenai hasil masa depan tertentu. Apakah Anda akan melanggar pembebasan bersyarat, melunasi hipotek, mendapatkan promosi jika dipekerjakan, berprestasi baik dalam ujian kuliah, atau bahkan berada di rumah Anda saat dibom? Semakin banyak, hidup kita dibentuk (dan, ya, terkadang dipersingkat) oleh jawaban Machine Learning untuk pertanyaan-pertanyaan ini.

Kasy berargumen bahwa konsekuensi ini bukanlah "tidak disengaja" atau sekadar masalah optimalisasi, melainkan cerminan dari cara kerja sistem yang dirancang. "Jika sebuah algorithm yang memilih apa yang Anda lihat di media sosial mempromosikan kemarahan, sehingga memaksimalkan keterlibatan dan klik iklan," tulisnya, "itu karena mempromosikan kemarahan itu bagus untuk keuntungan dari penjualan iklan." Hal yang sama berlaku untuk algorithm yang menolak kandidat pekerjaan "yang kemungkinan memiliki tanggung jawab perawatan keluarga di luar tempat kerja," dan yang "menyaring orang yang cenderung mengembangkan masalah kesehatan kronis atau disabilitas." Apa yang baik untuk laba perusahaan mungkin tidak baik untuk prospek pencarian kerja atau harapan hidup Anda.

Kasy berbeda dari kritikus lain karena ia tidak berpikir bahwa bekerja untuk menciptakan algorithms yang kurang bias dan lebih adil akan memperbaiki semua ini. Mencoba menyeimbangkan timbangan tidak dapat mengubah fakta bahwa predictive algorithms mengandalkan data masa lalu yang sering kali rasis, seksis, dan cacat dalam berbagai cara lain. Dan, katanya, insentif untuk keuntungan akan selalu mengalahkan upaya untuk menghilangkan kerugian. Satu-satunya cara untuk melawan ini adalah dengan kontrol demokratis yang luas atas apa yang Kasy sebut "sarana prediksi": data, computational infrastructure, keahlian teknis, dan energi.

The Irrational Decision: How We Gave Computers the Power to Choose for Us oleh Benjamin Recht

Mengapa kita mencapai titik di mana prediksi yang dimediasi Machine Learning lebih kurang tidak dapat dihindari? Jika Anda bertanya kepada Benjamin Recht, penulis The Irrational Decision: How We Gave Computers the Power to Choose for Us, ia mungkin akan mengatakan bahwa kesulitan kita saat ini banyak berkaitan dengan gagasan dan ideologi teori keputusan—atau yang oleh para ekonom disebut teori pilihan rasional. Recht, seorang profesor polimatik di Departemen Teknik Elektro dan Ilmu Komputer UC Berkeley, lebih suka istilah "rasionalitas matematis" untuk menggambarkan konsepsi sempit dan statistik yang memicu keinginan untuk membangun komputer, menginformasikan bagaimana mereka akhirnya akan bekerja, dan memengaruhi jenis masalah yang akan mereka kuasai dalam menyelesaikannya.

Sistem kepercayaan ini sudah ada sejak Pencerahan, tetapi dalam pandangan Recht, itu benar-benar mengakar pada akhir Perang Dunia II. Tidak ada yang lebih memfokuskan pikiran pada risiko dan pengambilan keputusan cepat selain perang, dan model matematis yang terbukti sangat berguna dalam perang melawan kekuatan Poros meyakinkan sekelompok ilmuwan dan ahli statistik terpilih bahwa mereka mungkin juga menjadi dasar logis untuk merancang komputer pertama. Demikianlah lahir gagasan tentang komputer sebagai ideal rational agent, sebuah Machine Learning yang mampu membuat keputusan optimal dengan mengukur ketidakpastian dan memaksimalkan utilitas.

Intuisi, pengalaman, dan penilaian menyerah, kata Recht, pada optimalisasi, teori permainan, dan statistical prediction. "Core algorithms yang dikembangkan pada periode ini mendorong keputusan otomatis dunia modern kita, baik dalam mengelola rantai pasokan, menjadwalkan waktu penerbangan, atau menempatkan iklan di umpan media sosial Anda," tulisnya. Dalam realitas yang digerakkan oleh optimalisasi ini, "setiap keputusan hidup diajukan seolah-olah itu adalah putaran di kasino imajiner, dan setiap argumen dapat direduksi menjadi biaya dan manfaat, cara dan tujuan."

Saat ini, rasionalitas matematis (mengenakan kulit manusianya) paling baik diwakili oleh orang-orang seperti jajak pendapat Nate Silver, psikolog Harvard Steven Pinker, dan berbagai oligarki Silicon Valley, kata Recht. Ini adalah orang-orang yang secara fundamental percaya bahwa dunia akan menjadi tempat yang lebih baik jika lebih banyak dari kita mengadopsi pola pikir analitis mereka dan belajar menimbang biaya dan manfaat, memperkirakan risiko, dan merencanakan secara optimal. Dengan kata lain, ini adalah orang-orang yang percaya kita semua harus membuat keputusan seperti komputer.

Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI oleh Carissa Véliz

Kita mungkin bisa mulai dengan mengingatkan kaum rasionalis bahwa setiap prediksi, komputasi atau sebaliknya, sebenarnya hanyalah sebuah keinginan—tetapi keinginan dengan kecenderungan kuat untuk terpenuhi dengan sendirinya. Gagasan inilah yang menggerakkan polemik Carissa Véliz yang luas dan luar biasa, Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI.

Seorang filsuf di Universitas Oxford, Véliz melihat prediksi sebagai "magnet yang membengkokkan realitas ke arahnya sendiri." Dia menulis, "Ketika kekuatan magnet cukup kuat, prediksi menjadi penyebab terwujudnya."

Ambil contoh Gordon Moore. Meskipun dia tidak muncul dalam Prophecy, dia cukup menonjol dalam sejarah rasionalitas matematis Recht. Sebagai salah satu pendiri raksasa teknologi Intel, Moore terkenal dengan prediksinya pada tahun 1965 bahwa kepadatan transistor dalam integrated circuits akan berlipat ganda setiap dua tahun. "Hukum Moore" ternyata benar, dan tetap benar hingga hari ini, meskipun tampaknya mulai kehabisan tenaga karena batas ukuran fisik atom silikon.

Satu cerita yang bisa Anda ceritakan tentang Hukum Moore adalah bahwa Gordon hanyalah orang yang berpandangan jauh ke depan. Artikel opininya yang sekarang klasik pada tahun 1965 "Cramming More Components onto Integrated Circuits," untuk majalah Electronics, hanya mengekstrapolasi apa arti tren komputasi bagi masa depan industri semiconductor.

Cerita lain—yang saya duga akan diceritakan Véliz—adalah bahwa Moore mengeluarkan prediksi yang terinformasi ke dunia, dan seluruh industri memiliki kepentingan kolektif untuk mewujudkannya. Seperti yang dijelaskan Recht, ada dan tetap ada insentif finansial yang jelas bagi perusahaan untuk membuat computer chips yang lebih cepat dan lebih kecil. Dan sementara industri kemungkinan telah menghabiskan miliaran dolar untuk menjaga Hukum Moore tetap hidup, tidak diragukan lagi industri tersebut telah mendapatkan keuntungan lebih banyak darinya. Hukum Moore adalah magnet yang sangat kuat.

Prediksi tidak hanya memiliki kebiasaan untuk mewujudkan dirinya sendiri, kata Véliz. Mereka juga dapat mengalihkan perhatian kita dari tantangan saat ini. Ketika seorang "AI boomer" menjanjikan bahwa Artificial General Intelligence akan menjadi masalah terakhir yang perlu dipecahkan umat manusia, itu tidak hanya membentuk cara kita berpikir tentang peran AI dalam hidup kita; itu juga mengalihkan perhatian kita dari masalah yang sangat nyata dan sangat mendesak saat ini—masalah yang dalam banyak kasus disebabkan oleh AI.

Dalam pengertian ini, pertanyaan seputar prediksi (Siapa yang membuatnya? Siapa yang memiliki hak untuk membuatnya?) juga secara fundamental tentang kekuasaan. Bukan kebetulan, kata Véliz, bahwa masyarakat yang paling bergantung pada prediksi juga cenderung menuju penindasan dan otoritarianisme. Prediksi adalah "penegasan preskriptif terselubung—mereka memberi tahu kita bagaimana harus bertindak," tulisnya. "Mereka adalah apa yang disebut para filsuf sebagai speech acts. Ketika kita percaya pada prediksi dan bertindak sesuai dengannya, itu mirip dengan mematuhi perintah."

Sebanyak perusahaan teknologi ingin kita percaya sebaliknya, teknologi bukanlah takdir. Manusia yang membuatnya dan memilih cara menggunakannya... atau tidak menggunakannya. Mungkin hal yang paling tepat (dan manusiawi) yang dapat kita lakukan dalam menghadapi semua prediksi harian yang tidak diundang dalam hidup kita adalah dengan menentangnya.

Dampak bagi Indonesia

Fenomena prediksi algorithms dan AI yang diulas dalam ketiga buku ini memiliki resonansi kuat di Indonesia, negara dengan adopsi digital yang masif. Dalam ekosistem digital Indonesia, algorithms telah menjadi bagian tak terpisahkan dari kehidupan sehari-hari dan dampaknya dapat dilihat di berbagai sektor:

1. E-commerce dan Konsumsi: Platform seperti Tokopedia, Shopee, dan Bukalapak menggunakan Machine Learning untuk mempersonalisasi rekomendasi produk, menyesuaikan harga, dan mendeteksi penipuan. Ini memengaruhi keputusan pembelian konsumen dan strategi bisnis UMKM. Keakuratan prediksi ini, yang berdasarkan data sets perilaku pengguna, secara langsung berdampak pada tingkat konversi dan pendapatan pedagang, yang seringkali merupakan usaha kecil.
2. Gig Economy dan Ketenagakerjaan: Aplikasi ride-hailing seperti Gojek dan Grab sangat bergantung pada algorithms untuk mencocokkan pengemudi dengan penumpang, mengoptimalkan rute, dan menerapkan surge pricing. Prediksi permintaan oleh AI secara langsung memengaruhi pendapatan mitra pengemudi dan kepuasan pelanggan. Bias dalam algorithms ini dapat menyebabkan disparitas pendapatan atau perlakuan yang tidak adil bagi sebagian mitra.
3. Fintech dan Inklusi Keuangan: Perusahaan Fintech di Indonesia semakin banyak menggunakan AI untuk credit scoring dan penilaian risiko pinjaman. Meskipun bertujuan untuk memperluas inklusi keuangan bagi mereka yang tidak memiliki akses ke layanan perbankan tradisional, algorithms ini dapat memperkenalkan bias yang tidak disengaja. Misalnya, data sets historis yang tidak lengkap atau bias dapat menyebabkan penolakan pinjaman bagi individu atau komunitas tertentu, memperburuk kesenjangan ekonomi.
4. Kebijakan Publik dan Data Governance: Inisiatif pemerintah seperti "Satu Data Indonesia" bertujuan untuk mengintegrasikan data sets dari berbagai kementerian/lembaga untuk analisis dan perumusan kebijakan yang lebih baik. Penggunaan predictive analytics di sektor publik, misalnya dalam alokasi bantuan sosial atau deteksi dini bencana, menghadirkan pertanyaan tentang transparansi algorithms, privasi data (Data Privacy), dan akuntabilitas pemerintah dalam pemanfaatan data ini.
5. Literasi Digital dan Kontrol Individu: Masyarakat Indonesia perlu meningkatkan literasi digital untuk memahami bagaimana algorithms memengaruhi keputusan mereka dan bagaimana data pribadi mereka digunakan. Regulasi seperti Undang-Undang Perlindungan Data Pribadi (UU PDP) menjadi instrumen penting untuk memberikan kendali lebih kepada individu atas "sarana prediksi" dan mencegah penyalahgunaan data oleh korporasi atau institusi.

Pengambilan keputusan yang didominasi AI memunculkan urgensi bagi Indonesia untuk menyeimbangkan inovasi teknologi dengan etika, keadilan, dan kedaulatan individu. Memahami bahwa prediksi adalah bentuk kekuatan adalah langkah pertama untuk memastikan bahwa AI melayani kesejahteraan sosial, bukan hanya keuntungan atau kontrol sepihak.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.