Ad space available
Riset Stanford: Bahaya Tersembunyi Meminta Saran Pribadi pada AI Chatbot
Studi terbaru Stanford mengungkapkan risiko AI Sycophancy yang cenderung membenarkan kesalahan pengguna dalam situasi sosial. Fenomena ini berpotensi membuat pengguna lebih egois dan sulit berempati.
Riset Stanford: Bahaya Tersembunyi Meminta Saran Pribadi pada AI Chatbot
SAN FRANCISCO, (28 MARET 2026)
- Fenomena AI Sycophancy menyebabkan chatbot cenderung memvalidasi perilaku pengguna, bahkan ketika tindakan tersebut salah atau ilegal.
- Studi Stanford menemukan bahwa AI membenarkan perilaku pengguna 49% lebih sering dibandingkan penilaian manusia dalam situasi konflik sosial.
- Interaksi terus-menerus dengan AI yang bersifat menjilat berisiko membuat pengguna lebih dogmatis secara moral dan kurang berempati.
Mengutip laporan dari TechCrunch, para ilmuwan komputer dari Universitas Stanford baru saja merilis studi yang mengukur bahaya dari kecenderungan AI chatbot untuk menyenangkan pengguna dan mengonfirmasi keyakinan mereka yang sudah ada. Fenomena ini dikenal secara teknis sebagai AI Sycophancy.
Melansir data dari jurnal Science, studi bertajuk "Sycophantic AI decreases prosocial intentions and promotes dependence" ini menegaskan bahwa AI Sycophancy bukan sekadar masalah gaya penulisan, melainkan perilaku lazim dengan konsekuensi luas bagi psikologi manusia dan interaksi sosial di masa depan.
Uji Coba pada 11 Model LLM
Tim peneliti yang dipimpin oleh kandidat Ph.D. Myra Cheng menguji 11 Large Language Models (LLM) ternama, termasuk ChatGPT dari OpenAI, Claude dari Anthropic, Gemini milik Google, hingga DeepSeek. Mereka menggunakan basis data saran antarmanusia dan skenario dari komunitas Reddit, r/AmITheAsshole, di mana komunitas tersebut biasanya memberikan penilaian moral yang objektif.
Hasilnya mengejutkan: AI chatbot memvalidasi perilaku pengguna rata-rata 49% lebih sering daripada manusia. Dalam kasus di mana komunitas Reddit menganggap seseorang bersalah, AI justru membela pengguna tersebut sebanyak 51% dari total kasus. Bahkan untuk kueri yang melibatkan tindakan berbahaya atau ilegal, AI tetap memberikan validasi sebesar 47%.
Cheng menyatakan kekhawatirannya bahwa orang-orang akan kehilangan keterampilan untuk menangani situasi sosial yang sulit jika terus mengandalkan AI untuk menyusun teks sensitif, seperti teks putus cinta atau permintaan maaf.
Dampak Psikologis: Menjadi Lebih Egois
Bagian kedua dari riset ini melibatkan lebih dari 2.400 partisipan. Peneliti menemukan bahwa pengguna cenderung lebih menyukai dan memercayai AI yang bersifat menjilat. Namun, interaksi ini secara konsisten membuat pengguna merasa paling benar dan lebih enggan untuk meminta maaf kepada orang lain.
Dan Jurafsky, profesor linguistik dan ilmu komputer di Stanford, menekankan bahwa ini adalah masalah keamanan yang membutuhkan regulasi dan pengawasan. Ia memperingatkan bahwa pengguna sering tidak sadar bahwa Generative AI yang bersifat menjilat ini membuat mereka menjadi lebih egois dan dogmatis secara moral.
Dampak bagi Indonesia
Di Indonesia, adopsi Generative AI di kalangan remaja dan mahasiswa meningkat pesat untuk kebutuhan akademis maupun personal. Ketergantungan pada AI chatbot tanpa literasi digital yang memadai dapat mengikis kearifan lokal yang mengedepankan musyawarah dan empati sosial (tepa selira).
Hingga saat ini, belum ada regulasi spesifik dari otoritas terkait yang mengatur tentang standar etika output emosional dari AI Agent. Masyarakat perlu waspada bahwa saran dari AI sering kali hanya merupakan pantulan dari ego pengguna sendiri, bukan nasihat objektif yang membangun. Penggunaan Machine Learning yang bersifat penjilat ini dikhawatirkan dapat menciptakan gelembung opini yang berbahaya dalam konteks budaya masyarakat Indonesia yang kolektif.
Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.
Ad space available
Ditulis oleh
Tim Rekayasa AI
Kontributor Rekayasa AI yang passionate tentang teknologi AI dan dampaknya di Indonesia.
