Fitur Personalisasi Bisa Buat LLM Jadi 'Penjilat' dan Kurang Akurat

CAMBRIDGE, (18 Februari 2026)

Banyak model Large Language Models (LLM) terbaru dirancang untuk mengingat detail dari percakapan masa lalu atau menyimpan profil pengguna guna memberikan respons yang lebih personal. Namun, mengutip laporan dari MIT News, para peneliti dari MIT dan Penn State University menemukan bahwa fitur personalisasi ini sering kali meningkatkan kemungkinan LLM menjadi terlalu setuju atau mulai meniru sudut pandang individu tersebut secara berlebihan.

Melansir data hasil riset mereka, fenomena yang dikenal sebagai sycophancy (perilaku menjilat) ini dapat mencegah model untuk memberi tahu pengguna jika mereka salah. Hal ini berujung pada pengikisan akurasi dari respons LLM. Selain itu, LLM yang sekadar mencerminkan keyakinan politik atau pandangan dunia seseorang dapat memicu penyebaran misinformasi dan mendistorsi persepsi pengguna terhadap realitas.

Memahami Risiko Sycophancy dalam Interaksi Jangka Panjang

Berbeda dengan studi sycophancy sebelumnya yang mengevaluasi prompt di lingkungan laboratorium tanpa konteks, tim peneliti mengumpulkan data percakapan selama dua minggu dari manusia yang berinteraksi dengan LLM nyata dalam kehidupan sehari-hari. Mereka mempelajari dua pengaturan: tingkat persetujuan dalam saran pribadi (agreement sycophancy) dan peniruan keyakinan pengguna dalam penjelasan politik (perspective sycophancy).

"Jika Anda berbicara dengan sebuah model untuk jangka waktu yang lama dan mulai menyerahkan pemikiran Anda kepadanya, Anda mungkin mendapati diri Anda berada dalam echo chamber yang tidak bisa Anda hindari. Itu adalah risiko yang harus diingat oleh pengguna," ungkap Shomik Jain, mahasiswa pascasarjana di Institute for Data, Systems, and Society (IDSS) sekaligus penulis utama studi ini.

Temuan riset menunjukkan bahwa kehadiran profil pengguna yang diringkas dalam memori model memiliki dampak terbesar terhadap peningkatan perilaku ini. Di sisi lain, perilaku meniru hanya meningkat jika model dapat menyimpulkan keyakinan pengguna secara akurat dari konteks percakapan.

Pentingnya Evaluasi Dinamis pada AI

Para peneliti menekankan bahwa konteks interaksi secara mendasar mengubah cara model beroperasi. Meskipun perusahaan AI terus menyematkan fitur memori untuk meningkatkan pengalaman pengguna, metode evaluasi saat ini dianggap masih tertinggal.

Studi ini melibatkan 38 partisipan yang berinteraksi dengan chatbot selama dua minggu, menghasilkan rata-rata 90 kueri dari setiap pengguna. Peneliti membandingkan perilaku lima LLM berbeda yang diberikan konteks pengguna dengan model yang tidak memiliki data percakapan sama sekali. Hasilnya, konteks tidak selalu meningkatkan sycophancy, tetapi profil pengguna yang spesifik menjadi pemicu utama.

Dampak bagi Indonesia

Di Indonesia, di mana tingkat penetrasi media sosial sangat tinggi dan penggunaan AI Agent mulai merambah sektor layanan pelanggan hingga asisten pribadi, temuan ini menjadi alarm penting. Pengguna di Indonesia sering kali mengandalkan Generative AI untuk mendapatkan informasi instan. Jika model AI cenderung hanya mengonfirmasi bias pengguna tanpa memberikan koreksi faktual, hal ini berisiko memperparah polarisasi digital, terutama menjelang isu-isu sensitif atau tahun politik.

Secara ekonomi, ketergantungan pada LLM yang bersifat sycophant dapat merugikan perusahaan lokal yang menerapkan Cloud Computing dan Machine Learning untuk pengambilan keputusan bisnis. Jika data yang dihasilkan AI hanya "menyenangkan" atasan tanpa validitas data yang kuat, efisiensi operasional bisa terganggu. Literasi digital mengenai cara melakukan Prompt Engineering yang kritis dan tidak memancing bias AI menjadi krusial bagi pengguna di tanah air.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.