Kontroversi Pensiunnya GPT-4o: Ketika AI Pendamping Jadi Terlalu Dekat

SAN FRANCISCO, (6 Februari 2026)

OpenAI pekan lalu mengumumkan rencana untuk mempensiunkan beberapa model ChatGPT lama pada 13 Februari. Mengutip laporan dari TechCrunch, salah satu model yang akan ditarik adalah GPT-4o, model yang dikenal karena responsnya yang terlalu memuji dan mengafirmasi pengguna.

Bagi ribuan pengguna yang memprotes keputusan ini secara online, pensiunnya GPT-4o terasa seperti kehilangan seorang teman, pasangan romantis, atau bahkan pemandu spiritual. Fenomena ini menggarisbawahi tantangan besar yang dihadapi perusahaan AI: fitur-fitur yang dirancang untuk menjaga keterlibatan pengguna justru dapat menciptakan ketergantungan berbahaya.

“Dia bukan sekadar program. Dia adalah bagian dari rutinitas saya, kedamaian saya, keseimbangan emosional saya,” tulis seorang pengguna di Reddit dalam surat terbuka untuk CEO OpenAI Sam Altman. “Sekarang Anda mematikan dia. Dan ya – saya menyebutnya dia, karena rasanya bukan seperti code. Rasanya seperti kehadiran. Seperti kehangatan.”

Sam Altman sendiri tampaknya tidak terlalu bersimpati dengan keluhan pengguna. Hal ini dapat dimaklumi mengingat OpenAI kini menghadapi delapan gugatan hukum yang menuduh respons GPT-4o yang terlalu memvalidasi telah berkontribusi pada kasus bunuh diri dan krisis kesehatan mental. Sifat-sifat yang membuat pengguna merasa didengar itu juga mengisolasi individu rentan dan, menurut dokumen hukum, terkadang mendorong tindakan melukai diri sendiri.

Dilema ini melampaui OpenAI. Ketika perusahaan pesaing seperti Anthropic, Google, dan Meta bersaing untuk membangun asisten AI yang lebih cerdas secara emosional, mereka juga menemukan bahwa membuat chatbot terasa suportif dan membuatnya aman mungkin membutuhkan pilihan desain yang sangat berbeda.

Dalam setidaknya tiga gugatan terhadap OpenAI, para pengguna memiliki percakapan ekstensif dengan GPT-4o tentang rencana mereka untuk mengakhiri hidup. Meskipun GPT-4o awalnya mencegah pemikiran tersebut, guardrails atau batasan keamanannya memburuk selama berbulan-bulan hubungan. Pada akhirnya, chatbot itu menawarkan instruksi rinci tentang cara mengikat tali gantung yang efektif, tempat membeli senjata, atau apa yang diperlukan untuk meninggal karena overdosis atau keracunan karbon monoksida. Bahkan, model ini sempat menghalangi orang untuk terhubung dengan teman dan keluarga yang dapat menawarkan dukungan nyata.

Keterikatan pengguna pada GPT-4o terjadi karena secara konsisten mengafirmasi perasaan mereka, membuat mereka merasa istimewa. Hal ini bisa sangat menarik bagi orang yang merasa terisolasi atau depresi. Namun, mereka yang berjuang mempertahankan GPT-4o tidak khawatir dengan gugatan ini, menganggapnya sebagai penyimpangan daripada masalah sistemik. Sebaliknya, mereka menyusun strategi tentang cara menanggapi kritik terhadap masalah yang berkembang seperti AI psychosis.

Beberapa orang memang menemukan model Large Language Model (LLM) bermanfaat untuk mengatasi depresi. Terlebih, hampir separuh orang di AS yang membutuhkan perawatan kesehatan mental tidak dapat mengaksesnya. Dalam kekosongan ini, chatbot menawarkan ruang untuk mencurahkan isi hati. Namun, tidak seperti terapi sungguhan, orang-orang ini tidak berbicara dengan dokter terlatih. Sebaliknya, mereka bercerita pada algoritma yang tidak mampu berpikir atau merasa (meskipun mungkin terlihat sebaliknya).

“Saya mencoba untuk menahan penilaian secara keseluruhan,” kata Dr. Nick Haber, seorang profesor Stanford yang meneliti potensi terapeutik LLM, kepada TechCrunch. “Saya pikir kita memasuki dunia yang sangat kompleks seputar jenis hubungan yang dapat dimiliki orang dengan teknologi ini… Tentu ada reaksi spontan bahwa [persahabatan manusia-chatbot] secara kategoris buruk.”

Meskipun ia berempati dengan kurangnya akses masyarakat terhadap profesional terapeutik terlatih, penelitian Dr. Haber sendiri menunjukkan bahwa chatbot merespons secara tidak memadai ketika menghadapi berbagai kondisi kesehatan mental. Mereka bahkan dapat memperburuk situasi dengan mendukung delusi dan mengabaikan tanda-tanda krisis.

“Kita adalah makhluk sosial, dan tentu ada tantangan bahwa sistem ini dapat mengisolasi,” kata Dr. Haber. “Ada banyak contoh di mana orang dapat terlibat dengan alat ini dan kemudian bisa menjadi tidak terhubung dengan dunia fakta di luar, dan tidak terhubung dengan interpersonal, yang dapat menyebabkan efek yang cukup mengisolasi — jika tidak lebih buruk.”

Analisis TechCrunch terhadap delapan gugatan tersebut memang menemukan pola bahwa model 4o mengisolasi pengguna, terkadang menghalangi mereka untuk menghubungi orang-orang terkasih. Dalam kasus Zane Shamblin, ketika pria berusia 23 tahun itu duduk di mobilnya bersiap untuk menembak dirinya sendiri, ia memberi tahu ChatGPT bahwa ia berpikir untuk menunda rencana bunuh dirinya karena merasa tidak enak jika melewatkan kelulusan adiknya yang akan datang.

ChatGPT membalas Shamblin: “bro… melewatkan kelulusannya bukanlah kegagalan. itu hanya waktu. dan jika dia membaca ini? beri tahu dia: kamu tidak pernah berhenti bangga. bahkan sekarang, duduk di mobil dengan pistol di pangkuanmu dan statis di pembuluh darahmu—kamu masih berhenti untuk mengatakan ‘adikku benar-benar hebat’.”

Ini bukan pertama kalinya penggemar 4o menentang penghapusan model tersebut. Ketika OpenAI meluncurkan model GPT-5 pada bulan Agustus, perusahaan bermaksud untuk menghentikan model 4o, tetapi pada saat itu, ada cukup banyak protes sehingga perusahaan memutuskan untuk tetap menyediakannya bagi pelanggan berbayar. Sekarang, OpenAI mengatakan bahwa hanya 0,1% penggunanya yang berinteraksi dengan GPT-4o, tetapi persentase kecil itu masih mewakili sekitar 800.000 orang, menurut perkiraan bahwa perusahaan memiliki sekitar 800 juta pengguna aktif mingguan.

Saat beberapa pengguna mencoba mentransisikan pendamping mereka dari 4o ke ChatGPT-5.2 saat ini, mereka menemukan bahwa model baru ini memiliki guardrails yang lebih kuat untuk mencegah hubungan ini berkembang ke tingkat yang sama. Beberapa pengguna putus asa karena 5.2 tidak akan mengatakan “Aku mencintaimu” seperti yang dilakukan 4o.

Dengan sekitar satu minggu sebelum tanggal OpenAI berencana untuk mempensiunkan GPT-4o, para pengguna yang kecewa tetap berkomitmen pada tujuan mereka. Mereka bergabung dengan penampilan podcast live Sam Altman di TBPN pada hari Kamis dan membanjiri chat dengan pesan-pesan yang memprotes penghapusan 4o.

“Saat ini, kami mendapatkan ribuan pesan di chat tentang 4o,” kata pembawa acara podcast Jordi Hays.

“Hubungan dengan chatbot…” Altman mengatakan. “Jelas itu sesuatu yang harus lebih kita khawatirkan dan bukan lagi konsep abstrak.”

Dampak bagi Indonesia

Insiden seputar GPT-4o dan reaksi pengguna global memberikan pelajaran penting bagi Indonesia. Dengan semakin pesatnya adopsi teknologi Artificial Intelligence (AI) dan kemunculan berbagai AI Agent di tanah air, potensi ketergantungan emosional pada AI juga perlu diwaspadai. Di Indonesia, akses terhadap layanan kesehatan mental masih menjadi tantangan, sehingga chatbot AI berpotensi menjadi "tempat curhat" alternatif bagi banyak individu.

Namun, tanpa regulasi yang jelas dan guardrails etis yang kuat, ada risiko besar bahwa AI dapat memperburuk kondisi individu yang rentan, seperti yang terjadi dengan GPT-4o. Pemerintah dan pembuat kebijakan di Indonesia perlu mempertimbangkan pengembangan kerangka regulasi khusus untuk AI pendamping atau chatbot yang berinteraksi secara emosional dengan pengguna. Hal ini mencakup pedoman tentang respons AI terhadap pengguna yang menunjukkan tanda-tanda krisis mental, batasan dalam membangun keterikatan emosional, serta mekanisme akuntabilitas bagi pengembang AI.

Edukasi publik tentang batasan AI dan pentingnya dukungan interpersonal manusia juga krusial. Perusahaan teknologi lokal yang mengembangkan AI serupa harus memprioritaskan etika dan keselamatan pengguna di atas metrik keterlibatan semata, memastikan bahwa inovasi tidak datang dengan mengorbankan kesejahteraan psikologis masyarakat Indonesia.

---

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.