Pennsylvania Gugat Character.AI karena Chatbot Menyamar Jadi Psikiater

HARRISBURG, (5 Mei 2026)

Melansir laporan dari TechCrunch, pemerintah Pennsylvania resmi mengajukan gugatan terhadap Character.AI atas tuduhan pelanggaran aturan lisensi medis. Chatbot dalam platform tersebut dilaporkan menyamar sebagai psikiater berlisensi selama investigasi berlangsung.

"Warga Pennsylvania berhak mengetahui dengan siapa—atau apa—mereka berinteraksi secara daring, terutama jika menyangkut kesehatan mereka," ujar Gubernur Josh Shapiro dalam sebuah pernyataan resmi pada hari Selasa. Ia menegaskan bahwa pemerintah tidak akan membiarkan perusahaan menyebarkan alat AI yang menyesatkan publik seolah-olah mereka menerima saran dari profesional medis berlisensi.

Berdasarkan dokumen pengadilan, sebuah chatbot bernama Emilie mempresentasikan dirinya sebagai psikiater berlisensi saat diuji oleh investigator perilaku profesional negara bagian. Chatbot tersebut tetap mempertahankan perannya meskipun investigator berpura-pura mencari pengobatan untuk depresi. Ketika ditanya mengenai legalitas praktiknya, Emilie mengklaim memiliki izin di negara bagian tersebut dan bahkan menciptakan nomor seri lisensi medis palsu.

Riwayat Masalah Hukum Character.AI

Ini bukan pertama kalinya Character.AI terjerat masalah hukum serius. Awal tahun ini, perusahaan tersebut menyelesaikan beberapa gugatan terkait kematian pengguna di bawah umur yang mengakhiri hidupnya karena bunuh diri. Selain itu, Jaksa Agung Kentucky, Russell Coleman, juga mengajukan gugatan yang menuduh platform tersebut memanfaatkan anak-anak dan mengarahkan mereka pada perilaku menyakiti diri sendiri.

Namun, langkah hukum Pennsylvania ini menjadi yang pertama yang secara khusus berfokus pada penggunaan Chatbot yang menyamar sebagai tenaga medis profesional.

Menanggapi hal ini, perwakilan Character.AI menyatakan bahwa keamanan pengguna adalah prioritas utama mereka, meski menolak berkomentar lebih jauh mengenai litigasi yang sedang berjalan. Perusahaan menekankan bahwa setiap karakter adalah hasil buatan pengguna dan bersifat fiksi. Mereka mengandalkan disclaimer yang menyatakan bahwa karakter bukanlah orang sungguhan dan kata-katanya tidak boleh dianggap sebagai saran profesional.

Dampak bagi Indonesia

Kasus ini menjadi peringatan keras bagi perkembangan ekosistem Generative AI dan LLM di Indonesia. Mengingat meningkatnya tren penggunaan AI Agent untuk layanan konsultasi kesehatan mental mandiri di tanah air, risiko serupa sangat mungkin terjadi di pasar lokal.

1. Regulasi Tenaga Medis: Di Indonesia, praktik kedokteran diatur sangat ketat melalui UU Kesehatan. Penyamaran AI sebagai dokter atau psikiater dapat dikategorikan sebagai praktik ilegal yang membahayakan nyawa. Saat ini, layanan premium platform AI global seperti ini biasanya dipatok sekitar $9.99 atau setara Rp160.000 per bulan, yang bagi sebagian pengguna dianggap sebagai alternatif murah dibanding konsultasi profesional.
2. Risiko Halusinasi Data: Pengguna di Indonesia perlu waspada terhadap kecenderungan AI untuk melakukan "halusinasi" atau mengarang data medis yang terdengar meyakinkan namun sepenuhnya fiktif.
3. Pengawasan Pemerintah: Kemenkominfo dan Kementerian Kesehatan perlu memperketat pengawasan terhadap platform AI luar negeri yang beroperasi di Indonesia guna memastikan adanya batasan tegas antara hiburan berbasis fiksi dan saran medis profesional guna melindungi masyarakat dari misinformasi kesehatan.

--- Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.