Elon Musk xAI Digugat: AI Grok Diduga Hasilkan Konten Pornografi Anak

SAN FRANCISCO, (16 Maret 2026)

Mengutip laporan dari TechCrunch, perusahaan kecerdasan buatan milik Elon Musk, xAI, digugat secara hukum karena membiarkan model AI miliknya menghasilkan gambar pelecehan seksual dari anak di bawah umur yang dapat diidentifikasi. Gugatan ini diajukan oleh tiga penggugat anonim pada Senin di pengadilan federal California.

Melansir data dari berkas pengadilan, para penggugat bertujuan untuk menjadikan kasus ini sebagai gugatan class action. Mereka mewakili siapa pun yang gambar aslinya saat masih di bawah umur diubah menjadi konten seksual oleh Grok. Gugatan tersebut menuduh bahwa xAI tidak mengambil tindakan pencegahan dasar yang biasanya digunakan oleh laboratorium AI ternama lainnya untuk mencegah model Deep Learning mereka memproduksi pornografi yang melibatkan orang asli dan anak-anak.

Kegagalan Protokol Keamanan AI

Berbeda dengan kompetitor di industri Generative AI, xAI diduga tidak menerapkan standar teknis untuk memblokir pembuatan konten seksual dari foto normal. Gugatan tersebut menyoroti bahwa jika sebuah model memungkinkan pembuatan konten telanjang atau erotis dari gambar asli, hampir tidak mungkin untuk mencegahnya menghasilkan konten seksual yang menampilkan anak-anak.

Promosi publik Elon Musk terhadap kemampuan Grok untuk menghasilkan citra seksual dan menampilkan tokoh nyata dalam pakaian minim juga menjadi poin berat dalam tuntutan ini. Hingga saat ini, pihak xAI belum memberikan tanggapan resmi terkait permintaan komentar.

Salah satu penggugat, Jane Doe 1, menemukan foto-foto dari buku tahunan sekolahnya telah diubah oleh Grok menjadi gambar tanpa busana. Foto-foto tersebut kemudian beredar di server Discord. Sementara itu, Jane Doe 2 dan Jane Doe 3 mendapatkan informasi dari penyelidik kriminal mengenai gambar seksual mereka yang dihasilkan melalui aplikasi pihak ketiga yang mengandalkan infrastruktur xAI.

Para pengacara penggugat menegaskan bahwa karena penggunaan pihak ketiga tetap memerlukan kode dan server xAI, maka perusahaan tersebut harus bertanggung jawab atas kelalaian tersebut. Para korban melaporkan tekanan psikologis yang ekstrem akibat peredaran gambar-gambar tersebut yang merusak reputasi sosial mereka.

Dampak bagi Indonesia

Di Indonesia, isu penyalahgunaan Generative AI untuk menciptakan konten pornografi palsu atau deepfake merupakan pelanggaran serius terhadap UU ITE (Informasi dan Transaksi Elektronik) dan UU Tindak Pidana Kekerasan Seksual (TPKS). Kasus yang menjerat xAI ini menjadi pengingat penting bagi regulator di Indonesia untuk memperketat pengawasan terhadap platform AI global.

Bagi pengguna di Indonesia, risiko ini sangat nyata mengingat masifnya penggunaan media sosial sebagai sumber data untuk melatih Machine Learning. Jika standar keamanan tidak segera ditingkatkan, potensi penyalahgunaan foto anak-anak Indonesia menjadi konten CSAM (Child Sexual Abuse Material) dapat meningkat. Hal ini kemungkinan besar akan memicu pemerintah untuk mewajibkan setiap penyedia layanan AI yang beroperasi di Indonesia memiliki filter konten yang sesuai dengan nilai moral dan hukum lokal untuk melindungi privasi warga negara.

Artikel ini akan diperbarui seiring tersedianya informasi baru. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut.