xAI Gugat Pengguna Karena Mengeksploitasi Alat AI untuk Pelecehan Seksual Terhadap Anak di Bawah Umur
ORBITINDONESIA.COM - xAI milik Elon Musk telah mengajukan gugatan terhadap seorang pria dari South Carolina yang ditangkap awal tahun ini atas tuduhan eksploitasi seksual terhadap anak di bawah umur, dengan tuduhan bahwa ia menyalahgunakan alat AI perusahaan untuk membuat konten seksual eksplisit yang melibatkan seorang anak.
Gugatan tersebut, yang diajukan di pengadilan federal Texas pada hari Selasa, 14 Juli 2026, menuduh bahwa Terry Harwood dengan sengaja melanggar ketentuan layanan perusahaan untuk membuat materi tersebut.
“[Terdakwa] membuka beberapa akun xAI menggunakan identitas palsu. Meskipun secara tegas setuju untuk mematuhi Ketentuan Layanan dan Kebijakan Penggunaan yang Dapat Diterima xAI, Terdakwa merancang perintah yang menyesatkan untuk menghindari pengamanan bawaan Grok dan kemudian menyalahgunakan alat tersebut untuk mengubah foto non-seksual menjadi gambar seksual eksplisit tanpa sepengetahuan atau persetujuan subjek foto,” demikian bunyi pengaduan setebal 12 halaman tersebut.
Gugatan tersebut menuduh bahwa Harwood mengunggah gambar orang dewasa dan anak di bawah umur yang tidak bersifat seksual, kemudian mencoba membuat apa yang disebut "deepfake" yang menseksualisasikan gambar-gambar tersebut.
“Tinjauan terhadap akun xAI milik Terdakwa lebih lanjut menunjukkan bahwa pada banyak kesempatan selama Periode yang Relevan, Terdakwa mengirimkan permintaan kepada Grok untuk mengubah gambar-gambar tersebut agar subjek gambar menjadi seksual, yang kemudian ditanggapi oleh Grok dengan menolak untuk mengikuti permintaan tersebut dengan alasan bahwa materi tersebut melanggar aturan moderasi konten Grok,” tambah pengaduan tersebut.
“Sebagai tanggapan, Terdakwa berulang kali mengirimkan permintaan lebih lanjut, dengan perubahan, dalam upaya untuk menghindari upaya moderasi Grok.”
xAI juga menuntut ganti rugi berupa uang, meskipun gugatan tersebut tidak menyebutkan jumlah uang tertentu, serta perintah pengadilan yang melarang Harwood secara permanen untuk menggunakan platform tersebut, yang memiliki lebih dari 2,6 juta pengguna.
Gugatan ini adalah gugatan pertama yang diajukan oleh perusahaan AI terhadap salah satu penggunanya dan muncul di tengah pengawasan ketat terhadap xAI di seluruh dunia karena mengizinkan pengguna untuk membuat konten semacam ini di platform tersebut.
Grok telah menjadi sorotan di Washington, menjadi sasaran regulator Eropa, dan menghadapi larangan di Malaysia dan Indonesia terkait konten seksual eksplisit yang dapat dibuat di platform tersebut.
Awal tahun ini, Musk membantah tuduhan bahwa Grok menghasilkan gambar seksualisasi anak-anak yang dihasilkan AI, terutama gambar telanjang.
“Saya tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar nol,” kata Musk dalam sebuah unggahan X pada bulan Januari.
Pengaduan xAI menyatakan bahwa perusahaan “menegakkan aturannya terhadap pelanggar melalui penangguhan akun, penghentian akun, dan dengan melaporkan dugaan materi pelecehan seksual anak ke Pusat Nasional untuk Anak Hilang & Dieksploitasi.”
Pengaduan tersebut menunjukkan bahwa platform tersebut telah menangguhkan lebih dari 52.000 akun dan menerima lebih dari 73.000 pengaduan kepada organisasi tersebut, yang mengakibatkan hampir 250 penangkapan hanya pada tahun 2026 saja. ***
