Uni Eropa Selidiki Fitur AI Grok Milik Musk Terkait Deepfake Wanita dan Anak di Bawah Umur
ORBITINDONESIA.COM - Komisi Eropa telah meluncurkan penyelidikan terhadap chatbot AI Elon Musk, Grok, terkait pembuatan gambar palsu yang eksplisit secara seksual tentang wanita dan anak di bawah umur.
Komisi mengumumkan pada hari Senin, 26 Januari 2026, bahwa penyelidikannya akan memeriksa apakah alat AI yang digunakan di X telah memenuhi kewajiban hukumnya berdasarkan Undang-Undang Layanan Digital Uni Eropa (DSA), yang mengharuskan perusahaan media sosial untuk mengatasi konten online yang ilegal dan berbahaya.
Brussel mengatakan penyelidikan akan memeriksa apakah X telah mengurangi risiko yang terkait dengan penyebaran konten ilegal di Uni Eropa, seperti gambar eksplisit seksual yang dimanipulasi, termasuk konten yang mungkin termasuk materi pelecehan seksual anak.
Dalam sebuah pernyataan kepada kantor berita AFP, Presiden Komisi Eropa Ursula von der Leyen mengatakan Eropa tidak akan “mentolerir perilaku yang tak terbayangkan, seperti pengambilan gambar digital wanita dan anak-anak tanpa persetujuan”.
“Sederhana saja – kami tidak akan menyerahkan persetujuan dan perlindungan anak kepada perusahaan teknologi untuk dilanggar dan dimonetisasi. Kerugian yang disebabkan oleh gambar ilegal sangat nyata,” tambahnya.
Grok baru-baru ini menghadapi kecaman setelah terungkap bahwa pengguna dapat meminta chatbot untuk membuat deepfake wanita dan anak-anak hanya dengan menggunakan perintah seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”.
Komisioner teknologi Uni Eropa Henna Virkkunen mengatakan hak-hak perempuan dan anak-anak di Uni Eropa tidak boleh menjadi “korban sampingan” dari layanan X.
“Deepfake seksual tanpa persetujuan terhadap wanita dan anak-anak adalah bentuk degradasi yang kejam dan tidak dapat diterima,” kata Virkkunen dalam sebuah pernyataan.
X telah diselidiki oleh Uni Eropa terkait aturan konten digitalnya sejak Desember 2023.
Bulan ini, Grok mengatakan akan membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar setelah mendapat kritik atas kemampuan alat tersebut.
Sebuah organisasi nirlaba, Pusat Penanggulangan Kebencian Digital, menerbitkan laporan pekan lalu yang menemukan bahwa Grok telah menghasilkan sekitar 3 juta gambar seksualisasi perempuan dan anak-anak hanya dalam beberapa hari.
Pada bulan Desember, Uni Eropa memerintahkan X untuk membayar denda sebesar 120 juta euro (140 juta dolar AS) karena melanggar kewajiban transparansi DSA.
Uni Eropa bukanlah satu-satunya badan yang menyelidiki alat Grok; regulator media Inggris, Ofcom, mengumumkan telah meluncurkan penyelidikan terhadap X untuk menentukan apakah alat tersebut telah mematuhi persyaratan berdasarkan Undang-Undang Keamanan Online Inggris.***
