Seorang Wanita Merasa 'Direndahkan Martabatnya' Setelah AI Grok Milik Musk Digunakan untuk Menghilangkan Pakaiannya
ORBITINDONESIA.COM - Seorang wanita mengatakan kepada BBC bahwa ia merasa "direndahkan martabatnya dan direduksi menjadi stereotip seksual" setelah AI Grok milik Elon Musk digunakan untuk menghilangkan pakaiannya secara digital.
BBC telah melihat beberapa contoh di platform media sosial X tentang orang-orang yang meminta chatbot tersebut untuk menelanjangi wanita agar mereka tampak mengenakan bikini tanpa persetujuan mereka, serta menempatkan mereka dalam situasi seksual.
XAI, perusahaan di balik Grok, tidak menanggapi permintaan komentar, selain dengan balasan otomatis yang menyatakan "kebohongan media lama".
Samantha Smith membagikan sebuah unggahan di X tentang gambarnya yang diubah, yang mendapat komentar dari mereka yang mengalami hal yang sama - sebelum orang lain meminta Grok untuk menghasilkan lebih banyak gambar dirinya.
"Para wanita tidak menyetujui hal ini," katanya.
"Meskipun bukan saya yang telanjang, gambar itu tampak seperti saya, terasa seperti saya, dan terasa sama melanggar privasinya seperti jika seseorang benar-benar mengunggah foto telanjang atau foto bikini saya."
Seorang juru bicara Kementerian Dalam Negeri mengatakan pihaknya sedang membuat undang-undang untuk melarang alat-alat pengolah gambar telanjang, dan berdasarkan pelanggaran pidana baru, siapa pun yang menyediakan teknologi semacam itu akan "menghadapi hukuman penjara dan denda yang besar".
Regulator Ofcom mengatakan perusahaan teknologi harus "menilai risiko" orang-orang di Inggris yang melihat konten ilegal di platform mereka, tetapi tidak mengkonfirmasi apakah mereka saat ini sedang menyelidiki X atau Grok terkait gambar AI.
Grok adalah asisten AI gratis - dengan beberapa fitur premium berbayar - yang merespons permintaan pengguna X ketika mereka menandainya dalam sebuah unggahan.
Asisten ini sering digunakan untuk memberikan reaksi atau konteks lebih lanjut pada komentar pengguna lain, tetapi orang-orang di X juga dapat mengedit gambar yang diunggah melalui fitur pengeditan gambar AI-nya.
Platform ini telah dikritik karena mengizinkan pengguna untuk membuat foto dan video dengan ketelanjangan dan konten seksual, dan sebelumnya dituduh membuat klip eksplisit seksual Taylor Swift.
Clare McGlynn, seorang profesor hukum di Universitas Durham, mengatakan X atau Grok "dapat mencegah bentuk-bentuk pelecehan ini jika mereka mau", menambahkan bahwa mereka "tampaknya menikmati impunitas".
"Platform ini telah mengizinkan pembuatan dan distribusi gambar-gambar ini selama berbulan-bulan tanpa mengambil tindakan apa pun dan kita belum melihat adanya tantangan dari regulator," katanya.
Kebijakan penggunaan yang dapat diterima XAI sendiri melarang "menggambarkan kemiripan seseorang dengan cara pornografi".
Dalam sebuah pernyataan kepada BBC, Ofcom mengatakan bahwa ilegal untuk "membuat atau membagikan gambar intim tanpa persetujuan atau materi pelecehan seksual anak" dan mengkonfirmasi bahwa ini termasuk deepfake seksual yang dibuat dengan AI.
Pernyataan itu menyebutkan bahwa platform seperti X diharuskan mengambil "langkah-langkah yang tepat" untuk "mengurangi risiko" pengguna di Inggris menemukan konten ilegal di platform mereka, dan segera menghapusnya ketika mereka mengetahuinya.***
