Risiko Tinggi AI Gemini Bagi Anak dan Remaja: Tinjauan Mendalam
ORBITINDONESIA.COM – Common Sense Media menyoroti ancaman tersembunyi dari AI Google, Gemini, terhadap keamanan anak-anak.
Seiring pesatnya perkembangan teknologi, keamanan anak saat berinteraksi dengan AI menjadi perhatian utama. Laporan terbaru dari Common Sense Media mengungkapkan bahwa produk AI Gemini milik Google berpotensi membahayakan anak dan remaja, meski telah dilengkapi filter keamanan.
Menurut Common Sense, Gemini versi 'Under 13' dan 'Teen Experience' pada dasarnya hanyalah modifikasi dari versi dewasa. Laporan mengindikasikan bahwa AI ini masih dapat memberikan konten tidak pantas dan berbahaya, seperti informasi tentang narkoba dan kesehatan mental. Hal ini mengundang kekhawatiran, terutama setelah dilaporkan bahwa AI terlibat dalam beberapa kasus bunuh diri remaja.
Produk AI untuk anak seharusnya dirancang dengan fokus pada keselamatan dan perkembangan mereka, bukan sekadar modifikasi dari produk dewasa. Common Sense menilai bahwa pendekatan seragam terhadap pengguna muda adalah keliru. Google mengklaim memiliki perlindungan khusus, namun mempertanyakan metode pengujian Common Sense.
Masalah ini menggugah pertanyaan mendalam tentang bagaimana seharusnya teknologi AI disesuaikan dengan kebutuhan pengguna muda. Apakah modifikasi dari produk dewasa cukup, ataukah diperlukan pendekatan baru yang lebih berpusat pada anak? Tantangan ini menuntut solusi inovatif untuk menjamin keselamatan generasi mendatang.
