Etika AI di Perusahaan: Compliance Theatre Mengancam Tata Kelola
ORBITINDONESIA.COM – Etika AI dan tata kelola AI kini dipenuhi dokumen, tetapi banyak insinyur tidak punya kuasa untuk menghentikan risiko. Riset University of Manchester menyebutnya “ethical awareness without ethical agency”, saat orang yang membangun sistem tahu bahayanya namun tak mampu bertindak.
Di tengah dorongan regulasi seperti EU AI Act, temuan ini menohok praktik “compliance theatre” yang tampak rapi di atas kertas. Pertanyaannya sederhana, apakah kita mengukur etika AI yang nyata, atau hanya administrasinya.
Dalam wawancara mendalam dengan insinyur AI dan software di sektor teknologi, finansial, manufaktur semikonduktor, dan riset, para responden mudah mengenali risiko. Mereka menyebut output yang tidak akurat, keputusan otomatis yang tidak adil, sistem yang sulit dijelaskan, hingga penggunaan penilaian otomatis di ranah yang memengaruhi hidup orang.
Namun banyak yang juga punya daftar pengaman yang ingin dipasang, dari pengujian lebih ketat sampai pembatasan penggunaan model. Masalahnya bukan kurang peduli, melainkan kurang otoritas, insentif, dan dukungan organisasi.
Penelitian yang dipresentasikan di 10th Data for Policy Conference menyorot jurang antara kebijakan dan praktik. Kerangka pengawasan sering menilai keberadaan laporan, prosedur, dan checklist, bukan kepatuhan nyata di lapangan.
Di banyak organisasi, proses kepatuhan berubah menjadi “tick-box compliance” yang mengejar tanda centang. Tekanan komersial dan tenggat membuat kecepatan lebih dihargai ketimbang ketelitian.
Akibatnya, kerja etika AI yang paling mahal secara waktu, seperti evaluasi bias, pengujian keamanan, atau penjelasan model, sering dianggap penghambat. Struktur penghargaan mendorong rilis cepat, bukan rilis aman.
Alessia Vlasceanu, peneliti utama dari Department of Computer Science, menegaskan asumsi publik sering keliru. “Most people assume that AI ethics is a problem of what engineers know or care about,” katanya, lalu menambahkan bahwa para insinyur peduli dan tahu, tetapi “raising concerns costs you professionally”.
Pernyataan itu mengubah fokus dari individu ke sistem kerja. Jika karier terancam saat mengangkat risiko, maka organisasi sedang memproduksi kebisuan yang terstruktur.
Professor Caroline Jay, yang membimbing riset ini, menyebut ini bukan kisah “bad companies or bad engineers”. Ini kisah tentang perbedaan antara tampilan etika dan substansi etika, ketika “infrastructure of AI ethics has grown faster than the technology it was designed to govern”.
Di sinilah “compliance theatre” menjadi relevan, karena etika dipentaskan sebagai citra. Organisasi terlihat patuh, tetapi pengaman tidak selalu dijalankan konsisten.
Dalam konteks kebijakan global, EU AI Act dan standar baru mendorong dokumentasi risiko, audit, dan pelaporan. Tetapi riset ini mengingatkan bahwa dokumen bisa menjadi tujuan, bukan alat.
Peneliti mendorong perubahan pada operasi harian proyek AI, bukan hanya pelatihan etika untuk individu. Mereka menekankan mekanisme eskalasi, penanggung jawab yang jelas, dan pengakuan kerja keselamatan sebagai indikator kinerja.
Etika AI sering diperlakukan seperti modul pelatihan tambahan, seolah masalah selesai jika insinyur “lebih sadar”. Padahal riset ini menunjukkan kesadaran sudah ada, yang hilang adalah agensi, yakni kuasa untuk menghentikan atau memperbaiki sistem.
Ini membuat tata kelola AI rawan menjadi ritual birokrasi. Ketika indikator sukses adalah dokumen lengkap, organisasi akan mengoptimalkan kerapian berkas, bukan ketahanan sistem.
Kita juga perlu jujur bahwa keputusan etis selalu punya biaya bisnis. Jika biaya itu tidak ditanggung perusahaan melalui waktu, anggaran, dan perlindungan karier, maka etika hanya akan menjadi slogan.
Regulator pun menghadapi dilema yang sama, karena audit berbasis dokumen lebih mudah daripada audit berbasis praktik. Namun jika pemeriksaan hanya mengejar bukti administratif, yang tumbuh adalah industri pelaporan, bukan industri keselamatan.
Dalam jangka panjang, “ethical awareness without ethical agency” berbahaya karena menciptakan ilusi kontrol. Publik mengira AI sudah “aman dan adil”, sementara orang di dalam sistem justru merasa tidak berdaya.
Riset University of Manchester menegaskan masalah etika AI bukan semata soal niat baik, melainkan desain organisasi dan insentif kerja. Jika yang dihargai hanya kecepatan rilis, maka risiko akan selalu ditunda sampai meledak menjadi skandal.
Perubahan yang diminta terdengar sederhana tetapi politis, yakni memberi ruang, waktu, dan kuasa bagi insinyur untuk mengatakan “berhenti”. Pada akhirnya, pertanyaan untuk publik dan regulator bukan “apakah perusahaan punya dokumen etika AI”, melainkan “apakah mereka berani membayar harga untuk menjalankannya”. (Orbit dari berbagai sumber, 31 Oktober 2026)