Laporan Dewan Pengawas Meta: Penanganan Meta Terhadap Pornografi Deepfake
Ilustrasi -. Foto :Dok/Ist.--
REL , - Pada bulan April, Dewan Pengawas Meta mengeluarkan laporan investigasi yang mengungkapkan penanganan perusahaan terhadap pornografi deepfake.
Laporan ini menyertakan dua contoh konkret: gambar eksplisit seorang tokoh masyarakat Amerika dan seorang tokoh masyarakat India.
Pornografi yang dihasilkan oleh kecerdasan buatan (AI) semakin mengancam dalam beberapa bulan terakhir.
Selebriti seperti Taylor Swift dan banyak wanita di seluruh dunia, termasuk siswa sekolah menengah AS, telah menjadi korban dari bentuk pelecehan daring ini.
BACA JUGA:Optimasi PNBP oleh Kemenhub melalui Pengelolaan Pelabuhan
Alat AI generatif yang kini mudah diakses telah mempercepat dan menurunkan biaya pembuatan gambar-gambar tersebut, sementara platform media sosial seperti Meta, tempat gambar ini dapat menyebar dengan cepat, menghadapi tekanan besar untuk menanggulanginya.
Dalam kasus tokoh masyarakat Amerika, Meta segera menghapus gambar tersebut setelah diunggah ke Facebook, berkat sistem bank pencocokan otomatis yang mendeteksi konten melanggar.
Sebaliknya, kasus tokoh masyarakat India menunjukkan masalah yang lebih kompleks. Meskipun gambar tersebut dilaporkan dua kali ke Meta, perusahaan tidak menghapusnya dari Instagram hingga Dewan Pengawas melakukan intervensi.
Dewan Pengawas menyatakan bahwa Meta mengakui keputusan awal untuk mempertahankan gambar tersebut sebagai kesalahan dan telah menghapus konten itu, serta menonaktifkan akun yang mengunggahnya.
BACA JUGA:Jangan Gantung Nasib Guru Honorer untuk Diangkat sebagai PPPK
Laporan ini mengungkap ketidakkonsistenan dalam penegakan aturan Meta terhadap gambar seksual nonkonsensual, meskipun teknologi AI yang menghasilkan konten tersebut semakin canggih.
Selain itu, laporan ini menyoroti masalah dalam moderasi konten di negara-negara non-Barat atau non-Inggris yang sering kali diabaikan.
Meta mengaku menyambut baik keputusan Dewan Pengawas dan berkomitmen untuk memperbaiki penanganan gambar-gambar serupa di masa depan.
- Tag
- Share
-
-
