Laporan Dewan Pengawas Meta: Penanganan Meta Terhadap Pornografi Deepfake

Reporter: Riski |

Editor: Riski |

Jumat , 26 Jul 2024 - 16:36

Ilustrasi -. Foto :Dok/Ist.--

laporan dewan pengawas meta: penanganan meta terhadap pornografi deepfake                            rel , - pada bulan april, dewan pengawas meta mengeluarkan laporan investigasi yang mengungkapkan penanganan perusahaan terhadap pornografi deepfake.
laporan ini menyertakan dua contoh konkret: gambar eksplisit seorang tokoh masyarakat amerika dan seorang tokoh masyarakat india.
pornografi yang dihasilkan oleh kecerdasan buatan (ai) semakin mengancam dalam beberapa bulan terakhir.
selebriti seperti taylor swift dan banyak wanita di seluruh dunia, termasuk siswa sekolah menengah as, telah menjadi korban dari bentuk pelecehan daring ini.
baca juga:optimasi pnbp oleh kemenhub melalui pengelolaan pelabuhan
alat ai generatif yang kini mudah diakses telah mempercepat dan menurunkan biaya pembuatan gambar-gambar tersebut, sementara platform media sosial seperti meta, tempat gambar ini dapat menyebar dengan cepat, menghadapi tekanan besar untuk menanggulanginya.
dalam kasus tokoh masyarakat amerika, meta segera menghapus gambar tersebut setelah diunggah ke facebook, berkat sistem bank pencocokan otomatis yang mendeteksi konten melanggar.
sebaliknya, kasus tokoh masyarakat india menunjukkan masalah yang lebih kompleks. meskipun gambar tersebut dilaporkan dua kali ke meta, perusahaan tidak menghapusnya dari instagram hingga dewan pengawas melakukan intervensi.
dewan pengawas menyatakan bahwa meta mengakui keputusan awal untuk mempertahankan gambar tersebut sebagai kesalahan dan telah menghapus konten itu, serta menonaktifkan akun yang mengunggahnya.
baca juga:jangan gantung nasib guru honorer untuk diangkat sebagai pppk
baca juga:nggak usah khawatir! guru honorer lulusan sma punya kesempatan jadi pppk tahun 2024, asalkan melakukan ini
laporan ini mengungkap ketidakkonsistenan dalam penegakan aturan meta terhadap gambar seksual nonkonsensual, meskipun teknologi ai yang menghasilkan konten tersebut semakin canggih.
selain itu, laporan ini menyoroti masalah dalam moderasi konten di negara-negara non-barat atau non-inggris yang sering kali diabaikan.
meta mengaku menyambut baik keputusan dewan pengawas dan berkomitmen untuk memperbaiki penanganan gambar-gambar serupa di masa depan.
perusahaan berencana untuk menghapus gambar yang "identik dan dalam konteks yang sama" dengan yang diungkapkan dewan jika memungkinkan secara teknis dan operasional.
baca juga:ini ciri-ciri ayam bangkok yang berkualitas dan bernilai unggul
baca juga:keinginan instan memicu pinjaman online dan judi online: masalah kesehatan jiwa yang serius
dewan pengawas merekomendasikan beberapa langkah tambahan untuk meningkatkan upaya meta dalam memerangi pornografi deepfake nonkonsensual.
mereka mendesak agar meta memperjelas aturannya dengan memperbarui larangan terhadap "photoshop seksual yang merendahkan" untuk mencakup istilah "nonkonsensual" dan teknik manipulasi foto lainnya, termasuk ai.
dewan juga mencatat bahwa meta tidak menambahkan gambar tokoh masyarakat india ke bank pencocokan foto karena tidak ada liputan media terkait gambar tersebut pada saat itu.
ini menimbulkan kekhawatiran bahwa banyak korban deepfake tidak terkenal harus mencari dan melaporkan gambar mereka secara proaktif.
baca juga:berita terkini keamanan dan kriminalitas dki jakarta, kamis
baca juga:pengendara motor tabrak polisi saat kegiatan sosial di berau
sebagai bagian dari upaya lebih luas untuk mencegah eksploitasi seksual, meta juga baru-baru ini menghapus sekitar 63.000 akun di nigeria yang terlibat dalam penipuan sextortion finansial.
ini menyoroti komitmen perusahaan untuk melindungi pengguna dari berbagai bentuk eksploitasi seksual daring.(*)

Tag

Share

Koran Edisi Terbaru

Baca Koran Koran Rel 25 November 2024

Berita Terkini

Berita Terpopuler

Berita Pilihan