Meta dituding tidak serius menangani kasus deepfake seksual yang marak terjadi di platform mereka. Dewan Pengawas Meta (Meta Oversight Board) mendesak perusahaan tersebut untuk memperkuat perlindungan bagi masyarakat umum dari ancaman deepfake seksual dengan merekomendasikan agar konten manipulasi berbasis kecerdasan buatan (AI) tersebut otomatis dikategorikan sebagai pelanggaran tanpa konsensus dalam Kebijakan Eksploitasi Seksual Dewasa Meta.
Kasus Deepfake Seksual yang Diabaikan
Dewan Pengawas Meta menyelidiki sebuah insiden di Instagram dimana Meta mengabaikan laporan dari seorang pengguna mengenai video AI yang melecehkan temannya. Meskipun korban telah menutup akunnya dan dua pengguna lain ikut melapor, Meta tidak mengambil tindakan apa pun. Meta berdalih tidak mendeteksi indikasi bahwa sosok dalam video tersebut adalah manusia nyata. Menurut kebijakan Meta saat itu, indikasi kuat pelanggaran tanpa konsensus baru diakui jika laporan datang langsung dari korban (self-report), penegak hukum, media, atau mitra terpercaya.
Mengapa Kasus Deepfake Seksual Sangat Merugikan?
Dewan Pengawas menilai aturan itu sangat tidak adil bagi masyarakat biasa. Berbeda dengan figur publik, warga biasa tentu kesulitan melibatkan media atau kepolisian untuk sekadar melaporkan konten AI. Skala, kecepatan, dan kecanggihan alat AI saat ini telah memicu lonjakan konten seksual non-konsensual secara global. Penyebaran video deepfake ini memicu dampak psikologis serius dan merusak reputasi, yang secara tidak proporsional paling merugikan perempuan serta anak perempuan.
Apa Artinya Ini bagi Pengguna Meta?
Kritik terhadap moderasi konten Meta bukan pertama kalinya terjadi. Pada pertengahan 2025, Dewan sempat mengecam ketidakmampuan Meta dalam menegakkan aturan secara konsisten sebagai tindakan yang “tidak koheren dan tidak dapat dibenarkan.” Dewan juga mendesak Meta membuat regulasi khusus untuk konten AI yang terpisah dari kebijakan misinformasi konvensional. Jika Meta memilih untuk mengadopsi rekomendasi ini, Dewan Pengawas memastikan akan mengawal ketat implementasinya di lapangan.
Jalan Panjang yang Masih Harus Ditempuh
Meta wajib menanggapi rekomendasi ini, namun perusahaan tersebut tidak memiliki kewajiban hukum untuk menerapkannya. Oleh karena itu, pengguna harus terus memantau perkembangan kasus deepfake seksual dan mendorong Meta untuk mengambil tindakan yang lebih efektif dalam menangani masalah ini. Dengan demikian, diharapkan Meta dapat meningkatkan perlindungan bagi penggunanya dan mengurangi dampak negatif dari konten deepfake seksual.
Disclaimer: This article was automatically rewritten by AI based on source: https://www.liputan6.com/tekno/read/7929734/meta-diminta-tindak-tegas-kasus-deepfake-seksual, without altering the facts of the original article.
