Senat AS Setujui Rancangan Undang-undang Deepfakes

Internet Sehat : Pada hari Rabu minggu lalu, usulan undang-undang AS untuk mendanai pertahanan terhadap realistic computer-generated media atau yang dikenal sebagai deepfakes telah disetujui oleh Senat AS dan RUU tersebut sekarang menunggu pertimbangan di Dewan Perwakilan Rakyat AS.

Usulan undang-undang ini diperkenalkan tahun lalu oleh Senator AS Catherine Cortez Masto (D-NV) dan Jerry Moran (R-KS), Identifying Outputs of Generative Adversarial Networks Act (IOGAN Act) bertujuan untuk mempromosikan penelitian untuk mendeteksi dan mempertahankan diri dari pemalsuan yang tampak realistis yang dapat digunakan untuk tujuan penipuan, pelecehan, atau informasi yang salah.

Kasus seperti ini sudah terjadi. Misalnya, bulan lalu terbit laporan tentang bot pembuatan deepfake di platform perpesanan Telegram yang telah mengambil foto di media sosial dari ratusan ribu perempuan sungguhan dan menampilkannya sehingga subjeknya terlihat telanjang. Gambar-gambar ini berpotensi digunakan untuk mempermalukan publik atau serangan pemerasan.

Layanan Riset Kongres mengklaim ada bukti bahwa agen intelijen asing telah menggunakan foto deepfake untuk akun media sosial yang digunakan untuk mencoba merekrut agen.

Masalah ini telah menjadi perhatian di antara anggota parlemen AS selama beberapa tahun, mendorong dengar pendapat pada tahun 2019 dan ancaman untuk meminta pertanggungjawaban layanan online karena gagal mengawasi deepfake.

RUU tersebut mengarahkan US National Science untuk mendukung penelitian terhadap konten yang dimanipulasi atau disintesis dan keaslian informasi khususnya konten yang diproduksi oleh sistem AI yang dikenal sebagai Generative Adversarial Networks (GANs), seperti deepfakes.

Hal ini juga memerlukan National Institute of Standards and Technology (NIST) untuk mengembangkan cara mengukur dan menilai deepfakes dan untuk menyelidiki kemitraan publik-swasta yang berfokus pada konten yang disintesis atau dimanipulasi yang terdeteksi.

Perusahaan seperti Amazon, Facebook, dan Microsoft, bersama dengan institusi akademis, sudah melakukan penelitian terkait melalui inisiatif seperti Deepfake Detection Challenge.

Pada bulan Januari, Facebook mengatakan telah merevisi kebijakannya untuk mendukung penghapusan media yang dimanipulasi yang menyesatkan, kecuali jika dianggap sebagai parodi atau satir.

Sumber : The Register

Ingin belajar tentang Privasi? Kunjungi Galeri Privasi.

Share Artikel