Peneliti Temukan Ekosistem Deepfake yang Dibuat oleh Bot Telegram

Internet Sehat : Para peneliti telah menemukan ekosistem deepfake di aplikasi perpesanan Telegram yang berpusat di sekitar bot yang menghasilkan gambar telanjang palsu berdasarkan permintaan. Pengguna yang berinteraksi dengan bot ini mengatakan bahwa mereka terutama membuat foto perempuan telanjang yang mereka kenal dengan menggunakan foto yang diambil dari media sosial yang kemudian mereka bagikan dan tukar satu sama lain di berbagai saluran Telegram.

Investigasi tersebut berasal dari firma keamanan Sensity yang berfokus pada visual threat intelligence, khususnya penyebaran deepfakes. Peneliti Sensity menemukan lebih dari 100.000 gambar telah dibuat dan dibagikan di saluran Telegram publik hingga Juli 2020 (artinya jumlah foto yang dihasilkan, termasuk yang tidak pernah dibagikan dan yang dibuat sejak Juli, jauh lebih tinggi). Sebagian besar pengguna di saluran ini, kira-kira 70 persen, berasal dari Rusia dan negara tetangga, Rusia.

Bot ini gratis untuk digunakan, tetapi menghasilkan foto telanjang palsu dengan watermark atau hanya sebagian telanjang. Pengguna kemudian dapat membayar biaya yang setara dengan hanya beberapa sen untuk mengungkap foto sepenuhnya. Tarif awalnya 100 rubel (sekitar 1,28 dollar AS) kepada pengguna untuk menghasilkan 100 foto telanjang palsu tanpa watermark selama periode tujuh hari. Sensity mengatakan dalam jumlah terbatas dari fitur foto yang dibuat bot menargetkan anak bawah umur.

Sensity telah menghubungi Telegram untuk menanyakan mengapa mereka mengizinkan konten ini di aplikasi mereka, tetapi belum menerima balasan. Sensity mengatakan pihaknya juga menghubungi otoritas penegak hukum yang relevan.

Perangkat lunak yang digunakan untuk menghasilkan gambar ini dikenal sebagai DeepNude. Perangkat lunak ini pertama kali muncul di web Juni lalu, tetapi pembuatnya menghapus situs webnya beberapa jam setelah menerima liputan pers arus utama, dengan mengatakan bahwa kemungkinan disalahgunakan oleh orang lain terlalu tinggi. Namun, perangkat lunak tersebut terus menyebar dan Sensity mengatakan DeepNude sejak itu telah mengalami reverse engineering dan dapat ditemukan dalam bentuk yang disempurnakan di repositori sumber terbuka dan situs web torrent. Sekarang digunakan untuk menjalankan bot Telegram, yang menangani pembayaran secara otomatis untuk menghasilkan pendapatan bagi pembuatnya.

DeepNude menggunakan teknik AI yang dikenal sebagai generative adversarial networks atau GAN untuk menghasilkan foto telanjang palsu, dengan gambar yang dihasilkan memiliki kualitas yang bervariasi. Sebagian besar jelas palsu, tetapi beberapa foto dapat dengan mudah disalahartikan sebagai foto asli.

Laporan Sensity mengatakan bahwa masuk akal untuk berasumsi sebagian besar orang yang menggunakan bot ini terutama tertarik untuk mengonsumsi pornografi deepfake (yang tetap menjadi kategori populer di situs porno). Tetapi foto dan video ini juga dapat digunakan untuk pemerasan, extortion, pelecehan, dan lainnya.

Sumber : The Verge

Sumber Foto : VOX

Share Artikel