deepfake

Internet Sehat : Microsoft telah mengembangkan alat untuk menemukan deepfakes. Deepfakes merupakan gambar atau foto yang dimanipulasi oleh komputer di mana kemiripan wajah seseorang telah digunakan untuk menggantikan wajah orang lain.Perangkat lunak tersebut menganalisis foto dan video untuk memberikan skor keyakinan tentang apakah materi tersebut kemungkinan besar dibuat secara artifisial. Microsoft berharap teknologi tersebut akan membantu memerangi disinformasi.Namun, seorang ahli mengatakan alat tersebut berisiko menjadi cepat usang karena kecepatan kemajuan teknologi deepfake. Untuk mengatasi hal ini, Microsoft juga telah mengumumkan sistem terpisah untuk membantu produsen konten menambahkan kode tersembunyi ke rekaman mereka sehingga setiap perubahan selanjutnya dapat dengan mudah ditandai.Deepfakes menjadi populer pada awal 2018 setelah pengembang mengadaptasi teknik kecerdasan buatan mutakhir untuk membuat perangkat lunak yang menukar wajah satu orang dengan orang lain.Proses ini bekerja dengan menggunakan gambar diam yang sangat banyak dari satu orang dan rekaman video orang lain ke komputer. Software kemudian menggunakan ini untuk menghasilkan video baru yang menampilkan wajah orang yang telah diganti dengan ekspresi yang cocok, sinkronisasi bibir dan gerakan lainnya. Namun kemudian prosesnya telah disederhanakan sehingga membuka untuk lebih banyak pengguna dan membutuhkan lebih sedikit foto untuk membuat deepfake.Ada beberapa aplikasi yang hanya membutuhkan satu selfie untuk menggantikan wajah seorang bintang film dengan pengguna dalam klip dari film Hollywood. Namun ada kekhawatiran bahwa proses tersebut juga dapat disalahgunakan untuk membuat klip yang menyesatkan, di mana seorang tokoh terkemuka dibuat untuk mengatakan atau bertindak dengan cara yang tidak pernah terjadi, untuk keuntungan politik atau lainnya.Awal tahun ini, Facebook melarang deepfake yang mungkin menyesatkan pengguna sehingga mengira subjek mengatakan sesuatu yang tidak mereka katakan. Twitter dan TikTok kemudian mengikuti dengan aturan serupa dari mereka sendiri.Microsoft’s Video Authenticator bekerja dengan mencoba mendeteksi tanda bahwa gambar telah dibuat secara artifisial secara bebas yang mungkin tidak terlihat oleh mata manusia. Tool ini termasuk piksel halus yang memudar atau skala abu-abu pada batas di mana versi wajah target yang dibuat komputer telah digabungkan dengan yang ada pada tubuh subjek asli.Untuk membuatnya, perusahaan tersebut menerapkan teknik pembelajaran mesinnya sendiri ke kumpulan data publik yang terdiri dari sekitar 1.000 urutan video deepfake dan kemudian menguji model yang dihasilkan terhadap database pertukaran wajah yang lebih besar yang dibuat oleh Facebook.Nina Schick, penulis buku Deep Fakes and the Infocalypse mencatat bahwa video deepfake masih relatif langka untuk saat ini dan bahwa sebagian besar klip yang dimanipulasi melibatkan pengeditan ulang yang lebih kasar yang dilakukan oleh manusia. Meski begitu, dia menyambut baik campur tangan Microsoft. Menurutnya, satu-satunya penggunaan yang sangat luas yang dilihat sejauh ini adalah dalam pornografi non-konsensual terhadap perempuan.Sumber: BBCSumber Foto : MIT Technology Review

Microsoft Rilis Alat untuk Deteksi Deepfake

Internet Sehat : Para peneliti telah menemukan ekosistem deepfake di aplikasi perpesanan Telegram yang berpusat di sekitar bot yang menghasilkan gambar telanjang palsu berdasarkan permintaan. Pengguna yang berinteraksi dengan bot ini mengatakan bahwa mereka terutama membuat foto perempuan telanjang yang mereka kenal dengan menggunakan foto yang diambil dari media sosial yang kemudian mereka bagikan dan tukar satu sama lain di berbagai saluran Telegram.Investigasi tersebut berasal dari firma keamanan Sensity yang berfokus pada visual threat intelligence, khususnya penyebaran deepfakes. Peneliti Sensity menemukan lebih dari 100.000 gambar telah dibuat dan dibagikan di saluran Telegram publik hingga Juli 2020 (artinya jumlah foto yang dihasilkan, termasuk yang tidak pernah dibagikan dan yang dibuat sejak Juli, jauh lebih tinggi). Sebagian besar pengguna di saluran ini, kira-kira 70 persen, berasal dari Rusia dan negara tetangga, Rusia.Bot ini gratis untuk digunakan, tetapi menghasilkan foto telanjang palsu dengan watermark atau hanya sebagian telanjang. Pengguna kemudian dapat membayar biaya yang setara dengan hanya beberapa sen untuk mengungkap foto sepenuhnya. Tarif awalnya 100 rubel (sekitar 1,28 dollar AS) kepada pengguna untuk menghasilkan 100 foto telanjang palsu tanpa watermark selama periode tujuh hari. Sensity mengatakan dalam jumlah terbatas dari fitur foto yang dibuat bot menargetkan anak bawah umur.Sensity telah menghubungi Telegram untuk menanyakan mengapa mereka mengizinkan konten ini di aplikasi mereka, tetapi belum menerima balasan. Sensity mengatakan pihaknya juga menghubungi otoritas penegak hukum yang relevan.Perangkat lunak yang digunakan untuk menghasilkan gambar ini dikenal sebagai DeepNude. Perangkat lunak ini pertama kali muncul di web Juni lalu, tetapi pembuatnya menghapus situs webnya beberapa jam setelah menerima liputan pers arus utama, dengan mengatakan bahwa kemungkinan disalahgunakan oleh orang lain terlalu tinggi. Namun, perangkat lunak tersebut terus menyebar dan Sensity mengatakan DeepNude sejak itu telah mengalami reverse engineering dan dapat ditemukan dalam bentuk yang disempurnakan di repositori sumber terbuka dan situs web torrent. Sekarang digunakan untuk menjalankan bot Telegram, yang menangani pembayaran secara otomatis untuk menghasilkan pendapatan bagi pembuatnya.DeepNude menggunakan teknik AI yang dikenal sebagai generative adversarial networks atau GAN untuk menghasilkan foto telanjang palsu, dengan gambar yang dihasilkan memiliki kualitas yang bervariasi. Sebagian besar jelas palsu, tetapi beberapa foto dapat dengan mudah disalahartikan sebagai foto asli.Laporan Sensity mengatakan bahwa masuk akal untuk berasumsi sebagian besar orang yang menggunakan bot ini terutama tertarik untuk mengonsumsi pornografi deepfake (yang tetap menjadi kategori populer di situs porno). Tetapi foto dan video ini juga dapat digunakan untuk pemerasan, extortion, pelecehan, dan lainnya. Sumber : The VergeSumber Foto : VOX

Peneliti Temukan Ekosistem Deepfake yang Dibuat oleh Bot Telegram

Internet Sehat : Pada hari Rabu minggu lalu, usulan undang-undang AS untuk mendanai pertahanan terhadap realistic computer-generated media atau yang dikenal sebagai deepfakes telah disetujui oleh Senat AS dan RUU tersebut sekarang menunggu pertimbangan di Dewan Perwakilan Rakyat AS.Usulan undang-undang ini diperkenalkan tahun lalu oleh Senator AS Catherine Cortez Masto (D-NV) dan Jerry Moran (R-KS), Identifying Outputs of Generative Adversarial Networks Act (IOGAN Act) bertujuan untuk mempromosikan penelitian untuk mendeteksi dan mempertahankan diri dari pemalsuan yang tampak realistis yang dapat digunakan untuk tujuan penipuan, pelecehan, atau informasi yang salah.Kasus seperti ini sudah terjadi. Misalnya, bulan lalu terbit laporan tentang bot pembuatan deepfake di platform perpesanan Telegram yang telah mengambil foto di media sosial dari ratusan ribu perempuan sungguhan dan menampilkannya sehingga subjeknya terlihat telanjang. Gambar-gambar ini berpotensi digunakan untuk mempermalukan publik atau serangan pemerasan.Layanan Riset Kongres mengklaim ada bukti bahwa agen intelijen asing telah menggunakan foto deepfake untuk akun media sosial yang digunakan untuk mencoba merekrut agen.Masalah ini telah menjadi perhatian di antara anggota parlemen AS selama beberapa tahun, mendorong dengar pendapat pada tahun 2019 dan ancaman untuk meminta pertanggungjawaban layanan online karena gagal mengawasi deepfake.RUU tersebut mengarahkan US National Science untuk mendukung penelitian terhadap konten yang dimanipulasi atau disintesis dan keaslian informasi khususnya konten yang diproduksi oleh sistem AI yang dikenal sebagai Generative Adversarial Networks (GANs), seperti deepfakes.Hal ini juga memerlukan National Institute of Standards and Technology (NIST) untuk mengembangkan cara mengukur dan menilai deepfakes dan untuk menyelidiki kemitraan publik-swasta yang berfokus pada konten yang disintesis atau dimanipulasi yang terdeteksi.Perusahaan seperti Amazon, Facebook, dan Microsoft, bersama dengan institusi akademis, sudah melakukan penelitian terkait melalui inisiatif seperti Deepfake Detection Challenge.Pada bulan Januari, Facebook mengatakan telah merevisi kebijakannya untuk mendukung penghapusan media yang dimanipulasi yang menyesatkan, kecuali jika dianggap sebagai parodi atau satir.Sumber : The RegisterIngin belajar tentang Privasi? Kunjungi Galeri Privasi.

Senat AS Setujui Rancangan Undang-undang Deepfakes

Internet Sehat : Situs silsilah MyHeritage telah memperkenalkan alat yang menggunakan teknologi deepfake untuk menghidupkan wajah dalam foto kerabat yang telah meninggal.Alat tersebut disebut DeepNostalgia dan perusahaan tersebut mengakui bahwa beberapa orang mungkin menganggap fitur tersebut menyeramkan sementara yang lain akan menganggapnya ajaib.Alat ini muncul seiring dengan keinginan pemerintah Inggris untuk mempertimbangkan undang-undang tentang teknologi deepfake. Komisi Hukum sedang mempertimbangkan proposal untuk menjadikannya ilegal membuat video deepfake tanpa persetujuan.MyHeritage mengatakan bahwa mereka sengaja tidak memasukkan ucapan dalam fitur untuk mencegah penyalahgunaan, seperti pembuatan video deepfake orang yang masih hidup. Menurut perusahaan tersebut, alat tersebut ditujukan untuk penggunaan nostalgia, yaitu untuk menghidupkan kembali leluhur tercinta.Deepfake adalah video berbasis AI yang dibuat oleh komputer yang dapat dibuat dari foto yang sudah ada. Teknologi di balik Deep Nostalgia dikembangkan oleh perusahaan Israel D-ID. Teknologi tersebut menggunakan kecerdasan buatan dan melatih algoritmanya pada video yang direkam sebelumnya tentang orang-orang yang masih hidup yang menggerakkan wajah dan isyarat mereka.Di situs MyHeritage, tokoh-tokoh bersejarah seperti Ratu Victoria dan Florence Nightingale dihidupkan kembali. Dan awal bulan ini, untuk menandai ulang tahunnya, perusahaan tersebut memasang video Abraham Lincoln di YouTube menggunakan teknologi tersebut. Mantan presiden AS itu tampak berwarna dan ditampilkan berbicara.Orang-orang mulai memposting video leluhur mereka yang dihidupkan kembali di Twitter, dengan tanggapan beragam. Beberapa menggambarkan hasil sebagai luar biasa dan emosional sementara yang lain menyatakan keprihatinan.Pada bulan Desember, Channel 4 menciptakan Deepfake Queen yang menyampaikan pesan Natal alternatif, sebagai bagian dari peringatan tentang bagaimana teknologi dapat digunakan untuk menyebarkan berita palsu.Sumber : BBC

deepfake

Microsoft Rilis Alat untuk Deteksi Deepfake

Microsoft Rilis Alat untuk Deteksi Deepfake

Peneliti Temukan Ekosistem Deepfake yang Dibuat oleh Bot Telegram

Peneliti Temukan Ekosistem Deepfake yang Dibuat oleh Bot Telegram

Senat AS Setujui Rancangan Undang-undang Deepfakes

Senat AS Setujui Rancangan Undang-undang Deepfakes

MyHeritage Tawarkan Alat Deepfake untuk Menghidupkan Kembali Orang yang Telah Meninggal

MyHeritage Tawarkan Alat Deepfake untuk Menghidupkan Kembali Orang yang Telah Meninggal

Literasi Digital

Makin Cakap Digital

Menu

Informasi