Instagram Rilis Teknologi untuk Mengenali Konten Bunuh Diri

Internet Sehat : Instagram telah meluncurkan teknologi baru untuk mengenali konten melukai diri sendiri dan bunuh diri pada aplikasinya di Inggris dan Eropa. Alat baru ini dapat mengidentifikasi foto dan kata yang melanggar aturannya pada postingan berbahaya. Alat ini akan membuat posting-an yang menunjukkan melukai diri sendiri atau bunuh diri kurang terlihat di aplikasi dan dalam kasus ekstrim menghapusnya secara otomatis.

Facebook yang memiliki Instagram, mengatakan alat tersebut adalah langkah penting, tetapi mereka ingin melakukan lebih banyak lagi. Pimpinan Instagram Adam Mosseri merinci sistem baru tersebut dalam sebuah atikel blog di situsnya.

Teknologi tersebut sebelumnya sudah ada di luar Eropa di Facebook dan Instagram. Konten yang diidentifikasi berbahaya oleh algoritma dapat dirujuk ke moderator manusia, yang memilih apakah akan mengambil tindakan lebih lanjut, termasuk mengarahkan pengguna untuk membantu organisasi dan menginformasikan layanan darurat.

Instagram mengatakan bahwa rujukan manusia saat ini tidak menjadi bagian dari alat baru di Inggris dan Eropa karena pertimbangan privasi data terkait dengan General Data Protection Regulation (GDPR). Perusahaan media sosial tersebut mengatakan menerapkan proses rujukan akan menjadi langkah selanjutnya.

Direktur kebijakan publik Instagram di Eropa, Tara Hopkins mengatakan bahwa di Uni Eropa saat ini, Instagram hanya dapat menggunakan campuran teknologi canggih dan elemen tinjauan manusia itu jika sebuah pos dilaporkan kepada kami secara langsung oleh anggota komunitas.

Facebook dan Instagram mendapat kecaman dalam beberapa tahun terakhir karena kurangnya peraturan tentang materi bunuh diri dan menyakiti diri sendiri.

Kekhawatiran tentang dampak konten ini pada orang muda dan rentan telah meningkat sejak bunuh diri siswa sekolah berusia 14 tahun, Molly Russell.

Sumber : BBC

Share Artikel