Internet Sehat : Massachusetts Institute of Technology (MIT) telah meng-offline-kan dataset AI yang sangat banyak dikutip yang melatih sistem AI untuk berpotensi menggambarkan orang yang menggunakan istilah , dan masalah lainnya.Basis data telah dihapus minggu ini setelah Register memperingatkan MIT. MIT juga mendesak para peneliti dan pengembang untuk berhenti menggunakan perpustakaan pelatihan, dan menghapus salinan apa pun. Seorang profesor dari MIT mengatakan meminta maaf.Dataset pelatihan yang dibangun oleh universitas tersebut telah digunakan untuk mengajarkan model pembelajaran mesin untuk secara otomatis mengidentifikasi dan membuat daftar orang dan objek yang digambarkan dalam gambar foto. Sebagai contoh, jika sebuah foto taman ditunjukkan kepada salah satu dari sistem ini sebuah, dataset tersebut mungkin memberi tahu tentang anak-anak, orang dewasa, hewan peliharaan, hamparan piknik, rumput, dan pohon yang ada di foto. Namun, berkat pendekatan angkuh MIT ketika merakit set pelatihannya, sistem ini juga dapat melabeli wanita sebagai pelacur dan orang kulit hitam dan Asia dengan bahasa yang merendahkan. Basis data juga berisi gambar close-up alat kelamin wanita berlabel C-word.Aplikasi, situs web, dan produk lain yang mengandalkan jaringan saraf yang dilatih menggunakan dataset MIT pada akhirnya dapat menggunakan istilah-istilah ini ketika menganalisis foto dan rekaman kamera.Pustaka pelatihan yang bermasalah tersebut adalah 80 juta Tiny Images yang diciptakan pada 2008 untuk membantu menghasilkan teknik deteksi objek canggih. Pustaka ini pada dasarnya adalah koleksi besar foto dengan label yang menggambarkan apa yang ada di foto, yang semuanya dapat dimasukkan ke dalam jaringan saraf untuk mengajar mereka mengaitkan pola dalam foto dengan label deskriptif. Jadi ketika jaringan saraf yang terlatih ditunjukkan sepeda, ia dapat secara akurat memprediksi sepeda hadir dalam sekejap. Pustaka ini disebut Tiny Images karena gambar di perpustakaan cukup kecil untuk algoritma visi komputer pada akhir 2000-an dan awal 2010-an untuk dicerna.Dataset menampung lebih dari 79.300.000 gambar, diambil dari Google Images, disusun dalam 75.000 kategori ganjil. Versi yang lebih kecil, dengan 2,2 juta gambar, dapat dicari dan dibaca secara online dari situs web MIT’s Computer Science and Artificial Intelligence Lab (CSAIL). Visualisasi ini, bersama dengan basis data lengkap yang dapat diunduh, dihapus pada hari Senin minggu lalu dari situs web CSAIL.Masalah utama adalah bahwa dataset tersebut mencakup, misalnya, gambar orang dan monyet berkulit hitam yang berlabel N-word; perempuan dalam bikini, atau memegang anak-anak mereka, berlabel pelacur; bagian anatomi yang dilabeli istilah kasar; dan sebagainya yang menghubungkan citra sehari-hari dengan cercaan dan bahasa ofensif, dan membuat prasangka dan bias ke dalam model AI masa depan.Sumber: The RegisterSumber Foto: Getty Images

MIT Hapus Dataset yang Melatih AI Rasis dan Misoginis

Internet Sehat : Parlemen Perancis dengan suara bulat setuju untuk memperkenalkan sistem verifikasi usia nasional untuk situs web pornografi. Kepastian ini terjadi setelah beberapa bulan sejak Presiden Emmanuel Macron berjanji untuk melindungi anak-anak dari konten semacam itu.Macron menjadikan perlindungan anak-anak terhadap konten dewasa daring sebagai masalah yang memiliki profil tinggi jauh sebelum krisis virus Corona melanda. Pada bulan Januari, perusahaan teknologi, penyedia layanan internet dan industri film dewasa menandatangani piagam sukarela, berjanji untuk meluncurkan alat untuk membantu memastikan anak di bawah umur tidak memiliki akses ke konten porno.Dalam undang-undang yang lebih luas tentang kekerasan dalam rumah tangga, Senat Prancis memutuskan pada bulan Juni untuk memperkenalkan amandemen yang mensyaratkan situs web pornografi untuk menerapkan mekanisme verifikasi usia.Untuk menegakkan hukum, regulator audiovisual Prancis CSA akan diberikan wewenang baru untuk mengaudit dan memberikan sanksi kepada perusahaan yang tidak mematuhi aturan tersebut. Sanksinya antara lain bisa memblokir akses ke situs web di Prancis dengan perintah pengadilan.Pilihan mekanisme verifikasi akan diserahkan kepada platform. Namun demikian, anggota parlemen telah menyarankan untuk menggunakan verifikasi kartu kredit, sebuah sistem yang pertama kali diadopsi oleh Inggris, yang mempertimbangkan rencana serupa untuk mengendalikan akses ke pornografi tetapi harus membatalkannya pada akhir 2019 karena kesulitan teknis dan masalah privasi. Italia juga menyetujui RUU yang sama pada akhir Juni yang lalu.Dengan undang-undang baru ini, jika situs tidak mematuhi dalam waktu 15 hari setelah peringatan pertama dari regulator audiovisual CSA, regulator akan dapat meminta Paris Court of Justice untuk mengirim perintah kepada operator telekomunikasi untuk memblokir akses ke situs tersebut di Prancis.Sumber: PoliticoSumber Foto: ph7cms.com

Prancis Perkenalkan Sistem Verifikasi Usia bagi Situs Web Dewasa

Internet Sehat : Badan Keamanan Siber Singapura (CSA) merilis data yang mengungkapkan bahwa kejahatan dunia maya menyumbang 43 persen dari semua kejahatan di negara kota tersebut selama tahun 2020.Menurut CSA, meskipun jumlah insiden phishing tetap stabil dan perusakan situs web sedikit menurun, aktivitas siber berbahaya tetap menjadi perhatian di tengah lanskap siber global yang berkembang pesat dan peningkatan digitalisasi yang disebabkan oleh pandemi COVID-19.CSA mengatakan penyerang memanfaatkan kecemasan terkait pandemi, menargetkan e-commerce, keamanan data, penelitian terkait vaksin, dan operasi, termasuk operasi pelacakan kontak.Serangan Ransomware naik 154 persen dari 35 kasus pada 2019 menjadi 89 pada 2020. Mereka juga mengadopsi taktik kebocoran dan mempermalukan, dan model Ransomware-as-a-Service (RaaS). Jumlah server command-and-control berbahaya yang beroperasi juga naik 94 persen antara 2019 dan 2020, dengan malware Emotet dan Cobalt Strike bertanggung jawab atas sepertiganya.Dengungan botnet meningkat dari rata-rata 2.300 per hari pada 2019 menjadi 6.600 per hari pada 2020, dengan malware Mirai dan Gamarue menginfeksi rentang alamat IP dan menargetkan peningkatan penggunaan perangkat IoT.Phishing tetap pada level, dengan penipuan bertema COVID menyumbang 10 persen dari URL spoofing yang dialami oleh ritel online dan portal pembayaran. Deface situs web turun 43 persen, konsisten dengan tren global. Sebagian besar kasus memengaruhi UKM, tidak ada yang memengaruhi entitas pemerintah.Kasus kecurangan online menjadi aktivitas kejahatan dunia maya teratas, naik 62 persen, dikaitkan dengan pertumbuhan e-commerce di tengah pembatasan COVID-19.Laporan itu mengatakan tren yang harus diwaspadai termasuk ciri-ciri serangan ransomware yang berkembang, penargetan tenaga kerja jarak jauh dengan memanfaatkan jaringan yang dikonfigurasi dengan buruk, dan peningkatan pelanggaran rantai pasokan karena serangan seperti pada SolarWinds telah terbukti berhasil.Sumber : The Register

CSA Singapura: 43% Kejahatan di Singapura Terjadi Secara Online

Internet Sehat : Apple kini tengah menghadapi kritik atas sistem baru untuk menemukan konten pelecehan seksual anak (child sexual abuse material, CSAM) di perangkat Apple bagi pengguna di Amerika Serikat.Teknologi tersebut akan mencari kecocokan CSAM yang diketahui sebelum gambar disimpan ke foto iCloud. Akan tetapi ada kekhawatiran bahwa teknologi tersebut dapat diperluas dan digunakan oleh pemerintah otoriter untuk memata-matai warganya sendiri.Pimpinan WhatsApp Will Cathcart menyebut langkah Apple sangat mengkhawatirkan.Apple mengatakan bahwa versi baru iOS dan iPadOS yang akan dirilis akhir tahun ini akan memiliki aplikasi kriptografi baru untuk membantu membatasi penyebaran CSAM online, sambil merancang untuk privasi pengguna.Sistem akan melaporkan kecocokan yang kemudian ditinjau secara manual oleh manusia. Kemudian dapat mengambil langkah-langkah untuk menonaktifkan akun pengguna dan melaporkan ke penegak hukum.Apple mengatakan bahwa teknologi baru menawarkan manfaat privasi yang signifikan atas teknik yang ada karena Apple hanya mengetahui tentang foto pengguna jika mereka memiliki koleksi materi pelecehan seks anak yang diketahui di akun iCloud mereka.Akan tetapi Cathcart dari WhatsApp mengatakan sistem tersebut dapat dengan mudah digunakan untuk memindai konten pribadi untuk apa pun yang mereka atau pemerintah ingin kendalikan. Negara-negara tempat iPhone dijual akan memiliki definisi berbeda tentang apa yang dapat diterima.Dia berpendapat bahwa sistem WhatsApp untuk menangani materi pelecehan seksual anak telah melaporkan lebih dari 400.000 kasus ke National Center for Missing and Exploited Children Amerika Serikat tanpa melanggar enkripsi.Electronic Frontier Foundation, sebuah kelompok hak digital, juga mengkritik langkah tersebut, dengan melabelinya sebagai sistem yang dibangun sepenuhnya hanya menunggu tekanan eksternal untuk membuat perubahan sekecil apa pun.Namun beberapa politisi menyambut baik perkembangan Apple. Sajid Javid, Menteri Kesehatan Inggris, mengatakan sudah waktunya bagi orang lain, terutama Facebook untuk mengikuti apa yang dilakukan oleh Apple.Senator AS Richard Blumenthal juga memuji langkah Apple, menyebutnya sebagai langkah yang disambut, inovatif, dan berani. Langkah tersebut menunjukkan bahwa kita dapat melindungi anak-anak dan hak privasi mendasar pengguna.Sumber : BBC

Apple Dikritik Terkait Sistem Deteksi Konten Pelecehan Anak

Internet Sehat : Penyedia layanan keamanan siber harus memiliki lisensi untuk beroperasi di Singapura, di bawah peraturan baru yang diluncurkan oleh Badan Keamanan Siber (Cyber Security Agency, CSA) Singapura pada hari Senin (10/4) yang lalu.Kerangka lisensi baru mengharuskan vendor yang menawarkan pengujian penetrasi dan/atau pusat operasi keamanan terkelola (SOC) untuk mendapatkan lisensi sebagai pengakuan bahwa mereka mengakses sistem pelanggan dan karena itu menimbulkan risiko. Langkah-langkah tersebut segera berlaku, meskipun vendor yang ada memiliki waktu hingga 11 Oktober 2022 untuk mengajukan lisensi yang diperlukan.Mereka yang gagal mendapatkan lisensi yang diperlukan akan menghadapi denda hingga 50.000 dollar Singapura dan hingga dua tahun penjara.Pemegang lisensi perlu memuaskan regulator bahwa mereka adalah orang yang fit dan tepat dan memberi tahu setiap staf baru yang mereka pekerjakan yang melibatkan akses ke dalam sistem pelanggan. Lisensi akan dikenakan biaya 500 dollar Singapura untuk individu dan 1000 dollar Singapura untuk bisnis.CSA mengadakan promo dengan membebaskan 50 persen dari biaya untuk aplikasi yang dibuat sebelum 11 April 2023, sebagai upaya untuk mendukung bisnis yang terkena dampak COVID-19. CSA mengatakan kerangka kerja baru akan melindungi konsumen dan meningkatkan standar praktisi.Sebelum menerapkan kebijakan tersebut, CSA meminta masukan dari berbagai pelaku industri lokal dan asing, asosiasi industri, dan masyarakat. Hingga akhir masa peninjauan pada Oktober 2021, CSA telah menerima 29 tanggapan.CSA mengatakan sementara sebagian besar tanggapan mendukung persyaratan baru, beberapa khawatir hal tersebut akan menjadi beban peraturan dan berpotensi menghambat inovasi. Secara khusus, muncul kekhawatiran mengenai apakah penyedia layanan dapat menggabungkan atau menggunakan data klien yang dianonimkan untuk tujuan intelijen ancaman yang menyebabkan CSA membatasi cakupan ketentuan lisensinya.Dalam tanggapannya terhadap umpan balik terbuka, CSA mengklarifikasi bahwa pengecer atau penyedia layanan keamanan siber luar negeri yang menyediakan layanan keamanan siber yang dapat dilisensikan ke pasar Singapura juga akan memerlukan lisensi.Singapura, seperti kebanyakan tempat, telah merasakan tekanan dari meningkatnya ancaman dunia maya dalam beberapa tahun terakhir. Singapore Computer Emergency Response Team mengeluarkan peringatan pada akhir Februari yang menyatakan bahwa ada peningkatan ancaman siber terkait dengan konflik Rusia-Ukraina. Organisasi tersebut merilis daftar praktik terbaik untuk mengamankan sistem dan infrastruktur jaringan, memantau, merespons, dan lainnya.Sumber : The Register

csa

MIT Hapus Dataset yang Melatih AI Rasis dan Misoginis

MIT Hapus Dataset yang Melatih AI Rasis dan Misoginis

Prancis Perkenalkan Sistem Verifikasi Usia bagi Situs Web Dewasa

Prancis Perkenalkan Sistem Verifikasi Usia bagi Situs Web Dewasa

CSA Singapura: 43% Kejahatan di Singapura Terjadi Secara Online

CSA Singapura: 43% Kejahatan di Singapura Terjadi Secara Online

Apple Dikritik Terkait Sistem Deteksi Konten Pelecehan Anak

Apple Dikritik Terkait Sistem Deteksi Konten Pelecehan Anak

Singapura Berikan Lisensi Pentester dan Kelola Operator Infosec

Singapura Berikan Lisensi Pentester dan Kelola Operator Infosec

Literasi Digital

Makin Cakap Digital

Menu

Informasi