Apple dan Google melakukan segala upaya untuk meyakinkan kita bahwa toko aplikasi mereka adalah tempat teraman di Bumi, seperti benteng yang tak tertembus dan hanya dapat diakses oleh mereka yang memenuhi standar etika dan teknis yang ketat. Namun, tampaknya kecerdasan buatan telah memutuskan untuk mengambil jalan yang gelap, dan, yang mengejutkan, perusahaan-perusahaan besar ini tidak kebal terhadap konsekuensinya. Sebuah laporan baru mengungkapkan bahwa aplikasi yang khusus menampilkan "ketelanjangan" dan gambar pornografi palsu masih berkembang pesat di iPhone App Store dan Google Play. Yang lebih mengkhawatirkan, algoritma toko-toko ini terkadang mengarahkan pengguna langsung ke aplikasi tersebut melalui iklan dan hasil pencarian.
Angka-angka yang mengejutkan dan kehadiran publik
Laporan Tech Transparency Project (TTP) bukan sekadar spekulasi; laporan tersebut didukung oleh angka-angka yang mencengangkan. Laporan tersebut mengidentifikasi 18 aplikasi di Apple App Store dan 20 di Google Play Store yang khusus menyediakan apa yang dikenal sebagai aplikasi "nudify" atau aplikasi ketelanjangan. Aplikasi-aplikasi ini bukan hanya eksperimen gagal yang tersembunyi di sudut-sudut gelap toko aplikasi; secara kolektif, aplikasi-aplikasi ini menghasilkan pendapatan sekitar $122 juta dan telah diunduh sebanyak 483 juta kali. Ya, Anda membaca dengan benar—kita berbicara tentang hampir setengah miliar unduhan!
Ironisnya, beberapa aplikasi ini diberi peringkat "E" untuk Semua Orang, artinya setiap anak dengan perangkat dapat dengan mudah mengaksesnya. Sementara orang tua berjuang untuk membatasi waktu penggunaan layar anak-anak mereka, toko aplikasi "resmi" menawarkan alat yang dapat mengubah foto orang sungguhan menjadi gambar pornografi atau memasukkan wajah mereka ke dalam video yang tidak pantas menggunakan teknologi deepfake.
Algoritma pencarian: Panduan wisata untuk konten yang buruk
Masalahnya bukan hanya keberadaan aplikasi-aplikasi tersebut, tetapi juga bagaimana pengguna mengaksesnya. Laporan tersebut mengklaim bahwa pencarian dengan kata kunci tertentu memberikan akses mudah ke alat-alat ini. Yang mengejutkan, platform-platform itu sendiri menampilkan iklan untuk aplikasi serupa di dalam hasil pencarian, sehingga Apple dan Google ikut terlibat.Sekalipun tanpa disengaja- Dalam mendistribusikan alat yang mengubah orang sungguhan menjadi gambar seksual.
Ada aplikasi yang mempromosikan diri dengan menampilkan wajah seorang aktris yang ditumpangkan pada tubuh aktris lain, memungkinkan pengguna untuk menempatkan wajah asli pada wanita berpakaian minim, namun aplikasi tersebut tetap memiliki peringkat usia yang cocok untuk semua orang. Tampaknya para peninjau toko aplikasi membutuhkan kacamata AI untuk melihat apa yang sudah jelas bagi semua orang!
Reaksi dan tindakan pemerintah
Setelah skandal ini terungkap, perusahaan-perusahaan, seperti biasa, bergegas bersembunyi di balik pernyataan resmi mereka. Apple mengatakan kepada Bloomberg bahwa mereka telah menghapus 15 aplikasi yang teridentifikasi, sementara Google mengatakan telah menangguhkan beberapa aplikasi dan mengkonfirmasi bahwa kebijakan mereka melarang konten seksual eksplisit dan bahwa proses investigasi dan penegakan hukum masih berlangsung. Tetapi pertanyaannya tetap: mengapa kita selalu membutuhkan laporan eksternal untuk melakukan pekerjaan yang seharusnya dilakukan oleh miliaran sistem peninjau?
Kelalaian ini telah mendorong pemerintah untuk mengambil tindakan. Di Inggris Raya, Komisioner Anak telah menyerukan pelarangan aplikasi deepfake yang membuat gambar eksplisit seksual anak-anak. Amerika Serikat dan negara-negara lain juga telah mengusulkan undang-undang yang melarang deepfake eksplisit. Bahkan Jaksa Agung California baru-baru ini memerintahkan perusahaan Elon Musk, X, untuk berhenti memproduksi gambar deepfake eksplisit menggunakan model kecerdasan buatan mereka, Grok.
Sumber:
2 ulasan