Apple ve Google, uygulama mağazalarının dünyanın en güvenli yerleri, katı etik ve teknik standartları karşılayanların erişebildiği aşılmaz kaleler gibi olduğuna bizi ikna etmek için ellerinden gelenin en iyisini yapıyorlar. Ancak yapay zekanın karanlık bir yola girmeye karar verdiği ve şaşırtıcı bir şekilde bu büyük şirketlerin de sonuçlarından muaf olmadığı görülüyor. Yeni bir rapor, "çıplaklık" ve sahte pornografik görüntüler konusunda uzmanlaşmış uygulamaların iPhone App Store ve Google Play'de hala geliştiğini ortaya koyuyor. Daha da endişe verici olanı, bu mağazaların algoritmalarının bazen kullanıcıları reklamlar ve arama sonuçları aracılığıyla doğrudan bu uygulamalara yönlendirmesi.
Şok edici rakamlar ve kamuoyundaki varlığı
Teknoloji Şeffaflık Projesi (TTP) raporu sadece spekülasyona dayanmıyordu; çarpıcı rakamlarla destekleniyordu. Rapor, Apple App Store'da "çıplaklık uygulamaları" olarak bilinen alanda uzmanlaşmış 18 ve Google Play Store'da 20 uygulamayı tespit etti. Bu uygulamalar, uygulama mağazasının karanlık köşelerinde saklanmış başarısız deneyler değildi; toplamda yaklaşık 122 milyon dolar gelir elde ettiler ve 483 milyon kez indirildiler. Evet, doğru okudunuz—neredeyse yarım milyar indirmeden bahsediyoruz!
Buradaki ironi şu ki, bu uygulamaların bazılarının "Herkes İçin" (E) olarak derecelendirilmiş olması, yani cihazı olan herhangi bir çocuğun bunlara kolayca erişebilmesi anlamına geliyordu. Ebeveynler çocuklarının ekran sürelerini sınırlamaya çalışırken, "resmi" uygulama mağazaları, gerçek kişilerin fotoğraflarını pornografik görüntülere dönüştürebilen veya deepfake teknolojisi kullanarak yüzlerini uygunsuz videolara ekleyebilen araçlar sunuyordu.
Arama algoritmaları: Kötü içeriklere yönelik bir turist rehberi
Sorun sadece uygulamaların varlığı değil, kullanıcıların bunlara nasıl eriştiği. Raporda, belirli anahtar kelimelerle arama yapmanın bu araçlara kolay erişim sağladığı iddia edildi. Şaşırtıcı bir şekilde, platformların kendileri de arama sonuçlarında benzer uygulamaların reklamlarını gösteriyordu; bu da Apple ve Google'ı suç ortağı haline getiriyordu.İstemeden bile olsa- Gerçek insanları cinsel imgelere dönüştüren araçların dağıtımında.
Bazı uygulamalar, bir aktrisin yüzünü başka bir aktrisin vücuduna yerleştirerek kendilerini tanıtıyor ve kullanıcıların gerçek yüzleri az giyinmiş kadınların üzerine yerleştirmesine olanak tanıyor; ancak yine de herkese uygun bir yaş sınırlaması vardı. Görünüşe göre mağaza yorumcularının herkesin görebildiği şeyi görebilmek için yapay zeka gözlüklerine ihtiyaçları vardı!
Hükümetin tepkileri ve eylemleri
Bu skandalın ortaya çıkmasının ardından, şirketler her zamanki gibi resmi açıklamalarının arkasına saklanmaya çalıştılar. Apple, Bloomberg'e tespit edilen 15 uygulamayı kaldırdığını söylerken, Google da birkaç uygulamayı askıya aldığını ve politikalarının açık cinsel içerikli uygulamaları yasakladığını, soruşturma ve yaptırım sürecinin devam ettiğini doğruladı. Ancak şu soru hala geçerliliğini koruyor: Milyarlarca inceleme sisteminin yapması gereken işi neden her zaman dışarıdan bir rapora yaptırmak zorundayız?
Bu gevşeklik, hükümetleri harekete geçmeye sevk etti. Birleşik Krallık'ta Çocuk Komiseri, çocukların cinsel içerikli görüntülerini oluşturan deepfake uygulamalarının yasaklanması çağrısında bulundu. Amerika Birleşik Devletleri ve diğer ülkeler de açık deepfake'leri yasaklayan yasalar önerdi. Hatta Kaliforniya Başsavcısı bile yakın zamanda Elon Musk'ın şirketi X'e, yapay zeka modeli Grok'u kullanarak açık deepfake görüntüleri üretmeyi durdurmasını emretti.
المصدر:
2 yorum