Apple i Google robią wszystko, co w ich mocy, aby przekonać nas, że ich sklepy z aplikacjami to najbezpieczniejsze miejsca na Ziemi, niczym niezdobyte fortece, dostępne tylko dla tych, którzy spełniają surowe standardy etyczne i techniczne. Wygląda jednak na to, że sztuczna inteligencja postanowiła obrać mroczną ścieżkę i, co zaskakujące, te duże firmy nie są odporne na konsekwencje. Nowy raport ujawnia, że aplikacje specjalizujące się w „nagości” i fałszywych obrazach pornograficznych wciąż cieszą się popularnością w App Store na iPhone'a i Google Play. Co jeszcze bardziej niepokojące, algorytmy tych sklepów czasami kierują do nich użytkowników bezpośrednio za pośrednictwem reklam i wyników wyszukiwania.
Szokujące liczby i obecność publiczna
Raport Tech Transparency Project (TTP) nie opierał się na spekulacjach; poparto go oszałamiającymi liczbami. W raporcie zidentyfikowano 18 aplikacji w Apple App Store i 20 w Google Play Store, specjalizujących się w tzw. „nudify”, czyli aplikacjach prezentujących nagość. Aplikacje te nie były jedynie nieudanymi eksperymentami ukrytymi w ciemnych zakamarkach App Store; łącznie wygenerowały około 122 milionów dolarów przychodu i zostały pobrane 483 miliony razy. Tak, dobrze przeczytaliście – mówimy o prawie pół miliardzie pobrań!
Ironią jest to, że niektóre z tych aplikacji otrzymały ocenę „E” dla wszystkich, co oznacza, że każde dziecko z urządzeniem miało do nich łatwy dostęp. Podczas gdy rodzice zmagają się z ograniczaniem czasu spędzanego przez dzieci przed ekranem, „oficjalne” sklepy z aplikacjami oferowały narzędzia, które mogły przekształcać zdjęcia prawdziwych osób w obrazy pornograficzne lub wstawiać ich twarze do nieodpowiednich filmów za pomocą technologii deepfake.
Algorytmy wyszukiwania: przewodnik turystyczny po złych treściach
Problemem nie jest samo istnienie aplikacji, ale sposób, w jaki użytkownicy uzyskują do nich dostęp. W raporcie stwierdzono, że wyszukiwanie określonych słów kluczowych zapewnia łatwy dostęp do tych narzędzi. Co zaskakujące, same platformy wyświetlały reklamy podobnych aplikacji w wynikach wyszukiwania, co czyniło Apple i Google współwinnymi.Nawet jeśli nieumyślnie- W rozpowszechnianiu narzędzi, które zamieniają prawdziwych ludzi w obrazy o charakterze seksualnym.
Istnieją aplikacje, które promują się, wyświetlając twarz jednej aktorki nałożoną na ciało innej, pozwalając użytkownikom na dodawanie prawdziwych twarzy do skąpo ubranych kobiet, a jednocześnie z kategorią wiekową odpowiednią dla wszystkich. Wygląda na to, że recenzenci w sklepie potrzebowali okularów AI, żeby zobaczyć to, co oczywiste dla wszystkich!
Reakcje i działania rządu
Po ujawnieniu skandalu firmy, jak zwykle, pospiesznie ukryły się za oficjalnymi oświadczeniami. Apple poinformowało Bloomberga, że usunęło 15 zidentyfikowanych aplikacji, podczas gdy Google poinformowało o zawieszeniu kilku z nich i potwierdziło, że jego polityka zabrania treści o charakterze seksualnym, a dochodzenie i egzekwowanie przepisów są w toku. Pozostaje jednak pytanie: dlaczego zawsze potrzebujemy zewnętrznego raportu, aby wykonać pracę, którą powinny wykonywać miliardy systemów weryfikacji?
Ta pobłażliwość skłoniła rządy do podjęcia działań. W Wielkiej Brytanii Komisarz ds. Dzieci zaapelował o zakaz stosowania aplikacji deepfake, które tworzą pornograficzne obrazy dzieci. Stany Zjednoczone i inne kraje również zaproponowały przepisy zakazujące tworzenia pornograficznych deepfake'ów. Nawet Prokurator Generalny Kalifornii niedawno nakazał firmie Elona Muska, X, zaprzestanie tworzenia pornograficznych deepfake'ów z wykorzystaniem modelu sztucznej inteligencji Grok.
Źródło:
2 recenzji