Apple und Google setzen alles daran, uns davon zu überzeugen, dass ihre App Stores die sichersten Orte der Welt sind – uneinnehmbare Festungen, die nur jenen zugänglich sind, die strenge ethische und technische Standards erfüllen. Doch es scheint, als habe die künstliche Intelligenz einen dunklen Weg eingeschlagen, und überraschenderweise sind auch diese großen Unternehmen nicht immun gegen die Folgen. Ein neuer Bericht enthüllt, dass Apps, die sich auf Nacktheit und gefälschte Pornobilder spezialisieren, im iPhone App Store und bei Google Play weiterhin florieren. Noch alarmierender ist, dass die Algorithmen dieser Stores Nutzer mitunter direkt über Werbung und Suchergebnisse zu solchen Apps führen.
Schockierende Zahlen und öffentliche Präsenz
Der Bericht des Tech Transparency Project (TTP) basierte nicht auf bloßen Spekulationen, sondern auf beeindruckenden Zahlen. Er identifizierte 18 Apps im Apple App Store und 20 im Google Play Store, die sich auf sogenannte „Nudify“-Apps oder Nacktheits-Apps spezialisiert haben. Diese Apps waren keine gescheiterten Experimente, die in den Tiefen des App Stores schlummerten; sie generierten zusammen rund 122 Millionen US-Dollar Umsatz und wurden 483 Millionen Mal heruntergeladen. Ja, Sie haben richtig gelesen – wir sprechen von fast einer halben Milliarde Downloads!
Die Ironie dabei ist, dass einige dieser Apps die Altersfreigabe „E“ (für alle Altersgruppen) erhielten, was bedeutet, dass jedes Kind mit einem Gerät problemlos darauf zugreifen konnte. Während Eltern darum kämpfen, die Bildschirmzeit ihrer Kinder zu begrenzen, boten „offizielle“ App-Stores Tools an, mit denen sich Fotos echter Menschen in pornografische Bilder verwandeln oder ihre Gesichter mithilfe von Deepfake-Technologie in unangebrachte Videos einfügen ließen.
Suchalgorithmen: Ein Leitfaden zu schlechten Inhalten
Das Problem ist nicht nur die Existenz der Apps an sich, sondern auch, wie Nutzer darauf zugreifen. Laut dem Bericht ermöglicht die Suche nach bestimmten Schlüsselwörtern einen einfachen Zugriff auf diese Tools. Überraschenderweise schalteten die Plattformen selbst Werbung für ähnliche Apps in den Suchergebnissen, wodurch Apple und Google sich mitschuldig machten.Auch wenn unbeabsichtigt- Bei der Verbreitung von Werkzeugen, die reale Menschen in sexuelle Bilder verwandeln.
Es gibt Apps, die damit werben, das Gesicht einer Schauspielerin auf den Körper einer anderen zu montieren und Nutzern so zu ermöglichen, echte Gesichter auf spärlich bekleidete Frauen zu setzen – und trotzdem eine Altersfreigabe für alle zu haben. Offenbar brauchten die Tester im App Store eine KI-Brille, um das Offensichtliche zu erkennen!
Reaktionen und Maßnahmen der Regierung
Nach Bekanntwerden des Skandals beeilten sich die Unternehmen wie üblich, sich hinter offiziellen Stellungnahmen zu verstecken. Apple teilte Bloomberg mit, 15 der betroffenen Apps entfernt zu haben, während Google erklärte, mehrere Apps gesperrt zu haben und bestätigte, dass seine Richtlinien explizit sexuelle Inhalte verbieten und die Untersuchung sowie die Durchsetzung der Vorschriften noch andauern. Doch die Frage bleibt: Warum brauchen wir immer einen externen Bericht für die Arbeit, die Milliarden von Prüfsystemen eigentlich leisten sollten?
Diese Nachlässigkeit hat Regierungen zum Handeln veranlasst. Im Vereinigten Königreich forderte der Kinderbeauftragte ein Verbot von Deepfake-Apps, die sexuell explizite Bilder von Kindern erzeugen. Auch die Vereinigten Staaten und andere Länder haben Gesetze vorgeschlagen, die explizite Deepfakes verbieten. Selbst der kalifornische Generalstaatsanwalt ordnete kürzlich an, dass Elon Musks Unternehmen X die Produktion expliziter Deepfake-Bilder mithilfe seines KI-Modells Grok einstellen muss.
Quelle:
2 Bewertungen