Apple en Google doen hun uiterste best om ons ervan te overtuigen dat hun appwinkels de veiligste plekken op aarde zijn, als onneembare forten die alleen toegankelijk zijn voor diegenen die voldoen aan strenge ethische en technische normen. Maar het lijkt erop dat kunstmatige intelligentie een duister pad heeft gekozen, en verrassend genoeg zijn deze grote bedrijven niet immuun voor de gevolgen. Een nieuw rapport onthult dat apps die gespecialiseerd zijn in 'naaktheid' en nep-pornografische afbeeldingen nog steeds floreren in de iPhone App Store en Google Play. Nog verontrustender is dat de algoritmes van deze winkels gebruikers soms rechtstreeks naar deze apps leiden via advertenties en zoekresultaten.
Schokkende cijfers en publieke aanwezigheid
Het rapport van het Tech Transparency Project (TTP) was niet gebaseerd op louter speculatie; het werd onderbouwd door duizelingwekkende cijfers. Het rapport identificeerde 18 apps in de Apple App Store en 20 in de Google Play Store die gespecialiseerd waren in zogenaamde "nudify"-apps, oftewel apps met naaktheid. Deze apps waren niet zomaar mislukte experimenten die ergens in de donkere hoekjes van de app store waren weggestopt; ze genereerden gezamenlijk ongeveer 122 miljoen dollar aan inkomsten en werden 483 miljoen keer gedownload. Ja, u leest het goed: we hebben het over bijna een half miljard downloads!
De ironie is dat sommige van deze apps een leeftijdsclassificatie van "E" (voor iedereen) hadden, wat betekent dat elk kind met een apparaat er gemakkelijk toegang toe had. Terwijl ouders worstelden om de schermtijd van hun kinderen te beperken, boden "officiële" appwinkels tools aan waarmee foto's van echte mensen konden worden omgezet in pornografische afbeeldingen of waarmee hun gezichten in ongepaste video's konden worden geplaatst met behulp van deepfake-technologie.
Zoekalgoritmes: een reisgids voor slechte content
Het probleem is niet alleen het bestaan van de apps, maar ook hoe gebruikers er toegang toe krijgen. Het rapport stelde dat zoeken op specifieke trefwoorden een gemakkelijke toegang tot deze tools biedt. Verrassend genoeg toonden de platforms zelf advertenties voor vergelijkbare apps binnen de zoekresultaten, waardoor Apple en Google medeplichtig werden.Zelfs als het onbedoeld is- Het verspreiden van tools die echte mensen transformeren in seksuele beelden.
Er zijn apps die zichzelf promoten door het gezicht van de ene actrice over het lichaam van een andere te plaatsen, waardoor gebruikers echte gezichten op schaars geklede vrouwen kunnen projecteren. Toch hebben ze een leeftijdsclassificatie die geschikt is voor iedereen. Het lijkt erop dat de reviewers in de app store een AI-bril nodig hadden om te zien wat voor iedereen overduidelijk was!
Reacties en acties van de overheid
Na de onthulling van dit schandaal haastten bedrijven zich, zoals gebruikelijk, achter officiële verklaringen. Apple vertelde Bloomberg dat het 15 van de betreffende apps had verwijderd, terwijl Google zei dat het er verschillende had opgeschort en bevestigde dat het beleid expliciet seksuele inhoud verbiedt en dat het onderzoek en de handhavingsprocedure nog gaande zijn. Maar de vraag blijft: waarom hebben we altijd een extern rapport nodig om het werk te doen dat miljarden beoordelingssystemen zouden moeten doen?
Deze laksheid heeft regeringen ertoe aangezet actie te ondernemen. In het Verenigd Koninkrijk heeft de Kinderombudsman opgeroepen tot een verbod op deepfake-apps die seksueel expliciete afbeeldingen van kinderen creëren. De Verenigde Staten en andere landen hebben ook wetten voorgesteld die expliciete deepfakes verbieden. Zelfs de procureur-generaal van Californië heeft onlangs het bedrijf van Elon Musk, X, bevolen te stoppen met het produceren van expliciete deepfake-afbeeldingen met behulp van hun kunstmatige intelligentiemodel Grok.
Bron:
2 opmerkingen