Apple e Google fanno di tutto per convincerci che i loro app store siano i luoghi più sicuri al mondo, come fortezze inespugnabili accessibili solo a chi soddisfa rigorosi standard etici e tecnici. Ma a quanto pare l'intelligenza artificiale ha deciso di imboccare una strada oscura e, sorprendentemente, queste grandi aziende non sono immuni alle conseguenze. Un nuovo rapporto rivela che le app specializzate in "nudità" e immagini pornografiche false continuano a prosperare sull'App Store di iPhone e su Google Play. Ancor più allarmante, gli algoritmi di questi store a volte indirizzano gli utenti direttamente verso di esse tramite pubblicità e risultati di ricerca.
cifre scioccanti e presenza pubblica
Il rapporto del Tech Transparency Project (TTP) non si basava su semplici speculazioni, bensì su cifre impressionanti. Il rapporto ha identificato 18 app sull'Apple App Store e 20 sul Google Play Store specializzate in quelle che vengono definite app "nudify" o app di nudità. Queste app non erano semplici esperimenti falliti nascosti negli angoli più remoti dell'app store; complessivamente hanno generato circa 122 milioni di dollari di entrate e sono state scaricate 483 milioni di volte. Sì, avete letto bene: stiamo parlando di quasi mezzo miliardo di download!
L'ironia della situazione è che alcune di queste app erano classificate "E" per tutti, il che significa che qualsiasi bambino in possesso di un dispositivo poteva accedervi facilmente. Mentre i genitori si sforzavano di limitare il tempo che i figli trascorrevano davanti allo schermo, gli app store "ufficiali" offrivano strumenti in grado di trasformare le foto di persone reali in immagini pornografiche o di inserire i loro volti in video inappropriati utilizzando la tecnologia deepfake.
Algoritmi di ricerca: una guida turistica ai contenuti di scarsa qualità
Il problema non è solo l'esistenza delle app, ma anche il modo in cui gli utenti vi accedono. Il rapporto affermava che la ricerca di parole chiave specifiche facilitava l'accesso a questi strumenti. Sorprendentemente, le piattaforme stesse mostravano annunci pubblicitari di app simili all'interno dei risultati di ricerca, rendendo Apple e Google complici.Anche se involontariamente- Nella distribuzione di strumenti che trasformano persone reali in immagini sessuali.
Esistono app che si promuovono mostrando il volto di un'attrice sovrapposto al corpo di un'altra, permettendo agli utenti di posizionare volti reali su donne seminude, eppure vantano una classificazione per età adatta a tutti. Sembra che i recensori dello store avessero bisogno di occhiali con intelligenza artificiale per notare l'ovvio a tutti!
Reazioni e azioni del governo
In seguito allo scoppio di questo scandalo, le aziende, come al solito, si sono affrettate a nascondersi dietro le loro dichiarazioni ufficiali. Apple ha dichiarato a Bloomberg di aver rimosso 15 delle app identificate, mentre Google ha affermato di averne sospese diverse e ha confermato che le sue politiche vietano i contenuti sessualmente espliciti e che l'indagine e il processo di applicazione della legge sono in corso. Ma la domanda rimane: perché abbiamo sempre bisogno di una perizia esterna per svolgere il lavoro che miliardi di sistemi di revisione dovrebbero fare?
Questa lassità ha spinto i governi ad agire. Nel Regno Unito, il Commissario per l'infanzia ha chiesto il divieto delle app di deepfake che creano immagini sessualmente esplicite di bambini. Anche gli Stati Uniti e altri paesi hanno proposto leggi che vietano i deepfake espliciti. Persino il Procuratore Generale della California ha recentemente ordinato alla società di Elon Musk, X, di interrompere la produzione di immagini deepfake esplicite utilizzando il suo modello di intelligenza artificiale, Grok.
Fonte:
2 recensioni