A Apple e o Google estão fazendo o possível para nos convencer de que suas lojas de aplicativos são os lugares mais seguros da Terra, como fortalezas inexpugnáveis acessíveis apenas àqueles que atendem a rigorosos padrões éticos e técnicos. Mas parece que a inteligência artificial decidiu trilhar um caminho sombrio e, surpreendentemente, essas grandes empresas não estão imunes às consequências. Um novo relatório revela que aplicativos especializados em "nudez" e imagens pornográficas falsas ainda prosperam na App Store do iPhone e no Google Play. Ainda mais alarmante, os algoritmos dessas lojas às vezes direcionam os usuários diretamente a esses aplicativos por meio de anúncios e resultados de busca.
Números chocantes e presença pública
O relatório do Tech Transparency Project (TTP) não se baseou em mera especulação; ele foi respaldado por números impressionantes. O relatório identificou 18 aplicativos na Apple App Store e 20 na Google Play Store especializados no que é conhecido como "nudificação" ou aplicativos de nudez. Esses aplicativos não eram apenas experimentos fracassados escondidos nos cantos obscuros da loja de aplicativos; eles geraram coletivamente aproximadamente US$ 122 milhões em receita e foram baixados 483 milhões de vezes. Sim, você leu certo — estamos falando de quase meio bilhão de downloads!
A ironia é que alguns desses aplicativos eram classificados como "Livre para todos", o que significa que qualquer criança com um dispositivo eletrônico poderia acessá-los facilmente. Enquanto os pais se esforçam para limitar o tempo que seus filhos passam em frente às telas, as lojas de aplicativos "oficiais" ofereciam ferramentas capazes de transformar fotos de pessoas reais em imagens pornográficas ou inserir seus rostos em vídeos impróprios usando a tecnologia deepfake.
Algoritmos de busca: um guia turístico para conteúdo ruim
O problema não é apenas a existência dos aplicativos, mas a forma como os usuários acessam esses aplicativos. O relatório afirmou que a busca por palavras-chave específicas facilita o acesso a essas ferramentas. Surpreendentemente, as próprias plataformas exibiam anúncios de aplicativos semelhantes nos resultados da busca, tornando a Apple e o Google cúmplices.Mesmo que sem intenção- Na distribuição de ferramentas que transformam pessoas reais em imagens sexuais.
Existem aplicativos que se promovem exibindo o rosto de uma atriz sobreposto ao corpo de outra, permitindo que os usuários coloquem rostos reais em mulheres com pouca roupa, e ainda assim possuem classificação etária adequada para todos. Parece que os avaliadores da loja precisaram de óculos de IA para enxergar o que era óbvio para todos!
Reações e ações do governo
Após a divulgação do escândalo, as empresas, como de costume, correram para se esconder atrás de comunicados oficiais. A Apple informou à Bloomberg que removeu 15 dos aplicativos identificados, enquanto o Google afirmou ter suspendido vários outros e confirmou que suas políticas proíbem conteúdo sexual explícito e que o processo de investigação e aplicação das regras está em andamento. Mas a pergunta permanece: por que sempre precisamos de um relatório externo para fazer o trabalho que bilhões de sistemas de avaliação deveriam fazer?
Essa negligência levou governos a tomarem medidas. No Reino Unido, o Comissário para a Infância pediu a proibição de aplicativos de deepfake que criam imagens sexualmente explícitas de crianças. Os Estados Unidos e outros países também propuseram leis que proíbem deepfakes explícitos. Até mesmo o Procurador-Geral da Califórnia ordenou recentemente que a empresa de Elon Musk, a X, parasse de produzir imagens deepfake explícitas usando seu modelo de inteligência artificial, o Grok.
Fonte:
2 resenhas