Não acredite em tudo que ouve: como a inteligência artificial está sendo usada para fraudes

Os fraudadores estão ficando mais espertos e é por isso que todos os dias encontramos novas maneiras de enganar os outros, e no passado alguns tentavam Hackear Sua conta no Facebook ou seu e-mail, e então ele envia e-mails para amigos, familiares e qualquer pessoa na conta e tenta pedir dinheiro sob o pretexto de que eles são você e que você está com problemas e precisa desse dinheiro rapidamente, é claro aquele truque barato funcionou em uma porcentagem muito pequena, mas parece que o desenvolvimento da inteligência artificial fez com que esse truque desse certo assustadoramente.

roubo de identidade

Você sabe por que o golpe de representação não funciona tão bem, porque o golpista precisa ser um hacker para invadir sua conta de mídia social ou seu e-mail e, na maioria das vezes, outras pessoas não acreditam e tentam fazer uma ligação com você para confirmar a história, mas e se ele tentar Seu amigo, ou talvez seu irmão, esposa ou alguém próximo a você, ligar para você e falar com você por voz e pedir algum dinheiro emprestado porque ele precisa. O que será O resultado? Claro, o truque funcionará imediatamente e você enviará o dinheiro por qualquer meio. Foi o que aconteceu com muitas pessoas no período atual, pois pensaram que seus parentes estavam pedindo ajuda, mas descobriu-se que era apenas uma fraude apoiada por inteligência artificial AI.

 O truque é alimentado por inteligência artificial

O fraudador usa inteligência artificial para se parecer com um membro da família que teve problemas ou passou por dificuldades e precisa de ajuda financeira e, de acordo com uma reportagem publicada pelo Washington Post, Ruth Card, uma mulher de 73 anos, recebeu uma ligação de uma pessoa assim que ela ouviu sua voz, ela imediatamente soube que era ele.Seu neto, Brandon, que disse a ela que estava na prisão sem telefone ou carteira e precisava de dinheiro para fiança.

Imediatamente Ruth e seu marido Greg correram para o banco mais próximo e sacaram cerca de $ 3000 (o saque máximo diário), então correram para outro banco para sacar mais dinheiro para o neto, mas o funcionário do banco os acalmou e disse: alguns clientes receberam uma ligação de pessoas que conheciam e estavam pedindo dinheiro, mas descobriu-se que essa voz era falsa. E daí se a pessoa ao telefone não for seu neto?

Isso é o que Ruth e seu marido Greg pensaram.Parece Brandon, mas não é ele, e eles imediatamente percebem que foram enganados. "Fomos completamente enganados e estávamos convencidos de que estávamos conversando com Brandon", disse Ruth.

Apenas para informação: o site de voz falsa está disponível para todos e é fácil de usar, mas não suporta árabe, e este é o site: https://elevenlabs.io

Uma empresa especializada nisso é a ElevenLabs, uma startup de geração de voz de IA fundada em 2022 que pode converter uma pequena amostra de áudio em uma voz gerada artificialmente por meio de uma ferramenta de conversão de texto em fala. A ferramenta da empresa pode ser usada gratuitamente ou a um custo a partir de US$ 5.

Como funciona o truque?

O avanço na inteligência artificial permitiu que golpistas replicassem o áudio usando apenas uma amostra de áudio de algumas frases ou sentenças que você mesmo diz. Assim, por meio de inteligência artificial e ferramentas online baratas ou mesmo gratuitas, o fraudador consegue obter uma cópia exata de um arquivo de áudio seu e de outras pessoas, e então o fraudador usa a inteligência artificial para fazê-lo falar no mesmo tom da sua voz.

Embora os golpes ocorram de várias formas, eles funcionam da mesma maneira, onde o golpista se faz passar por um irmão, primo ou amigo de confiança e convence a vítima a enviar-lhe dinheiro porque está em perigo.

Mas a tecnologia de voz com IA torna o truque ainda mais convincente. Isso foi comprovado pela reportagem do jornal, onde as vítimas descreveram que sua reação foi de ansiedade misturada com extremo horror quando souberam que seus parentes estavam em perigo, e esse é o acorde sensível que o fraudador toca, pois a emoção para com os outros funciona em a ausência de lógica e, portanto, não podemos pensar corretamente e nosso objetivo torna-se ajudar apenas aqueles de quem gostamos.

Inteligência artificial

Esse truque se refere ao progresso técnico que alcançamos e ao desenvolvimento da inteligência artificial que é capaz de fazer muitas coisas maravilhosas, e posso ser substituído por uma inteligência artificial que escreva artigos para você no futuro, quem sabe.

Comentário do gerente do site iPhone Islam: Já estamos trabalhando nisso, Walid ????

Mas, como sabemos, tudo tem dois lados, e o outro lado da inteligência artificial é o uso indevido por fraudadores e vigaristas para imitar vozes e convencer as vítimas, principalmente os idosos, de que seus entes queridos e parentes estão em perigo e precisam de ajuda financeira.

É uma implicação sombria do desenvolvimento atual em IA generativa que alimenta programas que geram texto, imagens ou sons com base nos dados inseridos. Avanços em matemática e poder computacional melhoraram os mecanismos de treinamento para tais programas. Isso motivou um grande número de empresas a lançar chatbots, ferramentas de criação de imagens e até vozes indistinguíveis do original.

Um especialista disse que o software de geração de voz de IA analisa o que torna a voz de uma pessoa única, incluindo idade, gênero e sotaque, e pesquisa um extenso banco de dados de vozes para encontrar vozes semelhantes e prever padrões. Um tom idêntico da voz de uma pessoa poderia então ser recriado e um efeito similar criado. É preciso uma pequena amostra de áudio que você pode obter de lugares como o YouTube ou talvez um de seus vídeos do Facebook, Instagram ou até mesmo do Facebook.

 Outra história

A história começou quando seus pais receberam um telefonema de uma pessoa que afirmava ser o advogado de seu filho Birkin e disse a eles que ele matou alguém em um acidente de carro, e Birkin agora está na prisão e precisa de algum dinheiro para o caso, então ele disse a eles que seu filho iria falar com eles em breve.

O advogado coloca Birkin no telefone e logo a mãe ouve a voz de Birkin dizendo que os ama e precisa de dinheiro. Algumas horas depois, o advogado ligou para os pais de Birkin novamente, dizendo que seu filho precisava de $ 21000 antes de uma audiência no tribunal naquele dia.

Os pais de Birkin disseram depois que a ligação parecia incomum e havia algum ceticismo, mas foi rapidamente dissipado pelo pressentimento de que eles já haviam falado com o filho e que ele precisava de sua ajuda.

Infelizmente, o próximo plano era se apressar e sacar o dinheiro que já havia sido enviado ao golpista. E a verdade veio à tona quando o verdadeiro filho os chamou, e aqui a história ficou clara e eles souberam que foi uma artimanha em que caíram e o fraudador escapou com o dinheiro deles. E caso você esteja se perguntando como eles conseguiram a voz de Birkin, a resposta é fácil através da Internet, onde ele postou vários vídeos falando sobre snowboard no YouTube, e muito provavelmente, o fraudador tenta acessar um arquivo de áudio para você, pesquisando no YouTube ou nas suas contas sociais, ou mesmo nas histórias que você publica no TikTok ou Instagram.

Por fim, para não cair na armadilha, se você receber uma ligação de uma voz afirmando que é um membro da sua família e que precisa de dinheiro, coloque-a em espera e tente entrar em contato com essa pessoa para confirmar o assunto. Além disso, se você estiver em dúvida, tente conversar com a pessoa sobre coisas que você conhece e pergunte a ela sobre qualquer coisa para ter certeza de que não é uma voz falsa.

Fonte:

washingtonpost