Ferramentas de inteligência artificial do Google para criação e edição de imagens: criatividade levanta preocupações

No mundo acelerado da tecnologia, o Google está à beira de uma nova revolução no campo dos smartphones e da inteligência artificial. Com o lançamento de uma série de telefones Pixel 9 Recentemente, a empresa introduziu um conjunto de ferramentas inovadoras baseadas em IA para criação e edição de imagens. Mas estas ferramentas, apesar da sua criatividade, suscitaram sérias preocupações sobre o seu potencial de utilização indevida e o seu impacto na autenticidade das imagens nesta era digital.

Pixel Studio é uma ferramenta controversa de criação de fotos

Uma das novidades mais notáveis ​​​​aos telefones Pixel 9 é o recurso Pixel Studio. Este aplicativo, projetado para criar adesivos e fotos usando comandos de texto, é muito semelhante ao recurso Image Playground que a Apple planeja lançar no iOS 18. No entanto, os recursos do Pixel Studio vão além de apenas criar fotos fofas para gatos, coelhos e edifícios.

Possibilidades alarmantes

Os revisores conseguiram criar uma ampla gama de imagens controversas com o Pixel Studio. Por exemplo:

◉ Uma versão nazista do Bob Esponja.

◉ Fotos de Elmo segurando um rifle AK47.

◉ Personagens famosos de desenhos animados em situações inadequadas envolvendo drogas e álcool.

◉ Fotos de situações violentas, como tiroteios em escolas.

Embora o Pixel Studio não crie automaticamente esses tipos de imagens, a capacidade de produzi-las facilmente sob demanda levanta sérias preocupações sobre o potencial de abuso dessa tecnologia.

Neste vídeo publicitário, vemos o Google incentivando você a criar imagens para zombar de seus amigos.

A resposta do Google às críticas

Na tentativa de resolver essas preocupações, o Google disse que implementou “verificações de segurança” para evitar que o Pixel Studio seja usado “malicioso”. Esses procedimentos incluem:

◉ Impedir a criação de imagens de pessoas reais.

◉ Modifique a IA em resposta a comentários e críticas.

◉ Proibição da criação de imagens de personagens de desenhos animados usando drogas ou vestindo uniformes de soldados alemães.

A ferramenta “Reimagine” edita imagens com um realismo incrível

Junto com o aplicativo Pixel Studio, o Google introduziu a ferramenta “Reimagine”, que permite aos usuários adicionar elementos a fotos já existentes. Esta ferramenta, ainda mais perturbadora que o Pixel Studio, tem a capacidade de:

◉ Adicione elementos altamente realistas às fotos, como cadáveres, bombas, drogas, desastres e acidentes.

◉ Combine com precisão a iluminação e a perspectiva da imagem original.

◉ Produzir imagens modificadas que são difíceis de distinguir das imagens reais.

Veja a imagem acima, à esquerda está a imagem real original e à direita está a imagem modificada pela ferramenta AI da Reimagine. A questão vai além disso, pois você pode colocar drogas e álcool ao lado de uma pessoa em quem as pessoas confiam ou de um estudioso de confiança, despertando assim a tentação como pedaços de uma noite escura.

O realismo das imagens Reimagine levanta sérias preocupações sobre a autenticidade das imagens nas redes sociais e na Internet. Embora o Google adicione uma tag de metadados às imagens editadas, ela pode ser facilmente removida fazendo uma captura de tela.

Lado positivo: enorme potencial criativo

Apesar das preocupações em torno destas ferramentas, é importante notar o seu potencial positivo e criativo. Pixel Studio e Reimagine podem ser usados ​​para criar imagens divertidas e criativas, como:

◉ Adicione pôr do sol e arco-íris às fotos.

◉ Crie imagens de pizza Oreo.

◉ Filmar uma girafa surfando nas ondas.

◉ Crie fotos de gatinhos jogando basquete.

O que distingue as novas ferramentas do Google é a facilidade de uso e a rapidez na produção de imagens. Embora a criação de imagens complexas ou modificadas anteriormente exigisse habilidades avançadas em programas como o Photoshop e muito tempo, com os novos telefones Pixel agora leva apenas uma ideia e alguns segundos.

Posição e feedback do Google

Em suas declarações oficiais, o Google confirmou que projetou suas ferramentas de IA para “respeitar a intenção das solicitações do usuário”, ou respeitar a intenção das solicitações do usuário. Isso significa compreender a essência do que eles desejam e fornecer uma resposta útil, mesmo que seja a solicitação. não é literalmente acionável. Isto exige focar no objetivo principal do usuário, oferecendo soluções alternativas quando necessário, mantendo o espírito da solicitação original. Esta abordagem promove uma comunicação eficaz e melhora a experiência do utilizador nas interações com sistemas de IA.

Isto pode levar à criação de conteúdo “ofensivo” quando solicitado pelo usuário.

No entanto, a empresa confirma que existem “Termos de Serviço” que definem quais conteúdos não são permitidos e que continuará a melhorar essas salvaguardas.

Perspectivas futuras: Desafios enfrentados pelas empresas de tecnologia

À medida que a Apple se aproxima do lançamento de suas próprias ferramentas de criação de fotos, como Image Playground e Genmoji, as reações ao lançamento do Pixel 9 oferecem uma visão dos desafios que as empresas podem enfrentar nesta área. Os usuários provavelmente conseguirão encontrar maneiras de contornar essas garantias que as empresas oferecem para não criar um envio ofensivo, por mais rigoroso que seja.

Conclusão: Um futuro incerto para imagens digitais

Com o avanço das tecnologias de inteligência artificial na criação e edição de imagens, estamos à beira de uma nova era na fotografia digital. Embora a Apple tenha evitado até agora criar imagens fotorrealistas usando IA, o Google está caminhando fortemente nessa direção.

Este desenvolvimento levanta questões fundamentais sobre o futuro e a credibilidade das imagens digitais. Como seremos capazes de distinguir entre imagens reais e falsas? Quais são as implicações sociais e éticas dessas tecnologias? Como as empresas de tecnologia podem equilibrar inovação e responsabilidade social?

Em última análise, parece que a confiança nas imagens nas redes sociais e na Internet se tornará mais difícil num futuro próximo, exigindo uma maior sensibilização dos utilizadores e o desenvolvimento de novas ferramentas para verificar a autenticidade dos conteúdos digitais.

Fonte:

macrumores