Herramientas de inteligencia artificial de Google para crear y editar imágenes: la creatividad genera preocupaciones

En el acelerado mundo de la tecnología, Google se encuentra al borde de una nueva revolución en el campo de los teléfonos inteligentes y la inteligencia artificial. Con el lanzamiento de una serie de teléfonos Pixel 9 Recientemente, la compañía presentó un conjunto de herramientas innovadoras basadas en inteligencia artificial para crear y editar imágenes. Pero estas herramientas, a pesar de su creatividad, han generado serias preocupaciones sobre su potencial de uso indebido y su impacto en la autenticidad de las imágenes en esta era digital.

Pixel Studio es una controvertida herramienta de creación de fotografías

Una de las nuevas incorporaciones más notables a los teléfonos Pixel 9 es la función Pixel Studio. Esta aplicación, diseñada para crear pegatinas y fotografías mediante comandos de texto, es muy similar a la función Image Playground que Apple planea lanzar en iOS 18. Sin embargo, Las capacidades de Pixel Studio van más allá de la simple creación de lindas fotografías de gatos, conejos y edificios.

Posibilidades alarmantes

Los revisores han podido crear una amplia gama de imágenes controvertidas con Pixel Studio. Por ejemplo:

◉ Una versión nazi de Bob Esponja.

◉ Imágenes de Elmo sosteniendo un rifle AK47.

◉ Personajes de dibujos animados famosos en situaciones inapropiadas que involucran drogas y alcohol.

◉ Imágenes de situaciones violentas como tiroteos en escuelas.

Aunque Pixel Studio no crea automáticamente este tipo de imágenes, la capacidad de producirlas fácilmente bajo demanda genera serias preocupaciones sobre el potencial de abuso de esta tecnología.

En este vídeo publicitario, vemos a Google animándote a crear imágenes para burlarte de tus amigos.

La respuesta de Google a las críticas

En un intento por abordar estas preocupaciones, Google dijo que ha implementado "controles de seguridad" para evitar que Pixel Studio se utilice "maliciosamente". Estos procedimientos incluyen:

◉ Evitar la creación de imágenes de personas reales.

◉ Modificar la IA en respuesta a reseñas y críticas.

◉ Prohibir la creación de imágenes de personajes de dibujos animados que consumen drogas o visten uniformes de soldados alemanes.

La herramienta “Reimagine” edita imágenes con un realismo asombroso

Junto con la aplicación Pixel Studio, Google ha introducido la herramienta "Reimagine", que permite a los usuarios agregar elementos a fotografías ya existentes. Esta herramienta, que es incluso más inquietante que Pixel Studio, tiene la capacidad de:

◉ Agregue elementos muy realistas a las fotografías, como cadáveres, bombas, drogas, desastres y accidentes.

◉ Haga coincidir con precisión la iluminación y la perspectiva con la imagen original.

◉ Producir imágenes modificadas que sean difíciles de distinguir de las imágenes reales.

Mire la imagen de arriba, a la izquierda está la imagen real original y a la derecha está la imagen modificada por la herramienta AI de Reimagine. El asunto va más allá, ya que se pueden colocar drogas y alcohol al lado de una persona en quien la gente confía o de un erudito de confianza, despertando así la tentación como pedazos de una noche oscura.

El realismo de las imágenes de Reimagine genera serias preocupaciones sobre la autenticidad de las imágenes en las redes sociales e Internet. Aunque Google agrega una etiqueta de metadatos a las imágenes editadas, se puede eliminar fácilmente tomando una captura de pantalla.

Lado positivo: enorme potencial creativo

A pesar de las preocupaciones que rodean a estas herramientas, es importante señalar su potencial positivo y creativo. Pixel Studio y Reimagine se pueden utilizar para crear imágenes divertidas y creativas, como:

◉ Agregue puesta de sol y arcoíris a las fotos.

◉ Crea imágenes de pizza Oreo.

◉ Filmar una jirafa surfeando las olas.

◉ Crea imágenes de gatitos jugando baloncesto.

Lo que distingue a las nuevas herramientas de Google es su facilidad de uso y su velocidad de producción de imágenes. Si bien antes crear imágenes complejas o modificadas requería habilidades avanzadas en programas como Photoshop y mucho tiempo, ahora solo hace falta una idea y unos segundos con los nuevos teléfonos Pixel.

Posición y comentarios de Google

En sus declaraciones oficiales, Google confirmó que diseñó sus herramientas de inteligencia artificial para "respetar la intención de las solicitudes de los usuarios", o respetar la intención de las solicitudes de los usuarios. Esto significa comprender la esencia de lo que quieren y brindar una respuesta útil, incluso si la solicitud. no es literalmente procesable. Esto requiere centrarse en el objetivo principal del usuario, ofreciendo soluciones alternativas cuando sea necesario, manteniendo el espíritu de la solicitud original. Este enfoque promueve una comunicación efectiva y mejora la experiencia del usuario en las interacciones con los sistemas de IA.

Esto puede dar lugar a la creación de contenidos “ofensivos” cuando lo solicite el usuario.

Sin embargo, la empresa confirma que existen “Términos de servicio” que definen qué contenido no está permitido y que continuará mejorando estas salvaguardas.

Perspectivas de futuro: Desafíos que enfrentan las empresas tecnológicas

A medida que Apple se acerca al lanzamiento de sus propias herramientas de creación de fotografías, como Image Playground y Genmoji, las reacciones al lanzamiento del Pixel 9 ofrecen información sobre los desafíos que las empresas pueden enfrentar en esta área. Es probable que los usuarios puedan encontrar formas de eludir estas garantías que ofrecen las empresas de no crear un envío ofensivo, por estricto que sea.

Conclusión: un futuro incierto para las imágenes digitales

Con el avance de las tecnologías de inteligencia artificial en la creación y edición de imágenes, estamos en la cúspide de una nueva era en la fotografía digital. Si bien Apple hasta ahora ha evitado crear imágenes fotorrealistas utilizando IA, Google se está moviendo con fuerza en esta dirección.

Este desarrollo plantea preguntas fundamentales sobre el futuro y la credibilidad de las imágenes digitales. ¿Cómo podremos distinguir entre imágenes reales y falsas? ¿Cuáles son las implicaciones sociales y éticas de estas tecnologías? ¿Cómo pueden las empresas de tecnología equilibrar la innovación y la responsabilidad social?

En última instancia, parece que confiar en las imágenes en las redes sociales e Internet será más difícil en el futuro cercano, lo que requerirá una mayor conciencia por parte de los usuarios y el desarrollo de nuevas herramientas para verificar la autenticidad del contenido digital.

Fuente:

macrumores