Apple y Google se esfuerzan al máximo por convencernos de que sus tiendas de aplicaciones son los lugares más seguros del planeta, como fortalezas inexpugnables accesibles solo para quienes cumplen con estrictos estándares éticos y técnicos. Pero parece que la inteligencia artificial ha tomado un camino oscuro y, sorprendentemente, estas grandes empresas no son inmunes a las consecuencias. Un nuevo informe revela que las aplicaciones especializadas en "desnudez" e imágenes pornográficas falsas siguen proliferando en la App Store de iPhone y en Google Play. Aún más alarmante, los algoritmos de estas tiendas a veces dirigen a los usuarios directamente a ellas mediante anuncios y resultados de búsqueda.
Cifras impactantes y presencia pública
El informe del Tech Transparency Project (TTP) no se basaba en meras especulaciones; estaba respaldado por cifras asombrosas. El informe identificó 18 aplicaciones en la App Store de Apple y 20 en Google Play Store especializadas en lo que se conoce como aplicaciones de contenido erótico o de desnudez. Estas aplicaciones no eran simples experimentos fallidos ocultos en los rincones oscuros de la tienda; en conjunto, generaron aproximadamente 122 millones de dólares en ingresos y se descargaron 483 millones de veces. Sí, lo leyó bien: ¡estamos hablando de casi quinientos millones de descargas!
La ironía reside en que algunas de estas aplicaciones tenían clasificación "E" (para todos los públicos), lo que significa que cualquier niño con un dispositivo podía acceder a ellas fácilmente. Mientras los padres se esfuerzan por limitar el tiempo que sus hijos pasan frente a las pantallas, las tiendas de aplicaciones "oficiales" ofrecían herramientas que podían transformar fotos de personas reales en imágenes pornográficas o insertar sus rostros en vídeos inapropiados mediante la tecnología deepfake.
Algoritmos de búsqueda: Una guía turística para el mal contenido.
El problema no radica solo en la existencia de las aplicaciones, sino en cómo los usuarios acceden a ellas. El informe afirmaba que la búsqueda con palabras clave específicas facilita el acceso a estas herramientas. Sorprendentemente, las propias plataformas mostraban anuncios de aplicaciones similares en los resultados de búsqueda, lo que convierte a Apple y Google en cómplices.Aunque sea sin quererlo- En la distribución de herramientas que transforman a personas reales en imágenes sexuales.
Existen aplicaciones que se promocionan mostrando el rostro de una actriz superpuesto al cuerpo de otra, permitiendo a los usuarios colocar rostros reales en mujeres con poca ropa, y aun así mantienen una clasificación por edades apta para todos. ¡Parece que los revisores de la tienda necesitaban gafas de IA para ver lo que era obvio para todos!
Reacciones y acciones del gobierno
Tras el estallido de este escándalo, las empresas, como de costumbre, se apresuraron a escudarse en sus comunicados oficiales. Apple declaró a Bloomberg que había retirado 15 de las aplicaciones identificadas, mientras que Google afirmó haber suspendido varias y confirmó que sus políticas prohíben el contenido sexual explícito y que el proceso de investigación y aplicación de la ley continúa. Pero la pregunta persiste: ¿por qué siempre necesitamos un informe externo para realizar el trabajo que se supone que hacen miles de millones de sistemas de revisión?
Esta permisividad ha llevado a los gobiernos a tomar medidas. En el Reino Unido, la Comisionada para la Infancia ha solicitado la prohibición de las aplicaciones deepfake que crean imágenes sexualmente explícitas de menores. Estados Unidos y otros países también han propuesto leyes que prohíben los deepfakes explícitos. Incluso el Fiscal General de California ordenó recientemente a la empresa de Elon Musk, X, que dejara de producir imágenes deepfake explícitas utilizando su modelo de inteligencia artificial, Grok.
Fuente:
Comentario de 2