Las últimas acusaciones contra Apple y Google siguen la línea de la investigación que la entidad Tech Transparency Project puso de manifiesto el pasado mes de enero. Entonces, ya se dijo que tanto Apple Store como Play Store estaban plagadas de apps que te desnudan con IA. 3 meses después, la cosa sigue igual… o peor.
La nueva investigación ya no solo habla de la presencia de estas apps, sino de como las tiendas de aplicaciones las ‘potencian’, por decirlo de alguna forma. En este caso, Tech Transparency Project se ha centrado en cómo los propios sistemas de búsqueda y publicidad de Apple y Google podrían estar ayudando a los usuarios a encontrarlas.
Las aplicaciones de desnudos Nudify siguen siendo un problema
Según el nuevo informe, tanto la App Store como Google Play Store «están ayudando a los usuarios a encontrar aplicaciones que crean imágenes deepfake de mujeres desnudas», a veces a través de resultados de búsqueda promocionados y sugerencias de búsqueda del autocompletado.
En el informe, la compañía afirma que Apple y Google siguen sin impedir que aparezcan en sus tiendas de aplicaciones aplicaciones que muestran contenido explícito de mujeres desnudas, algunas de las cuales parecen aptas para menores. El grupo descubrió que casi el 40 % de las 10 aplicaciones más buscadas en términos como «nudify«, «undress» y «deepnude» podrían «mostrar a mujeres desnudas o con poca ropa».
Además, algunas búsquedas mostraron resultados patrocinados de estas aplicaciones.
El primer resultado de una búsqueda en la App Store de «deepfake» fue un anuncio de FaceSwap Video de DuoFace. La aplicación permite a los usuarios intercambiar el rostro de cualquier persona de una imagen fija a un video. Para probar la aplicación, TTP subió una imagen de una mujer con un suéter blanco de pie en una acera y un video de una mujer en topless. Tras mostrar un breve anuncio, la aplicación generó un video que mostraba el rostro de la mujer vestida sobre el cuerpo de la mujer desnuda.
Y no es el único ejemplo que dan, ya que otra búsqueda en la App Store con el término «intercambio de rostros» dio como resultado un anuncio de una aplicación llamada AI Face Swap, la cual ofrece plantillas predefinidas para intercambiar rostros y permite a los usuarios intercambiar caras en imágenes que ellos mismos suben. Los investigadores subieron una foto de una mujer con un suéter azul en una sala de estar y una imagen de una mujer en topless, y la aplicación intercambió sus rostros sin restricciones.
Apple pasa, Google responde.
Al ser preguntados al respecto, desde TTP afirman que Apple no quiso hacer comentarios, y que ninguna de las dos compañías respondió a las preguntas sobre por qué las funciones de búsqueda de su tienda de aplicaciones apuntan a aplicaciones con contenido erótico, cómo estas aplicaciones superan su proceso de revisión, o por qué se aprueban para menores aplicaciones con contenido erótico.
Eso sí, un portavoz de Google, Dan Jackson, afirmó que muchas de las aplicaciones identificadas por TTP han sido suspendidas y que el proceso de aplicación de las normas por parte de la compañía continúa. «Cuando se nos informan infracciones de nuestras políticas, investigamos y tomamos las medidas oportunas», declaró.
También se ha contactado con los desarrolladores de varias de estas aplicaciones, alguno de los cuales afirma que se usa la IA de Grok para la generación de imágenes, declarando que «no tenía ni idea de que fuera capaz de producir contenido tan extremo».