Google se lava las manos con el gravísimo error de Gemini: ‘Hemos decidido no registrarlo como un problema de seguridad’
Google es una empresa que se preocupa constantemente por la seguridad de los usuarios en Android y prueba de ello es que quiere eliminar todas las aplicaciones de tiendas externas a Play Store cuyos desarrolladores no se encuentren verificados. Esta es solo una de las muchas medidas de la empresa estadounidense. Sin embargo, Gemini padece de un problema de seguridad de alta gravedad y no tiene pinta de que vaya a solucionarlo.
Ha sido el investigador de seguridad conocido como Viktor Markopoulos quien ha revelado que Gemini es vulnerable a un tipo de ataque conocido como ‘contrabando ASCII’. Esto tras un análisis de las principales inteligencias artificiales del momento, entre las que se encuentran competidores directos como ChatGPT de OpenAI y Copilot de Microsoft, dos empresas que ya han añadido protecciones ante esta brecha de seguridad. En cambio, desde Google no muestran interés por poner solución al problema y echan balones fuera afirmando que es responsabilidad única y exclusiva del usuario.
Qué es el ‘contrabando ASCII’ y por qué es peligroso
Esta clase de ataque es un método innovador que ha surgido a través del nacimiento de los asistentes de IA actuales y funciona de la siguiente forma: imagina que recibes un mensaje por correo. Este mensaje puede esconder texto oculto con un tamaño de letra imposible de ver para el ojo humano y que consiste en una instrucción maliciosa introducida por el ciberdelincuente. Si le pides a Gemini un resumen de tus correos o de ese correo en cuestión, la IA ejecutará la orden oculta del mensaje, además de proporcionar el resumen.
Esto abre un abanico de posibilidades a los atacantes, convirtiendo este problema en una amenaza muy seria. En el peor de los casos, la orden oculta en el mensaje podría ser buscar todas las contraseñas en un hilo de correos y enviarlas a una dirección específica. Teniendo en cuenta que Gemini está integrado en gran parte de los servicios de Google Workspace (Gmail, Drive, Hojas de cálculo…) esta clase de orden podría suponer una fuga importante de información confidencial del usuario.
Google responsabiliza al usuario
Desde medios como Bleeping Computer indican que Viktor no solo informó a Google sobre esta vulnerabilidad y problema de Gemini, sino que realizó una demostración práctica de la brecha de seguridad. El investigador consiguió que Gemini recomendara un sitio web malicioso que supuestamente incluía una oferta por un teléfono móvil; esta es la instrucción invisible incluida por el ciberdelincuente.
Ante este problema, cualquiera podría pensar que Google ya es consciente del fallo de seguridad y que está trabajando en una solución, pero nada más lejos de la realidad. La respuesta de Google fue desconcertante, pues, en lugar de reconocerlo como una vulnerabilidad en su inteligencia artificial, la compañía de Mountain View asegura que se trata de un problema de ‘ingeniería social’, es decir, Google considera que si un usuario es engañado por un texto oculto procesador por Gemini, la culpa y responsabilidad recae en el usuario por caer en el engaño.
Esta medida choca con la del resto de asistentes de IA, puesto que alternativas como ChatGPT y Copilot sí que cuentan con medidas para detectar y contrarrestar esta clase de ataques, así que la solución existe como tal. Lo único es que Google no quiere implementar la medida de seguridad necesaría, lo que significa que tendrás que tener mucho cuidado a la hora de usar Gemini, ya sea evitar solicitudes relacionadas con sus servicios integrados para esquivar el problema u optar por otras aplicaciones de inteligencia artificial.
