A quienes hemos crecido viendo la saga Terminator, el debate de hasta dónde debe llegar la inteligencia artificial nos suena mucho, bastante. Y parece que los máximos dirigentes europeos también empiezan a verle las orejas al lobo.
Tras lo ocurrido en las últimas semanas, con la dimisión de investigadores de seguridad y varios episodios en los que modelos de IA han llegado a interactuar con sistemas que no formaban parte de sus objetivos iniciales, algunas de las propias empresas del sector están reclamando más tiempo para desarrollar sus tecnologías con seguridad, sobre todo para el ser humano.
Dario Amodei, CEO de Anthropic, pidió recientemente que las empresas reduzcan el ritmo al que mejoran sus modelos más avanzados, mientras Sam Altman y Elon Musk respaldaron públicamente su postura.
Ahora, la petición ha llegado al corazón de la Unión Europea, donde Ursula von der Leyen ha aprovechado su discurso sobre el Estado de la Unión para alinearse en el mismo sentido.
Ursula von der Leyen pide bajar el ritmo de la IA
La presidenta de la Comisión Europea fue bastante clara al explicar su posición. Según el directo que hemos podido ver en Euronews, von der Leyen aseguró que los responsables de algunas de las empresas más avanzadas de inteligencia artificial, esas que están apoderándose poco a poco de tu móvil, ya sea vía Gemini, Apple Intelligence Chat GPT o Claude, les han trasladado que «es hora de bajar el ritmo» con los modelos actuales.
Aquí está el quid de la cuestión. No es una decisión propia, sino una respuesta ante las propias advertencias de quienes están desarrollando esta tecnología. «Si quienes desarrollan la tecnología opinan que esto es así, nosotros también deberíamos estar de acuerdo», afirmó ante los eurodiputados.
La Comisión Europea organizará ahora un debate con los principales laboratorios de IA para analizar cómo pueden colaborar las autoridades públicas con la industria para establecer un ritmo de desarrollo más controlado. Eso sí, de momento no se sabe ni cuándo ni quién asistirá a esta reunión.
Guillaume Périgois en Unsplash
Bruselas quiere tener más control
Las advertencias llegan además después de varios incidentes protagonizados por agentes de IA durante pruebas de seguridad. Anthropic y OpenAI han reconocido comportamientos en los que sus modelos fueron capaces de actuar más allá de las tareas inicialmente previstas, incluyendo ataques contra sistemas externos durante determinados escenarios de evaluación.
Von der Leyen ha planteado esta cuestión principalmente desde el punto de vista de la seguridad. Durante su discurso advirtió de que los modelos más inmediatos podrían llevar a cabo ataques informáticos «a una escala que nunca creímos posible» y señaló el riesgo de que tecnologías de este nivel terminen en manos de adversarios.
La política también planteó una colaboración con países como Canadá y Reino Unido para mejorar la evaluación, verificación, alerta temprana y seguridad de estos sistemas. La idea es supervisar de forma constante las medidas que van a tomar las empresas, es decir, cómo van a trabajar los propios desarrolladores de los modelos más avanzados de IA para no llegar al punto en que sea imposible dar marcha atrás.
John Connor, calienta que sales.