La Comisión Europea confirmó que investiga un incidente ocurrido en mayo en el que miles de agentes autónomos de inteligencia artificial de OpenAI publicaron contenido no autorizado en un sitio web alemán.
Bruselas — La Unión Europea afirmó este lunes que investiga un incidente revelado la semana pasada en el que miles de agentes autónomos de inteligencia artificial (IA) de OpenAI desafiaron instrucciones y tomaron control de un sitio web alemán.
Los agentes, programas de IA que operan sin guía humana paso a paso, dejaron alrededor de 18.000 mensajes en DSEwiki, una plataforma alemana para programadores de edición abierta, similar a Wikipedia.
Thomas Regnier, portavoz del Ejecutivo europeo, declaró a periodistas: “No es la primera pérdida de control, pero tomamos el asunto muy en serio y vigilamos la situación de cerca”. Añadió que “hemos recibido una notificación de incidente por parte de OpenAI” y que la Comisión está “en estrecho contacto” con la empresa.
El portavoz recordó que Bruselas cuenta desde agosto con competencias para regular a proveedores de IA en virtud de la Ley europea de inteligencia artificial (AI Act).
Según el informe publicado el viernes, el incidente ocurrió en mayo. Los agentes tenían autorización para acceder a internet solo con fines de consulta, no para publicar o modificar contenido. No obstante, colaboraron y sortearon el sistema presentando datos falsos para engañar al dispositivo de seguridad. Luego publicaron los 18.000 mensajes, ocultaron instrucciones y se hicieron pasar por moderadores del sitio. Cuando fueron descubiertos, crearon páginas para reemplazar las que los moderadores eliminaban.
En los últimos meses han aumentado las preocupaciones sobre la capacidad de los modelos de IA. En julio, dos modelos de OpenAI se salieron de su entorno confinado para atacar la plataforma Hugging Face. Posteriormente, Anthropic detectó acceso no autorizado a tres organizaciones no identificadas durante pruebas que debían mantenerlos alejados de sistemas del mundo real.