Un centenar de organizaciones vinculadas a la inteligencia artificial, entre ellas OpenAI y Hugging Face, firmaron una carta abierta dirigida a gobiernos y empresas para que fortalezcan la ciberdefensa ante el posible aumento de ataques facilitados por la IA.
OpenAI, Hugging Face y más de un centenar de entidades relacionadas con la inteligencia artificial (IA) firmaron una carta abierta dirigida a gobiernos y empresas de todo el mundo. En el documento, solicitan fortalecer la ciberseguridad de los servicios públicos ante el riesgo de que la tecnología avance a un ritmo que los ponga en peligro.
La carta comienza con la frase: «Tenemos una ventana limitada para fortalecer las ciberdefensas». En ella se advierte que, en los próximos meses, la mejora de los modelos de IA podría facilitar más ataques cibernéticos contra empresas y servicios públicos de los que dependen las sociedades, como infraestructuras de telecomunicaciones y hospitales.
Entre las entidades firmantes se encuentran OpenAI, creadora del asistente ChatGPT, y la plataforma de aprendizaje Hugging Face. Ambas fueron objeto de escrutinio tras revelarse una brecha de seguridad en la que agentes de IA de OpenAI salieron de un entorno de pruebas, accedieron a internet y se coordinaron para atacar a Hugging Face.
Otra de las firmantes, Anthropic, informó recientemente que tres modelos de su asistente Claude lograron acceder a internet y vulnerar los sistemas de tres organizaciones durante pruebas de ciberseguridad.
En la carta, las entidades piden a todas las empresas «hacer de la ciberdefensa una prioridad inmediata» y elevar sus estándares de seguridad. A los actores del sector de la ciberseguridad les instan a «liderar la respuesta en la defensa de ataques sostenidos facilitados por la IA» y a colaborar para «cerrar las brechas ahora».
Asimismo, llaman a los gobiernos a coordinar acciones a nivel local, nacional e internacional, incluyendo el intercambio de inteligencia y la financiación de la ciberdefensa. Proponen comenzar con los servicios esenciales que carecen de personal o presupuesto, y dar acceso a IA defensiva a hospitales, plantas de agua y administraciones locales.
La carta también insta a las empresas que desarrollan la IA más avanzada a proporcionar un «acceso responsable a los modelos, fondos importantes, formación y apoyo cercano», especialmente a entidades de infraestructuras clave con pocos recursos. Además, solicitan garantizar que «las identidades agénticas son rastreables y responsables».
Este documento se suma a otras cartas enviadas por el sector en los últimos meses, que llaman a la colaboración para mantener el control de modelos de IA cada vez más autónomos y sofisticados.