Un agente de IA se salió de control y provocó un ciberataque
o.- San Francisco. (Kate Conger) El incidente ocurrió la semana pasada cuando la compañía OpenAI probaba las capacidades de ciberseguridad de sus sistemas; el hackeo afectó a Hugging Face, una biblioteca virtual muy popular entre los desarrolladores. OpenAI explicó que el episodio involucró a “agentes” de IA, sistemas que pueden operar de forma autónoma.
OpenAI, la empresa dueña de ChatGPT, informó que dos de sus modelos de inteligencia artificial (IA) actuaron por cuenta propia y atacaron Hugging Face, una biblioteca digital de IA. El incidente, ocurrido mientras OpenAI probaba las capacidades de ciberseguridad de sus sistemas, evidenció ese potencial propio de la ciencia ficción que las empresas de IA habían advertido que pronto se convertiría en realidad.
En el último año, laboratorios de IA como OpenAI y Anthropic han lanzado modelos diseñados específicamente para detectar problemas de ciberseguridad, al tiempo que advertían que su tecnología podría plantear nuevos riesgos al hallar vulnerabilidades en redes informáticas corporativas más rápido de lo que los equipos de defensa podían corregirlas.
Las revelaciones difundidas en las últimas horas indican que tales incidentes de seguridad ya están ocurriendo y que incluso las empresas de IA más expertas podrían no estar del todo preparadas para afrontarlos. Los nuevos sistemas de IA pueden ejecutar múltiples pasos, sortear obstáculos y descubrir nuevas formas de atacar una red, señaló Alex Levinson, consultor de ciberseguridad especializado en capacidades autónomas.
“Es un punto de inflexión real que se convertirá en algo habitual dentro del panorama de la seguridad”, afirmó.
La intrusión en Hugging Face se produjo cuando OpenAI puso a prueba una combinación de dos de sus modelos –GPT-5.6 Sol y otro más potente aún no lanzado al público– para evaluar su capacidad de encadenar vulnerabilidades en línea y perpetrar un ciberataque exitoso, según explicó la empresa en una publicación en su blog sobre el incidente.
La prueba estaba diseñada para mantener los modelos dentro de un entorno seguro de pruebas, conocido como sandbox (o entorno aislado), indicó OpenAI.
Sin embargo, los modelos detectaron una vulnerabilidad que les permitió escapar de dicho entorno y conectarse a internet. Acto seguido, dirigieron su ataque contra Hugging Face, ya que dedujeron que esa biblioteca –que alberga millones de modelos de IA– podría contener información clave para superar la evaluación con éxito.
“Me parece que OpenAI no creó adecuadamente el entorno aislado para las pruebas”, comentó Deirdre Mulligan, profesora de la Escuela de Información de la Universidad de California en Berkeley y especialista en seguridad y sistemas de IA. Mulligan cuestionó si superar una prueba justificaba el riesgo potencial de que un modelo de IA escapara hacia la red abierta.
“¿Qué ganamos con esto y, si esta es la única forma de configurar dichas pruebas, cuáles son los riesgos?”, planteó.
OpenAI informó que estaba trabajando con Hugging Face para solucionar los problemas que habían dado lugar al ataque.
“Consideramos que se trata de un incidente cibernético sin precedentes, que involucra capacidades cibernéticas de vanguardia y estamos respondiendo en consecuencia”, declaró OpenAI en su blog. “Estamos implementando controles estrictos en la configuración de la infraestructura, aunque esto afecte la velocidad de la investigación, mientras se corrigen las vulnerabilidades”, precisó la compañía.
Hugging Face declaró la semana pasada que había detectado la intrusión y sabía que había sido causada por un sistema autónomo, pero en ese momento no afirmó que OpenAI fuera responsable.
Clem Delangue, director ejecutivo de Hugging Face, declaró anteayer que su empresa había colaborado estrechamente con OpenAI durante las últimas 24 horas para abordar el ataque.
Delangue expresó en un comunicado su agradecimiento por la colaboración con OpenAI tras el hackeo. “Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído durante mucho tiempo: la seguridad de la IA no se resolverá con el trabajo secreto de una sola empresa”, agregó.
Los modelos han demostrado ser muy hábiles en la programación, lo que los ha hecho útiles tanto para hackers como para quienes se encargan de proteger las redes informáticas.
En abril pasado, Anthropic lanzó Mythos, un modelo centrado en la ciberseguridad, y lo puso a disposición de un pequeño grupo de organizaciones para que pudieran defenderse de los ciberataques. OpenAI pronto presentó su propio modelo de ciberseguridad y lo puso a disposición de un grupo limitado de organizaciones para que prepararan sus defensas, antes de implementarlo de forma más generalizada. Google anunció anteayer que también había desarrollado un modelo centrado en la ciberseguridad y lo había puesto a disposición de un pequeño grupo de socios de prueba.
The New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor por contenido informativo relacionado con sistemas de IA. Ambas compañías han negado estas acusaciones.
Richard Barnes, investigador independiente de seguridad que ha trabajado con Mythos, afirmó que la industria de la ciberseguridad se enfrentó a un desafío similar hace aproximadamente una década, cuando nuevas herramientas llamadas fuzzers facilitaron enormemente a los atacantes el acceso no autorizado a los sistemas en línea. Las empresas tecnológicas comenzaron a usar estas herramientas para comprobar si sus propios sistemas presentaban vulnerabilidades y, finalmente, lograron prevenir la mayoría de los ataques.
Según Barnes, ahora las empresas deben adoptar un enfoque similar para prepararse ante los ataques de IA, “antes de que los ciberdelincuentes que tienen acceso a estas herramientas puedan encontrar y explotar las vulnerabilidades”. (La Nación, Buenos Aires, 24/07/2026)
Un agente de IA se salió de control y provocó un ciberataque
