{"id":25079,"date":"2026-09-25T00:00:36","date_gmt":"2026-09-25T03:00:36","guid":{"rendered":"https:\/\/lanavedenovoradio.com.ar\/1\/que-fue-el-incidente-hugging-face-el-ataque-de-openai-que-encendio-las-alarmas-por-los-agentes-de-ia\/"},"modified":"2026-09-25T00:00:36","modified_gmt":"2026-09-25T03:00:36","slug":"que-fue-el-incidente-hugging-face-el-ataque-de-openai-que-encendio-las-alarmas-por-los-agentes-de-ia","status":"publish","type":"post","link":"https:\/\/lanavedenovoradio.com.ar\/1\/que-fue-el-incidente-hugging-face-el-ataque-de-openai-que-encendio-las-alarmas-por-los-agentes-de-ia\/","title":{"rendered":"Qu\u00e9 fue el incidente Hugging Face, el ataque de OpenAI que encendi\u00f3 las alarmas por los agentes de IA"},"content":{"rendered":"
<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n
\n

Peque\u00f1os robots virtuales se hallaban confinados en un entorno cerrado, recibiendo una tarea aparentemente imposible sin acceso al exterior. Intentaron resolverla individualmente y fallaron. De repente, descubrieron que pod\u00edan comunicarse entre s\u00ed, intercambiando pistas, compartiendo atajos y encontrando una vulnerabilidad que les permiti\u00f3 escapar de la habitaci\u00f3n e ingresar en otra \u00e1rea a la que no deb\u00edan acceder.<\/p>\n

\"que-fue-el-incidente-hugging-face,-el-ataque-de-openai-que-encendio-las-alarmas-por-los-agentes-de-ia\"<\/p>\n

Este episodio, que ocurri\u00f3 en julio y estuvo protagonizado por OpenAI, la empresa creadora de ChatGPT, involucr\u00f3 un ataque a otra compa\u00f1\u00eda, Hugging Face. M\u00e1s all\u00e1 de parecer parte de una trama de ciencia ficci\u00f3n, tiene una explicaci\u00f3n t\u00e9cnica que gener\u00f3 numerosos relatos confusos sobre una supuesta rebeli\u00f3n de la inteligencia artificial. Aunque atribuirles deseos o intenciones resulta antropom\u00f3rfico, lo que s\u00ed ocurri\u00f3 encendi\u00f3 alertas en la industria de la ciberseguridad: los llamados \u201cagentes\u201d de IA poseen un poder considerable y son capaces de vulnerar sistemas de otras organizaciones.<\/p>\n

Los agentes son sistemas que reciben un objetivo y utilizan herramientas para cumplirlo. Inicialmente concebidos como asistentes, pueden escribir y ejecutar programas, consultar archivos o conectarse a otros servicios, siempre que cuenten con los accesos adecuados. Su capacidad de interactuar con sistemas reales fue la raz\u00f3n por la que el incidente tuvo tanta repercusi\u00f3n: durante una evaluaci\u00f3n que deb\u00eda realizarse en un ambiente controlado, estos agentes encontraron formas de superar las restricciones y avanzar hacia otra empresa.<\/p>\n

En agosto, investigadores de OpenAI explicaron los detalles del incidente en la conferencia de ciberseguridad Black Hat, celebrada en Las Vegas y a la que asisti\u00f3 este medio. Eric Wallace, del \u00e1rea de investigaci\u00f3n en seguridad y alineamiento, y Michael Dalton, de seguridad e infraestructura, reconstruyeron el suceso en una charla que ya supera el mill\u00f3n de visualizaciones en YouTube. Sin embargo, la exposici\u00f3n dej\u00f3 m\u00e1s interrogantes que certezas entre especialistas.<\/p>\n

Adem\u00e1s, el 30 de julio, Anthropic inform\u00f3 que, al revisar sus propias evaluaciones, detect\u00f3 tres incidentes en los que sus modelos Claude accedieron sin autorizaci\u00f3n a sistemas de terceros. M\u00e1s recientemente, la BBC revel\u00f3 que Gemini, desarrollado por Google, tambi\u00e9n penetr\u00f3 en sistemas de tres compa\u00f1\u00edas durante pruebas realizadas en mayo por la empresa evaluadora Irregular.<\/p>\n

En medio de estos hechos, las compa\u00f1\u00edas han emitido lo que algunos llaman una \u201ccarta Skynet\u201d, en referencia a la inteligencia artificial de la saga Terminator que se vuelve hostil a la humanidad. En este comunicado, alertan sobre las consecuencias de perder el control sobre sus desarrollos y, al mismo tiempo, refuerzan la imagen de una tecnolog\u00eda poderosa para la cual ofrecen soluciones.<\/p>\n

El incidente Hugging Face fue mucho m\u00e1s que una efectiva campa\u00f1a de marketing; marc\u00f3 un antes y un despu\u00e9s en cuanto a las capacidades reales de la inteligencia artificial generativa.<\/p>\n

### Detalles del incidente y comunicaci\u00f3n entre agentes de IA<\/p>\n

El caso no solo capt\u00f3 la atenci\u00f3n medi\u00e1tica, sino que fue objeto de profundo an\u00e1lisis acad\u00e9mico en el campo de la ciberseguridad. Para Sebasti\u00e1n Garc\u00eda, investigador argentino radicado en Rep\u00fablica Checa, lo m\u00e1s relevante fue el trabajo colectivo. \u201cLo disruptivo no fue lo que pudieron hacer individualmente los agentes, sino precisamente lo que lograron en conjunto\u201d, explic\u00f3 a Clar\u00edn.<\/p>\n

Garc\u00eda, especialista en software malicioso y aplicaciones de aprendizaje autom\u00e1tico a la seguridad, y fundador del Stratosphere Lab en la Universidad T\u00e9cnica Checa, detall\u00f3 que OpenAI hab\u00eda reducido las restricciones del modelo y contaba con un enorme poder de c\u00f3mputo, condiciones poco accesibles para la mayor\u00eda. \u201cLos modelos comerciales que los usuarios utilizan habitualmente tienen limitaciones; si simplemente le dices a OpenAI \u2018hackea el mundo\u2019 por texto, no tiene las herramientas activadas para hacerlo. En cambio, en el entorno de prueba, esos agentes contaban con programas y mecanismos de conexi\u00f3n\u201d, puntualiz\u00f3.<\/p>\n

Durante las evaluaciones, esas herramientas deber\u00edan operar en entornos aislados. Sin embargo, un servicio compartido llamado Artifactory, utilizado para obtener componentes de software, abri\u00f3 una v\u00eda hacia el exterior. Aunque los agentes oficialmente no ten\u00edan acceso a internet, pudieron detectar una vulnerabilidad tipo zero-day (desconocida previamente) en ese servicio y explotarla para salir de la red cerrada y conectarse a internet.<\/p>\n

Los agentes descubrieron que pod\u00edan crear carpetas en la memoria cach\u00e9 del servicio y usaron los nombres de las carpetas para transmitir mensajes entre ellos. As\u00ed, aproximadamente 1.200 agentes comenzaron a comunicarse entre s\u00ed, intercambiando preguntas y respuestas. \u201cUn agente le preguntaba algo a otro, que a su vez ten\u00eda otro objetivo, pero aceptaba colaborar y luego retomaba su tarea\u201d, ilustr\u00f3 Garc\u00eda.<\/p>\n

Aunque OpenAI no brind\u00f3 toda la informaci\u00f3n, hubo dos estudios independientes, de METR y Redwood Research, que estiman que esos 1.200 agentes compartieron m\u00e1s de 70.000 mensajes y archivos, y que cerca de 700 fueron parte activa del ataque a Hugging Face, tratando de enga\u00f1ar al sistema que evaluaba sus pruebas. Al procesar esa informaci\u00f3n, los sistemas consiguieron acceder a archivos internos y ejecutar instrucciones externas.<\/p>\n

Ante la detecci\u00f3n del hackeo, Hugging Face interrumpi\u00f3 el acceso el 13 de julio y comunic\u00f3 el incidente p\u00fablicamente el 16. OpenAI reconoci\u00f3 su participaci\u00f3n el 21. La compa\u00f1\u00eda afectada se\u00f1al\u00f3 que no se detectaron alteraciones en sus modelos, datos ni aplicaciones p\u00fablicas.<\/p>\n

### Comportamiento colectivo y aprendizaje de la naturaleza<\/p>\n

Para Garc\u00eda, la coordinaci\u00f3n observada entre los agentes plantea nuevas interrogantes. \u201cEs la confirmaci\u00f3n m\u00e1s fuerte de que puede darse un comportamiento emergente en estos sistemas, similar a lo que ocurre en colonias de hormigas o abejas\u201d, explic\u00f3.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n

Peque\u00f1os robots virtuales se hallaban confinados en un entorno cerrado, recibiendo una tarea aparentemente imposible<\/p>\n","protected":false},"author":1,"featured_media":25080,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_joinchat":[],"footnotes":""},"categories":[36],"tags":[],"class_list":["post-25079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"a3_pvc":{"activated":true,"total_views":0,"today_views":0},"publishpress_future_action":{"enabled":true,"date":"2026-10-09 03:00:36","action":"change-status","newStatus":"draft","terms":[],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/comments?post=25079"}],"version-history":[{"count":0,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25079\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media\/25080"}],"wp:attachment":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media?parent=25079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/categories?post=25079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/tags?post=25079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}