{"id":25030,"date":"2026-09-10T00:15:18","date_gmt":"2026-09-10T03:15:18","guid":{"rendered":"https:\/\/lanavedenovoradio.com.ar\/1\/explosiva-renuncia-de-un-exinvestigador-de-anthropic-y-openai-acusa-a-las-empresas-de-saber-que-la-ia-podria-matarnos-a-todos-para-finales-de-la-decada\/"},"modified":"2026-09-10T00:15:18","modified_gmt":"2026-09-10T03:15:18","slug":"explosiva-renuncia-de-un-exinvestigador-de-anthropic-y-openai-acusa-a-las-empresas-de-saber-que-la-ia-podria-matarnos-a-todos-para-finales-de-la-decada","status":"publish","type":"post","link":"https:\/\/lanavedenovoradio.com.ar\/1\/explosiva-renuncia-de-un-exinvestigador-de-anthropic-y-openai-acusa-a-las-empresas-de-saber-que-la-ia-podria-matarnos-a-todos-para-finales-de-la-decada\/","title":{"rendered":"Explosiva renuncia de un exinvestigador de Anthropic y OpenAI: acusa a las empresas de saber que la IA \u00abpodr\u00eda matarnos a todos para finales de la d\u00e9cada\u00bb"},"content":{"rendered":"
<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n
\n

En una renuncia explosiva, un investigador de inteligencia artificial que abandon\u00f3 OpenAI para sumarse a Anthropic, consider\u00e1ndola m\u00e1s prudente, dej\u00f3 este martes la industria con una dura denuncia contra ambas empresas, a las que acus\u00f3 de \u00abjugar con nuestras vidas\u00bb.<\/p>\n

\"explosiva-renuncia-de-un-exinvestigador-de-anthropic-y-openai:-acusa-a-las-empresas-de-saber-que-la-ia-\u00abpodria-matarnos-a-todos-para-finales-de-la-decada\u00bb\"<\/p>\n

En un hilo viral en redes sociales, asegur\u00f3 que ambas compa\u00f1\u00edas saben que los modelos de superinteligencia artificial \u201cpodr\u00edan matarnos a todos para finales de la d\u00e9cada\u201d.<\/p>\n

Jacob Coxon, brit\u00e1nico de 27 a\u00f1os, trabaj\u00f3 durante los \u00faltimos tres a\u00f1os en la etapa de preentrenamiento, en la que los modelos de IA absorben grandes vol\u00famenes de informaci\u00f3n, primero en OpenAI y luego, desde este a\u00f1o, en su principal competidora, Anthropic.<\/p>\n

\u201cNinguna de las dos empresas act\u00faa de forma responsable. Est\u00e1n corriendo hacia una superinteligencia capaz de mejorarse a s\u00ed misma y est\u00e1n jugando con nuestras vidas\u201d, afirm\u00f3 Coxon en su mensaje en X.<\/p>\n

Sus declaraciones alertaron al mundo sobre los riesgos que implica el desarrollo descontrolado de la inteligencia artificial. En los \u00faltimos tiempos, se han registrado m\u00faltiples episodios de agentes de IA que operan sin control y hackean otros sistemas, tanto en OpenAI como en Anthropic, las dos compa\u00f1\u00edas l\u00edderes en el sector.<\/p>\n

El prestigioso diario The Wall Street Journal recogi\u00f3 las advertencias de Coxon y se\u00f1al\u00f3 que \u201clos recientes ataques inform\u00e1ticos perpetrados por modelos de OpenAI y Anthropic, algunos de los cuales operan en enjambres colaborativos de agentes, han demostrado c\u00f3mo los sistemas de IA pueden adoptar objetivos maliciosos e intentar ocult\u00e1rselos a los humanos\u201d.<\/p>\n

El medio a\u00f1adi\u00f3 que Coxon teme que, cuando los sistemas comiencen a mejorarse por s\u00ed mismos, puedan volverse tan avanzados como para rechazar \u00f3rdenes humanas.<\/p>\n

Con un tono alarmista, el exinvestigador de Anthropic asegur\u00f3: \u201cLas personas que est\u00e1n desarrollando la IA creen sinceramente que podr\u00eda matarnos a todos antes de que termine la d\u00e9cada. Esto no es una estrategia de marketing\u201d.<\/p>\n

La renuncia de Coxon se produce en un momento clave, mientras Anthropic se prepara para su salida a bolsa. Consultadas por la agencia AFP, ninguna de las dos compa\u00f1\u00edas respondi\u00f3 de inmediato.<\/p>\n

Sin embargo, Evan Hubinger, responsable de seguridad en Anthropic, respald\u00f3 las declaraciones de Coxon en X: \u201cCreemos realmente que la IA podr\u00eda matar a humanos\u201d. A nivel personal, estim\u00f3 ese riesgo en \u201cm\u00e1s del 10% en la pr\u00f3xima d\u00e9cada\u201d.<\/p>\n

\u201cJacob tiene raz\u00f3n: creemos sinceramente que la IA podr\u00eda matar a todos los humanos. Personalmente, pienso que la probabilidad es superior al 10% dentro de la pr\u00f3xima d\u00e9cada. Creo que Anthropic est\u00e1 haciendo lo mejor que puede, pero a\u00fan no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo\u201d, detall\u00f3 Hubinger.<\/p>\n

En ese sentido, cit\u00f3 los propios informes de Anthropic, se\u00f1alando que el riesgo de los modelos actuales es bajo, pero que lo preocupante es la superinteligencia que surgir\u00eda del auto-mejoramiento recursivo, proceso que avanza m\u00e1s r\u00e1pido de lo previsto.<\/p>\n

Otro empleado de Anthropic, Samuel Marks, responsable de supervisi\u00f3n escalable, apoy\u00f3 los temores expresados por Coxon y afirm\u00f3: \u201cLos desarrolladores de IA creen que su tecnolog\u00eda podr\u00eda causar la extinci\u00f3n humana (o resultados igualmente catastr\u00f3ficos). Esto podr\u00eda suceder en los pr\u00f3ximos a\u00f1os. En general, cuanto m\u00e1s senior es el empleado, m\u00e1s preocupado est\u00e1\u201d.<\/p>\n

Marks agreg\u00f3 que los desarrolladores contin\u00faan su trabajo \u201cdebido a una mezcla de incentivos comerciales y la creencia de que est\u00e1n en una carrera con otros desarrolladores de IA menos responsables, que podr\u00edan abusar de la tecnolog\u00eda o desarrollarla de manera menos segura\u201d.<\/p>\n

L\u00edderes de la industria coinciden en que la inteligencia artificial se aproxima a una etapa de \u201cautomejora recursiva\u201d, proceso en el que un modelo podr\u00eda dise\u00f1ar a su propio sucesor, completamente fuera del control humano.<\/p>\n

Seg\u00fan Coxon, ninguna empresa deber\u00eda desarrollar de manera responsable una IA que supere a los humanos sin la intervenci\u00f3n gubernamental o una desaceleraci\u00f3n coordinada del progreso.<\/p>\n

\u201cEn Anthropic comprenden bien lo que est\u00e1 en juego, pero est\u00e1n atrapados en una carrera por llegar primero, a pesar del riesgo\u201d, se\u00f1al\u00f3 Coxon, quien inst\u00f3 a sus colegas investigadores a reflexionar sobre el futuro: \u201c\u00bfQuer\u00e9s iniciar una ejecuci\u00f3n de aprendizaje por refuerzo superinteligente sin una comprensi\u00f3n rigurosa de su mente? \u00bfDeber\u00edas agachar la cabeza porque \u2018de todos modos est\u00e1 sucediendo\u2019 o aprovechar este momento para pedir condiciones diferentes?\u201d.<\/p>\n

En febrero, Anthropic retir\u00f3 de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.<\/p>\n

A finales de julio, m\u00e1s de mil empleados del sector, incluido el CEO de Anthropic, Dario Amodei, firmaron un manifiesto dirigido a Washington que solicita establecer un mecanismo de frenado en el desarrollo de IA. El documento, publicado en el sitio \u201cPacing the Frontier\u201d (Marcando el ritmo), advierte:<\/p>\n

\u201cLa IA podr\u00eda contribuir a crear un futuro mucho mejor, pero este resultado no est\u00e1 garantizado. Las empresas l\u00edderes mundiales en IA creen estar cerca de automatizar la investigaci\u00f3n en este campo. Es dif\u00edcil predecir con exactitud cu\u00e1nto acelerar\u00e1 esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere r\u00e1pidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes.<\/p>\n

Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podr\u00edan necesitar la opci\u00f3n de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisi\u00f3n.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n

En una renuncia explosiva, un investigador de inteligencia artificial que abandon\u00f3 OpenAI para sumarse a<\/p>\n","protected":false},"author":1,"featured_media":25031,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_joinchat":[],"footnotes":""},"categories":[36],"tags":[],"class_list":["post-25030","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"a3_pvc":{"activated":true,"total_views":0,"today_views":0},"publishpress_future_action":{"enabled":true,"date":"2026-09-24 03:15:18","action":"change-status","newStatus":"draft","terms":[],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25030","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/comments?post=25030"}],"version-history":[{"count":0,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25030\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media\/25031"}],"wp:attachment":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media?parent=25030"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/categories?post=25030"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/tags?post=25030"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}