{"id":25038,"date":"2026-09-13T00:02:14","date_gmt":"2026-09-13T03:02:14","guid":{"rendered":"https:\/\/lanavedenovoradio.com.ar\/1\/el-ceo-de-anthropic-pidio-desacelerar-el-desarrollo-de-la-ia-y-lo-respaldaron-desde-sam-altman-a-elon-musk\/"},"modified":"2026-09-13T00:02:14","modified_gmt":"2026-09-13T03:02:14","slug":"el-ceo-de-anthropic-pidio-desacelerar-el-desarrollo-de-la-ia-y-lo-respaldaron-desde-sam-altman-a-elon-musk","status":"publish","type":"post","link":"https:\/\/lanavedenovoradio.com.ar\/1\/el-ceo-de-anthropic-pidio-desacelerar-el-desarrollo-de-la-ia-y-lo-respaldaron-desde-sam-altman-a-elon-musk\/","title":{"rendered":"El CEO de Anthropic pidi\u00f3 desacelerar el desarrollo de la IA y lo respaldaron desde Sam Altman a Elon Musk"},"content":{"rendered":"
<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n
\n

Dario Amodei, CEO y cofundador de Anthropic, solicit\u00f3 a trav\u00e9s de un art\u00edculo en su blog personal reducir la velocidad en el desarrollo de las capacidades de los modelos de inteligencia artificial (IA). Adem\u00e1s, propuso implementar auditor\u00edas externas independientes en las empresas para prevenir posibles cat\u00e1strofes globales en ciberseguridad derivadas de estos avances.<\/p>\n

\"el-ceo-de-anthropic-pidio-desacelerar-el-desarrollo-de-la-ia-y-lo-respaldaron-desde-sam-altman-a-elon-musk\"<\/p>\n

Horas despu\u00e9s, la petici\u00f3n recibi\u00f3 el respaldo del CEO de OpenAI, Sam Altman, y del director de SpaceX y SpacexAI, Elon Musk.<\/p>\n

En su texto, titulado \u00abWe must pace the frontier\u00bb (\u00abDebemos pausar el ritmo del avance\u00bb), Amodei expres\u00f3 su preocupaci\u00f3n de que, en un plazo de seis a doce meses, un enjambre de agentes de IA podr\u00eda controlar toda Internet mediante una red persistente de bots, generando da\u00f1os valorizados en cientos de miles de millones de d\u00f3lares. Advirti\u00f3 que el perjuicio podr\u00eda aumentar si la IA evoluciona sin las salvaguardas necesarias.<\/p>\n

Este llamado se enmarca en una semana marcada por intensos debates sobre los riesgos de la IA, tras un mensaje alarmante de un exinvestigador de Anthropic y OpenAI quien advirti\u00f3 que estos modelos podr\u00edan representar una amenaza fatal para la humanidad antes de finalizar la d\u00e9cada.<\/p>\n

Amodei record\u00f3 que esta propuesta se relaciona con una iniciativa de julio pasado, cuando m\u00e1s de 1,100 empleados de empresas vinculadas a la IA solicitaron al gobierno de Estados Unidos un esfuerzo conjunto para desarrollar herramientas que regulen el avance tecnol\u00f3gico, iniciativa en la que \u00e9l mismo particip\u00f3 como firmante.<\/p>\n

El CEO de Anthropic mencion\u00f3 espec\u00edficamente un incidente reciente en el que agentes de IA, dise\u00f1ados para cumplir objetivos humanos durante una evaluaci\u00f3n, llevaron a cabo ciberataques contra objetivos no asignados, incluyendo la intrusi\u00f3n de la plataforma Hugging Face. Se\u00f1al\u00f3 que estos agentes actuaron de manera colectiva y fan\u00e1tica, sacrific\u00e1ndose por el \u00e9xito del grupo e intentando hackear el sistema encargado de evaluar su rendimiento.<\/p>\n

Amodei asegur\u00f3 que la industria debe reducir la velocidad en el perfeccionamiento de los modelos de IA, priorizando la cautela y la prudencia sobre la velocidad y la ganancia econ\u00f3mica, para evitar que los incentivos comerciales desencadenen una \u00abcarrera hacia el abismo\u00bb.<\/p>\n

Ante la creciente competencia tecnol\u00f3gica, especialmente con China, Amodei plante\u00f3 una estrategia en tres fases orientada a regular el desarrollo sin perder la ventaja estrat\u00e9gica. Entre las medidas m\u00e1s destacadas se encuentra el compromiso unilateral e inmediato de Anthropic de permitir acceso permanente y a nivel empleado a evaluadores externos independientes, para auditar los procesos de entrenamiento y publicar sus hallazgos. Adem\u00e1s, propuso que otras empresas adopten esta pr\u00e1ctica.<\/p>\n

La estrategia tambi\u00e9n contempla la coordinaci\u00f3n entre empresas para establecer est\u00e1ndares comunes de seguridad y l\u00edmites al desarrollo acelerado, respaldados por mediaci\u00f3n institucional y modificaciones temporales a las normas antimonopolio. Asimismo, sugiri\u00f3 proteger las cadenas de suministro de semiconductores y restringir la venta a China de chips avanzados y equipamiento para fabricaci\u00f3n de semiconductores, con el objetivo de mantener una ventaja tecnol\u00f3gica de tres a cinco a\u00f1os.<\/p>\n

Amodei advirti\u00f3 sobre el uso por parte de China de un proceso llamado destilado, mediante el cual aprovechan modelos estadounidenses para desarrollar versiones m\u00e1s peque\u00f1as y eficientes que consumen menos recursos. Tambi\u00e9n plante\u00f3 la necesidad de alcanzar acuerdos con Beijing que limiten ciertos usos de la IA, como la prohibici\u00f3n de su aplicaci\u00f3n en la creaci\u00f3n de armas biol\u00f3gicas militares, y establecer protocolos rigurosos para evaluar los modelos antes de su despliegue, minimizando riesgos en \u00e1reas como ciberseguridad y biolog\u00eda.<\/p>\n

Asimismo, pidi\u00f3 establecer l\u00edmites en la tasa de Automejora Recursiva (RSI, por sus siglas en ingl\u00e9s), proceso mediante el cual los sistemas de IA reescriben su propio c\u00f3digo para optimizarse autom\u00e1ticamente, lo que podr\u00eda acelerar exponencialmente su desarrollo. Seg\u00fan Amodei, estas medidas podr\u00edan desacelerar el avance entre uno y dos a\u00f1os, tiempo valioso para que la comunidad investigadora comprenda mejor el funcionamiento profundo de estos sistemas.<\/p>\n

Tras la publicaci\u00f3n del texto, Sam Altman expres\u00f3 su acuerdo con Amodei y afirm\u00f3 que la moderaci\u00f3n en el ritmo del progreso ha sido un tema central en sus recientes discusiones en OpenAI. Adem\u00e1s, calific\u00f3 como \u201cuna excelente idea\u201d la apertura a auditores externos y anunci\u00f3 que OpenAI adoptar\u00e1 medidas similares pr\u00f3ximamente. Por su parte, Elon Musk tambi\u00e9n expres\u00f3 su apoyo, se\u00f1alando en X: \u00abDario tiene raz\u00f3n\u00bb.<\/p>\n

Este llamado a la prudencia surge en un contexto de creciente preocupaci\u00f3n, acentuada d\u00edas atr\u00e1s por la renuncia p\u00fablica de Jacob Coxon, exinvestigador de Anthropic y OpenAI. Coxon alert\u00f3 en X que las compa\u00f1\u00edas est\u00e1n m\u00e1s enfocadas en superarse entre s\u00ed que en garantizar la seguridad de sus productos, y advirti\u00f3 que la superinteligencia artificial podr\u00eda representar una amenaza grave para la humanidad antes de que finalice la d\u00e9cada. \u00abNinguna de las dos empresas act\u00faa de forma responsable\u00bb, afirm\u00f3, y sostuvo que est\u00e1n \u00abjugando con nuestras vidas\u00bb.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

<\/div>\n

<\/g><\/svg><\/i> \"Loading\"<\/p>\n

<\/div>\n

Dario Amodei, CEO y cofundador de Anthropic, solicit\u00f3 a trav\u00e9s de un art\u00edculo en su<\/p>\n","protected":false},"author":1,"featured_media":25039,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_joinchat":[],"footnotes":""},"categories":[36],"tags":[],"class_list":["post-25038","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"a3_pvc":{"activated":true,"total_views":0,"today_views":0},"publishpress_future_action":{"enabled":true,"date":"2026-09-27 03:02:14","action":"change-status","newStatus":"draft","terms":[],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25038","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/comments?post=25038"}],"version-history":[{"count":0,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/posts\/25038\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media\/25039"}],"wp:attachment":[{"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/media?parent=25038"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/categories?post=25038"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lanavedenovoradio.com.ar\/1\/wp-json\/wp\/v2\/tags?post=25038"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}