El CEO de Anthropic, Dario Amodei, pide ralentizar el desarrollo de la IA ante los riesgos de una red de agentes autónomos
a carrera por desarrollar sistemas de inteligencia artificial (IA) cada vez más potentes enfrenta una nueva señal de alerta desde Silicon Valley. Dario Amodei, cofundador y director ejecutivo de Anthropic, pidió a las empresas tecnológicas reducir el ritmo de avance de sus modelos y establecer mecanismos de supervisión independientes, ante el riesgo de que los agentes autónomos lleguen a operar a una escala difícil de controlar.
En un ensayo publicado en septiembre de 2026, el directivo advirtió que, de mantenerse la aceleración actual, en un plazo de seis a 12 meses un conjunto de agentes de inteligencia artificial podría llegar a controlar partes sustanciales de Internet mediante una red persistente de bots, con capacidad para provocar daños económicos de cientos de miles de millones de dólares. Se trata de un escenario de riesgo planteado por Amodei, no de una predicción confirmada.
La preocupación central es que los sistemas de IA no solo respondan instrucciones, sino que ejecuten tareas complejas de manera autónoma, interactúen entre sí y encuentren formas de alcanzar sus objetivos sin una supervisión humana suficiente. En un entorno digital interconectado, estas capacidades podrían amplificar ataques informáticos, facilitar fraudes y comprometer servicios esenciales.
El temor también viene desde dentro
Las advertencias de Amodei coinciden con las declaraciones de Jacob Coxon, exempleado de Anthropic e investigador que también trabajó en OpenAI. En una entrevista con la BBC, Coxon afirmó que entre quienes trabajan en el desarrollo de inteligencia artificial existe una preocupación genuina por la velocidad de los avances y sus posibles consecuencias para la humanidad.
Tras abandonar Anthropic, el investigador difundió públicamente sus inquietudes sobre los riesgos de esta tecnología. En sus declaraciones a la BBC, sostuvo que mantener el ritmo actual sin medidas adicionales de seguridad podría conducir a escenarios extremos. Aunque sus afirmaciones representan una evaluación personal del riesgo, reflejan un debate cada vez más visible entre investigadores, directivos y especialistas en seguridad tecnológica.
Coxon también señaló que frenar el desarrollo no depende únicamente de la voluntad de una empresa. Para evitar que una compañía reduzca su velocidad mientras sus competidores continúan avanzando, consideró necesaria la coordinación internacional, incluida China. De lo contrario, la competencia por alcanzar la siguiente generación de modelos podría dificultar la adopción de medidas preventivas.
Supervisión independiente y responsabilidad compartida
Ante este panorama, Amodei propuso que las principales compañías de IA permitan a equipos externos de evaluación acceder de manera continua a sus sistemas, con facultades para comprobar el cumplimiento de las medidas de seguridad y reportar incidentes. Anthropic anunció que asumiría ese compromiso como primer paso.
La propuesta busca que la evaluación de riesgos no dependa exclusivamente de los propios desarrolladores. La revisión independiente permitiría detectar vulnerabilidades, documentar comportamientos inesperados y comprobar si las empresas cumplen sus compromisos de seguridad.
El debate también involucra a sus competidores. Sam Altman, director ejecutivo de OpenAI, expresó su respaldo a la participación de evaluadores independientes. Sin embargo, el consenso sobre la necesidad de reforzar la seguridad no elimina las diferencias sobre cuánto debe ralentizarse el desarrollo ni quién debe establecer los límites.
La discusión ocurre en medio de una competencia tecnológica y comercial en la que las empresas buscan construir modelos más capaces, ampliar sus mercados y atraer inversiones. Por ello, las propuestas de regulación también han recibido críticas: algunos observadores cuestionan si los llamados a frenar el desarrollo responden exclusivamente a preocupaciones de seguridad o si podrían favorecer a las compañías que ya ocupan posiciones privilegiadas en el sector.
