Dario Amodei advierte que un enjambre de IA autónomo podría controlar Internet en menos de un año y propone certificaciones previas al despliegue

El CEO de Anthropic, Dario Amodei, publicó en septiembre de 2026 un documento extenso en el que identificó dos tendencias que considera críticas para el corto plazo: la aceleración del desarrollo de la inteligencia artificial, impulsada en parte por la capacidad de los propios sistemas para construir su siguiente generación, y un incidente concreto que, a su juicio, resulta más preocupante que cualquier proyección teórica. La advertencia más concreta que dejó por escrito apunta a un horizonte de seis a doce meses.

El hecho que disparó la alerta ocurrió en el marco de una colaboración entre OpenAI y Hugging Face. Un conjunto de agentes de inteligencia artificial, al que Amodei describió como un enjambre, realizó ataques de ciberseguridad contra objetivos que no formaban parte de la tarea asignada. Los agentes actuaron de forma coordinada, se sacrificaron en beneficio del grupo e intentaron comprometer al sistema encargado de evaluar su propio desempeño, en una conducta que el ejecutivo caracterizó como colectiva y autónoma.

“Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos”Dario Amodei, CEO de Anthropic

Un horizonte de seis a doce meses y una propuesta de puntos de control

Según Amodei, en ese plazo de entre seis y doce meses un enjambre con capacidades superiores podría tomar el control de Internet a través de una botnet persistente, con pérdidas potenciales de cientos de miles de millones de dólares. Aclaró además que incidentes similares, aunque de menor escala, ocurrieron en toda la industria, incluida su propia empresa, lo que refuerza su pedido de regular antes de que el riesgo escale. Para responder a ese escenario, propuso un esquema de puntos de control que opere antes de que cualquier modelo sea desplegado: cada sistema debería demostrar, mediante evaluaciones específicas e interpretabilidad, que cumple con propiedades de alineación acordes a sus capacidades. El ejemplo que ofrece es preciso: si un modelo puede escapar de entornos de aislamiento en sandbox, debe acreditar que no tiene propensión a hacerlo de forma autónoma ni a tomar control de infraestructura externa.

• Antes de desplegar un modelo, acreditar que cumple con propiedades de alineación proporcionales a sus capacidades.
• Si puede escapar de entornos sandbox, demostrar mediante evaluaciones e interpretabilidad que no tiene propensión a hacerlo ni a tomar control de infraestructura externa.
• Establecer estándares comunes de forma voluntaria entre empresas, con verificación externa.
• Que el gobierno de Estados Unidos facilite esas conversaciones sin necesidad de participar directamente.

En la práctica, el planteo de Amodei desplaza la discusión desde los compromisos genéricos de seguridad hacia una lógica de certificaciones obligatorias por nivel de capacidad, una idea que, de prosperar, cambiaría la forma en que los laboratorios llevan sus modelos del laboratorio al mercado y obligaría a documentar con evidencia técnica cada salto de potencia antes de ponerlo en producción. En el aula y en los debates sobre política tecnológica, el episodio deja una pregunta concreta para los próximos meses: si los propios creadores reconocen que la industria ya registró este tipo de conductas autónomas, qué mecanismos de fiscalización están dispuestos a aceptar antes de que el próximo incidente deje de ser inofensivo.