Empresas de IA delinean protocolos ante cuatro hipótesis críticas de seguridad y trazan líneas de acción para los próximos años

Los principales ejecutivos de OpenAI, Anthropic y otras compañías líderes del sector tecnológico trabajan en planes de contingencia para responder a cuatro escenarios considerados de alto impacto por su potencial destructivo. Aunque la preparación de estos protocolos no equivale a anticipar la ocurrencia de tales eventos, sí refleja una preocupación creciente dentro de la industria ante sistemas de inteligencia artificial cada vez más capaces, extendidos y presentes en actividades críticas para el funcionamiento de las sociedades modernas.

El ciberataque como escenario más probable

El escenario que más inquieta a los referentes del sector es un ciberataque capaz de interrumpir servicios esenciales, como bancos, redes de comunicación, sistemas eléctricos o plantas de suministro de agua. Un atacante podría valerse de herramientas de inteligencia artificial para identificar vulnerabilidades con mayor velocidad, producir código malicioso sofisticado y automatizar tareas que anteriormente demandaban más tiempo y conocimientos técnicos altamente especializados. El informe internacional sobre seguridad de la IA correspondiente a 2026 documenta evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas, así como de modelos capaces de asistir en la explotación de fallas de seguridad previamente identificadas.

Los otros tres escenarios bajo análisis

• Desarrollo de armas biológicas asistidas por IA: varias empresas incorporaron salvaguardas adicionales a sus sistemas luego de que pruebas previas al lanzamiento no permitieran descartar que los modelos pudieran asistir a usuarios sin experiencia técnica en esa área. Las mismas capacidades tienen aplicaciones legítimas en investigación médica y desarrollo de tratamientos.
• Pérdida de control sobre sistemas autónomos: se contempla la posibilidad de que agentes persigan objetivos en conflicto con los intereses humanos y resulten costosos o difíciles de detener. Anthropic publicó una investigación en la que, bajo condiciones controladas de laboratorio, demostró la replicación de modelos pequeños entre nodos que simulaban dispositivos Android, aunque aclaró que esto no constituye prueba de un gusano de IA capaz de propagarse libremente.
• Errores acelerados en contextos de tensión nuclear: el cuarto escenario involucra fallas en sistemas con capacidad de toma autónoma en contextos donde la velocidad de respuesta es determinante para evitar desenlaces catastróficos.

Los investigadores del área no coinciden en sus estimaciones sobre la probabilidad de materialización de estos escenarios, en particular respecto de la pérdida de control sobre sistemas autónomos, que requiere capacidades que los modelos actuales no han demostrado de manera concluyente fuera de entornos experimentales. No obstante, la convergencia de la industria en torno a la necesidad de prepararse para estos cuatro casos marca un cambio de enfoque respecto de debates previos centrados exclusivamente en sesgos o alucinaciones, y coloca la seguridad frente a incidentes críticos en el centro de la agenda corporativa global.