Sam Altman advierte que la inteligencia artificial puede volverse incontrolable o quedar en manos de unos pocos

El director ejecutivo de OpenAI, Sam Altman, describió dos escenarios que, a su juicio, concentran los mayores peligros asociados al avance de la inteligencia artificial: la pérdida de control humano sobre sistemas progresivamente más capaces y la acumulación de un poder desproporcionado en una sola persona, empresa o país. Para reducir esos riesgos, respaldó la creación de un marco regulatorio federal, la incorporación de auditores independientes y la coordinación internacional entre gobiernos.

El primer riesgo: perder el control sobre sistemas cada vez más avanzados

Altman sostuvo que la humanidad podría quedar a merced de modelos que superen la capacidad de supervisión de sus creadores. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", afirmó.

Para mitigar ese escenario, planteó que las técnicas de alineación y seguridad deben evolucionar al mismo ritmo que las capacidades de los modelos, o incluso anticiparse a ellas. Esa condición resulta indispensable, señaló, porque un desfase entre potencia y controles podría traducirse en decisiones automatizadas que escapen a la voluntad humana.

El segundo riesgo: la concentración excesiva de poder

El segundo escenario identificado por el directivo apunta a la asimetría de poder derivada del acceso a sistemas de alta capacidad. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió.

Altman reconoció que evitar ambos riesgos de manera simultánea exige transitar lo que describió como un "angosto camino intermedio", una referencia a la dificultad de promover la innovación sin desproteger a la sociedad.

Regulación federal, auditores independientes y coordinación internacional

En materia regulatoria, el titular de OpenAI respaldó un marco federal que establezca requisitos comunes de seguridad para los modelos de frontera, es decir, aquellos que operan en el límite de las capacidades tecnológicas actuales, y que incorpore auditores independientes en los mecanismos de supervisión.

No obstante, aclaró que las compañías del sector no deberían aguardar la sanción de nuevas leyes para comenzar a aplicar medidas de seguridad por cuenta propia. A su entender, la autorregulación constituye un piso mínimo de responsabilidad corporativa.

Sobre la competencia geopolítica, Altman sostuvo que la presión por liderar la carrera tecnológica no justifica asumir riesgos innecesarios. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", señaló. Y agregó que la coordinación internacional constituye uno de los ámbitos en los que las empresas requerirán el respaldo activo de los gobiernos.