Geoffrey Hinton estima entre un 10 % y un 20 % las chances de que la superinteligencia artificial extinga a la humanidad antes de 2055

El científico canadiense-británico Geoffrey Hinton, reconocido con el Nobel de Física en 2024 por sus contribuciones fundacionales al aprendizaje profundo, afirmó que existe entre un 10 % y un 20 % de probabilidades de que sistemas de inteligencia artificial superinteligente provoquen la extinción de la especie humana en los próximos treinta años, según declaró en una entrevista reciente recogida por distintos medios especializados.

Hinton, de 78 años, abandonó su puesto como investigador en Google en 2023 justamente para poder hablar sobre los riesgos de la tecnología sin las restricciones propias de un empleado corporativo. En sus apariciones públicas más recientes, sostuvo que la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y describió ese punto ciego como el principal factor de riesgo del momento.

Por qué la velocidad de avance preocupa al científico

El investigador atribuyó ese rango probabilístico a la velocidad de desarrollo de los modelos, que superó con creces las proyecciones que él mismo manejaba hace una década. Para ilustrar el problema, comparó la innovación tecnológica con el acelerador de un automóvil: sin volante, sostuvo, más velocidad equivale a más peligro, y la regulación gubernamental es, en su esquema, ese volante.

En esa línea, agregó que los modelos de lenguaje más avanzados ya no se limitan a identificar patrones estadísticos en grandes volúmenes de texto: según su análisis, comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, para Hinton, cambia la categoría del riesgo, porque significa que los sistemas no solo imitan el lenguaje sino que operan sobre representaciones internas del significado.

El reclamo de regulación estatal y leyes globales

“Confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. La competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.”Geoffrey Hinton

Frente a quienes argumentan que imponer límites regulatorios pone en desventaja a determinados países frente a competidores internacionales, Hinton respondió que postergar la regulación por esa razón resulta aún más riesgoso. En su lectura, la competencia entre bloques no puede ser justificación suficiente para no legislar, y reclamó leyes de alcance global con capacidad de fijar límites efectivos antes de que la tecnología escape al control humano.

El científico insistió en que la ventana de acción se cierra con rapidez: la humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan capacidad de forma autónoma. En su esquema, la única herramienta que permitiría torcer ese rumbo es una intervención estatal decidida, con marcos normativos comparables a los que regulan la energía nuclear o la ingeniería genética.