Hinton eleva la alarma sobre la superinteligencia artificial y reclama reglas globales antes de que la ventana se cierre

El Premio Nobel de Física Geoffrey Hinton, referente mundial en el campo del aprendizaje automático, aseguró que existe entre un 10 % y un 20 % de probabilidades de que una inteligencia artificial superinteligente provoque la extinción de la especie humana dentro de los próximos treinta años, en una entrevista concedida a la cadena BBC. El científico, que abandonó su puesto en Google en 2023 para poder expresarse con mayor libertad sobre los riesgos del avance tecnológico, sostuvo que la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y que ese punto ciego constituye la principal amenaza del momento.

Según consta en sus declaraciones, el investigador atribuyó ese rango de probabilidad a la velocidad de desarrollo, que superó con creces las proyecciones que él mismo manejaba hace una década. Para graficar el problema, Hinton comparó la innovación en inteligencia artificial con un automóvil lanzado a gran velocidad sin volante: sostuvo que, en ausencia de mecanismos de control, más capacidad equivale a más peligro, y que la regulación gubernamental cumple, en su esquema, la función de dirección.

Modelos que comprenden, no solo predicen

El argumento central del científico apuntó a la naturaleza de los modelos de lenguaje más avanzados. Según su análisis, estos sistemas ya no se limitan a identificar correlaciones estadísticas en grandes volúmenes de texto, sino que comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, para Hinton, cambia la categoría del riesgo: deja de tratarse de herramientas sofisticadas de predicción y pasa a hablarse de entidades con capacidad de representación del mundo.

“Si queremos que la tecnología vaya en la dirección correcta, necesitamos regulación estatal. Confiar en que el mercado resuelva esto por sí solo es un error estratégico”Geoffrey Hinton, investigador y Premio Nobel de Física

Competencia geopolítica y cooperación internacional

Frente a quienes argumentan que imponer límites regulatorios pone en desventaja a determinados países frente a sus competidores, Hinton respondió que la competencia geopolítica no puede ser razón suficiente para postergar la construcción de marcos legales globales. El científico reclamó leyes de alcance internacional que obliguen a las compañías a invertir una parte significativa de sus recursos en investigación sobre seguridad, al tiempo que advirtió que la ventana de acción se cierra con rapidez: la humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se reduce a medida que los modelos ganan capacidad de forma autónoma.

• Entre un 10 % y un 20 % de probabilidades de extinción por superinteligencia en un horizonte de 30 años.
• La velocidad de avance superó las proyecciones del propio Hinton en la última década.
• Los modelos actuales comprenden conceptos abstractos, según su análisis, y no solo patrones estadísticos.
• Hinton reclama regulación estatal y leyes globales, no autorregulación de mercado.
• Pidió que las empresas dediquen parte de sus recursos a investigación en seguridad antes de 2055.