Sam Altman advierte que la humanidad puede quedar afuera del timón de la inteligencia artificial

El director ejecutivo de OpenAI, Sam Altman, volvió a poner sobre la mesa los dos riesgos que, en su lectura, concentran la mayor preocupación en el avance de la inteligencia artificial: que la humanidad pierda el control sobre sistemas cada vez más poderosos y que una persona, una empresa o un país acumulen un poder desproporcionado a partir de esa tecnología. En una serie de declaraciones recientes, el responsable de la firma detrás de ChatGPT sostuvo que esas dos hipótesis son las que deberían guiar la conversación pública sobre el sector.

Un control que se vuelve más difícil con cada salto técnico

El primer escenario que describió Altman es el de un desplazamiento del Homo sapiens del centro de decisión. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", afirmó. Para reducir ese riesgo, planteó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso adelantarse a ellas, de modo que cada nuevo salto tecnológico llegue acompañado por una capa de control equivalente.

El otro peligro: que la IA quede en pocas manos

El segundo punto sensible es la concentración. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió el ejecutivo. Altman reconoció que esquivar ambos peligros al mismo tiempo obliga a transitar lo que definió como un "angosto camino intermedio": regular sin frenar la innovación y abrir la competencia sin permitir que un actor acumule demasiada influencia.

Qué propone para aminorar los riesgos

• Un marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera, es decir, aquellos que operan en el límite de las capacidades tecnológicas actuales.
• Incorporación de auditores independientes a los mecanismos de supervisión, con capacidad de revisar cómo se entrenan y se despliegan los sistemas.
• Aplicación de medidas de seguridad por parte de las propias empresas, sin esperar a que entren en vigor nuevas leyes.
• Coordinación internacional entre gobiernos, un ámbito en el que, según Altman, las compañías necesitan acompañamiento estatal para que los acuerdos sean efectivos.
• Reconocimiento explícito de que la presión competitiva entre países no debería justificar bajar los estándares de prudencia: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", sostuvo.