Un método del MIT para que la inteligencia artificial respete reglas sin necesidad de reentrenarla

A unos 2.800 kilómetros al noroeste de El Calafate, en los pasillos del Instituto de Tecnología de Massachusetts, un grupo de investigadores viene trabajando con un problema que, en términos simples, puede resumirse así: cómo pedirle a una inteligencia artificial que cumpla reglas estrictas sin tener que volver a enseñarle todo desde cero. La respuesta que encontraron lleva el nombre de HardFlow y, según relataron en su trabajo, permite exigir condiciones de seguridad durante el funcionamiento del sistema, no durante su entrenamiento. Esa diferencia, que parece técnica, cambia de manera profunda la manera en que se pueden utilizar los modelos generativos en aplicaciones concretas.

Para entender de qué se trata, conviene mirar el ensayo más visual que difundió el equipo. Pusieron a un brazo robótico frente a la tarea de llegar hasta un objeto sin chocar con lo que encontrara en el camino. HardFlow no solo evitó las colisiones, sino que eligió el recorrido más corto entre los permitidos. La mayoría de los métodos usados como referencia o provocaron choques o terminaron dando vueltas mucho más largas de lo necesario. En la jerga de los investigadores, eso significa que el sistema combinó dos exigencias que suelen ir por carriles separados: por un lado, una restricción dura, no negociable, como es no chocar; por el otro, un objetivo de eficiencia, que es llegar cuanto antes.

Las reglas se controlan sobre la marcha

La clave del método está en el momento en que se le piden las cosas al modelo. Una técnica habitual, conocida como muestreo basado en proyección, impone las restricciones en cada paso intermedio de la generación. Ese control permanente termina achicando el abanico de opciones que el sistema puede explorar y, en la práctica, le dificulta encontrar una mejor respuesta. HardFlow, en cambio, deja mayor libertad durante los pasos internos y reserva la exigencia para el resultado final. Las etapas intermedias se descartan. Para que esto fuera viable, los investigadores usaron herramientas de control óptimo, que permiten ir corrigiendo de manera gradual la generación hasta llevarla a una respuesta válida.

Otra de las ventajas que remarcaron es que no hace falta reentrenar la inteligencia artificial. El método opera sobre modelos que ya fueron entrenados y actúa recién cuando esos modelos se ponen a trabajar. Para que el cálculo fuera manejable, el equipo lo dividió en problemas más pequeños, aprovechando la estructura particular de los modelos de emparejamiento de flujo, una familia de modelos generativos que ganaron lugar en los últimos años por su eficiencia.

Laberintos, robots e imágenes

• Manipulación con robots: un brazo robótico debió llegar hasta un objeto sorteando obstáculos. HardFlow eligió el camino más corto sin chocar.
• Recorridos por laberintos: el sistema debió encontrar la salida respetando restricciones. Cumplió todas las condiciones propuestas.
• Edición de imágenes a partir de instrucciones escritas: el modelo debió modificar fotos según lo pedido. Las restricciones se respetaron en todos los casos.

En las tres pruebas, el trabajo reportó que todas las restricciones se cumplieron y que la calidad de las soluciones superó de manera consistente a la de los métodos usados como referencia. El tiempo de procesamiento fue similar o incluso menor al de la mayoría de las alternativas. Para los investigadores, el resultado abre la puerta a usar este tipo de controles en situaciones donde las condiciones de seguridad no son opcionales, como la robótica o la edición automática de contenidos sensibles.

Como guía que recorre esta clase de avances a diario, me quedo con una idea que sobrevuela toda la investigación: la posibilidad de ponerle límites firmes a una inteligencia artificial sin pedirle que desaprenda lo que ya sabe. Es, si se quiere, la misma lógica que aplicamos cuando enseñamos a conducir: no se vuelve a la escuela cada vez que aparece una ruta nueva, se incorporan reglas que se respetan en el momento. HardFlow parece ir en esa dirección, y los resultados obtenidos en el MIT invitan a seguirlo de cerca. Quien quiera asomarse al paper original, lo encuentra en el sitio del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, una buena lectura para los días de viento blanco en El Calafate, con la calefacción a tono y un buen café patagónico al lado.