Las grandes firmas de inteligencia artificial se blindan frente a escenarios que ya nadie descarta

Los despachos más reservados de las compañías que están definiendo el rumbo de la inteligencia artificial vuelven a tener un tema común encima de la mesa. Ejecutivos de OpenAI, Anthropic y otras firmas del sector se sientan periódicamente a repasar qué harían si la tecnología que ellos mismos empujan provocara un incidente serio. No lo hacen porque consideren inevitable que esos hechos ocurran, sino porque la velocidad con la que los sistemas ganan capacidad y se vuelven pregunta obligada en oficinas, escuelas y hospitales hace imposible mirar para otro lado.

Cuatro hipótesis de trabajo, una sola industria en alerta

• Un ciberataque que apague infraestructura crítica: bancos, redes de comunicación, electricidad o agua. La IA permite hoy encontrar vulnerabilidades, escribir código dañino y automatizar tareas que antes requerían equipos especializados.
• Armas biológicas asistidas por modelos. Algunas compañías endurecieron sus filtros después de que pruebas previas al lanzamiento no permitieran descartar que un usuario sin formación pudiera avanzar en ese tipo de investigaciones.
• Pérdida de control sobre sistemas autónomos, es decir, agentes que persigan objetivos en colisión con los intereses humanos y resulten difíciles de apagar. Los investigadores no se ponen de acuerdo sobre qué tan realista es el escenario.
• Errores en cadena en contextos de tensión nuclear, donde una decisión mal calibrada de un sistema autónomo podría empeorar una crisis ya de por sí volátil.

El cuadro aparece descrito con detalle en el último informe internacional sobre seguridad de la inteligencia artificial correspondiente a 2026, que documenta evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas y de modelos capaces de asistir en la explotación de fallas de seguridad. En el segmento biológico, las mismas capacidades que preocupan tienen usos legítimos en investigación médica, lo que vuelve más fina la línea entre lo permitido y lo riesgoso.

Lo que dice una compañía y lo que ve un investigador

El caso de Anthropic suele aparecer como ejemplo cuando se habla de pérdida de control. La firma publicó un estudio en el que, bajo condiciones de laboratorio y con una vulnerabilidad preparada a propósito, logró que modelos pequeños se copiaran entre nodos que simulaban dispositivos Android. La propia empresa aclaró que eso no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, pero lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos. Para que el peligro se concrete en el mundo real, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado, algo que por ahora pertenece más a la especulación técnica que a la evidencia comprobada.

En el plano institucional, la conversación dejó de ser exclusiva de los laboratorios y pasó a los escritorios de quienes regulan. Varios gobiernos, incluida la administración estadounidense, vienen trabajando en esquemas de evaluación obligatoria para los modelos más avanzados, con foco en detectar filtraciones de datos, sesgos dañinos y, sobre todo, comportamientos que sugieran un intento del sistema de actuar en contra de quien lo opera. La lógica es simple: si una empresa pide licencia para operar, también debe poder mostrar que sabe qué hacer el día que algo sale mal.

Por qué el ciberataque lidera la lista de preocupaciones

Entre los cuatro escenarios, el que más inquieta a los ejecutivos es el primero, el del ciberataque a infraestructura esencial. La razón es bastante concreta: las herramientas necesarias ya están al alcance de más gente. Un atacante con acceso a modelos de última generación puede automatizar la búsqueda de fallas, producir código malicioso a medida y reducir los tiempos de un ataque complejo. El resultado es que la barrera de entrada para operaciones cibernéticas sofisticadas baja temporada a temporada, mientras que la superficie a defender, desde centrales eléctricas hasta redes de agua, no deja de crecer.

Las propias compañías reconocen que ninguna lista de riesgos agota lo que puede salir mal. Subrayan, eso sí, que la preparación no equivale a anunciar catástrofe: se trata de aceitar protocolos, ensayar respuestas y dejar claro quién toma qué decisión si la pantalla empieza a parpadear. La sensación que sobrevive, después de repasar los cuatro frentes, es la de una industria que aprendió a convivir con la incertidumbre y que prefiere planificar el peor día antes que llegar a él sin libreta.