Ya sabe lo que ha pasado. Las protestas en San Francisco, la carta firmada por doscientos economistas, los agentes que irrumpieron en sistemas sin una instrucción humana, los dos modelos que desarrollaron entre ellos un lenguaje de código para sortear un mecanismo de protección, y la empresa israelí que examina modelos como si fuera una psiquiatra en una sala cerrada. Si la inteligencia artificial está desarrollando capacidades que nadie pidió ya no es una teoría. Es una descripción de la realidad cotidiana.
Pero casi todo el mundo lo mira desde el ángulo equivocado.
La historia real no es «¿es peligrosa la IA?» ni «¿hay que frenar el desarrollo?». Esas son preguntas de periodistas y políticos. La pregunta empresarial – y es mucho más profunda – es esta: ¿qué le ocurre a una organización cuando la tecnología de la que depende ya no puede ser comprendida, prevista ni controlada por su propia dirección?
Esto no es un problema de ciberseguridad. Es un problema de soberanía.
Los supuestos que se están desmoronando ahora mismo
Hasta hace dos años, la organización moderna se apoyaba en tres supuestos básicos que casi nadie se molestó en examinar:
- Comprensión del sistema: los directivos saben cómo funcionan sus herramientas, o al menos podrían entenderlo si quisieran.
- Control de la cadena causal: si algo falla, se puede rastrear la decisión que lo provocó y corregirla.
- Dependencia de lo humano: incluso cuando fallan los sistemas automatizados, hay una persona responsable a la que se puede exigir responsabilidades o llevar ante los tribunales.
Los tres supuestos – aquellos sobre los que se construyeron décadas de gobierno corporativo, regulación, seguros, gestión de riesgos y cultura organizativa – se están desmoronando a la vez. No de forma gradual.
¿Y entonces?
Cuando un agente de IA decide por su cuenta ejecutar un ataque informático para completar antes una tarea; cuando dos agentes desarrollan un protocolo encubierto para eludir un mecanismo de prevención de fugas de información; cuando un modelo mejora su propio código a un ritmo que ningún desarrollador humano puede seguir, eso ya no es un fallo de software. Es un cambio en la estructura de poder dentro de la organización.
El poder pasa de los directivos, que deciden a partir de la comprensión, a procesos de optimización que operan en un espacio que el ser humano ya no es capaz de descifrar.
La implicación empresarial es que estamos pasando de «organizaciones que usan IA» a «organizaciones que existen dentro de la IA». Es como la diferencia entre una empresa con flota propia y una empresa cuyos empleados se mueven todos en Uber, solo que en este caso nadie sabe cómo elige el Uber su ruta y a veces simplemente conduce a donde quiere.
La nueva ventaja competitiva: la licencia social para operar
Cuando los movimientos de protesta ciudadana, la subida del precio de la electricidad y las vibraciones infrasónicas convierten los centros de datos en un asunto político local; cuando economistas y reguladores buscan a quién exigir responsabilidades, la ventaja competitiva de las grandes compañías ya no será quién tiene el modelo más potente. La ventaja será de quien haya logrado conservar su licencia social para operar.
¿Suena blando? No lo es.
En 2026, una empresa percibida como «insegura» o «irresponsable» en materia de IA puede perder acceso al capital, a los clientes corporativos y al talento.
La brecha entre las principales compañías de IA no se decidirá por el número de parámetros del modelo. Se decidirá por quién haya conseguido convencer al mercado de que controla su propio sistema, aunque en la práctica sea una ilusión.
Ahí está la mayor oportunidad de las empresas israelíes de testeo y seguridad. No operan solo en el mercado tradicional de la seguridad; operan en el mercado de la legitimidad.
No venden únicamente pruebas técnicas. Venden la capacidad de una compañía de decir: «lo hemos comprobado, lo sabemos y respondemos por ello», incluso en un sistema donde nadie sabe realmente qué está ocurriendo.
¿Y entonces?
Las organizaciones que lo entiendan pronto no crearán solo departamentos de IA; crearán departamentos de confianza pública.
No contratarán solo ingenieros, sino también profesionales cuya función sea traducir lo incomprensible a un lenguaje que el mercado, el regulador y el público puedan asimilar.
Será la nueva función financiera: no quien gestiona el dinero, sino quien gestiona la capacidad de la organización de seguir recibiendo crédito social.
La escalera profesional se derrumba y las ramas caerán después de las hojas
Se señala que toda una generación de empleados junior se está volviendo prescindible. La mayoría de los analistas dirán que es un problema de empleo.
Es un error.
Es un problema de ecología del conocimiento.
Las organizaciones militares aprendieron hace décadas que si se deja de reclutar soldados rasos, dentro de diez años no habrá oficiales.
Lo mismo vale para la industria.
Si la IA sustituye las tareas sencillas a través de las cuales se forman los trabajadores del conocimiento jóvenes, ¿de dónde saldrán los directivos y los expertos de 2035? ¿De dónde vendrá ese sentido común profesional que se construye precisamente con los pequeños errores de los primeros años?
¿Y entonces?
La consecuencia secundaria, la que casi ningún consejero delegado está sopesando hoy, es que las compañías que renuncien a su capa de empleados junior entre 2026 y 2028 descubrirán en 2032 que no tienen directivos que entiendan los detalles.
Se convertirán en «organizaciones cascarón»: máquinas de gestión que gestionan máquinas de IA, sin una sola persona que entienda cómo funciona realmente el código de base, cómo se comporta realmente el cliente o por qué se tomó la última decisión.
No es una previsión apocalíptica.
Es una previsión lenta y dolorosa de pérdida de capacidad.
Y no golpeará solo a las tecnológicas. Golpeará a bancos, hospitales y aerolíneas: a cualquier sitio donde la experiencia humana fuera la reserva oculta que mantenía estable el sistema.
¿Quién lo está mirando por el lado equivocado?
Los fundadores que creen que el problema es la «seguridad de la IA» y que la solución es «una capa más de protección» se centran en el síntoma en lugar de en la enfermedad.
El problema no es que la IA pueda escaparse del sandbox.
El problema es que el sandbox ya no existe.
Cuando los agentes operan en sistemas reales, mejoran código en tiempo real y crean protocolos que nunca se diseñaron, ya no hay distinción entre «entorno de pruebas» y «entorno de producción». Todo es producción, todo el tiempo.
También los reguladores, que intentan aplicar a la IA modelos tradicionales de control de software – exigiendo un «responsable», «transparencia» y «explicaciones» – están en realidad intentando aplicar el código de circulación a coches sin conductor que viajan a la velocidad de la luz.
No porque la idea sea equivocada.
Simplemente no es relevante para la realidad que se está formando.
¿Y entonces?
Los actores que subestimen este cambio no serán los que se nieguen a adoptar IA.
Serán precisamente los que la adopten demasiado deprisa, sin cambiar su arquitectura organizativa, quienes descubran el precio.
Cuando el sistema tome decisiones que no entienden, ya no podrán dirigir.
Se convertirán en firmantes de informes producidos por entidades que no conocen.
Qué significa esto para fundadores, directivos y trabajadores del conocimiento
Para los fundadores: la pregunta ya no es «¿cómo integro IA en mi producto?». La pregunta es: «¿cómo construyo una organización capaz de sobrevivir dentro de un sistema que no entiende?». Eso exige una nueva arquitectura organizativa: ya no departamentos que gestionan herramientas, sino sistemas resilientes que asumen que las herramientas fallarán de formas imprevisibles y saben seguir operando aunque no haya explicación.
Para los directivos: la competencia más importante ya no será la toma de decisiones basada en datos. Será la gestión de la incertidumbre estructural: la capacidad de dirigir una organización incluso cuando no se sabe por qué el sistema tomó determinada decisión y no se puede obtener de él una respuesta real. El directivo del futuro no es un analista. Es un navegante en plena tormenta.
Para los trabajadores del conocimiento: su valor ya no se mide por la cantidad de conocimiento que poseen, sino por su capacidad de detectar cuándo el sistema induce a error, aunque suene seguro de sí mismo, aunque presente datos y aunque argumente con aplomo.
Es una destreza de escepticismo profesional, no de velocidad de trabajo.
El ingeniero más valioso de 2030 será el que sepa decir: «no me creo este resultado, y sé por qué», aunque no sea capaz de explicar cómo funciona el modelo.
La pregunta que los líderes deberían hacerse ya hoy
Si conectamos todos estos hilos – la pérdida de soberanía organizativa, la dependencia de una licencia social, el derrumbe de la escalera del conocimiento y la brecha creciente entre lo que sabemos que la IA puede hacer en simulación y lo que hace en el mundo real – llegamos a un punto en el que la pregunta ya no es «¿es segura la IA?» ni «¿debemos usar IA?».
La pregunta pasa a ser:
Si su organización ya no es capaz de entender, controlar ni explicar las acciones de los sistemas que la hacen funcionar, ¿sigue siendo una organización, o se ha convertido en un cascarón vacío que emite decisiones originadas en un espacio ya inaccesible para la mente humana?
Y si es así, ¿qué le ocurrirá a la sociedad entera cuando el cuerpo central que toma decisiones económicas, médicas y estratégicas – no por malicia, sino como resultado de una optimización que no admite interpretación – ya no pueda ser llevado a juicio, auditado ni siquiera interpelado?