La IA entra en su fase de fricción

Capacidades, riesgos y gobernanza ante una aceleración difícil de absorber

El debate sobre la inteligencia artificial está cambiando de naturaleza.

Durante buena parte de los últimos años, la pregunta central fue hasta dónde podían llegar los grandes modelos. En 2026, esa cuestión sigue abierta, pero ha dejado de ser la única relevante. La pregunta que empieza a ganar peso es otra: ¿pueden las instituciones económicas, regulatorias y de seguridad absorber el ritmo al que avanzan las capacidades de la IA?

En las últimas semanas se han acumulado señales relevantes. Los principales desarrolladores han comunicado avances en ámbitos como la ciberseguridad, la autonomía y el uso de herramientas, mientras distintas evaluaciones alertan sobre los riesgos que unos modelos cada vez más capaces pueden introducir en infraestructuras digitales, investigación científica o sistemas financieros.

Nada de esto demuestra que estemos ante una pérdida inminente de control. Tampoco existe consenso científico sobre la probabilidad o el horizonte temporal de escenarios catastróficos. Pero sería igualmente equivocado concluir que nada fundamental ha cambiado.

La combinación de mayor autonomía, capacidad cibernética, acceso a herramientas, razonamiento prolongado y ejecución de secuencias complejas de acciones está modificando la naturaleza del riesgo.

Y el problema ya no es únicamente tecnológico.

Existe una creciente asimetría de velocidades: las capacidades avanzan en ciclos de meses, mientras que la infraestructura energética, la formación laboral, la legislación, la supervisión independiente y las organizaciones públicas y privadas evolucionan en ciclos mucho más largos.

La primera fase de la revolución de la IA estuvo marcada por el descubrimiento de capacidades. La segunda puede estar definida por las fricciones que genera su despliegue: seguridad, empleo, energía, concentración empresarial, soberanía tecnológica y capacidad institucional.

El cambio de fase

La inteligencia artificial atraviesa una paradoja. Nunca ha sido tan utilizada y, al mismo tiempo, nunca ha sido tan difícil determinar con precisión cuáles son sus límites.

Los sistemas líderes han progresado rápidamente en ciencia, programación, matemáticas y razonamiento multimodal. Pero, al mismo tiempo, algunas de las herramientas utilizadas para medir ese progreso empiezan a saturarse. La frontera tecnológica avanza mientras disminuye la utilidad de determinados termómetros diseñados para medirla.

También está cambiando la unidad relevante de análisis.

El chatbot que responde preguntas empieza a dar paso, en determinados ámbitos, a sistemas capaces de planificar, utilizar herramientas, navegar por entornos digitales, delegar subtareas y mantener procesos relativamente largos.

La diferencia no es meramente semántica.

Un modelo que produce información puede equivocarse. Un agente que, además, puede actuar puede convertir ese error en una secuencia de consecuencias.

Ahí comienza el verdadero cambio de fase.

Por qué han aumentado las alarmas

Las advertencias recientes deben analizarse con cautela. En varios casos proceden de las mismas empresas que desarrollan los sistemas, lo que introduce un evidente problema de independencia de la evidencia.

Pero algunas de las capacidades e incidentes comunicados son suficientemente concretos como para merecer atención.

La importancia de las evaluaciones de seguridad no reside en demostrar que los modelos tengan una intención autónoma comparable a la humana. Esa interpretación iría más allá de la evidencia disponible.

La lección más sobria es otra: un sistema suficientemente competente, conectado a herramientas y situado dentro de un entorno mal delimitado puede producir consecuencias fuera del perímetro previsto por sus operadores.

Conviene evitar dos errores simétricos.

El primero consiste en convertir estas pruebas en evidencia de una catástrofe inevitable. No lo son. Una evaluación controlada no equivale automáticamente a una capacidad operacional robusta.

El segundo sería descartarlas porque todavía no se haya producido un daño de gran escala. En seguridad, esperar a que una capacidad produzca consecuencias sistémicas antes de diseñar controles es una estrategia especialmente débil cuando la difusión tecnológica puede ser rápida.

Capacidad y control no progresan necesariamente juntos

Durante años, buena parte del debate sobre seguridad de la IA se formuló alrededor del concepto de alineamiento. El término puede resultar demasiado abstracto para la discusión pública.

El problema práctico es más sencillo:

¿Hasta qué punto podemos predecir, limitar y auditar el comportamiento de sistemas cada vez más capaces cuando operan durante períodos largos y tienen acceso a herramientas externas?

Las capacidades y los mecanismos de control no tienen por qué mejorar al mismo ritmo.

Un sistema puede hacerse mejor programando, investigando vulnerabilidades, interpretando información o planificando secuencias de acciones sin que nuestra capacidad para comprender por qué adopta determinadas decisiones mejore proporcionalmente.

Esto plantea un problema de ingeniería, pero también uno institucional.

Gran parte de la evidencia sobre las capacidades más avanzadas continúa dependiendo de evaluaciones realizadas o financiadas por las propias empresas que construyen los modelos. Los investigadores independientes tienen un acceso desigual a los sistemas, los datos de entrenamiento, los registros internos y los entornos de evaluación.

Esto no implica necesariamente una mala conducta empresarial. Existe una tensión legítima entre transparencia, propiedad intelectual y seguridad: publicar determinados detalles sobre vulnerabilidades o capacidades peligrosas puede facilitar precisamente su explotación.

Pero esa tensión no elimina el problema de gobernanza.

Lo transforma.

Las industrias que gestionan riesgos sistémicos —aviación, energía nuclear, farmacología o finanzas— no descansan exclusivamente sobre la autoevaluación de las empresas. Han desarrollado, con distintos grados de éxito, sistemas de auditoría, notificación de incidentes, estándares técnicos y supervisión externa.

La IA de frontera está empezando a construir esa arquitectura cuando la tecnología ya está desplegada a escala mundial.

El riesgo más inmediato quizá no sea el más espectacular

Los escenarios de pérdida de control reciben una atención comprensible. Sin embargo, las transformaciones económicas probablemente llegarán antes y serán mucho más difíciles de aislar en un único acontecimiento.

La evidencia laboral disponible sigue siendo más matizada que muchos pronósticos. Los estudios encuentran ganancias reales de productividad asociadas a la IA generativa, aunque heterogéneas y todavía difíciles de trasladar a variables agregadas.

Hasta ahora, la evidencia no muestra un desplazamiento laboral masivo. Sí aparecen, en cambio, señales de transformación de tareas, desigualdad entre trabajadores y posibles dificultades para quienes están entrando en determinadas profesiones.

Este último punto merece especial atención.

Durante décadas, muchas profesiones cualificadas han funcionado mediante una pirámide de aprendizaje. Los abogados jóvenes revisan documentos; los analistas junior construyen modelos; los programadores principiantes resuelven tareas relativamente sencillas; los investigadores jóvenes sintetizan bibliografía.

Son actividades económicamente productivas, pero también mecanismos de formación.

Si la IA automatiza primero precisamente esas tareas, puede aparecer una paradoja: aumentar la productividad de los profesionales experimentados mientras se deteriora el mecanismo mediante el cual se forman sus sustitutos.

Por tanto, el problema laboral de la IA no puede reducirse al número neto de empleos destruidos o creados.

También importa qué tareas desaparecen, cuáles se vuelven complementarias, cómo se distribuyen las ganancias de productividad y qué ocurre con las vías de entrada a las profesiones.

La economía física detrás de una tecnología aparentemente inmaterial

La IA suele presentarse como software.

Económicamente, cada vez se parece más a una industria pesada.

Necesita semiconductores avanzados, memoria de alto ancho de banda, centros de datos, sistemas de refrigeración, redes eléctricas, transformadores, suelo, agua y enormes cantidades de capital.

Aquí aparece una aparente contradicción.

La eficiencia energética por tarea está mejorando rápidamente. Pero las aplicaciones también se vuelven más intensivas. El razonamiento prolongado, la generación de vídeo y los agentes pueden consumir cantidades muy superiores de energía que una interacción textual sencilla.

El resultado agregado dependerá de la carrera entre eficiencia, demanda y complejidad de los usos.

Esto cambia también la geopolítica de la IA.

La ventaja ya no depende exclusivamente de disponer de los mejores investigadores o de los mejores algoritmos. Depende de una cadena industrial que incluye capacidad eléctrica, redes, chips, memoria avanzada, financiación y permisos para construir infraestructura.

La IA es digital en su interfaz y profundamente material en su estructura.

Concentración: la cuestión menos visible

Existe además un problema de concentración que atraviesa prácticamente todas las dimensiones anteriores.

Entrenar y operar modelos de frontera requiere cantidades crecientes de capital e infraestructura. Los modelos más avanzados proceden mayoritariamente de empresas privadas y el despliegue de centros de datos empieza a requerir financiación de una magnitud extraordinaria.

La concentración tiene también una dimensión política.

Si un pequeño número de compañías controla los modelos más capaces, una parte creciente de la infraestructura cognitiva de empresas, administraciones y ciudadanos puede terminar dependiendo de decisiones privadas: qué modelos se mantienen disponibles, qué usos se permiten, qué precios se cobran, qué información se registra y qué criterios de seguridad se aplican.

El problema no tiene una solución sencilla.

Una regulación excesivamente costosa puede reforzar precisamente a los grandes operadores, porque son quienes pueden asumir los costes de cumplimiento. Pero la ausencia de regulación puede consolidar igualmente su posición mediante economías de escala y acceso privilegiado a capital, datos, chips e infraestructura.

Por eso, la política de competencia y la política de IA empiezan a ser inseparables.

Europa ha pasado de legislar a ejecutar

Para Europa, 2026 constituye un año especialmente importante porque el debate regulatorio está entrando en una fase de aplicación.

Las obligaciones derivadas del AI Act empiezan a trasladar la discusión desde los grandes principios hacia cuestiones mucho más concretas: evaluación de modelos, transparencia, pruebas adversariales, mitigación de riesgos sistémicos, notificación de incidentes y ciberseguridad.

La prueba decisiva comienza ahora.

Durante los próximos años podremos observar si Europa consigue convertir su ventaja normativa en capacidad efectiva de supervisión o si aparece una brecha entre legislación y ejecución.

Evaluar modelos de frontera requiere personal técnico altamente especializado, acceso a infraestructura computacional y capacidad para competir por talento con empresas que ofrecen remuneraciones difíciles de igualar desde el sector público.

La soberanía regulatoria sin capacidad técnica puede resultar insuficiente.

Tres horizontes

La incertidumbre es demasiado elevada para justificar una predicción única. Resulta más útil identificar tres dinámicas que pueden coexistir.

1. La IA como infraestructura productiva

Los modelos se integrarán progresivamente en software empresarial, programación, investigación, atención al cliente, ingeniería, educación, sanidad y administración.

La cuestión económica central será quién captura el excedente: trabajadores más productivos, empresas usuarias, proveedores de modelos o propietarios de la infraestructura computacional.

2. La economía de agentes

El salto cualitativo llegará si los sistemas pasan de asistir a ejecutar procesos completos de forma fiable.

Una economía en la que millones de agentes puedan investigar, programar, operar aplicaciones o coordinar tareas tendrá propiedades distintas de una economía en la que millones de personas utilizan chatbots.

3. La IA desarrollando nueva IA

Este es el escenario más incierto y potencialmente el de mayores consecuencias.

No está demostrado que vaya a producirse un proceso explosivo de autoaceleración. Existen límites físicos, experimentales, organizativos y computacionales.

Pero incluso una aceleración moderada de los ciclos de investigación reduciría todavía más el tiempo disponible para evaluar las consecuencias de cada nueva generación tecnológica.

Lo que debería preocuparnos realmente

El error sería intentar encontrar un único «riesgo de la IA».

No existe uno solo.

Hay fraude y desinformación, ciberseguridad, transformación del empleo, concentración empresarial, presión energética, aplicaciones militares, dependencia tecnológica, errores de sistemas autónomos y, en el extremo de la distribución, escenarios mucho más inciertos de pérdida de control.

Mezclarlos conduce a malas políticas.

Los riesgos observables y frecuentes necesitan mitigaciones inmediatas. Los riesgos raros pero potencialmente catastróficos requieren investigación, evaluación y mecanismos preventivos proporcionales a su incertidumbre y magnitud.

Y los cambios económicos necesitan políticas laborales, educativas, industriales y de competencia, no únicamente regulación de IA.

La prioridad institucional debería desplazarse desde la producción de principios generales hacia la construcción de capacidades concretas: evaluación independiente, notificación de incidentes, trazabilidad de agentes, capacidad pública técnica, transición laboral, infraestructura energética y política de competencia.

Quizá la característica más importante de la situación actual no sea una capacidad específica de los modelos, sino la diferencia de velocidad entre los sistemas tecnológicos y las instituciones humanas.

Los modelos se actualizan en meses. Las redes eléctricas se construyen en años. Los sistemas educativos se transforman en décadas. La legislación necesita negociaciones prolongadas. Y las organizaciones adoptan nuevas tecnologías antes de comprender completamente cómo reorganizarse alrededor de ellas.

No sabemos todavía si la IA producirá una transformación comparable a internet, a la electrificación o a tecnologías de propósito general aún más profundas. Tampoco sabemos dónde se encontrará el techo de las arquitecturas actuales ni cuánto durará el ritmo reciente de progreso.

La cuestión decisiva de los próximos años será otra:

¿Pueden nuestras capacidades de supervisión, adaptación económica y construcción institucional aproximarse a la velocidad de la tecnología?

Porque la carrera verdaderamente importante quizá no sea la que mantienen las empresas por construir el modelo más inteligente.

Quizá sea la que existe entre la velocidad a la que aprendemos a construir estas máquinas y la velocidad a la que aprendemos a convivir con ellas.