La IA entra en la seva fase de fricció

Capacitats, riscos i governança davant d’una acceleració difícil d’absorbir

El debat sobre la intel·ligència artificial està canviant de naturalesa.

Durant bona part dels darrers anys, la pregunta central ha estat fins on podien arribar els grans models. El 2026, aquesta qüestió continua oberta, però ha deixat de ser l’única rellevant. La pregunta que comença a guanyar pes és una altra: poden les institucions econòmiques, reguladores i de seguretat absorbir el ritme al qual avancen les capacitats de la IA?

En les darreres setmanes s’han acumulat senyals rellevants. Els principals desenvolupadors han comunicat avenços en àmbits com la ciberseguretat, l’autonomia i l’ús d’eines, mentre diferents avaluacions alerten sobre els riscos que uns models cada vegada més capaços poden introduir en infraestructures digitals, investigació científica o sistemes financers.

Res d’això demostra que estiguem davant d’una pèrdua imminent de control. Tampoc no existeix un consens científic sobre la probabilitat o l’horitzó temporal d’escenaris catastròfics. Però seria igualment equivocat concloure que res fonamental ha canviat.

La combinació de més autonomia, capacitat cibernètica, accés a eines, raonament prolongat i execució de seqüències complexes d’accions està modificant la naturalesa del risc.

I el problema ja no és únicament tecnològic.

Existeix una asimetria creixent de velocitats: les capacitats avancen en cicles de mesos, mentre que la infraestructura energètica, la formació laboral, la legislació, la supervisió independent i les organitzacions públiques i privades evolucionen en cicles molt més llargs.

La primera fase de la revolució de la IA va estar marcada pel descobriment de capacitats. La segona pot estar definida per les friccions que genera el seu desplegament: seguretat, ocupació, energia, concentració empresarial, sobirania tecnològica i capacitat institucional.

El canvi de fase

La intel·ligència artificial travessa una paradoxa. Mai no havia estat tan utilitzada i, alhora, mai no havia estat tan difícil determinar amb precisió quins són els seus límits.

Els sistemes líders han progressat ràpidament en ciència, programació, matemàtiques i raonament multimodal. Però, al mateix temps, algunes de les eines utilitzades per mesurar aquest progrés comencen a saturar-se. La frontera tecnològica avança mentre disminueix la utilitat de determinats termòmetres dissenyats per mesurar-la.

També està canviant la unitat d’anàlisi rellevant.

El chatbot que respon preguntes comença a donar pas, en determinats àmbits, a sistemes capaços de planificar, utilitzar eines, navegar per entorns digitals, delegar subtasques i mantenir processos relativament llargs.

La diferència no és merament semàntica.

Un model que produeix informació pot equivocar-se. Un agent que, a més, pot actuar pot convertir aquest error en una seqüència de conseqüències.

Aquí comença el veritable canvi de fase.

Per què han augmentat les alarmes

Les advertències recents s’han d’analitzar amb cautela. En diversos casos provenen de les mateixes empreses que desenvolupen els sistemes, cosa que introdueix un problema evident d’independència de l’evidència.

Però algunes de les capacitats i incidents comunicats són prou concrets per merèixer atenció.

La importància de les avaluacions de seguretat no rau a demostrar que els models tinguin una intenció autònoma comparable a la humana. Aquesta interpretació aniria més enllà de l’evidència disponible.

La lliçó més sòbria és una altra: un sistema prou competent, connectat a eines i situat dins d’un entorn mal delimitat pot produir conseqüències fora del perímetre previst pels seus operadors.

Cal evitar dos errors simètrics.

El primer consisteix a convertir aquestes proves en evidència d’una catàstrofe inevitable. No ho són. Una avaluació controlada no equival automàticament a una capacitat operacional robusta.

El segon seria descartar-les perquè encara no s’hagi produït un dany a gran escala. En seguretat, esperar que una capacitat produeixi conseqüències sistèmiques abans de dissenyar controls és una estratègia especialment feble quan la difusió tecnològica pot ser ràpida.

Capacitat i control no progressen necessàriament junts

Durant anys, bona part del debat sobre seguretat de la IA s’ha formulat al voltant del concepte d’alineament. El terme pot resultar massa abstracte per al debat públic.

El problema pràctic és més senzill:

Fins a quin punt podem predir, limitar i auditar el comportament de sistemes cada vegada més capaços quan operen durant períodes llargs i tenen accés a eines externes?

Les capacitats i els mecanismes de control no han de millorar necessàriament al mateix ritme.

Un sistema pot fer-se millor programant, investigant vulnerabilitats, interpretant informació o planificant seqüències d’accions sense que la nostra capacitat per comprendre per què adopta determinades decisions millori proporcionalment.

Això planteja un problema d’enginyeria, però també un problema institucional.

Bona part de l’evidència sobre les capacitats més avançades continua depenent d’avaluacions realitzades o finançades per les mateixes empreses que construeixen els models. Els investigadors independents tenen un accés desigual als sistemes, les dades d’entrenament, els registres interns i els entorns d’avaluació.

Això no implica necessàriament una mala conducta empresarial. Existeix una tensió legítima entre transparència, propietat intel·lectual i seguretat: publicar determinats detalls sobre vulnerabilitats o capacitats perilloses pot facilitar precisament la seva explotació.

Però aquesta tensió no elimina el problema de governança.

El transforma.

Les indústries que gestionen riscos sistèmics —aviació, energia nuclear, farmacologia o finances— no descansen exclusivament en l’autoavaluació de les empreses. Han desenvolupat, amb diferents graus d’èxit, sistemes d’auditoria, notificació d’incidents, estàndards tècnics i supervisió externa.

La IA de frontera està començant a construir aquesta arquitectura quan la tecnologia ja està desplegada a escala mundial.

El risc més immediat potser no és el més espectacular

Els escenaris de pèrdua de control reben una atenció comprensible. Tanmateix, les transformacions econòmiques probablement arribaran abans i seran molt més difícils d’aïllar en un únic esdeveniment.

L’evidència laboral disponible continua sent més matisada que moltes previsions. Els estudis troben guanys reals de productivitat associats a la IA generativa, tot i que són heterogenis i encara difícils de traslladar a variables agregades.

Fins ara, l’evidència no mostra un desplaçament laboral massiu. Sí que apareixen, en canvi, senyals de transformació de tasques, desigualtat entre treballadors i possibles dificultats per a les persones que estan entrant en determinades professions.

Aquest últim punt mereix una atenció especial.

Durant dècades, moltes professions qualificades han funcionat mitjançant una piràmide d’aprenentatge. Els advocats joves revisen documents; els analistes júniors construeixen models; els programadors principiants resolen tasques relativament senzilles; els investigadors joves sintetitzen bibliografia.

Són activitats econòmicament productives, però també mecanismes de formació.

Si la IA automatitza primer precisament aquestes tasques, pot aparèixer una paradoxa: augmentar la productivitat dels professionals experimentats mentre es deteriora el mecanisme mitjançant el qual es formen els seus substituts.

Per tant, el problema laboral de la IA no es pot reduir al nombre net d’ocupacions destruïdes o creades.

També importa quines tasques desapareixen, quines esdevenen complementàries, com es distribueixen els guanys de productivitat i què passa amb les vies d’entrada a les professions.

L’economia física darrere d’una tecnologia aparentment immaterial

La IA sol presentar-se com a programari.

Econòmicament, cada vegada s’assembla més a una indústria pesada.

Necessita semiconductors avançats, memòria d’amplada de banda elevada, centres de dades, sistemes de refrigeració, xarxes elèctriques, transformadors, sòl, aigua i enormes quantitats de capital.

Aquí apareix una aparent contradicció.

L’eficiència energètica per tasca està millorant ràpidament. Però les aplicacions també es tornen més intensives. El raonament prolongat, la generació de vídeo i els agents poden consumir quantitats molt superiors d’energia que una interacció textual senzilla.

El resultat agregat dependrà de la carrera entre eficiència, demanda i complexitat dels usos.

Això també canvia la geopolítica de la IA.

L’avantatge ja no depèn exclusivament de disposar dels millors investigadors o dels millors algoritmes. Depèn d’una cadena industrial que inclou capacitat elèctrica, xarxes, xips, memòria avançada, finançament i permisos per construir infraestructura.

La IA és digital en la seva interfície i profundament material en la seva estructura.

Concentració: la qüestió menys visible

Existeix, a més, un problema de concentració que travessa pràcticament totes les dimensions anteriors.

Entrenar i operar models de frontera requereix quantitats creixents de capital i infraestructura. Els models més avançats procedeixen majoritàriament d’empreses privades i el desplegament de centres de dades comença a requerir finançament d’una magnitud extraordinària.

La concentració també té una dimensió política.

Si un petit nombre de companyies controla els models més capaços, una part creixent de la infraestructura cognitiva d’empreses, administracions i ciutadans pot acabar depenent de decisions privades: quins models es mantenen disponibles, quins usos es permeten, quins preus es cobren, quina informació es registra i quins criteris de seguretat s’apliquen.

El problema no té una solució senzilla.

Una regulació excessivament costosa pot reforçar precisament els grans operadors, perquè són els que poden assumir els costos de compliment. Però l’absència de regulació també pot consolidar la seva posició mitjançant economies d’escala i un accés privilegiat al capital, les dades, els xips i la infraestructura.

Per això, la política de competència i la política d’IA comencen a ser inseparables.

Europa ha passat de legislar a executar

Per a Europa, el 2026 constitueix un any especialment important perquè el debat regulador està entrant en una fase d’aplicació.

Les obligacions derivades de l’AI Act comencen a traslladar la discussió des dels grans principis cap a qüestions molt més concretes: avaluació de models, transparència, proves adversarials, mitigació de riscos sistèmics, notificació d’incidents i ciberseguretat.

La prova decisiva comença ara.

Durant els propers anys podrem observar si Europa aconsegueix convertir el seu avantatge normatiu en capacitat efectiva de supervisió o si apareix una bretxa entre legislació i execució.

Avaluar models de frontera requereix personal tècnic altament especialitzat, accés a infraestructura computacional i capacitat per competir pel talent amb empreses que ofereixen remuneracions difícils d’igualar des del sector públic.

La sobirania reguladora sense capacitat tècnica pot resultar insuficient.

Tres horitzons

La incertesa és massa elevada per justificar una predicció única. És més útil identificar tres dinàmiques que poden coexistir.

1. La IA com a infraestructura productiva

Els models s’integraran progressivament en programari empresarial, programació, investigació, atenció al client, enginyeria, educació, sanitat i administració.

La qüestió econòmica central serà qui captura l’excedent: treballadors més productius, empreses usuàries, proveïdors de models o propietaris de la infraestructura computacional.

2. L’economia dels agents

El salt qualitatiu arribarà si els sistemes passen d’assistir a executar processos complets de manera fiable.

Una economia en què milions d’agents puguin investigar, programar, operar aplicacions o coordinar tasques tindrà propietats diferents d’una economia en què milions de persones utilitzen xatbots.

3. La IA desenvolupant nova IA

Aquest és l’escenari més incert i potencialment el de més conseqüències.

No està demostrat que es produeixi un procés explosiu d’autoacceleració. Hi ha límits físics, experimentals, organitzatius i computacionals.

Però fins i tot una acceleració moderada dels cicles d’investigació reduiria encara més el temps disponible per avaluar les conseqüències de cada nova generació tecnològica.

El que realment ens hauria de preocupar

L’error seria intentar trobar un únic «risc de la IA».

No n’hi ha només un.

Hi ha frau i desinformació, ciberseguretat, transformació de l’ocupació, concentració empresarial, pressió energètica, aplicacions militars, dependència tecnològica, errors dels sistemes autònoms i, a l’extrem de la distribució, escenaris molt més incerts de pèrdua de control.

Barrejar-los condueix a males polítiques.

Els riscos observables i freqüents necessiten mitigacions immediates. Els riscos rars però potencialment catastròfics requereixen investigació, avaluació i mecanismes preventius proporcionals a la seva incertesa i magnitud.

I els canvis econòmics necessiten polítiques laborals, educatives, industrials i de competència, no únicament regulació de la IA.

La prioritat institucional hauria de desplaçar-se des de la producció de principis generals cap a la construcció de capacitats concretes: avaluació independent, notificació d’incidents, traçabilitat dels agents, capacitat tècnica pública, transició laboral, infraestructura energètica i política de competència.

Potser la característica més important de la situació actual no és una capacitat específica dels models, sinó la diferència de velocitat entre els sistemes tecnològics i les institucions humanes.

Els models s’actualitzen en mesos. Les xarxes elèctriques es construeixen en anys. Els sistemes educatius es transformen en dècades. La legislació necessita negociacions prolongades. I les organitzacions adopten noves tecnologies abans de comprendre completament com reorganitzar-se al seu voltant.

Encara no sabem si la IA produirà una transformació comparable a internet, a l’electrificació o a tecnologies de propòsit general encara més profundes. Tampoc no sabem on es trobarà el sostre de les arquitectures actuals ni quant durarà el ritme recent de progrés.

La qüestió decisiva dels propers anys serà una altra:

Poden les nostres capacitats de supervisió, adaptació econòmica i construcció institucional aproximar-se a la velocitat de la tecnologia?

Perquè la cursa realment important potser no és la que mantenen les empreses per construir el model més intel·ligent.

Potser és la que existeix entre la velocitat a la qual aprenem a construir aquestes màquines i la velocitat a la qual aprenem a conviure-hi.