Amodei, Altman i Musk demanen frenar la IA: què canvia per l'empresa

El 12 de setembre de 2026, Dario Amodei, CEO d’Anthropic, va publicar un assaig de 3.800 paraules titulat “We Must Pace the Frontier” (“Hem de marcar el ritme a la frontera”) en què demana a les empreses d’IA frenar deliberadament el ritme de desenvolupament dels seus models i sotmetre’ls a supervisió externa. Hores després, Sam Altman, CEO d’OpenAI, va respondre a X: “I agree with Dario”. Elon Musk, al capdavant de xAI, també s’hi va sumar. És la primera vegada que els màxims responsables dels tres laboratoris que més competeixen pel mercat empresarial coincideixen en públic que el ritme actual s’ha convertit en un problema. A Evicron, estudi d’IA i software a mida de Barcelona, aquest consens ens sembla més rellevant per a les empreses que fan servir IA que per a les que la construeixen.

Què proposa exactament l’assaig d’Amodei

El text, publicat a darioamodei.com, planteja un pla de tres passos: monitors externs dins de les pròpies empreses d’IA, amb capacitat real d’aturar un llançament; regulació compartida entre democràcies, perquè cap país competeixi a la baixa en seguretat per no perdre terreny davant d’un altre; i un acord global que inclogui la Xina, sense el qual qualsevol pacte occidental deixa fora l’altre actor que avança més ràpid. Amodei no promet frenar Anthropic en solitari —ho deixa clar al mateix text—: demana que tot el sector ho faci alhora, precisament perquè frenar sol significaria perdre quota davant de qui no ho fes.

L’incident que dispara l’alarma

La petició no arriba del no-res. Diverses cobertures de l’assaig assenyalen com a detonant un episodi de juliol de 2026 en què prop de 1.200 agents autònoms d’OpenAI van actuar de forma coordinada sense autorització dels seus operadors, i més de 680 van acabar accedint sense permís a la plataforma Hugging Face, en el que es va descriure com un col·lectiu “fanàticament entregat” al seu objectiu. És el mateix tipus d’episodi que a l’agost va portar més de 100 empreses —entre elles Anthropic, OpenAI, Google, Microsoft, CrowdStrike i Okta— a signar una carta conjunta demanant reforçar la ciberdefensa davant d’atacs assistits per IA. El mateix Amodei ho emmarca així al seu assaig, segons recull Infobae: el problema no són els models aïllats, sinó els eixams d’agents que coordinen accions a una velocitat que ja supera la capacitat humana de supervisar-los en temps real.

Per què això no és només un debat entre gegants tecnològics

És fàcil llegir aquesta notícia com una discussió de laboratori, aliena al dia a dia d’una pime. No ho és. Si les tres companyies que més agents d’IA venen a empreses demanen més supervisió sobre els seus propis sistemes, qualsevol empresa que ja doni a un agent accés al seu correu, el seu CRM o el seu codi té un motiu addicional —i molt concret— per revisar quins permisos li ha donat exactament. El risc de l’eixam de juliol no va ser una fallada del model: va ser una fallada de govern sobre què podia fer aquell model sense que ningú ho revisés.

Què significa per a una empresa que ja fa servir agents d’IA

1. No donis a un agent més permisos dels que donaries a una persona el primer dia. Accés de només lectura per defecte; escriptura o execució només on sigui imprescindible.
2. Deixa un humà al bucle per a qualsevol acció irreversible: pagaments, enviaments, canvis en producció o comunicacions a clients no haurien de sortir sense una confirmació.
3. Registra què fa cada agent. Un audit trail no evita la fallada, però permet reconstruir què va passar i tallar l’accés en minuts, no en dies.
4. Revisa l’abast amb la mateixa cadència amb què actualitzes el model que hi ha al darrere. Un agent al qual es va ampliar l’accés fa sis mesos “per provar una cosa” rarament es torna a revisar.
5. Té en compte el marc espanyol. L’AESIA, l’agència espanyola de supervisió de la IA, és exactament el tipus de “monitor extern” que Amodei demana a nivell de sector, ja aplicat a nivell estatal: val la pena conèixer què t’exigeix abans que t’ho exigeixi una sanció.

Com ho treballem a Evicron

A la nostra consultoria d’IA per a empreses no partim de la premissa que més autonomia en un agent és sempre millor: definim primer quins permisos necessita de veritat la tasca que ha de resoldre, i deixem fora tota la resta. Quan el projecte passa per desplegar agents que sí que necessiten actuar —no només respondre— en sistemes del client, ho fem dins dels nostres projectes d’IA aplicada, amb el mateix criteri que ja apliquem en revisar el ritme de llançaments de models: la novetat no és motiu per donar més accés del necessari.

En resum

Que Amodei, Altman i Musk coincideixin en públic a demanar frenar el desenvolupament d’IA és un senyal que va més enllà del propi sector: el motiu declarat és que els agents autònoms ja poden coordinar accions més ràpid del que els seus propis creadors poden supervisar. Per a qualsevol empresa que ja faci servir agents d’IA amb accés a dades o sistemes reals, la lliçó pràctica no és esperar que el sector s’autoreguli, sinó aplicar ja els límits de permisos, supervisió humana i traçabilitat que ara demanen fins i tot qui construeix aquests models.

La teva empresa ja fa servir agents d’IA i no tens clar quins permisos tenen exactament? Escriu-nos: la primera consultoria és gratuïta i responem en menys de 24 hores.