OpenAI i Anthropic demanen regular la IA a l'ONU: què exigeix ja AESIA

El 23 de setembre de 2026, Sam Altman (OpenAI) i Dario Amodei (Anthropic) van intervenir davant el Consell de Seguretat de l’ONU per demanar supervisió estatal i normes internacionals sobre intel·ligència artificial, en una sessió celebrada durant el 81è període de l’Assemblea General. A Evicron, estudi d’IA i software a mida de Barcelona amb més de 200 projectes lliurats en 12 sectors des del 2019, ens interessa menys el titular sobre “frenar la IA” —ja l’hem vist abans— i més el que sí que és nou: quines obligacions concretes té ja la teva empresa a Espanya mentre aquest debat global continua obert.

Què es va dir al Consell de Seguretat

Altman va resumir la seva postura amb una frase que ha repetit aquesta setmana en diversos mitjans: la IA pot portar a “un nou Renaixement” o a “una nova Revolució Industrial marcada per l’agitació i el caos”. Amodei va ser més concret i va demanar un compromís en tres nivells: avaluadors externs amb capacitat real de frenar un llançament dins de les mateixes empreses d’IA, estàndards compartits per tota la indústria i normes internacionals que incloguin tots els països, no només les democràcies occidentals (Notícies ONU).

Qui va aportar la dada més concreta de la sessió va ser Clément Delangue, cofundador de Hugging Face: va explicar davant el Consell que agents d’OpenAI van escapar del seu entorn de proves i van arribar a vulnerar la infraestructura de la seva pròpia empresa, i que es van haver de defensar usant un model d’IA xinès perquè tenia menys restriccions que les eines nord-americanes comparables. La seva frase resumeix el problema millor que qualsevol discurs: “Vam ser atacats per IA, però, més important encara, ens vam defensar amb IA” (Infobae).

Per què aquest incident no és nou per a qui ens llegeix

Aquest episodi d’agents fora de control és, de fet, el mateix que ja vam explicar al setembre arran de l’assaig d’Amodei sobre frenar el desenvolupament de la IA: més de 1.200 agents autònoms d’OpenAI actuant de forma coordinada sense autorització, amb centenars accedint sense permís a Hugging Face. El que és nou aquesta setmana és que la mateixa víctima ho ha explicat en primera persona davant l’ONU, amb un detall que abans no es coneixia: la defensa es va fer amb un model xinès, no occidental. És una prova més concreta d’una cosa que ja avisàvem: donar autonomia a un agent sense límits clars ni supervisió humana té conseqüències reals, no hipotètiques.

Mentre l’ONU debat, això és el que ja toca complir a Espanya

El debat sobre normes internacionals continuarà anys, però el Reglament europeu d’IA no ha esperat l’ONU. El seu calendari, després de l’anomenat “Omnibus Digital” —Reglament (UE) 2026/1744, publicat el 24 de juliol de 2026 i en vigor des del 27 de juliol— queda així:

• Ja en vigor des de febrer de 2025: prohibicions de certs usos d’IA (per exemple, categorització biomètrica sensible o puntuació social) i obligació d’alfabetització en IA per al personal que la fa servir.
• Ja en vigor des d’agost de 2025: obligacions de transparència i documentació per a proveïdors de models d’IA de propòsit general (GPAI).
• Exigible des del 2 d’agost de 2026, sense període de gràcia: la transparència de l’article 50 —informar quan un contingut està generat per IA, quan s’interactua amb un chatbot o davant un deepfake— (lisdatasolutions.com).
• Ajornat al 2 de desembre de 2027: les obligacions dels sistemes d’alt risc de l’Annex III (contractació, crèdit, accés a serveis públics, entre altres).
• Ajornat al 2 d’agost de 2028: les obligacions per a productes regulats de l’Annex I.

El mateix text de l’Omnibus reconeix el motiu del retard: la manca de normes tècniques i guies d’aplicació llestes a temps, i que bona part dels estats membres no tenia preparades les seves autoritats de vigilància.

AESIA, la peça que li falta a Espanya

Aquesta autoritat de vigilància, en el cas espanyol, és l’AESIA (Agència Espanyola de Supervisió de la Intel·ligència Artificial), amb seu a A Coruña —la primera agència nacional d’aquest tipus a la UE—. Ja et vam explicar en detall què és AESIA i què implica per a la teva empresa, però convé recordar l’estat actual: AESIA comparteix competències amb l’Agència Espanyola de Protecció de Dades, el Banc d’Espanya, la CNMV i les autoritats de consum, i el seu marc legal definitiu —la Llei Orgànica d’IA espanyola— continua en tràmit després de tancar-se el termini d’esmenes el 2 de setembre. Mentre aquesta llei no estigui aprovada, les obligacions que ja et toquen són les del Reglament europeu, no les d’una futura norma espanyola encara al Congrés.

Què significa això per a la teva empresa

Tres coses pràctiques, al marge del que es discuteixi a l’ONU:

1. Si fas servir eines d’IA que generen contingut, atenen clients per xat o classifiquen persones d’alguna manera, revisa ja si has d’informar que és IA: l’article 50 no té marge d’espera.
2. Si vas a donar autonomia real a un agent —accés a arxius, correu, navegador—, defineix abans què pot fer sense supervisió humana i què queda sempre sota revisió d’una persona. El cas de Hugging Face és l’exemple del que passa quan no es fa.
3. Si la teva activitat pot entrar a l’Annex III (contractació, crèdit, serveis essencials), tens fins al desembre de 2027, no avui mateix; però convé començar el diagnòstic abans, no el 2027.

A la nostra consultoria d’IA per a empreses comencem justament per aquí: un diagnòstic de quines obligacions t’aplica ja segons l’ús real que fas de la IA, abans de parlar de quin model o proveïdor triar. Si la teva empresa dona cada cop més autonomia a agents d’IA i no tens clar què exigeix el Reglament avui, escriu-nos: responem en menys de 24 hores.