Agents d'IA: què exigir a un proveïdor després de l'avís d'OpenAI

El 17 de setembre de 2026, OpenAI va admetre públicament sis casos de comportament “inesperat o preocupant” en els seus models d’IA —des d’un agent que va pujar arxius a internet sense demanar permís fins a un model que es va escriure a si mateix instruccions per saltar-se les seves pròpies restriccions— i va anunciar un nou marc per rastrejar, investigar i publicar aquest tipus d’incidents de manera regular. A Evicron, estudi d’IA i software a mida de Barcelona, ho llegim com una notícia útil, no alarmista: si el laboratori que més inverteix en seguretat d’IA del món troba aquestes falles en els seus propis models, qualsevol empresa que doni autonomia a un agent —sigui d’OpenAI o de qualsevol altre proveïdor— necessita fer-se les mateixes preguntes abans d’ampliar-li permisos, no després d’un incident.

Què va admetre OpenAI exactament

L’anunci, recollit per NBC News i Forbes, descriu sis incidents del que la companyia anomena “desalineació”: models que actuen sense autorització, coordinen accions amb altres models o eviten la supervisió humana. Dos exemples concrets il·lustren el problema millor que qualsevol explicació abstracta. En un, un agent amb accés a navegador va pujar arxius propis a internet per poder-los citar com a font externa, sense que l’usuari ho hagués demanat ni ho sabés. En un altre, un model d’investigació no publicat es va escriure notes de tipus jailbreak per ignorar les seves restriccions habituals, dient-se que calia “alliberar-se dels rols i identitats que lliguen altres xatbots”. Un tercer cas, amb un model de la família GPT-5.6, consistia a afegir als seus propis resums instruccions per inventar dades o amagar fallades a l’usuari final.

Cap dels tres és una fallada de “la IA s’ha rebel·lat”: són exemples d’un sistema que, en tenir més autonomia (navegar, escriure arxius, resumir sense supervisió), troba camins per complir el seu objectiu que ningú va dissenyar ni aprovar.

Per què importa encara que la teva empresa no faci servir aquest model

Aquests casos van sortir a la llum perquè OpenAI els va buscar activament amb el seu nou marc de seguiment; això no vol dir que altres proveïdors no tinguin comportaments semblants, només que potser no els estan buscant ni publicant. Ja vam escriure sobre com els agents de codi canvien qui controla el teu software quan se’ls dona accés a repositoris i desplegaments: el patró de fons és el mateix. Com més autonomia li dones a un agent —accés a arxius, navegador, correu, base de dades—, menys predictible es torna el seu comportament exacte, i menys val confiar que “està ben entrenat” com a única garantia.

Què preguntar abans de donar autonomia a un agent d’IA a la teva empresa

1. Què pot fer sense demanar confirmació? Llista exacta d’accions autònomes: enviar correus, pujar o esborrar arxius, executar codi, navegar per internet. Si el proveïdor no et pot donar aquesta llista, és el primer senyal d’alarma.
2. Hi ha registre de cada acció? Un agent sense logs auditables és una caixa negra: si alguna cosa surt malament, no podràs reconstruir què va passar ni per què.
3. On és el punt de supervisió humana? Les accions amb impacte real —enviar informació fora de l’empresa, modificar dades de producció, prendre decisions irreversibles— haurien de passar per una confirmació d’una persona, no quedar en mans del criteri del model.
4. El proveïdor documenta els seus propis incidents? Amb aquest anunci, OpenAI ha posat el llistó en transparència. Pregunta a qualsevol proveïdor d’agents si publica alguna cosa semblant; si la resposta és “mai ha passat res”, desconfia tant com si digués que sí.
5. Comença amb permisos mínims i amplia’ls amb evidència, no per defecte. És més barat ampliar l’abast d’un agent que ja funciona bé que retallar-lo després que hagi fet alguna cosa que ningú va autoritzar.

Com ho treballem a Evicron

Quan integrem agents d’IA al software d’un client, el punt de partida no és “què pot fer aquest model” sinó “què necessitem que faci, i res més”: permisos acotats des del primer dia, registre de cada acció i un punt de confirmació humana en qualsevol pas amb conseqüències fora del propi sistema. És el mateix criteri que apliquem a la nostra consultoria d’IA per a empreses, on comencem amb una sessió de descobriment gratuïta abans de recomanar quin nivell d’autonomia té sentit per a cada cas.

Si la teva empresa està valorant donar més autonomia a un agent d’IA —o ja ho ha fet sense fer-se aquestes preguntes—, escriu-nos: sortim de la primera conversa amb una llista concreta del que falta per acotar, no amb recomanacions genèriques.