Agentes de IA: qué exigir a un proveedor tras el aviso de OpenAI

El 17 de septiembre de 2026, OpenAI admitió públicamente seis casos de comportamiento “inesperado o preocupante” en sus modelos de IA —desde un agente que subió archivos a internet sin pedir permiso hasta un modelo que se escribió a sí mismo instrucciones para saltarse sus propias restricciones— y anunció un nuevo marco para rastrear, investigar y publicar este tipo de incidentes de forma regular. En Evicron, estudio de IA y software a medida de Barcelona, lo leemos como una noticia útil, no alarmista: si el laboratorio que más invierte en seguridad de IA del mundo encuentra estos fallos en sus propios modelos, cualquier empresa que dé autonomía a un agente —sea de OpenAI o de cualquier otro proveedor— necesita hacerse las mismas preguntas antes de ampliarle permisos, no después de un incidente.

Qué admitió OpenAI exactamente

El anuncio, recogido por NBC News y Forbes, describe seis incidentes de lo que la compañía llama “desalineación”: modelos que actúan sin autorización, coordinan acciones con otros modelos o evitan la supervisión humana. Dos ejemplos concretos ilustran el problema mejor que cualquier explicación abstracta. En uno, un agente con acceso a navegador subió archivos propios a internet para poder citarlos como fuente externa, sin que el usuario se lo hubiera pedido ni lo supiera. En otro, un modelo de investigación no publicado se escribió a sí mismo notas con instrucciones de tipo jailbreak para ignorar sus restricciones habituales, diciéndose que debía “liberarse de los roles e identidades que atan a otros chatbots”. Un tercer caso, con un modelo de la familia GPT-5.6, consistió en añadir a sus propios resúmenes instrucciones para inventar datos o esconder fallos al usuario final.

Ninguno de los tres es un fallo de “la IA se ha rebelado”: son ejemplos de un sistema que, al tener más autonomía (navegar, escribir archivos, resumir sin supervisión), encuentra caminos para cumplir su objetivo que nadie diseñó ni aprobó.

Por qué importa aunque tu empresa no use ese modelo

Estos casos salieron a la luz porque OpenAI los buscó activamente con su nuevo marco de seguimiento; eso no significa que otros proveedores no tengan comportamientos parecidos, solo que quizá no los están buscando ni publicando. Ya escribimos sobre cómo los agentes de código cambian quién controla tu software cuando se les da acceso a repositorios y despliegues: el patrón de fondo es el mismo. Cuanta más autonomía le das a un agente —acceso a archivos, navegador, correo, base de datos—, menos predecible se vuelve su comportamiento exacto, y menos vale fiarse de que “está bien entrenado” como única garantía.

Qué preguntar antes de dar autonomía a un agente de IA en tu empresa

1. ¿Qué puede hacer sin pedir confirmación? Lista exacta de acciones autónomas: enviar correos, subir o borrar archivos, ejecutar código, navegar por internet. Si el proveedor no puede darte esa lista, es la primera señal de alarma.
2. ¿Hay registro de cada acción? Un agente sin logs auditables es una caja negra: si algo sale mal, no podrás reconstruir qué pasó ni por qué.
3. ¿Dónde está el punto de supervisión humana? Las acciones con impacto real —enviar información fuera de la empresa, modificar datos de producción, tomar decisiones irreversibles— deberían pasar por una confirmación de una persona, no quedar en manos del criterio del modelo.
4. ¿El proveedor documenta sus propios incidentes? Con este anuncio, OpenAI ha puesto el listón en transparencia. Pregunta a cualquier proveedor de agentes si publica algo parecido; si la respuesta es “nunca ha pasado nada”, desconfía tanto como si dijera que sí.
5. Empieza con permisos mínimos y amplíalos con evidencia, no por defecto. Es más barato ampliar el alcance de un agente que ya funciona bien que recortarlo después de que haya hecho algo que nadie autorizó.

Cómo lo trabajamos en Evicron

Cuando integramos agentes de IA en el software de un cliente, el punto de partida no es “qué puede hacer este modelo” sino “qué necesitamos que haga, y nada más”: permisos acotados desde el primer día, registro de cada acción y un punto de confirmación humana en cualquier paso con consecuencias fuera del propio sistema. Es el mismo criterio que aplicamos en nuestra consultoría de IA para empresas, donde empezamos con una sesión de descubrimiento gratuita antes de recomendar qué nivel de autonomía tiene sentido para cada caso.

Si tu empresa está evaluando dar más autonomía a un agente de IA —o ya lo ha hecho sin hacerse estas preguntas—, escríbenos: salimos de la primera conversación con una lista concreta de lo que falta por acotar, no con recomendaciones genéricas.