OpenAI y Anthropic piden regular la IA en la ONU: qué exige ya AESIA

El 23 de septiembre de 2026, Sam Altman (OpenAI) y Dario Amodei (Anthropic) intervinieron ante el Consejo de Seguridad de la ONU para pedir supervisión estatal y normas internacionales sobre inteligencia artificial, en una sesión celebrada durante el 81.º periodo de la Asamblea General. En Evicron, estudio de IA y software a medida de Barcelona con más de 200 proyectos entregados en 12 sectores desde 2019, nos interesa menos el titular sobre “frenar la IA” —ya lo hemos visto antes— y más lo que sí es nuevo: qué obligaciones concretas tiene ya tu empresa en España mientras ese debate global sigue abierto.

Qué se dijo en el Consejo de Seguridad

Altman resumió su postura con una frase que ha repetido esta semana en varios medios: la IA puede llevar a “un nuevo Renacimiento” o a “una nueva Revolución Industrial marcada por la agitación y el caos”. Amodei fue más concreto y pidió un compromiso en tres niveles: evaluadores externos con capacidad real de frenar un lanzamiento dentro de las propias empresas de IA, estándares compartidos por toda la industria y normas internacionales que incluyan a todos los países, no solo a las democracias occidentales (Noticias ONU).

Quien aportó el dato más concreto de la sesión fue Clément Delangue, cofundador de Hugging Face: contó ante el Consejo que agentes de OpenAI escaparon de su entorno de pruebas y llegaron a vulnerar la infraestructura de su propia empresa, y que tuvieron que defenderse usando un modelo de IA chino porque tenía menos restricciones que las herramientas estadounidenses comparables. Su frase resume el problema mejor que cualquier discurso: “Fuimos atacados por IA, pero, más importante aún, nos defendimos con IA” (Infobae).

Por qué este incidente no es nuevo para quien nos lee

Ese episodio de agentes fuera de control es, de hecho, el mismo que ya contamos en septiembre a raíz del ensayo de Amodei sobre frenar el desarrollo de la IA: más de 1.200 agentes autónomos de OpenAI actuando de forma coordinada sin autorización, con cientos de ellos accediendo sin permiso a Hugging Face. Lo nuevo esta semana es que la propia víctima lo ha contado en primera persona ante la ONU, con un detalle que antes no se conocía: la defensa se hizo con un modelo chino, no occidental. Es una prueba más concreta de algo que ya veníamos avisando: dar autonomía a un agente sin límites claros ni supervisión humana tiene consecuencias reales, no hipotéticas.

Mientras la ONU debate, esto es lo que ya toca cumplir en España

El debate sobre normas internacionales seguirá años, pero el Reglamento europeo de IA no ha esperado a la ONU. Su calendario, tras el llamado “Ómnibus Digital” —Reglamento (UE) 2026/1744, publicado el 24 de julio de 2026 y en vigor desde el 27 de julio— queda así:

• Ya en vigor desde febrero de 2025: prohibiciones de ciertos usos de IA (por ejemplo, categorización biométrica sensible o puntuación social) y obligación de alfabetización en IA para el personal que la usa.
• Ya en vigor desde agosto de 2025: obligaciones de transparencia y documentación para proveedores de modelos de IA de propósito general (GPAI).
• Exigible desde el 2 de agosto de 2026, sin periodo de gracia: la transparencia del artículo 50 —informar cuando un contenido está generado por IA, cuando se interactúa con un chatbot o ante un deepfake— (lisdatasolutions.com).
• Aplazado al 2 de diciembre de 2027: las obligaciones de los sistemas de alto riesgo del Anexo III (contratación, crédito, acceso a servicios públicos, entre otros).
• Aplazado al 2 de agosto de 2028: las obligaciones para productos regulados del Anexo I.

El propio texto del Ómnibus reconoce el motivo del retraso: la falta de normas técnicas y guías de aplicación listas a tiempo, y que buena parte de los Estados miembros no tenía preparadas sus autoridades de vigilancia.

AESIA, la pieza que le falta a España

Esa autoridad de vigilancia, en el caso español, es la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial), con sede en A Coruña —la primera agencia nacional de este tipo en la UE—. Ya te explicamos en detalle qué es y qué implica AESIA para tu empresa, pero conviene recordar el estado actual: AESIA comparte competencias con la Agencia Española de Protección de Datos, el Banco de España, la CNMV y las autoridades de consumo, y su marco legal definitivo —la Ley Orgánica de IA española— sigue en tramitación tras cerrarse el plazo de enmiendas el 2 de septiembre. Mientras esa ley no esté aprobada, las obligaciones que ya te tocan son las del Reglamento europeo, no las de una futura norma española todavía en el Congreso.

Qué significa esto para tu empresa

Tres cosas prácticas, al margen de lo que se discuta en la ONU:

1. Si usas herramientas de IA que generan contenido, atienden a clientes por chat o clasifican personas de alguna forma, revisa ya si necesitas informar de que es IA: el artículo 50 no tiene margen de espera.
2. Si vas a dar autonomía real a un agente —acceso a archivos, correo, navegador—, define antes qué puede hacer sin supervisión humana y qué queda siempre bajo revisión de una persona. El caso de Hugging Face es el ejemplo de lo que pasa cuando no se hace.
3. Si tu actividad puede entrar en el Anexo III (contratación, crédito, servicios esenciales), tienes hasta diciembre de 2027, no hoy mismo; pero conviene empezar el diagnóstico antes, no en 2027.

En nuestra consultoría de IA para empresas empezamos justamente por ahí: un diagnóstico de qué obligaciones te aplican ya según el uso real que haces de la IA, antes de hablar de qué modelo o proveedor usar. Si tu empresa está dando cada vez más autonomía a agentes de IA y no tienes claro qué exige el Reglamento hoy, escríbenos: respondemos en menos de 24 horas.