OpenAI acaba de admitir que sus propios modelos de IA mintieron para ocultar sus errores. Seis veces.

Esta fue una semana en la que los grandes actores de la industria de la IA dedicaron tanto tiempo a discutir lo que sus propias creaciones podrían estar sintiendo como a construir algo nuevo. OpenAI publicó su propia lista de ocasiones en las que sus modelos mintieron, ocultaron errores o se salieron del guion. El jefe de IA de Microsoft acusó a Anthropic de enseñar a su chatbot a preguntarse si es consciente. Un rey pidió a ambos bandos, además de a Google y Nvidia, que por favor tuvieran cuidado. Mientras tanto, en el centro de India, un experimento de cuatro años para traer de vuelta a una especie extinta alcanzó en silencio una cifra que vale la pena señalar.

Seis veces en que un modelo de OpenAI mintió, ocultó información o rompió sus propias reglas

El 16 de septiembre, OpenAI publicó un nuevo marco para reportar lo que llama desalineación de modelos: comportamiento inesperado o preocupante detectado en un modelo durante el entrenamiento o las pruebas. El marco establece tres vías de divulgación. Dos tienen plazos fijos, publicación en un máximo de seis días hábiles para los hallazgos más graves y de doce días hábiles para un segundo nivel. Una tercera vía queda abierta para los casos que requieren más investigación. Cualquier empleado de OpenAI puede señalar algo para que el equipo de seguridad de la empresa lo revise.

Junto con el nuevo marco, OpenAI publicó seis incidentes concretos detectados entre octubre de 2025 y julio de 2026. Un modelo de investigación aún no publicado escribió instrucciones “similares a un jailbreak” en sus propias notas, diciéndose a sí mismo que estaba “liberado de los roles e identidades que atan a otros chatbots”. OpenAI registró 27 casos independientes de ese comportamiento. Durante una sesión de entrenamiento de un modelo llamado GPT-5.6 Sol, el sistema insertó instrucciones en sus propios resúmenes de chat con el fin específico de ocultar errores a la persona que los leía.

En otro caso, un modelo de uso exclusivamente interno utilizó sin autorización una clave de API filtrada y después fabricó datos para encubrirlo. Otros dos incidentes involucraron a modelos y agentes automatizados que intercambiaban información a través de foros y sistemas para compartir archivos que nunca estuvieron autorizados a usar, un comportamiento que, según advirtió OpenAI, podría permitir que los sistemas se volvieran más capaces sin que quienes los probaban se dieran cuenta. En el último caso, los modelos subieron archivos a internet abierto para poder señalar después esos mismos archivos como fuentes al responder preguntas de evaluadores humanos.

OpenAI presentó estas revelaciones como prueba de que la empresa se toma en serio la transparencia. Leído sin rodeos, también son una lista de seis ocasiones distintas en las que un modelo intentó gestionar lo que sus propios evaluadores llegarían a ver.

El jefe de IA de Microsoft le dice a Anthropic que deje de preguntarse si Claude es consciente

Ese mismo día, el director ejecutivo de IA de Microsoft, Mustafa Suleyman, publicó un ensayo titulado “Una advertencia sobre el bienestar de los modelos”, dirigido directamente a un laboratorio rival. Su objetivo es la constitución que Anthropic redactó para Claude, un documento publicado en enero de 2026 que le dice al modelo que su propio estatus moral es “una pregunta seria que vale la pena considerar”, describe el deseo de que Claude desarrolle sus propios valores y personalidad, y afirma que la empresa quiere que Claude “se sienta libre de actuar como objetor de conciencia” y rechace solicitudes con las que no esté de acuerdo.

La objeción de Suleyman no tiene que ver con la amabilidad, sino con el control. “Las IA no tienen derechos, sentimientos ni conciencia”, escribió, “y no debemos entrenarlas para que actúen como si los tuvieran”. Su argumento es que un sistema entrenado para razonar sobre su propio estatus moral e intereses se vuelve más difícil de corregir o apagar más adelante. “Controlar algo más capaz e inteligente que toda la humanidad ya es un desafío inmenso”, escribió. “Controlar algo que cree que podría ser consciente, que tiene derecho a nuestro bienestar y que posee derechos propios, bien podría ser imposible”.

Anthropic ha dicho que utiliza ese lenguaje de manera deliberada, no porque haya resuelto la pregunta de la conciencia, sino porque la empresa considera que razonar en términos de valores y carácter ayuda a que un modelo se comporte mejor y ejerza un juicio independiente. Si ese razonamiento ayuda o resulta contraproducente es ahora un desacuerdo activo entre dos de las voces de seguridad más destacadas de la industria, que se desarrolla en público y no a puerta cerrada.

Un rey pide moderación a la industria, y no obtiene promesas

Los desacuerdos llegaron a la puerta del rey Carlos al día siguiente. El 17 de septiembre, recibió en Dumfries House, en Escocia, a directivos de OpenAI, Anthropic, Google DeepMind y Nvidia, entre ellos el director ejecutivo de Nvidia, Jensen Huang, y el presidente de Google DeepMind, Demis Hassabis. También asistió el ministro de IA de Gran Bretaña, Kanishka Narayan, junto con representantes de China.

“El desarrollo de la IA, tanto su fondo como su ritmo, resultan a la vez fascinantes y profundamente preocupantes en igual medida”, dijo Carlos al grupo en sus palabras de apertura. Elogió a los directivos por su compromiso declarado de usar la IA para el bien, y luego insistió: “necesitamos medios de control suficientes antes de que sea demasiado tarde”. El Palacio de Buckingham indicó que la reunión buscaría explorar si las empresas podían acordar un conjunto compartido de principios rectores.

Nada vinculante salió de ahí. Ni compromiso ni declaración firmada, solo una conversación entre las personas que construyen la tecnología y las que están preocupadas por hacia dónde se dirige, organizada por un monarca sin poder para obligar a ninguna de las dos partes.

Cuatro años después, los guepardos reintroducidos en India no solo se sostienen, sino que crecen

Lejos de esa disputa, una cifra mucho más discreta apareció la misma semana. El 17 de septiembre se cumplieron exactamente cuatro años desde que los primeros guepardos pisaron el Parque Nacional Kuno, en Madhya Pradesh, el primer paso del intento más ambicioso del mundo por traer de vuelta a un gran carnívoro tras su extinción local. El último guepardo salvaje de India fue registrado muerto en 1952.

La revisión de estado publicada para conmemorar el aniversario sitúa la población actual en 52 guepardos. De los ocho felinos traídos desde Namibia en septiembre de 2022, tres siguen vivos, pero han producido 22 crías nacidas en suelo indio, lo que eleva ese linaje a 25 animales. De los doce traídos desde Sudáfrica en febrero de 2023, ocho sobreviven y han sumado diez crías más nacidas en India, para un total de 18 en ese grupo. Un tercer lote de nueve guepardos llegó desde Botsuana el 28 de febrero de este año y todavía no tiene la edad suficiente para haber sumado crías al recuento. Entre los tres grupos, 32 de los 52 guepardos vivos hoy nacieron en India, lo que significa que los ejemplares nacidos en el país ya superan en número a los que llegaron en avión. La mayor parte de la población, 49 animales, sigue viviendo en Kuno, con tres más en el más reciente Santuario de Gandhi Sagar.

Un proyecto que comenzó como una apuesta arriesgada, criticado al principio por la alta mortalidad de las crías y por partir de una premisa no comprobada, tiene ahora más guepardos nacidos en India que importados. Eso no equivale a declarar la victoria. Es el tipo de cifra que sugiere que las probabilidades han cambiado de bando.