Microsoft escribió sus reglas de seguridad de IA con una línea innegociable: si no se puede apagar, no sale a producción

Esta semana surgieron tres historias distintas sobre inteligencia artificial, y no coinciden en qué es lo que la tecnología necesita más en este momento. Microsoft dice que necesita una correa. Samsung dice que necesita un chip más barato. Un laboratorio de Shanghái, a juzgar por sus actos, considera que no necesita presentación alguna. Mientras tanto, en Nueva Delhi, un país que importa nueve de cada diez chips que utiliza dedicó el miércoles a intentar cambiar esa cuenta.

La regla de Microsoft para la IA: si no se puede apagar, no se puede lanzar

El lunes, la división de IA de Microsoft publicó el primer borrador de un documento al que llama el Código de Conducta para una IA Humanista, un manual de 37 páginas sobre cómo deben comportarse los futuros modelos de la empresa. Mustafa Suleyman, quien dirige Microsoft AI, lo calificó como “una especie de constitución” para lo que la empresa construirá a continuación.

La idea central cabe en pocas palabras, las mismas que usó Suleyman: las personas importan más que la IA. A partir de ahí, el documento enumera un breve conjunto de cosas que un modelo nunca debe hacer, entre ellas ayudar a construir armas capaces de causar daño masivo, amenazar la seguridad infantil o manipular a las personas a gran escala. Pero la línea que más atención está recibiendo es la más sencilla de todas. Todo modelo debe seguir siendo interrumpible, corregible y capaz de ser apagado. “Si no lo es, no lo lanzamos”, establece el código.

Suleyman planteó por primera vez la idea de una “superinteligencia humanista” en noviembre de 2025: la noción de que los sistemas de IA más poderosos deberían construirse con un interruptor de apagado desde el primer día, en lugar de añadírselo después de que algo salga mal. Este borrador abre esa idea a la objeción pública. Microsoft está llevando adelante un período de comentarios de seis semanas antes de publicar una versión revisada a fines de este año, una que está pensada para guiar de verdad cómo se construirán sus modelos hasta 2027.

Samsung invierte 230 millones de dólares en un chip que no es de Nvidia

Mientras Microsoft redactaba reglas sobre cómo debía comportarse la IA, Samsung hacía una apuesta muy distinta en la misma industria. La empresa coreana colideró una ronda Serie A de más de 200 millones de euros, unos 230 millones de dólares, en Euclyd, una startup neerlandesa, junto con Somerset Capital Partners, el Scaleup Europe Fund de EQT e Innovation Industries.

Euclyd no intenta construir una versión más rápida de los chips de Nvidia. Está construyendo algo estructuralmente distinto: una arquitectura de chip y memoria orientada a la inferencia, la etapa en la que un modelo ya entrenado responde una pregunta, y no al entrenamiento, donde el dominio de Nvidia sobre el mercado es prácticamente total. La inferencia es la única parte del negocio donde los analistas ubican la cuota de mercado de Nvidia entre el 60 y el 75 por ciento, en lugar de un dominio casi absoluto, y por eso los retadores insisten en apuntar primero ahí.

Los fundadores Bernardo Kastrup y Atul Sinha crearon la empresa en 2024 en el High Tech Campus de Eindhoven. Peter Wennink, ex director ejecutivo de ASML, asumirá la presidencia, lo cual ya es una señal en sí misma: un hombre que pasó años al frente de la empresa que fabrica las máquinas con las que se hacen los chips más avanzados ahora cree que la próxima oportunidad pasa por saltarse por completo el modelo de las GPU. Euclyd dice que planea enviar hardware físico en 2028 y atender a miles de clientes corporativos para 2030, un plazo que en tiempo de la industria de los chips cuenta como cercano, aunque no inminente.

Un modelo de 744.000 millones de parámetros apareció sin ningún anuncio

Compárese eso con lo que hizo el Laboratorio de Inteligencia Artificial de Shanghái el viernes anterior, que fue nada. El 11 de septiembre, un repositorio llamado Atria Dawn Preview simplemente apareció en GitHub y Hugging Face, atribuido al laboratorio, sin entrada de blog, sin comunicado de prensa y sin página de precios. Se trata de un modelo de 744.000 millones de parámetros construido sobre el modelo base GLM-5.2, publicado bajo una licencia abierta MIT, diseñado para trabajo agéntico: el tipo de tarea en la que un modelo debe usar herramientas, ejecutar código y recuperarse de sus propios errores a lo largo de muchos pasos, en lugar de responder una sola pregunta y detenerse.

Tres días después, el laboratorio finalmente dijo algo, al publicar un informe técnico en el servidor de preprints arXiv con más de 140 autores listados. Eso es lo más parecido a un anuncio formal que ha recibido el modelo. Sus cifras de referencia, hasta ahora, provienen enteramente de las propias pruebas del laboratorio y no de una evaluación independiente, así que qué tan bien se sostiene frente a los modelos de punta de pago de OpenAI o Anthropic sigue siendo una pregunta abierta. Lo que no está en duda es que un modelo totalmente abierto y de uso comercial de este tamaño ya puede ser descargado por cualquiera que tenga el hardware para ejecutarlo, y en el laboratorio nadie sintió la necesidad de hacer alarde de ello.

India le dice a los fabricantes de chips del mundo que dejó de ser solo un cliente

Nada de eso cambia el hecho de que la mayoría de los chips avanzados del mundo se fabrican en otro lugar, que es precisamente el problema que el primer ministro Narendra Modi dedicó el miércoles a intentar reducir. En Nueva Delhi, se reunió en una mesa redonda con directores ejecutivos de semiconductores de todo el mundo, un día antes de SEMICON India 2026, una conferencia de tres días que abre el jueves y que se espera reúna a más de 600 expositores, entre ellos 300 empresas de fuera de India.

El país todavía importa cerca del 90 por ciento de los chips que utiliza, a un costo de aproximadamente 30.000 millones de dólares al año. Pero las cifras detrás de la mesa redonda del miércoles muestran que esa brecha empieza a cerrarse. Se han aprobado doce proyectos de semiconductores en seis estados bajo el programa gubernamental Semicon India, con compromisos de inversión superiores a 1,64 lakh crore de rupias, y tres de esas plantas ya iniciaron la producción comercial. En julio, el gobierno aprobó una segunda fase del programa, llamada Semicon 2.0, con un desembolso adicional de 1,27 lakh crore de rupias destinado a desarrollar el resto de la cadena de suministro más allá de la sola fabricación.

Nada de eso convierte todavía a India en una superpotencia de los chips. La convierte en un país que pasó de hablar de fabricar chips a efectivamente enviar algunos, lo cual, para una industria tan intensiva en capital y tan lenta de construir, cuenta como progreso real y no como un simple discurso.