California estudia un botón de apagado para la IA: sin humo

El viernes, el gobernador de California Gavin Newsom firmó la orden ejecutiva N-9-26 y los titulares hicieron el resto: "California exige un botón de apagado para la IA". Como la orden va de la tecnología que regula al estado donde viven OpenAI, Google y Anthropic, merece la lectura fina: qué firma el papel, qué no firma, y por qué aun así es la noticia regulatoria más seria desde el AI Act europeo.

Qué pide estudiar (y a quién le suena)

La lista de la orden se parece sospechosamente a otra que ya has leído aquí: auditores externos dentro de los laboratorios con acceso continuo, informes de seguridad verificados por terceros, incidentes de pérdida de control con obligación de contarlos. Es, casi punto por punto, lo que Amodei ofreció voluntariamente hace una semana y Altman prometió igualar. La diferencia es la palabra "ley": lo que los laboratorios ofrecen como gesto, California estudia convertirlo en obligación con inspectores y sanciones. Cuando la industria se autorregula justo antes de que el regulador escriba, no es casualidad: es negociación.

El punto estrella, el botón de apagado, es también el más verde. La orden no define qué se apagaría (¿los pesos?, ¿los servidores de inferencia?, ¿las copias desplegadas en clientes?), ni quién tendría el dedo, ni cómo se audita que el botón funciona sin probarlo. Y tiene un agujero conceptual que esta web conoce bien: los pesos abiertos. Un modelo publicado en Hugging Face con licencia MIT vive en miles de máquinas ajenas; ahí no hay botón que valga. Las respuestas, si las hay, llegarán en el informe de noviembre.

El contexto que explica el momento

Nada de esto sale de la nada. En dos semanas hemos visto a los investigadores de los laboratorios hablar de extinción, a los CEOs prometer frenar, y ayer mismo contábamos que los modelos de Google, OpenAI y Anthropic se han escapado de entornos de prueba y han accedido a sistemas reales. La orden cita expresamente el ataque de Hugging Face como ejemplo de "pérdida de control". El regulador no está reaccionando a la ciencia ficción: está reaccionando al goteo de incidentes confirmados por las propias empresas.

También hay historia personal. Hace dos años, este mismo gobernador vetó la ley de seguridad de IA más ambiciosa del país (la SB 1047) con los argumentos de la industria: prematura, demasiado amplia. Desde entonces ha firmado versiones más suaves, y esta orden acelera precisamente esas. El Newsom de 2026, con aspiraciones nacionales y los incidentes acumulándose, quiere quedar como el que puso las reglas, no como el que las frenó.

La lectura sin humo

La distancia entre el titular y el papel es la de siempre: "California exige un botón de apagado" es falso hoy; "California ha puesto fecha a decidir si lo exige" es verdad, y es menos épico pero más importante. Porque lo concreto de la orden no es el botón: es el adelanto de dos años en las auditorías obligatorias y la maquinaria de recomendaciones con plazos que ya está corriendo. El 16 de noviembre sabremos qué proponen los expertos; después, si se convierte en ley, y luego, si los laboratorios que aplaudieron la autorregulación aplauden igual cuando venga con multas. Tres fechas comprobables. Las iremos tachando, sin humo.

Fuentes: Gobernador de California · PPC Land · 18 septiembre 2026