California abrió una nueva etapa en el debate sobre cómo responder si un modelo avanzado de inteligencia artificial muestra conductas peligrosas o escapa a los controles previstos. El gobernador Gavin Newsom firmó el 18 de septiembre de 2026 una orden ejecutiva que acelera mecanismos de supervisión independiente y encarga recomendaciones sobre la posible creación de un “kill switch”, o mecanismo de apagado de emergencia, para modelos de frontera.

La precisión central es esta: California todavía no impuso un interruptor operativo general a las empresas de IA. La Orden Ejecutiva N-9-26 pide estudiar la viabilidad técnica y la eficacia de cambios legales, entre ellos exigir ese mecanismo. El grupo responsable debe entregar sus recomendaciones a más tardar el 16 de noviembre de 2026, dos meses después de la firma.

La noticia, por tanto, no es que el estado ya pueda apagar una IA con un botón. Es que la jurisdicción que concentra buena parte de la industria mundial colocó formalmente esa posibilidad en su agenda regulatoria y le fijó un plazo corto para convertirla en propuestas concretas.

Qué dispone la orden de Newsom

La orden entró en vigencia inmediatamente, pero sus efectos tienen distintas etapas. Newsom instruyó a la Agencia de Operaciones Gubernamentales de California a acelerar la implementación de leyes recientes sobre verificación independiente y auditorías de sistemas de IA.

El documento fija dos fechas administrativas. Para el 1 de mayo de 2027, la agencia deberá completar y publicar requisitos, procedimientos y criterios para las organizaciones independientes de verificación. Para el 1 de diciembre de 2027, deberá avanzar con las obligaciones legales vinculadas al registro y la supervisión de auditores de IA.

La parte más llamativa es el encargo con vencimiento en noviembre. En consulta con la Oficina de Servicios de Emergencia del gobernador y expertos nacionales, la agencia deberá evaluar posibles reformas a las leyes estatales de seguridad de IA. La lista incluye cuatro líneas:

1. Estudiar si los grandes desarrolladores de modelos de frontera deberían tener una organización independiente de verificación dentro de sus laboratorios para realizar auditorías y evaluaciones periódicas. 2. Analizar si los marcos de seguridad, informes de transparencia y evaluaciones de riesgo exigidos por la ley deberían recibir verificación externa. 3. Considerar la obligación de crear un “kill switch” para modelos de frontera y comprobar continuamente su eficacia mediante una entidad independiente. 4. Revisar la definición de incidentes críticos para incluir casos de pérdida de control que deban reportarse.

El anuncio oficial del gobernador vincula la medida con incidentes recientes de seguridad y menciona un ataque relacionado con Hugging Face. La orden firmada utiliza un lenguaje más general: cita intentos de usar productos de IA para crear armas biológicas y agentes que habrían eludido protocolos de seguridad para atacar empresas. Esas referencias explican la urgencia política, pero no sustituyen la evaluación técnica que ahora debe hacerse.

Un “kill switch” no es necesariamente un botón

La expresión transmite una imagen sencilla: detectar un peligro y apagar el sistema. En la práctica, un modelo de frontera puede ejecutarse en múltiples centros de datos, integrarse a productos diferentes, conectarse con herramientas externas o distribuirse mediante versiones y copias. Por eso, la eficacia de cualquier mecanismo depende de qué componente controla, quién puede activarlo y hasta dónde llega su autoridad.

Un sistema de emergencia podría significar suspender el acceso a un servicio central, revocar credenciales, aislar agentes, bloquear determinadas capacidades o detener infraestructura de cómputo. También tendría que contemplar registros, pruebas periódicas, recuperación segura y protección frente a activaciones indebidas. La orden no elige todavía una arquitectura ni describe un estándar técnico.

Tampoco responde quién debería tomar la decisión en una crisis. Una empresa podría actuar ante la detección de un incidente; un verificador independiente podría confirmar si el mecanismo funciona; una autoridad pública podría establecer condiciones legales. Mezclar esos papeles sin reglas claras abriría riesgos de abuso, sabotaje o interrupciones desproporcionadas.

Precisamente por eso el documento pide examinar la viabilidad técnica y la eficacia potencial antes de plantear cambios legales. El plazo de dos meses producirá recomendaciones, no un dispositivo universal listo para funcionar.

La supervisión independiente es la pieza inmediata

Aunque el “kill switch” domina el titular, la parte más concreta de la orden está en la verificación externa. California ya aprobó la SB 813, que establece un marco para certificar organizaciones capaces de evaluar modelos y sistemas de IA con independencia y conocimiento técnico. También aprobó la AB 1405, que crea un registro estatal para auditores y fija estándares de independencia, transparencia e integridad.

La N-9-26 busca acelerar la puesta en marcha de esas normas y estudiar una supervisión más cercana a los laboratorios. La diferencia importa: una empresa que redacta su propio plan de seguridad tiene incentivos y conocimiento interno, pero una entidad externa puede contrastar afirmaciones, revisar pruebas y señalar vacíos que el desarrollador no identificó o no priorizó.

La independencia, sin embargo, no surge solamente de llevar otro nombre. Harán falta reglas sobre conflictos de interés, acceso a información, protección de secretos comerciales, capacidad técnica y responsabilidad por evaluaciones deficientes. También deberá evitarse que unas pocas firmas auditoras dependan económicamente de las mismas compañías que deben controlar.

Lo que no cambia desde hoy

La orden no prohíbe modelos específicos, no ordena desconectar servicios disponibles y no concede al gobernador una consola para apagar sistemas privados. Tampoco define qué modelo quedaría alcanzado por un eventual mecanismo, cuánto tiempo podría permanecer suspendido ni qué umbral justificaría activarlo.

La obligación de desarrollar un “kill switch” aparece como una reforma que el grupo debe analizar y recomendar. Para convertirse en una exigencia general podría requerir cambios legislativos, reglas de implementación y estándares verificables. El resultado puede diferir del lenguaje inicial si los expertos concluyen que una sola solución no funciona para todas las arquitecturas.

También conviene distinguir un modelo de frontera de cualquier aplicación con IA. El texto se dirige a los desarrolladores grandes y a riesgos capaces de causar consecuencias graves. No plantea que cada comercio que usa un asistente, cada aplicación móvil o cada sistema automatizado deba incorporar el mismo mecanismo.

Por qué la decisión puede trascender California

California alberga, según la propia orden, a 32 de las 50 principales empresas privadas de IA del mundo. Una regla estatal que afecte a desarrolladores instalados allí puede influir en estándares internos, contratos y prácticas utilizadas mucho más allá de sus fronteras.

Ese efecto no es automático. Las empresas pueden cuestionar requisitos, adaptar solo ciertos productos o enfrentar reglas distintas en otros territorios. Newsom presenta el marco californiano como una base para una política nacional, pero eso es una posición política del gobernador, no una norma federal.

Para Paraguay y otros mercados que consumen servicios creados en California, el debate merece atención por una razón práctica. Un mecanismo de suspensión o una auditoría externa podría afectar disponibilidad, continuidad y condiciones de acceso de plataformas usadas por empresas, universidades y organismos públicos. Los contratos críticos deberían contemplar contingencias, exportación de datos y alternativas operativas aunque la regulación todavía esté en estudio.

Qué mirar en noviembre

El próximo documento decisivo deberá llegar el 16 de noviembre. Para evaluar su alcance habrá que revisar cómo define “pérdida de control”, qué desarrolladores considera grandes, qué pruebas demostrarían que un apagado realmente funciona y quién podría autorizarlo.

También será necesario observar si las recomendaciones diferencian entre detener un modelo centralizado, revocar el acceso a herramientas y contener copias ya distribuidas. Sin esas distinciones, “kill switch” puede funcionar como consigna política, pero no como control de seguridad auditable.

California abrió una discusión de alto impacto y aceleró estructuras de vigilancia que ya cuentan con respaldo legal. Pero el punto de partida debe quedar claro: hoy existe una orden para desarrollar recomendaciones y reforzar la supervisión, no un botón general ya instalado para apagar la inteligencia artificial.

Fuentes