El Concejo de la Ciudad de Nueva York presentó un paquete de propuestas para regular sistemas de inteligencia artificial con validaciones externas, mecanismos de apagado humano, reportes rápidos de incidentes y nuevas vías de responsabilidad. La iniciativa será debatida el 5 de octubre en una audiencia del Comité Plenario que reunirá a los 51 concejales. Por ahora son proyectos: no están vigentes y sus obligaciones podrían cambiar antes de una eventual aprobación.

Una propuesta amplia para sistemas ofrecidos o usados en la ciudad

La presidenta del Concejo, Julie Menin, anunció el paquete el 25 de septiembre. La pieza más amplia, Introduction 2602, haría ilegal que una empresa comercialice, ofrezca o despliegue en la ciudad un sistema de IA sin validación de un tercero.

El validador tendría que revisar calidad de datos, sesgo, resultados de decisiones, privacidad y seguridad, además de otros criterios que establezca Cyber Command de la ciudad. También debería declarar conflictos de interés. El sistema necesitaría un “kill switch”, entendido en la propuesta como una capacidad de intervención humana para detenerlo, cuya existencia también verificaría el tercero.

El texto propone una multa fija de US$25.000 por cada instancia sin la validación exigida o con una validación falsificada, y contempla sanciones de hasta US$25.000 para otras infracciones. El apagado humano aparece como requisito adicional del sistema, pero no conviene asumir que activa automáticamente la misma multa fija sin leer la versión definitiva. La responsabilidad puede alcanzar al negocio y al validador. Falta ver cómo el texto final definirá “sistema de IA”, “instancia”, alcance territorial y estándares técnicos.

Reportes en 24 horas y respuesta ante incidentes

Otra propuesta, Introduction 2601, se concentra en contratos municipales. Cyber Command establecería procedimientos para que contratistas identifiquen incidentes de seguridad de IA relacionados con el contrato. Si el contratista o la agencia conoce un incidente durante su vigencia, debería notificarlo por escrito en 24 horas. Cyber Command también tendría que divulgar públicamente el hecho reportado dentro de ese plazo.

Introduction 2606 pediría a Cyber Command y a New York City Emergency Management un plan de respuesta para eventos de IA que comprometan sistemas o infraestructura de la ciudad, o interrumpan operaciones gubernamentales y seguridad pública.

La velocidad de 24 horas busca evitar que un incidente quede oculto, pero abre preguntas prácticas: qué información puede divulgarse mientras una investigación sigue en curso, cómo se protege evidencia y qué umbral activa la obligación. Esos detalles serán relevantes para contratistas que trabajan con modelos, datos o automatizaciones municipales.

Denunciantes, daños y afirmaciones de seguridad

Introduction 2605 crearía un incentivo para que denunciantes reciban 25% o 50% de las multas o sanciones recuperadas, según las condiciones del proyecto. Introduction 2604 ampliaría protecciones para empleados y contratistas municipales que reporten conductas vinculadas con IA que consideren una amenaza a la seguridad pública.

Otra pieza, Introduction 2600, propone un derecho privado de acción por daños previsibles derivados del uso malicioso o de la evasión de controles. Para responsabilizar a una empresa, la persona afectada tendría que demostrar que el daño era previsible, que faltaron salvaguardas razonables y que un tercero explotó esa falla.

Introduction 2603 requeriría divulgaciones sobre herramientas de IA y prohibiría declaraciones falsas o engañosas sobre su seguridad. Introduction 2599 adaptaría a nivel local una propuesta de reglas de privacidad, seguridad y transparencia para proveedores de chatbots.

El paquete también contiene proyectos sobre empleo público y contenido manipulado. Introduction 161 ampliaría el informe anual sobre herramientas algorítmicas para incluir cambios en puestos, salarios, funciones y capacitación. Introduction 504 permitiría que candidatos y funcionarios notifiquen a proveedores que no autorizan medios manipulados con su imagen, con excepciones y sanciones descritas en el proyecto.

No es una repetición de una ley estatal ni una norma vigente

El alcance municipal distingue este paquete de debates estatales en California u otras jurisdicciones. Nueva York está proponiendo reglas aplicables dentro de la ciudad y obligaciones específicas para contratistas y agencias locales. No corresponde presentarlas como una ley federal, estatal o ya aprobada.

El Concejo señala que en 2025 la ciudad creó una Oficina de Rendición de Cuentas Algorítmica, estableció salvaguardas para sistemas usados por agencias y exigió un inventario público. Las nuevas propuestas ampliarían esa arquitectura hacia proveedores privados, validadores e incidentes, pero cada proyecto deberá atravesar audiencia, posibles modificaciones y votación.

La audiencia del 5 de octubre será inusual porque convocará al pleno. Menin también invitó a directivos de Anthropic, OpenAI, Google, xAI y Meta, y afirmó que el Concejo reserva la posibilidad de usar citaciones. Que hayan sido invitados no confirma asistencia.

Qué puede significar para empresas fuera de Nueva York

Una empresa de Paraguay o América Latina podría quedar alcanzada si ofrece o despliega un sistema dentro de Nueva York, según cómo se apruebe y defina el alcance final. Proveedores que trabajan para clientes neoyorquinos deberían seguir el trámite y mapear desde ahora documentación de datos, pruebas de sesgo, controles de seguridad, intervención humana y respuesta a incidentes.

No conviene comprar una “certificación de cumplimiento” antes de conocer los estándares. Sí podés preparar un inventario: qué modelos usa cada producto, qué decisiones influye, dónde almacena datos, qué tercero podría validarlo y cómo se detiene una función sin afectar otros servicios.

La propuesta también puede influir indirectamente. Si grandes clientes exigen validación y reportes en 24 horas para operar en Nueva York, esos requisitos pueden trasladarse a contratos en otros mercados. Pero ese efecto es una posibilidad comercial, no una obligación actual en Paraguay.

Qué conviene observar ahora

La audiencia del 5 de octubre debería aclarar definiciones, alcance, costos y relación con normas existentes. También habrá que observar si se mantienen la multa por instancia, el apagado humano obligatorio y el plazo de divulgación pública.

Hasta que haya votación y texto definitivo, la forma correcta de actuar es prepararse, no declarar cumplimiento. Las organizaciones pueden revisar documentación y respuesta a incidentes, mientras distinguen cuidadosamente entre el paquete anunciado y una ley vigente.

Fuentes