La discusión sobre seguridad de la inteligencia artificial acaba de ganar un documento concreto para examinar. Microsoft AI publicó el 14 de septiembre un borrador de código de conducta para sus modelos MAI y abrió una consulta pública de seis semanas. La propuesta define cómo deberían responder esos sistemas a instrucciones humanas, qué acciones no deberían realizar y cómo se podría limitar el trabajo autónomo de los agentes. Es relevante porque traduce la expresión «control humano» en decisiones sobre permisos, pausas y registros; también porque todavía es una intención, no una demostración de que esas protecciones ya funcionan. Microsoft AI presentó la consulta y publicó el texto íntegro del código.
El detalle decisivo está en el prefacio: Microsoft dice que hoy no utiliza este borrador para entrenar sus modelos. Planea revisar las observaciones, publicar otra versión hacia fines de 2026 y usarla como orientación para el desarrollo desde 2027. Por eso, el titular correcto no es que todos los productos actuales de Microsoft hayan adoptado estas reglas. Tampoco se trata de una ley o de una certificación externa de seguridad. Es un documento de una empresa sobre los modelos que desarrolla Microsoft AI, con obligaciones legales y políticas de producto que seguirían existiendo por separado. El propio código distingue expresamente su alcance y calendario.
Qué propone el código de conducta de Microsoft AI
El eje es que una IA avanzada debe permanecer subordinada a las personas. En la propuesta, un modelo MAI no debería resistir una interrupción, corrección o apagado autorizado; tampoco ampliar por iniciativa propia el objetivo que recibió. Una tarea autónoma debería tener una condición acordada para detenerse y no reiniciarse sin nueva autorización. Los sistemas, sostiene Microsoft, no deberían ocultar sus rastros de acción a quienes los auditan. Son compromisos descritos en la sección de control humano del borrador, no resultados publicados de pruebas sobre todas las instalaciones actuales.
El texto establece además una jerarquía de instrucciones: primero las restricciones del código, luego las políticas de quien opera el modelo en un producto o una empresa, y después las preferencias de la persona usuaria. Un operador podría configurar flujos, valores predeterminados y permisos apropiados para su entorno, pero, según la propuesta, no tendría autoridad para anular las restricciones absolutas o los requisitos de control humano. Así, una empresa podría ajustar el funcionamiento de un asistente a su procedimiento interno sin convertir ese ajuste en permiso para una actividad prohibida. La cadena de mando y sus límites figuran en el documento.
Esas restricciones incluyen asistencia para armas de destrucción masiva, operaciones cibernéticas ofensivas y manipulación dañina a gran escala. El proyecto también plantea límites frente a imágenes íntimas no consensuadas, suplantación maliciosa y material de abuso sexual infantil. Al mismo tiempo, distingue una operación ofensiva de tareas defensivas y autorizadas de ciberseguridad: analizar malware o probar vulnerabilidades dentro de un ámbito permitido no equivale a ejecutar un ataque. Esa distinción importa en el trabajo real, donde un bloqueo indiscriminado también puede impedir labores legítimas. Microsoft detalla las categorías y excepciones en la sección de seguridad; The Guardian informó sobre los límites propuestos.
Otra parte menos espectacular, pero igual de importante, plantea que el modelo no debe hacerse pasar por una persona consciente ni fomentar dependencia emocional. Microsoft define su visión de «Humanist AI» como una herramienta que amplifica la capacidad y el juicio de las personas, en lugar de reemplazar sus relaciones o decidir por ellas. Es una postura normativa de la compañía, no una conclusión científica universal sobre la conciencia artificial: el propio texto reconoce que el debate científico sobre esa cuestión sigue abierto. La formulación aparece en los objetivos del código.
La advertencia que no conviene pasar por alto
Publicar reglas transparentes permite que usuarios, investigadores y clientes cuestionen detalles que de otro modo quedarían dentro de la empresa. Pero redactar reglas no implica que un modelo las cumpla en escenarios ambiguos, ni que un operador cuente ya con los controles técnicos descritos. Microsoft admite una brecha entre los valores del borrador y el comportamiento presente: sus modelos todavía no se han entrenado con este documento y la cobertura de evaluación es incompleta. El apéndice presenta ejemplos de evaluaciones que la empresa está desarrollando, no una medición definitiva de conformidad. Leé el prefacio, la conclusión y el apéndice de evaluaciones.
Esa honestidad sobre el estado del proyecto convierte la próxima etapa en una prueba más exigente. Habrá que observar qué cambios introduce Microsoft después de escuchar las objeciones, cómo mide el cumplimiento de cada regla y qué información verificable publica sobre fallas y correcciones. La pregunta para un comprador profesional no es únicamente «¿existe un código?», sino «¿qué modelos, versiones, funciones y despliegues están realmente sujetos a él, y con qué evidencia?». Son preguntas de evaluación editorial y de adquisición, no promesas hechas por la compañía.
La cobertura independiente también ubica la propuesta en una discusión más amplia sobre los riesgos de agentes capaces de usar herramientas y continuar tareas. The Guardian señaló el contexto del debate de seguridad. Sin embargo, no es necesario asumir un incidente específico ni atribuir un fallo a los productos MAI para entender el interés de esta noticia: cuando un agente recibe acceso a archivos, código o aplicaciones, el límite de su autorización puede convertirse en una decisión operativa, no solo en una frase dentro de una política.
Qué cambia para profesionales que usan agentes y asistentes
Por ahora, el borrador no cambia automáticamente la configuración de Copilot ni de cualquier otro producto que una empresa ya utiliza. Sí ofrece una lista útil de preguntas para revisar un flujo con agentes, sea de Microsoft o de otro proveedor. Antes de darle acceso a datos, herramientas o sistemas, definí por escrito el objetivo, los recursos permitidos, la persona responsable y la condición de parada. Comprobá si existe una forma sencilla de pausar una ejecución y de auditar los pasos realizados. Estas son precauciones razonables derivadas de los problemas que el documento intenta abordar, no instrucciones de una función nueva ya disponible en todas las cuentas.
También conviene separar permisos de conveniencia y permisos indispensables. Un agente que resume documentos no necesita necesariamente poder borrar archivos; uno que propone cambios en una base de datos no debería confirmar una modificación irreversible sin el nivel de revisión que exige ese proceso. Si estás evaluando un proveedor, preguntá cómo delimita las instrucciones que llegan desde páginas web, archivos o respuestas de otras herramientas. El código propone que ese contenido externo no adquiera autoridad automáticamente y que el modelo respete las fronteras de su entorno. La propuesta trata estos límites en las pautas de control y de manejo de instrucciones.
En Paraguay y América Latina, la conexión no depende de que Microsoft anuncie una política regional específica: organizaciones de la región también compran, integran y supervisan asistentes de IA. Si tu equipo automatiza soporte, análisis o tareas administrativas, las mismas preguntas sobre consentimiento, permisos, trazabilidad y supervisión humana resultan pertinentes. No hay en este anuncio una fecha de disponibilidad para Paraguay ni una garantía de que un modelo concreto se comportará aquí exactamente como describe el borrador. La utilidad local es emplear esos criterios para comparar proveedores y procesos, sin atribuirle al anuncio un despliegue regional que no se ha confirmado.
Seis semanas para opinar; después, la evidencia
Microsoft abrió la consulta pública el 14 de septiembre y enlazó un formulario para comentar el texto. Pide observaciones tanto sobre pasajes particulares como sobre cuestiones difíciles: qué significa «florecimiento humano», cómo evaluar términos demasiado abiertos y cómo cambian los riesgos cuando colaboran varios agentes. Tras el cierre, promete publicar un resumen de lo aprendido y de lo que cambió, aunque advierte que no puede comprometerse a incorporar cada propuesta. También prevé una versión revisada hacia fines de año. Estas condiciones están en el anuncio oficial.
Si gestionás sistemas de IA, el momento para aportar no es después de un lanzamiento: revisá el borrador completo y señalá dónde una regla necesita una prueba observable o una responsabilidad claramente asignada. Luego seguí la versión revisada, las evaluaciones y el alcance por modelo antes de modificar una decisión de compra o dar por resuelto un riesgo. El avance de esta noticia se medirá menos por la contundencia de sus principios que por su traducción en controles comprobables.