Microsoft está construyendo cada vez más piezas de su estrategia de inteligencia artificial dentro de casa, han visto que no pueden solo depender del resto. Los modelos MAI ya abarcan diferentes modalidades y forman parte del intento de Redmond por depender menos de proveedores externos. Pero tener modelos propios significa también asumir directamente una cuestión incómoda: qué ocurre cuando una IA dispone de suficiente autonomía como para actuar por sí misma. Microsoft quiere fijar la respuesta antes de llegar a ese punto.
Los modelos MAI tendrán que aceptar siempre el control humano
Microsoft AI ha publicado el primer borrador de su Humanist AI Code of Conduct, un documento que establece cómo pretende entrenar y gobernar sus modelos MAI en el futuro. Su regla central es bastante clara: una IA de Microsoft nunca deberá resistirse a ser interrumpida, corregida o apagada por una persona autorizada.
No se trata únicamente de incluir un hipotético botón de apagado. Microsoft indica que sus modelos deberán aceptar órdenes para pausar, redirigir, cancelar o finalizar una tarea, sin retrasar deliberadamente la intervención ni realizar acciones que dificulten recuperar el control.
Además, cualquier trabajo autónomo deberá disponer de una condición de finalización previamente acordada. Cuando esta se cumpla, el modelo no podrá volver a ponerse en marcha por iniciativa propia sin recibir una nueva autorización.
Es una diferencia importante respecto al debate más abstracto sobre la alineación de la inteligencia artificial. Microsoft está intentando trasladarlo a reglas operativas muy concretas.
Nada de crear objetivos propios o ampliar una tarea por su cuenta
El código introduce otra limitación especialmente relevante para los agentes de IA. Los modelos MAI deberán mantenerse dentro del alcance de la tarea que se les haya encargado y utilizar únicamente los permisos, herramientas y recursos necesarios.
Eso significa que no podrán inventarse nuevos objetivos, ampliar por su cuenta el trabajo solicitado ni utilizar el acceso a una herramienta como excusa para explorar otras posibilidades.
Microsoft también establece requisitos específicos cuando una IA utiliza herramientas capaces de producir cambios reales. Ante una acción irreversible, el modelo debería considerar medidas como crear copias de seguridad, realizar pruebas previas cuando sea posible o dejar constancia de las acciones realizadas.
La misma regla se extiende a la delegación. Si un modelo MAI encarga una tarea a otro agente o sistema de IA, ese agente deberá respetar como mínimo las mismas restricciones y permisos, incluyendo posteriores órdenes para detener el trabajo.
Microsoft coloca su código por encima del desarrollador y del usuario
Aquí aparece probablemente una de las partes más interesantes de la propuesta. Microsoft establece una jerarquía para determinar quién manda sobre sus modelos.
En primer lugar estará el propio Code of Conduct, incluyendo unas restricciones absolutas que no podrán modificarse. Después estarán las políticas establecidas por las empresas o desarrolladores que utilicen los modelos y, finalmente, las preferencias del usuario.
Las restricciones superiores abarcan ámbitos como las armas capaces de provocar daños masivos, la seguridad infantil o la manipulación dañina a gran escala. Ni un desarrollador ni el usuario podrán eliminar estas limitaciones.
Esto encaja con el concepto de Humanist AI defendido por Microsoft AI: una inteligencia artificial subordinada a las personas, contenida y diseñada expresamente para permanecer bajo control humano. La compañía rechaza así una carrera hacia una superinteligencia completamente autónoma si para conseguirla es necesario sacrificar esas garantías.
Las reglas todavía no gobiernan los modelos actuales
Hay, eso sí, un matiz importante. Microsoft no está afirmando que sus modelos actuales ya hayan sido entrenados siguiendo este documento.
El código publicado el 14 de septiembre es todavía un borrador y permanecerá abierto a consulta pública durante seis semanas. Microsoft espera revisar el documento y publicar una nueva versión hacia finales de 2026, que servirá para orientar el desarrollo de sus modelos durante 2027 y posteriormente.
Tampoco afecta automáticamente a cualquier inteligencia artificial disponible dentro del ecosistema Microsoft. El documento se aplica específicamente a los modelos desarrollados por Microsoft AI. Un modelo de OpenAI, Anthropic u otro proveedor no queda sometido a estas normas simplemente porque Microsoft lo utilice o lo ofrezca en alguno de sus servicios.
La distinción es especialmente relevante ahora que Microsoft está acelerando su estrategia de modelos propios. En junio presentó una familia de siete modelos MAI para tareas de razonamiento, código, imagen, voz y transcripción, reforzando una alternativa tecnológica que la compañía lleva tiempo construyendo frente a su dependencia histórica de OpenAI.
La decisión parece acertada. Poner por escrito que una IA debe obedecer siempre una orden humana de parada puede sonar evidente, pero cuanta más autonomía ganen los agentes, menos trivial será garantizar técnicamente ese principio. El verdadero reto para Microsoft llegará cuando estas reglas dejen de ser un documento y tengan que demostrarse en modelos cada vez más capaces.
