La inteligencia artificial continúa evolucionando a gran velocidad y, con ella, también aumentan las expectativas sobre seguridad, confiabilidad y transparencia. El avance de sistemas capaces de utilizar herramientas, acceder a datos, conservar memoria y actuar en nombre de los usuarios plantea nuevos retos para las organizaciones.
En este contexto, Microsoft presentó su Informe de Transparencia en IA Responsable 2026, en el que explica cómo está adaptando sus políticas, herramientas y procesos para responder a los cambios del ecosistema de inteligencia artificial.
La compañía señala que la capacidad de un modelo por sí sola no será suficiente para determinar el impacto de la IA. La confianza dependerá también de cómo las organizaciones desarrollen, implementen y supervisen estas tecnologías.
Una estrategia basada en tres áreas principales
El programa de IA responsable de Microsoft, desarrollado durante casi una década, se apoya en la idea de que la confianza es indispensable para aprovechar los beneficios de la inteligencia artificial y que las personas y organizaciones deben mantenerse en el centro de su desarrollo.
Durante el último año, la empresa concentró sus esfuerzos en tres áreas:
- Gobernanza adaptativa y gestión técnica de riesgos.
- Herramientas y capacidades prácticas.
- Prácticas compartidas y alianzas.
Estas líneas de trabajo buscan responder a un escenario marcado por la expansión de la IA agéntica, el crecimiento de las capacidades generativas, el uso de sistemas conversacionales, el incremento de riesgos relacionados con el fraude y la evolución de la regulación.
Gobernanza de IA adaptada a sistemas más avanzados
Uno de los principales cambios está relacionado con la forma en que Microsoft gestiona los riesgos de la inteligencia artificial.
La compañía actualizó su Estándar de IA Responsable para adaptarlo a las nuevas características técnicas, usos, riesgos y requisitos regulatorios. El nuevo enfoque considera diferentes elementos de la pila tecnológica, incluidos modelos, servicios de plataforma y aplicaciones.
El estándar combina requisitos generales con otros específicos que pueden modificarse conforme evolucionan las capacidades y los riesgos de los sistemas.
Microsoft también está prestando especial atención a los sistemas con capacidades cibernéticas importantes, aplicando medidas de gestión de riesgos más estrictas para contribuir a la protección de infraestructuras digitales críticas.
La IA agéntica cambia el enfoque de seguridad
Los sistemas agénticos introducen un desafío adicional porque pueden interactuar con herramientas, datos, aplicaciones, otros modelos y personas.
Por ello, la gestión del riesgo ya no puede concentrarse únicamente en analizar el comportamiento de un modelo aislado. Microsoft está dando mayor importancia a mecanismos como:
- Identidad de los agentes.
- Permisos para utilizar herramientas.
- Supervisión de las acciones.
- Monitorización de las interacciones entre sistemas.
La compañía también ha ampliado la formación en IA responsable para ingenieros y responsables de producto, incluyendo aspectos como el modelado de amenazas relacionadas con agentes y las defensas frente a inyección de prompts.
Herramientas para evaluar y supervisar la IA
La gobernanza necesita herramientas capaces de convertir las políticas en acciones concretas. Microsoft ha ampliado sus recursos para que desarrolladores y organizaciones puedan identificar riesgos, evaluar sistemas y supervisar su comportamiento durante todo el ciclo de vida.
Entre las iniciativas mencionadas en el informe se encuentra un Agente de Equipo Rojo de IA, diseñado para acelerar la identificación y evaluación de riesgos.
También existen evaluadores destinados a medir aspectos como la calidad, seguridad y rendimiento de aplicaciones basadas en agentes.
Otra herramienta destacada es RAMPART, que permite convertir los hallazgos obtenidos mediante equipos rojos en pruebas repetibles, facilitando una evaluación más continua cuando los sistemas cambian.
Mayor control sobre los agentes
Microsoft también trabaja en mecanismos como ASSERT y la Especificación de Control de Agentes, orientados a evaluar agentes según determinadas políticas, introducir controles durante su ejecución y supervisar su comportamiento.
Este enfoque refleja un cambio importante: la gobernanza deja de ser una actividad limitada a la etapa previa al lanzamiento.
Cuando los sistemas son dinámicos, las organizaciones necesitan poder observar qué hacen, comprobar cómo responden e intervenir cuando sea necesario.
Certificación y responsabilidad dentro de la cadena de valor
Microsoft señala además la importancia de demostrar que las prácticas de IA responsable se aplican de manera consistente.
La empresa indica que cuenta con certificación ISO 42001 para un amplio portafolio, que incluye Microsoft 365 Copilot, Foundry y GitHub Copilot. Durante el último año, la compañía afirma haber simplificado y reforzado los procesos internos relacionados con esta certificación.
El objetivo general es que las herramientas y prácticas necesarias para gestionar responsablemente la IA sean cada vez más accesibles, prácticas y escalables para las organizaciones.
La colaboración será fundamental
Los desafíos relacionados con la gobernanza de la inteligencia artificial no pueden ser abordados únicamente por una empresa.
A medida que la IA se extiende entre diferentes países y sectores, Microsoft considera necesario establecer expectativas comunes sobre la evaluación, supervisión y gestión de estos sistemas.
También resulta importante contar con estándares interoperables que permitan comprender mejor las interacciones entre herramientas, datos y sistemas.
Investigación y alianzas internacionales
Durante el último año, Microsoft avanzó en colaboraciones con organismos de Estados Unidos, Australia, Singapur y Reino Unido para fortalecer la investigación y las prácticas relacionadas con la evaluación de IA.
La compañía también creó una Alianza de Equipos Rojos Externos con 18 universidades de seis continentes, con el objetivo de ampliar el conocimiento sobre los principales riesgos de la inteligencia artificial.
En paralelo, participa en iniciativas relacionadas con estándares, observabilidad, seguridad y transparencia, incluyendo trabajos desarrollados a través del Frontier Model Forum, OpenTelemetry y la Fundación Appia.
Medir los riesgos con criterios comunes
Otro de los retos identificados es la necesidad de contar con métodos compartidos para evaluar los riesgos.
Si cada organización utiliza criterios diferentes, resulta complicado determinar si realmente existe progreso en materia de seguridad y confiabilidad.
En colaboración con MLCommons, Microsoft trabaja en la expansión de AILuminate para incorporar un conjunto más amplio de referencias de fiabilidad. Entre las áreas consideradas están la resistencia frente a jailbreaks, el rendimiento multilingüe y los riesgos psicosociales asociados a la IA conversacional.
La idea es establecer mecanismos de medición más comparables dentro del ecosistema.
El futuro de la IA responsable será dinámico
La principal conclusión del informe es que la IA responsable no puede tratarse como un conjunto de reglas estáticas.
La evolución de los modelos y, especialmente, de los sistemas agénticos obliga a integrar la gobernanza directamente en los procesos de desarrollo, apoyarla con herramientas prácticas y actualizarla continuamente a partir de las experiencias obtenidas durante las pruebas y los despliegues.
Microsoft plantea así un enfoque que combina tecnología, supervisión, formación, investigación y colaboración con otras organizaciones.
A medida que la inteligencia artificial adquiere mayor presencia y capacidad, la confianza dependerá no solamente de lo que estos sistemas sean capaces de hacer, sino también de la capacidad de las organizaciones para controlarlos, evaluarlos y utilizarlos de forma responsable.
Visítanos diariamente para que no te pierdas ninguna noticia.
Suscríbete al canal de YouTube donde verás Unboxing y Reviews de smartphones. Además, no olvides visitar nuestras redes sociales.
Deja un comentario