Esta guía no constituye asesoría jurídica.
Qué es
La versión actual del Marco de Gestión de Riesgos de IA de NIST es AI RMF 1.0, publicada el 26 de enero de 2023. Es un marco voluntario que ayuda a las organizaciones a identificar y gestionar los riesgos del diseño, desarrollo, compra y uso de sistemas de IA. NIST también publicó NIST-AI-600-1, Marco de Gestión de Riesgos de Inteligencia Artificial: Perfil de Inteligencia Artificial Generativa, el 26 de julio de 2024. En la consulta del 5 de octubre de 2026, NIST indicaba que AI RMF 1.0 estaba en revisión como parte del Plan de Acción de IA de la Casa Blanca.
El marco se organiza en cuatro funciones:
| Función | Qué pide |
|---|---|
| Gobernar | Establecer políticas, roles y responsabilidades de IA en toda la organización. |
| Identificar | Comprender el contexto: para qué se utiliza el sistema de IA, quién lo usa y qué podría salir mal. |
| Medir | Evaluar y hacer un seguimiento de los riesgos, incluidos los relacionados con la precisión, la fiabilidad, la privacidad y la seguridad. |
| Gestionar | Priorizar los riesgos, actuar sobre ellos y seguir monitoreándolos con el tiempo. |
Qué pide respecto a IA y datos
- Responsables definidos de cada sistema de IA y sus decisiones
- Saber adónde van los datos y quién puede acceder
- Medir si los resultados son suficientemente precisos para el uso previsto
- Conservar registros que permitan revisar lo que hizo el sistema
- Una forma de responder si algo sale mal
- Para la IA generativa, considerar riesgos como información inventada, privacidad de datos, resultados dañinos o sesgados, uso indebido e integridad de la información, utilizando el perfil NIST-AI-600-1 cuando sea adecuado al caso de uso
Cómo ayuda Matrix
| Función | Cómo ayuda Matrix |
|---|---|
| Gobernar | Su equipo conserva todas las cuentas y decide quién utiliza cada aplicación y archivo. |
| Identificar | Cada flujo empieza con una tarea, un resultado y un revisor definidos, acordados por escrito antes de iniciar el trabajo. |
| Medir | La precisión se mide según su propio estándar. Los flujos de trabajo indican el nivel de confianza y señalan los elementos inciertos para revisión. |
| Gestionar | Los registros locales de auditoría permiten revisión y exportación. Los modelos y el software cambian solo mediante actualizaciones que usted apruebe. |
| Datos y privacidad | Matrix funciona en sus instalaciones, sin conexión por defecto, y solo se conecta a un servicio externo si su equipo de TI lo aprueba, lo que acota adónde pueden ir los datos. |
La implementación local no certifica que un sistema de IA se ajuste al AI RMF. La organización debe seguir aplicando el marco, caso de uso por caso de uso.
Qué sigue a su cargo
- Política de IA, tolerancia al riesgo y roles de gobernanza de su organización
- Decidir qué usos de IA son aceptables
- Revisar resultados y registros de auditoría según sus requisitos
- Capacitación del personal
- Aplicar el marco a todos los sistemas de IA que utiliza, no solo a Matrix
- Seguir la revisión del AI RMF de NIST y decidir cuándo actualizar sus controles internos
Preguntas para cualquier proveedor de IA
- ¿Dónde se procesan y almacenan nuestros datos, y quién puede acceder a ellos?
- ¿Cómo se mide la precisión para nuestra tarea específica?
- ¿Qué ocurre cuando el sistema no está seguro?
- ¿Qué registros mantiene el sistema y quién los conserva?
- ¿Cómo cambian los modelos y el software con el tiempo, y quién aprueba el cambio?