La Autoridad de Desarrollo de Medios de Información y Comunicación de Singapur (IMDA) y la Autoridad Monetaria de Singapur (MAS) han publicado el Marco Modelo de Gobernanza de la IA Agéntica y las Directrices sobre Gestión de Riesgos de Inteligencia Artificial (IA), respectivamente. Ambas publicaciones promueven la adopción responsable de la IA mediante orientaciones sobre gobernanza, supervisión y gestión de riesgos. El primero aborda específicamente los sistemas de IA agéntica, mientras que las segundas establecen expectativas supervisoras para las entidades financieras. 


Gobernanza de la IA agéntica y gestión de riesgos de IA en Singapur

Ver vídeo

Resumen ejecutivo 

El Marco Modelo de Gobernanza de la IA Agéntica de IMDA, de carácter voluntario y aplicación transversal, establece cuatro dimensiones para el desarrollo y despliegue responsable de agentes de IA: evaluación y delimitación previa de los riesgos, rendición de cuentas humana efectiva, implantación de controles técnicos y procesos, y capacitación de los usuarios finales para un uso responsable. 

Por su parte, las Directrices sobre Gestión del Riesgo de IA de MAS definen las expectativas supervisoras para las entidades financieras en materia de gobernanza y supervisión de la IA, identificación e inventario de sistemas, evaluación de la materialidad de los riesgos, controles a lo largo del ciclo de vida, y capacidades y recursos, incluida la infraestructura tecnológica. 

Las Directrices de MAS se aplicarán de forma escalonada. Las entidades financieras deberán cumplir las expectativas relativas a la gobernanza y supervisión de la IA, así como a los sistemas, políticas y procedimientos de gestión de riesgos, a más tardar el 7 de octubre de 2027. Las expectativas sobre los controles del ciclo de vida de la IA y las capacidades y recursos deberán cumplirse a más tardar el 7 de octubre de 2028. 

Contenido principal 

El Marco establece cuatro dimensiones clave para el desarrollo y despliegue responsable de la IA agéntica: 

  • Evaluación y delimitación previa de los riesgos. Identificar los riesgos derivados de la autonomía de los agentes y establecer límites sobre sus acciones, permisos y acceso a datos y sistemas. 
  • Rendición de cuentas humana efectiva. Definir funciones y responsabilidades claras e incorporar mecanismos de supervisión humana para las decisiones y acciones críticas. 
  • Controles técnicos y procesos. Implementar salvaguardas durante el desarrollo, realizar pruebas previas al despliegue y mantener un seguimiento contínuo de los agentes. 
  • Capacitación de los usuarios finales para un uso responsable. Proporcionar información y formación sobre las capacidades, limitaciones y riesgos de los agentes para favorecer su uso responsable. 

Las Directrices de MAS establecen tres ámbitos principales de expectativas supervisoras para las entidades financieras: 

  • Gobernanza, supervisión y capacidades. Definir las responsabilidades de los órganos de administración y la alta dirección y garantizar una supervisión adecuada de los riesgos de IA, y mantener las capacidades y recursos adecuados, incluida la infraestructura tecnológica. 
  • Sistemas, políticas y procedimientos clave para la gestión de riesgos de IA. Establecer mecanismos de identificación e inventario de IA y evaluar la materialidad de los riesgos para aplicar controles proporcionales. 
  • Controles del ciclo de vida. Aplicar medidas sobre gestión de datos, transparencia, equidad, supervisión humana, evaluación y pruebas, ciberseguridad y gestión de terceros. 

Accede a la nota técnica sobre la Gobernanza de la IA agéntica y gestión de riesgos de IA en Singapur (solo disponible en inglés).