Governação da IA agêntica e gestão dos riscos de IA em Singapura
IMDA / MASA Autoridade de Desenvolvimento de Mídia e Infocomunicações de Singapura (IMDA) e a Autoridade Monetária de Singapura (MAS) publicaram o Modelo de Governança de IA Agêntica e as Diretrizes sobre Gestão de Riscos de Inteligência Artificial (IA), respetivamente. Ambas as publicações promovem a adoção responsável da IA por meio de orientações sobre governança, supervisão e gestão de riscos. O primeiro aborda especificamente os sistemas de IA agêntica, enquanto as segundas estabelecem expectativas de supervisão para as instituições financeiras.
Singapore’s Agentic AI Governance and AI Risk Management
Resumo executivo
O Modelo de Governança de IA Agêntica da IMDA, de caráter voluntário e aplicação transversal, estabelece quatro dimensões para o desenvolvimento e a implementação responsáveis de agentes de IA: avaliação prévia e delimitação dos riscos, responsabilização humana efetiva, implementação de controles técnicos e processos, e capacitação dos usuários finais para uma utilização responsável.
Por sua vez, as Diretrizes sobre Gestão de Riscos de IA da MAS definem as expectativas de supervisão para as instituições financeiras em matéria de governança e supervisão da IA, identificação e inventário de sistemas, avaliação da materialidade dos riscos, controles ao longo do ciclo de vida, e capacidades e recursos, incluindo a infraestrutura tecnológica.
As Diretrizes da MAS serão aplicadas de forma escalonada. As instituições financeiras deverão cumprir as expectativas relativas à governança e supervisão da IA, bem como aos sistemas, políticas e procedimentos de gestão de riscos, até 7 de outubro de 2027. As expectativas relativas aos controles do ciclo de vida da IA e às capacidades e recursos deverão ser cumpridas até 7 de outubro de 2028.
Conteúdo principal
O Modelo estabelece quatro dimensões fundamentais para o desenvolvimento e a implementação responsável da IA agêntica:
- Avaliação prévia e delimitação dos riscos. Identificar os riscos decorrentes da autonomia dos agentes e estabelecer limites para suas ações, permissões e acesso a dados e sistemas.
- Responsabilização humana efetiva. Definir funções e responsabilidades claras e incorporar mecanismos de supervisão humana para decisões e ações críticas.
- Controles técnicos e processos. Implementar salvaguardas durante o desenvolvimento, realizar testes prévios à implementação e manter um monitoramento contínuo dos agentes.
- Capacitação dos usuários finais para uma utilização responsável. Fornecer informações e treinamento sobre as capacidades, limitações e riscos dos agentes para promover sua utilização responsável.
As Diretrizes da MAS estabelecem três áreas principais de expectativas de supervisão para as instituições financeiras:
- Governança, supervisão e capacidades. Definir as responsabilidades dos órgãos de administração e da alta direção e garantir uma supervisão adequada dos riscos de IA e manter capacidades e recursos adequados, incluindo infraestruturas tecnológicas.
- Sistemas, políticas e procedimentos essenciais para a gestão de riscos de IA. Estabelecer mecanismos de identificação e inventário de sistemas de IA e avaliar a materialidade dos riscos para aplicar controles proporcionais.
- Controles do ciclo de vida. Aplicar medidas relativas à gestão de dados, transparência, equidade, supervisão humana, avaliação e testes, cibersegurança e gestão de terceiros.
Acesse a nota técnica sobre a Governação da IA agêntica e gestão dos riscos de IA em Singapura (disponível apenas em inglês).