Norma de cibersegurança em IA (ETSI EN 304 223)

O Instituto Europeu de Normas de Telecomunicações (ETSI) publicou a norma EN 304 223, a primeira norma europeia que estabelece um conjunto estruturado de requisitos de cibersegurança para sistemas de inteligência artificial (IA). Com esta publicação, o ETSI fornece às organizações um quadro harmonizado para identificar, gerir e mitigar as ameaças de segurança específicas da IA, com o objetivo de reforçar a resiliência dos sistemas de IA ao longo de todo o seu ciclo de vida.

AI cybersecurity standard (ETSI EN 304 223)

Watch video

Resumo executivo

A crescente implantação de sistemas de IA em todos os setores acelerou a necessidade de normas de segurança sólidas adaptadas aos riscos específicos da IA. À medida que as tecnologias de IA se tornam mais complexas, especialmente com o surgimento de redes neurais profundas e modelos generativos, a norma ETSI EN 304 223 oferece às organizações um quadro estruturado e baseado no ciclo de vida para proteger os ativos de IA contra ameaças como envenenamento de dados, manipulação de modelos e injeção indireta de prompts. A norma compreende 13 princípios distribuídos em 5 secções principais do ciclo de vida.

Conteúdo principal

O documento descreve os princípios de segurança da IA para ajudar as organizações a mitigar proativamente as vulnerabilidades específicas da IA, garantir a visibilidade do comportamento dos modelos e manter a responsabilidade por meio de documentação, rastreabilidade e supervisão humana.

• Design seguro. O design seguro enfatiza a incorporação de considerações de segurança desde os estágios iniciais da criação de um sistema de IA. Ele incentiva as organizações a integrar a conscientização sobre as ameaças, realizar avaliações de risco nos estágios iniciais e estabelecer mecanismos que permitam aos seres humanos supervisionar o comportamento do sistema e intervir quando necessário. A fase de design também requer documentar as principais decisões arquitetônicas e garantir que os sistemas continuem resistentes a interações adversas ou inesperadas antes de passar para a fase de desenvolvimento.
• Desenvolvimento seguro. Durante o desenvolvimento, o foco está em criar um ambiente controlado e bem protegido para os dados, modelos e infraestrutura de suporte. Isso inclui manter um registo preciso dos ativos, implementar controles de acesso rigorosos, proteger os componentes de terceiros e validar a solidez dos sistemas de IA por meio de testes estruturados. A fase de desenvolvimento reforça a importância da transparência, garantindo que os conjuntos de dados, modelos e indicações sejam rastreáveis ao longo de todo o processo de engenharia.
• Implementação segura. A implementação aborda a forma como as organizações comunicam com os utilizadores e as partes interessadas depois de o sistema de IA entrar em funcionamento. Exige que os operadores expliquem claramente o comportamento do sistema, a utilização dos dados, as limitações conhecidas e quaisquer condições relevantes para a segurança que possam afetar os resultados. A norma também exige procedimentos explícitos para ajudar os utilizadores e as entidades afetadas durante incidentes, garantindo que os canais de notificação e os processos de apoio continuem acessíveis e bem definidos.
• Manutenção segura. A fase de manutenção concentra-se em manter a segurança e a fiabilidade dos sistemas de IA ao longo do tempo. Isto implica atualizações oportunas, monitorizar o desempenho do sistema, rever os registos e identificar anomalias que possam indicar uso indevido ou ameaças emergentes. Espera-se que as organizações tratem as atualizações importantes como alterações significativas do sistema e reavaliem as medidas de segurança em conformidade, garantindo uma proteção sustentada durante toda a utilização operacional.
• Fim de vida útil seguro. Os requisitos de fim de vida útil garantem que os sistemas de IA e os ativos relacionados sejam desativados adequadamente. Isso inclui a eliminação ou transferência segura de modelos, conjuntos de dados e elementos de configuração, de modo que nenhuma informação residual possa ser explorada após a sua retirada. A norma destaca a necessidade de processos de desligamento controlados, com a participação das partes interessadas relevantes em matéria de dados, a fim de evitar que as falhas de segurança persistam para além da fase final do sistema.

Acessar a nota técnica sobre a Norma de cibersegurança em IA (ETSI EN 304 223) (disponível em inglês).