Framework de gestão de riscos de IA: guia passo a passo de 2026

Um framework de gestão de riscos de IA é o conjunto de passos que você usa para encontrar, classificar, controlar e monitorar os riscos de sistemas de IA que influenciam decisões de negócio. A versão prática tem cinco passos: inventariar sua IA, classificar cada caso de uso por impacto, aplicar controles aos de alto risco, atribuir a governança e monitorar com um plano de incidentes testado.

Este guia é para CIOs, responsáveis por riscos e líderes de programas SAP que já têm IA em finanças, RH ou compras, ou estão prestes a ter. Ele relaciona cada passo ao NIST AI RMF e ao AI Act da UE e traz um modelo de registro de riscos para você começar.

Decisões automatizadas falham rápido. Em 2012, a Knight Capital colocou em produção um software de negociação com defeito e, segundo a SEC dos EUA, perdeu mais de US$ 460 milhões em 45 minutos porque ninguém conseguiu parar o sistema a tempo. Não era aprendizado de máquina. Era um sistema de decisão automatizada sem monitoramento eficaz e sem botão de desligamento, exatamente a lacuna que muitas implantações de IA têm hoje.

Os princípios abaixo continuam valendo. Três mudanças externas alteram aquilo em torno do que você planeja.

O NIST acrescentou um perfil de IA generativa. O NIST AI Risk Management Framework (AI RMF 1.0, janeiro de 2023) se baseia em quatro funções: Governar, Mapear, Medir, Gerenciar. Em julho de 2024 o NIST publicou o Perfil de IA Generativa (NIST AI 600-1), que cobre riscos como confabulação, prompt injection, privacidade de dados e propriedade intelectual. Se você usa o Joule, o Microsoft Copilot ou seus próprios agentes de IA generativa sobre dados corporativos, cite o perfil no seu registro de riscos. O NIST diz que o framework central está em revisão; ainda não existe a versão 1.1.

O cronograma do AI Act da UE mudou. A lei entrou em vigor em 1º de agosto de 2024. As práticas proibidas e as obrigações de letramento em IA passaram a valer em 2 de fevereiro de 2025, e as obrigações para IA de uso geral em 2 de agosto de 2025. A maior parte das demais regras e a fiscalização valem a partir de 2 de agosto de 2026. Depois das alterações do Digital Omnibus adotadas em 2026, as regras para sistemas de alto risco listados no Anexo III (contratação, análise de crédito, acesso a serviços essenciais e similares) valem a partir de 2 de dezembro de 2027, e as de IA de alto risco dentro de produtos regulados a partir de 2 de agosto de 2028. O cronograma de implementação da Comissão é o lugar para conferir. As multas chegam a € 35 milhões ou 7% do faturamento mundial para práticas proibidas, e a € 15 milhões ou 3% para a maioria das demais infrações.

O prazo extra não é motivo para esperar. Documentação técnica, governança de dados, supervisão humana e monitoramento pós-comercialização levam mais tempo para construir do que a maioria das equipes imagina.

A ISO/IEC 42001 deu à governança de IA uma norma certificável. Publicada em dezembro de 2023, ela faz pela gestão de IA o que a ISO 27001 fez pela segurança da informação. A ISO/IEC 23894 (2023) acrescenta orientação específica sobre gestão de riscos de IA. Na minha opinião, toda empresa que vende software com IA para compradores regulados deve esperar ver a 42001 nos questionários de compras.

Para organizações do Golfo, a Carta para o Desenvolvimento e o Uso da IA dos Emirados Árabes Unidos (2024) e os Princípios de Ética em IA da SDAIA, da Arábia Saudita, não são lei vinculante como o AI Act da UE, mas reguladores e compradores do setor público já perguntam como você os atende.

Um framework de verdade percorre o ciclo de vida do modelo, do desenho à implantação e à operação diária.

Componente	O que cobre	Ações principais
Estrutura de governança	Supervisão e direitos de decisão	Criar um comitê de riscos de IA; nomear um responsável por sistema
Identificação de riscos	Riscos técnicos, éticos e regulatórios	Workshops de riscos, modelagem de ameaças, análise de cenários
Alinhamento de conformidade	AI Act da UE, GDPR, ISO 42001, regras locais	Relacionar cada caso de uso às regras aplicáveis
Viés e equidade	Resultados discriminatórios	Testes de viés, auditorias de equidade, impacto por grupo
Explicabilidade	Decisões que as pessoas conseguem entender	Métodos de explicabilidade, documentação do modelo
Segurança e privacidade	Proteção do modelo e dos dados	Criptografar os dados de treinamento; testes adversariais
Monitoramento contínuo	Comportamento após a implantação	KPIs, detecção de anomalias, ciclos de revisão humana
Resposta a incidentes	Mau funcionamento e violações éticas	Caminhos de escalonamento, planos de reversão e recuperação

A maioria dos frameworks falha porque fica fora do fluxo do projeto. A governança de IA precisa viver dentro do modelo operacional, ao lado da auditoria e do controle de mudanças. Do contrário, os problemas aparecem tarde, quando são mais difíceis e mais caros de corrigir.

1. 01IdentificarInventariar todos os sistemas de IA
2. 02ClassificarPor probabilidade e impacto
3. 03ControlarMais rigoroso nos sistemas de alto risco
4. 04GovernarUm responsável nomeado por modelo
5. 05MonitorarAlertas e um plano de incidentes testado

Revisão mensal para sistemas críticos, trimestral para os demais

Comece por um inventário. Para cada sistema de IA, responda a três perguntas. Que dados ele processa? Que decisões ele influencia? Qual é o pior resultado se ele errar?

As categorias de risco mais comuns:

1. Viés e equidade. Modelos treinados com dados históricos herdam os vieses deles. Se cinco anos de decisões de contratação favoreceram certos perfis, o modelo vai repetir isso. A Amazon descartou uma ferramenta de recrutamento com IA depois de descobrir que ela rebaixava currículos que continham a palavra “women's”, como a Reuters noticiou em 2018. Era previsível. Uma auditoria básica de viés antes da implantação teria pegado o problema.
2. Segurança. Sistemas de IA que tocam pagamentos, registros de RH ou contratos são alvos. Envenenamento de dados, prompt injection e roubo de modelos são caminhos de ataque reais.
3. Conformidade. GDPR, AI Act da UE, ISO 42001, HIPAA e regras locais podem valer todos ao mesmo tempo. Os reguladores querem cada vez mais ver o método por trás de uma decisão de IA, não só o resultado.
4. Deriva operacional. Um modelo treinado no primeiro trimestre pode se comportar de outra forma no terceiro, conforme os padrões de dados mudam. Ninguém percebe até que um cliente reclame ou uma auditoria encontre o problema.

Nem todos os riscos são iguais. Classifique por probabilidade e impacto no negócio.

1. Crítico: IA que influencia aprovações financeiras, decisões de emprego ou controle de acesso. Exige os controles mais rigorosos, supervisão humana e documentação completa.
2. Moderado: IA que recomenda enquanto uma pessoa toma a decisão final. Controles mais leves, mas o registro de auditoria continua valendo.
3. Baixo: ferramentas internas de escopo limitado e pouco efeito sobre as pessoas. Monitoramento básico e revisão periódica.

Use as categorias do AI Act da UE como verificação cruzada. Contratação, crédito e acesso a serviços essenciais são explicitamente de alto risco.

Viés. Use dados de treinamento representativos. Audite os resultados por grupo demográfico em intervalos regulares. Mantenha pessoas no circuito nas decisões sobre indivíduos: contratação, crédito, acesso. Investigue as diferenças nas taxas de aceitação entre grupos.

Segurança. Criptografe os dados de treinamento e as saídas do modelo. Restrinja quem pode alterar os modelos. Teste se entradas manipuladas conseguem alterar o comportamento. Fique atento a padrões de acesso incomuns.

Continuidade operacional. Defina como é o normal para cada sistema e depois configure limites de alerta. Quando uma métrica se move (taxa de bloqueio de fraudes, proporção de aceitação em contratações, padrão de aprovação de fornecedores), você quer um alerta, não uma surpresa no fechamento do mês. E garanta que alguém consiga desligar o sistema rapidamente.

A governança de IA precisa de três coisas.

1. Responsabilidade nomeada. Uma pessoa responde pelas saídas de cada modelo. Um comitê sem presidente não é responsável por nada.
2. Trilhas de auditoria. Toda decisão influenciada por IA precisa de um registro rastreável: os dados usados, a saída, e quando e por quem foi revisada.
3. Alinhamento regulatório. Verifique cada sistema em relação à ISO 42001, ao NIST AI RMF, ao AI Act da UE e ao GDPR ou ao equivalente da sua região. Verifique de novo quando as regras mudarem, como acabaram de mudar as datas da UE.

Se você está construindo isso dentro de um programa SAP, meu guia sobre governança de IA em implementações SAP mostra onde ficam os controles no S/4HANA e no SuccessFactors.

Ferramentas amplamente usadas em ambientes corporativos:

Ferramenta	Foco principal
Fiddler AI	Monitoramento de modelos, explicabilidade, detecção de viés
IBM watsonx.governance (inclui o Watson OpenScale)	Governança de modelos, monitoramento de viés e deriva, documentação
Microsoft Responsible AI dashboard (Azure Machine Learning)	Equidade, análise de erros, desequilíbrio de dados
Arthur	Monitoramento de desempenho, deriva e equidade
Amazon SageMaker Clarify	Detecção de viés no treinamento e na inferência

Quando algo dá errado, as equipes que improvisam pioram a situação. Defina o caminho de escalonamento antes do incidente: quem recebe o telefonema, que autoridade essa pessoa tem para pausar ou reverter o modelo, e o que você diz aos clientes se os dados deles foram afetados.

Já vi empresas presumirem que a IA estava funcionando bem e depois correrem atrás quando um erro silencioso virou uma bola de neve e acabou em crise. Um plano de incidentes por escrito, testado e não apenas arquivado, faz toda a diferença.

Uma linha por sistema de IA. Revise mensalmente para os sistemas críticos e trimestralmente para os demais.

Campo	O que registrar	Exemplo
Sistema e responsável	Nome, dono do negócio, dono técnico	Modelo de aprovação automática de faturas; gerente de contas a pagar; líder de ciência de dados
Decisão influenciada	O que ele decide ou recomenda	Aprova faturas abaixo de um limite sem revisão
Dados usados	Fontes, dados pessoais, campos sensíveis	Dados mestre de fornecedores, linhas de fatura, histórico de pagamentos
Nível de risco	Crítico / moderado / baixo; categoria do AI Act da UE, se aplicável	Moderado; fora do Anexo III
Principais riscos	Viés, segurança, conformidade, deriva	Deriva conforme muda o mix de fornecedores; fraude por faturas manipuladas
Controles	Testes, revisão humana, limites, botão de desligamento	Revisão semanal por amostragem; teto de valor; alerta se a taxa de aprovação mudar
Métrica de monitoramento	O que você acompanha e o nível de alerta	Taxa de aprovação automática fora da faixa normal
Contato para incidentes	Quem pode pausá-lo e com que rapidez	Gerente de contas a pagar, dentro de um prazo de resposta acordado
Última revisão	Data e revisor	Mensal, pelo comitê de riscos de IA

Para conhecer a estrutura de governança que é dona deste registro, veja meu guia do framework de governança de IA. Se você quer uma revisão externa do seu registro antes que um regulador ou auditor peça, isso faz parte do meu trabalho de assessoria em governança de IA.

O que é um framework de gestão de riscos de IA?

Um processo estruturado para identificar, avaliar e gerenciar os riscos que surgem quando sistemas de IA influenciam decisões de negócio. Ele cobre o ciclo de vida do modelo e inclui controles para viés, segurança, conformidade e deriva operacional.

Em ambientes SAP, aplica-se a modelos usados em compras (pontuação de fornecedores), RH (triagem de candidatos), finanças (aprovação de faturas) e cadeia de suprimentos (previsão de demanda). Esses sistemas afetam pessoas, dinheiro e conformidade.

O que é o NIST AI Risk Management Framework?

Um framework voluntário do Instituto Nacional de Padrões e Tecnologia dos EUA, publicado como AI RMF 1.0 em janeiro de 2023 e baseado em quatro funções:

1. Governar: políticas, responsabilização e cultura
2. Mapear: contexto, uso pretendido e impactos potenciais
3. Medir: testes de viés, robustez, explicabilidade e segurança
4. Gerenciar: priorização e tratamento dos riscos, e monitoramento

Em julho de 2024 o NIST acrescentou o Perfil de IA Generativa (NIST AI 600-1), que é a referência americana mais útil para governar assistentes como o Joule e o Copilot.

Quando passam a valer as regras de alto risco do AI Act da UE?

Depois das alterações do Digital Omnibus de 2026, as regras para sistemas de alto risco listados no Anexo III (como contratação, análise de crédito e acesso a serviços essenciais) valem a partir de 2 de dezembro de 2027. A IA de alto risco incorporada a produtos cobertos pela legislação de segurança de produtos da UE vem em seguida, em 2 de agosto de 2028. As proibições e as regras para IA de uso geral já estão em vigor.

Quais são os maiores riscos da IA nas empresas?

1. Viés e discriminação: dados históricos enviesados produzem saídas enviesadas
2. Segurança: envenenamento de dados, prompt injection e roubo de modelos
3. Conformidade: GDPR, AI Act da UE, ISO 42001 e regras setoriais
4. Deriva operacional: a precisão se degrada conforme os padrões de dados mudam
5. Falta de explicabilidade: uma decisão que você não consegue explicar é difícil de defender perante um regulador, um cliente ou a auditoria interna

O que um plano de resposta a incidentes de IA deve cobrir?

Quatro coisas, definidas antes do incidente:

1. Caminho de escalonamento: quem é avisado primeiro, quem pode pausar ou reverter o modelo, quem fala com os clientes
2. Contenção: como isolar o sistema sem quebrar os processos que dependem dele
3. Comunicação com os clientes: o que você diz às pessoas afetadas e quando
4. Revisão pós-incidente: causa raiz, retreinar ou reverter, e controles atualizados

Teste o plano com um exercício de simulação pelo menos uma vez por ano.