1.1 O que muda quando uma decisão passa a ser tomada por IA

Casos reais que motivaram a regulação: sistemas de recrutamento que penalizavam currículos de mulheres; algoritmos de reincidência criminal com taxas de erro desiguais por raça; benefícios sociais cancelados em massa por um modelo defeituoso (o escândalo do "Toeslagenaffaire" nos Países Baixos derrubou um governo); reconhecimento facial com taxas de erro muito maiores para peles escuras.

1.2 O que "governança de IA" abrange

O espectro, do abstrato ao concreto:

1. Ética: os valores — dignidade, autonomia, justiça, não-maleficência, transparência.
2. Princípios: a tradução dos valores em orientações (OECD, UNESCO, "FEAT/FAT").
3. Frameworks: a estrutura de gestão de risco (NIST AI RMF, ISO/IEC 42001).
4. Regulação: a lei aplicável (EU AI Act, GDPR, leis setoriais, PL 2338 no Brasil).
5. Operação: o programa interno — inventário, classificação de risco, gates, auditoria, monitorização.

1.3 Por que agora

• Regulação vinculante chegou: o EU AI Act está em vigor (adotado em 2024), com sanções de até 7% do faturamento global para práticas proibidas.
• Extraterritorialidade: como o GDPR, o EU AI Act alcança quem coloca sistemas no mercado da UE ou cujos outputs são usados lá — mesmo empresas fora da Europa.
• IA generativa popularizou o uso e multiplicou os riscos (desinformação, deepfakes, direitos autorais, "shadow AI" nos times).
• Pressão de clientes e investidores: due diligence de IA em contratos B2B e em rodadas de investimento.
• Reputação: um incidente de IA vira crise pública rapidamente.

2.1 Os princípios convergentes

Dezenas de conjuntos de princípios (OECD, UNESCO, Comissão Europeia, empresas) convergem em ~7 ideias:

2.2 NIST AI RMF — o framework de gestão de risco

O AI Risk Management Framework (NIST, EUA — voluntário, mas referência global) organiza a governança em quatro funções:

• Govern: a cultura, os papéis, as políticas — a base que sustenta as outras três. Atravessa tudo.
• Map: entender o contexto — para que serve o sistema, quem é afetado, quais os riscos e impactos.
• Measure: medir os riscos identificados — métricas de fairness, robustez, segurança, explicabilidade; testes.
• Manage: priorizar e tratar os riscos — mitigar, monitorar, responder a incidentes, decidir go/no-go.

Há um Generative AI Profile específico. É o vocabulário mais usado em conversas de governança e casa bem com MLOps/LLMOps (as apostilas irmãs cobrem o Measure/Manage técnico).

2.3 ISO/IEC 42001 — o sistema de gestão certificável

O "ISO 27001 da IA": especifica um AI Management System (AIMS) — política de IA, objetivos, avaliação de risco e de impacto, controles (Anexo A), papéis, e o ciclo plan-do-check-act. É auditável e certificável por terceira parte — cada vez mais pedido em contratos e RFPs. Complementa o NIST (que é "o que pensar") com "como estruturar e provar".

2.4 O panorama regulatório (2026)

3.1 O que é e a quem se aplica

O EU AI Act (Regulamento (UE) 2024/1689) é a primeira lei horizontal e abrangente de IA do mundo. Aplica-se, com efeito extraterritorial, a:

• Providers (fornecedores): quem desenvolve um sistema de IA e o coloca no mercado da UE ou o põe em serviço — independentemente de onde estão estabelecidos.
• Deployers (utilizadores profissionais): quem usa um sistema de IA sob sua autoridade, na UE (ou cujos outputs afetam pessoas na UE).
• Também: importadores, distribuidores, e representantes autorizados.
• Exclusões: uso puramente pessoal e não profissional; fins militares/defesa/segurança nacional; investigação e desenvolvimento antes da colocação no mercado; sistemas sob licença livre e aberta (com ressalvas, sobretudo para GPAI).

3.2 Definição de "sistema de IA"

Alinhada à da OECD (para consistência internacional): um sistema baseado em máquina, projetado para operar com graus variados de autonomia, que pode ser adaptativo, e que — a partir de inputs — infere como gerar outputs (previsões, conteúdo, recomendações, decisões) que influenciam ambientes físicos ou virtuais. A ênfase em inferência pretende excluir software de regras simples e cálculos determinísticos triviais.

3.3 A pirâmide de risco

        ╱╲   RISCO INACEITÁVEL  →  PROIBIDO
       ╱  ╲  (social scoring, manipulação subliminar danosa, scraping
      ╱────╲  facial em massa, reconhecimento de emoção no trabalho/escola,
     ╱ ALTO ╲ categorização biométrica sensível, previsão de crime só por perfil...)
    ╱  RISCO ╲  →  permitido SOB requisitos rigorosos (Módulo 4)
   ╱──────────╲  (Anexo III: biometria, infraestrutura crítica, educação,
  ╱   RISCO    ╲  emprego, serviços essenciais e crédito, aplicação da lei,
 ╱   LIMITADO   ╲ migração, justiça; + IA como componente de segurança de produtos)
╱────────────────╲  →  obrigações de TRANSPARÊNCIA
      RISCO MÍNIMO     (chatbots, deepfakes, conteúdo gerado: informar o utilizador)
   (a grande maioria: filtros de spam, jogos, recomendação — sem obrigações)

3.4 Práticas proibidas (Artigo 5)

• Manipulação e exploração de vulnerabilidades (idade, deficiência, situação socioeconômica) que causem dano significativo; técnicas subliminares ou enganosas.
• Social scoring por autoridades públicas (ou em seu nome) que leve a tratamento prejudicial desproporcional ou fora do contexto.
• Policiamento preditivo baseado apenas em perfil ou traços de personalidade.
• Scraping não direcionado de imagens faciais da internet ou de CCTV para criar bases de reconhecimento facial.
• Reconhecimento de emoções no local de trabalho e em instituições de ensino (salvo razões médicas/segurança).
• Categorização biométrica para inferir raça, opiniões políticas, filiação sindical, crenças, vida sexual.
• Identificação biométrica remota "em tempo real" em espaços públicos para aplicação da lei — proibida, com exceções estreitas e autorizadas (busca de vítimas, ameaça iminente, crime grave).

3.5 Calendário de aplicação (faseado)

(Datas aproximadas a partir da entrada em vigor em ago/2024; há discussões sobre ajustes e um "digital omnibus" — confira sempre o texto e o cronograma oficiais.)

4.1 As obrigações do provider (o núcleo)

4.2 O fluxo de conformidade

desenhar o QMS + gestão de risco
   ▼
elaborar a documentação técnica (Anexo IV)
   ▼
avaliação de conformidade  ──►  em geral: AUTOAVALIAÇÃO do provider
   │                            (para alguns sistemas biométricos: organismo notificado)
   ▼
Declaração de Conformidade UE  +  marcação  CE
   ▼
registo na base de dados da UE (para sistemas do Anexo III)
   ▼
colocação no mercado
   ▼
VIGILÂNCIA PÓS-MERCADO: plano de monitorização, recolha de dados de desempenho,
   relato de INCIDENTES GRAVES às autoridades, ações corretivas

4.3 As obrigações do deployer

• Usar conforme as instruções do provider; garantir supervisão humana por pessoas competentes.
• Dados de entrada relevantes e representativos para o propósito, na medida do seu controle.
• Monitorar a operação; suspender e reportar se houver risco ou incidente grave.
• Guardar os logs gerados pelo sistema.
• Informar as pessoas sujeitas a decisões de alto risco; para autoridades públicas e alguns serviços, conduzir uma Avaliação de Impacto sobre Direitos Fundamentais (FRIA) — Módulo 7.
• Trabalhadores: informar representantes dos trabalhadores antes de pôr em uso um sistema de alto risco no trabalho.

4.4 Sanções

• Práticas proibidas: até €35M ou 7% do faturamento anual mundial (o maior).
• Descumprir obrigações de alto risco / GPAI: até €15M ou 3%.
• Informação incorreta a autoridades: até €7,5M ou 1%.
• PMEs e startups: tetos ajustados para o menor valor.

5.1 Modelos de propósito geral (GPAI)

Um modelo GPAI é um modelo de IA (tipicamente treinado em larga escala) capaz de desempenhar competentemente uma ampla gama de tarefas distintas e de ser integrado em muitos sistemas a jusante — os grandes LLMs e modelos multimodais. Obrigações do provider do modelo:

• Documentação técnica do modelo (arquitetura, treino, avaliação) disponível para a AI Office e para autoridades.
• Informação aos integradores a jusante para que consigam cumprir suas próprias obrigações.
• Política de conformidade com direitos de autor da UE (incluindo respeitar reservas de text and data mining / opt-outs).
• Sumário público "suficientemente detalhado" dos dados usados no treino (segundo modelo da AI Office).
• Modelos sob licença livre e aberta têm algumas isenções — mas não das obrigações de copyright e do sumário de dados, nem se forem de risco sistémico.

5.2 GPAI com risco sistémico

Modelos com capacidades de alto impacto — presumidos acima de um limiar de computação de treino (na ordem de 10²⁵ FLOPs) ou designados pela AI Office. Obrigações adicionais:

• Avaliação do modelo incluindo adversarial testing / red teaming para identificar e mitigar riscos sistémicos.
• Avaliação e mitigação de riscos sistémicos (à escala da UE): desinformação, discriminação em larga escala, riscos CBRN, perda de controle, uso malicioso.
• Rastreamento e relato de incidentes graves à AI Office.
• Cibersegurança adequada do modelo e da infraestrutura física.

O GPAI Code of Practice (elaborado com a indústria e a sociedade civil) serve como meio de demonstrar conformidade enquanto normas harmonizadas não existem.

5.3 Transparência de conteúdo gerado (Art. 50)

5.4 Direitos de autor e dados de treino

• Na UE, a exceção de text and data mining (Diretiva 2019/790) permite treinar com obras acessíveis licitamente, mas os titulares podem reservar esse uso (opt-out legível por máquina, ex.: robots.txt, ai.txt, metadados).
• Providers de GPAI devem respeitar essas reservas e ter uma política de copyright — inclusive para treino feito fora da UE, se o modelo é colocado no mercado da UE.
• Litígios em curso em várias jurisdições sobre se o treino é "uso transformativo"/fair use ou infração — o cenário ainda está se formando.
• Para deployers: atenção a outputs que reproduzam obras protegidas e a cláusulas de indenização dos fornecedores.

6.1 De onde vem o viés

6.2 As definições de fairness (e por que colidem)

• Paridade demográfica (demographic parity): a taxa de decisão positiva é igual entre grupos (ex.: mesma % de aprovação de crédito).
• Igualdade de oportunidade (equal opportunity): entre quem "merece" (verdadeiro positivo real), a taxa de acerto é igual entre grupos.
• Probabilidades igualadas (equalized odds): taxas de verdadeiro positivo e falso positivo iguais entre grupos.
• Calibração: um score de "70% de risco" significa o mesmo risco real para todos os grupos.
• Fairness individual: pessoas semelhantes recebem decisões semelhantes.

6.3 Medir

• Calcular as métricas por grupo protegido (e interseções — mulher + idosa, por exemplo) e comparar; reportar disparidades, não só a média.
• Regra dos 4/5 (disparate impact): usada em direito trabalhista dos EUA — a taxa de seleção de um grupo não deve ser inferior a 80% da do grupo mais favorecido. É um indício, não prova.
• Ferramentas: Fairlearn, AIF360 (IBM), What-If Tool, Aequitas.
• Cuidado: coletar o atributo protegido para medir fairness pode conflitar com minimização de dados (GDPR) — há bases legais e técnicas (ex.: inferência probabilística, dados agregados) para resolver.

6.4 Mitigar

O trade-off: impor fairness quase sempre custa alguma acurácia global. A questão certa não é "quanto perdemos de acurácia?", e sim "essa perda é aceitável dado o dano de discriminar, e para quem o custo recai?". E: fairness técnica num modelo defeituoso a montante é maquiagem — às vezes a resposta é redesenhar ou abandonar.

7.1 Os três níveis de transparência

• Transparência de existência: a pessoa sabe que há IA envolvida (obrigação do AI Act para chatbots e conteúdo gerado).
• Transparência de sistema: como o sistema funciona em geral — propósito, dados, desempenho, limitações (model card, documentação técnica).
• Explicabilidade de decisão: por que este resultado para esta pessoa (explicação local, direito à contestação).

7.2 Artefatos de documentação

7.3 Avaliações de impacto

• DPIA (Data Protection Impact Assessment) — obrigatória sob o GDPR quando o processamento (incluindo IA) é de alto risco para direitos e liberdades: descrever o processamento, avaliar necessidade e proporcionalidade, identificar e mitigar riscos à privacidade.
• FRIA (Fundamental Rights Impact Assessment) — exigida pelo AI Act para deployers que sejam entidades públicas ou prestem serviços essenciais, antes de usar um sistema de alto risco: descrever o uso, o período, as pessoas afetadas, os riscos a direitos fundamentais, as medidas de supervisão humana e de mitigação, e o plano de governança.
• Algorithmic / AI Impact Assessment — versões mais amplas (do NIST, de governos, da academia) que cobrem também impacto social, ambiental e sobre trabalho.
• Boa prática: uma avaliação integrada que cubra DPIA + FRIA + risco do AI Act num só processo, no início do ciclo de vida (não como formalidade no fim).

7.4 Explicabilidade por público

O "direito à explicação": o GDPR (Art. 22) dá à pessoa o direito de não ser sujeita a decisão unicamente automatizada com efeitos significativos, salvo bases específicas — e, nesses casos, direito a intervenção humana, a expressar seu ponto de vista e a contestar. O AI Act reforça com a supervisão humana e o direito a explicação de decisões de alto risco (Art. 86).

8.1 Os componentes de um programa

8.2 Os papéis

• AI Governance Lead / Responsible AI Officer — dono do programa.
• AI Ethics Committee / Board — o fórum de decisão.
• Model / System Owner — responde por um sistema específico ponta a ponta.
• Data Protection Officer (DPO) — privacidade; muitas vezes lidera ou co-lidera a governança de IA.
• Legal / Compliance — mapeia obrigações, gerencia relação com reguladores.
• Security — a parte adversarial (apostila de Segurança de Aplicações de IA).
• ML/Data teams — executam os controles técnicos (MLOps/LLMOps).

8.3 Integração com o que já existe

8.4 Maturidade

9.1 Privacidade e IA

• Base legal para treino: usar dados pessoais para treinar exige base no GDPR (consentimento, interesse legítimo com teste de ponderação, etc.); scraping de dados pessoais é especialmente sensível.
• Minimização vs "quanto mais dados melhor": tensão real; respostas incluem dados sintéticos, aprendizado federado, e limitar a coleta ao necessário.
• Direitos do titular: acesso, retificação, apagamento — e o problema de "desaprender" um dado de um modelo já treinado (machine unlearning, retreino, filtros de saída).
• Memorização e vazamento: modelos podem regurgitar dados de treino (ver apostila de Segurança de Aplicações de IA).
• PETs (Privacy-Enhancing Technologies): privacidade diferencial, computação multipartidária segura, enclaves — permitem treinar/analisar com garantias formais.

9.2 Agentes autónomos e accountability

Sistemas que planejam e agem com ferramentas (ver apostilas de IA Aplicada) esticam a governança: quem responde quando um agente executa uma ação danosa que ninguém aprovou explicitamente? Respostas emergentes: human-in-the-loop para ações de alto impacto, limites duros (menor privilégio, allowlists), rastreabilidade completa de cada ação a uma intenção, e a manutenção de controle humano significativo como princípio inegociável — o "humano permanece responsável".

9.3 IA de fronteira e risco sistémico

• Frontier AI Safety Frameworks (compromissos de Seul, políticas de "responsible scaling" dos grandes labs): definir capability thresholds a partir dos quais mitigações adicionais (ou pausa) são acionadas — riscos CBRN, cibernético ofensivo, autonomia/perda de controle, persuasão em massa.
• Avaliações de capacidades perigosas e red teaming por terceiros; institutos de segurança de IA (AISI no Reino Unido/EUA) fazendo testes pré-deploy.
• O debate sobre risco catastrófico/existencial vs foco em danos presentes (viés, trabalho, concentração de poder) — uma governança madura leva os dois a sério, sem que um sirva de desculpa para ignorar o outro.

9.4 Auditoria de IA

9.5 Responsabilidade civil

• Na UE, a Diretiva revista de Responsabilidade por Produtos passa a cobrir software e IA como "produtos", com regras de ónus da prova favoráveis à vítima quando há complexidade técnica.
• Contratualmente: cláusulas de alocação de risco entre provider e deployer, indenização por infração de IP nos outputs, SLAs de desempenho e de conformidade.
• Seguros de IA começam a aparecer.

9.6 Sustentabilidade

Treino e inferência de modelos grandes consomem energia e água significativas. Governança madura inclui: medir a pegada (o AI Act pede eficiência energética na documentação de GPAI), escolher o menor modelo que resolve, otimizar inferência (ver apostila de Otimização de Custos de Cloud e IA), e reportar. Cruza com ESG e com FinOps/GreenOps.

10.1 Os perfis que contratam

10.2 Certificações e leituras

• IAPP AIGP (Artificial Intelligence Governance Professional) — a certificação de referência da área; a IAPP também tem material sobre AI Act.
• ISO/IEC 42001 Lead Implementer / Auditor — para quem vai implantar o AIMS.
• Certificações de privacidade (CIPP/E, CIPM) são complementares fortes — muita governança de IA passa por privacidade.
• Leitura obrigatória: o texto do EU AI Act e os guias da AI Office; o NIST AI RMF + Generative AI Profile; a norma ISO/IEC 42001; as OECD AI Principles.
• Acompanhar: a AI Office da UE, a IAPP (newsletters), os blogs de escritórios de advocacia especializados, o "AI Incident Database".

10.3 Roadmap de estudo (8 semanas)

10.4 Banco de perguntas de entrevista (com a resposta que aprova)

10.5 Como demonstrar competência (portfólio)

1. Análise de conformidade (âncora): pegar um produto de IA real ou plausível, classificá-lo pelo EU AI Act, listar as obrigações aplicáveis, e escrever um plano de conformidade com cronograma. Publicar como estudo de caso.
2. Model card + FRIA de exemplo: um model card completo e um esboço de Avaliação de Impacto sobre Direitos Fundamentais para um sistema de alto risco fictício.
3. Estudo de fairness: análise de viés de um dataset público (Fairlearn/AIF360), com as métricas por grupo, a discussão do trade-off e a escolha justificada de uma definição de fairness.
4. Blueprint de programa: o desenho de um programa de governança de IA para uma organização hipotética — inventário, política, gates, comitê, papéis, KPIs.
5. Mapeamento de frameworks: uma matriz que cruza os controles da ISO/IEC 42001 com o NIST AI RMF e com as obrigações do AI Act — útil e demonstra domínio.