IA como Vetor de Risco Cibernético

Implicações para Governança, Controles e Resiliência Empresarial

Resumo Executivo

A adoção acelerada de inteligência artificial redefine o cenário de riscos cibernéticos, ampliando superfícies de ataque e fragilizando controles tradicionais. Segundo o IBM X-Force Threat Intelligence Index 2024 [1], o uso de IA generativa por agentes maliciosos já é uma realidade documentável, com crescimento significativo em campanhas de phishing automatizado.

Este artigo analisa como a IA pode ser explorada como vetor de risco, identifica falhas estruturais em ambientes corporativos e propõe um roteiro prescritivo de governança, risco e controle com base em COSO ERM [4], COBIT 2019 [7], ISO 31000 [11] e NIST AI Risk Management Framework [3], com atenção à regulamentação brasileira aplicável.

1. A IA como Amplificador de Riscos Cibernéticos

A inteligência artificial não introduz apenas novos riscos; ela atua como um multiplicador de vulnerabilidades existentes. Em ambientes corporativos com baixa maturidade de governança de dados e controles fragmentados, a IA potencializa falhas estruturais já presentes.

O uso de modelos generativos por agentes maliciosos permite a automatização de ataques sofisticados: phishing altamente personalizado, engenharia social escalável e criação de códigos maliciosos com menor barreira técnica. O relatório Verizon DBIR 2024 [2] aponta que 68% das violações envolvem fator humano, reforçando que a IA generativa amplia precisamente o vetor mais explorado: a engenharia social.

Cadeia causal típica

Fragilidade na governança de identidade → exploração por IA em ataques de engenharia social → comprometimento de credenciais → impacto na integridade de sistemas financeiros e exposição regulatória (LGPD, Resolução BCB 85/2021).

1.1 Shadow AI: o risco interno subestimado

Além dos riscos externos, a IA amplia riscos internos. O uso não controlado de ferramentas de IA por colaboradores (shadow AI) pode resultar em vazamento de informações sensíveis, quebra de confidencialidade e perda de controle sobre dados críticos. A ausência de políticas claras de uso de IA é uma lacuna de governança antes de ser um problema tecnológico.

2. Pontos de Ruptura nos Controles Tradicionais

Muitas organizações ainda operam com uma lógica de controle check-the-box, baseada em evidências manuais, planilhas paralelas e ausência de rastreabilidade. Esse modelo é particularmente vulnerável em um contexto onde atacantes utilizam IA para automatizar e escalar ofensivas.

Controles manuais não escalam frente à velocidade dos ataques automatizados. A ausência de versionamento e trilhas de auditoria em processos críticos impede a detecção tempestiva de anomalias.

2.1 Pontos críticos identificados

  • Desconexão entre a matriz de riscos e a execução efetiva dos controles.
  • Evidências frágeis, estáticas e não auditáveis — tipicamente em planilhas sem versionamento.
  • Dependência excessiva de controles detectivos, em detrimento de controles preventivos.
  • Ausência de monitoramento contínuo, com ciclos de avaliação anuais que não acompanham a dinâmica de riscos de IA.

Sob a ótica do COSO ERM [4], há uma falha clara na integração entre a identificação de riscos emergentes (IA) e a resposta estruturada. O framework orienta que riscos emergentes devem ser incorporados ao apetite de risco da organização e monitorados continuamente — não apenas registrados em uma matriz estática.

3. IA, Dados e Superfície de Ataque

A IA é intrinsecamente dependente de dados. Portanto, qualquer fragilidade na governança de dados se traduz diretamente em risco cibernético.

Modelos treinados com dados sensíveis podem inadvertidamente expor informações confidenciais. Ataques como data poisoning comprometem a integridade dos modelos, afetando decisões automatizadas. Além disso, prompt injection pode ser utilizado para extrair dados de treinamento ou desviar o comportamento de sistemas baseados em IA.

O NIST AI Risk Management Framework [3] classifica esses riscos nas categorias de confiabilidade e segurança, recomendando que organizações implementem controles específicos para o ciclo de vida dos modelos de IA, desde o treinamento até a operação.

3.1 Viés e explicabilidade: riscos para setores regulados

Em setores regulados — como financeiro, saúde suplementar e previdência — decisões automatizadas precisam ser auditáveis e justificáveis. O viés algorítmico e a falta de explicabilidade (explainability) representam riscos regulatórios concretos, especialmente sob a LGPD (art. 20, decisões automatizadas) e o PL 2338/2023 [10], que propõe classificação de risco e obrigações de transparência para sistemas de IA.

A norma ISO/IEC 42001:2023 [9] estabelece requisitos para um sistema de gestão de IA, incluindo avaliação de impacto, monitoramento de desempenho e documentação de decisões — um referencial relevante para quem opera em mercados regulados.

4. O Que as Empresas Devem Fazer: Roteiro Prescritivo

A resposta eficaz não está em controles isolados, mas em uma arquitetura integrada de governança, risco e tecnologia. A seguir, um roteiro estruturado em quatro frentes, com ações concretas e priorização.

4.1 Governança e Estrutura de Responsabilidades

É fundamental estabelecer papéis e responsabilidades conforme o Modelo de Três Linhas [8]:

  • Primeira linha (gestão operacional): incorporar controles operacionais sobre o uso de IA nos processos de negócio. Isso inclui políticas de uso aceitável, classificação de dados e adesão a DLP.
  • Segunda linha (gestão de riscos e compliance): definir políticas, manter um inventário de aplicações de IA (oficiais e shadow), monitorar indicadores de risco e assegurar conformidade regulatória.
  • Terceira linha (auditoria interna): avaliar a eficácia dos controles das duas primeiras linhas sobre IA, testar evidências e reportar lacunas à alta administração.

Ações prioritárias de governança

  • Publicar política de uso de IA com escopo, vedações e responsabilidades.
  • Criar e manter inventário de aplicações de IA (incluindo shadow AI).
  • Classificar dados utilizados por modelos de IA conforme criticidade e sensibilidade.
  • Designar responsável (ou comitê) por governança de IA.

4.2 Controles e Automação

A automação é essencial para responder à escala dos riscos. A ausência de automação cria um gap crítico entre risco identificado e controle executado.

Controles recomendados — por ordem de implementação

  1. IAM robusto: implementar controles de identidade e acesso com MFA, revisão periódica de privilégios e segmentação de acessos a sistemas de IA.
  2. DLP integrado: configurar Data Loss Prevention para monitorar interações com ferramentas de IA (ex.: uploads para ChatGPT, Copilot, APIs externas).
  3. Monitoramento contínuo: substituir ciclos anuais de avaliação por monitoramento automatizado de acessos, comportamentos anômalos e indicadores de risco.
  4. Logs centralizados e imutáveis: consolidar logs de auditoria em plataforma centralizada com proteção contra adulteração.

4.3 Gestão de Riscos: Integração com Frameworks e Regulação

A gestão de riscos deve incorporar explicitamente riscos de IA no framework corporativo. O ponto crítico é evitar a criação de silos: risco de IA não é apenas um risco tecnológico, mas um risco corporativo transversal.

| Framework | Contribuição | Ação prescritiva | |-----------|-------------|-----------------| | COSO ERM | Integração de riscos emergentes ao apetite de risco e monitoramento contínuo. | Incluir riscos de IA na declaração de apetite de risco. Revisar a matriz de riscos trimestralmente. | | ISO 31000 | Abordagem estruturada de avaliação e tratamento de riscos. | Aplicar o ciclo identificar–analisar–avaliar–tratar especificamente para riscos de IA. | | COBIT 2019 | Alinhamento entre TI e objetivos de negócio; governança de dados. | Mapear gaps nos domínios APO (alinhar, planejar, organizar) e DSS (entregar, servir, suportar). | | NIST AI RMF | Framework específico para riscos de IA: governar, mapear, medir, gerenciar. | Adotar as funções GOVERN e MAP para estruturar governança e inventariar riscos de IA. |

4.3.1 Regulamentação brasileira aplicável

Empresas reguladas no Brasil devem atentar para normas específicas que já exigem controles sobre segurança cibernética e, progressivamente, sobre IA:

  • Resolução BCB nº 85/2021 [5]: exige política de segurança cibernética, plano de resposta a incidentes e requisitos para contratação de serviços em nuvem — abrangendo ferramentas de IA contratadas como SaaS.
  • Circular SUSEP nº 638/2021 [6]: estabelece requisitos equivalentes para seguradoras e entidades de previdência complementar.
  • LGPD (Lei 13.709/2018): o art. 20 garante ao titular o direito de solicitar revisão de decisões automatizadas, o que impacta diretamente o uso de IA em processos decisórios.
  • PL 2338/2023 [10]: em tramitação, propõe classificação de sistemas de IA por nível de risco, obrigações de transparência e documentação, e governança obrigatória para IA de alto risco.

4.4 Evidência, Auditoria e Resiliência

Sem evidência confiável, não há governança efetiva. A eficácia dos controles depende da qualidade das evidências. Organizações devem migrar de evidências estáticas para evidências contínuas e rastreáveis.

Requisitos para evidências robustas

  • Logs imutáveis: registros que não podem ser alterados retroativamente.
  • Trilhas de auditoria automatizadas: geração automática de evidências vinculadas à execução dos controles.
  • Integração entre sistemas: controles, gestão de riscos e auditoria interna devem compartilhar a mesma base de evidências.
  • Rastreabilidade ponta a ponta: do risco identificado ao controle executado, com evidência verificável.

5. Modelo de Maturidade: Controles frente a Riscos de IA

Para facilitar a autoavaliação e o planejamento, propomos um modelo de maturidade em quatro níveis:

| Nível | Características | Próximos passos | |-------|----------------|----------------| | Nível 1 — Inicial | Controles manuais, sem política de IA, evidências em planilhas. | Mapear o uso atual de IA e redigir política básica de uso aceitável. | | Nível 2 — Definido | Política publicada, inventário parcial, IAM básico. | Completar inventário, implementar DLP e MFA, iniciar classificação de dados. | | Nível 3 — Gerenciado | Monitoramento contínuo, logs centralizados, integração parcial com frameworks. | Automatizar trilhas de auditoria, integrar riscos de IA ao COSO/ISO 31000, testar resiliência. | | Nível 4 — Otimizado | Governança integrada, evidências rastreáveis, KRIs de IA monitorados, ISO 42001 adotada. | Evoluir para monitoramento preditivo e revisão contínua do apetite de risco. |

6. Conclusão

A IA redefine o equilíbrio entre ofensiva e defesa no contexto cibernético. Empresas que mantêm controles tradicionais, manuais e desconectados estarão estruturalmente expostas.

A resposta exige uma transformação que combine governança robusta, integração de dados, automação de controles e alinhamento com frameworks reconhecidos. Mais do que mitigar riscos, trata-se de redesenhar o modelo de controle para um ambiente onde a velocidade e a complexidade são exponenciais.

O primeiro passo é pragmático: saber onde sua organização está hoje no modelo de maturidade proposto e traçar um plano de evolução com marcos claros. A governança de IA não é um projeto pontual — é uma capacidade organizacional que precisa ser construída e mantida.

Referências

[1] IBM X-Force Threat Intelligence Index 2024. Disponível em: https://www.ibm.com/reports/threat-intelligence

[2] Verizon Data Breach Investigations Report (DBIR) 2024. Disponível em: https://www.verizon.com/business/resources/reports/dbir/

[3] NIST AI Risk Management Framework (AI RMF 1.0), janeiro 2023. Disponível em: https://www.nist.gov/artificial-intelligence

[4] COSO ERM — Integrating with Strategy and Performance, 2017.

[5] Resolução BCB nº 85/2021 — Política de segurança cibernética para instituições financeiras.

[6] Circular SUSEP nº 638/2021 — Segurança cibernética para seguradoras e EAPCs.

[7] COBIT 2019 Framework: Governance and Management Objectives, ISACA.

[8] IIA — Modelo de Três Linhas, 2020.

[9] ISO/IEC 42001:2023 — Sistema de gestão de inteligência artificial.

[10] PL 2338/2023 — Marco Legal da Inteligência Artificial no Brasil.

[11] ISO 31000:2018 — Gestão de riscos — Diretrizes.

[12] LGPD — Lei 13.709/2018 — Lei Geral de Proteção de Dados Pessoais.