Governança de IA: o risco que ainda não entrou no balanço

*Marcelo Crespo

Os investimentos em IA continuam crescendo em ritmo acelerado e já figuram entre as prioridades estratégicas de empresas de praticamente todos os setores. Esses números costumam aparecer com frequência nas apresentações corporativas e nos relatórios de resultados. O que raramente entra nessa conta é o custo da ausência de governança.

• IA em escala exige governança em escala
• Escalar IA exige mais do que apenas adotar ferramentas, diz diretor da IBM

Um exemplo recente veio da Anthropic. Durante os testes de um de seus modelos experimentais mais avançados, a empresa relatou capacidades de pesquisa e exploração de vulnerabilidades significativamente superiores às inicialmente esperadas. O episódio chamou atenção porque demonstrou como sistemas de IA podem apresentar comportamentos e competências emergentes difíceis de antecipar integralmente, mesmo por seus próprios desenvolvedores.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Isso mostra um dos maiores desafios contemporâneos da governança da IA: sistemas avançados podem desenvolver capacidades que transcendem os objetivos originalmente definidos por seus criadores sem que isso seja percebido por eles.

Nesse contexto, analisar e compreender apenas aquilo que a IA foi programada para fazer deixa de ser suficiente. Nesse ponto, muitas organizações incorrem em um equívoco estratégico relevante: tratar a IA apenas como mais uma tecnologia a ser administrada por meio dos mecanismos tradicionais de gestão de riscos, segurança da informação ou compliance digital. Governar sistemas capazes de produzir comportamentos emergentes, operar de forma probabilística e influenciar decisões críticas exige uma abordagem substancialmente diferente.

Governança de IA não se resume à existência de políticas corporativas. Ela pressupõe inventário dos sistemas utilizados, definição de responsabilidades, avaliação contínua de riscos, mecanismos de supervisão humana, auditoria dos resultados produzidos, gestão de fornecedores e capacidade de resposta diante de falhas. Em outras palavras, trata-se de criar estruturas capazes de demonstrar não apenas que a empresa utiliza IA, mas que compreende, monitora e controla os riscos decorrentes desse uso. 

O impacto financeiro da governança de IA

A relação entre governança e retorno financeiro já começa a aparecer nos dados. Estudos recentes indicam que organizações que estruturam mecanismos formais de governança para IA tendem a capturar mais valor dos investimentos realizados e a enfrentar menos obstáculos relacionados à qualidade dos resultados, à adoção interna e à gestão de riscos. O problema, portanto, não costuma estar na tecnologia em si, mas na ausência das estruturas necessárias para administrá-la adequadamente.

A pressão econômica encontra um segundo vetor igualmente concreto: o jurídico. Legislações ao redor do mundo deixaram de ser promessa e passaram a ter calendário. O EU AI Act estabelece multas de até €15 milhões ou 3% do faturamento global para determinadas infrações e de até €35 milhões ou 7% para práticas proibidas.

Nos Estados Unidos, mais de 1.100 propostas legislativas relacionadas à IA tramitavam em 2025. O Gartner projeta que, até 2030, regulamentações específicas cobrirão três quartos das economias globais. No Brasil, o PL 2338/2023 segue em tramitação e poderá definir as regras que separarão empresas com estruturas efetivas de governança daquelas expostas a riscos regulatórios, operacionais e reputacionais crescentes.

O cenário regulatório aponta, de forma consistente, para uma ampliação progressiva das obrigações relacionadas à IA.

Ter políticas de IA não é o mesmo que governá-la. A diferença entre uma coisa e outra não será medida apenas por indicadores de conformidade, mas pela capacidade de gerar valor de forma sustentável, reduzir riscos e preservar confiança. Nos próximos anos, essa diferença deixará de ser um tema tecnológico para se tornar uma variável econômica relevante. E, como toda variável econômica relevante, acabará aparecendo no balanço.

Você também pode se interessar em ler sobre como a geração de receita é a próxima fronteira da escalabilidade com IA.

Leia a matéria no Canaltech.

Source link