Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
IA amplia desigualdades e desafia democracia no Brasil
A revolução da inteligência artificial já não é promessa. É uma realidade em curso cuja velocidade de transformação rivaliza com a da Revolução Industrial. O problema, como alertou o congressista americano Ro Khanna em manifesto publicado na revista The Nation neste mês, é que os benefícios dessa revolução estão sendo capturados por uma camada minúscula de oligarcas tecnológicos, enquanto a maioria da população assiste à concentração de poder e riqueza com crescente angústia e impotência.
O artigo de Khanna, intitulado “AI for the People”, e o ensaio que o acompanha, assinado pelo senador Bernie Sanders, formam um manifesto político que deveria reverberar muito além das fronteiras americanas — especialmente no Brasil e no Sul Global, onde a exclusão digital e a opacidade algorítmica ameaçam aprofundar desigualdades históricas. Khanna é direto: empresas com mais de US$ 18 trilhões em capitalização de mercado — mais de um quarto de toda a bolsa americana — operam sem um contrato social adequado com a população.
A premissa que ele articula é simples e contundente: a inteligência artificial deve servir à humanidade, não ao lucro de uma classe bilionária que aspira a se tornar trilionária às custas da sociedade. O “progresso” da IA não pode ser medido pela riqueza acumulada por seus controladores, mas pela saúde democrática das sociedades em que opera. Essa advertência encontra tradução imediata no contexto brasileiro.
O Brasil ainda possui mais de 45 milhões de pessoas sem acesso pleno à internet, segundo dados da TIC Domicílios. Ao mesmo tempo, sistemas de IA já estão presentes no cotidiano de cidadãos hipervulneráveis — na concessão de benefícios sociais como o BPC e o Bolsa Família, no policiamento preditivo em periferias, no crédito bancário e na precificação de seguros. Em todos esses casos, algoritmos tomam decisões sem explicar, discriminam sem accountability e excluem sem possibilidade real de recurso. A inclusão digital, portanto, não se resume à infraestrutura: trata-se de uma disputa de poder sobre quem controla os sistemas que, na prática, controlam vidas.
Nos últimos anos, o Brasil avançou no governo digital. A plataforma Gov.br centraliza serviços para mais de 150 milhões de cidadãos cadastrados, enquanto o uso de IA para triagem, análise e decisão em políticas públicas cresce de forma acelerada. Isso, por si só, não é negativo. A automação pode reduzir custos, ampliar a eficiência e diminuir arbitrariedades humanas. O risco está em confundir eficiência técnica com justiça substantiva.
Bernie Sanders alerta que é necessário estabelecer “trilhos claros e aplicáveis”, com verificação obrigatória por terceiros de modelos avançados de IA, para evitar danos sociais relevantes. No contexto jurídico brasileiro, isso significa que não basta que os sistemas funcionem: eles precisam ser auditáveis, contestáveis e submetidos a controle externo. A Lei Geral de Proteção de Dados (LGPD) avançou ao garantir o direito à revisão de decisões automatizadas, mas o arcabouço regulatório ainda é insuficiente diante da escala e da complexidade dos sistemas atualmente em operação.
O PL 2338/2023, aprovado pelo Senado como principal candidato a uma Lei Brasileira de IA, incorpora avanços relevantes, como a classificação de sistemas de alto risco e a exigência de avaliações de impacto algorítmico. Ainda assim, especialistas apontam fragilidades importantes, como a ausência de mecanismos robustos de enforcement, a falta de um órgão regulador com independência e capacidade técnica e a insuficiência de garantias de participação da sociedade civil, especialmente das comunidades mais afetadas.
O debate se torna ainda mais sensível quando se trata de vigilância. Khanna relata que o Departamento de Defesa dos Estados Unidos tentou utilizar sistemas de IA para vigilância doméstica em massa e aplicações militares autônomas — proposta recusada pelo CEO da Anthropic. O episódio levanta uma questão central: quantos recusariam? E, sobretudo, quem fiscaliza?
No Brasil, o cenário também é preocupante. Sistemas de reconhecimento facial já operam em aeroportos, estações de transporte e eventos públicos sem regulação específica, sem padrões técnicos obrigatórios e sem transparência sobre os bancos de dados utilizados — frequentemente enviesados contra pessoas negras e mulheres, como demonstrado por pesquisas internacionais. Estudos do Instituto Igarapé e da rede Lavits já documentaram casos em que essas tecnologias contribuíram para a prisão de inocentes no Rio de Janeiro e em São Paulo.
Esse cenário confronta diretamente a tradição constitucional brasileira. A Constituição de 1988 estabelece como fundamentos da República a dignidade da pessoa humana e a cidadania. O Supremo Tribunal Federal já reconheceu a proteção de dados pessoais como direito fundamental autônomo. Nesse contexto, qualquer sistema de vigilância que opere de forma opaca, sem base legal específica, sem proporcionalidade e sem controle independente, entra em tensão com esse núcleo constitucional.
A governança da inteligência artificial, especialmente em contextos de vigilância, exige parâmetros mínimos: avaliações prévias de impacto em direitos fundamentais, restrições ao uso de reconhecimento facial em espaços públicos sem autorização legal específica, garantia de contestação das decisões automatizadas e auditorias independentes com participação da sociedade civil. O modelo europeu, ainda que imperfeito, já caminha nessa direção.
Nenhuma dessas garantias, no entanto, será suficiente se a inclusão digital continuar sendo tratada como política de mercado e não como direito. Sanders propõe, nos Estados Unidos, um programa inspirado no New Deal, com expansão da educação técnica, criação de mecanismos de distribuição de valor gerado por dados e tributação de empresas que substituem trabalhadores por IA. No Brasil, isso se traduziria na ampliação efetiva da conectividade em áreas periféricas e rurais, na inclusão do letramento digital como política educacional estruturante e na criação de canais reais de participação social sobre o uso da tecnologia.
O pano de fundo é a desigualdade. Nos Estados Unidos, 19 bilionários concentram US$ 3,3 trilhões — o equivalente à produção anual do país. No Brasil, o 1% mais rico detém cerca de 48% da riqueza nacional, segundo a Oxfam. Sem um novo contrato social, a inteligência artificial não reduzirá essa desigualdade — tende, ao contrário, a ampliá-la.
O futuro da inteligência artificial não pode ser definido apenas por grandes corporações tecnológicas. Como resume Khanna, ele precisa ser construído coletivamente. Trata-se de uma exigência institucional, jurídica e ética. Regular a IA com inclusão real significa garantir que seus benefícios alcancem a maioria da população, que seus riscos não recaiam de forma desproporcional sobre os mais vulneráveis e que seus sistemas sejam transparentes, auditáveis e passíveis de contestação.
O Brasil dispõe de bases importantes — uma Constituição robusta, a LGPD, um projeto de lei em tramitação e uma sociedade civil ativa. O que falta é decisão política para colocar as pessoas, todas elas, no centro da revolução tecnológica. Antes que seja tarde demais.
