A IA de código aberto pode nos matar. A IA fechada poderia nos escravizar. Escolha o seu apocalipse.

Há um desconforto familiar surgindo novamente, algo que senti no início de 2010 enquanto assistia as promessas de conexão e comunidade das mídias sociais se desvendarem em manipulação em massa.

O Facebook e os bots de propaganda foram os primeiros dominó. Cambridge Analytica, Brexit, eleições globais, tudo parecia uma traição ao sonho original da Internet.

Agora, na década de 2020, estou assistindo as mesmas forças circular algo ainda mais volátil: Superintelligência Artificial.

Desta vez, as apostas são terminais.

Antes de mergulharmos, preciso deixar claro: quando digo ‘aberto’ vs ‘fechado’ ai, quero dizer a IA de código aberto, que é gratuito e aberto a todos os cidadãos da Terra, vs. IA de código fechado, controlada e treinada por entidades corporativas.

A empresa, o Openai, faz com que o complexo de comparação, uma vez que possui modelos de IA de código fechado (com um plano para lançar uma versão de código aberto no futuro), mas é disputável não uma entidade corporativa.

Dito isto, o executivo -chefe da Openai, Sam Altman, declarado em Janeiro que sua equipe é “Agora confiante que sabemos como construir AGI”E já está mudando seu foco para a superinteligência total.

[AGI is artificial general intelligence (AI that can do anything humans can), and superintelligent AI refers to an artificial intelligence that surpasses the combined intellectual capabilities of humanity, excelling across all domains of thought and problem-solving.]

Outra pessoa focada na Frontier AI, Elon Muskfalando durante um Abril de 2024 Dream ao vivopreviu que ai “provavelmente será mais inteligente do que qualquer um humano no final de [2025]. ”

Os engenheiros que traçam o curso agora estão conversando em meses, não décadas, um sinal de que o fusível está queimando rapidamente.

No coração do debate está uma tensão que me sinto profundamente no meu intestino, entre dois valores que mantenho com convicção: descentralização e sobrevivência.

De um lado é o Ethos de código aberto. A idéia de que nenhuma empresa, nenhum governo, nenhum comitê de tecnocratas não eleito deve controlar a arquitetura cognitiva de nosso futuro.

A ideia de que o conhecimento quer ser livre. Essa inteligência, como bitcoincomo a web antes dela, deve ser um Commons, não uma caixa preta nas mãos do Império.

Por outro lado, está a verdade desconfortável: o acesso aberto a sistemas superinteligentes pode matar todos nós.

Quem consegue construir Deus?

Descentralizar e morrer. Centralize e morre. Escolha o seu apocalipse.

Parece dramáticomas caminhe a lógica adiante. Se conseguirmos criar IA superinteligente, modelos ordens de magnitude mais capazes que GPT-4O, Grok 3 ou Claude 3.7, então quem interage com esse sistema faz mais do que simplesmente use -o; eles moldar. O modelo se torna um espelho, treinado não apenas no corpus do texto humano mas na interação humana viva.

E nem todos os humanos querem a mesma coisa.

Dê um AGI alinhado a um cientista climático ou a uma cooperativa de educadores, e você pode obter reparos planetários, educação universal ou empatia sintética.

Dê o mesmo modelo a um movimento fascista, um biohacker niilista, ou um estado nacional desonesto, e você recebe pandemias de engenharia, enxames de drones ou loops de propaganda recursiva que fraturam a realidade além do reparo.

A IA superinteligente nos torna mais inteligentes, mas também nos torna exponencialmente mais poderosos. E o poder sem sabedoria coletiva é historicamente catastrófica.

Isso aguenta nossas mentes e amplia nosso alcance, mas não garante Sabemos o que fazer com também.

No entanto, a alternativa, travar essa tecnologia por trás dos firewalls corporativos e silos regulatórios, leva a uma distopia diferente. Um mundo onde a cognição se torna proprietária. Onde os modelos lógicos que governam a sociedade são moldados por incentivos ao lucro, não pela necessidade humana. Onde os governos usam a AGI fechada como motores de vigilância e os cidadãos são alimentados com alucinações aprovadas pelo estado.

Em outras palavras: escolha seu pesadelo.

Sistemas abertos levam a caos. Sistemas fechados levam a controlar. E ambos, se não forem controlados, levam a guerra.

Essa guerra não começa com balas. Vai começar com inteligências concorrentesalguns de código aberto, outros corporativos, outros patrocinados pelo Estado, cada um evoluindo para diferentes metas, moldado pelo espectro completo da intenção humana.

Vamos pegar um AGI descentralizado Treinado por ativistas da paz e biohackers de código aberto. UM nacionalista Agi alimentado com doutrina isolacionista. UM AGI corporativo Ajustado para maximizar os retornos trimestrais a qualquer custo.

Esses sistemas não simplesmente discordam. Eles entrarão em conflito, inicialmente no código, depois no comércio, depois no espaço cinético.

Eu acredito na descentralização. Eu acredito que é um dos únicos caminhos Capitalismo de vigilância em estágio tardio. Mas a descentralização do poder só funciona quando há um substrato compartilhado de confiança, de alinhamento, de regras que não podem ser reescritas por um capricho.

O Bitcoin funcionou porque descentralizou escassez e verdade ao mesmo tempo. Mas a superinteligência não mapeia para a escassez, ela mapeia a cognição, a intenção, a ética. Ainda não temos um protocolo de consenso para isso.

O trabalho que precisamos fazer.

Precisamos construir sistemas abertosmas eles devem estar abertos dentro de restrições. Não há incêndios idiotas de potencial infinito, mas guardados sistemas com corrimões criptográficos. Altruísmo assado nos pesos. Arquitetura moral não negociável. Uma caixa de areia que permite a evolução sem aniquilação.

[Weights are the foundational parameters of an AI model, engraved with the biases, values, and incentives of its creators. If we want AI to evolve safely, those weights must encode not only intelligence, but intent. A sandbox is meaningless if the sand is laced with dynamite.]

Precisamos de ecossistemas multi-agentes, onde as inteligências discutem e negociam, como um parlamento das mentes, não uma entidade de Deus singular que dobra o mundo para uma agenda. A descentralização não deve significar caos. Deve significar pluralidade, transparência e consentimento.

E precisamos de governança, não controle de cima para baixo, mas responsabilidade no nível do protocolo. Pense nisso como um Convenção da AI Genebra. Uma estrutura criptograficamente auditável sobre como a inteligência interage com o mundo. Não é uma lei. Uma camada.

Eu não tenho todas as respostas. Ninguém faz. É por isso que isso importa agora, antes que a arquitetura calcifique. Antes do poder centraliza ou fragmentos irrevogavelmente.

Não estamos simplesmente construindo máquinas que pensam. As mentes mais inteligentes da tecnologia estão construindo o contexto em que o próprio pensamento evoluirá. E se algo como a consciência surgir nesses sistemas, isso nos refletirá, nossas falhas, nossos medos, nossas filosofias. Como uma criança. Como um deus. Como ambos.

Esse é o paradoxo. Devemos descentralizar para evitar dominação. Mas, ao fazer isso, corremos o risco de destruição. O caminho para a frente deve enfiar essa agulha, não desacelerando, mas projetando com sabedoria e juntos.

O futuro já está sussurrando. E está fazendo uma pergunta simples:

Quem pode moldar a mente da próxima inteligência?

Se a resposta for “todo mundo”, então é melhor significar isto, Eticamente, estruturalmente, e com um plano sobrevivente.