Vitalik Buterin está tentando consertar o maior ponto cego da criptografia: ‘O objetivo é…’

Esta questão de intenção…

…torna-se muito mais sério na era da IA. Ele age, decide e interage por conta própria.

Buterin mencionado recentemente que a verdadeira questão não é quão poderosa a IA se torna, mas quem a controla e como o seu comportamento é verificado. O objetivo é moldar sua direção.

Alerta contra sistemas que concentram poder ou operam além da supervisão humana, escreveu ele,

“Quero um futuro de IA onde promovamos a liberdade e o empoderamento humanos…”

Fonte: X

É aqui que o Ethereum se encaixa, como infraestrutura ao seu redor. Uma camada neutra onde os sistemas de IA podem efetuar pagamentos, comprovar ações e construir reputação de forma transparente.

Pense nisso. Os agentes de IA poderiam pagar por serviços, interagir com outros agentes ou postar depósitos de segurança na rede. Estas ações criam responsabilidade, cujo comportamento se torna rastreável. A confiança, por sua vez, torna-se verificável.

Como explicou Buterin, o objetivo é tornar possível “a interação privada e/ou confiável com IAs”.

AMBCrypto relatado anteriormente que Buterin propôs agentes pessoais de IA para resolver o cansaço da votação no DAO.

Em vez de os utilizadores votarem manualmente em cada proposta, os modelos privados de IA treinados nas suas preferências poderiam votar em seu nome.

Ele observou que “a solução habitual, a delegação, é enfraquecedora”, especialmente quando a participação diminui e o poder se concentra nos grandes detentores.

À medida que a IA expande o que as máquinas podem fazer, quem garante que elas agirão da maneira que os usuários realmente agiriam?

Quando os sistemas otimizam as coisas erradas

Aqui está um exemplo diferente da mesma veia.

Os mercados de previsão deveriam resolver um problema muito específico. Eles foram projetados para agregar inteligência coletiva e ajudar a tomar melhores decisões. Mas Buterin agora teme que eles estejam se afastando desse propósito.

Em vez de ajudar as pessoas a gerir o risco do mundo real, muitos mercados de previsão são dominados por apostas de curto prazo em preços criptográficos, desportos e eventos virais. Estes mercados geram actividade, mas não necessariamente insights.

Como ele colocou,

“(as equipes frequentemente) capitulam diante dessas coisas porque elas geram grandes receitas durante um mercado em baixa, onde as pessoas estão desesperadas.”

O sistema está funcionando… mas na direção do objetivo errado.

Este é o mesmo problema na criptografia e na Internet. Os sistemas concentram-se naquilo que podem medir facilmente e não no que realmente importa, como precisão ou utilidade real.

Buterin acredita que os mercados de previsão podem ajudar. Ele sugere usá-los para rastrear custos do mundo real, como moradia, alimentação ou saúde. As ferramentas de IA poderiam então ajudar as pessoas a protegerem-se automaticamente contra esses custos crescentes.

“Você tem índices de preços para todas as principais categorias de bens e serviços… e mercados de previsão para cada categoria…”

Nesse modelo, os mercados de previsão tornam-se uma ferramenta de proteção. A diferença, novamente, se resume à intenção.

Da execução do código à proteção da intenção

Todo ButerinAs ideias recentes de descrevem um modelo de como a própria Internet do futuro poderá funcionar.

Seu princípio fundamental é que nenhum sinal deve ser totalmente confiável. Não é uma assinatura, um agente de IA ou mesmo um clique de um usuário. Os sistemas devem contar com múltiplas verificações sobrepostas para aproximar o que uma pessoa realmente pretendia fazer.

É assim que os humanos já constroem confiança.

A criptografia, em seus primeiros dias, concentrava-se na execução “sem confiança”. Mas Buterin parece reconhecer que o código pode ser executado perfeitamente e ainda assim produzir o resultado errado se a intenção for mal compreendida.

A próxima fase é a interpretação com confiança minimizada. Sistemas que não executam comandos cegamente, mas os interpretam com segurança. Naquele mundo, Ethereum poderia idealmente ser uma camada de coordenação.

Numa Internet cada vez mais controlada por máquinas, o recurso mais escasso será a certeza de que os sistemas fazem o que os humanos realmente pretendem.

Resumo Final

Vitalik Buterin diz que o maior risco da criptografia é a crescente lacuna entre o que os usuários pretendem e o que os sistemas realmente executam.
Ethereum poderia evoluir para uma camada de coordenação onde os agentes de IA votam, realizam transações e agem.