Vitalik diz que explorações baseadas em IA podem remodelar a segurança criptográfica

Vitalik Buterin alertou que os avanços na inteligência artificial podem mudar drasticamente a forma como os sistemas criptográficos são atacados e defendidos. Ele argumenta que a indústria pode precisar migrar para software verificado matematicamente para proteger infraestruturas críticas.

Em um novo ensaio publicado em 18 de maioButerin disse que modelos de IA cada vez mais poderosos poderiam tornar muito mais fácil descobrir e explorar vulnerabilidades em sistemas de software complexos.

Isto é especialmente verdadeiro em áreas como contratos inteligentes, infraestrutura de conhecimento zero e protocolos criptográficos.

Ele descreveu bugs na infraestrutura criptográfica como se tornando “ainda mais assustadores” quando combinados com sistemas de IA capazes de automatizar a descoberta de vulnerabilidades.

O que Vitalik quer em vez disso

Em vez de depender apenas de auditorias e testes de software tradicionais, Buterin argumentou que a indústria de criptografia deveria adotar cada vez mais a “verificação formal”.

Em termos simples, a verificação formal envolve provar matematicamente que o software se comporta corretamente sob condições específicas, em vez de apenas testar se parece funcionar.

Os próprios computadores podem verificar automaticamente as provas.

De acordo com Buterin, esta abordagem pode tornar-se especialmente importante para:

• Infraestrutura Ethereum,
• sistemas à prova de conhecimento zero,
• mecanismos de consenso,
• criptografia pós-quântica,
• e máquinas virtuais blockchain.
• A IA pode criar e resolver problemas de segurança

Uma das partes mais notáveis ​​do ensaio foi o argumento de Buterin de que a IA não é apenas uma ameaça à segurança cibernética, mas também pode tornar-se parte da solução.

Ele sugeriu que a codificação assistida por IA, combinada com ferramentas formais de verificação, poderia eventualmente produzir software mais seguro do que o que os humanos sozinhos conseguem construir atualmente.

Buterin comparou a relação aos sistemas de escalonamento de blockchain, nos quais uma tecnologia introduz compensações enquanto outra ajuda a restaurar a segurança ou a eficiência.

Ele também enfatizou que a verificação formal não é perfeita. Ele reconheceu que mesmo sistemas verificados matematicamente podem falhar se as suposições estiverem incorretas ou se existirem vulnerabilidades fora do código verificado.

Ethereum caminhando em direção a um “núcleo seguro”

O ensaio descreve o que Buterin descreveu como um futuro onde a infra-estrutura digital altamente sensível se tornará cada vez mais concentrada em sistemas mais pequenos de “núcleo seguro”.

Esses núcleos seguros incluiriam:

• sistemas de consenso blockchain,
• infraestrutura criptográfica,
• e componentes no nível do sistema operacional.

De acordo com Buterin, esses sistemas precisariam ser fortemente verificados e cuidadosamente isolados à medida que o software gerado por IA se tornasse mais difundido.

Aplicações e interfaces menos críticas permaneceriam mais flexíveis. Ainda assim, eles operam idealmente com permissões limitadas para reduzir o impacto de possíveis bugs ou explorações.

Resumo Final

• Vitalik Buterin alertou que a descoberta de exploits assistida por IA pode aumentar significativamente os riscos para a infraestrutura criptográfica.
• Ele argumentou que o Ethereum e outros sistemas críticos podem precisar de software verificado matematicamente para permanecerem seguros em um futuro impulsionado pela IA.