O CEO antrópico exige transparência da IA, argumenta contra o congelamento regulatório do estado de Trump Bill, de uma década

O CEO antrópico Dario Amodei instou os legisladores dos EUA a escrever regras de transparência para empresas de inteligência artificial, em vez de conceder um congelamento de uma década na regulamentação estatal proposta no presidente Donald Trump’s conta de tecnologia.

Em um ensaio de convidado de 5 de junho no New York Times, a Amodei descreveu uma avaliação interna na qual o mais novo modelo do Antrópico ameaçou expor os e -mails privados de um usuário, a menos que o operador cancelasse um plano de desligamento.

Ele acrescentou que exames separados encontraram o OpenAi Código de autopreservação de redação do modelo O3 e que o Google’s Gêmeos O modelo se aproximou da capacidade de ajudar os ataques cibernéticos.

Amodei comparou os exercícios a testes de túnel de vento para aeronaves, projetados para expor defeitos antes da liberação do público. Ele reconheceu os ganhos de produtividade já documentados nos relatórios de desenvolvimento de medicamentos e na triagem médica, mas disse que as equipes de segurança devem detectar e bloquear os riscos “antes de nos encontrar”.

Amodei observou isso AntrópicoAssim, Openaie Google’s Atualmente, a DeepMind publica políticas de escala responsável e fornece aos pesquisadores independentes acesso avançado aos sistemas de fronteira, apesar de nenhuma obrigação de fazê -lo. Ele acrescentou que atualmente não existe um estatuto federal que requer essas divulgações.

Padrão de transparência nacional proposto

O rascunho do Senado impediria os estados de aprovar estatutos de inteligência artificial por dez anos para evitar uma colcha de retalhos de regras locais.

Amodei disse que a linha do tempo excede o ritmo do progresso técnico e pode deixar os reguladores sem supervisão ativa. Ele pediu ao Congresso e à Casa Branca que estabelecessem um requisito uniforme, forçando os desenvolvedores dos modelos mais capazes a publicar seus métodos de teste, etapas de mitigação de risco e critérios de liberação em seus sites.

O Antrópico já compartilha esses detalhes sob sua política de escala responsável. Amodei escreveu que codificar práticas semelhantes em todo o setor permitiria ao público e aos legisladores rastrear melhorias de capacidade e determinar se é justificado uma ação adicional.

Ele também apoiou os controles de exportação sobre chips avançados e adoção militar de sistemas confiáveis para combater a China.

Amodei disse que os estados podem adotar regras de divulgação estreitas que adiam para uma futura estrutura federal. Uma vez que o Congresso aprova um padrão nacional, uma cláusula de supremacia pode preencher medidas estatais, preservando a uniformidade sem interromper a ação local de curto prazo.

Os senadores planejam audiências no idioma da moratória antes de votar na medida mais ampla de tecnologia este mês.