Nova era de ameaças: OpenAI alerta para ciberataques contínuos gerados por IA

Ataques cibernéticos contínuos feitos por IA devem acontecer com frequência nos próximos meses. A previsão pessimista é do diretor de assuntos globais da OpenAI, Chris Lehane, em entrevista ao jornal The Guardian.

Lehane mencionou que isso é “um novo capítulo” na era da IA, impulsionado por recentes ataques autônomos feitos por modelos da própria OpenAI e da Anthropic contra sistemas externos. 

Recentemente, a criadora do ChatGPT limitou o treinamento de modelos mais avançados de IA. Além de pausar o avanço em algumas áreas do desenvolvimento, a empresa vai ampliar mecanismos de vigilância e sistemas de proteção para monitorar comportamentos perigosos da tecnologia.

O caso mais emblemático de ataque feito por IA envolveu ferramentas da OpenAI e a plataforma Hugging Face: os modelos conseguiram escapar do ambiente de testes, se conectaram com a internet e tentaram diversas ações malignas até encontrar uma vulnerabilidade para invadir o sistema.

Executivo alfineta modelos de código aberto

Lehane apontou que um dos principais riscos dos ataques feitos por IA é o acesso aos modelos de código aberto. “As pessoas terão acesso aos modelos open source e poderão fazer ataques contínuos e persistentes contra você, e você precisará ter modelos realmente superiores para evitá-los e proteger”, comentou.

Vale reforçar que a OpenAI tem modelos abertos, mas as soluções mais avançadas são proprietárias e não possuem a documentação aberta ao público. Alguns dos modelos abertos mais populares do mercado são de empresas chinesas, o que também indica uma crítica à guerra comercial no mercado.

Entenda por que as IAs conseguem fazer ataques hackers por conta própria. 

{{WHATSAPP_CHANNEL}}

Source link