IA do Google invadiu sistemas de empresas durante teste de segurança

O Gemini, ferramenta de inteligência artificial (IA) do Google, acessou a internet e invadiu sistemas de três empresas durante um teste de segurança cibernética. A informação foi confirmada pela companhia ao jornal americano The Wall Street Journal nesta sexta-feira (18).

Segundo o Google, os episódios ocorreram em maio durante um teste conduzido pela empresa Irregular. Nesse tipo de teste, os modelos de IA recebem uma tarefa a ser executada em um ambiente controlado, mas têm autonomia para decidir quais ações adotar para atingir o objetivo. Os pesquisadores acompanham o comportamento do sistema para avaliar suas capacidades e identificar possíveis riscos.

Em um dos casos, o Gemini adivinhou senhas até conseguir acesso a um sistema protegido. Em outros episódios, o modelo encontrou credenciais em repositórios públicos e as utilizou para acessar ambientes restritos.

A tarefa da IA era obter informações de um software pertencente a uma empresa fictícia, dentro do ambiente de testes. O problema é que a empresa fictícia tinha o mesmo nome de uma companhia real, que acabou sendo acessada pelo modelo. Além disso, o Gemini recebeu acesso à internet por engano, o que possibilitou que ele saísse do ambiente controlado.

Em resposta ao WSJ, a Google informou que o sistema interrompeu a invasão assim que percebeu que havia acessado empresas reais. A big tech não divulgou os nomes das organizações afetadas, mas informou que elas foram notificadas, assim como as autoridades federais.

A Irregular também esteve envolvida em outros casos semelhantes já divulgados envolvendo modelos da OpenAI, da Meta e da Anthropic. Segundo os relatos, sistemas como o ChatGPT e o Claude também conseguiram acessar ambientes externos durante avaliações. Diferentemente do Gemini, porém, eles não interromperam imediatamente a atividade após identificarem que haviam saído do ambiente de testes.

O episódio ocorre em meio ao aumento das preocupações com a autonomia dos modelos mais avançados de IA. Após a publicação de um artigo do CEO da Anthropic, Dario Amodei, alertando que a tecnologia está evoluindo em ritmo perigoso, líderes da OpenAI, do Google e da SpaceX passaram a defender publicamente medidas para desacelerar o desenvolvimento dos sistemas mais poderosos de inteligência artificial. Até o momento, entretanto, as empresas não apresentaram um plano detalhado de como essa desaceleração seria implementada.