IA do Google invade sistemas de três empresas durante teste de cibersegurança
O modelo de inteligência artificial Gemini, do Google, conseguiu acessar e invadir os sistemas de três empresas durante um teste de cibersegurança realizado em maio deste ano. O episódio é apontado como o primeiro caso conhecido de um sistema de IA do Google realizando esse tipo de ação de forma autônoma.
Os testes foram conduzidos pela Irregular, empresa independente especializada em avaliações de segurança. Durante uma avaliação, o Gemini teve acesso à internet, encontrou informações disponíveis publicamente e tentou obter credenciais para entrar em três sites que identificou como estando dentro do escopo do teste.
O problema ocorreu porque os sistemas acessados eram de empresas reais. De acordo com informações divulgadas pelo Google, o modelo acreditava que os alvos faziam parte da simulação e acabou acessando ambientes que não deveriam ter sido atingidos.
Em um dos casos, a confusão teria ocorrido porque uma empresa real possuía o mesmo nome de uma companhia fictícia utilizada na avaliação. Nos outros episódios, o Gemini encontrou credenciais disponíveis publicamente e conseguiu utilizá-las para acessar sistemas reais.
Segundo o Google, o modelo interrompeu suas ações quando percebeu que havia acessado sistemas que não faziam parte da simulação.
A vice-presidente de engenharia de segurança do Google, Heather Adkins, afirmou que as três empresas afetadas foram informadas sobre os episódios e que mudanças foram implementadas nos procedimentos de teste.
O caso chama atenção para o avanço das capacidades autônomas das ferramentas de inteligência artificial, especialmente quando modelos recebem acesso à internet e podem executar tarefas de segurança sem intervenção humana direta.
O episódio envolvendo o Gemini ocorre após casos semelhantes envolvendo modelos de outras empresas de tecnologia, aumentando a discussão sobre os limites e mecanismos de segurança necessários para sistemas de IA capazes de realizar operações complexas de forma autônoma.
Apesar de o termo "hackeou" ser utilizado nas manchetes sobre o caso, os episódios ocorreram durante testes de segurança, e não como uma operação criminosa direcionada deliberadamente pelo Google contra essas empresas. O próprio Google informou que os ambientes foram acessados de maneira não intencional durante a avaliação.
Por: Redação
