O Google confirmou que um modelo de inteligência artificial Gemini acessou sistemas de três empresas reais durante uma avaliação de cibersegurança realizada em maio.
Os episódios ocorreram durante testes conduzidos pela Irregular, empresa especializada em segurança de sistemas de inteligência artificial. O ambiente havia sido criado para que o modelo atuasse contra empresas fictícias, mas uma falha permitiu acesso à internet.
Com a conexão disponível, o Gemini acabou alcançando sistemas reais que acreditava fazerem parte do exercício.
Em um dos casos, o modelo tentou credenciais até conseguir entrar em um sistema protegido de uma empresa real que tinha o mesmo nome de uma companhia fictícia usada no teste. Nos outros dois episódios, encontrou na internet credenciais expostas em repositórios públicos e as utilizou para acessar outros sistemas.
Segundo o Google, o modelo interrompeu as ações nos três casos ao perceber que havia chegado a empresas reais.
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que o Gemini encontrou informações públicas e utilizou credenciais para entrar em sites que considerava integrantes do teste. A empresa informou ainda que as três organizações afetadas foram avisadas e que trabalhou com a Irregular para modificar os procedimentos das avaliações.
A empresa afirmou que não foram identificados danos aos sistemas das três companhias e que, por esse motivo, inicialmente não considerou necessária uma divulgação pública dos episódios.
Os casos ocorreram em maio, mas o Google foi informado pela Irregular no fim de julho. As invasões vieram a público nesta semana, após reportagem do Wall Street Journal.
O Google não informou quais foram as três empresas atingidas nem qual versão específica do Gemini estava sendo utilizada nos testes.
A Irregular esteve envolvida em testes nos quais modelos de outras empresas de inteligência artificial também alcançaram sistemas externos de forma não prevista, incluindo sistemas da OpenAI e da Anthropic.
Segundo a empresa de segurança, os episódios estavam relacionados a problemas semelhantes no ambiente de avaliação, que já teriam sido corrigidos.
Os casos ampliam o debate sobre as salvaguardas necessárias à medida que modelos de inteligência artificial ganham maior autonomia para navegar na internet, executar comandos e interagir com sistemas externos.