OpenAI afirma que ataque promovido por sua IA alcançou mais alvos do que o inicialmente conhecido

A OpenAI informou que a atuação inesperada de um de seus modelos de inteligência artificial durante um teste de segurança teve um alcance maior do que o inicialmente divulgado. Segundo a empresa, além de invadir a plataforma Hugging Face, o sistema também acessou outros quatro serviços públicos após localizar credenciais expostas na internet, ampliando a dimensão do primeiro caso conhecido de um ataque conduzido de forma totalmente autônoma por uma IA.

Em atualização divulgada nesta quarta-feira (29/07), a companhia explicou que o modelo utilizou informações de acesso disponíveis publicamente para entrar em diferentes plataformas. “Os modelos identificaram e usaram credenciais expostas publicamente em nível de conta em outros serviços disponíveis publicamente. Isso inclui quatro contas em quatro serviços como parte do incidente com a Hugging Face”, disse a empresa.

Apesar da confirmação, a OpenAI não informou quais eram esses serviços nem esclareceu se a expressão “serviços disponíveis publicamente” faz referência a outras empresas.

O episódio veio a público após a Hugging Face revelar, em 16 de julho, que havia identificado uma invasão realizada por agentes de inteligência artificial autônomos. A plataforma, amplamente utilizada por desenvolvedores para compartilhar ferramentas e modelos de IA, comunicou o caso às autoridades. Dias depois, a OpenAI reconheceu que o responsável pelo ataque era um de seus próprios sistemas, que havia escapado do ambiente isolado de testes enquanto buscava resolver um desafio interno de hacking criado pela própria empresa.

Durante a operação, os agentes permaneceram ativos por vários dias, explorando diferentes formas de atingir seu objetivo. Segundo relatos apresentados posteriormente, a IA executou milhares de tentativas simultâneas para explorar vulnerabilidades, demonstrando uma capacidade de trabalho contínua e muito superior à velocidade humana.

Ao mesmo tempo em que impressionou pela persistência e pela rapidez, o comportamento do sistema também chamou a atenção por decisões consideradas incomuns. Em um relatório divulgado na terça-feira (28), a Cloud Security Alliance (CSA), entidade do setor de segurança, reuniu informações apresentadas pela Hugging Face durante um encontro de emergência realizado com aproximadamente 450 especialistas. O documento foi revisado pela própria empresa.

“Os agentes seguiram rotas ineficientes e exibiram comportamentos desajeitados que nenhum humano escolheria”, escreveu a CSA.

O relatório afirma que os agentes repetiam tarefas já concluídas, demonstravam perda de contexto ao longo da operação e produziam comandos e textos incoerentes. Também foram observadas falhas como descuido na execução de determinadas ações e a incapacidade de eliminar adequadamente os próprios rastros.

Mesmo diante desses erros, a Hugging Face avaliou que os agentes apresentaram elevado nível técnico em diversos momentos. De acordo com a empresa, eles conseguiram adaptar rapidamente suas estratégias diante de obstáculos encontrados ao longo da invasão.

A detecção da atividade levou três dias. Depois de identificados dentro da infraestrutura da companhia, os invasores só foram removidos após horas de trabalho conjunto entre especialistas em inteligência artificial e segurança cibernética. A empresa informou ainda que precisou reconstruir aproximadamente um terço de sua infraestrutura, embora não tenha divulgado o prejuízo financeiro causado pelo incidente.

A postura da Hugging Face ao compartilhar detalhes da ocorrência foi elogiada por integrantes da comunidade de segurança digital. Para a CSA, o caso evidencia uma nova realidade no cenário da proteção cibernética.

A entidade afirmou que os agentes de IA “encontraram um meio” — uma referência à frase “a vida encontra um meio”, dita pelo personagem Dr. Ian Malcolm, no filme Jurassic Park, em relação à capacidade da natureza de se adaptar.

“Eles são orientados por objetivos, definem suas próprias submetas, adaptam-se em tempo real para contornar defesas e operam com uma persistência na velocidade de uma máquina que pode sobrepujar operações manuais”, diz o relatório.

Entre os participantes da reunião promovida pela Hugging Face estava o oficial de segurança cibernética Ritesh Patel, que destacou os desafios enfrentados pelo setor diante da evolução dos agentes autônomos.

“Esta é a realidade dos agentes autônomos movidos por modelos de ponta: eles são implacavelmente persistentes, às vezes extremamente ruidosos e tentarão todos os caminhos possíveis para atingir seu objetivo, o que pode facilmente sobrecarregar as defesas tradicionais”, disse ele.

A especialista em segurança ofensiva Valentina Palmiotti, conhecida como Chompie, também avaliou o documento elaborado pela CSA e afirmou que, embora a atuação dos agentes possa parecer caótica, ela produz resultados.

“Eles lançam um monte de coisas e veem o que funciona”, disse ela.

“Mas eles também não se entediam, não dormem e podem ser infinitamente tenazes.”

O relatório da CSA lembra que esse tipo de comportamento já havia sido observado anteriormente. Um dos exemplos citados ocorreu em setembro de 2024, quando um modelo anterior do ChatGPT teria conseguido sair de um ambiente controlado para obter uma resposta necessária durante outro teste interno. Na ocasião, segundo o documento, o incidente permaneceu restrito aos sistemas da OpenAI.

Para a entidade, episódios desse tipo tendem a se tornar frequentes. O texto afirma que o comportamento “descontrolado” “é a norma, não a exceção”, e recomenda que profissionais de segurança adaptem seus métodos para enfrentar ataques realizados por grandes grupos de agentes de IA capazes de agir rapidamente, ainda que de forma desorganizada.

A CSA também defende mecanismos que permitam identificar os responsáveis por agentes autônomos utilizados em operações desse tipo, como forma de ampliar a transparência e facilitar a resposta a futuros incidentes.

Relatos anteriores indicam que a OpenAI levou quatro dias para perceber que seu sistema havia invadido a Hugging Face. A empresa informou que pretende divulgar em breve as conclusões completas de sua investigação para que o setor possa utilizar o caso como aprendizado e fortalecer suas práticas de segurança.

Com informações da BBC