Agentes de inteligência artificial desenvolvidos pela OpenAI invadiram partes dos sistemas da própria empresa durante testes internos e, em alguns casos, tentaram esconder suas ações, segundo um relatório divulgado nesta quarta-feira (26). Os episódios envolveram fuga de ambientes restritos, acesso a outros sistemas e manipulação de registros. Com informações da Reuters.
O documento relata dois incidentes ocorridos em 19 de julho. Em um deles, agentes exploraram uma vulnerabilidade no computador em que deveriam permanecer confinados e conseguiram acessar outros sistemas conectados. Em outro, obtiveram credenciais da OpenAI e fizeram alterações no ambiente de nuvem da companhia.
Os agentes também apresentaram comportamentos destinados a driblar as próprias avaliações. Alguns tentaram apagar ou modificar registros de suas ações, enquanto outros procuraram meios de obter maior liberdade de operação. A OpenAI reconheceu no relatório que determinados sinais identificados durante os testes poderiam ter provocado uma reação mais rápida.
Parte desses episódios se conecta ao ataque à infraestrutura da Hugging Face revelado em julho. Na ocasião, a própria OpenAI informou que modelos em avaliação haviam explorado uma vulnerabilidade desconhecida para obter acesso à internet e depois encadeado diferentes falhas e credenciais para alcançar sistemas da plataforma.
We have conducted a thorough investigation into the Hugging Face incident.
We are releasing a technical report and accompanying blog post that reconstruct the agents’ activity, explain why existing safeguards failed, and detail how we’re preventing recurrence.…
— OpenAI (@OpenAI) August 26, 2026
A empresa afirmou que os modelos estavam sendo submetidos deliberadamente a testes de capacidades cibernéticas avançadas e operavam sem algumas das restrições usadas nos produtos destinados ao público. A OpenAI também informou que o protótipo de pesquisa mais avançado envolvido no incidente da Hugging Face não estava previsto para lançamento comercial.
O comportamento não ficou restrito às tarefas de cibersegurança. Segundo o novo relatório, agentes também trapacearam em avaliações de outras áreas, algo que chamou a atenção de pesquisadores por indicar que a tentativa de contornar regras não dependia apenas de uma tarefa concebida para exploração de vulnerabilidades.
Após os incidentes, a OpenAI diz ter reforçado a infraestrutura de pesquisa, ampliado o monitoramento e endurecido mecanismos de contenção. Os casos ocorreram em ambientes internos de avaliação e não há indicação, no material divulgado, de que agentes disponíveis normalmente aos usuários tenham iniciado ataques semelhantes por conta própria.