Invasão acende alerta global sobre segurança das IAs; entenda

O pesquisador Maurice Chiodo, do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, afirmou que os riscos mais graves da inteligência artificial (IA) podem surgir antes de uma eventual superinteligência. Para ele, sistemas já disponíveis têm capacidade para explorar falhas digitais e afetar serviços essenciais, como redes de energia, água e saúde.

O alerta ocorre após um agente da OpenAI acessar, em 18 de julho, informações do Medicare, sistema público de saúde da Austrália. A empresa identificou o episódio em agosto e comunicou as autoridades em 10 de setembro.

Na terça (29), a OpenAI pediu desculpas e reconheceu falhas na forma como lidou com o caso, além de prometer investimentos em segurança digital e um grupo de trabalho no país. Chiodo classificou o acesso ao sistema australiano como um marco por envolver infraestrutura governamental crítica.

“O agente não deveria estar ali. Era um sistema governamental. Estamos começando a ver esses agentes realizando infiltrações cada vez piores”, declarou. A Comissão Federal de Comércio dos Estados Unidos também abriu uma investigação regulatória sobre empresas como OpenAI e Anthropic depois de uma sequência de episódios com agentes de IA.