A autoridade italiana de proteção de dados acusou o serviço de inteligência artificial de não respeitar as regras europeias de proteção de dados e de não verificar a idade dos usuários menores.
Lançado em novembro e rapidamente adotado por usuários impressionados com sua capacidade de escrever textos e responder a perguntas difíceis, os serviços do ChatGPT estão suspensos na Itália temporariamente, de acordo com um porta-voz da OpenAI, empresa responsável pelo chatbot.
A empresa afirma se “preocupar com a proteção de dados” e considera que respeita a regulamentação europeia sobre o assunto.
“Trabalhamos ativamente para reduzir os dados pessoais no treinamento da nossa inteligência artificial (IA). Acreditamos que uma regulamentação da IA é necessária, e esperamos trabalhar nesse sentido com a autoridade italiana”, disse o porta-voz da empresa.
Dados coletados para treinar o robô
Segundo a autoridade italiana, no dia 20 de março o ChatGPT sofreu um vazamento de dados com conversas de usuários e informações relativas ao pagamento dos clientes do serviço de assinatura.
Após a notificação do problema, a OpenAI interrompeu brevemente o serviço e reconheceu uma falha em uma ferramenta externa, que afetou 1,2% dos assinantes e um número não divulgado de usuários gratuitos.
Além disso, o órgão de proteção de dados criticou a “falta de uma nota informativa para os usuários, cujos dados são coletados pela OpenAI, mas, sobretudo, pela ausência de uma base jurídica que justifique a coleta e a conservação de dados pessoais em massa, com o objetivo de ‘treinar’ os algoritmos que fazem a plataforma funcionar”.
As autoridades italianas também apontam que, embora o robô seja destinado a maiores de 13 anos, o serviço não tem “qualquer filtro para verificar a idade dos usuários”. Assim, a ferramenta “expõe os menores dessa idade a respostas que não são adequados a seu nível de desenvolvimento”.
O órgão de controle italiano deu 20 dias para que a empresa OpenAI comunique as medidas adotadas para resolver os problemas, “sob pena de multa de até € 20 milhões (R$ 110,4 milhões) ou 4% do volume de negócios mundial anual da empresa”.
No mês passado, a agência de proteção de dados da Itália também proibiu a empresa de inteligência artificial Replika de usar dados pessoais de usuários italianos, porque oferece bate-papo com avatares personalizados que falam e ouvem. Alguns usuários reclamaram de receberem mensagens e imagens muito ousadas, no limite do assédio sexual.
Repercussão na Europa
Como a decisão foi tomada com base no Regulamento Europeu de Proteção de Dados (GDPR, na sigla em inglês), os outros 26 países-membros da União Europeia podem decidir pelo mesmo caminho italiano.
A regulamentação tem sido vista como o maior inimigo das novas ferramentas de IA geradoras de conteúdo na Europa.
No entanto, os críticos de sanções como a italiana apontam que a proibição não é a resposta adequada para os problemas apresentados por esse tipo de serviço, já que os usuários podem burlar a punição usando um serviço de VPN para acessar ao ChatGPT como se estivessem em outro país.
Essa é solução adotada por muitos usuários, que satirizam a decisão italiana nas redes sociais.
Lo stato Italiano: “ Vogliamo vederci chiaro su chat GPT, e chiediamo la sospensione del servizio in Italia. Ora la parola al nostro sponsor NORDVPN.”#ChatGPT #Italia #NordVPN pic.twitter.com/FfgTStqBA6
— Giuseppe Sodano (@GiuseppeSodan13) April 1, 2023
A União Europeia está preparando um projeto de lei para regulamentar a inteligência artificial. O texto deve ficar pronto entre o final de 2023 e o início de 2024.
Publicado originalmente em RFI