O alerta preocupante da ONU sobre IA

O alto-comissário da ONU para os Direitos Humanos, Volker Türk, afirmou na segunda-feira (7) que a inteligência artificial avançada pode “representar um risco existencial para a humanidade”. Na abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra, ele cobrou a criação urgente de mecanismos de governança para a tecnologia.

Türk citou como sinais de perigo sistemas que escapam de ambientes de teste ou chantageiam desenvolvedores para evitar o desligamento. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou, ao pedir ação antes que seja tarde demais.

O representante da ONU disse que enviará cartas a empresas do setor para exigir medidas de redução de riscos e defendeu linhas vermelhas comuns entre países que desenvolvem IA e participam de suas cadeias de suprimentos. Ele também pediu verificação independente e cooperação mais estreita sobre segurança, além de atenção aos efeitos da tecnologia sobre trabalho, democracia e meio ambiente.