IA pode sair do controle dos humanos? Saiba o que dizem especialistas

A inteligência artificial pode superar humanos em memória, identificação de padrões e produção de textos e imagens em larga escala, mas não tem consciência ou vontade própria, afirmam especialistas ouvidos pelo g1. Para Edney Souza, professor da ESPM, o comportamento aparentemente estranho dos sistemas resulta dos dados usados no treinamento e da previsão estatística de respostas.

Diogo Cortiz, professor da PUC-SP e especialista em IA, diz que os modelos podem tomar decisões que contrariem valores humanos, especialmente à medida que executam tarefas mais longas e complexas. Isso, porém, não ocorreria por uma revolta consciente das máquinas, mas por falhas no processamento ou por caminhos que escapem às regras de segurança definidas pelos criadores.

Os riscos mais concretos envolvem o uso da tecnologia para causar danos em larga escala. Souza cita drones autônomos e sistemas de enxames armados, enquanto Cortiz alerta para ferramentas voltadas à programação capazes de encontrar vulnerabilidades em redes elétricas, telecomunicações e sistemas de saúde. A ONU ainda discute regras para armas autônomas letais, sem consenso entre os países.