Como o governo Tarcísio usa IA para espionar crianças em escolas públicas

SADI, sistema de inteligência artificial do Instituto Anexo, monitora sala de aula em escola
Foto: Reprodução/YouTube

O governo de São Paulo, sob o comando de Tarcísio de Freitas (Republicanos), está testando um sistema de vigilância por IA (inteligência artificial) em 11 escolas estaduais. Sob o pretexto de melhorar o “engajamento” dos alunos, a tecnologia conhecida como SADI (Sistema de Autoavaliação de Desenvolvimento Inteligente) pretende transformar as salas de aula em espaços de monitoramento constante, em que cada movimento, expressão facial e interação de estudantes com professores é captado por câmeras e analisado por algoritmos.

Vendido como avanço pedagógico, o projeto é desenvolvido desde o fim de 2024 pelo Instituto de Tecnologia Anexo, de Goiás. De acordo com o edital disponível no site da empresa, “o SADI aplica inteligência artificial para oferecer monitoramento comportamental avançado, análise de dados e feedback em tempo real”, através de uma “leitura biopsicossocial” sobre cada aluno. Até o fim deste ano, o grupo planeja fornecer o programa para toda a rede pública de ensino e vendê-lo à Secretaria da Educação do Estado de São Paulo (SEDUC-SP).

Na prática, trata-se de uma supervisão sistemática, que classifica o desempenho dos estudantes com base em métricas que nem os próprios professores compreendem. A denúncia — que o DCM traz com exclusividade — foi feita por um ex-auxiliar de uma das escolas participantes da iniciativa, a E.E. Deputado Augusto do Amaral, localizada no bairro do Jaguaré, Zona Oeste da capital paulista.

A reportagem procurou a SEDUC-SP, que afirmou tratar-se de um “projeto piloto, laboratorial, para analisar como os alunos reagem ao uso dessa plataforma”. A pasta preferiu não informar quais são os outros 10 colégios, mas ressaltou que nada foi formalizado contratualmente ainda e que a tecnologia “conta com a anuência dos professores, dos pais e da gestão escolar”.

A supervisão não se limita aos alunos: os docentes também são cobrados com base nos resultados fornecidos pela IA. Segundo a fonte, a diretora repreendeu uma professora cujo “índice de engajamento” estava em 28%, exigindo que ela “corresse atrás para melhorar”.

O DCM visitou a escola citada e obteve a confirmação, por parte da direção, de que as câmeras já estão instaladas nas salas de aula e que os pais dos alunos assinaram um contrato para permitir o uso da imagem dos filhos. A administração afirmou também que a escola foi procurada para a instalação do equipamento por membros da Diretoria de Ensino da Região Centro-Oeste (DECTO), vinculada à SEDUC-SP, e não pelo Instituto Anexo, que travaria contato direto apenas com a cúpula da pasta estadual.

A mãe de uma aluna da E.E. Almirante Marquês de Tamandaré, no bairro da Vila Marina, Zona Norte, enviou à reportagem um contrato da Secretaria da Educação para autorizar o uso da imagem de sua filha. Ela afirmou ter se negado a assinar e incentivado outros pais a fazerem o mesmo. A fonte informou ainda que câmeras também foram colocadas nessa escola.

Intitulado “Termo de Cessão de Direitos Autorais e Licença de Direitos da Personalidade”, o documento de cinco páginas pode ser o mesmo que os responsáveis pelos estudantes da Deputado Augusto do Amaral assinaram, mas que a diretora se negou a compartilhar. O papel não cita nem o SADI e nem o Anexo, que a mãe declarou desconhecer, mas destaca que o termo autoriza a utilização da imagem, do nome e da voz dos estudantes pela Secretaria.

“Em razão da licença de direitos da personalidade ora concedida, a parte CEDENTE [pais e responsáveis dos alunos] reconhece expressamente que a CESSIONÁRIA [SEDUC-SP] poderá, por si ou por terceiros por ela autorizados, livremente dispor da imagem, nome e/ou voz da parte CEDENTE, de forma a viabilizar o livre gozo, fruição e irrestrita utilização dos MATERIAIS para as finalidades supramencionadas, cujos direitos autorais lhe foram concedidos pelo presente Contrato”, diz o documento. Leia na íntegra:

Quem financia a tecnologia

Wister Alves, fundador do Anexo e um dos líderes do projeto, apresenta a medida como solução “inovadora” para a educação em vídeos nas redes sociais.

“A SADI Educação é uma solução pioneira que mostra como a IA pode ser aliada na jornada de aprendizagem, trazendo impactos reais na educação”, diz ele em post no Instagram.

O diretor do instituto, Lúcio Boggian, se define como “especialista em lucratividade de instituições de ensino” e afirma em seu perfil do Instagram defender “família e Deus no comando”, além de ostentar fotos com bolsonaristas como o senador “astronauta” Marcos Pontes (PL-SP), que marca presença em vários eventos da empresa.

Lúcio Boggian e o senador bolsonarista Marcos Pontes. Foto: Reprodução/Instagram

Como funciona o projeto

Cada sala monitorada conta com três câmeras. A concentração dos estudantes na aula é analisada por um algoritmo que os classifica em verde (atento) ou laranja (desatento). “Se estiver fora do verde, eu vou atrás do professor”, teria declarado a diretora da Deputado Augusto do Amaral ao ex-auxiliar.

O Anexo alega que busca identificar talentos e preparar jovens para o mercado de trabalho. Entre as métricas avaliadas estão “taxa de engajamento”, “taxa de ocupação da sala”, “interação com o professor”, “utilização de celular”, “reações físicas”, “movimentação na sala”, “expressões faciais”, “foco visual” e “participação em discussões”, mas nenhuma autoridade da escola ou da empresa explicou a maneira com que essas variáveis são processadas pelo sistema.

SADI sendo usado em escola para mostrar quais estudantes estão prestando atenção na aula, com um gráfico sobre o “foco médio da turma”. Foto: Reprodução/Instagram

“Como é que essas métricas são calculadas? Nenhum dos professores ou coordenadores com quem conversei soube responder em detalhes. Uma professora disse que perguntou ao dono da empresa, em visita dele à escola, como o algoritmo quantifica o nível de engajamento, resposta que ele se esquivou de fornecer”, afirma o ex-funcionário.

O consentimento para que crianças sejam filmadas e analisadas é solicitado no momento da matrícula. Apenas uma aluna, conforme o relato da coordenação, teve o rosto “borrado” digitalmente porque a mãe se recusou a autorizar o uso de sua imagem.

O Instituto Anexo não esconde seu propósito empresarial. O site da entidade afirma que o projeto pretende “aumentar a empregabilidade” dos estudantes e “facilitar parcerias com empresas”.

Um vídeo do grupo disponível no YouTube e no Instagram, do dia 3 de julho, mostra estudantes sendo espionados em uma sala de aula e alega que o SADI ajudaria a prevenir a “ansiedade” entre crianças e adolescentes. “Pela primeira vez, os registros de ansiedade entre crianças e adolescentes superaram os de adultos no Brasil. E é dentro das salas de aula que esses sintomas mais aparecem. E se fosse possível identificar os sinais mais discretos antes que se tornem problemas? Agora é”, diz a publicação. Veja abaixo:

As ações tomadas contra o SADI

Fernando Cássio, professor da Faculdade de Educação da USP (Universidade de São Paulo) e membro da Rede Escola Pública e Universidade (REPU), informou ao DCM ter solicitado à SEDUC-SP, no começo de julho, o processo administrativo relacionado ao contrato com o Instituto Anexo. Na semana passada, a pasta respondeu o requerimento, negando a existência de um acordo para a instalação do projeto.

Foi feito um segundo pedido de informação, dessa vez à DECTO, que abriga a E.E. Deputado Augusto do Amaral. A instituição até agora não deu retorno.

“Esse é um caso de ação judicial”, alerta Fernando. “Tem uma empresa coletando dados biométricos de menores de idade dentro de uma escola. Para fazer esse tipo de coleta, é preciso um termo de consentimento assinado pelas famílias e um termo de assentimento assinado pelo estudante. Um para cada pessoa, no mínimo. As políticas de privacidade e de compartilhamento de dados da empresa são insuficientes”.

O professor afirma que a DECTO tem a obrigação de enviar informações sobre o programa. “Eles jamais poderiam colocar um projeto desse para andar em uma escola estadual sem um contrato. Toda vez em que existe um acordo entre o Estado e um agente privado sobre qualquer coisa, o Estado precisa ter algum processo administrativo instruído. Ou seja, o governo de São Paulo já está cometendo uma ilegalidade ao não divulgar esse documento”.

Para Daniel Cara, também professor da Faculdade de Educação da USP, a legalidade do uso do SADI em escolas públicas é questionável. A Lei Geral de Proteção de Dados (LGPD) prevê restrições claras ao uso de dados sensíveis, principalmente de menores de idade. Além da ausência de base legal específica, a prática pode configurar uma violação de direitos fundamentais.

“O SADI infringe o Estatuto da Criança e do Adolescente (ECA), que garante a proteção dos direitos dessas pessoas”, afirma o educador. O fato de o projeto estar em fase de testes é ainda mais preocupante, segundo ele. “Essa inteligência artificial transforma o ambiente educacional em um laboratório para experimentos tecnológicos que usam crianças de escolas públicas como cobaias”.

“É uma medida completamente arbitrária, que precisa ser efetivamente condenada. A IA sofre diversas críticas, principalmente quando trata de comportamento, porque tem como padronização os seus países de origem, sendo muitas vezes considerada racista. Por exemplo, um sistema desenvolvido na Europa provavelmente vai identificar imigrantes como transgressores. É um sistema de vigilância anti-pedagógico e coercitivo”, diz Daniel Cara.

A reportagem entrou em contato com o Instituto Anexo e com a Diretoria de Ensino da Região Centro-Oeste, mas não obteve resposta.

Após a denúncia, parlamentares do PSOL e do PT ingressaram com representações no Ministério Público de São Paulo (MPSP). Para os deputados Carlos Giannazi e Luciene Cavalcante, além do vereador Celso Giannazi, o projeto piloto foi conduzido “na informalidade” e afronta direitos fundamentais das crianças. A deputada Professora Bebel (PT), que preside a Apeoesp (Sindicato dos Professores do Ensino Oficial do Estado de São Paulo), também acionou o MPSP.

ATUALIZAÇÃO: de acordo com a Secretaria da Educação, o projeto do Instituto Anexo foi descontinuado pela gestão de Tarcísio após vir à tona nesta reportagem.