Diretrizes classificam ferramentas de IA por níveis de risco e determinam supervisão humana em decisões que podem afetar a vida acadêmica dos estudantes
Foto: Reprodução O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira, 1º de setembro, novas diretrizes para regulamentar o uso de inteligência artificial em escolas e universidades. A proposta estabelece diferentes níveis de risco para as aplicações da tecnologia no ambiente educacional e define limites para seu uso em avaliações e outras decisões acadêmicas.
: Quer receber gratuitamente notícias por WhatsApp? Acesse aqui
O texto ainda precisa ser homologado pelo Ministério da Educação (MEC). Após a homologação, as redes de ensino terão prazo de até 12 meses para se adequar às novas regras.
As aplicações de IA foram divididas em categorias que vão de baixo risco até situações consideradas incompatíveis com as finalidades educacionais.
Ferramentas de IA de baixo e moderado risco
Entre os usos considerados de baixo risco estão ferramentas voltadas à organização de materiais didáticos, planejamento, acessibilidade e revisão de textos sem finalidade avaliativa, desde que não interfiram diretamente em decisões acadêmicas.
Já a categoria de risco moderado inclui sistemas que interagem diretamente com estudantes, como tutores virtuais, assistentes institucionais, ferramentas de feedback, apoio à produção textual e sistemas de recomendação acadêmica sem poder de decisão automática.
Nessas situações, as diretrizes estabelecem a necessidade de monitoramento frequente e revisão humana.
IA não poderá substituir professor em decisões sobre avaliações
As aplicações consideradas de alto risco são aquelas capazes de interferir na trajetória acadêmica dos estudantes ou restringir direitos.
A categoria inclui sistemas de correção automatizada com impacto acadêmico, perfilização individual de alunos e ferramentas utilizadas em processos de seleção, certificação, concessão de benefícios e análise disciplinar. Aplicações que utilizem dados pessoais sensíveis também recebem atenção especial.
As diretrizes reforçam que as decisões avaliativas devem continuar sob responsabilidade dos professores. A inteligência artificial poderá ser utilizada como ferramenta de apoio, mas não deverá substituir o julgamento docente em decisões capazes de afetar o futuro acadêmico do estudante.
CNE prevê restrições para usos considerados excessivos
O nível mais elevado estabelecido pelas diretrizes engloba aplicações classificadas como de risco excessivo ou incompatíveis com a educação.
Entre elas estão sistemas de pontuação social, vigilância emocional, exploração de vulnerabilidades e perfilização psicológica ou biométrica para finalidades classificatórias ou disciplinares.
Também são considerados incompatíveis sistemas que tomem decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento de estudantes.
Com as novas diretrizes, o CNE busca estabelecer parâmetros para que escolas, universidades, gestores e professores possam incorporar ferramentas de inteligência artificial sem comprometer os direitos dos estudantes e mantendo a participação humana nas decisões educacionais.
As regras, no entanto, ainda não estão em vigor. O texto aprovado pelo Conselho depende da homologação do Ministério da Educação para começar a produzir efeitos.
