O Regulamento da IA para a IA na educação.

A educação é nomeada diretamente no Regulamento da IA. O anexo III, ponto 3 abrange a IA usada para decidir o acesso à educação, para avaliar resultados de aprendizagem, para determinar o nível de educação adequado a uma pessoa e para monitorizar comportamentos proibidos durante testes. Se o teu produto faz alguma destas coisas, é presumidamente de risco elevado - e, ao contrário da maioria dos setores, há uma segunda armadilha mesmo ao lado, no artigo 5.

A vigilância de exames é o primeiro caso a olhar. Monitorizar o comportamento durante um exame é explicitamente de risco elevado ao abrigo do anexo III 3(d). Se essa monitorização incluir inferência de emoções, deixa de ser de risco elevado - é pura e simplesmente proibida pelo artigo 5, em contextos educativos, sem saída pela via da documentação.

Onde aterra a edtech

A linha que decide: sequenciar face a julgar

Um sistema adaptativo que escolhe o exercício seguinte porque o anterior foi respondido de forma errada está a sequenciar conteúdos. Um sistema que produz uma pontuação, um nível, um juízo de preparação ou uma recomendação sobre quem aprende está a avaliar a pessoa - e isso é anexo III e é definição de perfis, o que fecha em absoluto a isenção do artigo 6(3).

Quem vende está muitas vezes mais perto da linha do que julga, porque o mesmo motor que sequencia conteúdos produz habitualmente também uma estimativa de domínio da matéria. Se essa estimativa é mostrada a um professor, a quem decide admissões ou a um empregador, está a fazer trabalho de avaliação.

Escola ou quem vende - quem deve o quê

Uma escola ou universidade que compra uma ferramenta de classificação por IA é responsável pela implantação ao abrigo do artigo 26: supervisão humana, monitorização, pertinência dos dados de entrada, conservação de registos e informação aos alunos afetados. Não herda os deveres do capítulo III de quem vende - gestão de riscos, documentação técnica, avaliação da conformidade, marcação CE - que ficam com o prestador. O teste completo.

Duas armadilhas próprias das compras na educação. Primeira, uma escola que modifica substancialmente uma ferramenta - retreinando-a na sua própria coorte, reaproveitando um modelo de colocação como filtro de admissões - pode tornar-se prestadora. Segunda, os responsáveis pela implantação do setor público de sistemas do anexo III têm deveres adicionais, incluindo uma avaliação de impacto sobre os direitos fundamentais. As universidades e as escolas públicas devem partir do princípio de que se lhes aplica o conjunto mais pesado de deveres.

O que está em vigor hoje, seja qual for o teu nível

• Artigo 50 - um bot de estudo diz aos alunos que é uma IA, no primeiro contacto.
• Artigo 4 - os professores e o pessoal administrativo que operam estes sistemas precisam de literacia em IA registada. Na educação, é mais fácil argumentar que a fizeste e mais difícil argumentar que não precisas dela.
• Artigo 5 - nada de inferência de emoções sobre alunos. Verifica já qualquer funcionalidade de vigilância de exames ou de deteção de envolvimento, e não em 2027.

As obrigações de risco elevado correm até 2 de dezembro de 2027. Não é longe para um produto de classificação ou de admissões: a avaliação da conformidade leva realisticamente de 12 a 18 meses, e os ciclos de compras académicas são anuais. Mapa completo dos prazos.

O RGPD já faz grande parte do trabalho. Os dados dos alunos são muitas vezes dados de crianças, por isso, se tens uma AIPD, uma posição de conceção adequada à idade e um fundamento de licitude que resistam a escrutínio, boa parte da governação de dados do artigo 10 fica provada por trabalho que já fizeste. Os relatórios da Reglynn assinalam essas sobreposições em vez de te cobrarem duas vezes.

Perguntas frequentes

O software de classificação por IA é de risco elevado no Regulamento da IA?

Sim. O anexo III, ponto 3(b), nomeia como de risco elevado a IA destinada a avaliar resultados de aprendizagem. Como avalia cada pessoa que aprende, define também o seu perfil, o que fecha a isenção do artigo 6(3).

A vigilância de exames por IA é permitida pelo Regulamento da IA?

A vigilância que monitoriza comportamentos proibidos durante testes é de risco elevado ao abrigo do anexo III, ponto 3(d). Se também inferir o estado emocional, é pura e simplesmente proibida pelo artigo 5, que veda a inferência de emoções em contextos educativos - e nenhuma divulgação ou documentação cura uma prática proibida.

O software de aprendizagem adaptativa é de risco elevado?

Normalmente não. Sequenciar o exercício seguinte é entregar conteúdos, não avaliar a pessoa. A linha é ultrapassada quando o sistema produz uma pontuação, um nível ou um juízo de preparação sobre quem aprende que é mostrado a um professor, a quem decide admissões ou a um empregador.

Uma escola é prestadora ou responsável pela implantação?

Responsável pela implantação, com os deveres do artigo 26: supervisão humana, monitorização, pertinência dos dados de entrada, conservação de registos e informação aos alunos afetados. Não herda os deveres do capítulo III de quem vende - a menos que modifique substancialmente a ferramenta, por exemplo retreinando-a na sua própria coorte.

As escolas públicas e as universidades têm deveres adicionais?

Sim. Os responsáveis pela implantação do setor público de sistemas do anexo III têm obrigações adicionais, incluindo uma avaliação de impacto sobre os direitos fundamentais, por isso as escolas públicas e as universidades devem partir do princípio de que se lhes aplica o conjunto mais pesado de deveres.