As regras a adotar com a IA na formação

É frequente utilizarmos a expressão "imprecisão jurídica" para nos referirmos a domínios ou matérias em que o sistema judicial nada tem a dizer. No entanto, esta formulação não faz sentido, porque, a partir do momento em que um juiz se debruça sobre um caso, toma uma decisão que passa a fazer parte da jurisprudência e contribui para o enquadramento jurídico de uma questão.

Assim, mesmo que o assunto pareça recente, já existe um quadro em torno da questão da inteligência artificial com formação. No entanto, no início de 2024, o Parlamento Europeu adoptou a "Lei da IA", que fornece um quadro ainda mais claro.

A lei entrará em vigor no prazo máximo de dois anos após a sua adoção. Obrigará os sistemas escolares a respeitar requisitos modulados, em função dos riscos incorridos pelos utilizadores.

• As utilizações que representam um risco inaceitável, como o reconhecimento de emoções ou a classificação social, serão pura e simplesmente proibidas.
• As chamadas utilizações de alto risco, para avaliar as capacidades de aprendizagem, orientar o processo e controlar o comportamento, terão de respeitar a legislação relativa à proteção dos dados pessoais, um regime restritivo dos dados utilizados para evitar preconceitos e uma obrigação de transparência e informação.
• Estas últimas devem também orientar as chamadas aplicações de baixo risco, como os robôs de conversação num sistema de aprendizagem, que devem deixar claro que estão a falar com uma IA e não com um humano.

Duração: 11min46