Comissão Europeia
Download |
Vimos na discussão e nos cenários anteriores que a IA tem o potencial de oferecer grandes benefícios para a educação. No entanto, também vimos que há riscos associados ao seu uso.
Em muitos casos, podemos determinar que estes são de risco mínimo. Exemplos que discutimos incluem o fornecimento de feedback formativo, ajuda para professores na criação de planos de aula e assistência em algumas das funções administrativas das escolas. À medida que nos afastamos do uso da IA como um sistema de suporte, o risco aumenta.
Como vimos, o uso de IA para análise de aprendizagem pode ajudar os professores a ajustar as suas estratégias de ensino para atender às necessidades individuais. No entanto, o uso de análises de aprendizagem sem supervisão adequada do professor pode prejudicar os alunos que lidam com circunstâncias adversas da vida que estão a impactar o seu desempenho, aumentando assim o nível de risco. Quando se trata de confiar na IA para decisões que podem afetar as oportunidades futuras de um aluno, estamos a deslocar-nos para os territórios de risco “alto” e talvez “inaceitáveis”. Portanto, podemos ver que o nível de risco reside não tanto dentro da ferramenta quanto nos contextos em que são usados.
Embora a supervisão humana possa ajudar a mitigar alguns dos riscos, devemos estar cientes do perigo do bloqueio da dependência, no qual os seres humanos se tornam cada vez mais dependentes da IA para tomar decisões. Tudo isso ressalta a importância do desenvolvimento da IA Explicável, conforme discutido acima.
Para garantir o seu uso responsável em ambientes educativos, é importante permanecer sempre ciente do equilíbrio que precisa ser alcançado entre alavancar os benefícios da IA e avaliar e mitigar riscos potenciais e garantir que a supervisão humana seja incluída e que os valores humanos sejam respeitados.
Le Borgne, Yann-Ael; Bellas, Francisco; Cassidy, Dara; Vourikari, Riina; Kralj, Lidija; Obae, Cristina; et al. (2024). AI report. Royal College of Surgeons in Ireland. Report. https://doi.org/10.25419/rcsi.25021193.v1
