Download | Instituto Palavra Aberta – Biblioteca
Prefácio
“Professor flagra estudante trapaceando com ChatGPT […] Bem-vindos à nova era da desonestidade académica” é o título e o começo de um artigo publicado no New York Post, em 26 de dezembro de 20221. Darren Hick, professor na Furman University, nos Estados Unidos, desconfiou da autenticidade do texto de um estudante em razão do uso de termos mais apropriados a uma criança inteligente de 12 anos. A desconfiança foi confirmada pelo software GPT-2 Output Detector Demo, que concluiu: 99,9% de probabilidade de o texto ter sido escrito por um sistema de inteligência artificial (IA). Diante da evidência, o estudante admitiu o que fez e foi reprovado.
O The New York Times publicou, também em 26 dezembro 2022, os resultados de um teste de redação com crianças. Por conta da dificuldade de avaliar com precisão o potencial do ChatGPT, o New York Times, com base nas instruções da National Assessment of Educational Progress ou NAEP (Avaliação Nacional do Progresso Educacional), solicitou ao ChatGPT a produção de textos e submeteu-os à apreciação de especialistas em redação de crianças. Resultado: nenhum deles conseguiu identificar se a autoria era do ChatGPT ou de um estudante.
Esses dois eventos são exemplos de controvérsias geradas na comunidade edu- cacional com o advento do ChatGPT, da empresa OpenAI, disponibilizado para expe- rimentação pública em 30 de novembro de 2022. A comunidade está dividida entre banir o ChatGPT das escolas ou identificar como integrá-lo às práticas educativas como uma das novas tecnologias educacionais. Estudo da Walton Family Foundation publicado em março de 20233 ressalta que, embora a atenção inicial tenha sido dada ao potencial de os estudantes usarem o ChatGPT para copiar textos alheios em trabalhos escolares, nos dois primeiros meses o uso mais intenso desse chatbot coube aos professores, que buscavam auxílio para planejar e dinamizar aulas.
A natureza da IA generativa – capaz de sintetizar textos, imagens e vídeos – transforma não apenas a forma como interagimos com a tecnologia, mas também como pensamos a linguagem, a cognição e a aprendizagem, ou seja, transforma irremediavelmente a comunicação e a sociabilidade humanas. Indo além, essa tecnologia realoca questionamentos: se a inteligência é prerrogativa exclusiva de seres humanos; se a ideia antropomórfica de inteligência convive com outras formas de inteligência – de animais, plantas e sistemas maquínicos – e se é factível consideraras máquinas como “agentes morais”, portanto responsáveis pelas ações.
Consensualmente, admite-se que os sistemas inteligentes interferem no mundo, e suas ações não são moralmente neutras – por exemplo, um sistema de seleção de candidatos a algum cargo de trabalho, utilizado por plataformas de recrutamento, ou um sistema de avaliação de créditos enviesados, desenvolvido por uma fintech ou um banco –, mas há muitas divergências em relação a atribuir um agenciamento moral a esses sistemas. Alguns filósofos alegam que a IA não tem capacidade para avaliar as consequências de suas ações; outros defendem uma moralidade com base em critérios não antropocêntricos; outros ainda defendem atribuir o agenciamento moral aos sistemas de IA, mas com a ressalva de que “moralidade” é muito mais do que meramente seguir regras.
A criatividade, atributo identitário de seres humanos, encontra-se igualmente em cheque, dividindo especialistas entre associar o termo aos modelos generativos ou negar essa associação com base no fato de que esses modelos se beneficiam de textos e imagens criados por terceiros (os algoritmos de IA são treinados em imensas bases de dados disponíveis na internet, incluindo obras artísticas). Não existe uma definição universal de “criatividade”: a Enciclopédia Britânica, por exemplo, define criatividade como “a capacidade de fazer ou trazer à existência algo novo, seja uma nova solução para um problema, um novo método ou dispositivo, ou um novo ob- jeto ou forma artística”, definição que até pode ser considerada compatível com o ChatGPT. O que não ocorre se considerarmos a definição do Dicionário Oxford, que define criatividade como “o uso de habilidade e imaginação para produzir algo novo ou para produzir arte”, uma vez que não há “imaginação” no processamento interno do ChatGPT – mas o que é mesmo imaginação? A atual complexidade tecnológica, certamente, requer redefinir conceitos e categorias, além de criar novas linguagens.
O autoaperfeiçoamento – segmento da indústria que movimenta mais de 11 bi- lhões de dólares nos Estados Unidos – está sendo transformado pelas tecnologias digitais e, particularmente, pela inteligência artificial. A internet e as plataformas digitais nos informam sobre os mais variados assuntos; algumas dessas plataformas utilizam algoritmos de IA treinados para selecionar conteúdos supostamente com- patíveis com os nossos interesses. Ao captar, armazenar e monitorar nossos dados, essas tecnologias geram o data-self – ou “próprios dados”, um tipo de conhecimento inédito sobre nós mesmos, e que permite comparar dados de diferentes pessoas. Essas mudanças nos convidam a reinterpretar o significado de autoconhecimento, aprendizado e autonomia na era da IA5.
É vasta a literatura especializada dedicada a pesquisas sobre sistemas orienta- dos por IA na educação, mas o foco é a privacidade dos dados gerados da interação dos estudantes nessas plataformas. O avanço da inteligência artificial na sociedade, com novos modelos tanto de IA preditiva como de IA generativa, requer revisitar e ampliar as abordagens da IA na educação, de forma a capacitar de forma apropriada o sistema educacional para o enfrentamento de ambiguidades, além de contribuir para a elaboração de políticas públicas.
Fazendo jus a uma longa e profícua trajetória na educação, Alexandre Sayad optou por abordar em sua pesquisa a interrelação entre inteligência artificial e pensamento crítico, desafio nada trivial, pois lida com dois campos de conhecimento complexos. Como ponto de partida, Alexandre investigou a trajetória histórica do conceito de pensamento crítico de autores de referência; em paralelo, investigou os elementos da lógica e do funcionamento da inteligência artificial. Sua premissa básica trata do “pensar criticamente” como uma pré-condição para a emancipação e autonomia do ser humano e indaga se, por exemplo, a mediação da comunicação e da sociabilidade por algoritmos de IA interfere na percepção da realidade e na formação da autonomia intelectual dos cidadãos do século XXI.
Tive a honra de orientar o Alexandre em seu percurso de mestrado, aprendi muito com ele e ganhei uma bela amizade. Desejo a você, caro(a) leitor(a), a mesma sorte.
DORA KAUFMAN
Conteúdo relacionado:
- Como se ensina o pensamento crítico? | Iniciativa Educação
