Há uma certa ironia em falar de inteligência artificial com pessoas que trabalham todos os dias com o desenvolvimento da inteligência humana. Os professores passaram décadas a tentar perceber como é que os alunos aprendem, o que os motiva, por que razão uns retêm informação e outros não. E de repente aparece uma tecnologia que se intitula «inteligente» e que, segundo muitos, aprende sozinha. Vale a pena parar e perguntar: aprende mesmo? E o que quer isso dizer, afinal?
Um documento recente produzido pelo Gordian Knot Center for National Security Innovation, da Universidade de Stanford, e da autoria de Steve Blank, tenta responder a esta pergunta de forma rigorosa mas acessível. O texto chama-se Artificial Intelligence/Machine Learning Explained e, embora tenha sido concebido para responsáveis de segurança nacional nos Estados Unidos, contém uma das explicações mais claras e honestas sobre o que a inteligência artificial é — e o que não é — que alguma vez li. Há muito ali que vale a pena trazer para quem trabalha na educação, não necessariamente dentro de uma sala de aula, mas enquanto cidadão informado num mundo que esta tecnologia está a transformar.
Uma revolução que já começou — e que a maioria ainda não viu
Blank abre o documento com uma imagem poderosa: imagine que está em 1950 e que viajou no tempo a partir dos dias de hoje. A sua missão é convencer as pessoas à sua volta de que os computadores vão mudar tudo — os negócios, os governos, a sociedade. Quem acreditar primeiro, quem aprender a usá-los antes dos outros, vai ter uma vantagem esmagadora. «É exatamente aqui que estamos hoje com a inteligência artificial», escreve o autor. A tecnologia que está a chegar não é uma novidade incremental. É uma mudança de paradigma da mesma dimensão da que os computadores representaram no século XX.
Esta perspetiva importa porque nos tira da tentação de tratar a IA como uma moda passageira ou como um conjunto de ferramentas úteis para algumas tarefas isoladas. Não é disso que se trata. Falamos de tecnologias que estão a mudar a forma como as máquinas processam informação, tomam decisões e interagem com o mundo. E isso tem implicações para toda a gente — incluindo para quem ensina e para quem aprende.
O que é afinal a inteligência artificial
Uma das contribuições mais úteis do texto de Blank é desfazer a confusão terminológica que rodeia este campo. «Inteligência artificial» não é uma coisa única. É um guarda-chuva que cobre um conjunto de tecnologias diferentes, e perceber a diferença entre elas é fundamental para não se deixar enganar pelo hype.
A inteligência artificial é o termo mais amplo: refere-se a máquinas que conseguem resolver problemas, tomar decisões e executar tarefas que, até há pouco tempo, exigiam capacidade humana. Dentro desse guarda-chuva encontramos a aprendizagem automática (machine learning), que é uma abordagem específica: em vez de programar explicitamente todas as regras que a máquina deve seguir, damos-lhe exemplos e ela «aprende» a partir deles. E dentro da aprendizagem automática existe ainda a aprendizagem profunda (deep learning), que usa redes neurais artificiais — estruturas inspiradas, de forma muito simplificada, no funcionamento do cérebro — para resolver problemas mais complexos, como reconhecer rostos em fotografias ou traduzir discurso em tempo real.
A diferença em relação aos computadores clássicos é fundamental e merece ser explicada com cuidado. Um computador tradicional faz exatamente o que lhe dizem para fazer. Um programador escreve regras, passo a passo, e a máquina executa-as com precisão cirúrgica. Nada acontece que não tenha sido previsto e codificado por um ser humano. Um sistema de aprendizagem automática funciona de forma radicalmente diferente: em vez de receber regras, recebe dados — muitos dados — e produz as suas próprias regras a partir deles. O modelo não é programado para reconhecer um gato numa fotografia; é treinado com milhares de fotografias de gatos (e de outras coisas) até que, a certo ponto, consegue fazê-lo por si mesmo.
Esta distinção é mais do que técnica. Ela tem implicações profundas para a forma como confiamos nestes sistemas e para a forma como os podemos questionar.
O problema da explicação
Há um ponto no documento de Blank que achei particularmente honesto, e que raramente aparece nas apresentações entusiásticas sobre o futuro da IA: o problema da explicabilidade.
As redes neurais e os sistemas de aprendizagem profunda podem chegar a conclusões notavelmente precisas. Mas muitas vezes é extremamente difícil — ou mesmo impossível — perceber como é que chegaram lá. O sistema gera uma previsão, mas não consegue dizer-nos, de forma clara e inteligível, porque é que tomou aquela decisão e não outra. Este é o chamado «problema da caixa negra»: sabemos o que entra e o que sai, mas o que acontece no interior é opaco.
Blank é direto: «Compreender como uma IA funciona é essencial para criar confiança nos modelos de IA em produção.» E acrescenta que o problema da explicabilidade afeta sobretudo as redes neurais e a aprendizagem profunda — outros tipos de algoritmos de aprendizagem automática, como as árvores de decisão, são muito mais transparentes.
Porque importa isto para além do mundo técnico? Porque vivemos num tempo em que sistemas de IA estão a ser usados para apoiar decisões que afetam vidas reais — na justiça, na saúde, nos créditos bancários, na moderação de conteúdos nas redes sociais. Se esses sistemas tomam decisões que não conseguem explicar, como é que as podemos contestar? Como é que saberemos se incorporam preconceitos? Estas são perguntas que pertencem ao espaço público, e não apenas ao laboratório de informática.
O que a IA sabe fazer — e o que não sabe
Uma das secções mais reveladoras do texto é precisamente a que lista as limitações da inteligência artificial, e que contraria a narrativa dominante de omnipotência que frequentemente envolve esta tecnologia.
Do lado das capacidades, a lista é impressionante. Os sistemas atuais de IA conseguem ler e compreender texto com um desempenho superior ao humano em certos testes de compreensão. Conseguem gerar texto que é indistinguível do produzido por uma pessoa. Conseguem reconhecer objetos e rostos em imagens e vídeos, traduzir línguas em tempo real, transcrever discurso, identificar padrões anómalos em enormes conjuntos de dados, e criar imagens realistas a partir de descrições textuais — o que inclui os chamados deepfakes, sobre os quais voltaremos adiante.
Mas do lado das limitações, o documento é igualmente claro. A IA trabalha bem num domínio restrito em que há muitos dados disponíveis e em que o objetivo está bem definido. Fora dessas condições, começa a falhar. Os modelos podem ser «enganados» por dados que nunca viram antes. Podem memorizar o «ruído» dos dados de treino em vez de aprender os padrões que realmente interessam — é o que os especialistas chamam de sobreajustamento (overfitting). Têm dificuldade em estimar a sua própria incerteza. Não conseguem, por si sós, definir objetivos. E, aqui está talvez o ponto mais importante: não pensam de forma criativa, não aplicam senso comum e não conseguem generalizar o conhecimento de um domínio para outro da forma que os humanos fazem com aparente facilidade.
Blank é perentório: «A IA não consegue (ainda) perceber causa e efeito. Não pensa criativamente. Não aplica senso comum. Não cria estratégias genuínas. E não tem inteligência generalizada.» Esta lista de limitações não desvaloriza a tecnologia. Mas recusa a narrativa do ser omnisciente, e isso é intelectualmente honesto.
Deepfakes, desinformação e o que isso significa para a literacia
Há uma parte do documento dedicada a aplicações militares e de segurança nacional que não nos interessa desenvolver aqui, mas que contém um alerta que tem tudo a ver com o que acontece nas escolas e na sociedade civil: o uso da IA para criar e amplificar campanhas de desinformação.
Blank descreve como os deepfakes — vídeos gerados por redes neurais que são praticamente indistinguíveis da realidade — já estão a ser usados por estados e por outros atores para manipular a opinião pública. Os rostos sintéticos, escreve, são agora tão convincentes que são considerados mais credíveis do que fotografias de pessoas reais. As mesmas técnicas que permitem criar entretenimento e arte podem ser usadas para fabricar declarações falsas atribuídas a políticos, professores, jornalistas ou qualquer outra pessoa.
Isto não é ficção científica. É a realidade presente. E significa que a capacidade de questionar a autenticidade do que se vê e ouve passou a ser uma competência de sobrevivência cívica. Já não basta saber verificar uma notícia. É preciso saber que um vídeo pode ser falso, que uma voz pode ser sintética, que uma fotografia pode ter sido gerada a partir de nada.
A literacia digital, neste contexto, tem de ir mais fundo do que saber usar uma aplicação ou distinguir um site fiável de um duvidoso. Tem de incluir uma compreensão básica de como estas tecnologias funcionam — não ao nível do engenheiro, mas ao nível do cidadão informado que percebe o que é possível e o que deve questionar.
Porque é que a IA é possível agora — e não há dez anos
Blank identifica quatro razões para o salto que se verificou nos últimos anos: a disponibilidade de enormes conjuntos de dados, a melhoria dos algoritmos de aprendizagem, a democratização do código aberto e dos modelos pré-treinados, e o aumento exponencial da capacidade de computação.
O ponto sobre os dados merece atenção especial. Os sistemas de aprendizagem automática precisam de exemplos — muitos exemplos — para aprender. A internet tornou possível reunir quantidades de dados que seriam inimagináveis há algumas décadas. Cada vez que usamos um serviço digital, cada pesquisa, cada clique, cada fotografia carregada, cada conversa num assistente de voz, contribui para alimentar estes sistemas. Somos, de certa forma, participantes involuntários no treino da IA — algo que levanta questões sérias sobre privacidade, consentimento e poder que precisam de estar na agenda pública.
O ponto sobre o código aberto é igualmente significativo: hoje, modelos que custaram dezenas de milhões de dólares a desenvolver estão disponíveis gratuitamente, e até pessoas sem formação técnica especializada conseguem criar ferramentas úteis de IA. Isso tem um lado democratizante genuíno — mas também significa que as mesmas capacidades estão acessíveis a quem quer usá-las para fins menos nobres.
O que fica por fazer
Blank termina o seu documento com uma advertência que serve igualmente para o contexto educativo: o maior obstáculo à adaptação não é tecnológico, é cultural. As instituições que resistem a compreender o que está a mudar, que se refugiam nos procedimentos habituais e evitam o desconforto da mudança, são as que ficam para trás.
Não se trata de defender que a escola deva seguir cegamente cada tendência tecnológica. Muito pelo contrário. Mas há uma diferença entre uma escolha informada de não usar determinada ferramenta e uma ignorância que impede sequer de avaliar as opções. A segunda é perigosa — para as instituições e, acima de tudo, para as pessoas que dependem delas.
A inteligência artificial não vai substituir o pensamento crítico. Não consegue. Mas num mundo cada vez mais mediado por sistemas que tomam decisões opacas, que produzem conteúdo indistinguível do humano e que amplificam tanto o conhecimento como a mentira, o pensamento crítico tem de ser mais sofisticado do que nunca. E isso é, em última análise, uma questão de educação.
Caixa de leitura
Alguns conceitos do documento de Blank que vale a pena explorar:
Aprendizagem supervisionada: o sistema aprende a partir de exemplos classificados por humanos. É como treinar um estudante com fichas de estudo que já têm a resposta correcta — o modelo aprende a associar padrões às categorias corretas e generaliza para novos casos.
Aprendizagem não supervisionada: o sistema encontra padrões por si mesmo, sem exemplos classificados. É útil quando não sabemos exactamente o que estamos a procurar — como detetar fraudes que ainda não têm um nome.
Aprendizagem por reforço: o sistema aprende por tentativa e erro, recebendo recompensas quando faz bem e penalizações quando falha. Foi com esta abordagem que o AlphaGo se tornou melhor do que qualquer ser humano no jogo de Go — depois de jogar 4,9 milhões de partidas contra si mesmo em apenas três dias.
Deepfakes: imagens ou vídeos gerados por redes neurais que imitam rostos e vozes reais com um grau de realismo crescente. O documento alerta que rostos sintéticos são hoje considerados mais credíveis do que fotografias de pessoas reais.
Caixa negra: a dificuldade em perceber como um sistema de aprendizagem profunda chegou a determinada conclusão. Um problema central para a confiança e a responsabilização no uso de IA em decisões que afectam pessoas.
Referências
Blank, S. (s.d.). Artificial intelligence/machine learning explained. Gordian Knot Center for National Security Innovation, Stanford University. https://gordianknot.stanford.edu
Allen, G. C. (s.d.). Understanding AI technology. Joint Artificial Intelligence Center (JAIC), Department of Defense. https://www.ai.mil/docs/Understanding%20AI%20Technology.pdf
National Security Commission on Artificial Intelligence. (2021). Final report. https://www.nscai.gov/2021-final-report/












