Da “codificação por intuição” à verificação de factos: porque é que a confiança cega na IA é o próximo grande risco na literacia digital.

Download |

Imagine um mundo onde não só pede ao ChatGPT para escrever um e-mail, mas onde ele decide a quem enviar, quando enviar e até responde por si. Esse mundo já não é ficção científica; é o que os especialistas chamam de “Agentic AI” (IA Agêntica ou Autónoma) e está a chegar às nossas ferramentas digitais a uma velocidade vertiginosa.

Um relatório recente sobre “A Identidade da IA” alerta-nos para uma mudança de paradigma que educadores e alunos precisam de compreender: a autonomia sem supervisão é um risco. Mas o que significa isto para a sala de aula e para a literacia dos nossos alunos?​

1. A Era da “Confiança por Intuição” (Vibes)

O relatório introduz um conceito fascinante: o “Code-by-vibes” (codificar por “vibes” ou intuição). Isto acontece quando programadores (ou alunos!) geram código ou texto com IA e, porque “parece” funcionar ou soa bem, aceitam-no sem verificar.​

Na escola, vemos o equivalente no “Learn-by-vibes”:

• O aluno pede um resumo à IA.
• O texto parece coerente e bem escrito.
• O aluno aceita-o como verdade sem verificar as fontes ou a lógica.

O perigo, tal como na segurança informática, é que a aparência de competência não é competência real. Ensinar os alunos a não confiarem nas “vibes” de uma resposta da IA é a nova fronteira do pensamento crítico.

2. Agentes Autónomos: O “Quem” é mais importante que o “O Quê”

À medida que a IA se torna mais autónoma, a questão central deixa de ser “o que é que a IA consegue fazer?” para ser “quem é que autorizou esta IA a agir?”.​

No contexto educativo, isto levanta questões de Identidade Digital:

• Autoria: Se um “agente” de IA escreve um texto, de quem é a voz?
• Responsabilidade: Se um agente de IA comete um erro num trabalho de grupo ou numa pesquisa, quem é o responsável? O aluno que o usou ou a máquina?

O relatório sublinha que “a autonomia escala mais rápido que a confiança”. Nas escolas, precisamos de garantir que a literacia dos alunos (a sua capacidade de supervisionar e verificar) cresce ao mesmo ritmo que as ferramentas que utilizam.​

3. O Princípio do “Privilégio Mínimo” na Escola

Na cibersegurança, defende-se o “privilégio mínimo”: dar a um sistema apenas o acesso estritamente necessário para fazer o seu trabalho.​

Podemos aplicar esta regra à utilização da IA pelos alunos:

• Usar a IA como assistente, não como substituto. O aluno deve manter o “privilégio máximo” do pensamento e da decisão final.
• Verificação contínua: Tal como os sistemas de segurança devem verificar constantemente as identidades (“zero trust”), os alunos devem verificar constantemente as alucinações da IA.

Conclusão para a Comunidade Escolar

A lição do The AI Identity é clara: autonomia sem intenção é risco.
Não podemos impedir a evolução da IA para agentes mais autónomos, mas podemos preparar os nossos alunos para serem os “gestores” dessa identidade. O futuro não pertence a quem sabe apenas pedir coisas à IA, mas a quem sabe verificar, auditar e assumir a responsabilidade pelo que a IA faz.

---