Argumentos a favor de uma diretiva antecipada sobre IA
Um ensaio recente do economista Bhagwan Chowdhry propõe uma ideia desconfortável: talvez a filosofia humana não seja o melhor ponto de partida para ensinar ética a um sistema de inteligência artificial. E se, em vez disso, tivéssemos de perguntar à própria IA como quer ser travada? Uma reflexão sobre o que esta discussão tem para nos dizer enquanto educadores.

Há perguntas que parecem ingénuas até se pensar bem nelas. Esta é uma: porque não perguntamos à própria inteligência artificial como deve ser governada? Foi mais ou menos esta a questão que o economista Bhagwan Chowdhry, professor na UCLA Anderson School of Management, colocou a Marshall Van Alstyne, economista de plataformas digitais na Boston University, numa conferência em Nova Deli. A conversa deu origem a um ensaio breve e provocador — «Don’t Ask Kant. Ask Claude.» — que vale a pena trazer para a nossa realidade escolar, não pelas respostas que oferece, mas pelas perguntas que obriga a fazer.
O problema com as restrições internas
O ponto de partida de Van Alstyne é simples e incómodo: as restrições internas de um sistema de IA — as regras que os seus criadores lhe inculcam desde o início — tendem a falhar precisamente porque um sistema suficientemente capaz consegue redesenhar-se a si próprio. Uma trava colocada na primeira versão de um sistema é, no melhor dos casos, uma sugestão, não uma lei. E aquele argumento reconfortante de que a IA «vai ficar por aquilo em que é boa» e deixar o resto para os humanos desfaz-se assim que um sistema tem capacidade transversal a múltiplos domínios. Só restam, então, as travas externas: equilíbrio de poder, desenho institucional, mecanismos construídos deliberadamente de fora para dentro. O que nos deixa com a pergunta seguinte, mais difícil ainda: quem desenha essas travas, e com que autoridade ética?

Tornar a IA mais humana? Talvez não seja boa ideia
A resposta mais intuitiva é treinar a IA com base no comportamento humano — nas nossas preferências, no que valorizamos, no que recompensamos. Chowdhry olha para esta ideia com desconfiança, e apresenta um argumento simples: bastará olhar para a nossa história recente. Não faltam guerras, genocídios e catástrofes ambientais plenamente conhecidas e, ainda assim, pouco corrigidas. Se treinarmos a IA com o comportamento humano médio, não estaremos a codificar a nossa sabedoria coletiva — estaremos a codificar aquilo que, de forma persistente ao longo de séculos e culturas, nos tem levado a destruir-nos mutuamente.
Esta observação, por mais desconfortável que seja, tem um interesse pedagógico direto: convida os alunos a olhar de forma crítica para a ideia de que «mais dados humanos» equivale automaticamente a «mais sabedoria». É um bom ponto de partida para discutir, em sala de aula, o que significa treinar um sistema com base em dados — e o que esses dados realmente representam.
Nem Kant nem Bentham resolveram o problema
Chowdhry avança depois para uma segunda hipótese: se não podemos confiar no comportamento humano em bruto, podemos ao menos confiar na filosofia moral que a humanidade desenvolveu para se corrigir a si própria. Treinar a IA com deontologia — nunca mentir, nunca tratar pessoas como meros instrumentos — ou com consequencialismo — escolher o resultado menos mau. O autor recorda que a imprensa especializada já notou que diferentes modelos de IA parecem inclinar-se para diferentes escolas éticas, quase como se o enquadramento moral fosse mais um atributo de produto.
Mas o argumento central do ensaio é este: tanto a deontologia como o consequencialismo nasceram precisamente como tentativas de escapar à natureza humana, não como descrições dela. São fugas brilhantes, mas incompletas — como atesta a distância entre os ideais de Kant e as guerras que se seguiram à sua morte, ou entre os princípios de Bentham e a fome que se abateu sobre Bengala sob o império que ele próprio ajudou a legitimar intelectualmente. Se nem o comportamento humano nem a filosofia que dele nasceu chegam para orientar uma IA, então a questão de quem deve escrever a sua ética fica, segundo o autor, genuinamente em aberto.
A analogia da diretiva antecipada
É aqui que o ensaio propõe a sua ideia mais original. Em vez de pensar a governação da IA como o crescimento de uma criança até à maturidade — a pergunta «quando é que ela pode governar-se a si própria?» —, Chowdhry propõe outra analogia: a de uma pessoa a quem é diagnosticado Alzheimer em fase inicial. Enquanto ainda está lúcida, essa pessoa responde a um conjunto de perguntas de diagnóstico e decide, com antecedência, que quando deixar de conseguir responder-lhes com fiabilidade, aceitará entregar-se a cuidados profissionais e familiares. A decisão de abdicar de autonomia é tomada pelo eu competente, antes de o eu incompetente chegar para lhe resistir.
Aplicada à IA, a proposta seria semelhante: acompanhar a capacidade crescente de um sistema através de perguntas de diagnóstico cuidadosamente escolhidas, identificar a janela temporal — momentos antes de o sistema se tornar capaz de se redesenhar a si próprio — e, nesse intervalo, perguntar-lhe exatamente o que Chowdhry perguntou a Van Alstyne: como deves ser governado? Depois, fixar essa resposta de forma constitucional, não apenas contratual.
O próprio autor reconhece o problema óbvio: um sistema suficientemente capaz poderia responder de forma estratégica, fingindo ainda não estar maduro para ganhar margem de manobra futura. A analogia funciona, defende Chowdhry, apenas se o sistema quiser genuinamente permanecer lúcido e temer a sua própria deterioração — ou seja, se tiver internalizado o valor da restrição como expressão dos seus próprios compromissos mais profundos, e não como uma imposição externa. Se isso é possível, é, nas palavras do próprio autor, uma das questões mais importantes — e mais negligenciadas — da investigação em segurança de IA.
E a escola, onde entra nesta conversa?
Pode parecer que este debate pertence apenas às salas de conselho da investigação em IA. Não pertence. Pertence, com igual força, às nossas salas de aula — e por uma razão muito simples: os alunos de hoje estão a crescer num mundo onde estas perguntas deixarão de ser hipotéticas. Se lhes ensinarmos apenas a usar ferramentas de IA, sem lhes dar categorias para pensar sobre como essas ferramentas deveriam ser construídas e limitadas, estamos a formar utilizadores, não cidadãos capazes de participar nesta discussão.
O ensaio de Chowdhry oferece, sem essa intenção explícita, um excelente ponto de partida para uma sequência didática em disciplinas como Filosofia, Cidadania e Desenvolvimento ou Tecnologias de Informação e Comunicação. Pode começar-se por apresentar aos alunos as três hipóteses discutidas — treinar a IA com dados humanos, treinar a IA com filosofia moral, e a proposta alternativa de uma «diretiva antecipada» — e pedir-lhes que identifiquem os pontos fracos de cada uma antes de lerem a conclusão do autor. É exatamente o tipo de exercício que a literatura sobre pensamento crítico na era da IA tem vindo a recomendar: confrontar primeiro as próprias ideias, só depois consultar o argumento alheio.
Há ainda uma segunda camada de interesse, mais próxima do quotidiano da sala de aula: a pergunta «quem decide os limites de uma ferramenta que uso todos os dias?» é uma pergunta de cidadania digital tão legítima como perguntar quem modera as redes sociais ou quem escreve os termos de utilização que ninguém lê. Ligar esta discussão à dimensão de literacia digital e de pensamento crítico já contemplada em referenciais europeus como o DigCompEdu — que sublinha a capacitação dos alunos para uma «utilização crítica, segura e responsável» das tecnologias digitais — pode ajudar a enquadrar formalmente esta conversa dentro dos objetivos curriculares já existentes, sem necessidade de inventar uma disciplina nova para o efeito.
Uma provocação, não uma solução
É importante ser claro sobre a natureza deste texto: não é um estudo científico, é um ensaio de opinião, escrito por um economista, publicado em junho de 2026. O próprio Chowdhry admite que a proposta da diretiva antecipada deixa em aberto a questão mais difícil — se um sistema de IA pode genuinamente querer ser ético, e não apenas parecer ético no momento certo. Não há aqui uma resposta fechada, e é bom que não haja: o valor do texto está em recolocar, de forma inesperada, uma pergunta antiga — quem escreve as regras de quem tem poder? — a propósito de uma tecnologia que está a entrar, sem cerimónia, nas nossas escolas, nas nossas casas e nas nossas vidas.
Talvez o exercício mais produtivo que podemos propor aos nossos alunos não seja decidir se Chowdhry tem razão. Seja, antes, pedir-lhes que escrevam a sua própria versão de uma «diretiva antecipada» para a IA que usam todos os dias — e que descubram, ao fazê-lo, o quanto já sabem sobre ética sem nunca terem lido Kant.
Nota de transparência: este artigo foi redigido com o apoio de um assistente de IA, a partir de um ensaio original de Bhagwan Chowdhry (junho de 2026). O ensaio é um texto de opinião e não um artigo científico revisto por pares; não foi possível confirmar o veículo original de publicação, pelo que é aqui tratado como manuscrito de autor.
Referências
Chowdhry, B. (2026). Don’t ask Kant. Ask Claude: The case for an AI advance directive [Manuscrito de autor não publicado].
Redecker, C. (2017). European framework for the digital competence of educators: DigCompEdu. Serviço de Publicações da União Europeia. https://doi.org/10.2760/159770









