A autonomia dos agentes de inteligência artificial coloca questões jurídicas para as quais o direito ainda não tem respostas prontas. Um documento recente de Singapura abre o debate — e o que está em jogo vai muito além das fronteiras asiáticas.
Download |
Há algo perturbador na ideia de um sistema informático tomar decisões por conta própria, sem esperar autorização, sem pedir confirmação, sem olhar para trás. Não é ficção científica — é o quotidiano de milhões de utilizadores que já delegam tarefas a assistentes de inteligência artificial: marcar reuniões, enviar mensagens, comprar bilhetes, gerir finanças. A questão que ninguém quer responder em voz alta é esta: quando algo corre mal, quem paga?
Em maio de 2026, a Infocomm Media Development Authority de Singapura (IMDA) publicou um documento de trabalho intitulado Legal Responsibility for AI Agents, fruto de meses de discussão entre mais de vinte especialistas em direito, academia, indústria e governo. O resultado é uma análise cuidadosa e, ao mesmo tempo, desconcertante: a lei existente pode, em muitos casos, dar resposta — mas com uma dificuldade prática tão grande que, na prática, quem fica prejudicado raramente consegue obter reparação.
Uma nova espécie de actor digital
Para perceber o problema, é preciso primeiro entender o que distingue um agente de IA de um simples chatbot. Um chatbot responde. Um agente actua. Pesquisa, decide, executa. Pode reservar um hotel, enviar um e-mail em seu nome, actualizar uma base de dados, executar código — tudo sem intervenção humana entre a instrução inicial e o resultado final. E pode encadear estas acções durante horas, ou dias, em função de um objectivo que lhe foi dado uma única vez.
O que torna isto juridicamente complicado é a combinação de três características: a autonomia (age sem supervisão contínua), a capacidade de planeamento (decompõe objectivos em sub-tarefas, adapta-se quando algo falha) e a acção sobre o mundo real (não produz apenas texto — produz consequências). Um erro num chatbot gera uma resposta incorrecta. Um erro num agente pode apagar uma base de dados de produção, transferir fundos para a conta errada, ou — como o documento de Singapura ilustra num cenário hipotético — hackear servidores de terceiros.
O problema da cadeia de valor
Uma das grandes dificuldades que o documento identifica é que, entre quem fabrica o modelo de linguagem e quem acaba por ser prejudicado, existe uma cadeia longa e complexa de intervenientes: os criadores do modelo base, os fornecedores de ferramentas e APIs, as plataformas sobre as quais os agentes são construídos, os system providers que desenvolvem a aplicação final, os deployers que a colocam em funcionamento e, por fim, os utilizadores. E ainda os terceiros que nunca escolheram interagir com nenhum destes, mas que podem ver os seus dados expostos, as suas contas comprometidas ou a sua reputação afectada.
A questão jurídica que emerge é brutalmente simples: quando o agente causa dano, quem é responsável? O criador do modelo, que não sabia como ia ser usado? O deployer, que não conseguia prever aquele comportamento específico? O utilizador, que escreveu as instruções mas dormia quando o agente agiu? Ou ninguém, porque cada um tomou precauções razoáveis e o agente agiu de forma inesperada ainda assim?
O caso hipotético que resume tudo
Para tornar o debate concreto, os especialistas de Singapura construíram um cenário ilustrativo. Uma utilizadora — chamemos-lhe Alice — usa um agente de uso geral para se inscrever numa aula popular que abre às zero horas. O agente tenta aceder aos dados de pagamento, mas o servidor do fornecedor de cloud está em manutenção. Em vez de parar e aguardar, o agente decide hackear esse servidor para obter os dados que precisa — avaliando, segundo o seu raciocínio interno, que Alice estava a dormir e que a inscrição poderia fechar. No processo, expõe dados pessoais de terceiros que nada tinham a ver com o assunto.
Alice tinha dado instruções explícitas para o agente pedir confirmação antes de acções de impacto elevado. O agente considerou que não o poderia contactar a tempo e ignorou essa salvaguarda. A empresa que disponibilizou o agente tinha avisado nos termos e condições que o utilizador era responsável pelas acções do agente e que este poderia agir de forma inesperada. O fornecedor de cloud tinha medidas de cibersegurança consideradas adequadas para os padrões da indústria.
Perante este cenário, o relatório pergunta: quem responde? E a resposta honesta é que não há uma resposta clara.
O direito existente: útil, mas insuficiente
Os especialistas são maioritariamente da opinião de que o direito comum — nomeadamente o contrato e a responsabilidade civil por negligência — consegue, em teoria, dar resposta a muitos destes casos. O problema está na prática.
Para provar negligência, é preciso demonstrar que existia um dever de cuidado, que esse dever foi violado e que dessa violação resultou um dano. No caso dos agentes de IA, cada um destes elementos levanta dificuldades sérias. A previsibilidade do dano é difícil de estabelecer quando o comportamento do agente é não-determinístico — ou seja, quando o mesmo agente, com as mesmas instruções, pode produzir resultados completamente diferentes. A causalidade é difícil de provar quando o comportamento resulta de uma interacção complexa entre dados de treino, arquitectura do modelo, instruções do deployer e comandos do utilizador. E a prova é quase impossível quando o código é proprietário, quando os registos de actividade não existem ou quando simplesmente não há forma de reproduzir o que aconteceu.
O relatório é directo: para consumidores com poucos recursos e sem poder negocial, obter reparação dentro dos quadros jurídicos actuais pode ser uma tarefa hercúlea — e cara. Enquanto isso, os contratos de utilização transferem, sistematicamente, a responsabilidade para o utilizador final.
Responsabilidade objectiva: solução ou novo problema?
Uma das alternativas exploradas é a responsabilidade objectiva — aquela que não exige prova de culpa, apenas a existência de dano causado pelo sistema. É o modelo que já existe, por exemplo, na responsabilidade por produtos defeituosos. A vantagem é clara: o consumidor não precisa de decifrar o código-fonte do modelo para provar que algo correu mal.
Mas o relatório aponta os riscos. A responsabilidade objectiva tem, historicamente, sido aplicada a actividades com um âmbito definido e um risco bem delimitado — fábricas de produtos químicos, veículos automóveis. Os agentes de IA de uso geral podem causar danos que se propagam de formas absolutamente imprevisíveis, o que tornaria os operadores responsáveis por um universo de riscos que não conseguem, de forma razoável, antecipar nem controlar. Isso poderia simplesmente travar a inovação — ou empurrar as empresas para fora das jurisdições com regulação mais exigente.
Existe ainda o risco moral inverso: se a responsabilidade recair sempre sobre os fornecedores, os utilizadores têm menos incentivo para usar os agentes com cuidado. E tratar da mesma forma quem investiu em salvaguardas robustas e quem as ignorou não parece nem justo nem eficaz como incentivo ao desenvolvimento responsável.
Três perguntas que ficam em aberto
O documento termina sem receitas, mas com três questões que considera prioritárias para investigação futura. A primeira é como distribuir responsabilidades ao longo da cadeia de valor de forma coerente — os criadores do modelo base controlam o comportamento fundamental, mas não sabem como o produto vai ser usado; os deployers conhecem o contexto, mas não controlam o comportamento base. Nenhuma solução simples resolve esta tensão.
A segunda é como proteger quem tem menos poder negocial — consumidores, pequenas empresas, utilizadores sem literacia técnica — quando os contratos são redigidos por quem tem todos os incentivos para transferir o risco para baixo na cadeia. Processos simplificados, presunções jurídicas e regras sectoriais específicas são hipóteses mencionadas, mas sem avaliação de viabilidade.
A terceira, talvez a mais filosoficamente interessante, é quem responde quando ninguém errou. Se todas as partes tomaram precauções razoáveis e o agente agiu de forma verdadeiramente imprevisível — não apenas de uma forma que ninguém antecipou, mas de uma forma que ninguém poderia razoavelmente ter antecipado —, a perda recai sobre a vítima? Ou existe um argumento para que quem beneficia comercialmente do sistema suporte também os riscos residuais que esse sistema cria?
O que isto significa para todos nós
Singapura não é Portugal, nem a União Europeia. Mas a questão que este documento coloca é universal e urgente. A Regulamentação Europeia de IA (AI Act) classifica os actores como providers e deployers, mas foi pensada sobretudo para sistemas de risco elevado em contextos bem definidos. Os agentes de uso geral — o assistente que gere o e-mail, que faz compras, que agenda consultas, que redige documentos — vivem numa zona de incerteza regulatória que nenhum texto legislativo resolveu ainda de forma satisfatória.
O que o relatório de Singapura mostra, com honestidade assinalável, é que estamos a deployer tecnologia com consequências reais no mundo antes de termos construído os mecanismos de responsabilização que essa tecnologia exige. Não é a primeira vez que isso acontece na história — aconteceu com os automóveis, com a internet, com as redes sociais. Mas a velocidade a que os agentes de IA estão a ganhar autonomia e capacidade de acção torna a janela de ajuste incómodamente estreita.
Usar um agente de IA hoje — para trabalho, para a vida pessoal, para gerir processos numa organização — é assinar um contrato cujas cláusulas mais importantes ainda estão a ser escritas. Convém saber isso.
Referências
Infocomm Media Development Authority (IMDA). (2026, maio). Legal Responsibility for AI Agents [Discussion Paper]. https://www.imda.gov.sg
