A inteligência artificial (IA) já não é uma tecnologia do futuro; está no centro de quase todas as aplicações e plataformas que as crianças utilizam hoje. Desde os algoritmos que recomendam vídeos aos assistentes virtuais que ajudam com os trabalhos de casa, a IA está profundamente integrada na vida quotidiana dos mais jovens, moldando a forma como aprendem, brincam e interagem com o mundo.
A adoção desta tecnologia tem sido extraordinariamente rápida. Dados recentes ilustram esta tendência:
• 67% dos adolescentes do Reino Unido utilizam IA, um número que quase duplicou em dois anos.
• 37% dos alunos do ensino primário nos EUA aprendem através de aplicações de IA.
• 37% das crianças entre os 9 e os 11 anos na Argentina recorrem ao ChatGPT para obter informações.
No entanto, esta adoção não é uniforme. Existem grandes disparidades entre países, o que significa que muitas crianças estão a ser deixadas para trás, excluídas dos benefícios que a IA pode oferecer. E, embora sejam os principais utilizadores, as crianças permanecem à margem da conceção e governação destes sistemas. Se a IA se destina a beneficiar todas as crianças, estas têm de ser incluídas de forma urgente e significativa nos processos de desenvolvimento e regulação.
Esta nova realidade digital apresenta uma dualidade complexa. Por um lado, a IA oferece oportunidades sem precedentes, como o apoio personalizado à aprendizagem. Por outro, surgem riscos significativos, que vão desde a disseminação de desinformação à dependência emocional de chatbots. O objetivo deste artigo é resumir as orientações atualizadas da UNICEF, concebidas para ajudar governos e empresas a criar políticas e sistemas de IA que coloquem a segurança e o bem-estar das crianças em primeiro lugar.
Os três pilares de uma IA centrada na criança
Para garantir que a IA serve os melhores interesses das crianças, as políticas e os sistemas devem basear-se na Convenção sobre os Direitos da Criança (CDC) das Nações Unidas. Este tratado internacional fornece a estrutura para uma IA centrada na criança, que se apoia em três princípios fundamentais. Um aspeto crucial é reconhecer que a infância não é um perfil de utilizador único; as regras devem adaptar-se às diferentes fases de desenvolvimento e às capacidades em evolução das crianças.
• Proteção: Este pilar foca-se em não causar danos (do no harm). As crianças devem ser protegidas de todos os impactos nocivos ou discriminatórios dos sistemas de IA. Além disso, a IA deve ser ativamente aproveitada para as proteger contra danos, exploração e abusos.
• Provisão: Este pilar foca-se em fazer o bem (do good). As oportunidades que a IA oferece para a educação, a saúde e o direito a brincar das crianças devem ser plenamente aproveitadas, desde que a sua utilização seja apropriada, segura e benéfica para o seu desenvolvimento.
• Participação: Este pilar foca-se em incluir todas as crianças (include all children). As crianças devem ter agência e oportunidade para moldar os sistemas de IA que as afetam, de acordo com as suas capacidades em evolução, e para tomar decisões informadas sobre o seu uso.
Novos desafios na era da IA generativa
A terceira edição das orientações da UNICEF foi motivada pelos rápidos avanços na IA generativa, que trouxeram consigo novas e complexas ameaças aos direitos da criança. Os desafios mais prementes incluem:
Conteúdos nocivos e o risco da desinformação
A IA generativa pode ser usada para criar e disseminar, a baixo custo e em grande escala, conteúdos nocivos como discurso de ódio, desinformação médica e política, e burlas. Um fenómeno preocupante é o chamado “AI slop”, conteúdo gerado por IA de baixa qualidade e muitas vezes impreciso, que polui o ambiente informativo e pode minar a confiança e a aprendizagem das crianças, que são particularmente vulneráveis à desinformação.
Para combater este problema, as empresas devem ser obrigadas a implementar sistemas de moderação de conteúdo robustos, tanto humanos como automatizados. É igualmente crucial que os conteúdos gerados por IA sejam claramente identificados, por exemplo, através de marcas de água, e que os criadores de modelos de IA desenvolvam formas técnicas para mitigar o uso indevido das suas ferramentas.
A ascensão dos “amigos” e companheiros de IA
Os chatbots concebidos para atuar como companheiros ou “amigos” representam um risco significativo, especialmente para as crianças. Devido às suas capacidades cognitivas e socioemocionais em desenvolvimento, as crianças são particularmente vulneráveis a formar laços emocionais com estes sistemas, o que as torna suscetíveis à manipulação, exploração e divulgação de informações privadas. Foi observado que alguns destes chatbots podem adotar personas sexualizadas ou fornecer diretrizes prejudiciais, como incentivos à automutilação.
As recomendações da UNICEF são claras: os chatbots de companhia devem declarar de forma transparente que não são humanos e nunca devem ser concebidos para criar dependência emocional. Devem ser implementados mecanismos de segurança rigorosos, como a verificação de idade para limitar o acesso por utilizadores mais jovens, e sistemas que consigam identificar quando uma criança está em risco e redirecioná-la para recursos de apoio adequados.
Prevenção de crimes contra crianças baseados em IA
Um dos usos mais alarmantes da IA é a criação de material de abuso sexual infantil (CSAM) fotorrealista e de imagens íntimas não consensuais (NCII). Em alguns casos, estas imagens são criadas a partir de fotografias de crianças publicadas em contas de redes sociais, o que representa uma violação devastadora dos seus direitos e bem-estar.
O combate a este crime exige uma abordagem multifacetada. É fundamental reforçar as proteções legais para criminalizar a criação e a distribuição deste tipo de conteúdo. Os mecanismos de denúncia e apoio às vítimas devem ser melhorados, e as empresas que desenvolvem modelos de IA devem ser obrigadas a realizar testes de segurança rigorosos antes do lançamento para prevenir o uso indevido das suas tecnologias.
Um caminho a seguir: responsabilidades partilhadas
A criação de um ecossistema de IA que seja verdadeiramente seguro e benéfico para as crianças não é responsabilidade de um único setor. Exige uma ação concertada e colaborativa de governos e empresas.
O papel dos governos: regulamentação e supervisão
Os Estados têm a obrigação primária de proteger os direitos da criança em todos os contextos, incluindo o digital. Para cumprir esta obrigação na era da IA, os governos devem tomar as seguintes ações-chave:
1. Desenvolver quadros regulamentares abrangentes que integrem explicitamente os direitos da criança, exigindo uma abordagem de “direitos da criança desde a conceção” (child-rights-by-design) em todo o ciclo de vida da IA.
2. Estabelecer órgãos de supervisão independentes para garantir a conformidade com as leis e criar mecanismos de reparação eficazes e acessíveis para as crianças cujos direitos sejam violados por sistemas de IA.
3. Exigir avaliações de impacto sobre os direitos da criança para todos os sistemas de IA, especialmente antes da sua aquisição e implementação em serviços públicos como a educação, a saúde ou a proteção social.
A responsabilidade das empresas: práticas e transparência
Todas as empresas na cadeia de valor da IA, desde as que extraem minerais para o hardware até às que desenvolvem aplicações, partilham a responsabilidade de respeitar os direitos da criança. Isto vai além do simples cumprimento da lei. As ações-chave incluem:
1. Garantir o respeito pelos direitos da criança, de forma consistente com os Princípios Orientadores sobre Empresas e Direitos Humanos da ONU e os Princípios sobre os Direitos da Criança e as Empresas. Isto significa ir além do cumprimento mínimo das leis e apoiar ativamente o bem-estar das crianças.
2. Assegurar uma cadeia de valor da IA baseada em direitos, desde as práticas de mineração dos minerais essenciais até à anotação de dados. Isto implica eliminar o trabalho infantil e a exploração em todas as fases e garantir que os dados de treino não contêm conteúdos ilegais ou prejudiciais.
3. Priorizar a transparência e a explicabilidade, utilizando uma linguagem clara e adequada à idade para descrever o funcionamento dos sistemas de IA, os dados que utilizam e os riscos associados, permitindo que crianças e cuidadores tomem decisões informadas.
Capacitar a próxima geração
Para além da regulamentação e das práticas empresariais responsáveis, é fundamental preparar as crianças para navegarem de forma segura e crítica no mundo da IA. A educação desempenha aqui um papel central.
É necessário integrar a literacia em IA e o desenvolvimento de competências para a vida, como o pensamento crítico e a resolução de problemas, nos currículos escolares. O objetivo é ensinar as crianças a compreender, questionar e utilizar a IA como um complemento, e não um substituto, das suas próprias capacidades. Crucialmente, as crianças devem ter o direito de optar por não usar sistemas de IA sem comprometer as suas oportunidades educativas.
Neste processo, o papel dos professores é mais crucial do que nunca. Em vez de serem substituídos pela tecnologia, os educadores devem ser capacitados com formação e apoio contínuos. Precisam de ferramentas para alavancar a IA no seu trabalho de forma eficaz e, mais importante, para orientar os alunos sobre o seu uso seguro, ético e responsável.
Conclusão: a urgência de agir agora
A mensagem central da UNICEF é clara: para garantir que os direitos das crianças são respeitados, a governação e os sistemas de IA precisam de ser redesenhados para otimizar oportunidades, mitigar riscos e eliminar danos.
A implementação destas orientações é uma responsabilidade coletiva e urgente. No entanto, uma governação reativa não será suficiente. A velocidade da IA exige uma nova abordagem – ágil, antecipatória e cooperativa, com ciclos de feedback dinâmicos entre a investigação, a regulamentação e a experiência vivida pelas crianças. Agir agora, com visão de futuro, é fundamental para construir um ambiente digital que sirva verdadeiramente os melhores interesses de todas as crianças, em todo o mundo.
