Autoras: Gazal Shekhawat e Sonia Livingstone
Após a recente Cimeira de Segurança da IA no Reino Unido , no início de novembro, Gazal Shekhawat e Sonia Livingstone, da LSE, chamam a atenção para os interesses das crianças na corrida armamentista global da IA.
Surpreendentemente, a Cimeira de Segurança da IA do Reino Unido incluiu pouca menção às crianças no seu programa, além de uma menção retórica delas como “o futuro”. Mas para concretizar a segurança das crianças – e de todo o nosso futuro, será crucial compreender como o sector da IA e as políticas regulamentares impactam todos os aspectos da vida das crianças e jovens do mundo. Aqui refletimos sobre as orientações dos principais organismos transnacionais.
Cinco fontes principais de orientação sobre IA
- As ‘Orientações políticas sobre IA para crianças’ da UNICEF (2021, Versão 2.0 ) baseiam-se na consulta das partes interessadas em todo o mundo, numa visão geral das estratégias nacionais (2020) e num resumo de investigação com estudos de caso de riscos e oportunidades. Recomenda princípios de inclusão, justiça, privacidade, explicabilidade, aumentando a consciencialização dos governos sobre os direitos das crianças e sobre a IA entre crianças e cuidadores. No Reino Unido, o Instituto Alan Turing testou esta orientação com a Scottish AI Alliance e o Children’s Parliament para mostrar como as crianças podem contribuir eficazmente para as discussões sobre políticas de IA. Enquanto agência global para a protecção dos direitos das crianças, a orientação da UNICEF é multifacetada e tem peso em todos os continentes. A sua adoção é agora o próximo passo a aguardar.
- A orientação do Centro Comum de Investigação da Comissão Europeia, Inteligência Artificial e os Direitos da Criança (2022) destaca requisitos prementes da IA, incluindo: ‘Minimização da IA, propósito valioso e sustentabilidade’, explicabilidade, transparência, não discriminação e integração da segurança das crianças em tecnologias de IA. Mostra como estes podem iluminar casos específicos em sistemas de recomendação, agentes conversacionais e sistemas robóticos. Embora faça parte da CE, o âmbito da orientação é notavelmente global.
- O relatório do Relator Especial sobre Privacidade do Conselho de Direitos Humanos da ONU sobre a privacidade das crianças (2021) responde à forma como o uso expansivo da IA pode infringir a privacidade das crianças, apelando ao respeito pelas convenções e quadros políticos estabelecidos da ONU, incluindo a Convenção das Nações Unidas sobre os Direitos do Criança. As recomendações lançam uma nova luz sobre a forma como os quadros jurídicos e baseados em direitos interagem com a IA.
- O Kit de Ferramentas de Inteligência Artificial para Crianças do Fórum Económico Mundial (2022) defende os seus “PRIMEIROS” princípios: Justo, Inclusivo, Responsável, Seguro, Transparente – e apela a um sistema de rotulagem de IA, semelhante a códigos de barras ou códigos QR em produtos e serviços, aconselhando sobre possíveis danos, dados coletados e usuários adequados à idade. Esta orientação é especialmente relevante para o setor privado e pode apoiar empresas e executivos de alto escalão na condução do desenvolvimento de produtos para crianças.
- A Estrutura de Serviços Digitais Adequados à Idade da IEEE Standards Association (2021) baseia-se nos princípios 5Rights para garantir um padrão para produtos e serviços digitais, incluindo IA, adequados à idade. Ele fornece um ‘sistema de classificação de impacto’ com critérios de acesso aberto para apoiar designers de produtos, o governo e provedores educacionais, complementado pelos 4i’s (‘Intenções, Insumos, Instruções e Impacto’) da Orientação 5Rights para Formuladores de Políticas sobre IA, conforme mostrado abaixo: Como é o bom?
Será evidente que o foco da orientação está fortemente nos processos de implantação de IA para evitar ou mitigar o risco de danos, deixando em grande parte não declarada a questão dos resultados desejáveis para a sociedade, incluindo as crianças. Para além da – muito importante – governação de processos potencialmente problemáticos, para os quais os cinco recursos acima mencionados oferecem orientações valiosas e altamente práticas, baseadas em evidências, nas opiniões das partes interessadas e nas vozes das crianças, devemos também perguntar: como é que é bom para a IA e os direitos das crianças? Isso envolve considerar questões como:
- Podemos realmente documentar os benefícios da IA para o bem, por exemplo em relação aos diagnósticos de saúde, à educação personalizada, ao futuro do trabalho ou ao apoio ao desenvolvimento e à agência das crianças?
- Podemos encontrar soluções para combater os potenciais danos às crianças individualmente, às crianças colectivamente ou à sociedade em geral – considerando a desinformação, as violações da privacidade ou os danos às comunidades protegidas? E será que estas questões são melhor abordadas através da regulamentação da IA?
Ao rever os principais quadros, está a emergir uma agenda de investigação substancial. Como observam a UNICEF, o Conselho da Europa e outros, precisamos de mais investigação para compreender como os modelos de IA, especialmente a utilização de chatbots e brinquedos inteligentes, podem afectar o funcionamento cognitivo das crianças. Além disso, estudos sobre como a IA afecta diferentes grupos etários podem ajudar políticas precisas. Na verdade, o impacto da IA nas crianças no Reino Unido dificilmente será uniforme, uma vez que é moldado pelas suas comunidades e contextos de vida. Sabemos também que o preconceito algorítmico afecta desproporcionalmente as crianças minoritárias, e o relatório do Children’s Commissioner conclui que as crianças negras têm seis vezes mais probabilidades de serem revistadas pela polícia em comparação com a população nacional. Dadas as recentes investigações sobre a utilização da IA na tomada de decisões automatizada por organismos do sector público , incluindo a falta de transparência na utilização da IA pela Polícia Metropolitana , continuamos em águas difíceis; as conversas da elite em altos cargos podem ser insuficientes para navegar por elas.
Todas as orientações – quer relativas às crianças quer ao “público” – beneficiariam de maior clareza sobre a forma como foram formuladas, sinalizando quais as recomendações que emergem de crianças, especialistas, investigadores ou empresas para avaliar e compreender como as necessidades das partes interessadas foram consideradas e equilibradas. O fornecimento e a política de IA provavelmente terão implicações globais, tornando crucial incluir perspectivas do Sul Global. Embora exista representação internacional, nomeadamente da União Africana (UA) e da Associação das Nações do Sudeste Asiático (ASEAN) , também é importante ouvir as vozes das crianças do Sul global e da sociedade civil.
Próximos desafios
Sim, são necessárias mais investigações . Embora a IA não seja novidade, desde que a IA generativa entrou em cena, os decisores políticos e os investigadores têm lutado para acompanhá-la. No mundo dos direitos das crianças, as inovações tecnológicas dramáticas tendem a estimular apelos desfavoráveis e de pânico para proteger as crianças a todo o custo, antes das provas. É claro que a proteção das crianças é vital e urgente, mas também o são os outros direitos das crianças – à privacidade e à proteção de dados, à aprendizagem com e sobre a IA , à expressão criativa num mundo digital e muito mais.
É difícil determinar os melhores interesses das crianças em relação à IA quando os danos só agora estão a ser documentados e os benefícios são principalmente evidenciados através de estudos de caso esporádicos com rigor ou âmbito de aplicação incertos . Também é problemática a frequência com que as discussões sobre proteção (ou exploração) de dados são separadas das discussões sobre os resultados da IA: certamente um julgamento holístico considera como e de onde vêm os dados, em conjunto com quem a IA beneficia? Mesmo descobrir o que não sabemos e precisamos descobrir é uma tarefa ainda a ser realizada. Em todas estas tarefas, as vozes das próprias crianças devem ser ouvidas.
Também desafiadora é a questão – muito raramente abordada – de até que ponto a orientação deve ser especificamente adaptada aos direitos das crianças (em vez dos direitos humanos, que também são vitais). As crianças têm necessidades e vulnerabilidades específicas e constituem um segmento considerável da população , mas os seus dados pessoais são recolhidos sem o seu consentimento , ou o dos seus pais , e utilizados para conduzir serviços educacionais, de saúde ou outros serviços de IA sem consultá-los, ou fornecer explicação adequada para crianças, apropriada à sua “alfabetização em IA”. Por exemplo, a UNESCO e a OCDE produziram orientações amplamente valorizadas sobre IA, mas estas e muitas outras fontes de orientação em todo o mundo , incluindo a que acaba de ser anunciada pela Casa Branca , dizem pouco ou nada sobre as crianças.
Na LSE, com a 5Rights Foundation, estamos a lançar um novo centro de investigação: Digital Futures for Children , com base na nossa recente Comissão de Futuros Digitais . A sua missão é exatamente esta – garantir uma base de evidências para políticas e defesa relacionadas com o ambiente digital, orientada pelo Comentário Geral n.º do Comité dos Direitos da Criança da ONU . 25 e em colaboração com crianças e, esperamos, leitores deste blog e colegas de todo o mundo. Assista esse espaço!
O texto deste artigo republicado aqui sob licença Creative Commons, é do blog Media@LSE e as autoras são: Gazal Shekhawat e Sonia Livingstone
