Autoras: Gazal Shekhawat e Sonia Livingstone
Após a recente Cimeira de Segurança da IA no Reino Unido , no início de novembro, Gazal Shekhawat e Sonia Livingstone, da LSE, chamam a atenção para os interesses das crianças na corrida armamentista global da IA.
Surpreendentemente, a Cimeira de Segurança da IA do Reino Unido incluiu pouca menção às crianças no seu programa, além de uma menção retórica delas como “o futuro”. Mas para concretizar a segurança das crianças – e de todo o nosso futuro, será crucial compreender como o sector da IA e as políticas regulamentares impactam todos os aspectos da vida das crianças e jovens do mundo. Aqui refletimos sobre as orientações dos principais organismos transnacionais.
Cinco fontes principais de orientação sobre IA
- As ‘Orientações políticas sobre IA para crianças’ da UNICEF (2021, Versão 2.0 ) baseiam-se na consulta das partes interessadas em todo o mundo, numa visão geral das estratégias nacionais (2020) e num resumo de investigação com estudos de caso de riscos e oportunidades. Recomenda princípios de inclusão, justiça, privacidade, explicabilidade, aumentando a consciencialização dos governos sobre os direitos das crianças e sobre a IA entre crianças e cuidadores. No Reino Unido, o Instituto Alan Turing testou esta orientação com a Scottish AI Alliance e o Children’s Parliament para mostrar como as crianças podem contribuir eficazmente para as discussões sobre políticas de IA. Enquanto agência global para a protecção dos direitos das crianças, a orientação da UNICEF é multifacetada e tem peso em todos os continentes. A sua adoção é agora o próximo passo a aguardar.
- A orientação do Centro Comum de Investigação da Comissão Europeia, Inteligência Artificial e os Direitos da Criança (2022) destaca requisitos prementes da IA, incluindo: ‘Minimização da IA, propósito valioso e sustentabilidade’, explicabilidade, transparência, não discriminação e integração da segurança das crianças em tecnologias de IA. Mostra como estes podem iluminar casos específicos em sistemas de recomendação, agentes conversacionais e sistemas robóticos. Embora faça parte da CE, o âmbito da orientação é notavelmente global.
- O relatório do Relator Especial sobre Privacidade do Conselho de Direitos Humanos da ONU sobre a privacidade das crianças (2021) responde à forma como o uso expansivo da IA pode infringir a privacidade das crianças, apelando ao respeito pelas convenções e quadros políticos estabelecidos da ONU, incluindo a Convenção das Nações Unidas sobre os Direitos do Criança. As recomendações lançam uma nova luz sobre a forma como os quadros jurídicos e baseados em direitos interagem com a IA.
- O Kit de Ferramentas de Inteligência Artificial para Crianças do Fórum Económico Mundial (2022) defende os seus “PRIMEIROS” princípios: Justo, Inclusivo, Responsável, Seguro, Transparente – e apela a um sistema de rotulagem de IA, semelhante a códigos de barras ou códigos QR em produtos e serviços, aconselhando sobre possíveis danos, dados coletados e usuários adequados à idade. Esta orientação é especialmente relevante para o setor privado e pode apoiar empresas e executivos de alto escalão na condução do desenvolvimento de produtos para crianças.
- A Estrutura de Serviços Digitais Adequados à Idade da IEEE Standards Association (2021) baseia-se nos princípios 5Rights para garantir um padrão para produtos e serviços digitais, incluindo IA, adequados à idade. Ele fornece um ‘sistema de classificação de impacto’ com critérios de acesso aberto para apoiar designers de produtos, o governo e provedores educacionais, complementado pelos 4i’s (‘Intenções, Insumos, Instruções e Impacto’) da Orientação 5Rights para Formuladores de Políticas sobre IA, conforme mostrado abaixo: Como é o bom?
Será evidente que o foco da orientação está fortemente nos processos de implantação de IA para evitar ou mitigar o risco de danos, deixando em grande parte não declarada a questão dos resultados desejáveis para a sociedade, incluindo as crianças. Para além da – muito importante – governação de processos potencialmente problemáticos, para os quais os cinco recursos acima mencionados oferecem orientações valiosas e altamente práticas, baseadas em evidências, nas opiniões das partes interessadas e nas vozes das crianças, devemos também perguntar: como é que é bom para a IA e os direitos das crianças? Isso envolve considerar questões como:
Continuar a ler
