Autor: por Juan Diego Polo | Ler na fonte
O surgimento de ferramentas de inteligência artificial generativa como o ChatGPTrevolucionou o acesso à informação, mas também acendeu alarmes entre os editores de conteúdo. Um estudo recente do Tow Center for Digital Journalism da Columbia Journalism School lança luz sobre um problema fundamental: a falta de precisão nas citações geradas por este popular chatbot da OpenAI.
O problema das citações imprecisas
A pesquisa analisou como o ChatGPT cita conteúdo jornalístico, usando 200 citações extraídas de artigos de 20 meios de comunicação diferentes, como The New York Times, The Washington Post e The Financial Times. Embora alguns desses meios de comunicação tenham acordos de licenciamento com a OpenAI, os resultados foram desanimadores: as citações estavam incorretas em 76% dos casos, e apenas em sete instâncias o chatbot reconheceu sua incapacidade de fornecer uma resposta precisa.
De acordo com o estudo, o bot apresenta “um espectro de precisão”, com casos de citações corretas, incorretas ou parcialmente incorretas. O mais alarmante é que mesmo quando o ChatGPT não tem acesso direto a certos conteúdos (devido a bloqueios de rastreadores como robots.txt), ele tende a confundir informações, inventando citações ou atribuindo-as a fontes incorretas.
Riscos para os editores
Na WWWhatsnew acredita-se que este fenómeno tem sérias implicações para os média. Por um lado, citações imprecisas podem prejudicar a reputação dos editores, especialmente se os leitores perceberem erros que parecem vir de fontes originais. Por outro lado, quando o bot direciona utilizadores para sites que plagiam conteúdo de qualidade, ele indiretamente incentiva a cópia não autorizada e prejudica a renda dos criadores legítimos.
Um caso mencionado no estudo ilustra como o ChatGPT atribuiu uma citação a um site que havia plagiado um artigo do New York Times, omitindo a fonte original. Esse tipo de situação não apenas corrói a credibilidade do média, mas também levanta questões éticas sobre como os dados são coligidos e validados em modelos de inteligência artificial.
O desafio da transparência
Um aspecto chave apontado pelos investigadores é a falta de transparência do ChatGPT. Ao contrário dos mecanismos de busca tradicionais, como o Google, que podem indicar quando não encontram resultados precisos, o chatbot geralmente responde com confiança aparente, mesmo quando suas respostas estão incorretas. Isso dificulta que os utilizadores avaliem a validade das afirmações e afeta a percepção de confiança nas informações oferecidas.
Este é um dos maiores desafios para o OpenAI: estabelecer mecanismos claros que permitam aos utilizadores distinguir entre informações confiáveis e erros gerados pelo modelo. Sem essa transparência, o risco de desinformação aumenta consideravelmente.
O que os média podem fazer?
Embora alguns editores tenham bloqueado os rastreadores OpenAI, o estudo mostra que esta não é uma solução completa. Mesmo quando um meio proíbe o acesso direto, o ChatGPT pode aceder indiretamente ao seu conteúdo por meio de terceiros. Por outro lado, ter um contrato de licença também não garante uma representação precisa do conteúdo.
Na WWWhatsnew considera-se que os média devem defender uma maior regulamentação e colaboração com empresas como a OpenAI. Isso pode incluir acordos que garantam a atribuição correta das fontes e mecanismos para denunciar erros. Além disso, os editores podem considerar a implementação de marcas d’água digitais ou sistemas que identifiquem automaticamente o conteúdo original.
Um apelo à melhoria
Embora a OpenAI tenha respondido ao estudo afirmando que está a trabalhar para melhorar a precisão das citações e respeitar as preferências dos editores, fica claro que o sistema ainda tem muito a melhorar. O caminho para uma convivência harmoniosa entre a Inteligência artificial e os média dependerá da vontade de colaboração entre ambas as partes e da implementação de soluções tecnológicas e éticas sólidas.
Referência: Polo, por J. D. (2024). El oscuro dilema de las citas de ChatGPT: ¿Un desafío para los editores de contenido? Retrieved from https://wwwhatsnew.com/2024/12/01/el-oscuro-dilema-de-las-citas-de-chatgpt-un-desafio-para-los-editores-de-contenido/
Conteúdo relacionado:
