Um estudo recente realizado por pesquisadores da Virginia Tech trouxe à luz potenciais preconceitos geográficos no ChatGPT, uma ferramenta avançada de inteligência artificial (IA). O estudo, que se concentrou em questões de justiça ambiental, revelou variações significativas na capacidade do ChatGPT de fornecer informações específicas de localização em diferentes condados. Esta conclusão sublinha um desafio crítico no desenvolvimento de ferramentas de IA: garantir o acesso equitativo à informação, independentemente da localização geográfica.
Limitações do ChatGPT em regiões rurais menores
A pesquisa, publicada na revista Telematics and Informatics, utilizou uma abordagem abrangente, envolvendo uma lista de 3.108 condados nos Estados Unidos contíguos. Os pesquisadores perguntaram ao ChatGPT sobre questões de justiça ambiental em cada um desses condados. Esta metodologia revelou que, embora o ChatGPT pudesse fornecer eficazmente informações detalhadas para áreas densamente povoadas, tinha dificuldades em regiões rurais mais pequenas. Por exemplo, em estados com grandes populações urbanas como a Califórnia ou Delaware, menos de 1% da população residia em condados onde o ChatGPT não conseguia oferecer informações específicas. Por outro lado, em estados mais rurais, como Idaho e New Hampshire, mais de 90% da população vivia em condados onde o ChatGPT não fornecia informações localizadas.
Implicações e direções futuras
Esta disparidade realça uma limitação crucial dos actuais modelos de IA na abordagem às necessidades diferenciadas de diferentes localizações geográficas. O professor assistente Junghwan Kim, geógrafo e cientista de dados geoespaciais da Virginia Tech, enfatiza a necessidade de mais investigações sobre essas limitações. Ele ressalta que reconhecer potenciais preconceitos é essencial para o desenvolvimento futuro da IA. O professor assistente Ismini Lourentzou, coautor do estudo, sugere refinar o conhecimento localizado e contextualmente fundamentado em modelos de linguagem grande como o ChatGPT. Além disso, ela sublinha a importância de salvaguardar estes modelos contra cenários ambíguos e de aumentar a consciencialização dos utilizadores sobre os seus pontos fortes e fracos.
O estudo não apenas identifica os preconceitos geográficos existentes no ChatGPT, mas também serve como um apelo à ação para os desenvolvedores de IA. É imperativo melhorar a fiabilidade e a resiliência dos modelos de grande dimensão, especialmente no contexto de temas sensíveis como a justiça ambiental. As descobertas dos pesquisadores da Virginia Tech abrem caminho para ferramentas de IA mais inclusivas e equitativas, capazes de atender diversas populações com necessidades variadas.
Fonte da imagem: Shutterstock
