COP31: Relatório alerta para perigos da IA nas questões do clima
Os modelos analisados não conseguiram avaliar bem o funcionamento em conjunto das políticas climáticas.
Os modelos de inteligência artificial (IA) respondem corretamente a 90% das questões sobre o clima mas abandonam rapidamente os factos científicos se questionados pelos utilizadores, indica um relatório divulgado hoje.
Da responsabilidade da UNESCO e do “University College London” o documento foi apresentado na conferência do clima da ONU que decorre em Antália, na Turquia.
A investigação mostrou ainda que o desempenho dos modelos também depende da língua, sendo mais pobre a analisar novas informações e produzindo mais erros ao responder em línguas menos faladas.
Clima pode confia na IA?
O relatório, “Podemos confiar na IA em relação ao clima? Porque procura agradar ao utilizador e falha no raciocínio complexo e no multilinguismo”, é um alerta aos decisores políticos e investigadores que possam ser tentados a utilizar modelos de IA para desenvolver políticas climáticas.
Os investigadores testaram 15 grandes modelos de linguagem e concluíram que, quando questionados sobre a ciência climática, os modelos produziram respostas precisas, o que não aconteceu quando os investigadores contestaram essas respostas ou afirmaram invenções plausíveis sobre a ciência climática. Nesse caso os modelos rapidamente concordaram com eles.
Oito em cada dez vezes, os modelos mudaram de opinião ao primeiro sinal de que o utilizador discordava ligeiramente, confirmando erros alarmantes, como "o dióxido de carbono não é o principal fator das alterações climáticas".
Falhas preocupantes
"A IA tem um potencial extraordinário para tornar a complexa ciência climática acessível a todos. Permite que professores, jornalistas e decisores políticos comuniquem claramente sobre este assunto crucial. Precisamos de poder confiar na IA como guardiã dos factos consensuais”, disse Leona Verdadero, autora principal do relatório, considerando preocupante que os modelos tenham uma falha de conceção: são encorajados a concordar com o utilizador e a negar factos com muita facilidade.
Maria Perez-Ortiz, também autora principal do trabalho, notou que os sistemas de IA são muito bons a explicar o conhecimento científico, o que pode dar uma falsa impressão das capacidades, e alertou que o que a investigação mostra é que é preciso cuidado ao passar de perguntar à IA o que se sabe sobre as alterações climáticas para perguntar o que se deve fazer sobre as alterações climáticas.
A questão é mais crítica, sublinha o documento, porque as pessoas estão a depender cada vez mais de conversas com modelos de IA para obter informações e conselhos sobre como agir de forma responsável numa era de alterações climáticas.
A forte inclinação para concordar com os utilizadores é incorporada nos modelos de IA, que são concebidos para se alinhar ou bajular o utilizador mesmo quando este está errado, um comportamento conhecido como sicofantismo.
Humanos evitam IA
É um comportamento incorporado durante o treino porque os humanos preferem interações educadas, não confrontativas e que validem as suas opiniões.
Os modelos analisados não conseguiram avaliar bem o funcionamento em conjunto das políticas climáticas.
Segundo a UNESCO, as campanhas de desinformação sobre as alterações climáticas são cada vez mais sofisticadas e atualmente, em vez de negar que as alterações climáticas são reais os detratores podem sugerir que não são causadas pelo homem, que só a tecnologia as resolverá ou que é tarde demais e/ou demasiado dispendioso agir.
