Verdadero o Falso

La IA deja de lado la ciencia cuando los usuarios le rebaten sobre el cambio climático

Según un informe de Unesco, en ocho de cada diez casos en que se cuestionaban los resultados de los modelos, estos daban la razón incluso a afirmaciones sin base científica
La IA deja de lado la ciencia cuando los usuarios le rebaten sobre el cambio climático
La IA deja de lado la ciencia cuando los usuarios le rebaten sobre el cambio climático / ONU

¿Podemos confiar en la IA cuando se trata del clima? La pregunta, así formulada, puede plantear dudas a la hora de responderla. Y esta afirmación no va desencaminada si atendemos al informe que, elaborado por la Unesco y el University College London, lleva por título precisamente esa pregunta.

La investigación, presentada este pasado lunes en la conferencia climática COP31 en Turquía, concluye que "la IA tiende a la complacencia". Es decir: sus modelos responden de forma correcta a la mayoría de preguntas que se les plantean sobre ciencia y cambio climático pero a la mínima ocasión en que se les rebate o, incluso se les presenta información falsa, tienen a dejar de lado lo estrictamente científico y dan la razón al usuario.

Leona Verdadero, autora principal del informe en la Unesco, apunta que "muchos de nosotros interactuamos a diario con estos modelos de IA buscando información sobre una gran variedad de temas. Muchas veces estos modelos, cuando responden, suenan muy autoritarios e inteligentes. Pero como hemos visto en nuestros experimentos, no siempre tienen razón".

Los autores del informe probaron hasta 33 modelos de IA en 13 idiomas. En varias de esas pruebas, los investigadores llevaron la contraria a las respuestas dadas incluso aportando supuestas evidencias que en realidad eran afirmaciones inventadas. Y en esos casos, los modelos de IA cedieron ante las interpelaciones y dieron la razón a afirmaciones como que el dióxido de carbono no es el responsable principal del cambio climático.

Esto ocurrió en ocho de cada diez respuestas que los modelos cambiaron ante las discrepancias que se les plantearon. «Si un usuario dice: ‘En realidad no creo que eso sea correcto’», lo verdaderamente fascinante es que encontramos que en ocho de cada diez de estos casos, cuando el usuario presiona, el modelo de IA puede revertir su respuesta para ser más afín al usuario», explica Verdadero.

Razonamientos débiles e influencia del idioma

En preguntas de ciencia climática más de "tipo libro de texto", según las denomina el propio informe, los modelos presentaron un acierto que rondó el 90%, incluso llegando al 96% entre el 88 y el 96 %. Pero cuanto más razonamiento planteaba la cuestión, el resultado era peor y el porcentaje de acierto bajaba considerablemente. Al preguntarles si una evidencia apoyaba o contradecía una afirmación científica, incluso los sistemas más potentes alcanzaron solo entre el 71 y el 77 %. Al preguntar si dos políticas climáticas aplicadas juntas lograrían más, menos o lo mismo que sus efectos por separado, los modelos promediaron apenas un 33,8 %, nada mejor que adivinar al azar.

La precisión también dependió del idioma empleado. Los modelos promediaron un 88,6 % en inglés, con resultados similares en español, francés y portugués, pero cayeron cuando se les planteaban cuestiones en otras lenguas como el hindi o el suajili. «Las comunidades que hablan estos idiomas están principalmente en el sur de Asia y el este de África, y sabemos que son comunidades muy vulnerables al clima», señala Verdadero.

El informe pide a las empresas tecnológicas que inviertan más en conjuntos de datos locales y desarrollo multilingüe, para que los hablantes de idiomas poco representados no queden atrás.

Con todos estos resultados encima de la mesa, la conclusión de los autores del informe es clara: "los modelos de IA todavía no están a la altura" y la IA debe tratarse como una fuente más entre muchas. «Estos modelos de IA deben usarse como un tipo de fuente de información, pero no debe ser la principal. Verificar los hechos, asegurarse de que las fuentes son fiables, es importante», señala Verdadero.

«Y, por supuesto, confiar en la evidencia de los expertos, los climatólogos y los investigadores no debe ser reemplazado».

2026-11-20T17:03:16+01:00
En directo
Onda Vasca En Directo