Así alteran la realidad ChatGPT y las redes sociales

Actualizado hace 7 minutos

Muchas personas piensan que es fácil detectar una imagen generada por IA, y probablemente son consciente de que los algoritmos tienen algún tipo de sesgo. Sin embargo, todos los estudios sugieren que a nivel subconsciente somos incapaces de comprenderlo.

Estamos constantemente sobreestimando el extremismo de las creencias políticas de los demás, y esto solo empeora con las redes sociales, ya que los algoritmos amplifican y nos muestran la imagen más extrema de la realidad. Los mensajes controvertidos y emocionales se vuelven más virales porque generan mayor interacción que una perspectiva neutral. Esto significa que todos terminamos viendo esta versión más extrema de la realidad y estamos empezando a confundirla con la realidad objetiva.

Lo mismo está sucediendo actualmente con los chatbots de IA, porque asumimos que ChatGPT nos está hablando en castellano, cuando en realidad no lo hace, del mismo modo que el algoritmo no nos muestra la realidad. Siempre hay distorsiones dependiendo de los datos que se introducen en el modelo, dependiendo de cómo se entrena.

Por ejemplo, en inglés ChatGPT usa la palabra Delve con mucha más frecuencia de lo habitual, posiblemente porque OpenAI subcontrató su proceso de entrenamiento a trabajadores en Nigeria, donde esta palabra se usa con mayor frecuencia. Con el tiempo, esa ligera sobrerrepresentación lingüística se ha reforzado en el modelo incluso más que en los dialectos propios de los trabajadores. Ahora esto está afectando el lenguaje de todas las personas de habla inglesa.

Múltiples estudios han descubierto que desde que salió ChatGPT, los angloparlantes en todas partes usan más la palabra Delve en conversaciones espontáneas. En esencia, estamos confundiendo inconscientemente la versión del lenguaje que crea la IA con el lenguaje real.

El fenomeno ‘hyperpop’

Estamos en un círculo vicioso donde la IA representa la realidad, nosotros pensamos que esa es la realidad real y luego la repetimos para que la IA pueda recibir más datos nuestros. También se puede observar este fenómeno con el algoritmo a través de palabras como hyperpop, que no formaba parte de nuestro léxico cultural hasta que Spotify detectó un grupo emergente de usuarios con intereses musicales similares en su algoritmo. Tan pronto como lo identificaron e introdujeron una lista de reproducción de hyperpop, esa nueva estética adquirió una dirección.

Ahora hay gente que ha comenzado a debatir qué se considera y qué no se considera hyperpop. La etiqueta y la lista de reproducción hicieron que el fenómeno fuera más real al darles algo con lo que identificarse o rechazar. Y a medida que más personas se identificaban con el hyperpop, más músicos también empezaron a crear música hyperpop.

Mientras tanto, los oyentes con gustos similares en el algoritmo aumentaban y Spotify lo impulsaba cada vez más porque estas plataformas quieren amplificar las tendencias culturales para mantenernos en la aplicación. Pero eso significa que también perdemos la distinción entre una tendencia real y una tendencia inflada artificialmente. Sin embargo, así es como ahora todas las modas se vuelven populares.

Partimos de un deseo cultural latente, como por ejemplo, que algunas personas estén interesadas en el matcha, el labubu o el chocolate de Dubái. El algoritmo identifica este deseo y lo impulsa a usuarios similares, haciendo que el fenómeno se vuelva más popular. Pero, de nuevo, al igual que ChatGPT tergiversó la palabra Delve, es probable que el algoritmo esté tergiversando la realidad.

Cada vez más empresas crean contenido sobre labubu porque creen que es lo que los usuarios quieren. Más influencers también crean tendencias de labubu porque tienen que aprovechar las tendencias para que algo se vuelva viral.

Debemos recordar que el algoritmo solo nos muestra los elementos visualmente provocativos que funcionan en formato de vídeo, que recibimos información sesgada, y que las redes sociales no intentan representar fielmente la realidad, solo hacen lo que les genera dinero. A Spotify le interesa que escuchemos hyperpop y a TikTok le interesa que veamos labubus porque eso es algo que se puede monetizar. Así que una vez más, tenemos esta diferencia entre la realidad y la representación de la realidad que retroalimentan de forma constante.

PIENSA ANTES DE HACER CLIC: COMPRUEBA ANTES DE COMPARTIR.