Muchos desarrolladores de sistemas de Inteligencia Artificial opinan que uno de sus grandes problemas es la escasez de datos de calidad y con garantías para entrenar los modelos en los que trabajan. Ante esa situación, hay compañías que buscan como suplir esa carencia y lo hacen empleando recursos generados por sus propios usuarios. Un ejemplo, debate ético mediante, es el de Meta, que busca una salida utilizando tanto publicaciones como imágenes compartidos por los usuarios en sus redes sociales, Facebook e Instagram.
A estas prácticas se había sumado, aunque no se sabe con certeza desde cuando, la plataforma de streaming Twitch para entrenar la IA de su compañía propietaria, Amazon. Esta pasada semana, la plataforma anunciaba a través de sus redes sociales que había añadido una función para permitir a los creadores decidir si su contenido puede usarse con ese objetivo o no.
En algunos foros, miles de creadores habían expresado, antes de que esta práctica se destapara, su rechazo a que sus contenidos fuera, por defecto, empleados para entrenar sistemas de IA. Y es que los términos de uso de Twitch establecían que el usuario concedía a la plataforma derechos para "usar, reproducir, modificar, adaptar, distribuir y crear obras derivadas de su contenido". Pero no había mención alguna a que dicho material pudiera usarse para entrenar una IA generativa.
Hasta que la compañía explicó los cambios, consciente de que generaría rechazo, pero al mismo tiempo reconociendo, como señaló Mike Minton, jefe de producto de Twitch, que "mantener activada por defecto la opción de utilizar los contenidos para entrenamiento de IA era una necesidad pues de lo contrario nadie se habría sumado al proceso. Esta es la respuesta honesta".
Algo más rocambolesca resulta la explicación dada por Mary Kish, jefa de comunicación de Twitch, al señalar que no se había comunicado a los usuarios por correo electrónico este cambio de política porque "los creadores no siempre leen sus correos".
En un intento de justificar su actuación, Minton añadió también que este tipo de prácticas no son exclusivas de Twitch. "No lo sé con certeza pero creo que es bastante razonable suponer que casi cualquier contenido disponible públicamente se utiliza para entrenar modelos de una forma u otra, con o sin permiso. Así que creo que también debemos reconocer que hay mucho aquí que escapa incluso a nuestro control directo".
Así las cosas, aquellos creadores que no deseen que su trabajo sea empleado con el fin ahora descubierto, deben entrar en el apartado "seguridad y privacidad" en los ajustes de Twitch y una vez ahí, desactivar la opción de "Entrenamiento para la IA generativa". Tras esa desactivación, Twitch ya no puede usar el canal del usuario para entrenar cualquier IA. Aunque esto tiene una cara B, ya que la plataforma señala que "desactivar esta opción no te exime de que Twitch y Amazon utilicen el contenido de tu canal para otros fines descritos en el aviso de privacidad de Twitch" tales como la asistencia en tiempo real para campañas de patrocinio, el descubrimiento de espectadores mediante recomendaciones o la misma seguridad de la plataforma.