El Consejo Asesor de Meta reprende a la empresa por su deficiente etiquetado de 'deepfakes'

Actualizado hace 6 minutos

Fue en el año 2018 cuando Mark Zuckerberg, director ejecutivo de Meta, planteó en el seno de la empresa un conjunto de ideas para que sus plataformas, véase Facebook, "pudieran seguir siendo responsables y aportar legitimidad a las reglas que rigen las grandes comunidades en internet". Aquella idea, compartida con expertos, dio lugar a la creación de un Consejo Asesor de Contenido que, según puede leerse en la web de Meta, "es un organismo independiente que revisará algunos de los temas de contenido más controvertidos de Facebook e Instagram. El Consejo aceptará apelaciones de personas y de Facebook, y sus decisiones serán transparentes y vinculantes".

En diciembre de 2020, el Consejo seleccionó los primeros seis casos a revisar, cinco apelaciones de usuarios y un caso remitido por Facebook.

Ahora, seis años después y coincidiendo con el debate abierto en torno a la necesidad de poner freno al desarrollo de la IA, este Consejo ha sido muy claro a la hora de concluir que las normas de Meta sobre etiquetado de contenidos que hayan sido generados por inteligencia artificial son deficientes, especialmente en casos calificados como de alto riesgo. Deficiencias que, considera, deberían ser solventadas con una modificación que incluya la desmonetización y el registro de ese etiquetado en una biblioteca de metadatos.

El organismo ha llegado a estas conclusiones y recomendaciones después de dar marcha atrás a la decisión de Meta de mantener en Facebook un video en el que se mostraba la imagen de una concejala del Partido Laborista escocés ofreciendo un discurso generado por IA pese a haber sido denunciado. El Consejo establece que el video infringió las normas de Meta sobre desinformación y conducta de odio. Considera que debería haber tenido la etiqueta de 'IA de alto riesgo' y ha exigido su eliminación.

Por todo ello, aprovecha para instar a Meta a reforzar sus políticas sobre contenidos generados o manipulados con IA con resultado hiperrealista, que el etiquetado de 'alto riesgo' tenga un mayor alcance y sea "desmonetizado, degradado y desaparezca de las recomendaciones" así como que Meta sea transparente con el número de veces que se aplican las etiquetas de IA a contenidos "de o sobre políticos".

Controlar pero no frenar

Mientras su Consejo Asesor se pronunciaba en este sentido, Mark Zuckerberg ha dejado clara su posición en el debate en torno a si debe producirse una desaceleración o freno en el desarrollo de la IA.

El director ejecutivo de Meta apuesta, sin frenar el desarrollo de la inteligencia artificial y recordando que su compañía retrasó el lanzamiento de su modelo Muse, por que evaluadores y asesores independientes analicen los modelos desarrollados.