En tant que rédacteur web passionné de technologie, je m’attaque aujourd’hui à un sujet brûlant : la régulation des contenus générés par l’IA sur les plateformes de Meta. Alors que l’IA prend de plus en plus de place sur ces réseaux, la question de l’application des politiques de modération se pose avec acuité. Le Conseil de surveillance critique une nouvelle fois l’entreprise pour son manque de cohérence dans la gestion des contenus manipulés. Dans sa dernière décision, il qualifie l’incapacité de Meta à faire respecter ses règles de manière cohérente d'”incohérente et injustifiable”.
La problématique soulevée par le Conseil de surveillance n’est pas nouvelle, puisqu’il s’agit de la deuxième fois en moins d’un an qu’il utilise le terme “incohérente” pour décrire l’approche de Meta face aux contenus manipulés. Suite à la viralité d’une vidéo de Joe Biden modifiée de manière trompeuse sur Facebook, le Conseil avait déjà pressé Meta de mettre à jour ses règles. En réponse, Meta avait annoncé son intention d’étendre l’utilisation d’étiquettes pour identifier les contenus générés par l’IA, en mettant en avant des étiquettes plus visibles dans les situations à “haut risque”. Ces étiquettes, comme celle ci-dessous, indiquent quand un post a été créé ou édité à l’aide de l’IA.
Cependant, malgré ces mesures, l’approche de Meta ne semble pas encore à la hauteur des attentes du Conseil de surveillance. Celui-ci exprime ses préoccupations quant à l’incohérence de l’entreprise dans l’application de sa politique sur les contenus manipulés, notamment face à la montée en puissance de ces contenus sous diverses formes. Le Conseil souligne que le fait que Meta ne pose pas automatiquement une étiquette sur toutes les instances du même contenu manipulé est incohérent et injustifiable.
Cette critique intervient dans le cadre d’une décision liée à un post prétendant présenter un enregistrement audio de deux politiciens au Kurdistan irakien. Cette supposée “conversation enregistrée” incluait une discussion sur la manipulation d’une élection à venir et d’autres “projets sinistres” pour la région. Le post a été signalé à Meta pour désinformation, mais l’entreprise a clos le dossier “sans examen humain”, selon le Conseil de surveillance. Meta a par la suite étiqueté certaines instances de l’extrait audio mais pas celle initialement signalée.
Le Conseil souligne que ce cas n’est pas isolé. Meta aurait apparemment déclaré au Conseil qu’elle ne peut pas automatiquement identifier et étiqueter les posts audio et vidéo, seulement les “images statiques”. Cela signifie que plusieurs instances du même extrait audio ou vidéo pourraient ne pas bénéficier du même traitement, ce qui, selon le Conseil, pourrait causer davantage de confusion. Le Conseil de surveillance critique également Meta pour son recours fréquent à des tiers pour identifier les vidéos et audios manipulés par l’IA, comme ce fut le cas ici.
“Étant donné que Meta est l’une des principales entreprises technologiques et d’IA au monde, avec ses ressources et l’usage répandu de ses plateformes, le Conseil réitère que Meta devrait prioriser l’investissement dans la technologie pour identifier et étiqueter les vidéos et audios manipulés à grande échelle”, a écrit le Conseil. “Il n’est pas clair pour le Conseil pourquoi une entreprise de cette expertise technique et de ces ressources externalise l’identification des contenus probablement manipulés dans des situations à haut risque à des médias externes.”
