Les deepfakes de célébrités réalisés à l’aide de l’intelligence artificielle sont devenus un problème de plus en plus préoccupant pour Meta au cours des dernières années. Maintenant, le Conseil de Surveillance s’est exprimé et a apparemment confirmé ce que d’autres critiques ont dit : Meta n’en fait pas assez pour faire respecter ses propres règles et facilite beaucoup trop la tâche aux escrocs pour mener à bien ces stratagèmes.
Manque d’application des règles par meta
Selon la décision la plus récente du Conseil, Meta autoriserait probablement des quantités significatives de contenus frauduleux sur ses plateformes pour éviter de potentiellement interdire un petit nombre de véritables endorsements de célébrités. Le Conseil a écrit : “Les examinateurs à grande échelle ne sont pas autorisés à faire respecter cette interdiction sur le contenu qui crée une fausse identité ou se fait passer pour une personne célèbre dans le but d’escroquer ou de frauder.”
Cette conclusion fait suite à un cas impliquant une publicité pour un jeu de type casino en ligne appelé Plinko qui utilisait une vidéo manipulée par IA de Ronaldo Nazário, un footballeur brésilien à la retraite. Malgré des signes évidents de fraude, Meta n’a pas supprimé cette publicité, même après plus de 50 signalements. Ce n’est qu’après l’intervention du Conseil de Surveillance que Meta a retiré la publicité, qui avait été vue plus de 600 000 fois.
Le Conseil souligne que ce cas met en lumière des lacunes fondamentales dans la façon dont Meta aborde la modération de contenu pour les escroqueries signalées impliquant des célébrités et des personnalités publiques. Il mentionne que Meta a déclaré à ses membres qu’elle n’applique la politique qu’en cas d’escalade pour garantir que la personne représentée dans le contenu n’a pas réellement cautionné le produit, ce qui, selon le Conseil, entraîne un “nombre significatif” de contenus frauduleux qui passent probablement entre les mailles du filet.
Recommandations pour meta
Dans sa seule recommandation à Meta, le Conseil a exhorté l’entreprise à mettre à jour ses directives internes, à habiliter les examinateurs de contenu à identifier de telles escroqueries et à les former sur les “indicateurs” de contenu manipulé par IA. Un porte-parole de Meta a déclaré que “beaucoup des affirmations du Conseil sont simplement inexactes” et a mentionné un test qu’elle a commencé l’année précédente utilisant la technologie de reconnaissance faciale pour lutter contre les escroqueries “celeb-bait”.
Les escroqueries se sont intensifiées en termes d’échelle et de complexité ces dernières années, alimentées par des réseaux criminels sans scrupules. Comme cette activité est devenue plus persistante et sophistiquée, nos efforts pour la combattre se sont également renforcés. Nous testons l’utilisation de la technologie de reconnaissance faciale, appliquons une lutte agressive contre les escroqueries et donnons aux utilisateurs les moyens de se protéger à l’aide de nombreux outils de sécurité sur la plateforme et d’avertissements. Bien que nous apprécions les points de vue du Conseil de Surveillance dans ce cas, beaucoup de ses affirmations sont simplement inexactes et nous répondrons à l’ensemble de la recommandation dans les 60 jours.
