meta prend des mesures contre les applications “nudify” utilisant l’IA pour générer des images nues et explicites non consenties de célébrités, influenceurs et d’autres personnes. L’entreprise poursuit en justice un développeur d’application qui a souvent annoncé de telles applications sur Facebook et Instagram, et prend de nouvelles mesures pour empêcher la publicité de services similaires.
Des chercheurs et journalistes ont récemment attiré l’attention sur ces applications. Un rapport récent de CBS News a identifié au moins “des centaines” de publicités sur la plateforme de meta promouvant des applications permettant aux utilisateurs de “retirer les vêtements” des images de célébrités et d’autres personnes. Une application en particulier, nommée Crush AI, a apparemment été un annonceur prolifique sur Facebook et Instagram. Le chercheur Alexios Mantzarlis, directeur de l’initiative Sécurité, Confiance et Sûreté de Cornell Tech, a rapporté en janvier que Crush AI avait diffusé plus de 8 000 publicités sur Facebook et Instagram depuis l’automne dernier.
Aujourd’hui, meta déclare avoir intenté un procès contre Joy Timeline HK Limited, l’entreprise basée à Hong Kong derrière Crush AI et d’autres applications “nudify”. “Cela fait suite à de multiples tentatives de Joy Timeline HK Limited de contourner le processus d’examen des publicités de meta et de continuer à diffuser ces publicités, après qu’elles aient été plusieurs fois supprimées pour avoir enfreint nos règles”, a écrit l’entreprise dans un article de blog. Joy Timeline HK Limited n’a pas répondu immédiatement à une demande de commentaire.
Meta affirme également prendre de nouvelles mesures pour empêcher des applications de ce type de faire de la publicité sur sa plateforme. “Nous avons développé une nouvelle technologie spécifiquement conçue pour identifier ces types de publicités – même lorsque les publicités elles-mêmes ne contiennent pas de nudité – et utilisons une technologie de correspondance pour nous aider à détecter et supprimer plus rapidement les publicités imitant celles-ci”, a écrit Meta. “Nous avons travaillé avec des experts externes et nos propres équipes spécialisées pour étendre la liste des termes, phrases et emojis liés à la sécurité que nos systèmes sont formés pour détecter dans ces publicités.” Le réseau social prévoit également de collaborer avec d’autres plateformes technologiques, y compris les propriétaires de boutiques d’applications, pour partager des détails pertinents sur les entités qui abusent de sa plateforme.
Les applications “nudify” ne sont pas les seules entités à avoir exploité la plateforme publicitaire de Meta pour diffuser des publicités mettant en scène des deepfakes de célébrités. Meta a également du mal à contenir les annonceurs peu scrupuleux utilisant des vidéos manipulées par IA de personnalités publiques pour promouvoir des escroqueries. Le Conseil de Surveillance indépendant de l’entreprise, qui se prononce sur les problèmes de modération de contenu affectant Facebook et Instagram, a récemment critiqué Meta pour le manque d’application de ses règles interdisant de telles publicités.
