semble enfin avoir pris une petite mesure pour aborder l’épidémie de surpartage qui se produit dans le fil public de son application d’IA. La société a ajouté un bref avertissement qui encourage les utilisateurs à “éviter de partager des informations personnelles ou sensibles” avec le bouton “publier dans le fil” de l’application AI.
Le changement a été repéré pour la première fois par Business Insider, qui a qualifié l’application de “l’un des endroits les plus déprimants en ligne” en raison du volume impressionnant d’informations intimes, embarrassantes et parfois personnellement identifiables que les utilisateurs de AI partageaient publiquement, apparemment sans le savoir, dans le fil “découvrir” intégré à l’application. Bien que AI ne partage pas par défaut l’historique des discussions des utilisateurs, il semble que de nombreux utilisateurs de l’application choisissaient de “partager” leurs interactions sans réaliser que cela rendrait les conversations vocales et textuelles visibles par le public.
La semaine dernière, j’ai trouvé des publications où des utilisateurs demandaient des conseils pour “améliorer leurs mouvements intestinaux” et s’interrogeaient sur la responsabilité d’un parent pour les impôts impayés de leur employeur. Un autre utilisateur ajoutait désespérément “gardez ceci privé” à ses publications publiques dans une tentative apparente de cacher ses conversations embarrassantes après coup. Ces types d’interactions publiques étranges se produisent depuis le déploiement de l’application AI en avril, mais ont suscité une attention renouvelée la semaine dernière après que des utilisateurs des médias sociaux ont commencé à publier toutes les conversations étranges visibles dans le fil “découvrir” de l’application.
Des experts en confidentialité ont critiqué , notant que la plupart des autres chatbots AI grand public n’incluent pas de fil social publiquement visible. “Si les attentes d’un utilisateur concernant le fonctionnement d’un outil ne correspondent pas à la réalité, vous avez un énorme problème d’expérience utilisateur et de sécurité”, a observé Rachel Tobac, experte en sécurité ayant déjà collaboré avec , la semaine dernière. “Les humains ont construit un schéma autour des chatbots AI et ne s’attendent pas à ce que les incitations de leur chatbot AI apparaissent dans un fil de découverte de style médias sociaux – ce n’est pas ainsi que fonctionnent les autres outils.” La Fondation Mozilla a également exhorté à modifier la conception de l’application. “L’application de AI ne rend pas évident que ce que vous partagez devient entièrement public”, a-t-elle écrit dans un communiqué la semaine dernière. “Il n’y a pas d’iconographie claire, aucun indice familier sur le partage comme dans d’autres applications .”
Maintenant, la société semble avoir pris note. Avec le changement, choisir de partager une interaction de AI publiquement déclenche l’avertissement vu ci-dessus, bien qu’il semble n’apparaître que lors du premier partage. “Les incitations que vous publiez sont publiques et visibles par tout le monde”, indique-t-il. “Vos incitations peuvent être suggérées par sur d’autres applications . Évitez de partager des informations personnelles ou sensibles.”
Comme le note Business Insider, le fil public de l’application ne semble plus présenter les échanges de texte que d’autres utilisateurs ont partagés avec l’application, seulement des images et des vidéos générées par l’IA. Il n’est pas clair s’il s’agit d’un changement permanent ou du résultat de l’attention négative récente que l’application a reçue. Nous avons contacté pour plus d’informations et mettrons à jour si nous obtenons une réponse.
En attendant, si vous avez trouvé le vôtre
Meta met en garde les utilisateurs contre le partage d’informations personnelles dans son application IA
