L’utilisation des deepfakes, ces images ou vidéos générées par intelligence artificielle qui peuvent être utilisées pour créer des contenus non consentis, est devenue un problème majeur pour les réseaux sociaux. Le Conseil de surveillance de Meta, qui est chargé de surveiller les décisions de l’entreprise en matière de contenu, a récemment demandé à Meta de renforcer la protection contre les deepfakes sexuelles pour les utilisateurs non publics. Selon le Conseil, le système actuel de Meta pour lutter contre les deepfakes sexuelles favorise les personnalités publiques, mais ne protège pas suffisamment les utilisateurs ordinaires. Le Conseil a recommandé à Meta d’ajouter les impersonnations générées par intelligence artificielle à sa politique de protection contre l’exploitation sexuelle des adultes, en argumentant que ces images et vidéos sont non consenties par défaut.
Les limites du système actuel de Meta
Le système actuel de Meta pour lutter contre les deepfakes sexuelles repose sur des rapports d’utilisateurs et des vérifications manuelles. Cependant, ce système a montré ses limites dans un cas récent où un utilisateur a signalé un deepfake sexuel sur Instagram, mais où Meta n’a pas pris de mesures pour le supprimer. Le Conseil de surveillance a lancé une enquête sur cet incident et a constaté que Meta n’avait pas suffisamment pris en compte les préoccupations de l’utilisateur. Le Conseil a également noté que Meta n’avait pas fourni suffisamment d’informations sur ses politiques et procédures pour lutter contre les deepfakes sexuelles. Les recommandations du Conseil visent à améliorer la transparence et la responsabilité de Meta dans la lutte contre les deepfakes sexuelles.
Les recommandations du Conseil de surveillance de Meta incluent également la possibilité pour les utilisateurs de désigner des comptes connectés, tels que des amis et des membres de la famille, qui pourraient signaler des violations potentielles, comme des images ou des vidéos intimes non consenties, en leur nom. Le Conseil souhaite également que Meta rende les impersonnations sexuelles générées par intelligence artificielle une catégorie distincte de la harcelement et de la nudité dans ses formulaires de signalement et d’appel. Actuellement, seuls les résidents du Texas et de la Floride ont accès à un formulaire spécial qui liste les images et les vidéos deepfake intimes comme raison de signalement. Le Conseil souhaite que tous les utilisateurs de Meta aient accès à ce formulaire, car les abus sexuels non consentis générés par intelligence artificielle, y compris les impersonnations sexuelles, sont un problème mondial.
Les conséquences de l’inaction de Meta
Le cas récent de deepfake sexuel sur Instagram a montré les conséquences de l’inaction de Meta dans la lutte contre les deepfakes sexuelles. L’utilisateur qui avait signalé le deepfake a dû faire appel au Conseil de surveillance de Meta pour obtenir une réponse. Le Conseil a ensuite demandé à Meta de prendre des mesures pour supprimer le deepfake, mais l’entreprise n’a pas immédiatement répondu. Il a fallu que le Conseil soulève à nouveau la question pour que Meta prenne des mesures, mais même alors, l’entreprise n’a pas supprimé le deepfake. Cette affaire a montré que Meta doit améliorer sa réponse aux signalements de deepfakes sexuelles et prendre des mesures plus efficaces pour protéger ses utilisateurs.
Les recommandations du Conseil
Les recommandations du Conseil de surveillance de Meta visent à améliorer la protection des utilisateurs contre les deepfakes sexuelles. Le Conseil souhaite que Meta prenne des mesures pour renforcer sa politique de protection contre l’exploitation sexuelle des adultes et pour améliorer sa réponse aux signalements de deepfakes sexuelles. Le Conseil recommande également que Meta rende les impersonnations sexuelles générées par intelligence artificielle une catégorie distincte de la harcelement et de la nudité dans ses formulaires de signalement et d’appel. Enfin, le Conseil souhaite que Meta permette aux utilisateurs de désigner des comptes connectés qui pourraient signaler des violations potentielles en leur nom.
Notre verdict
Les recommandations du Conseil de surveillance de Meta sont un pas dans la bonne direction pour améliorer la protection des utilisateurs contre les deepfakes sexuelles. Cependant, il est important que Meta prenne des mesures concrètes pour mettre en œuvre ces recommandations et pour améliorer sa réponse aux signalements de deepfakes sexuelles. Les utilisateurs de Meta méritent d’être protégés contre les contenus non consentis et les deepfakes sexuelles, et il est de la responsabilité de l’entreprise de prendre des mesures pour les protéger. Nous espérons que Meta prendra ces recommandations au sérieux et prendra des mesures pour améliorer la sécurité et la confiance de ses utilisateurs.
