Les outils d’IA professionnels sous surveillance alors que Meta diffuse des publicités abusives

Le paysage éthique entourant les outils d’IA professionnels a été considérablement mis à l’épreuve après que Meta Platforms Inc. a autorisé et diffusé des dizaines de publicités payantes contenant du matériel d’abus sexuel d’enfants généré par l’IA (CSAM) et des images de mineurs à caractère sexuellement suggestif, soulevant de profondes inquiétudes pour les professionnels naviguant dans le déploiement responsable de l’IA.

• Meta Platforms Inc. a approuvé et diffusé de nombreuses publicités payantes présentant du matériel d’abus sexuel d’enfants généré par l’IA et des images de mineurs à caractère sexuellement suggestif sur une période de neuf mois.
• Ces publicités, découvertes par le Tech Transparency Project (TTP), ciblaient des utilisateurs aux États-Unis, au Royaume-Uni et dans plus d’une douzaine de pays européens.
• L’incident met en évidence des défaillances critiques dans les processus de modération de contenu et d’examen des publicités au sein des principales plateformes alimentées par l’IA, affectant la confiance et les considérations éthiques pour les professionnels utilisant les outils d’IA.
• La découverte souligne le besoin urgent de cadres éthiques robustes et d’une surveillance vigilante dans le développement et le déploiement des outils d’IA professionnels afin de prévenir les abus et de protéger les populations vulnérables.

La découverte troublante dans les outils d’IA professionnels

Au cours des neuf derniers mois, Meta, sous la direction de Mark Zuckerberg, a autorisé la diffusion d’une série troublante de publicités payantes présentant du matériel explicite d’abus sexuel d’enfants généré par l’IA (CSAM) sur ses plateformes. Ces publicités, comptant plus de 50 exemples d’images et de vidéos, ont été identifiées par des chercheurs du Tech Transparency Project (TTP), un groupe de surveillance indépendant. Les listes de la bibliothèque de publicités de Meta confirment que ces publicités sont apparues sur Facebook, Instagram, Messenger et Threads, certaines renvoyant même à des applications controversées de « nudification » ou de « déshabillage ».

Cette révélation marque la deuxième fois en quelques semaines que des publicités payantes liées à du matériel d’abus sexuel d’enfants sont découvertes sur les plateformes largement utilisées de Meta. Les publicités, toutes publiées entre novembre de l’année dernière et début août, ont depuis été retirées par Meta pour violation de ses politiques concernant le matériel d’abus et d’exploitation sexuels d’enfants, ainsi que la sollicitation sexuelle d’adultes et la nudité.

Le processus d’approbation de Meta sous le feu des critiques

Katie Paul, directrice du TTP, a souligné la gravité de la situation, affirmant que ces publicités n’avaient fait aucune tentative pour masquer leur contenu ou leurs intentions illicites. Surtout, Paul a mis en évidence qu’il ne s’agissait pas de publications générées par les utilisateurs, mais de publicités payantes qui avaient été soumises au processus d’examen et d’approbation de Meta. « Ce sont des publicités qui ont été examinées, approuvées et autorisées à être diffusées par Meta, sans jamais rencontrer d’interférence pendant que l’entreprise collectait les revenus publicitaires », a expliqué Paul, soulignant une lacune significative dans la modération de contenu de l’entreprise et la gouvernance éthique de l’IA.

Cet incident soulève de sérieuses questions sur l’efficacité des systèmes de révision de contenu basés sur l’IA de Meta et de la supervision humaine. Pour les professionnels qui dépendent des plateformes de publicité numérique, cette rupture de confiance de la part d’un fournisseur technologique majeur nécessite une réévaluation de la diligence raisonnable appliquée à leurs outils d’IA professionnels et partenaires publicitaires choisis.

Portée étendue et contenu troublant

Les publicités ciblaient spécifiquement des individus aux États-Unis, au Royaume-Uni et dans plus d’une douzaine de pays européens, dont la France, l’Allemagne, l’Irlande, l’Italie, les Pays-Bas, l’Espagne et la Suède. Alors que de nombreuses publicités ont atteint un nombre limité de comptes, au moins une publicité a touché plus de 2 500 comptes en Europe. L’étendue complète de leur portée, en particulier aux États-Unis, reste incertaine en raison des limitations de la base de données de la bibliothèque de publicités de Meta.

Les chercheurs du TTP ont détaillé des exemples particulièrement flagrants, y compris une publicité vidéo avec une miniature d’un enfant au sol, superposée avec le texte promouvant « Deep Fantasies with Generation AI ». Cliquer sur cette publicité aurait mené à des clips vidéo d’adultes en actes sexuels, le visage de l’enfant de la miniature étant ensuite superposé au contenu sexuel. Une autre publicité postée à plusieurs reprises représentait une jeune fille dans une pose sexuelle avec le texte « Je peux vous montrer plus ». Ces exemples illustrent un échec profond à protéger les individus vulnérables au sein d’une plateforme utilisée par des milliards de personnes, impactant les considérations éthiques pour tout professionnel exploitant des outils de productivité IA.

Qu’est-ce que cela signifie pour les professionnels utilisant les outils d’IA professionnels ?

Cet incident sert de rappel brutal aux professionnels quant à l’importance critique des considérations éthiques dans le paysage en évolution rapide des outils d’IA professionnels. Le fait qu’une entreprise aussi grande et riche en ressources que Meta puisse approuver et diffuser un contenu aussi flagrant, même par inadvertance, souligne les défis inhérents à la mise à l’échelle de la modération de contenu, en particulier avec l’essor des images sophistiquées générées par l’IA. Les professionnels de tous les secteurs, du marketing au juridique, doivent reconnaître que l’intégrité de leurs écosystèmes numériques n’est aussi forte que le maillon le plus faible de leur automatisation de flux de travail IA et de leur gouvernance de contenu.

Pour les applications d’IA destinées aux travailleurs du savoir, cet événement souligne la nécessité de cadres éthiques d’IA transparents et robustes. Il ne suffit pas qu’un outil d’IA soit efficace ; il doit également être sûr et conforme. Les organisations et les professionnels individuels doivent exiger des normes plus élevées de la part de leurs fournisseurs d’outils d’IA, en veillant à ce que les systèmes d’IA soient non seulement puissants, mais aussi développés et déployés de manière responsable. Cela inclut l’examen minutieux des politiques de modération de contenu des partenaires IA et de leur engagement à prévenir l’utilisation abusive du contenu généré par l’IA.

Naviguer les impératifs éthiques des outils d’IA professionnels

La découverte par le TTP et le retrait ultérieur de ces publicités par Meta, après des mois de diffusion, souligne un enseignement crucial pour chaque professionnel : la vigilance est primordiale. Bien que l’IA offre des opportunités sans précédent en matière d’efficacité et d’innovation, son déploiement éthique reste une responsabilité partagée. Les organisations doivent mettre en œuvre des directives internes strictes pour l’utilisation des outils d’IA professionnels, en particulier ceux impliqués dans la création ou la distribution de contenu.

Cela inclut la réalisation d’une diligence raisonnable approfondie sur tous les outils d’IA pour les professionnels, la compréhension de leurs algorithmes sous-jacents et la vérification de leurs capacités de modération de contenu. L’incident avec Meta met en évidence que même les plateformes établies peuvent présenter des vulnérabilités importantes. À l’avenir, les professionnels doivent défendre le développement et l’adoption de systèmes d’IA qui privilégient la sécurité, la confidentialité et la conformité éthique, garantissant que l’avancement de la productivité de l’IA ne se fasse pas au détriment du bien-être sociétal.