Meta accusé de télécharger illégalement du porno pour entraîner ses IA

“Dans la course des géants de la tech pour aspirer le plus de données possible, Meta a exploité les publications de ses propres plateformes, ratissé le reste d’internet et “piraté des millions de livres pour entraîner ses modèles d’IA”, rappelle The Atlantic. Le groupe qui possède Facebook, Instagram et WhatsApp est aujourd’hui soupçonné d’avoir téléchargé bien autre chose : du porno en quantité industrielle, des nus de célébrités obtenus sans consentement, des plans de pistolets imprimables en 3D et des millions de mots de passe piratés.

Tout part d’une plainte de Strike 3, la maison mère de Vixen Media Group, prolifique producteur américain de films X, qui accuse Meta d’avoir téléchargé 2 973 de ses vidéos. Mais en réunissant ses preuves en vue du procès, Strike 3 a exhumé un inventaire bien plus vaste, accumulé sur deux ans, et détaillé par le mensuel américain : des images du “Celebgate”, ce piratage de 2014 qui avait exposé les photos privées de Jennifer Lawrence et Kirsten Dunst ; des deepfakes pornographiques aux visages de Natalie Portman, Scarlett Johansson ou Gal Gadot ; des dizaines de vidéos de GirlsDoPorn, site fermé après l’inculpation pour trafic sexuel de six personnes qui lui étaient liées. Mais aussi, pêle-mêle, l’intégrale du studio Ghibli, des chansons de Dua Lipa, Elton John et Paul McCartney ou encore le jeu vidéo NBA 2K23.

Pas de coïncidence

Contactée par The Atlantic, l’entreprise assure que “ces accusations sont sans fondement” et rappelle que Strike 3, coutumière des poursuites contre les internautes, a été souvent qualifiée de “copyright troll”. Lors d’une première audience au tribunal, sa défense a consisté à imputer ces fichiers à la “consommation personnelle” d’employés, de prestataires ou de visiteurs passés par ses réseaux.

Sauf que ni le volume ni la logique des téléchargements ne plaident en ce sens, objecte The Atlantic. La juge Eumi Lee, qui a rejeté la demande de non-lieu déposée par Meta, voit là un “comportement coordonné algorithmiquement” et juge que la thèse de la coïncidence “défie l’entendement”.

Pour vérifier les relevés de Strike 3, le magazine a sollicité Tom Chothia, professeur de cybersécurité à l’université de Birmingham, qui a consacré des travaux à la plateforme de téléchargement illégal Bit Torrent. Après examen de la méthode de collecte, il a établi que, sauf falsification des données, des personnes de chez Meta étaient bel et bien en train de “télécharger” les vidéos du plaignant.

“Tester les garde-fous”

Reste le mobile. Meta jure éviter ce “type de contenu” et prendre “des mesures délibérées pour éviter de l’utiliser pour l’entraînement de [ses] systèmes”. D’ailleurs, rapporte The Atlantic, Meta souligne pour sa défense que “ses conditions d’utilisation interdisent aux utilisateurs d’utiliser ses produits d’IA pour générer des images à caractère pornographique”.

Mais le mensuel libéral rappelle que les contenus “dangereux” servent aussi à “tester les garde-fous des systèmes”, à leur apprendre “ce qu’ils ne doivent pas générer”. À moins qu’il ne s’agisse d’archiver sans dessein précis, comme le fait Anthropic qui a acquis des millions de livres pour sa “bibliothèque de recherche”.

Si les modèles d’IA doivent remplacer les créateurs humains, conclut The Atlantic, il leur faut ingérer un maximum de création humaine. Et Bit Torrent reste “le moyen plus rapide et le moins cher”, pour “voler l’intelligence d’autrui”.