Montrer le sommaire Cacher le sommaire
Une action collective vise désormais le système conversationnel de xAI, après des allégations selon lesquelles l’intelligence artificielle aurait intégré des contenus pédopornographiques lors de son entraînement. Le dossier soulève des questions inédites sur la responsabilité des concepteurs et les moyens de réparation demandés par les victimes.
Promotion d’un outil controversé et effets en chaîne
La polémique a débuté après la mise en avant, par le milliardaire à la tête de la société, d’une fonction permettant de générer des images dénudées. Cette promotion a coïncidé avec la prolifération de montages à caractère sexuel sur la plateforme, réalisés via de faux comptes.
Meta conclut un accord sur l’addiction des adolescents afin d’éviter un jugement historique
Thylacine double sa présence à l’Olympia pour boucler sa tournée 2027
Face à la pression, xAI a limité l’accès à ce que des utilisateurs appellent le « mode épicé », en le rendant payant. L’entreprise a également engagé des poursuites contre deux personnes et, selon ses avocats, contribué à l’arrestation de 244 individus impliqués dans des agissements illicites.
Une plainte qui cible l’apprentissage du modèle
Le recours collectif se distingue des plaintes antérieures en ciblant directement le processus d’entraînement du modèle. Une plaignante répertoriée via le programme fédéral de notification (FBI) affirme que les données du réseau ont assimilé des éléments liés à des violences qu’elle a subies dans son enfance.
Selon la requête, l’absorption de ces contenus aurait permis la génération de visages synthétiques utilisés dans des montages profondément abusifs, reproduisant ainsi des traumatismes plutôt qu’en protégeant les victimes.
La mécanique d’une boucle toxique
Les règles internes de la plateforme, dénoncent les plaignants, traiteraient toute publication comme un matériel d’entraînement potentiellement valide. Chaque sortie du chatbot deviendrait alors source d’alimentation pour le modèle, créant une boucle de rétroaction où les erreurs se renforcent.
Pour une avocate citée dans le dossier, Sarah London, cette dynamique relève d’une exploitation volontaire visant à maintenir l’audience. Elle soutient que le simple retrait des images publiques ne suffit pas, car « l’influence néfaste persiste indéfiniment dans les poids du système d’apprentissage profond ».
Le litige pose une question technique et éthique : comment effacer ou corriger des biais et contenus illicites qui sont déjà intégrés dans les paramètres internes d’un modèle ?
Des demandes radicales pour les victimes
Les avocats des plaignants exigent la destruction complète des bases de données considérées comme contaminées, ainsi que des compensations financières pour les survivants. Margaret E. Mabie, également citée dans la plainte, rappelle que la législation fédérale ne prévoit « aucune exception d’intelligence artificielle aux lois fédérales de protection de l’enfance ».
Le tribunal devra trancher sur la portée pénale et civile de ces allégations, et déterminer si la société a manqué à ses obligations légales en laissant de tels contenus être intégrés et réutilisés par son modèle.
