San Francisco Poursuit 16 Sites Alimentés par l'IA pour Deepfakes Non Consentis

San Francisco prend des mesures juridiques contre les sites Web "nudistes" alimentés par l'IA

Le bureau de l'avocat de la ville de San Francisco a engagé des poursuites judiciaires contre 16 sites Web populaires alimentés par l'IA qui facilitent la création de deepfakes nus, ciblant principalement les femmes et les filles. Annoncé par l'avocat de la ville David Chiu, ce procès historique met en lumière le problème significatif des images non consensuelles qui a augmenté avec l'essor des technologies d'IA générative.

Comprendre le Problème

Le procès affirme que ces sites ont enregistré plus de 200 millions de visites rien que pendant les six premiers mois de 2024. Les utilisateurs peuvent télécharger des images d'individus vêtus, qui sont ensuite manipulées par l'IA pour simuler la nudité. De manière inquiétante, un site non nommé promeut même l'idée que rechercher de vraies relations est vain par rapport à l'acquisition de ce contenu manipulateur.

Implications Juridiques

Ces sites sont accusés de violer plusieurs lois, notamment :

• Lois sur la pornographie de vengeance
• Lois sur la pornographie deepfake
• Lois sur la pornographie juvénile
• Lois californiennes sur la concurrence déloyale

Selon le procès, le préjudice causé aux individus dépasse de loin les éventuels bénéfices que ces pratiques pourraient prétendre.

Recherche de Justice et de Responsabilité

Le procès de l'avocat de la ville vise des pénalités civiles et cherche à faire supprimer ces sites de manière permanente, empêchant ainsi leurs exploitants de s'engager dans la création de pornographie deepfake à l'avenir. Cette action reflète un engagement croissant à lutter contre l'utilisation de la technologie à des fins d'exploitation et d'abus.

La Montée du Contenu Non Consensuel

Alors que l'IA générative continue de progresser, les cas de nudité non consensuelle sont devenus alarmants. De nombreuses victimes hautement médiatisées, y compris des célébrités comme Taylor Swift, ont souffert de telles invasions de la vie privée. Le problème s'étend également aux écoles, où des étudiants ont subi de graves conséquences pour avoir partagé des images explicites générées par l'IA de leurs camarades.

Un Appel à l'Action

Chiu a souligné l'urgence de s'attaquer à cette tendance troublante, déclarant : "Cette enquête nous a conduits dans les coins les plus sombres d'Internet, et je suis absolument horrifié pour les femmes et les filles qui ont dû endurer cette exploitation." La situation souligne un besoin urgent pour la société de confronter et d'atténuer l'exploitation facilitée par les technologies de l'IA.

Conclusion

Le procès de San Francisco représente un pas crucial vers la reconnaissance et l'adressage des conséquences des technologies alimentées par l'IA dans notre société numérique. En tenant ces plateformes responsables, la ville remet en question la normalisation de l'exploitation des individus par le biais de la technologie deepfake.