San Francisco poursuit des sites Web de deepfake alimentés par IA pour exploitation

Le procureur de la ville de San Francisco prend des mesures contre les sites web de déshabillage alimentés par l'IA

Le bureau du procureur de la ville de San Francisco a engagé une action en justice historique contre 16 des sites web de "déshabillage" pilotés par l'IA les plus fréquentés. Ces sites, connus pour leur rôle dans la création de deepfakes nus sans consentement, sont sous le feu des critiques au milieu des préoccupations croissantes concernant l'utilisation de l'intelligence artificielle dans l'exploitation sexuelle.

Détails de l'action en justice

Annonce par Le procureur de la ville David Chiu lors d'une conférence de presse, l'action en justice souligne que ces sites en particulier ont attiré plus de 200 millions de visites rien que dans la première moitié de 2024. Cette statistique alarmante souligne la portée potentielle du contenu nuisible généré par ces plateformes.

Comment ces sites fonctionnent-ils ?

Ces sites en infraction permettent aux utilisateurs de télécharger des images d'individus complètement habillés, utilisant ensuite la technologie IA pour les "déshabiller" numériquement. Comme l'un des sites non identifiés l'annonce, les utilisateurs sont encouragés à contourner les rencontres traditionnelles en faveur de ce que le site propose. Ce slogan promotionnel souligne la normalisation inquiétante de l'exploitation des individus par le biais de contenu généré par IA.

Allégations légales et violations

Les opérateurs de ces sites sont confrontés à de sérieuses allégations, notamment :

• Violation des lois étatiques et fédérales concernant la pornographie de vengeance, la pornographie deepfake et la pornographie enfantine.
• Infraction à la loi californienne sur la concurrence déloyale.

L'action en justice soutient que les dommages causés aux victimes l'emportent largement sur les éventuels avantages tirés des pratiques des sites. En conséquence, le procureur de la ville demande des pénalités civiles, la suppression de ces sites, et des garanties que leurs opérateurs ne participeront plus à la création de pornographie deepfake.

Prise de conscience accrue des nus non consensuels

Cette action légale met en lumière le problème plus vaste des images nues non consensuelles, qui a pris de l'ampleur avec les avancées en IA générative. Les rapports de cas de "sextorsion" ont augmenté, avec des victimes notables, y compris des célébrités comme Taylor Swift, succombant à des deepfakes sexuellement explicites. De plus, de nombreux écoliers ont été expulsés ou arrêtés pour avoir partagé des images nues générées par IA de leurs camarades.

Implications sociétales et prochaines étapes

Le procureur de la ville Chiu a exprimé une profonde inquiétude quant à l'exploitation dont les femmes et les filles sont victimes en ligne, déclarant : "Cette enquête nous a conduits dans les recoins les plus sombres d'internet, et je suis absolument horrifié pour les femmes et les filles qui ont dû endurer cette exploitation." Il a souligné la nécessité d'une réponse sociale collective pour combattre ce problème multifacette.

Conclusion

L'action en justice contre ces sites de déshabillage alimentés par l'IA marque un pas crucial dans l'adresse des défis posés par le contenu numérique non consensuel. Au fur et à mesure que la technologie évolue, nos cadres juridiques et nos normes sociétales doivent également évoluer pour protéger les individus contre l'exploitation.