San Francisco demanda sitios web de deepfake impulsados por IA por explotación

El Fiscal de la Ciudad de San Francisco Toma Medidas Contra Sitios Web de Desnudamiento Impulsados por IA

La oficina del Fiscal de la Ciudad de San Francisco ha presentado una demanda histórica contra 16 de los sitios web de "desnudamiento" impulsados por IA más frecuentados. Estos sitios, conocidos por su papel en la creación de deepfakes nude sin consentimiento, han estado bajo el escrutinio en medio de la creciente preocupación sobre el uso de inteligencia artificial en la explotación sexual.

Detalles de la Demanda

Anunciada por el Fiscal de la Ciudad David Chiu en una conferencia de prensa, la demanda destaca que estos sitios web específicos atrajeron más de 200 millones de visitas solo en la primera mitad de 2024. Esta estadística alarmante subraya el potencial alcance del contenido dañino generado por estas plataformas.

¿Cómo Funcionan Estos Sitios Web?

Estos sitios web ofensores permiten a los usuarios subir imágenes de individuos completamente vestidos, utilizando posteriormente la tecnología de IA para "desvestirlos" digitalmente. Como uno de los sitios no identificados supuestamente publicita, se anima a los usuarios a eludir las citas tradicionales en favor de lo que el sitio ofrece. Este lema promocional apunta a la preocupante normalización de la explotación de individuos a través del contenido generado por IA.

Acusaciones Legales y Violaciones

Los operadores de estos sitios web enfrentan serias acusaciones, que incluyen:

• Violación de leyes estatales y federales sobre pornografía de venganza, pornografía deepfake y pornografía infantil.
• Infracción de la ley de competencia desleal de California.

La demanda argumenta que el daño causado a las víctimas supera con creces cualquier posible beneficio derivado de las prácticas de los sitios web. Como resultado, el Fiscal de la Ciudad busca sanciones civiles, la eliminación de estos sitios y garantías de que sus operadores no volverán a participar en la creación de pornografía deepfake.

Aumento de la Conciencia sobre Imágenes Desnudadas No Consentidas

Esta acción legal pone de relieve el problema más amplio de las imágenes desnudas no consentidas, que ha ganado tracción con los avances en IA generativa. Los informes de casos de "sextorsión" han aumentado, con víctimas notables, incluidas celebridades como Taylor Swift, que han caído en las redes de deepfakes sexualmente explícitos. Además, numerosos escolares han enfrentado expulsión o arresto por compartir imágenes desnudas de sus compañeros generadas por IA.

Implicaciones Sociales y Próximos Pasos

El Fiscal de la Ciudad Chiu expresó su profunda preocupación por la explotación que enfrentan las mujeres y niñas en línea, afirmando: "Esta investigación nos ha llevado a los rincones más oscuros de internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación." Enfatizó la necesidad de una respuesta colectiva de la sociedad para combatir este problema multifacético.

Conclusión

La demanda contra estos sitios web de desnudamiento impulsados por IA marca un paso crítico para abordar los desafíos planteados por el contenido digital no consentido. A medida que la tecnología evoluciona, también deben hacerlo nuestros marcos legales y normas sociales para proteger a los individuos de la explotación.