San Francisco verklagt 16 KI-gesteuerte Websites wegen nicht einvernehmlicher Deepfakes

San Francisco ergreift rechtliche Schritte gegen KI-gesteuerte "Entkleidungs"-Websites

Das Büro des Stadtanwalts von San Francisco hat rechtliche Schritte gegen 16 beliebte KI-gesteuerte Websites eingeleitet, die die Erstellung von Nackt-Deepfakes ermöglichen und sich hauptsächlich gegen Frauen und Mädchen richten. Angekündigt von Stadtanwalt David Chiu, hebt diese wegweisende Klage das bedeutende Problem der nicht einvernehmlichen Bilder hervor, das mit dem Aufstieg generativer KI-Technologien zugenommen hat.

Das Problem verstehen

Die Klage behauptet, dass diese Websites in nur den ersten sechs Monaten des Jahres 2024 über 200 Millionen Besuche verzeichneten. Nutzer können Bilder von bekleideten Personen hochladen, die dann von KI manipuliert werden, um Nacktheit zu simulieren. Erschreckenderweise fördert eine nicht genannte Seite sogar die Idee, dass die Suche nach echten Beziehungen im Vergleich zum Erwerb solcher manipulativen Inhalte vergeblich ist.

Rechtliche Implikationen

Diese Seiten werden beschuldigt, mehrere Gesetze verletzt zu haben, darunter:

• Gesetze gegen Rachepornografie
• Gesetze gegen Deepfake-Pornografie
• Gesetze gegen Kinderpornografie
• Kalifornisches Gesetz gegen unlauteren Wettbewerb

Der Klage zufolge überwiegt der Schaden, der den Einzelnen zugefügt wird, bei weitem die möglichen Vorteile, die diese Praktiken darstellen könnten.

Streben nach Gerechtigkeit und Verantwortung

Die Klage des Stadtanwalts zielt auf zivilrechtliche Strafen ab und fordert, dass diese Websites dauerhaft offline genommen werden, um zu verhindern, dass ihre Betreiber in Zukunft Deepfake-Pornografie erstellen. Diese Maßnahme spiegelt ein wachsendes Engagement wider, die Nutzung von Technologie zur Ausbeutung und Missbrauch zu bekämpfen.

Der Anstieg nicht einvernehmlicher Inhalte

Mit dem Fortschritt der generativen KI sind Vorfälle mit nicht einvernehmlichen Nacktbildern alarmierend häufig geworden. Viele prominente Opfer, darunter Prominente wie Taylor Swift, haben unter solchen Eingriffen in ihre Privatsphäre gelitten. Das Problem erstreckt sich auch auf Schulen, wo Schüler schwerwiegende Konsequenzen für das Teilen von KI-generierten expliziten Bildern ihrer Mitschüler erlitten haben.

Ein Aufruf zum Handeln

Chiu betonte die Dringlichkeit, diesen besorgniserregenden Trend anzugehen, und erklärte: "Diese Untersuchung hat uns in die dunkelsten Ecken des Internets geführt, und ich bin absolut entsetzt über die Frauen und Mädchen, die diese Ausbeutung erleiden mussten." Die Situation unterstreicht die dringende Notwendigkeit für die Gesellschaft, sich mit der Ausbeutung, die durch KI-Technologien ermöglicht wird, auseinanderzusetzen und sie zu mindern.

Fazit

Die Klage von San Francisco stellt einen entscheidenden Schritt dar, um die Auswirkungen von KI-gesteuerten Technologien in unserer digitalen Gesellschaft zu erkennen und anzugehen. Indem die Stadt diese Plattformen zur Verantwortung zieht, stellt sie die Normalisierung der Ausbeutung von Individuen durch Deepfake-Technologie in Frage.