Computer Forum
Nacktbilder mit KI genrieren: Darf man das? ( Bild © Nuca)
Rechtliche Schritte gegen KI-generierte Deepfake-Inhalte
Die vom Bezirksstaatsanwalt von San Francisco, David Chiu, angekündigte Klage zielt darauf ab, die Erstellung und Verbreitung von nackten Deepfakes zu bekämpfen. Dabei handelt es sich um Bilder und Videos, die mit Hilfe von KI-Algorithmen erstellt werden und Personen, oft ohne deren Zustimmung, in sexuellen Szenarien zeigen. Auf diesen Plattformen können Nutzer Fotos von vollständig bekleideten Personen hochladen und mithilfe von KI-Technologie manipulierte Nacktbilder oder pornografische Szenen erzeugen.
In der Klage wird behauptet, dass diese Plattformen sowohl gegen Landes- als auch gegen Bundesgesetze verstoßen, die unter anderem Revange-Porn, Deepfake-Pornografie und Kinderpornografie verbieten. Die Klage unterstreicht die wachsende Besorgnis über den Missbrauch generativer KI-Technologien, um explizite Inhalte ohne Zustimmung zu produzieren und zu verbreiten.
Dauerhafte Lösungen anstreben
Bezirksstaatsanwältin Chiu betonte den Ernst der Lage und beschrieb den ausbeuterischen Charakter dieser Websites als „entsetzlich“ für die betroffenen Frauen und Mädchen. Die Klage zielt nicht nur darauf ab, zivilrechtliche Strafen zu verhängen, sondern auch darauf, diese Plattformen dauerhaft zu schließen und ihre Betreiber daran zu hindern, in Zukunft ähnliche Aktivitäten zu unternehmen.
Chiu fordert in ihrer Erklärung dringende Maßnahmen auf gesellschaftlicher Ebene, um die komplexen und vielschichtigen Probleme im Zusammenhang mit KI-generierten expliziten Inhalten anzugehen. Es wird erwartet, dass der Rechtsstreit wichtige Präzedenzfälle im laufenden Kampf um die Regulierung des Einsatzes von KI bei der Erstellung und Verbreitung von schädlichen Inhalten schaffen wird.
