Pornhub nimmt Sweetie Fox' Video wegen Nudify-App offline

Seit 2018 verbietet Pornhub Inhalte, die Deepfakes enthalten, da sie als nicht einvernehmlich betrachtet werden. Die fragliche App ist als Webanwendung oder als Android APK verfügbar und umgeht damit die strengen Vorschriften der offiziellen App-Stores. Nach einem Bericht von 404 Media wurden ähnliche Apps auch aus dem Apple App Store entfernt. Die Entwickler hinter der App, die aus Weißrussland und Russland stammen, verwenden KI-generierte Bilder, um ihre wahre Identität zu verschleiern.

Nudify-Apps gewinnen an Beliebtheit

Dieser Vorfall hat die anhaltenden Bedenken bezüglich der Nudify-Apps verstärkt, die zunehmend dazu genutzt werden, realistische Nacktbilder ohne die Zustimmung der Betroffenen zu erstellen. Diese Apps haben einen starken Anstieg des Datenverkehrs erlebt und sind in die Kritik geraten, nachdem Deepfake-Inhalte von Prominenten wie Taylor Swift im Internet kursierten und die Plattformen vor die Herausforderung stellten, mit der Moderation der Inhalte Schritt zu halten.

Als Reaktion auf die wachsende Bedrohung durch diese Technologien arbeitet die EU an neuen Vorschriften, um das nicht-einvernehmliche Teilen von intimen Bildern, einschließlich KI-generierter Inhalte, unter Strafe zu stellen. Auch in den USA wird seit 2023 über einen Gesetzesvorschlag zum gleichen Thema nachgedacht, der den weltweiten Trend zu einer strengeren Kontrolle der digitalen sexuellen Ausbeutung widerspiegelt.