KI-Nacktbilder und NSFW-Material bald mit ChatGPT erstellbar?

Die Organisation hat erklärt, dass sie nach Wegen suchen will, um die Erstellung von NSFW-Inhalten in altersgerechten Kontexten über ihre API und ChatGPT verantwortungsvoll zu ermöglichen. Allerdings hat das Unternehmen seine Definition von Pornografie nicht klargestellt, die laut OpenAI-Mitarbeiterin Joanne Jang gegenüber The Guardian von der eigenen Definition abhängen könnte.

Dieser Schritt hat Kritik von politischen Persönlichkeiten ausgelöst, darunter die britische Abgeordnete Beeban Kidron, die sich für die Sicherheit von Kindern im Internet einsetzt und OpenAI vorwarf, seine eigene Mission zu untergraben, indem es die Einbindung von KI-generierter Erotik in Betracht zieht.

Derzeit umfasst die Technologie von OpenAI Sicherheitsvorkehrungen, die die Erstellung von pornografischen Inhalten verhindern sollen. ChatGPT ist zum Beispiel so programmiert, dass es negative Antworten auf Aufforderungen gibt, die darauf abzielen, Inhalte für Erwachsene zu erstellen.

Außerdem verbieten die Regeln für Drittentwickler, die OpenAIs Technologie nutzen, "sexuell eindeutige oder anzügliche Inhalte", außer in Fällen, die mit wissenschaftlichen oder pädagogischen Zwecken zusammenhängen.

KI-Nacktbilder-Erstellung bisher mit Stable Diffusion möglich Die Diskussion um KI und NSFW-Inhalte ist kein Einzelfall bei OpenAI. Die Macher des KI-Systems Stable Diffusion sind eine Ausnahme in der Branche, denn sie erlauben die Erstellung pornografischer Inhalte. Dies hat zur Entstehung einer kleinen Gemeinschaft geführt, die als Unstable Diffusion bekannt ist und sich darauf konzentriert, KI so zuzuschneiden, dass sie erotische und pornografische Inhalte erzeugt.