A. Einführung
Gegenstand dieses Policy Papers sind ausschließlich nicht-einvernehmliche Deepfakes, die eine reale Person sexualisieren, indem sie diese in einem manipulierten sexuellen Kontext zeigen.[1] Durch die bildhafte nicht-einvernehmliche Sexualisierung wird das Persönlichkeitsrecht der dargestellten Person schwerwiegend verletzt, insbesondere in seinen Konkretisierungen als Recht auf sexuelle Selbstbestimmung und als Recht am eigenen Bild und Wort; darin liegt zugleich eine Verletzung des Rechts auf Nichtdiskriminierung.
Im Folgenden wird erläutert, was nicht einvernehmliche sexualisierende Deepfakes sind und wie sie sich auf die Betroffenen auswirken (B.), warum sie eine schwerwiegende Verletzung des Persönlichkeitsrechts der abgebildeten Personen darstellen und damit zugleich insbesondere das Recht auf Gleichberechtigung und gegen Diskriminierung von Frauen verletzen (C.) sowie welche Regelungslücken und rechtlichen Reformbedarfe in den Bereichen des Strafrechts (D.), bei der zivilrechtlichen Durchsetzung (E.), bei der Verantwortung von Plattformen (F.) und Anbietern Künstlicher Intelligenz (G.) bestehen. Hervorzuheben ist zudem, dass es der Prävention und weiteren Aufklärung bedarf (H.). Abschließend werden die Forderungen, die sich daraus in der Sache ergeben, zusammengefasst (I.).
B. Phänomen, Begriffe, Auswirkungen
I. Nicht-einvernehmliche sexualisierende Deepfakes
Sexualisierende Deepfakes treten in unterschiedlichen Formen auf: Es werden insbesondere Frauen digital „ausgezogen“, sodass sie nackt, in Unterwäsche oder Bikini erscheinen, oder sie werden scheinbar bei sexuellen Handlungen gezeigt,[2] indem ihr Gesicht in pornografische Inhalte eingesetzt wird.[3] Sexualisierende Deepfakes werden auf nichtöffentlichen, teilöffentlichen und öffentlichen Plattformen verbreitet. Dazu zählen etwa Deepfake- und Mainstream-Porno-Plattformen, aber auch Chatangebote wie WhatsApp und Telegram.[4]
Das Herstellen, Gebrauchen und Zugänglichmachen von nicht-einvernehmlichen sexualisierenden Deepfakes ist eine Form bildbasierter sexualisierter Gewalt. Damit werden Phänomene bezeichnet, bei denen Bildaufnahmen oder Bildinhalte, die eine andere Person sexualbezogen wiedergeben oder wiederzugeben scheinen, erstellt, manipuliert, genutzt oder Dritten zugänglich gemacht werden, ohne dass die abgebildete Person eingewilligt hat. Hier geht es um nicht-einvernehmliche sexualisierende Deepfakes. Deepfakes können aber auch produktiv genutzt werden oder auf andere Weise problematisch sein. Das derzeit überwältigende Problem ist jedoch, dass 96 % der im Netz aufgefunden Deepfake-Videos pornografische Deepfakes, wobei ausschließlich Frauen abgebildet sind.[5] In einer weiteren Studie für den Zeitraum Juli und August 2023 waren 98 % der online abrufbaren aufgefundenen Deepfakevideos pornografisch und 99 % der Betroffenen Frauen. [6]
Ausdrücklich angesprochen werden Deepfakes bisher nur in der Verordnung über Künstliche Intelligenz der EU (KI-VO). Art. 3 Nr. 60 der KI-VO definiert Deepfakes als durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen. Diese Definition ist jedoch nicht ausreichend, um sie der Betrachtung zugrunde zu legen. Im Bereich sexualisierender Deepfakes werden nicht nur KI-generierte Bilder als Deepfakes verstanden, sondern auch andere durch computertechnische Veränderung wie etwa mittels Photoshop entstandene, wirklichkeitsnahe Darstellungen. Die Verkürzung auf die Herstellung mittels KI-Systemen ist unzureichend, weil der Aspekt der sexualisierenden Verobjektivierung der dargestellten Person im Vordergrund steht.[7]
Mithilfe von Deepfake-Apps, wie sog. Nudification-Anwendungen, Chatbots und auf Deepfake-Websites kann jede Person sexualisierende Deepfakes im Internet auffinden und niedrigschwellig mit wenigen Klicks selbst herstellen. Für die Herstellung wird nur ein digitaler Bildinhalt als Ausgangsmaterial benötigt. Sexualisierende Deepfakes können deshalb jede Person betreffen, deren Bilder digital für eine andere Person verfügbar sind. Dies belegt etwa die zu Beginn des Jahres bekannt gewordene Nutzung des KI-Chat-Bots GROK der Plattform X, um sexualisierende Bilder von Frauen und Kindern zu erstellen, um sie anschließend innerhalb der Plattform zu verbreiten.[8] Es werden zudem immer wieder teils gravierende Einzelfälle bekannt,[9] bei denen Frauen von sexualisierenden Deepfakes betroffen sind. Auch angesichts der Daten zum Vorkommen von Deepfakes im Netz, die Frauen sexualisieren, ist davon auszugehen, dass die Zahl der Betroffenen deutlich höher ist. Die aktuelle Dunkelfeldstudie des BKA beziffert die Anzeigequote digitaler Gewalt mit 2,4 %.[10]
Häufig treten beim im Zusammenhang mit nicht-einvernehmlichen sexualisierenden Deepfakes strafrechtlich relevante Begleittaten wie beleidigende Kommentare, Identitätsdiebstahl, „Doxing” und „Sextortion” auf. Beim „Doxing” werden persönliche Daten wie Instagram-Accounts, E-Mail-Adressen, Handynummern oder sogar die Privatanschrift zu dem Upload der Deepfakes in Begleittexten wie z.B. Kommentarspalten hinzugefügt und auf diese Weise eine Identifizierung der dargestellten Person ermöglicht.[11] Sog. Sextortion liegt vor, wenn die Betroffenen mit der Drohung, die Deepfakes weiterzuleiten oder zu veröffentlichen, erpresst werden, etwa um echtes intimes Bildmaterial zu erlangen oder um Betroffene durch die drohende herabwürdigende Objektivierung im privaten sowie beruflichen Umfeld bloßzustellen.[12]
II. Auswirkungen
Die Folgen bildbasierter sexualisierter Gewalt für die Betroffenen sind regelmäßig schwerwiegend. Sie werden in der empirischen Forschung als andauernd[13] und lebenszerstörend beschrieben.[14] Die Gewaltform kann schwerwiegende psychische Folgen hervorrufen, wie posttraumatische Belastungsstörungen und Depressionen bis hin zur Suizidalität.[15] Die Lebensführung wird dann häufig von der – berechtigten – Angst bestimmt, die Verbreitung der Bilder nicht kontrollieren zu können. Betroffene können nicht sicher sein, wer über sie verfügt, wem sie zugänglich gemacht werden, ob sie sich viral verbreiten und ob sie je gänzlich aus dem Netz gelöscht werden können. Häufig sind Betroffene opferbeschuldigendem (victim blaming) und beschämendem Verhalten Dritter (slut shaming) ausgesetzt. Die damit bewirkte Scham kann zu sozialer Isolation führen, die sich von öffentlichen Räumen (auch online)[16] bis hin zum Rückzug aus Peer-Gruppen, Familie und sozialem Engagement erstreckt.[17] Es ist kein geschlechtsneutraler Zufall, sondern die digitale Dimension sexistischer Vorurteile und Stereotype, mit denen Frauen als sexuell verfügbar dargestellt werden.
Die Wirkung bildbasierter sexualisierter Gewalt ist auch im Übrigen nicht zu unterschätzen. Die soziale Isolation der Betroffenen kann insbesondere dazu führen, dass Frauen aus öffentlichen Meinungsbildungsprozessen und gesellschaftlichen Positionen verdrängt werden.[18] Bildbasierte sexualisierte Gewalt ist damit eine Ursache des „Verstummens“ der Meinungspluralität im virtuellen öffentlichen Diskurs, dem sog. Silencing. Dabei werden nicht nur Personen zum Schweigen gebracht, die selbst betroffen sind, sondern auch andere - und wiederum insbesondere Frauen - davon abgehalten, sich zu beteiligen, da sie diese Diffamierung befürchtet. So werden Menschen gehindert, an virtuell geführten Debatten teilzunehmen; dies führt zu einer Verdrängung im digitalen Raum.[19] Sexualisierende Deepfakes werden zudem für demokratiegefährdende Desinformationskampagnen[20] und auch systematisch für das Vorgehen gegen politisch aktive Personen genutzt.[21]
C. Schwerwiegende Verletzung der Rechte der dargestellten Person
Nicht-einvernehmliche sexualisierende Deepfakes verletzen das Persönlichkeitsrecht der dargestellten Person nach Art. 1 Abs. 1, 2 Abs. 1 GG als Recht am eigenen Bild, als Recht auf sexuelle Selbstbestimmung, als Selbstdarstellungsschutz in Bezug auf die Täuschung und als Recht auf informationelle Selbstbestimmung sowie das Recht auf Nichtdiskriminierung aus Art. 3 Abs. 2 und 3 GG schwerwiegend. Es handelt sich um eine Form bildbasierter sexualisierter Gewalt, die zugleich geschlechtsspezifische Gewalt ist.
I. Konkretisierungen des Persönlichkeitsrechts
Nicht-einvernehmliche sexualisierende Deepfakes verletzen das Recht am eigenen Bild der abgebildeten Person. Es umfasst technisch manipulierte Darstellungen, die den Anschein erwecken, eine Person wiederzugeben. Sie dürfen nicht ohne Einverständnis durch die abgebildete Person hergestellt oder genutzt werden.[22]
Zudem werden die Dargestellten sexuell verobjektiviert, so dass das Recht auf sexuelle Selbstbestimmung betroffen ist. Betroffene erleben bildbasierte sexualisierte Gewalt, zu der sexualisierende Deepfakes gehören, deshalb häufig „wie einen sexuellen Übergriff“ oder als „mentale“ oder „digitale Vergewaltigung“.[23] Es handelt sich zwar nicht um einen körperlichen sexuellen Übergriff i. S. d. § 177 StGB, aber eben auch nicht nur um ein Bild. Vielmehr wird mittels eines Bildes sexualisierend auf den Körper der dargestellten Person Zugriff genommen. Eine häufige Folge des Herstellens, Verbreitens und anderer Verwendungsformen ist damit auch, dass sich die Dargestellten als Person insgesamt in Frage gestellt fühlen.[24] Denn ihnen wird die Rolle des untergeordneten Sexualobjekts zugewiesen und damit die Anerkennung als gleichwertige Person verweigert.
Hinzu kommt eine Verletzung des Persönlichkeitsrechts als Selbstdarstellungsschutz, also als Selbstbestimmungsrecht über die Darstellung des persönlichen Lebens- und Charakterbildes schützt.[25] Denn nicht-einvernehmliche sexualisierende Deepfakes täuschen über eine sexualbezogene Tatsache der dargestellten Person. Die Offenlegung einer Bildmanipulation könnte diese Täuschung ausschließen oder jedenfalls den Eingriff in den Selbstdarstellungsschutz im Rahmen einer Abwägung als weniger schwerwiegend erscheinen lassen. Eine Offenlegung hat jedoch keine Auswirkungen auf die Verletzung der sexuellen Selbstbestimmung.[26] Das Zugänglichmachen für Dritte ermöglicht zudem abwertende Fremdzuschreibungen durch diese bezüglich der abgebildeten Person.[27]
Das Herstellen, Nutzen und Zugänglichmachen nicht-einvernehmlicher sexualisierender Deepfakes verletzt auch das Persönlichkeitsrecht als Recht auf informationelle Selbstbestimmung der Person. Dies gilt zunächst hinsichtlich des Bildes, welches als personenbezogene Daten mittels KI durch die Herstellenden verarbeitet und sodann weiterverbreitet wird. Das gilt auch für manipulierte Bilder, denn auch wenn unrichtige Daten einer Person hergestellt und zugänglich gemacht werden, ist das Recht auf informationelle Selbstbestimmung berührt. Soweit die nicht-einvernehmlichen sexualisierenden Deepfakes mit zusätzlichen personenbezogenen Daten der Betroffenen, wie dem Klarnamen, der Adresse oder Telefonnummer, veröffentlicht werden, tritt eine darüberhinausgehende Verletzung des Rechts auf informationelle Selbstbestimmung hinzu, die dazu führen kann, dass der dargestellten Person nachgestellt wird, sie belästigt oder bedroht wird. Schließlich sind personenbezogene Daten die Basis für das Bild, das sich andere von einer Person machen.[28] In den Konstellationen von Sextortion wird zudem die ebenfalls vom Persönlichkeitsrecht umfasste Freiheit der Willensbildung und -entschließung verletzt.
Das Recht am eigenen Bild und das Recht auf sexuelle Selbstbestimmung werden durch die herabwürdigende Sexualisierung nicht nur durch das nicht einvernehmliche Zugänglichmachen von sexualisierenden Deepfakes für Dritte, sondern auch durch das Herstellen und den privaten Gebrauch schwerwiegend verletzt.[29] Denn jede Person muss selbst darüber entscheiden können, ob und gegebenenfalls welche Bildinhalte es von ihr gibt, die sie sexualbezogen darstellen, wer sie nutzt und wer sie wem zugänglich macht. Der Schutz vor dieser Rechtsverletzung kann also nur dann wirksam sein, wenn umfassend das nicht einvernehmliche Herstellen, Gebrauchen und Zugänglichmachen an Dritte verboten werden. Dementsprechend werden bei authentischen nicht einvernehmlichen sexualbezogenen Bildaufnahmen wie Upskirting-Aufnahmen oder Genitalaufnahmen auf Toiletten in §§ 184k und 201a StGB nicht nur das Zugänglichmachen, sondern auch das Herstellen und Gebrauchen unter Strafe gestellt.
II. Eingriff in die psychische Gesundheit
Neben dem Eingriff in verschiedene persönlichkeitsrechtliche Ausprägungen können nicht-einvernehmliche sexualisierende Deepfakes auch in das Grundrecht auf körperliche Unversehrtheit aus Art. 2 Abs. 2 GG eingreifen. Auch wenn von Deepfakes keine unmittelbaren körperlichen Einwirkungen ausgehen, können sie doch gleichzusetzende psychische Folgen haben. Betroffene von bildbasierter Gewalt berichten von erheblichen Auswirkungen auf die psychische Gesundheit, die zu posttraumatischen Belastungsstörungen und Depressionen reichen können.[30] Psychische Gewalt erfährt im gesellschaftlichen Diskurs bisher nur wenig Aufmerksamkeit, was zur Bagatellisierung dieser Gewaltform beiträgt.[31] Die Istanbul-Konvention verpflichtet die Konventionsstaaten jedoch zur Bekämpfung aller Formen von Gewalt (Art. 1 Abs. 1 lit. a IK), wozu ausdrücklich auch psychische Gewalt zählt (Art. 3 lit. a IK).
III. Verletzung des Rechts auf Nichtdiskriminierung/Gleichberechtigung
Bildbasierte sexualisierte Gewalt verletzt nicht nur das allgemeine Persönlichkeitsrecht der Betroffenen und kann das Recht auf Unversehrtheit von Körper und Gesundheit beeinträchtigen (Art. 2 Abs. 2 GG), was staatliche Schutzpflichten auslösen kann. Das Herstellen, Gebrauchen und Zugänglichmachen von nicht-einvernehmlichen sexualisierenden Deepfakes trifft als Form bildbasierter sexualisierter Gewalt vorrangig Frauen.[32]Sondern es handelt sich damit auch um Diskriminierung insbesondere von Frauen, da sie ganz überwiegend durch nicht-einvernehmliche sexualisierende Deepfakes benachteiligt und aus der öffentlichen Sphäre verdrängt werden.
Das Grundrecht auf Gleichberechtigung in Art. 3 Abs. 2 GG verpflichtet den Staat ausdrücklich dazu, tatsächlich Gleichberechtigung herzustellen (Art. 3 Abs. 2 Satz 2 GG). Auch in der Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte ist anerkannt, dass mangelhafter Schutz vor Gewalt gegen Frauen eine Verletzung der Menschenrechte darstellt.[33] Das Gleichstellungsgebot verstärkt das Diskriminierungsverbot hinsichtlich des Geschlechts in Art. 3 Abs. 3 Satz 1 GG. Dazu kommen die in Art. 3 GG weiter benannten Diskriminierungsverbote, die u.a. vor rassistischer Benachteiligung schützen sollen: treffen diese mit sexualisierter bildbasierter Gewalt zusammen, ist der Diskriminierungsschutz erst recht gefordert.
Geschlechtsbasierte Gewalt gegen Frauen im digitalen Raum, wie sie von nicht-einvernehmlichen sexualisierenden Deepfakes ausgeht, ist auch Diskriminierung im Sinne von Art. 1 der UN-Frauenrechtskonvention (CEDAW).[34] Gemäß Art. 2 CEDAW sind alle Konventionsstaaten verpflichtet, mit allen geeigneten Mitteln und ohne Verzögerung eine Politik zur Beseitigung der Diskriminierung von Frauen, einschließlich geschlechtsspezifischer Gewalt gegen Frauen, zu verfolgen. Dazu gehört, das Verhalten privater Akteur*innen zu regulieren, sowie effektiven Rechtsschutz zu ermöglichen.[35]Strafrechtliche Regelungslücken und Reformbedarf
IV. Strafwürdigkeit
Die Verletzung des Rechts auf sexuelle Selbstbestimmung und des Rechts am eigenen Bild, der nicht einvernehmlich durch einen Deepfake dargestellten Person, ist schwerwiegend, wie sich auch an den erheblichen Folgen für die Betroffenen sehen lässt. Hinzu kommt, dass zu vermuten ist, dass es sich aufgrund der leichten Erstellbarkeit von Deepfakes und deren nahezu unkontrollierbaren digitalen Verbreitungsmöglichkeiten um ein weit verbreitetes Phänomen handelt. Es bedarf deshalb strafrechtlicher Verbote, um es zu bekämpfen. Die Schaffung von Straftatbeständen ermöglicht zugleich eine Durchsetzung zivilrechtlicher Ansprüche. Denn sie benennen für Gerichte deutlich den Unwert eines Eingriffs ins Persönlichkeitsrecht und die durch die Erfüllung eines Straftatbestandes indizierte Rechtswidrigkeit bringt erhebliche Rechtssicherheit für die Betroffenen auch im Meldeverfahren bei Onlineplattformen.
Zudem bestehen europarechtliche Kriminalisierungsanforderungen. Gemäß Art. 5 I lit. b der Gewaltschutz-RL soll das Herstellen, Manipulieren und Verändern von Bildern, Videos oder ähnlichen Materialien, die sexualbezogene Inhalte zeigen, und das anschließende öffentliche Zugänglichmachen kriminalisiert werden, sofern die dargestellte Person dem nicht zugestimmt hat und dieses Verhalten geeignet ist, ihr erheblichen Schaden zuzufügen.[36] Nach Erwägungsgrund 18 der RL handelt es sich lediglich um Mindestanforderungen an die Kriminalisierung, es kann und sollte also auch das Herstellen, Gebrauchen und Zugänglichmachen an einzelne Dritte unter Strafe gestellt werden. Zudem sollte auf den Nachweis eines erheblichen Schadens im Einzelfall verzichtet werden, weil bereits das nicht einvernehmliche Herstellen, Gebrauchen und Zugänglichmachen authentischer sexualbezogener Bildaufnahmen und nicht-einvernehmlicher sexualisierender Deepfakes eine schwerwiegende Rechtsverletzung darstellen, die typischerweise schwerwiegende Folgen für die Betroffenen haben. Nach Art. 5 Absatz 1 lit. c RL soll es zudem strafbar sein, eine Person mit dem öffentlichen Zugänglichmachen sowie dem Herstellen, Manipulieren und Verändern zum öffentlich Zugänglichmachen zu bedrohen und sie damit zu einer Handlung, einem Dulden oder einem Unterlassen zu zwingen.
Nach Art. 40 der Istanbul-Konvention (IK) ist sexuelle Belästigung strafrechtlichen oder sonstigen rechtlichen Sanktionen zu unterwerfen. GREVIO, die Expertengruppe zur Überwachung der IK (Art. 66 IK), betrachtet bildbasierte sexuelle Gewalt, zu der sie auch digital veränderte Bilder zählt, als eine Form der sexuellen Belästigung und kommt zu dem Schluss, dass diese strafrechtlichen oder sonstigen rechtlichen Sanktionen unterliegen muss.[37]
V. Strafrechtliche Schutzlücken
Der bestehende rechtliche Schutz ist für erwachsene Betroffene fragmentiert, unübersichtlich und oft unzureichend.[38]
1. Sexualisierende Darstellung Minderjähriger
Minderjährige werden durch die Strafbarkeit des Zugänglichmachens und des Besitzes von Inhalten geschützt, die sie wirklichkeitsnah kinder- oder jugendpornografisch wiedergeben, §§ 184b Abs. 1 S. 1 Nr. 2, Abs. 3 StGB, 184c Abs. 1 Nr. 2, Abs. 3 StGB. Es fehlt indes an einem absoluten Verbot des Herstellens von Deepfake-Inhalten, wie es für reale kinder- und jugendpornografische Inhalte in §§ 184b Abs. 1 S. 1 Nr. 3, 184c Abs. 1 Nr. 3 StGB vorgesehen ist.[39] Auch § 201a Abs. 3 StGB greift nicht. Nach dieser Vorschrift ist es strafbar, eine Bildaufnahme, die eine minderjährige Person nackt wiedergibt, herzustellen oder anzubieten, um sie einer dritten Person gegen Entgelt zu verschaffen (§ 201a Abs. 3 Nr. 1 StGB) oder eine solche Bildaufnahme sich oder einer dritten Person gegen Entgelt zu verschaffen (§ 201a Abs. 3 Nr. 2 StGB). Ein Deepfake ist jedoch kein aufgenommenes Bild, sondern ein manipuliertes Bild.[40]
2. Beschaffung des Ausgangsmaterials
Um einen nicht-einvernehmlichen sexualisierenden Deepfake zu erstellen, wird Ausgangsmaterial in Form von Ton, Fotos oder Videos benötigt, welches neutral sein kann. Diese Originalaufnahmen können durch Hacking oder einen unberechtigten Zugriff auf einen geschützten Datenspeicher (z. B. eine Cloud oder ein Notebook) beschafft werden. In diesen Fällen kommt eine Strafbarkeit gemäß § 202a Abs. 1 StGB (Ausspähen von Daten) in Betracht.[41] § 202a StGB greift allerdings nicht in sozialen Nahbeziehungen, in denen die Person, die sich Material zwecks Erstellung eines Deepfakes verschafft, einen berechtigten Zugriff auf sie hat. Oft werden die Ausgangsmaterialien von öffentlich zugänglichen Websites im Internet oder öffentlich zugänglichen Social-Media-Profilen heruntergeladen, so dass kein unberechtigter Zugriff i. S. d. § 202a StGB vorliegt.
Neben der strafrechtlichen Regelung könnte auch ein Verstoß gegen das BDSG vorliegen, wenn durch die Bearbeitung des Bildmaterials personenbezogene Daten im Sinne von Art. 4 Nr. 1 DSGVO verarbeitet werden. Allerdings verlangt § 42 Abs. 2 Nr. 1 BDSG eine Schädigungsabsicht. Zudem ist umstritten, ob es sich um ein Sonderdelikt handelt, das für Privatpersonen nicht gilt.[42]Eine Sanktion entfällt außerdem, wenn die Aufnahmen nicht gegen Entgelt oder mit der Absicht, eine andere Person zu schädigen oder sich oder andere zu bereichern, erstellt werden.
Im Einzelfall können urheberrechtliche Vorschriften wie § 106 Abs. 1 UrhG i. V. m. § 108 Abs. 1 Nr. 3, 7 UrhG greifen, wenn durch das Herunterladen der Daten eine Vervielfältigung und durch die Erstellung eines Screenshots eine Speicherung auf einem mobilen Datenträger erfolgt. Eine Strafbarkeit ist jedoch ausgeschlossen, wenn die Originalaufnahme nur für den Eigengebrauch ohne Erwerbsabsicht genutzt werden soll (sog. Privatkopieschranke).[43]
3. Herstellen eines Deepfakes durch computertechnisches Verändern
Auch das Manipulieren eines Bildinhalts ist nicht als solches strafrechtlich verboten. Zwar verletzt das Herstellen eines nicht-einvernehmlichen sexualisierenden Deepfakes mit der Verletzung des Rechts auf sexuelle Selbstbestimmung den höchstpersönlichen Lebensbereich der dargestellten Person, allerdings greift § 201a Abs. 1 Nr. 1 StGB, der unter anderem die Verletzung des höchstpersönlichen Lebensbereiches durch das Herstellen sexualbezogener Bildaufnahmen regelt, nicht. Denn ein nicht-einvernehmlicher sexualisierender Deepfake ist ein computertechnisch veränderter Bildinhalt und kein aufgenommenes Bild (das nur ein Bild sein kann, welches ein tatsächliches Geschehen wiedergibt).[44]
Bzgl. Datenschutz- sowie urheberrechtlicher Normen gilt ebenso wie für das Beschaffen des Ausgangsmaterials auch beim Herstellen eines sexualisierenden Deepfakes: Die Anwendung von § 42 Abs. 2 Nr. 1 BDSG ist im Einzelfall zweifelhaft, weil umstritten ist, ob die Norm auch für Privatanwendende gilt. § 106 Abs. 1 UrhG (ggf. i. V. m. § 108 Abs. 1 Nr. 3 oder 7 UrhG) ist aufgrund der Privatkopieschranke nicht auf das Herstellen von Deepfakes zum privaten Gebrauch anwendbar.[45]
4. Gebrauchen und Zugänglichmachen an einzelne Dritte
Zwar stellt § 201a Abs. 1 Nr. 4, 5. Abs. 3 StGB das Gebrauchen und Zugänglichmachen von sexualbezogenen Bildaufnahmen unter Strafe. Allerdings handelt es sich bei einem nicht-einvernehmlichen sexualisierenden Deepfake wie gezeigt nicht um eine Bildaufnahme, sondern um einen computertechnisch veränderten Bildinhalt.[46]
Das Zugänglichmachen von sexualisierenden Deepfakes dürfte zudem keine Beleidigung, üble Nachrede oder Verleumdung gem. §§ 185 ff. StGB darstellen, auch wenn sie die dargestellte Person herabwürdigen und eine unwahre Tatsache zu belegen scheinen. Denn es handelt sich nicht um die Kundgabe einer Äußerung über eine andere Person, sondern um das Schaffen einer kompromittierenden Tatsachenlage.[47]
Im Einzelfall kann das Verbreitungsverbot für gewaltpornografische Inhalte gem. § 184a Nr. 1 StGB greifen. Dieses setzt voraus, dass das sexualisierende Deepfake Sexualität in Verbindung mit Gewalttätigkeiten zeigt, also mit erheblicher, unmittelbar gegen den Körper einer Person gerichteter Gewalt.[48] Die Darstellung eines einfachen sexuellen Übergriffs ist von der Vorschrift damit nicht erfasst. Hinzu kommt, dass die Wiedergabe eines sexuellen Übergriffs nicht zwingend pornografisch im Rechtssinne ist. Denn ein Inhalt ist (nach dem herrschenden Verständnis) nur pornografisch, wenn er Sexualität vergröbernd-anreißerisch darstellt oder auf die Erregung eines sexuellen Reizes ausgerichtet ist.[49] Bei bildbasierter sexualisierter Gewalt besteht das Unrecht jedoch in der Verletzung des Persönlichkeitsrechts der dargestellten Person, für das eine sexualbezogene Darstellung, also etwa ein Nacktbild, ausreicht.[50] Nicht zuletzt stellt § 184a StGB weder das Herstellen, noch den Gebrauch noch das Zugänglichmachen an einzelne Dritte unter Strafe.
Urheberrechtlich stellt das Hochladen einer Nacktfotomontage auf Seiten wie Instagram eine öffentliches Zugänglichmachen gemäß § 19a UrhG und eine öffentliche Wiedergabe i. S. d. § 15 Abs. 2 UrhG dar, sodass eine Strafbarkeit gemäß § 106 Abs. 1 i. V. m. § 108 Abs. 1 Nr. 3 und 7 UrhG gegeben sein kann.[51] Die Privatkopieschranke gemäß § 53 Abs. 1 S. 1 UrhG greift hier nicht. Für den Schutz nach § 106 Abs. 1 UrhG ist eine Öffentlichkeit gemäß § 15 Abs. 3 UrhG erforderlich. Diese ist bei einer nicht öffentlichen, unkörperlichen Weitergabe per E-Mail, WhatsApp oder in geschlossenen Foren nicht gegeben.[52] Damit besteht eine Schutzlücke für den Bereich des Verteilens im privaten Kreis an Bekannte.
Letztlich greift regelmäßig nur § 33 i. V. m. §§ 22 f. KUG, der das Verbreiten oder öffentliche Zurschaustellen des Bildnisses einer Person ohne ihre Einwilligung unter Strafe stellt. Ein Bildnis liegt vor, wenn die dargestellte Person erkennbar ist.[53] Allerdings schützt § 33 KUG nicht das Recht auf sexuelle Selbstbestimmung, sondern nur das Recht am eigenen Bild, was sich in der niedrigen Strafandrohung sowie darin ausdrückt, dass nur das Verbreiten und öffentliche Zurschaustellen unter Strafe steht. Das Unrecht sexualisierender Bildinhalte wiegt hingegen schwerer und ist auch hinsichtlich des Herstellens, Gebrauchens und Zugänglichmachens an einzelne strafwürdig.[54]
5. Begleittaten
Auch der strafrechtliche Schutz vor Doxing, dem nicht einvernehmlichen Zugänglichmachen persönlicher Daten mit dem nicht-einvernehmlichen sexualisierenden Deepfake, ist ebenfalls lückenhaft. Es greift lediglich der Straftatbestand der Datenhehlerei gemäß § 202d StGB, wenn sich eine Person die Daten durch eine rechtswidrige Tat verschafft hat.[55] § 126a StGB (Gefährdendes Verbreiten personenbezogener Daten) setzt voraus, dass die Veröffentlichung dazu bestimmt ist, die Person oder nahestehende Personen der Gefahr eines gegen sie gerichteten Verbrechens oder einer sonstigen gegen sie gerichteten Tat auszusetzen. Hier dürfte sich in der Regel das Problem des Nachweises der Schädigungsabsicht stellen.[56] § 238 Abs. 1 Nr. 3 b) StGB greift erst, wenn die Tatperson wiederholt persönliche Daten weitergibt und Dritte tatsächlich Kontakt zur dargestellten Person aufnehmen.
Soweit Betroffene mit der Veröffentlichung sexualisierender Deepfakes erpresst werden, ist die Strafbarkeit dieses Falls durch den Nötigungstatbestand gemäß § 240 StGB abgedeckt. Wenn die Phänomene der bildbasierten sexualisierten Gewalt im Sexualstrafrecht unter Strafe gestellt werden, wäre zudem eine Strafbarkeit wegen Bedrohung gem. § 241 Abs. 1 StGB gegeben.
VI. Materiell-rechtlicher Reformbedarf im StGB
Das nicht einvernehmliche Herstellen, Gebrauchen und Zugänglichmachen sexualisierender Deepfakes wird strafrechtlich nicht als solches adressiert und ist nur ansatzweise hinsichtlich des Verbreitens und öffentlichen Zurschaustellens strafbar, obwohl diese Tathandlungen eine schwerwiegende Verletzung des Rechts auf sexuelle Selbstbestimmung und des Rechts auf Nichtdiskriminierung darstellen. Es besteht daher ein grundsätzlicher Reformbedarf. Zwar geht der strafrechtliche Schutz vor nicht einvernehmlichen authentischen sexualbezogenen Bildaufnahmen weiter, er ist allerdings ebenfalls lückenhaft und adressiert diese nicht als solche, wie der Deutsche Juristinnenbund e. V. bereits ausführlich in seinem Policy Paper zu bildbasierter sexualisierter Gewalt dargestellt hat.[57]
Der Deutsche Juristinnenbund e. V. fordert deshalb die Schaffung eines einheitlichen Regelungskomplexes von Straftatbeständen innerhalb des Sexualstrafrechts und außerhalb des Pornografie-Strafrechts, die das unbefugte Herstellen, Manipulieren, Gebrauchen und Zugänglichmachen von Bildaufnahmen und Bildinhalten unter Strafe stellen, die eine andere erwachsene Person nackt oder sexualbezogen wiedergeben oder wirklichkeitsnah darstellen.
In Bezug auf das sexualisierende Manipulieren von Bildinhalten sollte die Strafbarkeit unabhängig davon sein, ob der Deepfake täuschend echt ist oder ob offengelegt wurde, dass es sich um einen Deepfake handelt, etwa bei der Verbreitung auf einer Deepfakeplattform. Denn im Vordergrund steht die sexualisierende Herabwürdigung der Person und nicht die Täuschung über die Person. Allerdings kann die Tatsache, dass es sich um einen täuschend echten Deepfake handelt, unrechtserhöhend wirken, also mit einer qualifizierten Strafdrohung versehen werden. Dies gilt ebenfalls für weitere unrechtserhöhende Umstände wie das Zugänglichmachen persönlicher Daten mit dem nicht-einvernehmlichen sexualisierenden Deepfake oder authentischen sexualbezogenen Bildaufnahmen, dem Darstellen eines sexuellen Übergriffs und dem Verbreiten des Inhalts. Die Strafrahmen sollten abgestuft nach dem Unrechtsgehalt bestimmt werden.[58]
VII. Strafprozessuale Verfahrensvoraussetzungen
Um die Hürde der Strafanträge von vornherein zu minimieren, muss es möglich sein, Anträge nicht nur per Mail, sondern bundeseinheitlich auch über Meldeportale sicher online einzureichen. Das bedeutet, dass es rechts- und datensichere Verfahren für das Hochladen von Screenshots mit besonders sensiblen Inhalten gibt. Es gibt in einigen Bundesländern bereits Meldeportale, die das Vorliegen der strafrechtlich relevanten Merkmale von Äußerungsdelikten im Internet systematisch abfragen und das Hochladen von Screenshots und das Einfügen einer URL ermöglichen. Zu bemängeln ist, dass lediglich in vereinzelten Bundesländern solche Angebote, wie bspw. RESPECT![59] oder Hessen gegen Hetze[60], bestehen.[61]
Außerdem sollte es sich nicht um Privatklagedelikte nach § 374 Abs. 1 StPO handeln, denn Privatklagedelikte sind typischerweise Bagatelldelikte, die untereinander geklärt werden können.[62] Nicht einvernehmliche authentische und manipulierte sexualbezogene Bildinhalte, die eine andere Person sexualbezogen darstellen, sind aufgrund der Schwere der Rechtsverletzung aber keine Bagatellen. Vielmehr müssen die Taten außerdem in den Katalog der Nebenklagedelikte gemäß § 395 Abs. 1 StPO aufgenommen werden, um den Betroffenen eine gesicherte Position als Beteiligte im Strafverfahren zu ermöglichen. In Verfahren, die traumatisierende Inhalte verhandeln, ist eine juristische Absicherung des Verfahrensablaufs elementar. Außerdem müssen die bereits vorhandenen Opferentschädigungsregeln auf digitale Gewalt ausgeweitet werden, um eine Anerkennung der Gewalterfahrung in einem Anspruch auf Unterstützung, Hilfe und Entschädigung rechtlich abzusichern. Ein Recht auf soziale Entschädigung nur bei einer „körperlichen Gewalttat“ oder einer „schwerwiegenden“ psychischen Gewalttat anzunehmen, greift zu kurz. Es muss auch bei sonstiger psychischer Gewalt, durch welche die Gesundheit oder psychische Unversehrtheit der betroffenen Person ernsthaft beeinträchtigt wird, gewährt werden.[63]
Um diese Rechte abzusichern, müssen flächendeckende Schwerpunktstaatsanwaltschaften eingesetzt werden, um eine spezialisierte Verfolgung bildbasierter sexualisierter Gewalt zu ermöglichen.
Zudem muss eine Sensibilisierung der Justiz innerhalb des gesamten Verfahrens durch verpflichtende Fortbildungen erreicht werden.[64]
D. Zivilrechtlicher Schutzrahmen
I. Schutzlücken im materiellen Zivilrecht
Die strafrechtliche Schließung von Lücken erleichtert auch die Durchsetzung zivilrechtlicher Ansprüche, namentlich die Ansprüche auf Löschung der sexualisierenden Deepfakes, auf Unterlassen weiterer Verletzungen, auf Zahlung von Schadensersatz und auf Geldentschädigung. Strafgesetze sind Schutzgesetze im Sinne des § 823 Abs. 2 BGB, deren Verwirklichung unmittelbar die genannten Ansprüche auslöst.
Ein solches Schutzgesetz ist auch §§ 22, 23 KUG.[65] Das KUG schützt das Recht am eigenen Bild, indem es die unbefugte Verbreitung oder öffentliche Zurschaustellung von Bildnissen regelt. Danach dürfen Bildnisse grundsätzlich nur mit Einwilligung der abgebildeten Person Dritten zugänglich gemacht werden. Im Fall sexualisierender Deepfakes liegt ein Eingriff in die Intimsphäre der abgebildeten Person vor, womit entgegenstehende Interessen der Tatperson unbeachtlich sind. Das KUG schützt Betroffene jedoch nur vor dem Zugänglichmachen an Dritte, nicht vor dem Herstellen oder dem Gebrauch von (manipulierten) Bildnissen. Der vorgeschlagene Straftatbestand würde diese Lücke schließen und die Durchsetzung zivilrechtlicher Ansprüche erheblich erleichtern.
Bleiben die strafrechtlichen Schutzlücken bestehen, haben Betroffene nur die Möglichkeit ihre Ansprüche über § 823 Abs. 1 BGB durchzusetzen. Dies kann jedoch selbst im Fall einer festgestellten Verletzung der sexuellen Selbstbestimmung erhebliche Unsicherheiten bedeuten, da die Rechtswidrigkeit – anders als bei § 823 Abs. 2 BGB – nicht durch die Verletzung indiziert ist, sondern im Einzelfall positiv festgestellt werden muss. Voraussetzung für die Rechtswidrigkeit eines Eingriffs ist, dass die Abwägung mit den Grundrechten der unbefugt handelnden Person, insbesondere mit der Meinungs- und Kunstfreiheit nach Art. 5 GG, zu Gunsten der abgebildeten Person ausfällt. Nicht-einvernehmliche sexualisierende Deepfakes dürften selbst von einem weiten Kunstbegriff nicht erfasst sein. Denn sie sind regelmäßig allein darauf angelegt, die abgebildeten Personen zu verunglimpfen und sie durch die Art der sexualisierten Darstellung zu objektivieren. Sexualisierende Deepfakes greifen regelmäßig in die Intimsphäre der betroffenen Person ein. Die Intimsphäre ist wegen ihrer besonderen Nähe zur Menschenwürde der am stärksten geschützte Bereich der Persönlichkeit und absolut geschützt.[66] Ohne klarstellende gesetzliche Regelung bleibt es jedoch möglich, dass Gerichte Gründe finden, weshalb nicht die abwägungsfeste Intimsphäre, sondern lediglich die Privatsphäre der Person betroffen ist (etwa aufgrund eines entsprechenden Vorverhaltens der abgebildeten Person, weil die Person teilweise bekleidet ist oder weil das Gesicht nicht erkennbar ist). Es ist daher zu befürchten, dass einzelne Gerichte mangels Bewusstseins für die geschlechtsspezifische Dimension und die Auswirkungen auf die Betroffenen die vorgelagerte Handlung des Herstellens bzw. den reinen Besitz ohne das Zugänglichmachen an Dritte nicht als Gewalt erkennen und die allgemeine Handlungsfreiheit der Tatpersonhöher gewichten.[67]
Insofern trägt das Schließen von Strafbarkeitslücken zur Rechtssicherheit für Betroffene bei, indem es sexualisierende Deepfakes der Abwägung im Rahmen des § 823 Abs. 1 BGB entzieht und auch deren Herstellung und Gebrauch eindeutig dem Tatbestand des § 823 Abs. 2 BGB zuweist.
II. Durchsetzung zivilrechtlicher Ansprüche
Die zivilrechtlichen Ansprüche auf Löschung, Unterlassung, Schadensersatz und Geldentschädigung helfen den Betroffenen nur, wenn sie auch durchgesetzt werden können. Bei der Durchsetzung treffen die Betroffenen auf diverse Hürden. Eine besonders große Hürde bei digitaler Gewalt stellt die Anonymität der Verletzenden dar. Selbst strafrechtliche Ermittlungen laufen oft ins Leere. Die Suche nach den Verantwortlichen ist langwierig und ressourcenintensiv. In diesem Prozess durchleben die Betroffenen die Rechtsverletzung immer und immer wieder (sog. sekundäre Viktimisierung) und eine Löschung aller rechtsverletzenden Bilder erscheint aufgrund der rasanten Verbreitung oft aussichtslos. Zugleich muss die Betroffene sehr schnell handeln, denn je länger die Deepfakes online sind, umso wahrscheinlicher ist eine Vervielfältigung durch Dritte. Zudem bleiben die Betroffenen oft im Unklaren darüber, auf wie vielen und welchen Plattformen die Inhalte verbreitet wurden und wer im Besitz von Deepfakes ist.
1. Auskunftsansprüche
Das Auskunftsverfahren in § 21 TDDDG ist betroffenenfreundlicher auszugestalten. Es ist eine Mitwirkungspflicht der Plattformen an der Aufdeckung der Identität aufzunehmen.
Häufig ist es sehr schwer herauszufinden, welche Person hinter einem Deepfake verbreitenden Account steckt. Eine Auskunft durch Online-Plattformen über die vorhandenen Bestandsdaten setzt eine gerichtliche Anordnung gemäß § 21 Abs. 2 TDDDG voraus. Derzeit ist dies jedoch nur möglich, wenn absolut geschützte Rechte aufgrund rechtswidriger audiovisueller Inhalte verletzt sind (Variante 1) oder für den Fall, dass die Inhalte einen Katalogstraftatbestand erfüllen (Variante 2).
Die Fälle, in denen das Gericht die Anordnung in § 21 Abs. 2 TDDDG aussprechen kann, sollten erweitert werden. Um auch das Erstellen, Gebrauchen und Zugänglichmachen nicht-einvernehmlicher sexualisierender Bildnisse und Deepfakes zu erfassen, ist in Variante 1 die Einschränkung auf audiovisuelle Inhalte aufzuheben. In Variante 2 muss der Katalog um die Tatbestände der § 240 StGB, § 253 StGB, § 202a StGB, § 33 KUG, § 42 BDSG und den neu zu schaffenden Straftatbestand zu den Formen bildbasierter sexualisierter Gewalt[68] erweitert werden. Nur so sind die durch nicht-einvernehmliche sexualisierende Deepfakes begangenen Rechtsverletzungen und ihre Begleittaten von den Auskunftsansprüchen erfasst.
Gemäß § 21 Abs. 3 Satz 7 TDDDG muss die verletzte Person außerdem stets die Kosten der gerichtlichen Anordnung tragen. Diese Kosten kann sie sich erst im Falle der Durchsetzung eines Schadensersatzanspruches von der verletzenden Person zurückholen. Das gelingt aber nur, sofern der Auskunftsanspruch zu dieser führt und diese die Kosten auch tatsächlich tragen kann. Dementsprechend ist der Ausgang eines solchen Vorgehens für Betroffene mit viel Ungewissheit belastet und mit Kostenrisiken verbunden. Dieses aufwendige Verfahren steht regelmäßig in keinem Verhältnis zu den oft dürftigen Erkenntnissen, die es hervorbringt. Wenn Bestandsdaten zur Identifizierung nicht ausreichen, soll das Gericht die Plattformen zur Mitwirkung an der Identifizierung verpflichten können, etwa indem hierfür erforderliche Nutzungsdaten herausgegeben werden.
Schließlich ist das Auskunftsverfahren einem standardisierten Prozess zugänglich. Es sollte zur Vereinfachung und Beschleunigung gänzlich digital ausgestaltet werden.[69]
2. Gerichtlich angeordnete Accountsperren
Eine Identifizierung der Tatperson misslingt trotz strafrechtlicher Ermittlungsmaßnahmen und Auskunftsanspruch nach § 21 Abs. 2 TDDDG regelmäßig. Daher muss neben diesen Maßnahmen im Fall schwerwiegender Persönlichkeitsrechtsverletzungen die Möglichkeit einer gerichtlich angeordneten Accountsperre bestehen. Nicht-einvernehmliche sexualisierende Deepfakes stellen aufgrund ihres Eingriffs in die Intimsphäre der abgebildeten Person einen solchen schwerwiegenden Eingriff in das Persönlichkeitsrecht dar. Aktuell sieht weder der nationale noch der europäische Rechtsrahmen eine Möglichkeit zu gerichtlich angeordneten Accountsperren vor. Da Accountsperren in die Meinungsfreiheit der Accountinhabenden eingreift, ist in besonderem Maße auf eine verhältnismäßige Ausgestaltung zu achten. Sie sind daher nur in Fällen zulässig, in denen die Tatperson sich durch die Anonymität der Straf- und Rechtsverfolgung entzieht oder in Fällen, in denen die Tatperson das Profil wiederholt nutzt, um schwerwiegende Rechtsverletzungen zu begehen.[70]
3. Kollektiver Rechtsschutz und Prozessstandschaft
Betroffene nicht-einvernehmlicher sexualisierender Deepfakes müssen durch zivilgesellschaftliche Organisationen unterstützt werden können. Das gilt besonders, weil die Betroffenen mit der Geltendmachung ihrer Rechte nicht nur sich selbst, sondern auch den demokratischen Diskurs verteidigen.[71] Es ist daher längst überfällig, dass zivilgesellschaftliche Organisationen mit Verbandsklagerechten ausgestattet werden und die Möglichkeit erhalten, Betroffene bei der Rechtsdurchsetzung in Prozessstandschaft zu unterstützen. So können Betroffene wirksam vor der sekundären Viktimisierung geschützt werden, die durch die langen Verfahren, die wiederholte Begegnung mit der Tatperson, aber auch durch nicht ausreichend fortgebildete Personen in der Justiz ausgeht.
Betroffenenberatungen müssen losgelöst vom individuellen Fall agieren können. Die Erleichterung der Individualrechtsverteidigung ist wichtig, aber nicht ausreichend, um auch dem Gefahrenpotential digitaler Gewalt für den demokratischen Diskurs gerecht zu werden. Es sind Verbandsklagerechte einzuführen, sodass Verbände aus eigenem Recht klagen und dadurch dringend benötigte Rechtsprechung erwirken können.
4. Schutz personenbezogener Daten Betroffener
Eine sekundäre Viktimisierung kann ebenfalls dadurch eintreten, dass Betroffene bei der Verfolgung ihrer Ansprüche personenbezogene Daten angeben müssen. So verfolgen Betroffene von nicht-einvernehmlichen sexualisierenden Deepfakes häufig kein einstweiliges Verfügungsverfahren gegen Tatpersonen, weil sie im gerichtlichen Verfahren ihre Privatanschrift angeben müssen. So ist es insbesondere unzulässig c/o Adressen anzugeben. Nur in seltenen Fällen lassen Gerichte Ausnahmen zu. Damit werden der verletzenden Person aber personenbezogene Daten bekannt, was die Betroffenen mehr Gewaltpotential aussetzt. Gerade im Fall sexualisierter digitaler Gewalt sollte deshalb in zivilrechtlichen Verfahren grundsätzlich die Angabe einer c/o Adresse ausreichen.
III. Gewaltschutz
Das derzeitige Gewaltschutzgesetz (GewSchG) lässt sich bereits auf Sachverhalte digitaler sexualisierender Gewalt anwenden. Es dient ausdrücklich dem Schutz der sexuellen Selbstbestimmung (§ 1 Abs. 1 Satz 1 GewSchG). Die Möglichkeiten des GewSchG sollten in der Praxis der Gerichte ausgeschöpft werden und auf Sachverhalte digitaler sexualisierender Gewalt Anwendung finden.[72]
Um die Anwendung des GewSchG auf digitale Sachverhalte sicherzustellen, sollte der Gesetzgeber tätig werden. Das GewSchG ermöglicht es Gerichten, Maßnahmen gegen die Tatperson anzuordnen. Die Wahl der Maßnahme steht im Ermessen der Gerichte. § 1 Satz 3 GewSchG enthält einen nicht abschließenden Katalog. Diese sind jedoch alle darauf gerichtet, dass ein tatsächliches Zusammentreffen oder eine Kommunikation zwischen den Beteiligten unterbunden wird. Es empfiehlt sich, in den Katalog des § 1 Satz 3 GewSchG Maßnahmen aufzunehmen, die die Gefahren digitaler Gewalt abbilden. In Bezug auf nicht-einvernehmliche sexualisierende Deepfakes muss die Maßnahme aufgenommen werden, deren Herstellung und Zugänglichmachung zu unterlassen. Auch andere Formen bildbasierter Gewalt und der Aufruf an Dritte, die Person zu bedrohen können mit einer Unterlassungsanordnung verhindert werden; auch sie können in den Katalog mit aufgenommen werden, ebenso wie Maßnahmen in Bezug auf die Überwachung der Betroffenen mittels Kamera, GPS-Trackern oder SpyApps.
E. Verantwortung der Plattformen
Selbst der stärkste Individualrechtsschutz ist nicht geeignet, um die Strukturen zu verändern, die die Herstellung und Zugänglichmachung sexualisierender Deepfakes begünstigen. Es ist erforderlich, dass nicht nur gegen die Tatperson vorgegangen wird, sondern dass alle Beteiligten, die diese Form der digitalen Gewalt ermöglichen, ihrer Verantwortung gerecht werden. Insbesondere muss bei denjenigen Akteur*innen angeknüpft werden, die von der Gewalt finanziell profitieren. Hierzu gehören in erster Linie die Online-Plattformen, seien es soziale Netzwerke oder Porno-Plattformen, deren Geschäftsmodell das Ausspielen von Inhalten ist. Aktuell sieht der Digital Services Act (DSA) eine Reihe an Pflichten für Online-Plattformen[73] sowohl auf der Haftungsebene (I.) als auch auf der Regulierungsebene (II.) vor.
I. Plattformhaftung
Betroffene sexualisierter Gewalt können Plattformen nur in Ausnahmefällen direkt in Anspruch nehmen. Grund hierfür ist das sogenannte Provider-Privileg, also eine umfassende Haftungsprivilegierung für Hosting-Dienste (insb. Online-Plattformen). Danach haften Online-Plattformen erst ab positiver Kenntnis von den rechtsverletzenden Inhalten. Diese Haftung ist wiederum ausgeschlossen, wenn sie nach Kenntniserlangung Inhalte zügig sperren oder entfernen (sog. “Notice-and-Action"-Verfahren, vgl. Art. 6 DSA). Es besteht also keine Pflicht der Plattform, ihre Inhalte auf Rechtswidrigkeit zu überprüfen. So obliegt es primär den Betroffenen, den Anbieter von den rechtswidrigen Inhalten in Kenntnis zu setzen.
Dass Online-Plattformen ein so weitreichendes Haftungsprivileg genießen, liegt historisch an der Einordnung der Dienste als “neutrale Intermediäre”, die keine aktive Rolle in der Gestaltung der Inhalte der Nutzenden einnehmen. Diese Einordnung entspricht in vielen Fällen nicht mehr der Realität, denn die Geschäftsmodelle der Online-Plattformen basiert gerade darauf, die Drittinhalte zu kuratieren und zu (de-)amplifizieren um hierüber die größtmögliche Nutzdauer des Dienstes zu schaffen. Dies stellt die Stellung der Online-Plattformen als neutrale Akteure und damit auch die Rechtfertigung ihres Haftungsprivilegs in Frage.
Der EuGH hat kürzlich die wichtige Ausnahme konstatiert, dass ein umfassendes Zunutzemachen der Drittinhalte Pflichten begründen kann.[74] In einem Fall sexualisierender digitaler Gewalt durch eine Nutzeranzeige hat der EuGH aufgrund der umfänglichen Nutzungsrechte eines Online-Marktplatzes für Drittinhalte weitreichende datenschutzrechtliche Pflichten zum Schutz sensibler Daten zum Sexualleben nach Art. 9 Abs. 1 DSGVO angenommen.[75] Den entsprechenden datenschutzrechtlichen Schadensersatzansprüchen räumt der EuGH dabei Vorrang gegenüber dem Haftungsprivileg des DSA ein. Der EuGH erkennt ausdrücklich die Schwierigkeit für Betroffene an, effektiv gegen digitale Gewalt vorzugehen, und stattet besonders sensible Daten zum Sexualleben nach Art. 9 Abs. 1 DSGVO mit stärkeren Schutzmechanismen aus.
Diese Entscheidung stärkt auch Betroffenenrechte im Fall nicht-einvernehmlicher sexualisierender Deepfakes. Auch diese enthalten sensible personenbezogene Daten zum Sexualleben nach Art. 9 Abs. 1 DSGVO, die einem besonderen Schutz unterliegen. Ob es deshalb möglich ist, Online-Plattformen auf Zahlung von Schadensersatz in Anspruch zu nehmen, bleibt jedoch offen. Es ist derzeit noch ungeklärt, inwiefern das Urteil auf andere Konstellationen – insbesondere soziale Netzwerke wie etwa X oder TikTok – übertragbar ist. Entscheidend ist hier die Ausgestaltung der Plattform-AGB und der Umfang, in dem die Plattformen die Inhalte nutzen. Betroffene Online-Plattformen sowie die zuständigen Aufsichtsbehörden müssen nun prüfen, inwiefern andere Geschäftsmodelle unter die Kriterien des Urteils fallen und ggf. die notwendigen Anpassungen ihrer Sicherheitsvorkehrungen bis hin zu Geschäftsmodellen anstoßen.
II. Plattformregulierung
1. Meldewege
Die Haftung von Plattformen setzt die positive Kenntnis eines rechtswidrigen Inhaltes voraus. Um die Plattformen leichter in Kenntnis setzen zu können, verpflichtet Art. 16 Abs. 1 DSA die Online-Plattformen dazu, leicht zugängliche und benutzendenfreundliche Meldewege einrichten, die eine Kenntnis nach Art. 6 DSA auslösen können (Art. 16 Abs. 3 DSA).
Die Plattformen nutzen bei der Umsetzung dieser Pflicht jedoch sog. Dark Patterns, also Designs, die darauf ausgelegt sind, Nutzende zu Handlungen zu verleiten, die deren Interessen widersprechen. Zum Beispiel vermischen sie den Meldeweg von AGB-widrigen Inhalten und rechtswidrigen Inhalten im Sinne von Art. 16 DSA.[76] Dadurch werden die Nutzenden davon abgehalten, eine „hinreichend begründete Erklärung“ der Rechtswidrigkeit abzugeben, welche erforderlich für die Kenntnis der Plattform von der Rechtsverletzung und damit für das Tätigwerden der Online-Plattform ist.
Um die Anforderungen an „hinreichend begründete Erklärung“ abzugeben zu erfüllen, sind oftmals vertiefte rechtliche Kenntnisse notwendig. Dies hat zur Folge, dass Betroffene regelmäßig auf anwaltliche Hilfe angewiesen sind und erst mittels eines kostenverursachenden anwaltlichen Schreibens die geforderte Kenntnis veranlasst werden kann. Hierin liegt eine unzumutbare Umkehr des Argumentations- und Ressourcenaufwands auf die Betroffenen.
Die Meldewege sind nutzendenfreundlicher auszugestalten. Den Plattformen soll es untersagt werden, die verschiedenen Meldewege zu vermischen und den Meldeweg für AGB-widrige Inhalte zu bevorzugen. Den Nutzenden müssen die Rechtsfolgen der verschiedenen Meldewege deutlich werden. Zudem sind starre gesetzliche Fristen zum Tätigwerden festzulegen. Im Falle offensichtlich rechtswidriger Inhalte, wie nicht-einvernehmliche sexualisierender Deepfakes, soll die Frist 24 Stunden betragen, wie es bereits das § 3 Abs. 2 Nr. 2 NetzDG a. F. vorsah.
2. Zustellungsbevollmächtigte
Mit den Art. 11, 12 und 13 DSA werden Anbietende von Vermittlungsdiensten verpflichtet, Kontaktstellen verschiedener Art einzurichten. Leicht auffindbare, gut erreichbare Kontaktstellen ermöglichen die rechtssichere Zustellung von verfahrensrelevanten Dokumenten in der eigenen Sprache im Inland. Die vom DSA vorgesehenen Kontaktstellen beschränken sich aber auf nur eine Kontaktstelle pro Anbietenden innerhalb der EU, was die Kontaktaufnahme aus Sprach- und Distanzgründen erschwert. In den DSA ist daher die Pflicht zur Einrichtung nationaler Zustellungsbevollmächtigter aufzunehmen, wie sie bereits nach § 5 NetzDG für inländische Plattformen vorgesehen ist.
Darüber hinaus besteht aktuell noch Rechtsunklarheit bezüglich der Frage, ob gegenüber den Kontaktstellen nach Art. 12 DSA ein rechtswirksamer Zugang für anwaltliche Schriftsätze ergehen kann sowie darüber, ob der Behördenbegriff in Art. 11 DSA bzw. Art. 13 DSA auch Gerichte erfasst. Die damit einhergehenden Unsicherheiten können sich auf die Effektivität des Rechtsschutzes gegenüber Plattformen bei der Zustellung von Schriftsätzen auswirken. Hier bedarf es der Klarstellung, um Rechtssicherheit für Betroffene zu schaffen. Die Verpflichtungen sind auf nationale Zustellungsbevollmächtigte in jedem Mitgliedstaat für alle Arten von Gerichtsverfahren im Zusammenhang mit der Moderation von Inhalten auszuweiten.
3. Behördliche Anordnungen
Mitgliedstaatliche Justiz- oder Verwaltungsbehörden können Anordnungen gegen Online-Plattformen erlassen, rechtswidrige Inhalte zu löschen (Art. 9 DSA). Hiervon wird in der Praxis noch kein Gebrauch gemacht, obwohl sie einen effektiven Weg darstellt, bei eindeutiger Rechtslage schnell gegen rechtswidrige Inhalte vorzugehen. Gerade in Fällen von nicht-einvernehmlichen sexualisierenden Deepfakes lässt sich die rechtliche Situation durch die Behörden schnell beurteilen – die Identifizierung der Betroffenen sowie das mangelnde Einverständnis können schnell geprüft werden. Für diesen Anwendungsfall ist eine behördliche Anordnung ein effektives und verhältnismäßiges Mittel, zügig gegen die Rechtsverletzung vorzugehen und weiteren Verletzungen vorzubeugen. Für diese Fälle sollen geeignete nationale Stellen bestimmt und mit der Befugnis ausgestattet werden, Entfernungsanordnungen im Sinne des Art. 9 DSA in Fällen von nicht-einvernehmlichen sexualisierenden Deepfakes auszusprechen.
4. Systemische Risiken in Bezug auf geschlechtsspezifische Gewalt
Darüber hinaus reguliert der DSA sehr große Online-Plattformen (VLOPs), also etwa X, TikTok oder Pornhub und sehr große Online-Suchmaschinen (VLOSEs) in besonderem Maße. Zentral ist dabei die Pflicht zur Bewertung (Art. 34 DSA) sowie Minderung (Art. 35 DSA) systemischer Risiken für Schutzgüter wie etwa die Ausübung von Grundrechten (Art. 34 Uabs. 2 S. 2 lit. b DSA) oder auch in Bezug auf geschlechtsspezifische Gewalt (Art. 34 Uabs. 2 S. 2 lit. d DSA).
In der Umsetzung und Konkretisierung dieser Regeln baut der DSA jedoch maßgeblich auf die Eigenverantwortung der Plattformen. So obliegt es in erster Linie den Plattformen selbst, die von ihnen ausgehenden systemischen Risiken zu erkennen, zu bewerten und zu mindern. Mangels konkreter Ausführungen zum Umfang der Pflichten im DSA selbst werden die Plattform-Anbietenden so zum primären “Agenda-Setter” in Bezug auf das Verständnis von Konzepten wie “geschlechtsspezifische Gewalt” und angemessenen Risikominderungsmaßnahme nach Art. 35 DSA. Erst in einem zweiten Schritt werden die Einschätzungen der Plattformen durch die Europäische Kommission als zuständige Aufsichtsbehörde (Art. 56 Abs. 2, 3 DSA) sowie private Kontrollstellen (Art. 37 DSA) überprüft.
Für die Aufsicht über das Risikomanagement der VLOPs ist die Kommission zuständig (Art. 56 Abs. 2 DSA). In Kontexten, in denen die Kommission unter erheblichem politischem Druck stand, war zu beobachten, dass ihre Entschlossenheit in Aufsichtsverfahren gegen VLOPs abnahm.[77]Bei einer Vielzahl an Problemstellungen im Bereich der Online-Plattformen kann dies dazu führen, dass die Belange von Frauen und anderen marginalisierten Gruppen schwächer priorisiert werden und letztlich nicht behandelt werden. Hier sind Alternativmodelle zu evaluieren, wie die Aufsicht unabhängiger agieren kann.
Beim Risikomanagements nach Art. 34, 35 DSA ist zwar grundsätzlich zu begrüßen, dass der EU-Gesetzgeber geschlechtsspezifische Gewalt in Art. 34 Abs. 1 Uabs. 2 S. 2 lit. D DSA als explizit zu berücksichtigenden Themenkomplex aufgenommen hat. Zugleich sind diesbezüglich jedoch sowohl in der Anwendung durch VLOPs und VLOSEs als auch in der Aufsicht durch die Kommission Defizite zu erkennen. So lassen die Anbietenden zentrale Phänomene (etwa Doxing oder nicht-einvernehmliche sexualisierende Deepfakes) bis hin zu ganzen Dimensionen (Intersektionalität) von geschlechtsspezifischer Gewalt in ihrem Risikomanagement häufig außen vor.[78]
Darüber hinaus bleiben die Transparenzberichte der Plattformen über die von ihnen getroffenen Maßnahmen in großen Teilen oberflächlich, eine Vergleichbarkeit der Berichte ist mangels Einheitlichkeit nur schwer möglich, was die öffentliche Aufsicht über die Formen von und den Umgang mit geschlechtsspezifischer Gewalt auf den VLOPs erschwert.[79]Die Vorfälle rund um X und Grok zum Jahreswechsel 2025/2026 verdeutlichen, dass das Problem der digitalen Gewalt in Form von nicht-einvernehmlichen sexualisierenden Deepfakes auf VLOPs größer ist als von den Plattformen selbst dargestellt.
Hier muss durch das Herausgeben von Leitlinien nach Art. 35 Abs. 3 DSA durch die Kommission sowie das Initiieren eines Verhaltenskodex nach Art. 45 Abs. 2 DSA eingegriffen werden. Diese Konkretisierungen der Pflichten müssen unter angemessener Teilhabe der relevanten zivilgesellschaftlichen Akteure, insbesondere von Betroffenenvertretungen, erarbeitet werden. Auf Basis der damit einhergehenden Vorgaben müssen systemische Risiken in Bezug auf geschlechtsspezifische Gewalt in Form von Erstellung und Zugänglichmachung sexualisierter Deepfakes in der Aufsicht durch die Kommission einen Schwerpunkt darstellen. Die Kommission muss hier konsequente Aufsichtsarbeit leisten, mit welcher sie nicht nur Verfahren eröffnet, sondern bei einer klaren Sachlage diese auch – anders als bisher – zu einem zügigen Ergebnis führt.
Darüber hinaus stellt auch die Bewerbung von Nudification-Anwendungen über die Plattformen einen wichtigen Aspekt im Kontext von nicht-einvernehmlichen sexualisierenden Deepfakes dar. Auch diese wurde in der Aufsicht bisher nicht adäquat berücksichtigt und muss im Kontext der systemischen Risiken nach Art. 34, 35 DSA sowohl in der Umsetzung durch die Plattformen selbst als auch in der Aufsicht durch die Kommission, in den Fokus rücken.
F. KI-Regulierung
I. Unzureichende Erfassung der geschlechtsspezifischen Risiken
Nicht-einvernehmliche sexualisierende Deepfakes gab es schon lange, bevor im November 2022 die ersten generativen KI-Systeme für die Öffentlichkeit frei zugänglich gemacht wurden. Mit der allgemeinen Zugänglichkeit von KI-Systemen können sexualisierende Deepfakes jedoch binnen Sekunden produziert werden. Dies potenziert die Persönlichkeitsrechtsverletzungen, insbesondere, wenn KI-basierte Deepfakes auf Online-Plattformen verbreitet werden, mit denen die einfach erstellten Deepfakes mit nur einem Klick eine riesige Reichweite bekommen.
Den schädlichen Auswirkungen von KI soll mit der EU-KI-Verordnung (KI-VO) begegnet werden. Deren Ziel ist es, vertrauenswürdige KI zu fördern und ein hohes Schutzniveau für Grundrechte zu gewährleisten. Die KI-VO verschreibt sich dabei unter anderem dem Ziel der Vielfalt, Nichtdiskriminierung und Fairness. KI-Systeme sollen demnach in einer Weise entwickelt und verwendet werden, die diskriminierende Auswirkungen verhindert.[80]
Die KI-VO verfolgt dazu einen risikobasierten Ansatz: KI-Systeme mit inakzeptablen Risiken werden verboten, solche mit hohen Risiken (sog. Hochrisiko-KI-Systeme) unterliegen strengen Regeln. Weiter unterliegen bestimmte KI-Systeme lediglich Offenlegungs- und Transparenzpflichten. Solche KI-Systeme, die aus Sicht des EU-Gesetzgebers keine oder nur geringe Risiken begründen, werden nicht reguliert. Die zur Erstellung von Deepfakes eingesetzten Anwendungen (wie ChatGPT, GROK etc.) unterliegen als sogenannte KI-Systeme mit allgemeinem Verwendungszweck lediglich Offenlegungs- und Transparenzpflichten.
Frauen werden in den zentralen Risikokategorien der KI-Verordnung (den verbotenen sowie Hochrisiko-KI-Systemen) nicht ausdrücklich als besonders schutzbedürftige oder vulnerable Gruppe benannt, obwohl für sie nachweislich ein höheres Risiko von KI-Anwendungen ausgeht. Sexualisierende Deepfakes sind hier nur eines von zahlreichen Beispielen.[81]
II. Transparenzpflichten für Deepfakes
Art. 50 Abs. 2 und Abs. 4 KI-VO legen Transparenzpflichten für Systeme fest, die synthetische Audio-, Bild- oder Videoinhalte erzeugen oder manipulieren. Die KI-VO differenziert zwischen Anbietenden von generativen KI-Systemen (z.B. OpenAI, xAI.) und Betreibenden, also denjenigen die das KI-System im nicht-privaten Kontext zur Verfügung stellen (z.B. Unternehmen, Behörden).
Anbietende von KI-Systemen müssen sicherstellen, dass entsprechende Inhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind (Art. 50 Abs. 2 KI-VO). Die maschinenlesbare Markierung künstlich erzeugter Inhalte wird derzeit zum Beispiel mit Metadaten oder Wasserzeichen umgesetzt. Diese können jedoch nach derzeitigem Stand der Technik bei Weiterleitung oder Formatänderung leicht verloren gehen oder entfernt werden. Dadurch können die zentralen Transparenzpflichten nicht erfüllt werden. Ohne maschinenlesbare Kennzeichnung ist es vor allem für Online-Plattformen viel schwerer Deepfakes als solche zu identifizieren.
Betreibende müssen die künstliche Erzeugung oder Manipulation offenlegen, wenn sie Deepfakes erstellen (Art. 50 Abs. 4 KI-VO). Für bestimmte Kontexte, etwa offensichtlich künstlerische Werke, gelten die Transparenzpflichten in abgeschwächter Form. Hinsichtlich der Transparenzanforderungen für Betreibende schützt die Definition von “Deepfakes” die sexuelle Selbstbestimmung nicht hinreichend. „Deepfakes“ sind nach der KI-VO durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die unter anderem wirklichen Personen ähneln und fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden (Art. 3 Nr. 60 KI-VO). Die Definition ist mit Rechtsunsicherheiten verbunden, die zulasten der Betroffenen gehen: So ist etwa unklar, was unter der Voraussetzung “fälschlicherweise als echt oder wahrheitsgemäß” zu verstehen ist und wessen Beurteilungshorizont für die Bewertung maßgeblich ist. Im Fall sexualisierender Deepfakes könnte es bedeuten, dass man allein durch das Hinzufügen eines surrealen Elements der Kennzeichnungspflicht entgeht. Dann ist aber noch nichts darüber gesagt, ob die Abbildung der betroffenen Person der Realität entspricht oder ebenfalls KI-generiert ist.
Doch auch jenseits von Fragen zur technischen Umsetzbarkeit und zur Auslegung von Tatbestandsmerkmalen sind die Transparenzpflichten nicht ausreichend, um Betroffene vor nicht-einvernehmlichen sexualisierenden Deepfakes zu schützen. Zwar können Transparenzpflichten eine Täuschung über die Echtheit sexualisierender Abbildungen ausschließen. Der Eingriff in die sexuelle Selbstbestimmung bleibt jedoch unbeschadet davon bestehen, ob die Betrachtenden von der Echtheit des Bildes wissen. Das Defizit der Transparenzpflichten wird dadurch verstärkt, dass ein Großteil künstlich erzeugter Inhalte nicht von der Transparenzpflicht erfasst wird, weil diese nur die Anbietenden bzw. Betreibenden und gerade nicht die privaten Nutzenden adressiert. Insbesondere aufgrund der fehlenden technischen Robustheit, ist eine Kennzeichnungspflicht für private Nutzende zu ergänzen und verhältnismäßig auszugestalten.
III. Regulierung von Nudification-Anwendungen
In der Systematik der KI-VO unterliegen diejenigen Systeme, von denen ein inakzeptables Risiko ausgeht, einem Verbot (Art. 5 KI-VO). Obwohl von KI-Systemen, mittels derer sich nicht-einvernehmliche sexualisierende Deepfakes erstellen lassen, eben solche erheblichen Risiken hervorgehen, werden diese von der KI-VO nicht verboten.
Dies ist erforderlich, weil Verbote im frühesten technischen Stadium ansetzen, in dem Deepfakes entstehen. Explizite Verbote wären nicht nur ein konsequenter Schritt zur Umsetzung der KI-VO als Schutzschild für Grundrechte, sondern auch ein klares Signal, dass geschlechterbasierte digitale Gewalt nicht länger toleriert wird. So muss das Inverkehrbringen, die Inbetriebnahme und Verwendung von KI-Anwendungen, deren Zweck die Generierung sexualisierender Deepfakes ist (sog. Nudification-Anwendungen), ausdrücklich als eigenständige verbotene Praxis dem Katalog des Art. 5 KI-VO ergänzt werden.[82]Aus Gründen der Rechtssicherheit und dem Schutz von Frauen muss das Verbot ausnahmslos gelten.[83]
Zusätzlich muss das Merkmal "Geschlecht” der Aufzählung der genannten schutzbedürftigen Personengruppen („Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation“) dem Art. 5 Abs. 1 lit. b KI-VO ergänzt werden – die im Übrigen auch bezüglich anderer potenzieller Diskriminierungsmerkmale unvollständig ist. Mittels dieser Ergänzung können KI-Systeme, die von Anbietenden nicht explizit zum Zweck sexualisierender Bild- oder Video-Darstellungen hergestellt worden sind, erfasst werden.
Aufgrund der großen Gefahren, die von generativen KI-Systemen ausgehen können, sollten diese grundsätzlich als Hochrisiko-Systeme qualifiziert werden. Insofern ist Art. 6 KI-VO ausdrücklich zu ändern. Eine Ausnahme kann normiert werden, wenn der KI-Anbietende technisch ausschließt, dass das KI-System zur Herstellung sexualisierender Deepfakes verwendet werden kann.
G. Prävention, Bewusstseinsbildung und Unterstützung Betroffener
Empirische Daten weisen auf erheblichen Aufklärungsbedarf hinsichtlich des Unrechtscharakters und der erheblichen Folgen von sexualisierenden Deepfakes hin. In der Studie von Security Hero gaben 57 % der Befragten an, sexualisierende Deepfakes aus technologischer Neugier anzufertigen. 74 % der Deepfakes Nutzenden gaben an, kein schlechtes Gewissen wegen ihres Konsums zu haben, weil die dargestellte Person nicht als solche getroffen bzw. niemand verletzt werde, es nur um persönliche Interessen ginge und weil Deepfake-Pornografie nur eine realistischere Form sexueller Fantasien sei und sich kaum von Pornografie unterscheide.[84] Dies lässt darauf schließen, dass das Erstellen und Nutzen von sexualisierenden Deepfakes nicht als schwerwiegendes Unrecht erkannt und – wie andere Formen sexualisierter Gewalt auch – trivialisiert und normalisiert wird.[85]
Es bedarf deshalb einer intensiven Aufklärungs- und Präventionsarbeit im Bereich der bildbasierten sexualisierten Gewalt, um Nutzende für ihren Unrechtscharakter, ihre diskriminierende Dimension und schädlichen Folgen zu sensibilisieren. Dabei genügt es insbesondere nicht, auf Kennzeichnungspflichten zu setzen.[86] Nutzende müssen vielmehr für das Thema, den Unrechtscharakter und die schwerwiegenden Folgen für die Betroffenen sensibilisiert werden.[87] Dies kann in der Schule bei Jugendlichen beginnen und über Fortbildungen im Beruf weitergeführt werden, betrifft aber auch Erwachsene.
Um diese bedarfsgerechte Prävention ermöglichen zu können, muss die Forschung im Bereich der bildbasierten sexualisierten Gewalt ausgebaut und öffentlich gefördert werden. In Ländern wie Australien, Neuseeland und Großbritannien werden bereits weitreichende Studien zur Verbreitung, den Betroffenen, den Auswirkungen und den Tatpersonen durchgeführt, um sich die Verbreitung, Folgen und Motive für bildbasierte sexualisierte Gewalt zu verdeutlichen und Regulierungsbedarfe aufzuzeigen.[88]
Bislang werden Betroffene im Bereich digitaler einschließlich bildbasierter sexualisierter Gewalt vor allem durch spezialisierte zivile Verbände und Vereinigungen beraten. Diese bieten wichtige Informationen und Beratung für das notwendige schnelle Vorgehen zur Beweissicherung, zum schnellen Löschen illegaler Inhalte und zur psychischen und sozialen Stabilisierung Betroffener an. Das Unterstützungsnetz für Betroffene durch zivile Verbände und Vereinigungen muss flächendeckend und dauerhaft finanziert ausgebaut werden, um spezifische und schnell wirksame psychologische, rechtliche und soziale Beratung zu ermöglichen.[89]
F. Fazit
Nicht-einvernehmliche sexualisierende Deepfakes stellen eine gravierende Form digitaler, geschlechtsspezifischer Gewalt dar, die bislang nicht hinreichend geregelt ist. Der bestehende rechtliche Schutz ist fragmentiert, unübersichtlich und oft unzureichend – insbesondere in Bezug auf die Herstellung, den Gebrauch und das Zugänglichmachen solcher Inhalte an einzelne Dritte. Während erste gesetzgeberische Schritte auf EU- und Bundesebene erkennbar sind, besteht ein dringender Reformbedarf, insbesondere hinsichtlich des Schließens von Strafbarkeitslücken, des vereinfachten Zugangs zur Justiz für Betroffene und einer verbesserten Regulierung von Plattformen. Flankiert werden müssen rechtliche Maßnahmen durch empirische Forschung, gezielte Präventionsarbeit, gesellschaftliche Sensibilisierung sowie den Ausbau und die dauerhafte Finanzierung von Unterstützungsstrukturen. Nur so lässt sich der Schutz der sexuellen Selbstbestimmung im digitalen Raum wirksam gewährleisten.
Der Deutsche Juristinnenbund e. V. fordert deshalb:
- Es sollte ein einheitlicher Regelungskomplex von Straftatbeständen innerhalb des Sexualstrafrechts und außerhalb des Pornografiestrafrechts geschaffen werden, der das nicht einvernehmliche Herstellen, Manipulieren, Gebrauchen und Zugänglichmachen von Bildaufnahmen und Bildinhalten, die eine andere erwachsene Person nackt oder sexualbezogen darstellen, unter Strafe stellt. Die Strafbarkeit sollte unabhängig davon sein, ob der Deepfake täuschend echt ist oder als Deepfake offengelegt wurde.
- Das Schließen strafrechtlicher Lücken ermöglicht es den Betroffenen über § 823 Abs. 2 BGB auch zivilrechtlich vorzugehen und Unterlassung, Beseitigung und Schadensersatz zu fordern.
- In strafprozessualer Hinsicht sollten die einschlägigen Straftatbestände als relative Antragsdelikte ausgestaltet werden. Zudem bedarf es eines elektronischen Verfahrens zum Stellen von Strafanträgen wegen Straftaten im Zusammenhang mit bildbasierter sexualisierter Gewalt. Dabei sollten auch Beweismittel wie Screenshots rechts- und datensicher hochgeladen werden können.
- Die einschlägigen Straftatbestände sollten nicht zum Kreis der Privatklagedelikte nach § 374 Abs. 1 StPO gehören, um der Schwere der Rechtsverletzung und ihren teils schwerwiegenden Folgen für die Betroffenen gerecht zu werden. Darüber hinaus sollten sie in den Katalog der Nebenklagedelikte nach § 395 Abs. 1 StPO aufgenommen werden, um den Betroffenen eine gesicherte Position als Beteiligte im Strafverfahren zu ermöglichen.
- Die bereits vorhandenen Opferentschädigungsregeln müssen auf digitale Gewalt ausgeweitet werden, um eine Anerkennung der Gewalterfahrung in einem Anspruch auf Unterstützung, Hilfe und Entschädigung rechtlich abzusichern.
- Es sollten flächendeckend Schwerpunktstaatsanwaltschaften im Bereich digitaler Gewalt eingerichtet werden, die mit dem Gesamtphänomen digitaler Gewalt, einschließlich bildbasierter sexualisierter Gewalt, und deren Folgen für die Betroffenen vertraut sind.
- Es bedarf des Angebotes von Fortbildungsveranstaltungen für Polizei, Staatsanwält*innen und Richter*innen zum Thema bildbasierter sexualisierter Gewalt und Doxing unter Berücksichtigung der Diskriminierungsdimension und der Verpflichtung zur Teilnahme.
- Der Anwendungsbereich des Gewaltschutzgesetzes sollte in der Praxis ausgeschöpft werden; es erfasst bei verständiger Auslegung auch Sachverhalte digitaler Gewalt.
- In den Katalog des § 1 Satz 3 GewSchG sind Maßnahmen aufzunehmen, die die Gefahren digitaler Gewalt abbilden. In Bezug auf nicht-einvernehmliche sexualisierende Deepfakes muss die Maßnahme aufgenommen werden, deren Herstellung und Zugänglichmachung zu unterlassen.
- § 21 Abs. 2 TDDDG ist um die Tatbestände der § 240 StGB, § 253 StGB, § 202a StGB, § 33 KUG, § 42 BDSG und den neu zu schaffenden Straftatbestand zu den Formen bildbasierter sexualisierter Gewalt zu erweitern und die Beschränkung auf audiovisuelle Inhalte ist aufzuheben.
- § 21 Abs. 2 TDDDG soll dahingehend angepasst werden, dass in Fällen offensichtlicher und schwerwiegender Persönlichkeitsrechtsverletzungen, wie im Fall nicht-einvernehmlicher sexualisierender Deepfakes Auskunft über die Bestandsdaten eines Accountinhabenden auch ohne gerichtliche Anordnung direkt von der Online-Plattform zu erhalten.
- Wenn Bestandsdaten zur Identifizierung nicht ausreichen, sollen Gerichte die Plattformen zur Mitwirkung an der Identifizierung verpflichten können, etwa indem hierfür erforderliche Nutzungsdaten herausgegeben werden.
- Das Auskunftsverfahren sollte zur Vereinfachung, Beschleunigung und Kostenreduzierung gänzlich digital ausgestaltet werden.
- Gerichte sollen die Sperrung von Accounts anordnen können. Dies soll in Fällen gelten, in denen die Tatperson sich durch die Anonymität der Straf- und Rechtsverfolgung entzieht sowie in Fällen, in denen sie den Account wiederholt nutzt, um schwerwiegende Rechtsverletzungen zu begehen.
- Das AGG soll zivilgesellschaftliche Organisationen mit Verbandsklagerechten ausstatten, um das geschlechtsspezifische Gefahrenpotential digitaler Gewalt umfassend adressieren zu können.
- Zivilgesellschaftliche Organisationen sollen in Prozessstandschaft für Betroffene auftreten können, um sekundäre Viktimisierung zu verhindern.
- § 130 Nr. 1 ZPO soll geändert werden, sodass im zivilrechtlichen Verfahren grundsätzlich auch die Angabe einer c/o-Adresse ausreichend ist.
- Geeignete nationale behördliche Stellen sollen bestimmt und mit der Befugnis ausgestattet werden Entfernungsanordnungen im Sinne des Art. 9 DSA für nicht-einvernehmliche sexualisierende Deepfakes auszusprechen.
- Es braucht ein entschiedeneres Vorgehen der Aufsicht über Plattformen mit Blick auf geschlechtsspezifische Gewalt als systemisches Risiko nach Art. 34 DSA sowie die Nutzung von Konkretisierungsmechanismen wie Art. 35 Abs. 3 DSA und Art. 45 Abs. 2 DSA
- Plattformen sind zu verpflichten, nationale Zustellungsbevollmächtigter in jedem Mitgliedstaat für Gerichtsverfahren im Zusammenhang mit der Moderation von Inhalten einzuführen.
- Dark Patterns bei der Gestaltung von Meldewegen nach Art. 16 DSA sind zu beseitigen und starre Fristen für das Entfernen von rechtswidrigen Inhalten sind wieder einzuführen.
- Das Inverkehrbringen, die Inbetriebnahme und Verwendung von KI-Anwendungen, deren Zweck die Generierung nicht- einvernehmlicher sexualisierender Deepfakes ist (sog. Nudification-Anwendungen), sind ausdrücklich als eigenständige verbotene Praxis dem Katalog des Art. 5 KI-VO hinzuzufügen.
- Das Merkmal „Geschlecht“ ist dem Katalog vulnerabler Personengruppen gem. Art. 5 Abs. 1 lit. b KI-VO hinzuzufügen.
- Aufgrund der großen Gefahren, die von generativen KI-Systemen ausgehen können, sollten diese grundsätzlich als Hochrisiko-Systeme im Sinne des Art. 6 KI-VO qualifiziert werden.
- Die Transparenzanforderungen des Art. 50 KI-VO sind auf Lesbarkeit für Nutzende zu privaten Zwecken zu erweitern.
- Es ist intensive Aufklärungs- und Präventionsarbeit im Bereich der bildbasierten sexualisierten Gewalt zu leisten, um Nutzende für ihren Unrechtscharakter, ihre diskriminierende Dimension und schädlichen Folgen zu sensibilisieren.
- Es bedarf dringend empirischer Forschung in Deutschland zur Verbreitung des Phänomens bildbasierter sexualisierter Gewalt einschließlich Deepfakes, zu der Verbreitung, den Betroffenen, den Auswirkungen sowie zu den Tatpersonen und ihren Motiven.
- Das Unterstützungsnetz für Betroffene durch zivile Verbände und Vereinigungen muss flächendeckend und dauerhaft finanziert ausgebaut werden, um spezifische und schnell wirksame psychologische, rechtliche und soziale Beratung zu ermöglichen.
[3] Auch die Stimme einer Person kann mittels Deepfakes reproduziert werden und im sexualisierenden Kontext (Bild, Video, Sprachaufzeichnung) eingesetzt werden. Auch hier gibt es Regelungsbedarf. Dieses Policy Paper fokussiert sich jedoch auf bildbasierte Gewalt.
[36] Richtlinie (EU) 2024/1385 des Europäischen Parlaments und des Rates vom 14. Mai 2024 zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt.
[65] Spindler/Schuster/Kaesling/Mann Recht der elektronischen Medien, § 823 BGB Rn. 58; BGH Urteil vom 27.02.2028 – VI ZR 86/16, GRUR 2018, 757 Rn. 28 – Kindeswohlgefährdung.
[66] Vgl. u.a. BGH Urteil vom 25.10.2011 – VI ZR 332/09, NJW 2012, 767 Rn. 12 – Pornodarsteller.
[67] So kann insbesondere ein Vorverhalten der betroffenen Person in Anlehnung an als „Öffnung“ ausgelegt werden
