Sexualisierte Gewalt im digitalen Raum verhindern – jetzt

Du bist von Gewalt betroffen oder kennst Menschen, die es sind? Hier findest du Hilfe.

Die Fälle, in denen generative KI für sexualisierte Gewalt verwendet wird, reihen sich aneinander und ähneln sich: Nutzende erstellen nicht einvernehmliche sexualisierende Deepfakes mit KI, um die Integrität und den Ruf von Personen zu schädigen oder sie zu erpressen, wie etwa bei sogenannter «Sextortion». Junge Männer erstellen mittels KI gefälschte sexualisierte Bilder und Videos, darunter auch von Schweizer Influencerinnen. Anschliessend verbreiten sie diese Inhalte teilweise auf Social Media. Deren Algorithmen sind darauf ausgerichtet, Nutzende möglichst lange online zu halten, und befeuern so die weitere Verbreitung. Nutzende, meist Männer, entkleiden mittels Grok AI Frauen und Kinder auf X, wie anfangs 2026 bekannt wurde. Oder sie generieren sexistische Beleidigungen und Hassrede über KI-Chatbots. Dies zeigt auch die kürzlich von Bundesrätin Karin Keller-Sutter eingereichte Klage: Auf X hat ein Nutzer Grok aufgefordert, Karin Keller-Sutter primitiv zu beleidigen. Der KI-Chatbot hat entsprechende sexistische Hassrede generiert und auf X veröffentlicht.

Diese sexualisierten Gewalttaten und sexistischen Vorfälle finden nicht in einem Vakuum statt, sondern vor dem Hintergrund einer Online-Welt, in der Sexismus und Frauenfeindlichkeit noch immer sehr präsent sind. Wir beobachten insbesondere auf Social Media auch zunehmende Tendenzen zur frauenfeindlichen Radikalisierung, etwa innerhalb der sogenannten «Manosphäre». Dabei handelt es sich um eine Gesamtheit von Online-Communities, die starre und feindselige Vorstellungen von Männlichkeit propagieren. Gleichzeitig verbreiten diese die falsche Vorstellung, Feminismus und Geschlechtergleichstellung seien auf Kosten der Männerrechte entstanden.

Was sich im digitalen Raum zeigt, ist kein isoliertes Problem, sondern die Fortsetzung patriarchaler Machtstrukturen und geschlechtsspezifischer Gewalt mit neuen Mitteln. Inhalte, die die Integrität von Menschen verletzen, gab es schon lange vor den KI-generierten Deepfakes. Sexualisierte Gewalt und sexistische, misogyne Inhalte werden jedoch verstärkt, wenn Technologien zu diesem Zweck genutzt werden. Besonders betroffen von sexualisierter Gewalt sind Frauen und Kinder. In einer im März 2026 verabschiedeten Erklärung äusserte der Europarat in Strassburg seine Besorgnis darüber, dass durch Technologie begünstigte Gewalt gegen Frauen und Mädchen aufgrund der rasanten technologischen Entwicklung – einschliesslich Künstlicher Intelligenz – zunehmend an Bedeutung gewinnt.

Wenn wir wollen, dass algorithmische und KI-Systeme allen Menschen zugutekommen, müssen wir uns als Gesellschaft dafür stark machen, dass Technologien nicht genutzt oder missbraucht werden, um Gewalt und Unterdrückung zu begünstigen. Dazu bedarf es eines ganzheitlichen Ansatzes, der Gewalt vorbeugt, konstruktive Online-Debattenräume sicherstellt und es den Betroffenen ermöglicht, ihre Rechte durchzusetzen.

Unsere Empfehlungen im Überblick:

• Erstellung verhindern: Sexualisierende Deepfake-Tools verbieten
• Verbreitung verhindern: Plattformen endlich in die Verantwortung nehmen
• Betroffene ermächtigen: Rechtsschutz vor sexualisierter Gewalt im digitalen Raum stärken
• Sexualisierte Gewalt ganzheitlich angehen

Erstellung verhindern: Sexualisierende Deepfake-Tools verbieten

KI-gestützte Tools erleichtern es heute mehr denn je, nicht einvernehmliche sexualisierte Deepfakes herzustellen. Das Spektrum reicht dabei von Anwendungen, die ausdrücklich damit werben, Bilder realer Personen sexualisieren zu können, bis hin zu allgemeiner Software wie «Face-Swapping»-Apps, die für solche Zwecke missbraucht werden können.

• Anbieter von KI-Tools sollen nachweisen müssen, dass sie ihren Sorgfaltspflichten nachgekommen sind und alle ihnen zur Verfügung stehenden und zumutbaren Massnahmen ergriffen haben, um schädliche Auswirkungen zu verhindern und die Erstellung illegaler Inhalte nicht zu begünstigen. Dies soll im Rahmen der vom Bundesrat geplanten KI-Regulierung adressiert werden.
• Wenn KI-Systeme nicht über angemessene Sicherheitsmassnahmen verfügen und die Erstellung von nicht einvernehmlichen sexualisierenden Deepfakes eindeutig erleichtern, sollten sie verboten werden.
• Plattformen, Webseiten- und App-Betreiber*innen sollten unabhängig von ihrer Grösse verpflichtet werden, KI-Systeme, die genutzt werden, um nicht einvernehmliche sexualisierende Deepfakes zu erstellen, sogenannte «Non-consensual Sexualisation Tools» (NSTs), zu löschen.

Die EU prüft derzeit ein solches Verbot im Rahmen der KI-Verordnung. In der Schweiz sind zwei Vorstösse dazu im Nationalrat hängig (Motion 24.4025 & Motion 24.4018).

Verbreitung verhindern: Plattformen endlich in die Verantwortung nehmen

Social-Media-Plattformen spielen eine Schlüsselrolle bei der Verbreitung von Hassrede und nicht einvernehmlichen sexualisierten Inhalten. Wenn Plattform-Algorithmen darauf ausgelegt sind, solche Inhalte zu verstärken, die viel Interaktion erzeugen und emotional oder skandalisierend wirken, werden sexualisierende Deepfakes noch mehr Menschen angezeigt und betroffene Personen dadurch zusätzlich geschädigt. Grosse Plattformen werden auch dazu genutzt, um Links zu problematischen Apps zu teilen, für sie zu werben und Tipps zu diskutieren, wie mit gängigen KI-Chatbots sexualisierende Deepfakes erstellt werden können.

Der Bundesrat hat einen Vorschlag zur Regulierung von Social Media und Suchmaschinen (Vorentwurf des Bundesgesetzes über Kommunikationsplattformen und Suchmaschinen, VE-KomPG) erarbeitet. Dieser weist jedoch einige Lücken im Bereich der Prävention sexualisierter und geschlechtsbezogener Gewalt auf. Um diese zu schliessen, benötigt das Gesetz folgende Ergänzungen:

• Anbieter von Online-Plattformen müssen rechtlich haftbar gemacht werden, wenn ihnen illegale Inhalte gemeldet wurden, sie diese aber nicht entfernt haben. Sie sollten jedoch nicht strafrechtlich verantwortlich oder privatrechtlich haftbar gemacht werden für konkrete Inhalte, von denen sie keine Kenntnis hatten, um das vorschnelle Löschen von Inhalten «Overblocking», zu vermeiden.
• Anbieter von Online-Plattformen sollten dazu verpflichtet werden, die von ihren Plattformen und Aktivitäten ausgehenden Risiken sexualisierter und geschlechtsbezogener Gewalt zu analysieren und zu mindern. Dazu sollten sie griffige Massnahmen ergreifen, über die sie auch öffentlich Bericht erstatten müssen. Zu diesen Risiken gehören unter anderem Hassrede, nicht einvernehmliche sexualisierte Deepfakes sowie misogyne und andere Formen von Radikalisierung.
• Auch generative KI-Systeme sollten von der Plattformregulierung erfasst werden, wenn sie als Suchmaschinen genutzt werden oder in Social-Media-Plattformen integriert sind. Gerade wenn Nutzende auf Social-Media-Plattformen direkt Inhalte generieren und unmittelbar verbreiten können, verschwimmt die Trennung zwischen der Erstellung und Verbreitung von Inhalten, wie das Beispiel der KI Grok auf X zeigt. In diesen Fällen dienen die Plattformen nicht mehr nur der Verbreitung von Inhalten – und sollen somit auch nicht mehr einfach darauf verweisen dürfen, dass sie für Inhalte Dritter nicht verantwortlich gemacht werden können. Plattformen sollten entsprechend stärker in die Verantwortung genommen werden, wenn sie auf der Plattform integrierte Tools bereitstellen, die direkt verwendet werden können, um sexualisierte oder sexistische Inhalte zu erstellen.
• Ein wirksamer Datenzugang für Forschung und Zivilgesellschaft muss gewährleistet werden, damit tiefergehende Untersuchungen zu sexualisierter Gewalt im digitalen Raum ermöglicht werden.

Betroffene ermächtigen: Rechtsschutz vor sexualisierter Gewalt im digitalen Raum stärken

Die Schweiz kennt keine spezifischen Regulierungen zu Deepfakes. Es gibt aber gesetzliche Bestimmungen, die gegen nicht einvernehmliche sexualisierende Deepfakes herangezogen werden können. Das Strafrecht ahndet unter anderem den Identitätsmissbrauch (Art. 179 StGB) und das unbefugte Weiterleiten von nicht öffentlichen sexuellen Inhalten (Art. 197a StGB), wobei bei Letzterem umstritten ist, ob dieser auch Deepfakes erfasst oder nur auf reale Inhalte beschränkt ist. Wenn ein sexualisierender Deepfake ein Kind darstellt, kann es ein Fall verbotener Pornografie (Art. 197 StGB) sein. Im Zivilrecht kann auch die Verletzung von Persönlichkeitsrechten (Art. 28 ZGB) eingeklagt werden, insbesondere das Recht am eigenen Bild und an der eigenen Stimme, das Recht auf Achtung der Intim- und Privatsphäre und das Recht auf Ehre. Der Bundesrat sieht in seiner Antwort zur Motion 23.3563 keinen Regulierungsbedarf in Bezug auf Deepfakes. Jurist*innen stellen jedoch die Frage, ob die bestehenden Normen ausreichen oder ob eine spezifische Regulierung für nicht einvernehmliche sexualisierende Deepfakes erforderlich wäre.

• Die bestehenden Normen und Tatbestände müssen vor dem Hintergrund der neuen Entwicklungen neu interpretiert werden und ihre Anwendung muss verstärkt werden. Es muss geprüft werden, ob ein eigener Straftatbestand, der neben der Verbreitung auch die Erstellung von nicht einvernehmlichen sexualisierenden Deepfakes unter Strafe stellt, notwendig ist. Zudem sollten auch Schadenersatz und Genugtuung für Reputationsverluste für Betroffene von nicht einvernehmlichen sexualisierten Deepfakes zugesprochen werden können.
• Menschen sollen sich wirksam und niederschwellig gegen illegale Inhalte wehren können, die Menschen diskriminieren, zu Hass, Hetze und Gewalt gegen eine bestimmte Gruppe aufstacheln oder Darstellungen von sexualisierter und anderer Gewalt zeigen. Unter anderem muss Art. 261bis im Strafgesetz um den Schutz vor Diskriminierung aufgrund der Geschlechtsidentität erweitert werden, da Frauen beispielsweise oft von Hassrede betroffen sind. Diese Ergänzung wird aktuell im eidgenössischen Parlament von mehreren parlamentarischen Initiativen gefordert (21.513, 21.514, 21.515, 21.522, 21.527).

Sexualisierte Gewalt ganzheitlich angehen

Der Einsatz von Technologien, insbesondere von KI, zur Verstärkung sexualisierter Gewalt und frauenfeindlicher, sexistischer Inhalte muss in einem umfassenderen Kontext betrachtet werden. Sexualisierte und geschlechtsbezogene Gewalt beginnt nicht im digitalen Raum und hört dort auch nicht auf. Umso wichtiger ist es, neben rechtlichen Massnahmen auch einen gesellschaftlichen Wandel im Umgang mit geschlechtsspezifischer Gewalt, Sexismus, Misogynie und Betroffenen voranzutreiben. Von sexualisierten Deepfakes betroffene Frauen tragen keine Schuld – die Verantwortung liegt bei den KI-Firmen, Social-Media-Plattformen und Tatpersonen. Dennoch erleben sie häufig Stigmatisierung, Scham und Reputationsverlust, die Frauen davon abhalten können, sich Hilfe zu suchen oder Anzeige zu erstatten. Die Ansätze zur Beseitigung von sexualisierter Gewalt sind vielfältig und ergänzen sich. Neben den oben genannten Empfehlungen sind weitere Massnahmen erforderlich. Dazu gehören etwa:

• Sichere Anlaufstellen, in denen Betroffenen geglaubt wird, und niedrigschwelliger Zugang zu therapeutischer Begleitung – auch während laufender Gerichtsverfahren.
• Ein gesellschaftliches Bewusstsein dafür, dass nicht einvernehmliche sexualisierte Deepfakes eine Straftat sind, für die sich nicht die Betroffenen rechtfertigen müssen, sondern die Tatpersonen.
• Prävention von sexualisierter und geschlechtsbezogener Gewalt und misogynen Radikalisierungen (Manosphäre) – unter anderem durch Bildungs- und Sensibilisierungsmassnahmen.
• Die Förderung von Forschung und das Monitoring sowie die Durchführung von unabhängigen Studien zu Ausmass und Entwicklung von sexualisierter Gewalt im digitalen Raum.
• Die Förderung von zivilgesellschaftlichen Organisationen, die sich gegen sexualisierte Gewalt einsetzen.
• Eine nationale, verbindliche Gesamtstrategie gegen sexualisierte und geschlechtsbezogene Gewalt mit ausreichender Finanzierung (unter anderem zur Umsetzung der Istanbul-Konvention).

Hilfe für Betroffene von Gewalt & Meldeformulare

• Du wurdest von sexualisierter oder geschlechtsbezogener Gewalt betroffen? Die Opferhilfe Schweiz bietet dir vertrauliche und kostenlose Beratung, die auf Wunsch auch anonym möglich ist und hilft dir dabei, eine passende Beratungsstelle in deiner Nähe zu finden.
• Du erlebst Hassrede? Stop Hate Speech bietet Ratschläge, um die richtige Unterstützung und die notwendigen Ressourcen zu finden.
• Digitale Lösungen gegen Gewalt: Tech against Violence bietet Unterstützung für Betroffene, Organisationen und Fachpersonen.
• Was tun, wenn ein Junge in die «Manosphäre» rutscht? Die Plattform Vorsicht Manosphere! bietet Wissen und Orientierung für Eltern, familiäre Bezugspersonen und Fachkräfte.
• Du bist auf pädokriminelle Inhalte gestossen? Du kannst sie anonym bei clickandstop.ch melden.
• Du hast Apps, Websites oder Konten gesehen, die «Non-consensual Sexualisation Tools» (NSTs) enthalten, etwa zur Erstellung von sexualisierenden Deepfakes? Berichte uns davon. AlgorithmWatch, unsere Schwesterorganisation in Berlin, meldet diese den Plattformbetreibern, damit sie – auf Grundlage der EU-Gesetze – entfernt werden: Meldeformular inkl. Fragen und Antworten zu «Non-consensual Sexualisation Tools» (NSTs)
• Du hast Hinweise darauf, dass du oder eine andere Person mittels Algorithmen oder KI ungerecht behandelt oder diskriminiert wurde? Dann berichte uns davon. AlgorithmWatch CH führt Recherchen durch, um zu zeigen, wo und wie algorithmische Diskriminierung auftreten kann: Meldeformular inkl. Fragen und Antworten zu algorithmischer Diskriminierung