Was tun, wenn ein KI-Deepfake in sozialen Netzwerken verbreitet wird?

Wenn ein Deepfake in einem sozialen Netzwerk auftaucht, sollten Beweissicherung und Meldung in einer klaren Reihenfolge erfolgen. Löschen oder blockieren Sie den Kontakt erst, nachdem die wichtigsten Fundstellen und Nachrichten dokumentiert wurden. Bei einer akuten Bedrohung oder Erpressung sollte zusätzlich die Polizei eingeschaltet werden.

Eine Meldung entfernt zunächst nur den konkret gemeldeten Beitrag oder das betreffende Konto. Kopien auf anderen Plattformen, Websites oder in Suchmaschinen müssen gesondert erfasst werden. Deshalb ist es wichtig, die einzelnen Fundstellen nicht miteinander zu vermischen.

Welche Angaben sollten sofort gesichert werden?

Kopieren Sie die vollständige URL des Beitrags, Profils oder Videos und dokumentieren Sie Datum, Uhrzeit, Nutzernamen und sichtbaren Begleittext. Fertigen Sie Screenshots an, auf denen der notwendige Kontext erkennbar ist. Bei Storys, Livestreams oder verschwindenden Nachrichten ist eine schnelle Sicherung besonders wichtig.

Wenn Drohungen oder Geldforderungen vorliegen, speichern Sie auch den Gesprächsverlauf, Zahlungsadressen, Kontodaten und Verweise auf weitere Konten. Notieren Sie, über welchen Dienst der Kontakt begonnen hat und wohin er später verlagert wurde.

Die gefundene Originaldatei kann für eine spätere technische Prüfung nützlich sein. Bearbeiten Sie das einzige Exemplar nicht. Bei möglicherweise sexualisierten Darstellungen von Minderjährigen sollten keine zusätzlichen Kopien angefertigt oder weitergeleitet werden; dokumentieren Sie stattdessen die Fundstelle und wenden Sie sich an Plattform und Polizei.

Wie meldet man den Deepfake bei der Plattform?

Nutzen Sie zunächst die Meldefunktion direkt am Beitrag. Wählen Sie die Kategorie, die den tatsächlichen Sachverhalt am besten beschreibt, etwa Identitätsnachahmung, Belästigung, Verletzung der Privatsphäre, nicht einvernehmliche intime Inhalte oder Betrug. Wird zusätzlich ein gefälschtes Profil verwendet, sollte dieses gesondert gemeldet werden.

Für einen rechtlichen Einwand stellen viele Plattformen neben der gewöhnlichen Community-Meldung ein eigenes Formular bereit. In der EU kann rechtswidriger Inhalt außerdem über den Meldeweg nach dem Digital Services Act angezeigt werden. Eine solche Meldung sollte die genaue Fundstelle und eine verständliche Begründung enthalten, weshalb der Inhalt nach dem einschlägigen Recht rechtswidrig sein könnte.

Bewahren Sie Bestätigungsmails, Vorgangsnummern und Entscheidungen auf. Wird die Meldung abgelehnt, prüfen Sie zunächst, ob die URL, der Kontext oder der gewählte Meldegrund unklar war. Je nach Plattform kann eine interne Beschwerde gegen die Entscheidung möglich sein.

Was ist bei erneuten Uploads zu tun?

Ein gelöschter Beitrag kann bereits kopiert worden sein. Erfassen Sie deshalb jede neue Fundstelle mit einer eigenen URL und ergänzen Sie Ihre Übersicht. Ein erneuter Upload ist nicht automatisch von einer früheren Meldung erfasst.

Prüfen Sie, ob die Plattform spezielle Verfahren für wiederholt verbreitete intime Inhalte oder urheberrechtlich geschütztes Material anbietet. Solche Werkzeuge gelten nur für bestimmte Inhaltsarten und Berechtigte. Ein Urheberrechtsverfahren ist beispielsweise nicht automatisch passend, nur weil Ihr Gesicht im Deepfake erscheint.

Bei vielen Kopien kann eine Priorisierung helfen: zuerst reichweitenstarke Beiträge, aktive Drohungen und eindeutig zuordenbare Originalquellen; anschließend kleinere Kopien und Suchtreffer. Diese Reihenfolge ändert nichts an den Rechten, verhindert aber, dass dringende Fundstellen in einer langen Liste untergehen.

Wann müssen Suchmaschine, Website oder Hoster angesprochen werden?

Erscheint der Deepfake in einer Suchmaschine, sollte der konkrete Suchtreffer gemeldet werden. Eine Entfernung aus der Suche löscht die Datei jedoch nicht von der Website, auf der sie liegt. Der Betreiber dieser Website oder die dort verwendete Plattform muss daher separat kontaktiert werden.

Reagiert eine eigenständige Website nicht, kann je nach technischer Struktur eine Meldung an den Hosting-Anbieter sinnvoll sein. Ein Domain-Registrar verwaltet in erster Linie die Domain und ist nicht automatisch für den Inhalt der Website verantwortlich. Er ist deshalb nicht in jedem Fall der richtige erste Adressat.

Die Meldung sollte immer zum Ziel passen: Entfernung des Beitrags, Sperrung eines Kontos, Löschung der Quelldatei oder Ausblendung eines Suchergebnisses sind unterschiedliche Maßnahmen bei unterschiedlichen Stellen.

Wann sollte die Polizei eingeschaltet werden?

Eine Strafanzeige kommt insbesondere bei Erpressung, Nötigung, Bedrohung, Stalking oder anderen möglichen Straftaten in Betracht. Zahlen Sie nicht allein aufgrund des Versprechens, der Deepfake werde anschließend gelöscht. Eine Zahlung verhindert weitere Forderungen oder eine Veröffentlichung nicht verlässlich.

Übergeben Sie der Polizei die gesicherten Nachrichten, Fundstellen, Nutzernamen und Zahlungsdaten. Die Ermittlungen richten sich vor allem auf den möglichen Täter und die Straftat. Die Entfernung der Online-Inhalte ist ein eigener Vorgang; Plattformmeldungen sollten deshalb nicht bis zum Abschluss des Strafverfahrens aufgeschoben werden.

Bei unmittelbarer Gefahr für Leib oder Leben ist der Notruf der richtige Weg. Bei starker psychischer Belastung können zusätzlich eine Beratungsstelle, der ärztliche Bereitschaftsdienst oder eine Krisenhilfe unterstützen.

Welche rechtlichen Ansprüche können eine Rolle spielen?

Ob ein Deepfake rechtswidrig ist, hängt vom Inhalt und seiner Verwendung ab. In Deutschland können je nach Fall das allgemeine Persönlichkeitsrecht, das Recht am eigenen Bild und Datenschutzrecht betroffen sein. Bei übernommenen Fotos, Logos oder anderen geschützten Werken können zusätzlich Urheber- oder Markenrechte relevant sein.

Nicht jede Manipulation erfüllt automatisch einen Straftatbestand. Umgekehrt muss für eine Plattformmeldung nicht immer feststehen, mit welchem KI-Modell das Bild oder Video erzeugt wurde. Häufig sind die erkennbare Person, der falsche Kontext und die konkrete Verbreitung entscheidender.

Bei einer dringenden gerichtlichen Maßnahme kann langes Zuwarten nachteilig sein. Ob eine Abmahnung, eine einstweilige Verfügung oder ein anderer Schritt sinnvoll ist, sollte anhand der konkreten Fundstellen und des drohenden Schadens anwaltlich geprüft werden.

Wie lassen sich weitere Schäden begrenzen?

Prüfen Sie die Sichtbarkeit Ihrer Kontakt- und Freundeslisten und schränken Sie öffentlich zugängliche Profildaten ein, soweit dies möglich ist. Verwenden Sie für betroffene Konten ein neues, einzigartiges Passwort und aktivieren Sie die Zwei-Faktor-Authentifizierung, wenn ein Kontozugriff nicht ausgeschlossen werden kann.

Wenn der Deepfake gezielt an Arbeitgeber, Familie oder Kunden geschickt wird, kann eine kurze sachliche Vorabinformation sinnvoll sein. Sie sollte nur das Nötige enthalten und den Inhalt nicht selbst weiterverbreiten. Pauschale öffentliche Stellungnahmen können die Aufmerksamkeit dagegen zusätzlich erhöhen und sollten vom konkreten Verbreitungsrisiko abhängig gemacht werden.

Kontrollieren Sie nach einer Entfernung in angemessenen Abständen, ob bekannte Konten oder Dateinamen erneut auftauchen. Eine hundertprozentige Garantie gegen jeden späteren Upload gibt es nicht.

Wie unterstützen wir bei der Entfernung?

Wir erfassen die Fundstellen, sichern die vorhandenen Nachweise und ordnen jede URL der technisch und rechtlich zuständigen Stelle zu. Anschließend bereiten wir Plattformmeldungen, Suchmaschinenanträge und Beschwerden an Websitebetreiber oder Hoster getrennt voneinander vor.

Bei wiederholten Uploads führen wir die Vorgangsnummern und Entscheidungen zusammen, damit neue Meldungen auf den bisherigen Verlauf Bezug nehmen können. Urheber-, Marken-, Persönlichkeits- und Datenschutzrechte werden nur dort angeführt, wo ihre Voraussetzungen erfüllt sind.

Wenn eine rechtliche Bewertung oder ein gerichtlicher Schritt erforderlich erscheint, stimmen wir das weitere Vorgehen mit den zuständigen Anwälten ab. Bei Erpressung oder Betrug bereiten wir die vorhandenen Informationen außerdem so auf, dass sie der Polizei oder einem Zahlungsdienst eindeutig zugeordnet werden können.