Wie meldet man ein manipuliertes KI-Bild bei ChatGPT oder Gemini?

Ein manipuliertes oder vollständig KI-generiertes Bild kann eine reale Person in einer Situation zeigen, die nie stattgefunden hat. Wird ein solches Bild in ChatGPT oder Gemini angezeigt, gelten andere Meldewege als bei einer Veröffentlichung auf Instagram, einer Website oder in der Google-Suche. Entscheidend ist deshalb zunächst, wo der konkrete Inhalt zu sehen ist und wer ihn technisch bereitstellt.

Was genau soll gemeldet werden?

Vor der Meldung sollte geklärt werden, ob das Bild selbst in einer Antwort von ChatGPT oder Gemini erscheint, ob eine Antwort lediglich auf eine externe Website verweist oder ob das Bild nur mit einem dieser Dienste erstellt und anschließend anderswo veröffentlicht wurde. Ein KI-Anbieter kann Inhalte in seinem eigenen Dienst prüfen. Eine Kopie auf einer fremden Website kann er dagegen nicht für den Betreiber dieser Website löschen.

Auch der Meldegrund muss zum Sachverhalt passen. Möglich sind etwa eine unbefugte Verwendung des eigenen Bildes, eine Identitätsnachahmung, ein sexualisierter Deepfake, eine Drohung oder eine Verletzung von Urheber- oder Markenrechten. Nicht jede unangenehme Darstellung erfüllt automatisch dieselben rechtlichen Voraussetzungen.

In Deutschland können je nach Fall das Recht am eigenen Bild, das allgemeine Persönlichkeitsrecht und datenschutzrechtliche Vorschriften relevant sein. Bei sexualisierten Darstellungen, Erpressung, Bedrohung oder anderen möglichen Straftaten kommt zusätzlich eine Strafanzeige in Betracht. Welche Ansprüche tatsächlich bestehen, hängt vom Inhalt, seiner Veröffentlichung und dem jeweiligen Kontext ab.

Welche Nachweise sollten vor der Meldung gesichert werden?

Sichern Sie zunächst einen Screenshot, auf dem das Bild und der umgebende Kontext erkennbar sind. Notieren Sie Datum und Uhrzeit und kopieren Sie die vollständige URL oder den verfügbaren Link zur Unterhaltung beziehungsweise zum geteilten Inhalt. Bei einem extern veröffentlichten Bild sollten auch Profilname, Seitenadresse und Fundstelle dokumentiert werden.

Speichern Sie nach Möglichkeit außerdem die Originaldatei oder die unveränderte gefundene Datei. Metadaten können Hinweise liefern, beweisen für sich allein aber weder die Urheberschaft noch zuverlässig den Einsatz künstlicher Intelligenz. Auch sichtbare Bildfehler sind nur Indizien. Für die Meldung ist meist wichtiger, dass die betroffene Person und die konkrete Rechtsverletzung nachvollziehbar beschrieben werden.

Intime Dateien sollten nicht wahllos an verschiedene Stellen verschickt werden. Laden Sie sie nur hoch, wenn das jeweilige offizielle Formular dies erfordert und Sie geprüft haben, wer die Datei erhält. Häufig genügt zunächst ein aussagekräftiger Screenshot oder ein direkter Link.

Wie meldet man den Inhalt bei ChatGPT?

Erscheint das Bild in einer ChatGPT-Antwort, kann die betreffende Antwort direkt im Produkt gemeldet werden. Dazu wählen Sie bei der Nachricht die negative Bewertung und anschließend die Kategorie für ein Sicherheits- oder Rechtsproblem. Für geteilte Unterhaltungen, GPTs und andere öffentlich erreichbare OpenAI-Inhalte stehen ebenfalls produktspezifische Meldeoptionen zur Verfügung.

Alternativ bietet OpenAI ein Formular zur Meldung möglicher Richtlinienverstöße oder rechtswidriger Inhalte an. Dort sollte das betroffene Produkt korrekt ausgewählt und der direkte Link zur beanstandeten Stelle angegeben werden. Für Urheber- und Markenrechtsfragen bestehen eigene Formulare. Eine allgemeine Beschwerde ohne konkrete Fundstelle lässt sich meist schwerer prüfen.

Wurde das Bild zwar mit ChatGPT erzeugt, aber ausschließlich auf einer fremden Plattform veröffentlicht, muss die dort sichtbare Kopie in erster Linie bei dieser Plattform oder beim Betreiber der Website gemeldet werden. Eine Meldung an OpenAI kann das Verhalten im OpenAI-Dienst betreffen, entfernt jedoch nicht automatisch externe Veröffentlichungen.

Wie meldet man den Inhalt bei Gemini?

Bei einer problematischen Gemini-Antwort kann unter der betreffenden Antwort eine Rückmeldung abgegeben werden. Für einen rechtlichen Einwand gibt es im Menü der Antwort die Funktion „Rechtliches Problem melden“. Dieser Weg ist von einer allgemeinen Produkt-Rückmeldung zu unterscheiden.

Die Meldung sollte erkennen lassen, welche Antwort betroffen ist, welche Person auf dem Bild dargestellt wird und warum die Darstellung rechtswidrig oder richtlinienwidrig sein könnte. Wird lediglich auf eine externe Seite verwiesen, sollte zusätzlich die dortige Veröffentlichung beim Seitenbetreiber oder der jeweiligen Plattform gemeldet werden.

Ein Bild in der Google-Suche ist nicht dasselbe wie ein Bild in einer Gemini-Antwort. Für Suchergebnisse gelten die Melde- und Entfernungsverfahren von Google Search. Auch die Entfernung eines Suchergebnisses löscht die Datei nicht von der ursprünglichen Website. Deshalb müssen Suchmaschine und Quelle gegebenenfalls getrennt angesprochen werden.

Wann müssen weitere Stellen einbezogen werden?

Liegt das Bild auf einem sozialen Netzwerk, in einem Forum oder auf einer Website, sollte die Meldung zunächst an den dortigen Betreiber gerichtet werden. Reagiert dieser nicht, können je nach Fall der Hosting-Anbieter oder andere technisch zuständige Stellen hinzukommen. Ein Domain-Registrar ist nicht automatisch für die Inhalte einer Website verantwortlich und daher nicht in jedem Fall der passende erste Ansprechpartner.

Bei Erpressung oder Bedrohung sollten keine Zahlungen oder Verhandlungen allein aufgrund eines Löschversprechens erfolgen. Sichern Sie die Nachrichten, Zahlungsforderungen und Kontodaten und wenden Sie sich an die Polizei. Die Strafanzeige und die Entfernung des Bildes sind zwei getrennte Vorgänge; Plattformmeldungen können daher parallel nötig sein.

Eine Meldung sollte für jede Fundstelle die genaue URL, den Inhalt und den passenden Grund nennen. Pauschale Serienmeldungen oder wechselnde rechtliche Begründungen können die Prüfung erschweren. Wird eine Meldung abgelehnt, sollte zuerst geprüft werden, ob eine Information fehlt oder ein anderer Meldeweg sachlich besser passt.

Wie unterstützen wir bei der Meldung?

Wir ordnen zunächst die einzelnen Fundstellen den zuständigen Diensten zu und sichern die vorhandenen Nachweise. Anschließend bereiten wir die Meldungen so auf, dass Bild, Kontext, betroffene Person und Meldegrund eindeutig zugeordnet werden können.

Je nach Sachverhalt richten sich die Anfragen an OpenAI, Google, die veröffentlichende Plattform, den Websitebetreiber oder den Hoster. Urheber-, Marken-, Persönlichkeits- und Datenschutzrechte werden dabei nicht vermischt, sondern nur dort angeführt, wo ihre Voraussetzungen erfüllt sind.

Wenn eine rechtliche Bewertung, eine Abmahnung oder ein gerichtlicher Schritt erforderlich erscheint, stimmen wir das weitere Vorgehen mit den zuständigen Anwälten ab. So bleibt klar, welche Maßnahme welchem Ziel dient und welche Inhalte trotz einer erfolgreichen Meldung möglicherweise noch an anderer Stelle vorhanden sind.