Wie die Methoden zur Identifizierung von KI-Inhalten funktionieren
Generative künstliche Intelligenz ist zu einer ständigen Präsenz bei der Erstellung und Bearbeitung digitaler Inhalte geworden, und Methoden zur Identifizierung von mit KI erstellten oder modifizierten Materialien werfen Fragen zur Genauigkeit und Transparenz dieser Methoden auf.
Heute basiert die Identifizierung von KI-Inhalten auf mehreren Technologien: unsichtbaren Wasserzeichen, Herkunftsmetadaten, Systemen wie Google SynthID und Standards wie C2PA. Parallel dazu gibt es Werkzeuge, die den endgültigen Inhalt analysieren und die Wahrscheinlichkeit schätzen, dass dieser von einem KI-Modell generiert wurde.
Diese Methoden können zu einer besseren Transparenz im digitalen Umfeld beitragen, werfen jedoch auch eine wichtige Frage auf: Wie weit können Unternehmen bei der Identifizierung von Inhalten gehen, ohne dass dieser Prozess zu einem Mechanismus zur Verfolgung von Nutzern wird?
Ein aktueller Fall, der dieses Problem wieder ins Bewusstsein ruft, ist der von Microsoft und den in Paint und Photos integrierten KI-Funktionen.
Der Fall Microsoft: das unsichtbare Wasserzeichen, das das Bild mit einem Prompt verknüpfen kann
Eine Untersuchung veröffentlicht von The Register präsentiert die Analyse des Forschers Xusheng Li von Vector 35 darüber, wie Microsoft Bilder, die mit KI in Paint und Photos erstellt oder modifiziert wurden, kennzeichnet. Laut der zitierten Analyse verwendet Microsoft einen eindeutigen Identifikator, einen GUID, der mit dem Generierungsprozess verbunden ist und unsichtbar im Bild eingebettet wird.
Der Mechanismus unterscheidet sich von einem sichtbaren Wasserzeichen, wie dem Text „KI-generiert“ oder einem Logo. Der Identifikator ist in Pixel codiert, und die Analyse behauptet, dass die Anfrage des Nutzers an die Microsoft-Dienste zur Moderation gesendet wird, bevor der Identifikator ausgegeben und im Bild integriert wird. Außerdem können aufeinanderfolgende Anfragen über einen vorherigen Identifikator korreliert werden.
Hier stellt sich das Problem des Datenschutzes.
Ein ursprünglich zur Identifizierung von KI-Inhalten entwickeltes System kann unter bestimmten Bedingungen auch ein Mechanismus zur Verknüpfung von Inhalten mit dem Nutzer oder der Historie der Anfragen werden.
Es ist jedoch wichtig, eine Unterscheidung zu treffen: Die Existenz eines GUID in einem Bild bedeutet nicht automatisch, dass jede Person, die das Bild findet, den Autor öffentlich identifizieren kann. Die kritische Frage ist, ob der Anbieter diesen Identifikator mit dem Konto, dem Prompt oder anderen Daten, die auf seinen Servern gespeichert sind, verknüpfen kann.
Microsoft erklärt offiziell, dass die KI-Funktionen in Paint Online-Dienste von Azure zur Filterung von Inhalten nutzen und in diesem Zusammenhang Attribute wie Geräte- und Benutzeridentifikatoren sowie Prompts zur Verhinderung von Missbrauch und zur Überwachung sammeln. Das Unternehmen sagt gleichzeitig, dass die generierten Bilder nicht gespeichert werden.
Dieser Unterschied zwischen „das Bild wird nicht gespeichert“ und „die mit dem Prozess verbundenen Daten sind nicht korrelierbar“ ist entscheidend.
C2PA: eine Methode zur Herkunftsidentifizierung, ohne das Bild in ein Überwachungslabel zu verwandeln
Ein anderer Ansatz wird durch C2PA – Coalition for Content Provenance and Authenticity repräsentiert.
C2PA ist ein offener Standard zur Anbringung von Informationen über die Herkunft und Geschichte eines digitalen Materials. Im Falle eines Bildes können die Metadaten das verwendete Werkzeug, die Herkunft des Inhalts und bestimmte nachfolgende Änderungen angeben.
Microsoft erklärt offiziell, dass die durch die KI-Funktionen in Paint generierten Bilder ein C2PA-Manifest enthalten, damit die Nutzer die KI-Herkunft identifizieren können.
Der Vorteil ist offensichtlich: Anstatt zu versuchen zu erraten, ob ein Bild „so aussieht, als wäre es von einer KI gemacht worden“, können wir die Herkunftsinformationen überprüfen, wenn sie vorhanden sind.
Aber C2PA ist kein universeller Detektor.
OpenAI betont ausdrücklich, dass C2PA-Metadaten entfernt werden können, auch versehentlich. Beispielsweise kann ein Screenshot die ursprünglichen Metadaten entfernen. Folglich zeigt das Fehlen eines Content Credentials nicht, dass das Material von einem Menschen erstellt wurde.
Dies ist eine der wichtigsten Regeln zur Überprüfung von KI-Inhalten:
„„Ich habe kein Wasserzeichen gefunden“ bedeutet nicht „Dieser Inhalt ist nicht von KI generiert“.
SynthID: eine weitere Methode zur Identifizierung generativer Inhalte
Google verwendet eine andere Technologie namens SynthID, die ein unsichtbares digitales Signal in den von seinen Modellen generierten Inhalten einführt.
Google sagt, dass SynthID von Bildern auf Videos, Audio und Text ausgeweitet wurde, und das Unternehmen hat die Überprüfung in Produkte wie Gemini integriert und begann 2026 mit der Ausweitung auf Search und Chrome.
Der konzeptionelle Unterschied ist wichtig.
C2PA funktioniert hauptsächlich als System zur Herkunft und Metadaten, während SynthID ein Signal direkt in den Inhalt einführt.
Die beiden Ansätze können komplementär sein. OpenAI erklärt, dass es sowohl C2PA als auch SynthID für die mit seinen Werkzeugen generierten Bilder verwendet: Die Metadaten bieten Kontext, während das Wasserzeichen nach bestimmten Transformationen erkennbar bleibt.
Aus der Sicht des Nutzers ist dies eine viel elegantere Lösung als die einfache Analyse des Stils eines Textes oder eines Bildes.
KI-Detektoren für Text sind ein viel komplizierteres Problem
Im Fall von KI-generiertem Text ist die Situation anders.
Ein KI-Detektor analysiert statistische und linguistische Merkmale und versucht, die Wahrscheinlichkeit abzuschätzen, dass der Text von einem Sprachmodell generiert wurde. Das Problem ist, dass ein solches Ergebnis im Wesentlichen eine probabilistische Schätzung, kein Beweis für die Urheberschaft ist.
Neuere Forschungen zeigen, warum wir vorsichtig sein müssen.
Eine 2026 veröffentlichte Studie, die mehrere KI-Textdetektoren bewertete, kommt zu dem Schluss, dass die Ergebnisse der Detektoren im Kontext interpretiert werden müssen und nicht automatisch in eine binäre Klassifizierung „Mensch“ versus „KI“ umgewandelt werden dürfen. Die Leistung kann bei hybriden oder von Menschen modifizierten Texten erheblich sinken.
Eine weitere 2026 veröffentlichte Forschung warnt vor falschen Positiven und dass die Modifizierung eines von KI generierten Textes die Empfindlichkeit der Detektoren verringern kann.
Das Problem ist nicht neu. Eine Studie veröffentlicht in Acta Neurochirurgica hat GPTZero, ZeroGPT und Corrector App an menschlichen und von ChatGPT generierten Texten getestet und festgestellt, dass keines der analysierten Werkzeuge eine Zuverlässigkeit von 100 % hatte.
Daher ist die Aussage:
„Der Detektor sagt 87% KI, also hat der Autor KI verwendet“
methodologisch falsch.
Richtiger wäre:
„Das Werkzeug schätzt eine hohe Wahrscheinlichkeit für KI-Beteiligung, aber das Ergebnis muss mit anderen Beweisen untermauert werden.“
Was sind die richtigen Methoden zur Identifizierung von KI-Inhalten?
In der Praxis ist der robusteste Ansatz ein mehrschichtiger.
Überprüfung der Herkunftsdaten des Inhalts
Für Bilder und andere Arten von Medien kann der erste Schritt die Überprüfung der C2PA-Metadaten sein.
Wenn es ein gültiges und überprüfbares Manifest gibt, kann dies Informationen über die Herkunft und Geschichte des Materials liefern.
Überprüfung von Wasserzeichen
Systeme wie SynthID können unsichtbare Signale erkennen, die von bestimmten KI-Modellen eingeführt wurden. Google bietet Werkzeuge zur Überprüfung von Inhalten, die mit seinen Technologien generiert wurden.
Auch OpenAI bietet die Überprüfung von Herkunftssignalen, die mit den von seinen Werkzeugen generierten Bildern verbunden sind.
Identifizierung durch technische Analyse der Datei
EXIF-Metadaten, die Datei-Historie, die Erstellungssoftware, Informationen zur Kompression und andere technische Merkmale können zusätzliche Hinweise liefern.
Keine dieser Informationen sollte jedoch als absoluter Beweis betrachtet werden.
Identifizierung durch kontextuelle Analyse
Für einen umstrittenen Artikel, ein Foto oder ein Video muss auch die Quelle überprüft werden: Wer hat es veröffentlicht, wann, wo erschien es erstmals und ob es Originalversionen gibt.
KI-Detektoren: nur als sekundäre Identifizierungsmethode
Textdetektoren können in bestimmten Kontexten nützlich sein, sollten jedoch nicht die einzige Grundlage für Anschuldigungen bezüglich der Nutzung von KI sein.
Neuere Forschungen heben sowohl Probleme mit falschen Positiven als auch die Schwierigkeit hervor, hybride oder umgeschriebene Texte zu erkennen.
Wann wird Transparenz zu Übermaß?
Hier kommt der kontroverse Teil des Phänomens ins Spiel.
Es ist nachvollziehbar, dass ein Nutzer wissen möchte, ob ein virales Foto von KI generiert wurde. Eine Plattform muss angeben, dass ein Video künstlich erstellt wurde. Es ist sogar nützlich, wenn Redakteure, Institutionen und Forscher die Herkunft eines Materials überprüfen können.
Aber es gibt einen Unterschied zwischen:
„Dieser Inhalt wurde mit KI erstellt oder modifiziert.“
und:
„Dieser Inhalt wurde mit KI erstellt, und das Unternehmen speichert genügend Informationen, um ihn mit der Identität oder den Aktivitäten des Nutzers zu verknüpfen.“
Das erste ist Transparenz. Das zweite ist ein Überwachungsmechanismus.
Der Fall Microsoft ist gerade aus diesem Grund interessant. Der von dem Forscher Xusheng Li analysierte Identifikator kann unter bestimmten Bedingungen mit Prompts und Nutzern verknüpft werden. Microsoft hatte bereits Dokumentationen über Sicherheits- und Herkunftsmechanismen, jedoch behauptet die Analyse, dass die genauen Implikationen des GUID für den durchschnittlichen Nutzer nicht ausreichend offensichtlich waren.
Es gibt einen wichtigen Unterschied zwischen der Offenlegung der Existenz einer Technologie und der Erklärung aller Konsequenzen für die Privatsphäre in einer verständlichen Sprache.
Microsoft ist nicht das einzige Unternehmen, das in diese Richtung geht
Der Trend ist viel breiter.
Google investiert in SynthID und die Überprüfung von Content Credentials in Search, Gemini und Chrome.
OpenAI verwendet C2PA und SynthID für die mit seinen Werkzeugen generierten Bilder und entwickelt öffentliche Überprüfungsmechanismen.
Microsoft verwendet C2PA in Paint und fügt zusätzliche Informationen in die Metadaten von mit KI generierten oder modifizierten Inhalten in Microsoft 365 ein. Das Unternehmen gibt an, dass diese Informationen das verwendete KI-Modell, die verwendete Anwendung und den Zeitpunkt der Generierung enthalten können.
Meta entwickelt seinerseits eigene Wasserzeichentechnologien, wie in The Register berichtet wird.
Technologisch ist diese Konvergenz logisch. Aus Sicht des Datenschutzes muss sie jedoch genau beobachtet werden.
Wie sollte ein verantwortungsbewusstes System aussehen?
Ein gutes System zur Identifizierung von KI-Inhalten sollte einige einfache Prinzipien respektieren.
Transparenz. Der Nutzer muss wissen, was in die Datei eingegeben wird und welche Informationen später damit verknüpft werden können.
Datenminimierung. Um zu zeigen, dass ein Bild von KI generiert wurde, ist es nicht unbedingt erforderlich, einen Identifikator zu haben, der mit der Identität der Person verknüpft werden kann.
Trennung von Herkunft und Identität. Die Herkunftsmetadaten des Inhalts sollten in erster Linie die Frage beantworten „Wie wurde dieses Material erstellt?“, nicht „Wer ist die Person, die es erstellt hat?“
Unabhängige Überprüfbarkeit. Nutzer, Journalisten und Forscher sollten die Signale überprüfen können, ohne ausschließlich auf die Infrastruktur des Unternehmens angewiesen zu sein, das den Inhalt generiert hat.
Und, vielleicht am wichtigsten, keine Erkennungsmethode sollte als absoluter Entscheid angesehen werden.
Brauchen wir wirklich eine neue Form der Überwachung?
Generative KI hat die Rückkehr zu dem simplistischen Modell unmöglich gemacht, bei dem die Authentizität eines Materials aus seinem Aussehen abgeleitet werden konnte. Wir benötigen Herkunftstechnologien, Wasserzeichen und Überprüfungsmechanismen.
C2PA, Content Credentials und SynthID sind wichtige Richtungen für den Aufbau eines Internets, in dem Nutzer leichter die Herkunft von Inhalten erfahren können. Forschungen zu KI-Detektoren zeigen, dass probabilistische Schätzungen, insbesondere für Texte, nicht in automatische Anschuldigungen umgewandelt werden dürfen.
Der Fall Microsoft zeigt jedoch, dass Transparenz über KI-Inhalte nicht mit Transparenz über die gesammelten Daten zur Identifizierung verwechselt werden sollte.
Ein Wasserzeichen, das sagt „Dieses Material wurde mit KI generiert“, kann nützlich sein.
Eine Identifizierungsmethode, die es dem Unternehmen ermöglicht, das untersuchte Material mit einem Nutzer, seinem Prompt oder seiner Aktivitätshistorie zu verknüpfen, schafft jedoch ein völlig anderes Problem.
Im Wettlauf um ein authentischeres Internet sollten Unternehmen ein Paradoxon vermeiden: das Problem digitaler Fälschungen nicht zu lösen, indem sie ein System schaffen, in dem jede digitale Kreation implizit ein Überwachungsinstrument wird.
Transparenz ist notwendig und die Demonstration der Herkunft ist nützlich.
Aber all diese Identifizierungstechnologien sollten mit dem Grundsatz der Wahrung der Privatsphäre entworfen werden, nicht mit der Annahme, dass jeder Nutzer verdächtig ist, bis die Technologie das Gegenteil beweist.
