Mit der zunehmenden Verbreitung generativer KI-Tools in den letzten Jahren, sei es für Bilder, Videos oder Musik, haben Internetnutzer beim Surfen im Netz oft Zweifel, ob das Gesehene und Gehörte tatsächlich real ist. Als einer der Hauptanbieter generativer KI arbeitet Google nun daran, es den Menschen zu erleichtern, die von ihnen produzierten Inhalte zu erkennen. Mit dem neuen SynthID-Detektor kann jeder Bilder, Videos oder Audiodateien überprüfen, um festzustellen, ob sie von KI generiert wurden, jedoch gibt es einige wichtige Einschränkungen.
Google hat 2023 SynthID eingeführt, um KI-generierten Inhalten unsichtbare Labels hinzuzufügen, aber bis jetzt konnten normale Nutzer dieses Label nicht tatsächlich überprüfen. 2025 führte Google eine eingeschränkte Version des SynthID-Detektors für bestimmte Forscher und Journalisten ein, und jetzt ist dieses Tool für alle zugänglich. Obwohl dies eine gute Nachricht für diejenigen ist, die überprüfen möchten, ob Inhalte von KI generiert wurden, ist es nicht narrensicher. Seit der Einführung von SynthID hat Googles Gemini-KI-Modell Wasserzeichen in allen von ihr erstellten Inhalten eingebettet.
Der SynthID-Detektor bietet den Nutzern durch das Scannen des Wasserzeichens eine einfache „Ja“ oder „Nein“-Antwort, um festzustellen, ob ein Wasserzeichen gefunden wurde.
Googles SynthID-Detektor bietet einfache Methoden zur Inhaltsverifizierung
Die Nutzung dieses neuen Tools ist sehr einfach: Die Nutzer müssen lediglich zu SynthID.com gehen, ein Bild, Video oder eine Audiodatei hochladen und dann einige Sekunden warten, um die Ergebnisse von Google zu erhalten. Dies stellt eine erhebliche Verbesserung im Vergleich zu Googles vorherigem Verfahren dar. Zuvor konnten Nutzer Gemini selbst fragen, ob ein bestimmter Inhalt von KI generiert wurde, aber für diejenigen, die generativer KI misstrauen, war es schwierig, Gemini's Antworten vollständig zu glauben. Für diejenigen, die versuchen, diese Technologie zu vermeiden, war dies zweifellos keine akzeptable Option.
Der SynthID-Detektor ermöglicht es den Nutzern auch, Wasserzeichen in Inhalten zu scannen, die von Googles SynthID-Partnern erstellt wurden, was zuvor nicht möglich war. Das bedeutet, dass das Tool feststellen kann, ob Medien von OpenAI, NVIDIA und Kakao's KI-Modellen erstellt wurden. Neben Gemini ist auch Apple an SynthID beteiligt, jedoch befindet sich die Unterstützung zur Erkennung ihrer Kreationen noch in der Entwicklung. Da der SynthID-Detektor nur Wasserzeichen überprüft und nicht die Medien analysiert, um Muster zu finden, die auf den Einsatz von KI hinweisen, sollte die Möglichkeit von falsch positiven Ergebnissen minimiert werden.
Diese Einfachheit bringt jedoch auch eigene Einschränkungen mit sich, die offensichtlichste ist, dass sie Medien, die von KI-Modellen erstellt wurden, die kein SynthID verwenden, wie die Tools von Meta, nicht erkennen kann.
Einschränkungen des SynthID-Detektors im Vergleich zu anderen Tools
Der SynthID-Detektor ist auch darauf beschränkt, den Nutzern lediglich mitzuteilen, ob ein Label in der hochgeladenen Datei gefunden wurde, ohne Informationen darüber zu liefern, welche Teile von KI generiert wurden. Google gibt an, dass die SynthID-Signatur selbst nach einer Bearbeitung durch KI weiterhin bestehen bleibt. Obwohl es keine Garantie gibt, dass einige böswillige Fälscher nicht letztendlich Wege finden, dies zu umgehen, scheint das Unternehmen tatsächlich Maßnahmen zu ergreifen, um dies zu verhindern. Berichten zufolge teilte ein Google-Sprecher Ars Technica mit, dass Nutzer auf etwa 10 Prüfungen pro Tag beschränkt sind, um zu verhindern, dass sie die Ausgaben des Detektors nutzen, um Wege zur Entfernung von SynthID zu finden.
Nutzer müssen sich auch in ihr Google-, OpenAI- oder Apple-Konto einloggen, um den SynthID-Detektor nutzen zu können.
Der SynthID-Detektor ist nicht das einzige verfügbare Tool zur Erkennung generativer KI, aber trotz seiner Einschränkungen könnte es eines der zuverlässigsten sein. Der SynthID-Partner OpenAI verfügt über eigene Detektionswerkzeuge, die KI-verifiziertes Metadaten sowie SynthID-Wasserzeichen erkennen können. Meta bezeichnet sein eigenes Wasserzeichen als Content Seal, das in seine KI-Kreationen eingebettet ist, und bietet ein webbasiertes Erkennungstool an, obwohl ein Bericht von Reuters aus dem Jahr 2026 festgestellt hat, dass es manchmal nicht in der Lage ist, diese Wasserzeichen genau zu identifizieren.
Unternehmen wie Anthropic und Microsoft haben ebenfalls begonnen, KI-Medien mit Wasserzeichen zu versehen, bieten jedoch derzeit keine Verbraucherdetektionswerkzeuge an. Der Nachteil all dieser Tools besteht darin, dass sie darauf ausgelegt sind, spezifische KI-Marker zu erkennen, ohne dass es einen zuverlässigen Detektor gibt, der generative KI umfassend identifizieren kann. Viele Forscher haben ihre eigenen KI-Erkennungstools entwickelt, aber diese sind nicht öffentlich zugänglich. Für die allgemein verfügbaren KI-Detektoren sind die Ergebnisse unzuverlässig und neigen dazu, menschliche Kreationen fälschlicherweise als KI-Inhalte zu kennzeichnen.