Pangram, das Unternehmen hinter einem weit verbreiteten Tool zur Erkennung von KI-generierten Texten, hat kürzlich ein neues Werkzeug vorgestellt, das KI-generierte Bilder und Videos kennzeichnet. Mit diesem Update können die Abonnenten von Pangram Videos hochladen und eine Einschätzung erhalten, ob das Video mit Hilfe von KI erstellt oder bearbeitet wurde. Das Unternehmen gibt an, dass das Tool zwischen „teilweise KI“ und „vollständig KI-generierten“ Videoausschnitten unterscheiden kann. Darüber hinaus ist das Tool mit einer „Heatmap“ ausgestattet, die potenziell KI-generierte Aspekte im Video kennzeichnet.
Nach Angaben des Unternehmens zeigt das Modell, das die Videoerkennung unterstützt, „herausragende Leistungen im Bereich der KI-Videoerkennung“ und identifiziert in Tests KI-generierte Videos effektiver als andere Erkennungstools. Interne Tests haben gezeigt, dass das Video-Modell in der Lage ist, KI-Inhalte mit einer Genauigkeit von über 98 % zu kennzeichnen. Pangram hat auch seine KI-Bilderkennungskapazitäten verbessert. Das Unternehmen hatte zuvor eine Forschungs-Vorabversion seines Bildmodells Pangram Image 1.0 veröffentlicht, die jetzt über die Chrome-Erweiterung des Unternehmens verfügbar ist. Diese Erweiterung kann Bilder automatisch scannen und potenziell KI-generierte Bilder kennzeichnen, während der Nutzer surft.
Pangrams neues Tool verbessert die Genauigkeit der KI-Inhaltserkennung
Nach Angaben des Unternehmens kann sein Bildmodell in Tests KI-Bilder mit einer Genauigkeit von über 99 % kennzeichnen, wobei die Fehlerrate nur bei 0,27 % liegt. Natürlich gibt es, wie bei anderen KI-Bilderkennungstools auch, einige Einschränkungen. Das Unternehmen erklärt, dass bei einer Auflösung von weniger als 512 x 512 „die Ergebnisse mit einer Erklärung zur verringerten Zuversicht versehen werden“. Dies könnte erklären, warum Pangrams CEO Max Spero in einer Demonstration der Chrome-Erweiterung auf der Pinterest-Website für zwei Bilder, die offensichtlich keine Originalfotos sind, „unsichere“ Ergebnisse anzeigte.
Spero wies darauf hin, dass die Entwicklung seines Bilderkennungsmodells auch mit anderen Herausforderungen konfrontiert ist. „Die meisten Smartphone-Kameras, einschließlich des iPhone, führen eine gewisse Art von KI-Nachbearbeitung durch, um echten Fotos Details hinzuzufügen“, erklärte er in einem Beitrag auf der Plattform X. „Wir müssen ein Modell entwickeln, das robust gegenüber dieser Nachbearbeitung ist, während wir die Unterschiede zwischen KI-Bearbeitungen und vollständig KI-generierten visuellen Effekten verstehen.“ Er erwähnte gegenüber Pirate Wires, dass das Unternehmen die Veröffentlichung seines Bildmodells verzögert hat, um Tests an mehreren iPhone 18 Pro durchzuführen, da sein Modell ursprünglich Bilder, die mit diesen Smartphone-Kameras aufgenommen wurden, als KI-generiert kennzeichnete.
Pangrams neue KI-Bild- und Videoerkennungskapazitäten sind jetzt für alle Nutzer mit einem Pangram-Abonnement verfügbar. Das Unternehmen erlaubt Nutzern mit einem kostenlosen Konto, eine begrenzte Anzahl von Bildern zu überprüfen, ohne sich für einen kostenpflichtigen Plan anmelden zu müssen.

