You are currently viewing Technologie gegen Misinformation – die Content Authenticity Initiative

Technologie gegen Misinformation – die Content Authenticity Initiative

Unter dem Namen Content Authenticity Initiative (CAI) haben sich namhafte Medien- und Technologieunternehmen, Nichtregierungsorganisationen und Wissenschaftler zusammengeschlossen, um einen offenen Industriestandard für die Authentizität und Herkunft von Inhalten zu schaffen. Initiator und Schirmherr der Initiative ist die Firma Adobe als führender Hersteller von Software zur Bearbeitung von digitalen Inhalten. Hunderte Organisationen auf der ganzen Welt haben sich inzwischen dem Projekt angeschlossen, darunter Hardwarehersteller wie Canon oder Leica, große Medienhäuser wie die New York Times, Reuters oder der Stern, sowie Technologieunternehmen wie Microsoft und nVidia.

Die Content Authenticity Initiative

Hintergrund

Die Flut von digitalen Inhalten, die auf uns Konsumenten über verschiedenste Kanäle wie soziale Medien, Messenger Dienste und Medienplattformen einprasseln, nimmt ständig zu. Leider befindet sich ein größer werdender Teil von Falschinformationen darunter. Politiker, Verschwörungstheoretiker, aber auch Unternehmen versuchen damit die Meinungsbildung der Gesellschaft in ihre Richtung zu manipulieren. Insbesondere durch das Teilen solcher Fake News entsteht oftmals eine sehr hohe Reichweite und der Schaden kann erheblich sein. Im Nachhinein ist es enorm schwierig die Fotos oder Videos als fake zu entlarven und die Sachverhalte richtig zu stellen.

Künstliche Intelligenz macht es in diesem Fall nicht besser. Mittels sogenannter Deep Fakes lassen sich Fotos und Videos produzieren, die sich kaum noch von echten Inhalten unterscheiden lassen. Oft werden diese genutzt um bekannten Persönlichkeiten Zitate in den Mund zu legen, die sie so gar nicht ausgesprochen haben. Noch gefährlicher wird es wenn es um konkrete Handlungen geht, die evtl. gar nicht stattgefunden haben.

Technologisch gesehen findet ein Wettrennen statt zwischen den Algorithmen die solche Deep Fakes erstellen und solchen die den Betrug aufdecken sollen. Letztendlich ist es ein Rennen dass die „Guten“ nicht gewinnen können, weil man den Betrügern immer einen Schritt hinterherhinkt.

Darum musste ein anderer Lösungsansatz her. Anstatt Medien im Nachhinein ihre Falschheit nachzuweisen, wurde ein Verfahren entwickelt um Inhalten ihre Echtheit zu bescheinigen.

Wie es funktioniert

Im Grundsatz geht es darum Transparenz darüber herzustellen, wer oder was die Quelle des Mediums ist und wie (oft) der Inhalt bearbeitet wurde. Zugleich muss sichergestellt werden, dass diese Informationen auch authentisch sind, das heißt, dass sie nicht manipuliert wurden.

Über Content Credentials können die Metadaten des Bilds eingesehen werden.

Die Content Authenticity Initiative hat 4 Schritte im Lebenszyklus eines digitalen Assets definiert, die abgedeckt werden müssen:

  1. Creation – Die Erstellung
    Direkt bei der Erstellung eines Fotos oder Videos werden Informationen wie der Ort (Geolocation), der Autor (Fotograf), das Kameramodell, etc. als sogenannte Content Credentials in die Metadaten des Assets gespeichert. Dies geschieht direkt auf der Hardwareseite, also in der Kamera. Soweit, so gut, das passiert heute auch schon. Der Unterschied ist, dass diese Informationen diesmal mittels „Cryptographic Asset Hashing“ verschlüsselt und signiert werden. Der Ersteller des Fotos oder Videos kann hierbei entscheiden, welche Informationen er in das Bild speichern möchte. Im Journalismus ist es oftmals wichtig die Quelle zu schützen.
  2. Editing – Die Bearbeitung
    Digitale Inhalte durchlaufen meist duzende Bearbeitungsschritte bevor sie veröffentlicht werden. Dabei werden professionelle Programme wie Adobe Photoshop für Bilder oder Premiere Pro für Videos eingesetzt. Als Teil der CAI fügen diese Tools zukünftig den Metadaten jeden Bearbeitungsschritt des Assets hinzu, damit jederzeit die gesamte Bearbeitungshistorie eingesehen werden kann.
  3. Publishing and sharing – Die Veröffentlichung
    In den Plattformen der veröffentlichenden Medienunternehmen werden Mechanismen integriert, die es Lesern ermöglichen, alle Metadaten sowie die Bearbeitungshistorie der Fotos und Videos einzusehen. Im Workflow der Veröffentlichung werden die CAI Metadaten von dem jeweiligen Content Management System (CMS) ausgelesen und in einer Form aufbereitet, die schnell und leicht von Inhaltskonsument erfasst werden kann.
  4. Viewing – Die Betrachtung
    Als Konsument von digitalen Inhalten kann ich mir über eine sogenannte Verifizierungsseite die Content Credentials ansehen und sogar Versionen aus den Bearbeitungsschritten miteinander vergleichen.
Verifizierung und Vergleich der Bearbeitungsschritte eines Bilds.

Das ganze Framework wurde als offener, technischer Standard unter dem Namen Coalition for Content Provenance and Authenticity (c2pa.org) veröffentlicht.

Open-source Tools der Content Authenticity Initiative

Die CAI hat mehrere quelloffene Tools entwickelt, welche von jedem genutzt werden können, der die Mechanismen zum Schutz und zur Verifizierung von Inhalten auf der eigenen Website oder App einsetzen möchte.

JavaScript SDK

Das JavaScript SDK ist eine Bibliothek, mittels derer die Metadaten (Content Credentials / C2PA) einer Datei ausgelesen und auf einer Website angezeigt werden können.

Das C2PA Tool

Das C2PA Tool ist ein Kommandozeilen Tool (CLI) mit welchem Content Credentials erstellt, verifiziert und angezeigt werden können.

Rust SDK

Das Rust SDK kann genutzt werden um Applikationen und Services zu entwickeln, die Content Credentials erstellen, verifizieren und anzeigen können.

Hier gibt es eine Übersichtstabelle, die dabei hilft, das richtige Tool für den richtigen Einsatzzweck auszuwählen.

Fazit

Die Content Authenticity Initiative ist ein großartiger Vorstoß um Falschinformationen einzudämmen und die Glaubwürdigkeit von Webinhalten herzustellen. Ich bin sehr positiv überrascht, wie viele Organisationen sich bereits der Initiative an angeschlossen haben und hoffe dass sich der Standard bald flächendeckend etabliert.