DFKI-Forschung begleitet Deepfake-Check zur Berliner Abgeordnetenhauswahl

fTeilen

Ein Video, das es nie gab. Eine Stimme, die nie gesprochen hat. Ein
Screenshot mit einem Zitat, das niemand je gesagt hat — und drei Wochen
Zeit bis zur Wahl. Seit dem 26. August können Berlinerinnen und Berliner
solche Inhalte prüfen lassen: „Die Gretchenfrage“, ein KI-gestützter
Orientierungs-Check als Angebot des Landes Berlin zu den Berliner Wahlen
am 20. September 2026. Die Technologie stammt aus einer Ausgründung des
Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), die
Forschung dahinter läuft im DFKI-koordinierten Verbundprojekt Fake-O-Meter
weiter.

Von der Forschung zum Berliner Wahleinsatz

Der Ursprung liegt in ‚news-polygraph‘, dem größten deutschen
Forschungsprojekt zur Verifikation digitaler Medieninhalte. Dort arbeitete
der DFKI-Forschungsbereich Speech and Language Technology gemeinsam mit
dem Quality & Usability Lab der Technischen Universität Berlin, dem
Fraunhofer-Institut für Digitale Medientechnologie IDMT sowie den
Medienpartnern rbb und Deutsche Welle. Aus diesem Forschungsumfeld heraus
gründeten drei Wissenschaftler des Berliner DFKI-Labs das Unternehmen
Gretchen AI.

Erstmals kam das Verfahren bei den Landtagswahlen in Rheinland-Pfalz im
März 2026 unter dem Titel „Check First. Vote Smart“ zum Einsatz. Für die
Berliner Abgeordnetenhauswahl wurde es nun deutlich weiterentwickelt. Der
Check arbeitet dabei in zwei Schritten, die bewusst getrennt bleiben:

- Manipulationsprüfung: Ist das Material synthetisch erzeugt oder
nachträglich verändert — und wenn ja, auf welche Weise?
- Einordnung: Was behauptet der Inhalt, und was sagen Quellen, offizielle
Informationen und professionelle Faktenchecks dazu?

Der zweite Schritt ist forschungsseitig der schwierigere. Ein Befund ohne
Erklärung überzeugt niemanden. Deshalb liefert das System keine
Wahrheitsurteile, sondern macht Hinweise, Belege und Quellen transparent
nachvollziehbar.

Was im Hintergrund geprüft wird

Für den Berliner Wahleinsatz wurde ein Katalog mit mehr als 200
Manipulationsarten entwickelt – von manipulierten Bildern und Videos über
geklonte Stimmen bis hin zu gefälschten Screenshots und Aussagen im
falschen Kontext. Technisch setzt die Forschung auf Architekturen aus der
aktuellen Deepfake-Erkennungsforschung, darunter Mamba-basierte Modelle
wie BiCrossMamba-ST, die spektrale und zeitliche Muster gemeinsam
auswerten. In internationalen Benchmarks wie der Environmental Sound
Deepfake Detection Challenge (ESDD 2026) erreichen DFKI-Modelle
Spitzenplätze — insbesondere bei Fälschungen aus bislang unbekannten
genKI-Modellen.

Das Fake-O-Meter Projekt - Forschung läuft weiter

Seit Mai 2026 koordiniert das DFKI das Verbundprojekt Fake-O-Meter, das
einen multimodalen KI-Assistenten gegen Desinformation entwickelt. Die
wissenschaftliche Leitung liegt beim Berliner Speech and Language
Technology Lab, Projektpartner sind die TU Berlin, die Otto-von-Guericke-
Universität Magdeburg, die Ernst-Abbe-Hochschule Jena, die Deutsche Welle
und die Deutsche Presse-Agentur dpa; sowie Gretchen AI, das die
Demonstratorplattform entwickelt. Das Vorhaben wird vom Bundesministerium
für Forschung, Technologie und Raumfahrt gefördert und läuft bis Februar
2029.

So funktioniert der Social-Media Check

- Verdächtigen Beitrag auf Instagram, TikTok oder X auswählen
- Über die Teilen-Funktion an den Account „Gretchen_AI_Berlin“ senden
- Das System prüft auf Manipulation und ordnet die enthaltenen
Behauptungen ein
- Die Rückmeldung gibt Hinweise und listet Quellen, fällt aber kein
abschließendes Urteil