Wie KI helfen kann, Informationen kritisch einzuordnen

Ende September 2026 trafen sich die Mitglieder des Ladenburger Kollegs KonCheck am Helmholtz-Zentrum für Informationssicherheit (CISPA) in Saarbrücken. Die Teams der TU Dortmund, der Westfälischen Hochschule, der Hochschule Rhein-Waal und des CISPA stellten dort dem Projektbeirat ihre aktuellen Arbeiten vor. KonCheck entwickelt KI-gestützte Werkzeuge, die Menschen helfen, Nachrichten und Beiträge kritisch einzuordnen – ohne ihnen das eigene Urteil abzunehmen.

KonCheck entwickelt mehrere Apps als Erweiterung für den Browser und für das Smartphone. Beim Lesen von Artikeln oder Social-Media-Beiträgen markiert KonCheck mögliche Denkfehler in Argumenten (Fallacy Check) und stellt dazu eine Rückfrage, statt ein Urteil zu fällen. Außerdem hebt es Aussagen hervor, die sich überprüfen lassen, und zeigt vorhandene Faktenchecks dazu an. Dafür wurde mit bestehenden Faktencheck-Datensätzen ein generatives KI-Modell für deutsche und englische Texte trainiert. Mit der KonCheck-Kompass-App lassen sich zudem Zeitungsartikel per Foto, Podcasts oder Radiobeiträge prüfen.

Begleitend laufen Studien mit mehreren Tausend Teilnehmern. Sie zeigen, dass es auf die Formulierung ankommt: Begriffe wie „Fake News“ können Abwehr auslösen, Hinweise auf KI-Herkunft lassen manchmal auch wahre Inhalte unglaubwürdig erscheinen. Zudem lassen sich Erkennungsprogramme für KI-generierte Bilder leicht täuschen. Alle Erkenntnisse fließen in die Weiterentwicklung ein, damit KonCheck dort Vertrauen stärkt, wo es angebracht ist, und Skepsis dort, wo sie nötig ist.

Ein vom Forschungsverbund eingesetzter Projektbeirat bereicherte die Diskussionen mit wertvollen Perspektiven aus der Praxis. Gemeinsam mit den Projektmitgliedern erörterten sie die dynamischen Herausforderungen der politischen Informationslandschaft. Dazu zählen aktuelle politische Entwicklungen, Chancen und Risiken von generativer KI sowie die Bedürfnisse und Besonderheiten der vulnerablen Gruppen. Ziel der Wissenschaftler ist es, weiterhin an den technischen Werkzeugen zu feilen und diese im Rahmen von Längsschnittstudien auf ihre Wirksamkeit hin zu untersuchen.