KonCheck: KI-basierte Ad-hoc-Kontextualisierung und -Prüfung von Informationen im Web zur Unterstützung der politischen Meinungsbildung und Partizipation

Eine Grundlage der demokratischen Gesellschaft ist die (öffentliche) politische Meinungsbildung, wobei davon ausgegangen werden kann, dass sie in den letzten Jahren entlang ihres digitalen Wandels starke Veränderungen erfahren hat. Es ist eine zunehmend fragmentierte Öffentlichkeit zu beobachten, die wohl eine neue Intensität der (Des-)Integration aufweist. Die daraus resultierende Vielfalt an Akteuren, Medien, Filterblasen- und Echokammereffekten sowie eine zunehmende Fragmentierung der politischen Parteienlandschaft führen zu Unübersichtlichkeit und Polarisierung. Dies stellt eine Herausforderung für eine aktive und positiv erlebte Partizipation sowie eine fundierte politische Meinungsbildung der Bürger*innen dar.

Die Zersplitterung in unterschiedliche Anbieter, wie zum Beispiel soziale Medien, Influencer*innen, traditionellen Journalismus und Instant-Messaging-Dienste, führt zu unterschiedlichen Arten der digitalen Präsentation. In zahlreichen Fällen erfolgt die Präsentation von Informationen ohne Kontext und ohne Angabe der Quelle, wodurch Bürger*innen keine Gelegenheit haben, diese Informationen in ihren Kontext zu stellen und zu überprüfen. Es besteht die Gefahr, dass demokratische Prozesse wie die politische Meinungsbildung und freie Wahlen durch bewusste Manipulation und Falschdarstellung von Informationen, eine verzerrte Berichterstattung mit einem einseitigen oder politisch gefärbten Fokus und die Verbreitung von Fake News, KI-generierten Texten, Bildern und Videos beeinträchtigt werden.

An dieser Stelle setzt KonCheck ein, welches zwei Aspekte identifiziert, die politische Partizipation überhaupt erst möglich machen:

1. politisch relevante Informationen zu kontextualisieren, diese also bereits bei der Rezeption einzuordnen und bewerten zu können;

2. politisch relevante Informationen zu prüfen, auf ihre Vertrauenswürdigkeit zu untersuchen und KI-generierte Falschinformationen (Bild, Video, Ton und Text) zu erkennen.

Dazu wird ein Tool entwickelt, das insbesondere für die digitale Partizipation vulnerable Gruppen ansprechen soll, also beispielsweise Menschen mit kognitiven Beeinträchtigungen, Senior*innen sowie junge Wähler*innen, deren Bedarfe und Herausforderungen in der sozial- und kommunikationswissenschaftlichen Rahmung des Projekts erhoben werden. KonCheck folgt dabei dem "Universal" bzw. "Inclusive Design", wobei die erforschten Ansätze auf möglichst viele Rezipient*innen generalisierbar sein sollen. So soll ein signifikanter Beitrag zur Stärkung der demokratischen und partizipativen Meinungsbildung im Internet geleistet werden.

Prof. Dr. Jens Gerken, TU Dortmund, Inklusive Mensch-Roboter-Interaktion (Koordination)

Prof. Dr. Jürgen Howaldt, Prof. Dr. Johannes Weyer, TU Dortmund, Sozial­forschungs­stelle

Prof. Dr. Matthias Hastall, TU Dortmund, Qualitative Forschungsmethoden und strategische Kommunikation für Gesundheit, Inklusion und Teilhabe

Prof. Dr. Tobias Urban, Prof. Dr. (TU NN) Norbert Pohlmann, Westfälische Hochschule, Institut für Internetsicherheit

Prof. Dr. Matteo Große-Kampmann, Hochschule Rhein-Waal, Verteilte Systeme

Prof. Dr. Thorsten Holz, CISPA Helmholtz-Zentrum für Informationssicherheit, Saarbrücken, Erkennungs- und Vermeidungsmechanismen

KonCheck folgt einem Mixed-Methods-Ansatz sowie den klassischen Prinzipien der Technikfolgenabschätzung:

1. Zielgruppenspezifische Bedarfsanalyse: Ziel ist die Identifikation zielgruppenspezifischer Bedarfe und Herausforderungen beim Konsum von Informationen und bei der politischen Meinungsbildung (Qualitative Befragungen, Beobachtungsstudien).

2. Themenselektion und kommunikatives Framework: Es werden die relevanten Wahlthemen zur Bundestagswahl 2025 sowie die ihnen zugrundeliegenden, kontrovers diskutierten Grundannahmen, Assoziationen bzw. Implikationen sowie relevante Verzerrungen (insb. confirmation bias) ermittelt (u.a. Quantitative Social-Media Inhaltsanalyse).

 3. Technologische Konzeption und Entwicklung des KonCheck-Tools: In diesem Schritt werden die benötigen Technologien zum Erreichen der Projektziele konzipiert und entwickelt. Dazu werden verschiedene softwarebasierte Werkzeuge in Form einer mobilen Anwendung und einer Browser-Extension entwickelt. Anschließend werden die nötigen Technologien zur Kontextualisierung von Informationen und hinsichtlich der Vertrauenswürdigkeit und Prüfbarkeit von Inhalten erforscht und in die Tools integriert.

4. Partizipative Gestaltung der Visualisierung und Interaktion: In diesem Schritt wird ein Konzept zur Visualisierung- und Interaktion für das KonCheck-Tool partizipativ erarbeitet, als Proof-of-Concept implementiert und in ersten Benutzungsstudien evaluiert.

5. Empirische Überprüfung der Wirksamkeit: Zuletzt werden die antizipierten Effekte des entwickelten Tools auf die relevanten abhängigen Variablen empirisch überprüft (u.a. quantitative Langzeitstudie).

1. Entscheidungsprozesse der Nutzer*innen entpolarisieren und sog. confirmation biases reduzieren (Verbesserung von Entscheidungsprozessen)

2. Menschen unabhängiger von einzelnen politischen Meinungsmachern machen und in ihrer Resilienz gegenüber Manipulation stärken (Empowerment und Selbstbestimmung)

3. Durch die besondere Fokussierung auf vulnerable Gruppen soziale Gerechtigkeit durch politische Teilhabe fördern

4. Eine differenzierte politische Meinungsbildung insgesamt fördern und damit Partizipationsfähigkeit in Wahlen und weiteren demokratischen Prozessen und Mechanismen steigern (Stärkung der Demokratie)