Fakt oder Fake: Erklärbare KI zur Erforschung und Bekämpfung von Online Desinformation

Desinformationskampagnen sind zu einer großen Bedrohung für die Demokratie und den sozialen Zusammenhalt geworden. Phänomene wie Verschwörungstheorien fördern die politische Polarisierung; sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder sogar terroristischem Verhalten verleiten. Da die Nutzer sozialer Medien und vor allem die Betreiber größerer Plattformen derzeit nicht in der Lage sind, Desinformation eindeutig zu erkennen, sind neue Techniken zur Erfassung von Online-Desinformation dringend erforderlich. In diesem Beitrag stellen wir DeFaktS vor, ein Forschungsprojekt, das einen umfassenden Ansatz sowohl zur Erforschung als auch zur Bekämpfung von Online-Desinformation verfolgt.

Das Projekt entwickelt eine Datenpipeline, in der (i) Nachrichten in großen Mengen aus verdächtigen Social-Media-Gruppen und Messenger-Gruppen extrahiert und mit Hilfe von Annotatoren klassifiziert werden. Auf der Grundlage dieses Korpus wird (ii) ein auf maschinellem Lernen basierendes System trainiert, das Desinformationen anhand von charakteristischen Faktoren und Stilmittel erkennen kann. Diseses System bietet die Basis für (iii) eine erklärbare künstliche Intelligenz, die Nutzer auf einfache und verständliche Weise über das Auftreten von Desinformation informiert. Generell verfolgt DeFaktS einen interdisziplinären Mehrebenen-Forschungsansatz, der sich auf Medienkompetenz und Vertrauen in erklärbare künstliche Intelligenz konzentriert, um die Forschung zur Bekämpfung von Desinformation zu operationalisieren.