Mit Künstlicher Intelligenz gegen Desinformation

Die Zahl der online bewusst verbreiteten Falschmeldungen nimmt seit Jahren immer weiter zu. Ein interdisziplinäres Konsortium will mit dem Projekt DeFaktS dagegen vorgehen, indem es eine Künstliche Intelligenz (KI) so trainiert, dass sie Desinformation erkennen und über sie aufklären kann. Dazu nimmt das FZI mit drei Partnern verdächtige Social-Media- und Messenger-Gruppen unter die Lupe.

Texte, Bilder und Videos: Der Ukraine-Krieg ist in den sozialen Medien sehr präsent. Unter der Vielzahl an Beiträgen befindet sich immer häufiger bewusst manipulativ verbreitete Desinformation – sogenannte Fake News – zum aktuellen Kriegsgeschehen. Genutzt wird dafür unter anderem Videomaterial aus Videospielen oder anderen Konflikten – zum Beispiel der Annexion der Krim im Jahr 2014 oder dem Syrien-Krieg 2020. Zuletzt war das Phänomen der Fake News beispielsweise auch im Zusammenhang mit der Corona-Pandemie und der Bundestagswahl 2021 zu beobachten. Mit der Verbreitung von Falschmeldungen sollen Angst und Verunsicherung in der Bevölkerung geschürt und/oder das Vertrauen in die Politik erschüttert werden. Das Bundesministerium für Bildung und Forschung (BMBF) sieht in Desinformation eine zunehmende Gefahr für die Demokratie und den gesellschaftlichen Zusammenhalt. Daher fördert das BMBF derzeit im Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän.“ mehrere Projekte, die Desinformation erforschen, um Gegenmaßnahmen zu entwickeln – darunter auch das Forschungsprojekt DeFaktS. 

Mit Künstlicher Intelligenz gegen Fake News

DeFaktS – das steht für: „Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel“. Das Projekt verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Im Rahmen des Projekts extrahieren die Wissenschaftler*innen Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen und trainieren eine Künstliche Intelligenz (KI) so, dass die für Fake News charakteristische Faktoren und Stilmittel erkennen kann. „Typisch für Desinformation ist beispielsweise die Nutzung von emotionaler Sprache und Hyperbeln. Die KI wird nach dem Training in der Lage sein, derartige Indikatoren zu identifizieren“, erklärt Jonas Fegert, Abteilungsleiter am FZI. 

Die trainierte KI wird im Anschluss als Komponente für eine XAI (Explainable Artificial Intelligence) genutzt. Eine XAI ist eine erklärbare Künstliche Intelligenz, die eindeutig nachvollziehbar macht, auf welche Weise die KI zu den Ergebnissen kommt. Auf Basis der XAI soll eine App entwickelt werden, die die User transparent über das mögliche Auftreten von Fake News informiert und warnt. Ein weiteres Ziel von DeFaktS: die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für weitere Plattformen zugänglich machen. Auf diese Weise möchte das Konsortium zu einer Lösung beitragen, mit der sich Online-Plattformen möglichst automatisiert moderieren lassen.

Sensibilisieren, Vertrauen schaffen und Medienkompetenz stärken

Im Gegensatz zu bereits bestehenden Tools zur Detektion und Bekämpfung von Fake News soll die DeFaktS-App eine besonders einfach zu nutzende sowie universelle Lösung zur automatisierten Moderation von Online-Inhalten darstellen. Darüber hinaus identifiziert DeFaktS nicht nur für Fake News charakteristische Faktoren, sondern gibt den User*innen mithilfe des XAI-Ansatzes auch ein transparentes Feedback zum möglichen Auftreten von Fake News. Das bedeutet: Die Interpretation und Entscheidung, ob Fake News vorliegen oder nicht, liegt letztlich bei den Bürger*innen, die die Anwendungen nutzen. Es findet keine Filterung oder gar automatisierte Löschung von Inhalten statt. “Im Sinne der digitalen Bildung der Gesellschaft war uns dieser Aspekt sehr wichtig”, erklärt Jonas Fegert. “Wir möchten die Menschen sensibilisieren, sie über Strategien der Desinformationen aufklären und so Medienkompetenz stärken.” 

Derzeit wird im Projekt mithilfe einer strukturierten Literaturrecherche eine Taxonomie von Desinformation erstellt. Das bedeutet, dass ein einheitliches Modell erarbeitet wird, mit dem sich Fake News nach bestimmten Kriterien klassifizieren lassen – dazu zählen Charakteristika, Dimensionen und Eigenschaften der Informationen.