Platz Eins für UniBw- und Fraunhofer FKIE-Methode zum Erkennen und Bewerten von Behauptungen

Hinweis zur Verwendung von Bildmaterial: Die Verwendung des Bildmaterials zur Pressemitteilung ist bei Nennung der Quelle vergütungsfrei gestattet. Das Bildmaterial darf nur in Zusammenhang mit dem Inhalt dieser Pressemitteilung verwendet werden. Falls Sie das Bild in höherer Auflösung benötigen oder Rückfragen zur Weiterverwendung haben, wenden Sie sich bitte direkt an die Pressestelle, die es veröffentlicht hat.

Platz Eins beim Shared Task-Wettbewerb CLAIMSCAN 2023 für FKIE-Wissenschaftler Albert Pritzkau. Das von ihm entwickelte System NLytics zur Erkennung von Desinformationskampagnen in Social Media entstand in einem gemeinsamen Projekt mit der UniBw München. | Copyright: Fraunhofer FKIE | Download

„Der Siegeszug der sozialen Medien hat unser Kommunikations- und Medienverhalten disruptiv verändert und dazu geführt, dass immer mehr Inhalte unterschiedlichster Art erstellt und ausgetauscht werden“, erläutert FKIE-Projektleiter und CLAIMSCAN-Teilnehmer Albert Pritzkau. Eine nicht nur positive Entwicklung, da diese Plattformen auch den Boden bereiten können für die Verbreitung von Gerüchten, Fake News, Propaganda und Fehlinformationen. Allein die Menge dieser Informationen mache es aber unmöglich, sie effektiv zu identifizieren, so der Wissenschaftler. Die automatische Unterscheidung zwischen glaubwürdigen und falschen Behauptungen sei daher eine wichtige Forschungsaufgabe der Computerlinguistik.

Gelegenheit, den aktuellen Stand ihrer Methoden zu messen, hatten Forschende aus der ganzen Welt nun bei dem vom Indian Institute of Technology Delhi 2023 erstmals ausgerufenen Shared Task-Wettbewerb „CLAIMSCAN“. Als Gewinner ging dabei das deutsche System „NLytics“ hervor, entwickelt in einem gemeinsamen Forschungsprojekt der Universität der Bundeswehr München und des Fraunhofer FKIE.

„Der Fokus im Projekt liegt auf der Identifikation gezielt manipulativer Falschmeldungen mithilfe von KI“, so Pritzkau. Der Wissenschaftler hat sich über das Projekt hinaus auch in seiner Promotion intensiv mit der Aufgabenstellung befasst. Mit „NLytics“ entwickelte er einen neuen Ansatz, der ein modernes „Machine Learning“-System so erweitert, dass linguistische Merkmale beim Training besser berücksichtigt werden. Zudem verwendet Pritzkau „Explainable AI“, um die Trainingsdaten zu bereinigen. Denn, so der Forscher: „Bekanntlich sind KI-Systeme immer nur so gut wie die zu ihrem Training genutzten Daten.“ Durch die Vorverarbeitung der Trainingsdaten nach seinem Ansatz verbessern sich Ergebnisse und Qualität des Systems um Größenordnungen.

„NLytics“ sicherte dem Team den Sieg in einer der insgesamt zwei CLAIMSCAN-Teilaufgaben. Die hervorragende Platzierung bestätigt die Ergebnisse der Promotionsarbeit des Wissenschaftlers ein weiteres Mal: Bereits im vergangenen September schnitt Pritzkaus Ansatz beim Shared Task-Wettbewerb „DIPROMAT 2023“, ausgelobt vom Iberian Languages Forum (IberLEF) zur Identifikation von Propaganda, ebenfalls am besten in seiner Kategorie ab.

Wissenschaftlicher Ansprechpartner:
Albert Pritzkau
Fraunhofer-Institut für Kommunikation, Informationsverarbeitung und Ergonomie FKIE
Abteilung "Informationstechnik für Führungssysteme"
Telefon: +49 228 9435-615
E-Mail: albert.pritzkau@fkie.fraunhofer.de

Originalpublikation:
https://www.fkie.fraunhofer.de/de/newsroom/Presseinformationen/claimscan2023.html