Fake News und Hassrede besser erkennen mit KI-gestützter Analyse – h_da-Doktorandin entwickelt Web-Tool
Fake News, Hassrede, manipulierte Inhalte: Wer durch Social-Media-Netzwerke scrollt, stößt täglich auf fragwürdige Beiträge. Doch wie lassen sich wirklich problematische Inhalte erkennen, ohne vorschnell über „wahr“ oder „falsch“ zu urteilen? Mit dieser Frage hat sich Informatikerin Dr. Mina Schütz an der Hochschule Darmstadt (h_da) in ihrer Dissertation am Promotionszentrum für Angewandte Informatik intensiv beschäftigt und ein KI-gestütztes Analysewerkzeug entwickelt, das Expertinnen und Experten beim Erkennen von Desinformation unterstützt.
Ergebnis ihrer Dissertation ist das System „DisDETECT“, das sich von einem klassischen Faktencheck in einem zentralen Punkt unterscheidet: Statt Inhalte automatisch zu klassifizieren und in Kategorien wie „wahr“ oder „falsch“ einzusortieren, analysiert das Tool Texte anhand von mehr als 50 Merkmalen und macht so auffällige Muster in Texten sichtbar. Journalistinnen und Journalisten, Forschende oder Fachleute aus Behörden und Organisationen können schnell erkennen, bei welchen Inhalten genauer hingeschaut werden sollte. „Die eigentliche Einordnung bleibt aber immer beim Menschen“, betont Mina Schütz. Das System unterstütze die Analyse, treffe aber keine endgültigen Entscheidungen.
Das webbasierte Tool kann große Mengen von Texten analysieren und bewertet unter anderem, ob Beiträge emotional formuliert sind, Hinweise auf Hassrede, Desinformation und Verschwörungsmythen enthalten oder typische Merkmale von Clickbait aufweisen. Die Ergebnisse werden interaktiv visualisiert und in einem Ampelsystem in vier Farbstufen eingeordnet – von vertrauenswürdig bis kritisch. „Desinformation ist komplex. Ein Text kann faktisch korrekt sein und trotzdem manipulativ wirken – oder umgekehrt“, erläutert Mina Schütz. „Die Kombination verschiedener Signale ermöglicht eine fundierte Einschätzung.“ Im Hintergrund arbeiten 19 KI-Modelle zusammen, deren Ergebnisse gebündelt werden. Zusätzlich zeigt das System ein Konfidenzintervall für seine Ergebnisse an. Es gibt also selbst Auskunft darüber, wie hoch die Fehlerwahrscheinlichkeit ist.
Die gesellschaftliche Relevanz des Themas Hassrede und Desinformation sei in den vergangenen Jahren deutlich gestiegen, stellt Schütz fest: „Viele Menschen wissen nicht mehr, welchen Quellen sie vertrauen können.“ Dadurch wachse die Unsicherheit in der Gesellschaft. Besonders wichtig war der Informatikerin deshalb, den Menschen in die Analyse einzubeziehen. Über visuelle Datenanalyse („Visual Analytics“) können Anwenderinnen und Anwender selbst entscheiden, welche Informationen sie sich anzeigen lassen und wie tief sie in die Daten eintauchen möchten. In ersten Tests mit potenziellen Nutzergruppen erhielt das System positives Feedback. Noch handelt es sich allerdings um einen Prototyp. Für den breiten Praxiseinsatz sind weitere Entwicklungsarbeiten nötig.
Die Promotionsarbeit entstand am Promotionszentrum für Angewandte Informatik (PZAI) der h_da in Kooperation mit dem Austrian Institute of Technology (AIT). Ihre Forschung führt Mina Schütz am Center for Digital Safety & Security des AIT Austrian Institute of Technology fort.
Ausführlicher Artikel zum Thema im h_da-Wissenschaftsmagazin impact: https://impact.h-da.de/tool-gegen-hassrede-und-fake-news
Hochschule Darmstadt (h_da)
Die Hochschule Darmstadt (h_da) ist eine der größten deutschen Hochschulen für Angewandte Wissenschaften (HAWs). Sie bietet ihren aktuell 14.000 Studierenden ein praxisnahes und anwendungsorientiertes Studium in den Bereichen MINT, Wirtschaft und Gesellschaft sowie Architektur, Medien und Design. Viele Projekte und Inhalte in Studium, Forschung und gesellschaftlichem Transfer beschäftigen sich mit den Zukunftsthemen Nachhaltige Entwicklung, Mobilität und Digitalisierung. Die h_da betreibt ein eigenes Promotionszentrum Nachhaltigkeitswissenschaften und vergibt als erste und einzige deutsche Hochschule den akademischen Grad eines Doktors der Nachhaltigkeitswissenschaften. Visionär ist die europäische Hochschulallianz „European University of Technology (EUT+)“, der die h_da angehört: Gemeinsam mit acht weiteren Hochschulpartnern und gefördert von der EU-Kommission möchte die h_da zu einem neuen Hochschultyp zusammenwachsen – zur „Europäischen Universität“.
Website h_da: https://h-da.de
Website EUT+: https://www.univ-tech.eu
Ähnliche Pressemitteilungen im idw
