Vertrauenswürdige KI made in Mannheim
Wie können mit Künstlicher Intelligenz (KI) nachvollziehbare medizinische Entscheidungen getroffen werden? Damit beschäftigt sich ein neues Projekt an der Universität Mannheim, das vom Bundesministerium für Bildung und Forschung (BMBF) eine Förderzusage erhielt.
Wissensgraphen beeinflussen täglich unser Leben und doch sind sie in der Öffentlichkeit wenig bekannt. Wer beispielsweise auf einer Streaming-Plattform nach Filmempfehlungen sucht, hat die Antwort oft ihnen zu verdanken. Wissensgraphen stellen einen wesentlichen Aspekt der Künstlichen Intelligenz (KI) dar und beschreiben allgemein ein Modell, anhand dessen Informationen gesucht und miteinander verknüpft werden.
Ziel des von Prof. Dr. Heiko Paulheim geleiteten Forschungsprojekts LAVA ist es, Wissensgraphen, die in KI eingebaut werden, automatisiert zu erstellen und zu verbessern. Paulheim ist Inhaber des Lehrstuhls für Data Science an der Universität Mannheim und LAVA steht für „Lösungen für die Automatisierte Verbesserung und Anreicherung von Wissensgraphen“. Das Projekt setzt der Mannheimer Informatiker in Zusammenarbeit mit der Karlsruher Firma medicalvalues GmbH um, mit der er bereits seit 2023 in einem Projekt zur KI-basierten Erkennung von Diabetes kooperiert. Medicalvalues spezialisiert sich auf KI-Lösungen für medizinische Diagnostik in Laboren und Kliniken. Anders als bei Filmempfehlungen ist es auf diesem Gebiet unabdingbar, dass die eingesetzte KI verlässlich und vertrauenswürdig funktioniert.
Gemeinsames Projektziel von LAVA ist ein zertifiziertes Medizinprodukt, das es Ärzt*innen künftig erleichtern soll, schnelle und präzise Diagnosen zu erstellen. Im Falle einer seltenen Krankheit sollen künftig beispielsweise Daten wie Röntgenbilder, Blutwerte und weitere relevante Messungen zusammengeführt und mit Hilfe eines Wissensgraphen verknüpft werden, um dem behandelnden Mediziner oder der Medizinerin die Entscheidung über weitere Schritte zu erleichtern. Das Team um Paulheim steuert dazu Softwarebausteine bei, die es erlauben, diesen Wissensgraph stets aktuell und fehlerfrei zu halten.
„Unser Ziel ist es, wiederverwendbare, gut dokumentierte Komponenten für White-Box KI zur Verfügung zu stellen“, erklärt Paulheim. White-Box KI bezeichnet Modelle, die transparent machen, wie Entscheidungen zustande kommen – etwa durch die Nutzung von Wissensgraphen, die auch für Menschen verständlich sind. Die Nutzenden können also verstehen, welche Daten einer Entscheidung zugrunde liegen – anders als bei Black-Box Modellen wie Chat GPT, bei denen es nicht möglich ist, die Antworten nachzuvollziehen. „Eine KI ist erst dann vertrauenswürdig, wenn der Mensch jede Entscheidung nachvollziehen und bei Fehlentscheidungen eingreifen kann“, so Paulheim weiter. So solle es bei medicalvalues möglich sein, dass die KI künftig Erweiterungen des Wissensgraphen vorschlägt, jede dieser Erweiterungen aber von medizinischem Personal überprüft und gegebenenfalls korrigiert werden kann.
Mit seiner Idee konnte sich der Mannheimer KI-Entwickler bei einem DATIpilot-Pitch in Darmstadt unter 600 Teilnehmenden durchsetzen. Das Projekt erhält eine Förderung des Bundesministeriums für Bildung und Forschung (BMBF) in Höhe von insgesamt 300.000 Euro für die kommenden 18 Monate.
Zu DATIpilot
Die neue Förderlinie DATIPilot des BMBF zielt darauf ab, Innovationen in Verbindung mit Forschung zu fördern. Sie wendet sich an Akteur*innen aus Wissenschaft und Gesellschaft, die transferorientierte Projektideen zur Bewältigung aktueller gesellschaftlicher Herausforderungen realisieren möchten.
Für das Modul „Innovationssprint“ der Förderlinie, bei dem eine konkrete, kreative Transfer- oder Innovationsidee entwickelt wird, hatten sich insgesamt 3.000 Projekte mit einer Kurzskizze beworben. 600 dieser eingereichten Projektideen wurden als förderwürdig eingestuft und zu einem der deutschlandweit in acht Städten stattfindenden Pitch-Verfahren eingeladen – darunter in Darmstadt. Die dort vorstellenden Projektteams fungierten gleichzeitig als Jury und wählten ca. 25 Prozent der Projektideen für eine Förderung aus.
Kontakt:
Prof. Dr. Heiko Paulheim
Lehrstuhl für Data Science
Data and Web Science Group
Universität Mannheim
Tel.: +49 621 181-2652
E-Mail: heiko.paulheim@uni-mannheim.de
Yvonne Kaul
Forschungskommunikation
Universität Mannheim
Tel: +49 621 181-1266
E-Mail: kaul@uni-mannheim.de
Wissenschaftlicher Ansprechpartner:
Prof. Dr. Heiko Paulheim
Lehrstuhl für Data Science
Data and Web Science Group
Universität Mannheim
Tel.: +49 621 181-2652
E-Mail: heiko.paulheim@uni-mannheim.de
Weitere Informationen:
https://www.bmbf.de/bmbf/shareddocs/pressemitteilungen/de/2024/03/040324-DATI-Roadshow.html Pressemitteilung des BMBF
Die semantisch ähnlichsten Pressemitteilungen im idw
![](https://files.idw-online.de/loading.gif)