Fraunhofer HHI-Expert*innen betonen Potenzial von XAI für die Geowissenschaften
In einem neuen, in Nature Geoscience veröffentlichten Paper sprechen sich Expert*innen des Fraunhofer Heinrich-Hertz-Instituts (HHI) dafür aus, Methoden der erklärbaren künstlichen Intelligenz (XAI) verstärkt in den Geowissenschaften einzusetzen. Ziel der Forschenden ist es, die breitere Anwendung von KI in den Geowissenschaften (z. B. bei der Wettervorhersage) zu erleichtern, indem sie die Entscheidungsprozesse von KI-Modellen offenlegen und Vertrauen in deren Ergebnisse fördern.
Das Fraunhofer HHI, ein weltweit führendes Institut in der XAI-Forschung, koordiniert zudem eine von den Vereinten Nationen unterstützte globale Initiative, die die Grundlagen für internationale Standards für den Einsatz von KI im Katastrophenmanagement erarbeitet.
Künstliche Intelligenz eröffnet beispiellose Möglichkeiten, Daten zu analysieren und komplexe, nichtlineare Probleme in den Geowissenschaften zu lösen. Doch je komplexer ein KI-Modell wird, desto schwerer fällt es, seine Funktionsweise zu verstehen. Besonders in sicherheitskritischen Situationen wie Naturkatastrophen steht dieses fehlende Verständnis – und das daraus resultierende mangelnde Vertrauen in die Ergebnisse der Implementierung von KI-Anwendungen – im Weg.
XAI-Methoden bieten Einblicke in KI-Systeme und können daten- oder modellbezogene Probleme identifizieren. XAI kann beispielsweise ‚falsche‘ Korrelationen – Korrelationen, die für die spezifische Aufgabe des KI-Systems irrelevant sind und die Ergebnisse verfälschen können – in Trainingsdaten aufdecken.
„Vertrauen ist essenziell für die Akzeptanz von KI. XAI ist eine Lupe, die es Forschenden, politischen Entscheidungstragenden und Sicherheitsexpert*innen ermöglicht, Daten durch die ‚Augen‘ des Modells zu analysieren, sodass sie dominante Vorhersagestrategien und unerwünschte Verhaltensweisen verstehen können“, erklärt Prof. Wojciech Samek, Abteilungsleiter Künstliche Intelligenz am Fraunhofer HHI.
Die Autor*innen des Papers analysierten 2,3 Millionen arXiv-Abstracts geowissenschaftlicher Paper, die zwischen 2007 und 2022 veröffentlicht wurden. Dabei fanden sie heraus, dass nur 6,1 % der Artikel XAI nutzen – ein deutlicher Hinweis auf eine Lücke zwischen dem Potenzial des Ansatzes und seiner aktuellen Anwendung.
Um diese Lücke zu beleuchten, analysierten die Autor*innen Anwendungsfälle mit Schwerpunkt auf Naturkatastrophen, die von der Internationale Fernmeldeunion/ Weltorganisation für Meteorologie/ Umweltprogramm der Vereinten Nationen gestützten Fokusgruppe zu Künstlicher Intelligenz im Katastrophenmanagement zusammengestellt wurden. Durch eine Befragung der beteiligten Forschenden identifizierten sie Motivationsfaktoren sowie die größten Hürden.
Die Befragten gaben an, dass sie XAI-Methoden genutzt haben, um Vertrauen in KI-Anwendungen aufzubauen, neue Erkenntnisse aus den Daten zu gewinnen und Effizienz der KI-Systeme zu steigern. Als Implementierungshürden identifizierten die Autor*innen den hohen Aufwand sowie die benötigte Zeit und Ressourcen.
„XAI bietet klare Gewinne für die Geowissenschaften – von der Verbesserung zugrundeliegender Datensätze und KI-Modelle über das Identifizieren physikalischer Zusammenhänge in Daten bis hin zum Aufbau von Vertrauen bei Endnutzer*innen“, sagt Dr. Monique Kuglitsch, Innovationsmanagerin am Fraunhofer HHI und Vorsitzende der Global Initiative on Resilience to Natural Hazards Through AI Solutions (Globale Initiative zur Resilienz gegenüber Naturkatastrophen durch KI-Lösungen). „Ich hoffe, dass Geowissenschaftler*innen XAI-Methoden in ihre KI-Pipeline integrieren, sobald sie deren Vorteile erkennen.“
Um die Verbreitung von XAI in den Geowissenschaften zu fördern, gibt das Paper vier konkrete Empfehlungen:
1. Förderung der Nachfrage bei Stakeholder*innen und Endnutzer*innen nach erklärbaren Modellen.
2. Entwicklung umfassender Bildungsressourcen, um Geowissenschaftler*innen mit XAI-Methoden, ihren Funktionen und ihren Grenzen vertraut zu machen.
3. Aufbau internationaler Partnerschaften, um Geowissenschaftler*innen und KI-Expert*innen zusammenzubringen und den Wissensaustausch zu fördern.
4. Optimierung der Arbeitsabläufe, um KI-Anwendungen für Katastrophenmanagement und andere geowissenschaftliche Bereiche zu standardisieren und ihre Interoperabilität sicherzustellen.
Der Artikel wurde von Fraunhofer HHI-Expert*innen Monique Kuglitsch, Ximeng Cheng, Jackie Ma und Wojciech Samek sowie einer internationalen Gruppe von Co-Autoren verfasst: Jesper Dramsch, Miguel-Ángel Fernández-Torres, Andrea Toreti, Rustem Arif Albayrak, Lorenzo Nava, Saman Ghaffarian, Rudy Venguswamy, Anirudh Koul, Raghavan Muthuregunathan und Arthur Hrast Essenfelder.
Wissenschaftlicher Ansprechpartner:
Dr. Monique Kuglitsch
Innovationsmanagerin
+4915125350499
monique.kuglitsch@hhi.fraunhofer.de
Originalpublikation:
https://www.nature.com/articles/s41561-025-01639-x
Die semantisch ähnlichsten Pressemitteilungen im idw
