Neue ZEVEDI-Projektgruppe zu Künstlicher Intelligenz in regulierten Berufen (AIREP)
Eine neue Projektgruppe des Zentrums verantwortungsbewusste Digitalisierung ZEVEDI untersucht, wie sich der Einsatz von KI in Medizin, Recht und
Psychologie verantwortungsbewusst gestalten lässt.
In der medizinischen Diagnostik, der Psychotherapie, der Rechts- und Notariatspraxis oder der Steuerberatung gehört Künstliche Intelligenz zunehmend zum Arbeitsalltag. Sie soll genauer diagnostizieren als der Mensch, und Schriftsätze, Gutachten oder Mandantenkorrespondenz auf Knopfdruck verfassen - doch die Technik stößt immer wieder an Grenzen und macht Fehler. Solche Systeme neigen zu „Halluzinationen" und erfinden etwa Gerichtsurteile, die es nie gegeben hat. Wie genau ein Ergebnis zustande kommt, bleibt dabei im Arbeitsalltag eine Black Box.
Damit stellen sich grundlegende Fragen, gerade dort, wo gesonderte berufsrechtliche Regeln gelten. Sie verlangen mitunter eine menschliche Entscheidung und setzen so dem KI-Einsatz enge Grenzen. Dazu kommen die Vorgaben aus Datenschutzrecht, Arbeitsrecht und AI Act: Wer der Technik zu sehr vertraut, geht also haftungsrechtliche Risiken ein. Ethische, psychologische und soziale Fragen treten hinzu: Wann darf man erwarten, dass ein Mensch entscheidet, und unter welchen Bedingungen wird die Maschine akzeptiert?
Was macht es mit den Fähigkeiten und der Selbstbestimmung von Fachkräften, wenn sie ihre
Arbeit weitgehend an KI delegieren? Und wäre es klüger, statt auf fehlerfreie Technik zu setzen, einen souveränen Umgang mit Fehlern einzuüben, eine „error literacy"?
Diesen Fragen geht die neue Projektgruppe AIREP – AI and Regulated Professions am Zentrum verantwortungsbewusste Digitalisierung (ZEVEDI) nach. So soll geklärt werden, wie sich KI in regulierten Berufen so einsetzen lässt, dass die rechtlichen Sorgfalts- und Organisationspflichten gewahrt bleiben, die Erwartungen der betreuten wie der arbeitenden Menschen erfüllt werden und beide Seiten ihre Selbstbestimmung und ihre Kompetenzen behalten. Dafür verbindet das Vorhaben juristische Analyse, empirische Forschung, historische Quellenarbeit und Fallstudien aus der Praxis. Ziel ist ein bundesweit referenzfähiger Governance-Rahmen, das AIREP-Framework, das den verantwortungsbewussten Einsatz berufsspezifischer KISysteme beschreibt, samt klarer Rollenmodelle wie Human-in-the-Loop und Human-on-the-Loop.
„Künstliche Intelligenz hält in Bereiche Einzug, wo Entscheidungen weitreichende Folgen für Menschen haben, in der Medizin, im Recht oder in der Psychologie", sagt Prof. Dr. Lena Rudkowski (Justus-Liebig-Uni-versität Gießen), Sprecherin der Projektgruppe. „Uns interessiert, wie sich diese Systeme so einsetzen lassen, dass die Sorgfaltspflichten der Berufe gewahrt bleiben und die betroffenen Menschen sich darauf verlassen können, in ihrer Selbstbestimmung ernst genommen zu werden."
Der Projektgruppe gehören auch Prof. Dr. Domenik Wendt (Frankfurt University of Applied Sciences, stell-vertretender Sprecher), Prof. Dr. Martina Heßler (Technische Universität Darmstadt), Prof. Dr. Martin Kersting (Justus-Liebig-Universität Gießen), Prof. Dr. med. Sebastian Kuhn (Philipps-Universität Marburg und Universitätsklinikum Marburg) sowie Prof. Dr. Michael Leyer (Philipps-Universität Marburg) an. Damit bündelt das Vorhaben Perspektiven aus Recht, Psychologie, Medizin sowie Technikgeschichte und verdeut-licht die hessische Expertise zum Einsatz von KI in der Arbeitswelt.
Das Projekt startet im Juli 2026 und läuft bis Dezember 2027.
Weitere Informationen zur Projektgruppe sind unter https://zevedi.de/themen/airep/ verfügbar.
Das Zentrum verantwortungsbewusste Digitalisierung ZEVEDI ist ein Forschungs- und Kompetenznetz. Es bündelt die wissenschaftliche Expertise der hessischen Hochschulen zur Analyse normativer Aspekte des digitalen Wandels und trägt zur Gestaltung dieses Wandels bei. Das Zentrum konkretisiert Verantwortung als wichtigen Gesichtspunkt von Tech-nologieentwicklung und arbeitet daran, diesen umsetzbar zu machen. Es erbringt Forschungsleistungen, stärkt den Transfer von Wissen in die Wirtschaft und die Gesellschaft hinein und berät die Politik forschungsbasiert zu den Themen Recht, Ethik und Innovation – für eine demokratische und humane Ausrichtung des digitalen Wandels. Wissenschaftliche Direktorin des Zentrums ist Prof. Dr. Petra Gehring. Die Geschäftsstelle an der TU Darmstadt steht unter der gemeinsamen Leitung von Dr. Jörn Laakmann und Dr. Christian Person. ZEVEDI wird gefördert durch das Hessische Ministerium für Digitalisierung und Innovation.
Kontakt: office@zevedi.de, +49 6151-16 24739 Web: https://zevedi.de
Wissenschaftlicher Ansprechpartner:
Dr. Ilyas Özşen
Medien und Öffentlichkeit
Tel: +49 6151 16 24739
Mail: ilyas.oezsen@zevedi.de
Weitere Informationen:
https://zevedi.de/themen/airep/ Informationen zur Projektgruppe
Ähnliche Pressemitteilungen im idw
