fortiss und DKE entwickeln ersten Sicherheitsstandard für KI-Systeme
Ein Meilenstein in Richtung Zukunft: Die DKE (Deutsche Kommission Elektrotechnik Elektronik Informationstechnik) setzt neue Standards für Sicherheit, Vergleichbarkeit und Messbarkeit im Bereich Künstliche Intelligenz (KI) – mit dem ersten detaillierten Framework zur Entwicklung vertrauenswürdiger KI-basierter Systeme. Die Norm (Anwendungsregel) wurde unter Mitwirkung des Forschungsinstituts fortiss erarbeitet und findet internationale Beachtung.
Flugtaxis, voll automatisierte Autos, Smarthomes: Künstliche Intelligenz gilt als Technologie der Zukunft – kennt in der Gegenwart jedoch kaum klare Definitionen oder verbindliche Richtlinien. Dabei sind nachweisliche Sicherheit und verlässliche Standards wichtige Voraussetzungen, um das Vertrauen von Industrie und Verbraucher*innen in das immense Innovationspotenzial von KI nachhaltig zu gewährleisten.
Hierbei ist dem Normungsinstitut DKE ein Durchbruch mit internationalen Auswirkungen gelungen: Mit der Entwicklung des weltweit ersten nachprüfbaren Industriestandards für die Verifizierung der Sicherheit KI-basierter Systeme, der VDE-AR-E 2842-61 „Entwurf und Vertrauenswürdigkeit von autonom/kognitiven Systemen“. Als erste Norm mit der nötigen fachlichen Tiefe findet das unter Mit-Leitung des Forschungsinstituts fortiss entwickelte Framework bereits internationale Beachtung: In Japan möchte man die Norm unverändert übernehmen.
Ein verlässlicher Rahmen für die Potenziale Künstlicher Intelligenz
Als dritte digitale Technologiesäule neben Software und Hardware bietet KI herausragende Potenziale für Innovationen, u.a. in den Bereichen Mobilität, Medizin und Ressourcenschutz. Aktuell steht sie aber noch vor großen Herausforderungen, was die Bereitstellung und Einhaltung allgemeingültiger Sicherheitsstandards angeht. So kann die Entwicklung und Zulassung autonom/kognitiver Systeme etwa im Automobilbereich dabei helfen, Verkehrsaufkommen und Unfallrisiko drastisch zu reduzieren. Allerdings gibt es aktuell kein Verfahren, um die Sicherheit solcher Systeme nach verlässlichen Standards zu prüfen und zu verifizieren. Konkret bedeutet dies: Entwickler*innen sind zwar in der Lage, ein vollautomatisiertes Auto zu bauen. Nachweisen, dass dieses Fahrzeug unter allen Umständen sicher ist, können sie derzeit aber noch nicht. Dadurch wird der Prozess von der Forschung über die Entwicklung bis hin zur Zulassung in vielen Fällen verlangsamt oder von vorneherein gehemmt.
Was bislang fehlte, waren also ein strukturierter Entwicklungsansatz sowie eine verbindliche Anwendungsregel zur Erfassung, Auswertung und Verifizierung von Sicherheit bei KI-basierten Systemen. Zudem fehlte eine Schnittstelle, die KI-Entwicklung und Normierungskriterien gleichermaßen gerecht wird und nachweisen kann, dass etwa ein künstliches neuronales Netzwerk sicher funktioniert.
Klare Standards für kreative Entwicklungen
Diese Lücke hat das DKE mit der Anwendungsregel VDE-AR-E 2842-61 erstmals geschlossen. Denn die Norm setzt einen verlässlichen Sicherheitsstandard unter Berücksichtigung des aktuellen Forschungs- und Entwicklungsstands. Die sechsbändige Veröffentlichung (plus Anwendungsleitfäden) ebnet damit den internationalen Weg für eine strukturierte und nachweislich sichere Entwicklung von KI-basierten Systemen und stellt einen Referenz-Standard für KI-Prüfsiegel bereit.
Nach der Veröffentlichung eines solchen Standards kann diese Anwendungsregel durch Praxisanwendungen und Erfahrungen weiter verbessert werden, auch um die effiziente Nutzung durch kleine und mittelständische Unternehmen zu gewährleisten. Ziel ist es, die Entwicklung von sicherheitsfähiger KI zu ermöglichen, die verbindlichen Sicherheitsstandards entspricht, damit Industrie und Verbraucher*innen KI-basierten Systemen dasselbe Vertrauen entgegenbringen können wie Hardware- und Software-Lösungen. Die vorliegende DKE-Norm ist ein bedeutender und visionärer Schritt in diese Richtung.
Wissenschaftlicher Ansprechpartner:
Dr. Henrik Putzer
Kompetenzfeldleiter Trustworthy Autonomous Systems
fortiss GmbH
Landesforschungsinstitut des Freistaats Bayern
für softwareintensive Systeme
Tel: +49 152 55901040
E-Mail: putzer@fortiss.org
Originalpublikation:
fortiss Whitepaper Trustworthy Autonomous /Cognitive Systems zum Download: https://www.fortiss.org/fileadmin/user_upload/Veroeffentlichungen/Informationsmaterialien/fortiss_whitepaper_trustworthy_ACS_web.pdf
Weitere Informationen:
https://www.fortiss.org/aktuelles/details/kuenstliche-intelligenz-aber-sicher-ki-qualitaet-ist-jetzt-pruefbar Interview mit den fortiss Software-Experten Harald Rueß und Henrik Putzer. Die Münchner Wissenschaftler waren federführend an der Entwicklung der neuen Norm beteiligt.
Die semantisch ähnlichsten Pressemitteilungen im idw
