Das Magazin für Innere und Äußere Sicherheit, Bevölkerungsschutz, Katastrophenhilfe und Kritische Infrastrukturen
Home
© Public Security

Bonn, 23.11.2020

Künstliche Intelligenz sicher gestalten: KI-Zertifizierung "Made in Germany"

Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart haben Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik (BSI), und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, heute eine Kooperationsvereinbarung unterzeichnet, um die Entwicklung einer KI-Zertifizierung "Made in Germany" voranzubringen. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können.

Dazu arbeiten die Kooperationspartner mit zahlreichen Partnern aus Deutschland und Europa zusammen. Als erstes großes Vorhaben im Rahmen der Kooperation startet Anfang 2021 das Flagship-Projekt "Zertifizierte KI" der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen KI.NRW. In dem Projekt legen unter anderem Unternehmen die konkreten Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch.

Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart (Mitte) haben BSI-Präsident Arne Schönbohm (rechts) und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, eine Kooperationsvereinbarung unterzeichnet.
© MWIDE/M. Hermenau


Künstliche Intelligenz (KI) ist eine wichtige Schlüsseltechnologie der Gegenwart. Intelligente Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von KI entscheidende Wettbewerbsvorteile erzielen können, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucherinnen und Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Das BSI und das Fraunhofer IAIS haben nun eine Kooperationsvereinbarung für die gemeinsame Entwicklung von Prüfverfahren unterzeichnet. Die Kooperation ermöglicht die intensive Zusammenarbeit von Expertinnen und Experten, um technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren.

"Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt. Als Gestalter einer sicheren Digitalisierung in Deutschland befasst sich daher auch das BSI intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben. Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert", sagt Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik BSI, Bonn.

"Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben. Jetzt gilt es, gemeinsam die Weichen Richtung Zertifizierung zu stellen und die wesentlichen Akteure zusammen zu bringen", sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, Sankt Augustin.

Bei der Weiterentwicklung der Prüfverfahren sollen Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessert werden. Dazu startet Anfang 2021 ein großes Flagship-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird. In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

"Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten. Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI Made in Germany‘ beiträgt", sagt Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen.

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Expertinnen und Experten des Fraunhofer IAIS bereits im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftlerinnen und Wissenschaftler aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper "Vertrauenswürdiger Einsatz von Künstlicher Intelligenz" publiziert.

Über Fraunhofer IAIS
Als Teil der größten Organisation für anwendungsorientierte Forschung in Europa ist das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS mit Sitz in Sankt Augustin bei Bonn eines der führenden Wissenschaftsinstitute auf den Gebieten Künstliche Intelligenz, Maschinelles Lernen und Big Data in Deutschland und Europa. Mit seinen rund 300 Mitarbeitenden unterstützt das Institut Unternehmen bei der Optimierung von Produkten, Dienstleistungen, Prozessen und Strukturen sowie bei der Entwicklung neuer digitaler Geschäftsmodelle. Damit gestaltet das Fraunhofer IAIS die digitale Transformation unserer Arbeits- und Lebenswelt.

Über KI.NRW
Die Kompetenzplattform KI.NRW baut Nordrhein-Westfalen zu einem bundesweit führenden Standort für angewandte Künstliche Intelligenz (KI) aus und etabliert das Land in internationalen Netzwerken. Als zentrale Landes-Dachorganisation für Künstliche Intelligenz vereint KI.NRW den Dreiklang aus Spitzenforschung, Innovation und Unternehmertum. Ziel ist es, den Transfer von KI aus der Spitzenforschung in die Wirtschaft zu beschleunigen, eine Leitregion für berufliche Qualifizierung in KI aufzubauen und Impulse im gesellschaftlichen Dialog zu setzen. Dabei stellt KI.NRW die Menschen und ihre ethischen Grundsätze in den Mittelpunkt der Gestaltung von Künstlicher Intelligenz. KI.NRW wird gefördert durch die Landesministerien MWIDE und MKW und geleitet von einem der europaweit führenden Forschungsinstitute auf den Gebieten der Künstlichen Intelligenz und des Maschinellen Lernens, dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS in Sankt Augustin.

Download zum Whitepaper
"Vertrauenswürdiger Einsatz von Künstlicher Intelligenz" >>>