20.06.2022 •

Beitrag zur Prüfbarkeit von sicherheitskritischen KI-Anwendungen veröffentlicht

Berlin, 24. Mai 2022 – Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut haben in einem gemeinsamen Whitepaper ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) vorgestellt. Die „Certification Readiness Matrix“ (CRM) beschreibt, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht. Hintergrund ist die geplante Regulierung von KI-Anwendungen in der Europäischen Union.

„Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“

sagt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim TÜV-Verband. Im Rahmen der KI-Verordnung wird geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden soll. Dazu zählen beispielsweise die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten.

Die Zertifizierungsmatrix stellt eine Methode zur Erfassung der Prüfbarkeit von Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wendet diese exemplarisch an. Sie berücksichtigt dabei den gesamten Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis zum Einsatz in der Praxis. Darüber hinaus beleuchtet sie verschiedenste Aspekte der IT-Sicherheit.

„KI-Systeme müssen verschiedene Anforderungen erfüllen, um als sicher und vertrauenswürdig gelten zu können“, sagt Gilroy. Dazu gehören neben dem Schutz vor gesundheitlichen Gefahren auch die Abwehr von Cyberangriffen, die Robustheit gegenüber sich ändernden äußeren Einflüssen oder die Erklärbarkeit von Entscheidungen des KI-Systems. Gilroy: „Wir glauben, dass sowohl Prüfer:innen als auch Entwickler:innen und Entscheidungsträger:innen in der Industrie, Forschung und in Behörden von der Certification Readiness Matrix profitieren können.“

Das Whitepaper und die darin abgebildete Certification Readiness Matrix sind im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfindet. Die Diskussionen und Beiträge des letztjährigen Fachforums sind als Impulse eingeflossen und weiterentwickelt worden.

„Das Whitepaper, aber auch die gemeinsamen Veranstaltungen sind Ausdruck einer sehr intensiven und ergebnisorientierten Zusammenarbeit dreier Kompetenzpartner auf Augenhöhe. Diese Kooperation wollen wir weiter ausbauen“, betont Gilroy.  

Das nächste Fachforum findet am 24. November 2022 statt. Am Vortag veranstaltet der TÜV-Verband die ebenfalls jährlich stattfindende „TÜV AI Conference“.

Das vollständige Whitepaper ist abrufbar unter: https://www.tuev-verband.de/meldungen/whitepaper-pruefbarkeit-ki-systeme


Über den TÜV-Verband:

Als TÜV-Verband e.V. vertreten wir die politischen Interessen der TÜV-Prüforganisationen und fördern den fachlichen Austausch unserer Mitglieder. Wir setzen uns für die technische und digitale Sicherheit sowie die Nachhaltigkeit von Produkten, Anlagen und Dienstleistungen ein. Grundlage dafür sind allgemeingültige Standards, unabhängige Prüfungen und qualifizierte Weiterbildung. Unser Ziel ist es, das hohe Niveau der technischen Sicherheit zu wahren, Vertrauen in die digitale Welt zu schaffen und unsere Lebensgrundlagen zu erhalten. Dafür sind wir im regelmäßigen Austausch mit Politik, Behörden, Medien, Unternehmen und Verbraucher:innen.


Mehr zu den Themen:

Verwandte Artikel

Kann Künstliche Intelligenz wertekonform sein?

Kann Künstliche Intelligenz wertekonform sein?

Um Systeme auf Basis Künstlicher Intelligenz erfolgreich und flächendeckend in den Markt einzuführen, gibt es eine bislang ungelöste Schlüsselfrage: Wie kann Vertrauen in die Entscheidungen von Algorithmen entstehen?

Künstliche Intelligenz: Wie sich ihr missbräuchlicher Einsatz verhindern lässt

Künstliche Intelligenz: Wie sich ihr missbräuchlicher Einsatz verhindern lässt

Künstliche Intelligenz (KI) unterstützt Menschen bereits heute im Alltag und verbessert Prozesse in Unternehmen und Behörden.

Axis Communications stellt zwei neue Dome-Kameras mit Deep Learning für den Außenbereich vor

Axis Communications stellt zwei neue Dome-Kameras mit Deep Learning für den Außenbereich vor

Ismaning, 2. Februar 2022 - Axis Communications kündigt zwei neue Dome-Kameras für den Außenbereich an, die auch bei rauen Umgebungs- und Wetterbedingungen eine hervorragende Bildqualität liefern. Sie basieren auf dem neuesten Axis...

:

Photo

PMRExpo 2022

Auch in diesem Jahr ist die internationale Fachmesse PMRExpo drei Tage lang der Treffpunkt aller Experten von den Behörden und Organisationen mit Sicherheitsaufgaben (BOS) sowie aus…