22.12.2022 •

BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im Automobil

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben in den vergangenen zwölf Monaten im gemeinsamen Projekt AIMobilityAuditPrep Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen in Kraftfahrzeugen erarbeitet.

BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im...
Quelle: © Chesky_W / GettyImages.de

Basierend auf wissenschaftlichen Erkenntnissen und bestehenden Standards wurden 50 technisch relevante Anforderungen an KI-Systeme zusammengestellt, eine erweiterbare Testumgebung für KI-Systeme entwickelt sowie die grundsätzliche Machbarkeit und praktische Umsetzbarkeit der Tests anhand ausgewählter Anwendungsfälle in einer Simulation demonstriert.

Mit dem Folgeprojekt AIMobilityAudit soll die praktische Umsetzung von Sicherheits-Checks für KI beim automatisierten Fahren vorangetrieben werden. Dabei werden konkrete Prüfkriterien und Handlungsempfehlungen erarbeitet, die künftig u.a. in die Entwicklung von Sicherheitstests für Kraftfahrzeuge einfließen sollen. Bis September 2024 wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als weiterer Projektpartner ist die TÜV Informationstechnik GmbH (TÜVIT) eingebunden, ein auf IT-Sicherheit spezialisiertes Unternehmen der TÜV NORD GROUP.

Aufbauend auf den Ergebnissen des Vorprojekts sollen im nun gestarteten Projekt AIMobilityAudit die Erprobung und Weiterentwicklung von Anforderungen, Methoden und Werkzeugen gezielt an zwei Use Cases durchgeführt werden. Ziel ist es, auf Basis der gewonnenen Erkenntnisse eine modulare Technische Richtlinie zu erstellen. Die Arbeiten an der Technischen Richtlinie sollen im kommenden Jahr aufgenommen werden. Sie kann dann beispielsweise als Grundlage für eine internationale Standardisierung bzw. Abstimmung, u.a. auf Ebene des UNECE World Forum for Harmonization of Vehicle Regulations, genutzt werden.

„Künstliche Intelligenz ist eine Schlüsseltechnologie für hochautomatisiertes Fahren“, sagt Dr. Georg Schneider, Leiter des ZF AI Labs am Standort Saarbrücken. „Um die enormen Chancen nutzen zu können, müssen wir uns auch sorgfältig mit den möglichen Risiken auseinandersetzen. Unser Anliegen bei ZF ist es, den Einsatz von künstlicher Intelligenz für die Mobilität der Zukunft nachvollziehbar, sicher und in jeder Beziehung vertrauenswürdig zu gestalten.“

Mehr zu den Themen:

Verwandte Artikel

Große Mehrheit fordert gesetzliche Vorgaben für sichere KI

Große Mehrheit fordert gesetzliche Vorgaben für sichere KI

83 Prozent der Bundesbürger:innen sind für eine Regulierung Künstlicher Intelligenz. TÜV-Verband begrüßt KI-Aktionsplan des Bundesforschungsministeriums.

GroupAlarm setzt auf der PMRExpo 2023 Maßstäbe für viele Neuerungen

GroupAlarm setzt auf der PMRExpo 2023 Maßstäbe für viele Neuerungen

Zur Eröffnung der diesjährigen PMRExpo steht die cubos Internet GmbH mit ihrer webbasierten Alarmierungslösung GroupAlarm bereit, um den Besuchern einige wegweisende Neuerungen zu präsentieren, die im Verlauf des Jahres 2023 erreicht wurden.

Künstliche Intelligenz: Bewertungstool zeigt, wie KI-Systeme nachhaltiger werden können

Künstliche Intelligenz: Bewertungstool zeigt, wie KI-Systeme nachhaltiger werden können

Mit der Einführung von ChatGPT hat die Künstliche Intelligenz (KI) einen Aufmerksamkeitsschub erhalten. Immer lauter wird auch vor den Risiken von KI gewarnt.

:

Photo

    Wir visualisieren Einsätze auf Ihrer Tafel

    Die Einsatzplanung ist eine der wichtigsten Arbeitsbereiche für alle Behörden und Organisationen mit Sicherheitsaufgaben. Sie ermöglicht eine optimale Vorbereitung auf die Einsatzsituation und…