08.03.2024 •

Claudia Plattner sprach mit Sicherheitsfachleuten über hybride Gefahren durch KI

Auf der Münchner Sicherheitskonferenz sprach die Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, bei einer Diskussion unter dem Titel „HackGPT? Cybersecurity in the Age of Artificial Intelligence“ mit internationalen Sicherheitsexpertinnen und -experten sowie Entscheiderinnen und Entscheidern weltweit führender Technologieunternehmen. Die Fachleute diskutierten darüber, wie es gelingen kann, die Chancen Künstlicher Intelligenz zu nutzen und gleichzeitig die Risiken von KI im internationalen Sicherheitskontext zu reduzieren.

Claudia Plattner sprach bei der MSC 2024 mit FBI-Direktor Christopher A. Wray
Claudia Plattner sprach bei der MSC 2024 mit FBI-Direktor Christopher A. Wray
Quelle: BSI

Hybride Gefahren aus dem Cyberraum nehmen zu und wirken sich immer häufiger zu geopolitischen Risiken aus. Auch unter Zuhilfenahme Künstlicher Intelligenz gelingt es Angreifenden, immer schneller und effizienter zu agieren. Die Diskutanten waren sich darüber einig, dass man sich auch mit Blick auf viele in diesem Jahr anstehende Wahlen auf multiple Angriffsszenarien gefasst machen müsse, deren Ziel es sei, Chaos zu stiften und Vertrauen in Regierungen zu zerstören. So müsse man mit Cyberattacken auf Kritische Infrastrukturen in Kombination mit breit angelegten Desinformationskampagnen rechnen. Vor diesem Hintergrund sei eine enge und transparente Zusammenarbeit zwischen staatlichen Akteuren, Wirtschaft und Wissenschaft essentiell, um die Resilienz im Cyberraum signifikant zu erhöhen.

BSI-Präsidentin Claudia Plattner:

„Hinsichtlich Cyberbedrohungen im Zusammenhang mit Künstlicher Intelligenz kommt es darauf an, dass wir als Verteidiger mit den Angreifenden Schritt halten. Dafür sind drei Punkte entscheidend:

Erstens ist Geschwindigkeit von größter Bedeutung, zum Beispiel beim Umgang mit Sicherheitslücken. Eine neue Schwachstelle kann mit KI innerhalb weniger Tage oder sogar Stunden ausgenutzt werden. Wir müssen dafür sorgen, dass unsere Abwehrsysteme mindestens ebenso schnell und effizient funktionieren. Dabei kann KI uns helfen.

Der zweite entscheidende Faktor ist der Zugang zu und Umgang mit Informationen: Große KI-Sprachmodelle können durch prompt injections ausgetrickst werden, so dass sie sensible Informationen preisgeben. Wir müssen also sicherstellen, dass nur notwendige Informationen in KI-Werkzeugen wie LLMs gespeichert werden, und verhindern, dass Unbefugte durch KI sensible Informationen erlangen. Das erfordert gemeinsame Anstrengungen der Technologiekonzerne.

Der dritte Punkt ist Technologiekompetenz: Wir müssen die Herausforderung annehmen und schnellstmöglich sicherstellen, dass wir genügend Fachleute auf unserer Seite haben, die KI verstehen, um unseren Technologievorsprung halten zu können. Hierbei sind Kooperationen zwischen öffentlicher Hand und privater Wirtschaft, so genannte Public Private Partnerships, unabdingbar.“

Das BSI hat sein KI-Portfolio deutlich erweitert und ein Kompetenzzentrum eingerichtet, das sich mit Bewertungsverfahren, Regulierungsmaßnahmen und dem Schutz von Verbraucherinnen und Verbrauchern im KI-Kontext befasst. Das BSI betrachtet KI-gestützte Erkennungssysteme zur Cyberabwehr und forscht zu KI in Bereichen wie beispielsweise dem Finanz- und Gesundheitssektor, dem autonomen Fahren und in Bezug auf Technologien zur Sicherung des Grenzverkehrs.


Mehr zu den Themen:

Verwandte Artikel

BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im Automobil

BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im Automobil

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben in den vergangenen zwölf Monaten im gemeinsamen Projekt AIMobilityAuditPrep Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen...

BSI eröffnet 20. Deutschen IT-Sicherheitskongress: Cybersicherheit gemeinsam erhöhen

BSI eröffnet 20. Deutschen IT-Sicherheitskongress: Cybersicherheit gemeinsam erhöhen

Der BSI-Kongress, der unter dem Motto „Cybernation Deutschland: Kooperation gewinnt“ steht, findet am 7. und 8. Mai in Bonn statt.

Zukunft der sicheren Cloud: BSI tritt GovTech Campus bei

Zukunft der sicheren Cloud: BSI tritt GovTech Campus bei

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist dem GovTech Campus in Berlin beigetreten. Dieser fördert die Kollaboration zwischen Verwaltung, Technologie-Szene, Unternehmen, Wissenschaft und Zivilgesellschaft.

: