31.05.2024 •

Künstliche Intelligenz

Künstliche Intelligenz (KI) ist eine der Schlüsseltechnologien unserer Zeit. Generative KI wie ChatGPT und Co. haben den Stand der Technik erstmals einer breiten Öffentlichkeit demonstriert und KI in den Fokus der Öffentlichkeit gerückt. Algorithmen helfen Mediziner:innen bei der Diagnose von Krankheiten, Verbraucher:innen beim Energiesparen oder Singles bei der Wahl der Partner:innen. Autonomes Fahren und neue Mobilitätskonzepte wären ohne KI nicht denkbar. Das bedeutet aber auch: Die Risiken durch fehlerhafte KI-Anwendungen, Eingriffe in die Privatsphäre oder Cyberangriffe steigen.

Künstliche Intelligenz
Quelle: Adobe Stock

Viele KI-gestützte Systeme sind für Nutzer:innen wie eine „Blackbox“, deren Funktionsweise sie weder nachvollziehen noch verstehen. Sie müssen darauf vertrauen, dass die Anbieter dieser Systeme höchste Sicherheitsstandards einhalten. Deshalb engagieren sich der TÜV-Verband und seine Mitglieder dafür, prüfbare Sicherheitsstandards zu etablieren, die KI-Anwendungen gleichzeitig transparent und sicher machen. Dazu sind auf politischer Ebene noch einige Schritte notwendig: Sicherheitsstandards müssen formuliert, ethische Fragen geklärt, Prüfszenarien entwickelt und Institutionen für deren Umsetzung benannt werden.

KI BRAUCHT STANDARDS

Wie wichtig Vertrauen und Sicherheit für den Erfolg von Künstlicher Intelligenz sind, hat die KI-Umfrage des TÜV-Verbands gezeigt: Vier von fünf Bundesbürger:innen fordern ein von unabhängigen Stellen vergebenes Prüfzeichen für Künstliche Intelligenz, um das Vertrauen in die Technologie zu stärken. Der TÜV-Verband unterstützt daher den Einsatz von Künstlicher Intelligenz zum Nutzen der Gesellschaft und setzt sich mit seinen Mitgliedern dafür ein, die Qualitäts- und Sicherheitsstandards von KI-gestützten Systemen zu verbessern. Insbesondere für den Einsatz von KI-Systemen mit einem hohen Risiko für den Menschen sollten verbindliche Sicherheitsstandards gelten, deren Einhaltung von unabhängigen Prüforganisationen überwacht wird. Denn erst durch die sichere Anwendung KI-gestützter Systeme wird die notwendige gesellschaftliche Akzeptanz für ihren Einsatz geschaffen.

Ein wichtiger Baustein für Vertrauen in Künstliche Intelligenz ist der von der EU-Kommission vorgeschlagene AI Act. Die darin vorgeschlagene risikobasierte Regulierung ist richtig. Der TÜV-Verband äußert sich regelmäßig zum notwendigen Änderungsbedarf beim aktuellen Regulierungsvorschlag.

TESTZENTREN FÜR KÜNSTLICHE INTELLIGENZ

Bei einer komplexen Technologie wie Künstlicher Intelligenz reicht es nicht aus, Gesetzestexte zu formulieren. Die praktische Umsetzung der KI-Regulierung muss schon jetzt vorangetrieben werden. Die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen ist ebenfalls eine Aufgabe des AI Labs. Hier finden Sie alle weiteren Informationen zum Thema.

Der TÜV-Verband engagiert sich seit längerem für die Einrichtung von interdisziplinären „AI Quality & Testing Hubs“ auf Länder- und Bundesebene.  Auch die Ausbildung von Fachkräften soll dort vorangetrieben werden, genauso wie die Umsetzung von Forschungsvorhaben. Kleineren und mittelständischen Unternehmen können sie als Anlaufstelle bei der Umsetzung der anstehenden KI-Regulierung dienen. Der „AI Quality & Testing Hub“ wurde vom TÜV-Verband gemeinsam mit dem VDE initiiert. Die Bundesländer Berlin, Hessen und Nordrhein-Westfalen haben bereits konkrete Aktivitäten gestartet, um die „AI Quality & Testing Hubs“ in ihren Ländern umzusetzen bzw. mit Förderprojekten zu unterstützen.


Regelmäßig diskutieren wir diese Themen gemeinsam mit führenden Expert:innen aus Politik, Wissenschaft und Wirtschaft bei der alljährlichen TÜV AI Conference. Alle Informationen zur aktuellen Konferenz finden Sie hier.


Mehr zu den Themen:

Verwandte Artikel

KI-SIGS: SZENARIS im Magazin physiopraxis

KI-SIGS: SZENARIS im Magazin physiopraxis

In der Aprilausgabe der Zeitschrift physiopraxis berichtet SZENARIS über Ergebnisse aus dem vom Bundesministerium für Wirtschaft und Klimaschutz geförderten Projekt „KI-SIGS: Bewegungstraining“.

TÜV-Verband begrüßt Annahme des AI Acts im EU-Rat

TÜV-Verband begrüßt Annahme des AI Acts im EU-Rat

AI Act schützt Gesellschaft vor negativen Auswirkungen von KI-Systemen. Etablierung eines Leitmarkts für sichere KI „Made in Europe“. TÜV-Verband fordert unbürokratische Umsetzung.

Nur jedes achte Unternehmen bietet Fortbildungen zu Künstlicher Intelligenz

Nur jedes achte Unternehmen bietet Fortbildungen zu Künstlicher Intelligenz

TÜV Weiterbildungsstudie zeigt Defizite beim Zukunftsthema KI. Hoher Bedarf an Fortbildungen zu Führungskompetenzen und Soft Skills. Ökologische und soziale Nachhaltigkeit wird Top-Thema.

:

Photo

Nationales IT-Lagezentrum

Seit Februar 2024 ist das Nationale IT-Lagezentrum des BSI in seinen neuen Räumlichkeiten in Betrieb. Die Arbeitsplätze im Lagezentrum wurden verdoppelt und die neueste Medientechnik verbaut, um im…