21.09.2023 •

Künstliche Intelligenz: Bewertungstool zeigt, wie KI-Systeme nachhaltiger werden können

  • AlgorithmWatch, IÖW und DAI-Labor der TU Berlin veröffentlichen Online-Bewertungstool für Organisationen, die Künstliche Intelligenz entwickeln oder einsetzen
  • Fragebogen ermöglicht Organisationen und Unternehmen, die sozialen, ökologischen und ökonomischen Nachhaltigkeitsauswirkungen ihrer KI-Systeme selbst einzuschätzen, wie es aktuelle Regulierungsvorhaben (KI-Verordnung der EU) vorsehen
  • Tool gibt Anregungen für Verbesserungen etwa zu den Themen inklusives und partizipatives Design, Ressourcenverbrauch, technische Verlässlichkeit und menschliche Aufsicht sowie Selbstbestimmung und Datenschutz
Künstliche Intelligenz: Bewertungstool zeigt, wie KI-Systeme nachhaltiger...
Quelle: Algorithm Watch

Mit der Einführung von ChatGPT hat die Künstliche Intelligenz (KI) einen Aufmerksamkeitsschub erhalten. Immer lauter wird auch vor den Risiken von KI gewarnt. Dabei geraten neben Risiken wie Diskriminierung oder Desinformation auch die wachsenden Ressourcenverbräuche für mehr Rechenleistung stärker ins Zentrum der Debatte. Für Organisationen ist es dabei nicht leicht, selbst einzuschätzen, welche Nachhaltigkeitseffekte ihre Systeme haben. Unterstützung bietet nun ein neues Onlinetool zur Bewertung der Nachhaltigkeit von KI. Organisationen, die KI selbst entwickeln oder einsetzen, können damit systematisch bewerten, welche Auswirkungen ihre KI-Systeme haben – sozial, ökologisch und ökonomisch. Das kostenlose Tool von AlgorithmWatch (AW), Institut für ökologische Wirtschaftsforschung (IÖW) und Distributed Artificial Intelligence Laboratory der Technischen Universität Berlin basiert auf einem Kriterien- und Indikatorenset für nachhaltige KI, das in dem Forschungsprojekt SustAIn mit Förderung durch das Bundesumweltministerium entwickelt wurde.

„KI-Systeme von personalisierten Nachrichtenfeeds oder Chat Bots bis hin zu maschinell optimierten Industrieprozessen sind mit vielfältigen Risiken verbunden. So gibt es etwa Fragen zur technischen Verlässlichkeit und menschlichen Aufsicht oder zu wachsenden Strom- und Wasserverbräuchen für Rechenprozesse“, sagt Digitalexpertin Friederike Rohde vom IÖW. „Mit dem Bewertungsinstrument wollen wir das Bewusstsein für Nachhaltigkeitseffekte verbessern und aufzeigen, an welchen Stellen Unternehmen ihre Systeme maschinellen Lernens verbessern können.“

In elf Schritten Nachhaltigkeit von KI bewerten

Über den gesamten Lebenszyklus komplexer KI-Systeme treten Nachhaltigkeitseffekte auf – vom Datenmodell und Systemdesign, über die Modellentwicklung und -nutzung bis hin zur Entsorgung der Hardware. In elf Schritten können sich KI-Verantwortliche in Organisationen durch den anonymen Fragebogen zur Selbsteinschätzung klicken und Angaben machen zu Kriterien wie Selbstbestimmung, Datenschutz oder kultureller Sensibilität, aber auch zum Monitoring von Ressourcenverbräuchen oder Treibhausgasemissionen.

Mit dem Kriterien- und Indikatorenset des SustAIn-Projektes wurde ein umfassender Ansatz entwickelt, mit dem die sozialen, ökologischen und ökonomischen Auswirkungen von KI-Systemen erfasst und bewertet werden können. Die wachsende Debatte um KI und Nachhaltigkeit braucht eine differenzierte Betrachtung und fundierte Erkenntnisse zu den Nachhaltigkeitsfolgen entlang des Lebenszyklus, so die Forschenden. Mit dem Onlinetool steht allen Organisationen die Möglichkeit offen, ihre KI-Systeme zu bewerten.

Tool vereinfacht Vorbereitung auf europäische KI-Verordnung

„Organisationen, die das Bewertungstool nutzen, erhalten in einem Auswertungsdokument Anregungen, wie sie ihre KI-Systeme verbessern und Risiken verringern können“, sagt Anne Mollen, Projektmanagerin von AlgorithmWatch. „Anforderungen an das Tracking von Energieverbräuchen und andere ökologische Auswirkungen werden voraussichtlich in der europäischen KI-Verordnung verankert sein, deshalb müssen Organisationen, die KI entwickeln und einsetzten, jetzt die Kompetenzen und Instrumente dafür aufbauen.“ Die geplante Verordnung der EU-Kommission zur Regulierung von KI-Systemen könnte ab dem Jahr 2026 zur Anwendung kommen und soll verhindern, dass KI für umstrittene Methoden eingesetzt wird.

Das Onlinetool zur Bewertung der Nachhaltigkeit von KI ist Teil des Projekts „SustAIn – Nachhaltigkeitsindex für Künstliche Intelligenz“, das in der Förderinitiative KI-Leuchttürme vom Bundesumweltministerium gefördert wird.



Mehr zu den Themen:

Verwandte Artikel

KI-SIGS: SZENARIS im Magazin physiopraxis

KI-SIGS: SZENARIS im Magazin physiopraxis

In der Aprilausgabe der Zeitschrift physiopraxis berichtet SZENARIS über Ergebnisse aus dem vom Bundesministerium für Wirtschaft und Klimaschutz geförderten Projekt „KI-SIGS: Bewegungstraining“.

TÜV-Verband begrüßt Annahme des AI Acts im EU-Rat

TÜV-Verband begrüßt Annahme des AI Acts im EU-Rat

AI Act schützt Gesellschaft vor negativen Auswirkungen von KI-Systemen. Etablierung eines Leitmarkts für sichere KI „Made in Europe“. TÜV-Verband fordert unbürokratische Umsetzung.

Künstliche Intelligenz

Künstliche Intelligenz

Generative KI wie ChatGPT und Co. haben den Stand der Technik erstmals einer breiten Öffentlichkeit demonstriert und KI in den Fokus der Öffentlichkeit gerückt.

:

Photo

UP KRITIS

Unsere moderne Gesellschaft ist auf die Versorgung mit Strom, Wasser, Lebensmitteln und weiteren essenziellen Gütern und Dienstleistungen angewiesen. Diese werden durch Betreiber Kritischer…

Photo

Nationales IT-Lagezentrum

Seit Februar 2024 ist das Nationale IT-Lagezentrum des BSI in seinen neuen Räumlichkeiten in Betrieb. Die Arbeitsplätze im Lagezentrum wurden verdoppelt und die neueste Medientechnik verbaut, um im…