Bundesweite Vorreiterrolle: Wie Schleswig-Holstein ChatGPT nutzen will
Der Digitalisierungsminister kündigt den Einsatz von ChatGPT an. Die Landesdatenschutzbeauftragte will mit ihm nun Datenschutz- und IT-Sicherheitsfragen klären.
In Schleswig-Holstein soll ChatGPT künftig in der Verwaltung eingesetzt werden. Digitalisierungsminister Dirk Schrödter (CDU) gibt grünes Licht für den Einsatz der generativen Text-KI in der Landesverwaltung – nach den Regularien des IT-Einsatz-Gesetzes (ITEG):
"Der Einsatz von Sprachmodellen wie ChatGPT wird Verwaltungsprozesse revolutionieren", zeigt er sich sicher. "Die Zukunft der Verwaltung ist automatisiert, algorithmisiert, cloudifiziert und datenbasiert."
Die schleswig-holsteinische Landesdatenschützerin Marit Hansen legt dagegen kein Veto ein, sagt aber:
"Das kann nur funktionieren, wenn die Verwaltung auf einem verfassungsgemäßen, rechtskonformen, und fairen und gerechten Fundament aufbaut."
Es sei natürlich "okay", Chancen eines Einsatzes von ChatGPT für die Politik und die Verwaltung zu sehen, doch "Risiko beherrschen ist Pflicht". Aktuell würden auch große IT-Unternehmen keine GPT-Modelle übernehmen, da es dazu noch keine Zustimmung der Risiko- und Compliance-Teams gebe.
Reden und Zusammenfassungen
Gegenüber heise online erläuterte Dirk Schrödter, dass man die Möglichkeiten ausloten werde und dabei eine "bundesweite Vorreiterrolle" einnehmen wolle. Zunächst wolle man ChatGPT "zur vorbereitenden Recherche für Reden, Sachverhaltsdarstellungen oder von Vermerken" nutzen. Es sei wie Suchmaschinen "eine weitere Form der Recherchemöglichkeiten". Dahinter stehe die Hoffnung, die Verwaltungsarbeit effizienter gestalten zu können – "auch im Hinblick auf den bevorstehenden Fachkräftemangel".
Gerade da, wo es darum ginge, große Informationsmengen zusammenzufassen, sei eine "deutliche Beschleunigung beim Erzeugen von Überblicksdokumenten" möglich. Schrödter will dafür sorgen, dass die letzte inhaltliche Kontrolle von den Fachleuten vorgenommen wird:
"Es bleibt dabei, dass die von Systemen wie ChatGPT generierten Inhalte wie jede andere externe Quelle durch die Fachleute der Landesverwaltung überprüft werden müssen, bevor diese in die weitere Arbeit der Landesverwaltung einfließen können."
ChatGPT werde für Digitalisierungsminister Schrödter keine Witze oder Gedichte generieren, um dessen Reden zu garnieren. Es werde "auch keine Rede für mich schreiben, ohne dass ich sie inhaltlich oder politisch überprüft habe, bevor ich sie halte", versichert Schrödter gegenüber heise online. Die Kernkompetenz von ChatGPT sieht er darin, dass es aufgrund der "erkennbar umfangreichen Informationsbasis (...) zusätzlich wertvolle Hinweise zu Aspekten eines Themas" geben könne. Auch könne es Vorschläge zur inhaltlichen Verbindung und Überleitung zwischen Themen unterbreiten.
Legal-Tech-Anwendungen mit ChatGPT im Visier der Verwaltung
Die in der Legal-Tech-Branche diskutierten automatisierten Bußgeldbescheide und deren automatisierte Widersprüche sind aktuell kein Thema. So hält Schrödter eine direkte Anwendung in Verwaltungsverfahren und Fachanwendungen aktuell für nicht möglich. Grundsätzlich aber sei der Einsatz "höchst interessant": So klaffe "abseits klar algorithmisch entscheidbarer Sachverhalte und durchführbarer Verfahren" noch eine "Automations-Lücke".
Ziel des Ministers ist es, den "großen Schatz an Informationen und implizitem Wissen", der in den Akten und Informationssysteme schlummere, für Verwaltungsverfahren zu öffnen. Schrödter denkt hierbei konkret an Informationsdienste, die themenbezogene Dossiers automatisiert erstellen und aktualisieren können.
Die Gefahr, dass über Abfragen bzw. Prompts auch Firmen- und Verwaltungsgeheimnisse, personenbezogene Daten von Beschäftigten in den Datenpool von ChatGPT abfließen, thematisiert Schrödter nicht. Er verweist hier lediglich auf eine Freigabeempfehlung auf Basis des IT-Einsatz-Gesetzes (ITEG), in der auch die nötigen organisatorischen Maßnahmen im Bereich der Informationssicherheit und des Datenschutzes zusammengestellt wurden.
Lokale Umsetzung bei Dataport
Beim IT-Dienstleister Dataport seien die notwendigen Grundlagen geschaffen worden, um Lösungen auf Basis von generativer KI und insbesondere großen Sprachmodellen anbieten zu können. Schrödter:
"Wenn also Szenarien auftauchen, bei denen sensible Daten verarbeitet werden sollen, können wir dies projekthaft umsetzen."
Gegenüber heise online erklärte eine Sprecherin von Dataport, dass es sich hierbei möglicherweise um die Plattform für KI und Datennutzung namens dataportai gehe. Damit seien die technischen Voraussetzungen für die projekthafte Umsetzung von Anwendungsszenarien für den Einsatz von KI oder die Auswertung von großen Datenmengen geschaffen.
Landesdatenschutzbeauftragte nicht einbezogen
Aktuell hat die schleswig-holsteinische Staatskanzlei noch keine aufsichtsbehördlichen Fragestellungen erörtert. Gleichwohl werde man frühzeitig auf das Unabhängige Landeszentrum für Datenschutz (ULD) zugehen, kündigte Schrödter an. Die schleswig-holsteinische Landesdatenschutzbeauftragte Marit Hansen sagte heise online:
"Wir haben von der Freigabe der Nutzung von ChatGPT aus der Presse erfahren."
Selbstverständlich müssten stets die Anforderungen des Datenschutzrechts erfüllt werden, betont Hansen. Das Wichtigste sei:
"Ohne Rechtsgrundlage darf die Verwaltung keine personenbezogenen Daten an ChatGPT herausgeben, also keine Daten über Bürgerinnen und Bürger."
Sollte eine Rechtsgrundlage für eine derartige Verarbeitung existieren, würden sich zahlreiche weitere Fragen stellen, wie etwa zur Umsetzung von Informationspflichten gegenüber den betroffenen Personen, zur Wahrnehmung der Betroffenenrechte, zur Informationssicherheit und zu Datenschutz by Design & by Default.
Bereits im April 2023 hat das ULD zusammen mit anderen Landesbeauftragten für Datenschutz eine aufsichtsbehördliche Prüfung von ChatGPT begonnen. Es legte OpenAI, der Hersteller-Firma von ChatGPT, einen Fragenkatalog vor, um die für eine datenschutzrechtliche Bewertung notwendigen Auskünfte zu erhalten. Die Antwortfrist läuft noch. Das Verwaltungsverfahren wird über die seit Jahren etablierte Taskforce KI der Datenschutzkonferenz von Bund und Ländern koordiniert, auf europäischer Ebene über die neu gegründete Taskforce ChatGPT beim Europäischen Datenschutzausschuss.
Staatskanzlei muss sich Fragen stellen
Hansen kündigte gegenüber heise online an, dass nun auch die Staatskanzlei Fragen beantworten müsse, welche Grundlagen es für die ChatGPT-Freigabe gebe. Hansen:
"Dazu können beispielsweise eine Datenschutz-Folgenabschätzung, vertragliche Unterlagen mit Zusicherungen des Anbieters zu den Datenquellen, etwaigen Filtern oder zur eigenen Auswertung von eingegebenen Daten oder auch Dienstanweisungen gehören."
Besonders interessant wäre für die Datenschützer zu erfahren, wie Digitalisierungsminister Schrödter die versprochene Transparenz über die Nutzung erreichen wolle, wenn er ChatGPT für Reden und Vermerke nutze:
"Werden etwa sämtliche Prompts und sämtliche Ausgaben zur Akte genommen und sind auch von Akteneinsichtsgesuchen der Beteiligten umfasst?", fragt Hansen.
Das wäre bei Sachverhaltsdarstellungen und Vermerken "möglicherweise angemessen, weil die Exaktheit der Aussagen in der Regel von großer Relevanz ist". Denn es dürfe weder etwas Wesentliches vergessen noch etwas hinzugedacht werden. Derartige Fehler seien aber typisch für Sprachmodelle, die auf Sprache, aber nicht auf Wahrheit und Vollständigkeit von Fakten trainiert wurden.
