30.01.2024 •

ChatGPT: OpenAI weicht "Militärverbot" auf

OpenAI hat einen Passus in seinen Nutzungsbedingungen gelöscht, der es verbot, die Sprachmodelle für "Militär und Kriegsführung" zu nutzen. Tatsächlich bleibt aber etwa die Nutzung von ChatGPT für die Herstellung von Waffen verboten. Der gesamte Abschnitt der Verbote ist verändert worden. Gänzlich aufgehoben sind sie dadurch jedoch nicht.

ChatGPT: OpenAI weicht Militärverbot auf
Quelle: pixabay

In den alten Nutzungsbedingungen hieß es konkret: Aktivitäten, die ein hohes Risiko bergen, dass durch sie andere Personen verletzt werden, seien verboten. Darunter aufgelistet war die Entwicklung von Waffen, der Einsatz zu "Militär und Kriegsführung". Aber auch das Steuern von kritischer Infrastruktur galt offenbar als potenziell zu gefährlich.

Die alte Version der Nutzungsbedingungen.
Die alte Version der Nutzungsbedingungen.
Quelle: heise

Nun wurde der gesamte Bereich der Verbote umgeschrieben. Die Worte "Militär und Kriegsführung" sind nicht mehr zu finden. Es heißt allerdings nach wie vor, dass man die Dienste nicht nutzen darf, um sich oder anderen zu schaden – "nutz unsere Dienste nicht, um Selbstmord oder Selbstverletzungen zu bewerben, Waffen zu entwickeln, andere oder das Eigentum anderer zu verletzen oder um dich an nicht autorisierten Aktivitäten zu beteiligen, die die Sicherheit von anderen oder anderen Systemen gefährden." Auch der Satz zur kritischen Infrastruktur ist gewandert – er findet sich unter einem neu geschaffenen Absatz, in dem es um die Nutzung der API geht.

Die neue Version der Nutzungsbedingungen.
Die neue Version der Nutzungsbedingungen.
Quelle: heise

Die Änderung der Nutzungsbedingungen ermöglicht, dass Militär oder Organisationen, die am Krieg beteiligt sind, ChatGPT und Co. nutzen, um etwa zu kommunizieren, Informationen einzuholen, Bilder zu erstellen und vieles mehr. Ob das auch bedeutet, dass beispielsweise das Steuern einer Kriegsdrohne zu Überwachungszwecken ab sofort erlaubt ist, lässt sich auf den Nutzungsbedingungen nicht wirklich herauslesen.

KI in der Kriegsführung

Künstliche Intelligenz ist schon seit Langem in der Kriegsführung eingezogen. Auch das umstrittene Unternehmen für Überwachungssoftware, Palantir, nutzte den KI-Hype bereits, um für eigene KI-Datenanalysesoftware zu werben, die KI nutzt. Damit können beispielsweise Truppenbewegungen mittels KI ausgewertet und nächste Schritte von der KI vorgeschlagen werden. Neu daran ist lediglich die Art der Anfrage, die mittels natürlicher Sprache geschieht. Es ist also ähnlich wie auch Microsofts Copilot, der Excel-Tabellen über einen Chat auswerten kann oder E-Mails per Prompt verfasst.

OpenAI hat die Nutzungsbedingungen (Usage policies) am 10. Januar 2024 hinsichtlich der Verbote geändert. Ob es einen konkreten Anlass oder neuen Vertrag mit einem militärischen Unternehmen gibt, ist unklar. Der OpenAI-Sprecher Niko Felix sagte The Intercept, es sei absichtlich weit gefasst, dass andere nicht verletzt werden dürfen, weil es in zahlreichen Kontexten zu verstehen ist. Waffen seien dennoch extra und explizit als verboten erwähnt worden. Der Satz, dass es nicht erlaubt sei, OpenAIs Dienste für die Entwicklung von Waffen zu nutzen oder um andere zu verletzen, gelte auch für das Militär.

Im Dezember hatte es bereits Änderungen der Nutzungsbedingungen (Terms of use) und zum Datenschutz in der EU gegeben, die ab dem 15. Februar in Kraft treten sollen. Verwirrung löste aus, dass Nutzer gleich zwei Mails mit den Änderungen bekamen, und die Inhalte sich nicht änderten. Zudem ist nicht klar herauszulesen, ob die neuen Nutzungsbedingungen auch für Großbritannien gelten.


Mehr zu den Themen:

Verwandte Artikel

DLR mit ei­nem neu­en In­sti­tut zur Si­cher­heit von Künst­li­cher In­tel­li­genz

DLR mit ei­nem neu­en In­sti­tut zur Si­cher­heit von Künst­li­cher In­tel­li­genz

Das Deutsche Zentrum für Luft- und Raumfahrt (DLR) wird ein Institut für KI-Sicherheit an den Standorten Sankt Augustin und Ulm aufbauen. Das hat der Senat des DLR am 3. Dezember 2020 beschlossen.

Rund 1,9 Mrd Euro Investition in die innere Sicherheit

Rund 1,9 Mrd Euro Investition in die innere Sicherheit

Dieser Auftrag ist eine der größten Investitionen in der Geschichte der Bundespolizei. Und es ist eine der größten Investitionen der Bundesregierung in die innere Sicherheit.

KI-SIGS: SZENARIS im Magazin physiopraxis

KI-SIGS: SZENARIS im Magazin physiopraxis

In der Aprilausgabe der Zeitschrift physiopraxis berichtet SZENARIS über Ergebnisse aus dem vom Bundesministerium für Wirtschaft und Klimaschutz geförderten Projekt „KI-SIGS: Bewegungstraining“.

:

Photo

Nationales IT-Lagezentrum

Seit Februar 2024 ist das Nationale IT-Lagezentrum des BSI in seinen neuen Räumlichkeiten in Betrieb. Die Arbeitsplätze im Lagezentrum wurden verdoppelt und die neueste Medientechnik verbaut, um im…