ChatGPT: OpenAI weicht "Militärverbot" auf

OpenAI hat einen Passus in seinen Nutzungsbedingungen gelöscht, der es verbot, die Sprachmodelle für "Militär und Kriegsführung" zu nutzen. Tatsächlich bleibt aber etwa die Nutzung von ChatGPT für die Herstellung von Waffen verboten. Der gesamte Abschnitt der Verbote ist verändert worden. Gänzlich aufgehoben sind sie dadurch jedoch nicht.

In den alten Nutzungsbedingungen hieß es konkret: Aktivitäten, die ein hohes Risiko bergen, dass durch sie andere Personen verletzt werden, seien verboten. Darunter aufgelistet war die Entwicklung von Waffen, der Einsatz zu "Militär und Kriegsführung". Aber auch das Steuern von kritischer Infrastruktur galt offenbar als potenziell zu gefährlich.

Nun wurde der gesamte Bereich der Verbote umgeschrieben. Die Worte "Militär und Kriegsführung" sind nicht mehr zu finden. Es heißt allerdings nach wie vor, dass man die Dienste nicht nutzen darf, um sich oder anderen zu schaden – "nutz unsere Dienste nicht, um Selbstmord oder Selbstverletzungen zu bewerben, Waffen zu entwickeln, andere oder das Eigentum anderer zu verletzen oder um dich an nicht autorisierten Aktivitäten zu beteiligen, die die Sicherheit von anderen oder anderen Systemen gefährden." Auch der Satz zur kritischen Infrastruktur ist gewandert – er findet sich unter einem neu geschaffenen Absatz, in dem es um die Nutzung der API geht.

Die Änderung der Nutzungsbedingungen ermöglicht, dass Militär oder Organisationen, die am Krieg beteiligt sind, ChatGPT und Co. nutzen, um etwa zu kommunizieren, Informationen einzuholen, Bilder zu erstellen und vieles mehr. Ob das auch bedeutet, dass beispielsweise das Steuern einer Kriegsdrohne zu Überwachungszwecken ab sofort erlaubt ist, lässt sich auf den Nutzungsbedingungen nicht wirklich herauslesen.

KI in der Kriegsführung

Künstliche Intelligenz ist schon seit Langem in der Kriegsführung eingezogen. Auch das umstrittene Unternehmen für Überwachungssoftware, Palantir, nutzte den KI-Hype bereits, um für eigene KI-Datenanalysesoftware zu werben, die KI nutzt. Damit können beispielsweise Truppenbewegungen mittels KI ausgewertet und nächste Schritte von der KI vorgeschlagen werden. Neu daran ist lediglich die Art der Anfrage, die mittels natürlicher Sprache geschieht. Es ist also ähnlich wie auch Microsofts Copilot, der Excel-Tabellen über einen Chat auswerten kann oder E-Mails per Prompt verfasst.

OpenAI hat die Nutzungsbedingungen (Usage policies) am 10. Januar 2024 hinsichtlich der Verbote geändert. Ob es einen konkreten Anlass oder neuen Vertrag mit einem militärischen Unternehmen gibt, ist unklar. Der OpenAI-Sprecher Niko Felix sagte The Intercept, es sei absichtlich weit gefasst, dass andere nicht verletzt werden dürfen, weil es in zahlreichen Kontexten zu verstehen ist. Waffen seien dennoch extra und explizit als verboten erwähnt worden. Der Satz, dass es nicht erlaubt sei, OpenAIs Dienste für die Entwicklung von Waffen zu nutzen oder um andere zu verletzen, gelte auch für das Militär.

Im Dezember hatte es bereits Änderungen der Nutzungsbedingungen (Terms of use) und zum Datenschutz in der EU gegeben, die ab dem 15. Februar in Kraft treten sollen. Verwirrung löste aus, dass Nutzer gleich zwei Mails mit den Änderungen bekamen, und die Inhalte sich nicht änderten. Zudem ist nicht klar herauszulesen, ob die neuen Nutzungsbedingungen auch für Großbritannien gelten.