Bremsen allein macht die KI nicht sicher

Vor gut einer Woche hat Anthropic-Chef Dario Amodei die KI-Branche dazu aufgerufen, das Tempo bei der Entwicklung ihrer Modelle zu drosseln. Innert Stunden haben ihm Sam Altman von Open AI und Elon Musk zugestimmt. Ein führender Sicherheitsforscher von Anthropic schätzt die Wahrscheinlichkeit auf über 10 Prozent, dass die KI die Menschheit in den nächsten zehn Jahren auslöscht. Einige halten die Warnungen für einen Marketing-Gag oder ein Mittel gegen die Konkurrenz. Das mag eine Rolle spielen, doch es wäre fahrlässig, die Warnungen damit abzutun.

Dies vor allem, weil niemand die künftigen Möglichkeiten und Gefahren von KI kennt. Und KI entwickelt zunehmend KI: Bei Anthropic leitet Claude nach Angaben der Firma rund einen Viertel der Forschung an den eigenen Modellen. Noch im Februar war es weniger als 1 Prozent gewesen. Dazu häufen sich die Beispiele, in denen KI Kontrollen umgeht und unabhängig agiert.

Doch selbst wenn die Warnungen ernst gemeint sind, bleibt ein Glaubwürdigkeitsproblem, denn die KI-Entwickler stecken in einem sogenannten Gefangenendilemma: Für alle wäre es besser, wenn alle bremsen. Für jeden Einzelnen aber lohnt es sich, Zurückhaltung zu versprechen und erst recht vorwärtszumachen, wenn sich die anderen daran halten – denn dann winkt die Marktdominanz.

Dass wir die schlimmsten Konsequenzen nicht ausschliessen können, darf aber nicht zu Fatalismus führen. Dabei gerät das Naheliegende leicht aus dem Blick: zum Beispiel eine Haftpflicht der KI-Anbieter für Schäden durch ihre Modelle. Sie verändert die Anreize im Dilemma, denn wer die Sicherheit vernachlässigt, trägt die Folgen selbst. Löscht die KI die Menschheit aus, macht Haftpflicht aber keinen Sinn – niemand könnte mehr belangt werden. Zudem liegen andere Risiken näher: eine totale Überwachung und bürokratische Kontrolle durch KI, wie sie der Historiker Yuval Noah Harari zu Recht betont – oder die Frage, was aus der Arbeit wird und wie sich Einkommen und Vermögen künftig verteilen.

Ob die KI-Entwicklung gebremst wird, entscheidet sich in den USA und in China – die Schweiz ist dabei Zuschauerin. Anders bei den näherliegenden Risiken: Wie Verwaltung und Unternehmen KI einsetzen, wie weit Überwachung gehen darf und wie der Arbeitsmarkt den Umbruch bewältigt, können wir hier selbst entscheiden.

Langsamer auf den Abgrund zuzugehen, ändert zudem wenig, solange offen bleibt, was mit der gewonnenen Zeit geschieht. Das gilt ebenso für den Ruf nach Regulierung: Der Staat kann auch so regulieren, dass die Gefahr grösser wird. Auch Regierungen haben problematische Anreize: die Bürokratie mit ihrem Drang nach Kontrolle, die Grossmächte im militärisch-strategischen Wettbewerb. Einen Ausweg bieten am ehesten überprüfbare Abkommen, wie einst bei der atomaren Rüstungskontrolle. Wer nur den Weltuntergang verhindern will, droht jene Gefahren zu übersehen, die vor unserer Haustür stehen.