Tech-Chefs riskieren Zoff mit Wall Street und Trump

Die beiden Unternehmen, die die weltweit leistungsstärksten KI-Systeme entwickeln, versprechen Massnahmen, um die Entwicklung modernster KI-Modelle einzudämmen und so die Risiken dieser Technologie nach einer Reihe von Sicherheitslücken besser zu verstehen. In einem 3'800 Wörter umfassenden Schreiben vom Samstag erklärte Anthropic-CEO Dario Amodei - unterstützt von OpenAI-CEO Sam Altman und SpaceXAI-CEO Elon Musk -, dass die Entwicklung der fortschrittlichsten Systeme verlangsamt werden müsse, um zu verhindern, dass KI ausser Kontrolle gerät und katastrophalen Schaden anrichtet.

Amodei betonte in seinem Essay, dass eine Drosselung des Fortschritts der KI-Fähigkeiten nicht zwangsläufig zu geringeren Ausgaben oder einem geringeren Wachstum führen werde.

Jegliche Verzögerung oder Unterbrechung der Entwicklung sogenannter Spitzentechnologie wäre bei Investoren, die auf Milliardeninvestitionen durch den KI-Boom setzen, unerwünscht. Die Wall Street erwartet zudem potenziell rekordverdächtige Börsengänge von Anthropic und OpenAI, deren Erfolg massgeblich von den KI-Durchbrüchen der beiden Unternehmen abhängt.

Die Marktreaktion zeigte sich bereits am frühen Montagmorgen: Die Aktien der KI-Infrastruktur-Schwergewichte Samsung Electronics und SK Hynix fielen in Seoul um mehr als 4 Prozent, während der OpenAI-Investor SoftBank um 13 Prozent nachgab. Im Silicon Valley könnten auch Chiphersteller wie Nvidia, die von den gestiegenen Investitionen in Prozessoren für das Training und den Betrieb neuer KI-Modellgenerationen profitiert haben, unter Druck geraten. Unternehmen wie Amazon und Microsoft, die Anthropic und OpenAI KI-Cloud-Computing-Dienste anbieten, könnten die Folgen ebenfalls zu spüren bekommen.

«Diese beiden Unternehmen und ihre Pläne haben weitreichende Auswirkungen auf die gesamte Technologiebranche», so Mark Mahaney, Analyst bei Evercore ISI. «Sollten diese beiden Unternehmen ihre Ausgaben für Forschung und Entwicklung, Neueinstellungen und Investitionen drastisch kürzen, könnte dies erhebliche Auswirkungen auf die Finanzmärkte haben.»

Jeder Versuch, die Entwicklung zu behindern, birgt zudem das Risiko einer Gegenreaktion von US-Präsident Donald Trump, der seine Wirtschaftspolitik auf den aggressiven Ausbau der KI als Motor für die Schaffung von Arbeitsplätzen stützt und gewarnt hat, dass die USA technologisch China voraus sein müssen, um die nationale Sicherheit zu gewährleisten.

«Wenn wir von ‚Tempo‘ sprechen, meinen wir nicht ‹Stopp›», schrieb Altman am Sonntag in einem Beitrag auf X. «Die Unterstützung unserer Regierung benötigen wir für die internationale Koordination. Zunächst sollten wir aber selbst tun, was in unserer Macht steht.»

Am Sonntag spielte Trump die Idee weiterer Leitplanken herunter und bekräftigte seine frühere Position, dass die USA die KI weiter ausbauen müssen, selbst angesichts des wachsenden Widerstands im Inland gegen die für diese Technologie notwendigen Rechenzentren. «Wir sind China in Sachen KI voraus. Wir sind das technologisch fortschrittlichste Land der Welt, und ehrlich gesagt, möchte ich, dass das so bleibt, denn wer im Bereich KI die Nase vorn hat, hat die Welt im Griff», sagte Trump Reportern am Rande des Irish Open Golfturniers.

Die Angst vor den existenziellen Risiken der KI rückte letzte Woche in den Fokus der Öffentlichkeit, ausgelöst durch den Aufsehen erregenden Rücktritt des Anthropic-Mitarbeiters Jacob Coxon, der KI-Unternehmen vorwarf, im Streben nach fortschrittlichen Systemen «mit unserem Leben zu spielen». Coxons Rücktrittserklärung in den sozialen Medien fand grossen Anklang bei Dutzenden anderen KI-Forschern, die dazu aufriefen, die Entwicklung einer Technologie zu verlangsamen, die, wie er sagte, «uns alle bis zum Ende des Jahrzehnts umbringen könnte».

Noch bevor Coxons Botschaft die Runde machte, forderten Mitglieder des Kongresses bereits Massnahmen, um den grössten Risiken der KI mit neuen Schutzmechanismen entgegenzuwirken. Senator Bernie Sanders, ein unabhängiger Senator aus Vermont, der den Demokraten nahesteht, hat ein Verbot sogenannter superintelligenter KI vorgeschlagen. Andere Abgeordnete brachten die Idee eines Not-Aus-Schalters für KI ins Spiel, doch die Erwartungen sind gering, dass der tief gespaltene Kongress weniger als zwei Monate vor den Zwischenwahlen einen Konsens für ein bedeutendes Gesetz erzielen kann.

Trotz Milliardeninvestitionen in Technologieunternehmen warnen einige an der Wall Street vor möglichen katastrophalen Folgen der Technologie und den damit verbundenen weitreichenden Schäden. Greg Jensen, Chief Investment Officer von Bridgewater Associates und einer der ersten Investoren von OpenAI und Anthropic, äusserte sich besorgt über die rasanten Fortschritte im Bereich KI und warnte, die Welt riskiere, die Chance zu verpassen, verheerende Konsequenzen abzuwenden. «Solange die KI nicht anfängt, Menschen zu töten, werden wir - der Geschichte zufolge - leider nichts unternehmen», sagte Jensen im Bloomberg-Podcast «Odd Lots». «Das wird passieren, und es wäre viel besser, wenn wir uns vorher damit auseinandersetzen würden.»

Sowohl Anthropic als auch OpenAI planen einen Börsengang, doch Altman nannte in einem am Samstag veröffentlichten Interview mit Fortune die neuen Sicherheitsbedenken als Grund für eine Verschiebung des Börsengangs auf die Zeit nach diesem Jahr. Anthropic, das laut einer mit der Angelegenheit vertrauten Person einen Börsengang an der Nasdaq plant, hat noch nicht bekannt gegeben, ob Amodeis Bedenken den Börsengang beeinflussen werden. D

Angesichts des harten Wettbewerbs zwischen Anthropic, OpenAI und SpaceXAI - ganz zu schweigen von den chinesischen Konkurrenten - ist unklar, wie weit sie bei der Einführung neuer Beschränkungen oder Sicherheitsprüfungen gehen werden. Chinesische Unternehmen zeigen kaum Anzeichen einer Verlangsamung, da eine Reihe neuer KI-Modellveröffentlichungen in diesem Jahr den Vorsprung der USA verringert hat und Unternehmen wie DeepSeek und Z.AI Co. frisches Kapital einwerben, um den Fortschritt zu beschleunigen.

Analyst Mahaney von Evercore sagte, er erwarte keine wesentliche Verlangsamung seitens der US-Unternehmen und gehe davon aus, dass etwaige Sicherheitsprüfungen für hochmoderne Modelle in der Entwicklung «nur sehr geringe Auswirkungen auf das Umsatzwachstum» haben werden. Auch andere im Silicon Valley und an der Wall Street äusserten Skepsis hinsichtlich der Umsetzung durch US-Unternehmen.

Demis Hassabis, Chef-Wissenschaftler bei Alphabet und Mitbegründer von Google DeepMind, erklärte am Samstag in einem Beitrag auf X, dass Amodeis Essay zwar die «Richtung richtig» zeige, die «Details aber noch ausgearbeitet werden müssten».

Microsoft-Chef Satya Nadella sprach sich für ein «bewusstes Tempo» der KI-Entwicklung aus und kündigte an, sein Unternehmen werde am Montag einen eigenen Verhaltenskodex für KI-Modelle veröffentlichen. Analysten und Startup-Manager sind der Ansicht, dass Anthropic und OpenAI als Marktführer von umfassenden Regulierungsmassnahmen profitieren würden. «Je mehr Regulierung es jetzt gibt, desto schwieriger wird es für alle, mit ihnen zu konkurrieren», sagte Gil Luria, Analyst bei DA Davidson.