Hacking als PR-Instrument

Bereits das Bild lässt Böses erahnen: Sam Altman in den Klauen des Marvel-Bösewichts Venom. Schwarze Tintenfischarme winden sich um ihn und halten ihn fest. Die Schlagzeile dazu verkündet: Ein KI-Agent von Open AI ist «ausgebrochen» und hat eine andere KI-Firma gehackt.

Die von Sci-Fi-Romanen geprägte Gesellschaft frisst diesem Narrativ aus den Händen: Die Technologie, die ihrem Schöpfer entschlüpft und Böses vollbringt, bietet seit «Frankenstein» Stoff für grossartige Geschichten. Doch es bleiben Geschichten.

In Wirklichkeit testete Open AI einen Agenten darauf, wie gut er Aufgaben im Cybersicherheitsbereich lösen kann. Bei diesem Test schalteten sie die Sicherheitsleitplanken des KI-Modells GPT-5.6 Sol und eines noch unveröffentlichten Modells aus. Der Agent sollte eine bestimmte Cyberbenchmark lösen. Das Modell bestand den Test. Es fand eine unbekannte Sicherheitslücke, nutzte sie, um tiefer ins Netzwerk einzudringen, und erweiterte seinen Zugang immer weiter. Am Ende war es im Internet und griff Hugging Face an, eine Plattform für KI-Modelle. Diese bemerkte den unerlaubten Zugriff, wehrte ihn ab und veröffentlichte die Details. Eine Woche später war klar: Hinter dem Angriff steckte Open AI. Die Firma ordnete einen Test an, bei dem die KI hacken sollte – und die KI tat es besser als erwartet.

In den Worten von Open AI war es ein «beispielloser Cybervorfall mit hoch entwickelten Cyberfähigkeiten». Weiter spricht die Firma von einem KI-Agenten, der «extrem darauf fokussiert war», diese eine sogenannte Exploit-Stelle zu finden. Dabei bedient sich das Unternehmen des rhetorischen Musters der Anthropomorphisierung und weist dem Modell eigene Handlungsfähigkeit und Intentionen zu. Ein sprachlicher Schachzug, um den eigenen Hals aus der Schlinge zu ziehen. Denn was da passierte, war ein Hackerangriff.

Ein Cyberangriff ist ein Straftatbestand. Menschen gehen dafür ins Gefängnis oder zahlen mindestens saftige Bussen. Open AI macht daraus einen PR-Fall. Und das ziemlich offensichtlich: Im erwähnten Schreiben inszeniert sich die Firma als Vorkämpferin der Sicherheitsforschung und verkündet eine Partnerschaft mit Hugging Face, dem angegriffenen Unternehmen. Damit bedient sich Open AI plump der Strategie, mit der Erzrivale Anthropic im Frühjahr viel Aufmerksamkeit einheimste. Das Modell Mythos wurde als zu gefährlich dargestellt, um veröffentlicht zu werden. Noch heute haben nur ausgewählte Firmen Zugang dazu, um ihre eigenen Systeme aufzurüsten. Anthropic war plötzlich überall.

Open AI kann den Aufwind gebrauchen. Die Firma hat eine Klage von Apple im Haus, musste den breit antizipierten Börsengang verschieben und wurde von Anthropic als wertvollste KI-Firma vom Thron gestossen. Sicherheitsbedenken nun für PR zu instrumentalisieren, ist da naheliegend – und unverantwortlich. Denn die sprachlichen und generierten Bilder von wild gewordenen KI-Modellen lenken vom eigentlichen Kern der Diskussion ab. Wer haftet für die Modelle, wenn nicht der Entwickler dahinter, der sie auf diese Reise schickte?