Achtung, Agenten!

Denkst du noch, oder hast du schon einen KI-Agenten? Auch wenn künstliche Intelligenz noch nicht die Weltherrschaft an sich reisst, dann aber doch sicher jene über das Internet.

Glaubt man den Experten, soll KI künftig nicht mehr nur hinter dem Bildschirm auf unsere Fragen warten – sie soll für uns handeln: den Kalender prüfen, Produkte vergleichen, Reisen buchen, Rechnungen bezahlen. Der Mensch gibt ein Ziel vor, der Agent erledigt den Rest. Weniger Bildschirmzeit, weniger lästige Entscheidungen, mehr Zeit für das Leben.

Schön wärs. Was uns stattdessen blühen könnte, ist eine Gesellschaft, die Entscheidungen aufgrund von Algorithmen trifft.

Cloudflare-CEO Matthew Prince erwartet, dass der von KI-Agenten erzeugte Internetverkehr bereits 2027 den grössten Teil des Datenverkehrs ausmachen wird. Allein im letzten Jahr nahmen die Webanfragen von KI-Agenten um mehr als 1700 Prozent zu. Im Internet werden immer weniger Menschen selbst suchen, klicken und entscheiden. Die Agenten erledigen das für uns und stellen damit ein Geschäftsmodell infrage, welches das Internet seit Jahren finanziert, denn: Agenten gucken keine Werbung.

Jonnie Penn, Professor für KI-Ethik und Gesellschaft an der Universität Cambridge, warnt vor weitreichenden Folgen. Das Geschäft mit den Agenten soll darin bestehen, das Verhalten der Nutzer zu kennen, zu manipulieren und vorherzusagen. Im besten Fall bucht der Agent uns unsere Traumreise zum besten Preis, im schlechtesten Fall beeinflusst er, was wir kaufen, wen wir wählen und wie wir denken.

Und dafür trägt niemand anderes die Verantwortung als wir selbst. Schliesslich können die Agenten nur mit den Informationen arbeiten, die wir ihnen geben.

Eine Warnung, die im Land der Datenschützer erstaunt. 2016 sorgten die für den Swisspass erhobenen Daten für Diskussionen. 2021 lehnte das Schweizer Stimmvolk die erste E-ID-Vorlage mit 64,4 Prozent Nein ab. Zurzeit wird über Gesichtserkennung im öffentlichen Raum gestritten. Die digitale Identität ist eine heikle Angelegenheit.

Doch Umfragen zeigen: Mehr als 76 Prozent der Schweizer Bevölkerung nutzen inzwischen KI-Chatbots. Diese Systeme erinnern sich an Gespräche und ergänzen mit jeder neuen Eingabe das Profil, das sie von ihrem Nutzer erstellen.

Wie so oft ist die Technologie schneller als die Regeln, die sie bändigen sollen. Gerade jetzt, wo die Leitplanken noch fehlen, sollten wir uns deshalb überlegen, wie viel unseres Lebens wir der Maschine überlassen wollen.

Zehn gesparte Minuten sind ein schlechter Tausch gegen den Preis, den wir für zu viel Vertrauen zahlen könnten: manipuliertes Kaufverhalten, algorithmisch beeinflusste Wahlentscheidungen, ein zerstörter Planet und eine Gesellschaft, die zunehmend verdummt.