Abo
Künstliche Intelligenz

Der Bot wars! Das gilt, wenn die KI sich irrt

Ob im Job, bei der Versicherung oder im Postauto: KI ist im Alltag nicht mehr wegzudenken und trifft viele Entscheidungen. Und sie macht Fehler. Wer haftet dann?

Reto Vogt

Ein Algorithmus kann nicht zur Rechenschaft gezogen werden – oder?
Ein Algorithmus kann nicht zur Rechenschaft gezogen werden – oder?Magnific, Gemini/KI-generiert – Illustration: Fabian Widmer

Werbung

Kurz vor der Abreise seiner Tochter für einen Sprachaufenthalt in Frankreich erkundigt sich der Vater beim Mobilfunkanbieter GoMo über die Roaminggebühren im Land. Auskunft gibt ihm kein Mensch, sondern ein Computer. Genauer: ein von künstlicher Intelligenz gesteuerter Chatbot. Dieser «sagt» dem Vater, dass im Abo der Tochter bis zu drei Gigabyte Daten inklusive seien.
Obwohl die Teenagerin deutlich weniger davon verbraucht, erhält sie nach ihrer Rückkehr eine Roamingrechnung über 44 Franken. Der Vater reklamiert. Doch statt den Fehler einzugestehen, will GoMo die Kosten nur erlassen, wenn die Tochter zu einem fünf Franken teureren Abo wechselt. Erst nachdem sich das SRF-Konsumentenmagazin «Espresso» eingeschaltet hat, lenkt der Mutterkonzern Salt ein. Der Chatbot hatte zwei Informationen verwechselt, weshalb das Geld nun doch zurückerstattet wird.

Werbung