Wer entwickelt die Zukunft?

Auch bei KI gilt: It’s a man’s world. Ob Chief Technology Officers an einem KI-Event im Zürcher Kreis 4 oder die Besetzung des Anthropic-Office am Bahnhofplatz: Überall sind mehrheitlich Männer am Werk. Das ist, gelinde gesagt, verheerend. Insbesondere wenn es um den Kern der künstlichen Intelligenz (KI) geht, die sogenannten Foundation-Models. Mehr als 80 Prozent der Entwickler sind männlich. Wenn die Basis für die KI-Modelle, die sich derzeit in der gesamten Wirtschaft einnisten, von einer homogenen Gruppe programmiert wird, birgt das ein erhebliches Klumpenrisiko.

Foundation-Models – auf Deutsch Basismodelle – sind keine klassischen Chatbots. Es sind grosse, vortrainierte KI-Modelle und das künftige Betriebssystem der Wirtschaft. Im Fall von Anthropic heisst das Foundation-Model Claude, die Zusätze «Haiku», «Sonnet» oder «Opus» definieren die Leistungsklasse. Entwickler bedienen sich an diesen Modellen und verfeinern sie für spezifische Zwecke. Banken, Spitäler oder Anwaltskanzleien bauen bereits heute Prozesse auf diesem Fundament auf. Das Problem liegt einerseits in den Datensätzen, in denen Männer historisch überrepräsentiert vorkommen und Frauen die «statistischen Ausreisser» sind. Andererseits liegt es bei den Entwicklern selbst, die mehrheitlich männlich sind.

KI-Modelle müssen «aligned», also ausgerichtet, werden. Entwickler definieren durch Leitplanken und manuelles Feedback, wie ein Modell abwägt und priorisiert, was es als relevant, neutral oder riskant einstuft. Wenn fast ausschliesslich Männer diese Weichen stellen, wird die KI unweigerlich auf männliche Geschäfts- und Lebensrealitäten hartcodiert. Und um das klarzustellen: Das gilt auch, wenn es zu 80 Prozent Entwicklerinnen wären.

Verzerrungen komplett auszumerzen, ist unmöglich. Auch im menschlichen Denken dienen Stereotypen als Anhaltspunkte der Orientierung. Der Unterschied: Ein Mensch kann sich seiner Vorurteile bewusst sein, umdenken und sein Handeln verändern. Einer KI, die tief in automatisierten Unternehmensprozessen sitzt, fehlt jede Selbstreflexion. Sie läuft weiter und reproduziert fröhlich die blinden Flecken ihrer Schöpfer.

Aus diesem Grund ist Diversität an der Entwicklerbank eine Notwendigkeit. Wenn eine KI-Lösung im Medizin- oder Rechtsbereich unbewusst an 50 Prozent der Bevölkerung vorbeidesignt wird, zementiert dies soziale und wirtschaftliche Ungerechtigkeiten. Zudem zeigen Studien, dass diverse Teams Probleme kreativer und innovativer lösen können. Zu was wäre also ein KI-Modell fähig, das aus unterschiedlichen Perspektiven programmiert wurde?

KI stellt bereits jetzt die Wirtschaft und die Gesellschaft auf den Kopf. Wer den Code und die Gewichtungen der Foundation-Models kontrolliert, programmiert womöglich die Infrastruktur der Zukunft. Unternehmen und Investoren sollten also am nächsten KI-Event nicht nur fragen, was das Modell alles kann. Sondern sich auch danach erkundigen, wer die Weichen gestellt hat.