Historiker Yuval Noah Harari: «Sie haben gelernt, unser Gehirn zu hacken»

Sie haben immer wieder vor der Gefahr durch einen neuen Weltkrieg, den ökologischen Kollaps und die negativen Auswirkungen disruptiver Technologien wie der künstlichen Intelligenz (KI) gewarnt.

Alles andere – ohne die aktuelle Relevanz von Themen wie Terrorismus oder Migration kleinreden zu wollen – verblasst neben diesen drei existenzbedrohenden Themen völlig.

Ein düsterer Ausblick. Haben Populisten am Ende doch recht, wenn sie von einer Vergangenheit sprechen, in der alles besser war?

Was die Populisten anbieten, sind nostalgische Fantasien. Als Historiker kann ich dazu nur sagen: Die Vergangenheit wird nicht wiederkehren. Und selbst wenn: Die meisten Epochen waren keine angenehmen Zeiten. Für den Menschen ist nun die beste Zeit. Für Tiere und den Rest des Ökosystems eher nicht. Aber diese Erkenntnis sollte uns nicht selbstgefällig und selbstsicher machen. Im Gegenteil.

Wie werden Historiker dereinst auf 2021, das Jahr nach Beginn der Pandemie, schauen? Ist es der Beginn der «Goldenen Zwanziger» mit Fortschritt, Wachstum und Aufbruchsstimmung? Oder stehen wir vor einem dystopischen Jahrzehnt mit Klimawandel, alternden Gesellschaften und übergriffigen Tech-Konzernen?

Geschichte ist nicht deterministisch; was in den nächsten Jahren passieren wird, hängt von unseren Entscheidungen ab. Dabei müssen wir uns vor allem klarmachen, dass die Menschheit die Krisen der Zukunft nicht auf nationaler Ebene lösen kann, das sehen wir vor allem an der Klimakrise. Ich beobachte mit Sorge, dass viele Menschen hier gerade ihre Haltung ändern: von Unwissenheit oder gar Leugnung hin zu einer Art Weltuntergangsstimmung. Dabei ist es noch nicht zu spät, etwas zu unternehmen.

Was schlagen Sie vor?

Wenn die Welt zwei Prozent der globalen Wirtschaftsleistung in die Entwicklung grüner Technologien und umweltfreundlicher Infrastruktur investieren würde, könnte das ausreichen, einen katastrophalen Wandel des Klimas zu verhindern. Mir ist klar, dass wir dabei über eine gewaltige Summe sprechen. Aber würde ein neuer Weltkrieg ausbrechen, gäben Länder noch viel mehr für ihre Verteidigung aus. Zwei Prozent des globalen BIP sind machbar, zumal das Geld ja nicht verbrannt wird. Es wäre eine Investition in Jobs, Technologie und Infrastruktur. Schlägt die Welt jetzt diesen Weg ein, kann es sogar ein sehr hoffnungsvolles und positives Jahrzehnt werden.

Die Basis dafür wäre eine viel engere internationale Zusammenarbeit. Nun hat aber gerade die Pandemie gezeigt, dass Wissenschaftler zwar weltweit kooperieren können, doch Staaten gelingt es eher nicht. Warum sind Sie so optimistisch, dass es in der Klimakrise besser laufen wird?

Ich bin nicht optimistisch. Ich sage nur, dass wir es versuchen sollten, weil es unsere einzige Chance ist. Leider ist die menschliche Dummheit eine der mächtigsten Kräfte der Geschichte. In der Pandemie erlebten wir einen wissenschaftlichen Triumph, gepaart mit einem politischen Desaster. Die Wissenschaftler haben weltweit zusammengearbeitet, um das Virus zu entschlüsseln und um Impfstoffe zu entwickeln. Die Politik dagegen hat ein schlechtes Bild abgegeben. Seit dem Ausbruch der Krise sind fast zwei Jahre vergangen, und wir haben immer noch keinen globalen Aktionsplan, wie wir die gesamte Menschheit vor dieser Pandemie schützen können und wie wir mit den wirtschaftlichen Folgen umgehen.

Dahinter steht die Frage, ob der Mensch überhaupt in der Lage ist, sein Überleben zu sichern. Was können wir aus der Vergangenheit darüber lernen?

Es gibt verschiedene Lehren. Zum einen haben Menschen mehr Fähigkeiten als je zuvor in der Geschichte. Wenn man die Covid-Pandemie mit früheren Pandemien wie der Grippe von 1918 vergleicht, dann wusste man damals nicht, was die Krankheit verursachte und wie man sie aufhalten konnte. Heute verfügen wir über die notwendigen Instrumente. Andererseits sind genau die Werkzeuge, die wir entwickelt haben und die uns heute Macht verleihen, auch die Quelle einer neuen Art von Bedrohung für unser Überleben. Ob es sich nun um eine physische Bedrohung wie den Klimawandel handelt, der durch unsere Erfindungen, unsere Industrie und unsere Technologie verursacht wird, oder um die noch kompliziertere Bedrohung durch disruptive Technologien wie KI oder Biotechnologie. Es handelt sich um eine völlig neue Art von Bedrohung, der sich die Menschen in der Vergangenheit nie stellen mussten.

Mit Hilfe von synthetischer Biotechnologie können Menschen neues Leben schaffen – ist das der grösste Unterschied zwischen dem 20. und dem 21. Jahrhundert?

Ja. Wir können nicht nur die Welt ausserhalb von uns kontrollieren und verändern, die Tiere, die Wälder, die Flüsse. Wir entschlüsseln auch zunehmend den Körper und das Gehirn und unseren genetischen Code und lernen, wie wir den Menschen manipulieren und verändern können. Wir gehen sogar noch weiter als der Gott des Alten Testaments, der es nur geschafft hat, organische Wesen zu erschaffen, wie Giraffen, Quallen, Bananen und den Menschen. Aber wir können all diese organischen Lebewesen nicht einfach nur umgestalten. Mit der synthetischen Biotechnologie sind wir in der Lage, etwas zu erschaffen, das es nie zuvor gegeben hat, nämlich nichtorganische Wesen. Wenn wir mit diesen immensen Kräften falsche Entscheidungen treffen, dann ist nicht nur die Zukunft der Menschheit gefährdet, sondern die Zukunft des Lebens auf diesem Planeten. Es ist also eine immense Verantwortung. Und wenn ich mich umschaue, dann sehe ich leider keine Anzeichen für die Art von globaler Zusammenarbeit, die wir in diesen Fragen dringend bräuchten.

Was muss denn passieren, damit Länder anfangen, bei einem solchen Thema zusammenzuarbeiten?

Ich bin kein guter Politiker.

Was lehrt uns die Geschichte?

Wenn Nationen beginnen, den Schmerz einer Krise wirklich zu spüren, dann werden sie wahrscheinlich aufwachen und erkennen, dass etwas getan werden muss.

Dann könnte es in der Klimakrise allerdings zu spät sein.

Das macht diese Krise politisch so kompliziert: Man hat die Bedrohung, anders als bei einem Krieg oder einer Pandemie, nicht unmittelbar vor Augen. In einem Krieg fokussieren die Menschen ihre Gedanken. Uns fehlt ein Narrativ, eine sinnstiftende Erzählung. Die Politik wird sehr oft durch solche Narrative bewegt, damit die Bevölkerung bereit ist, ihre politischen Prioritäten zu ändern.

Kann die Klimakrise durch technologische Innovationen abgewendet werden? Oder muss sich das Verhalten der Menschen radikal ändern?

Ich würde mich für die technologische Option entscheiden, einfach weil es sehr lange dauert, das menschliche Verhalten grundlegend zu ändern. Die Zeit haben wir aber nicht. Und ich denke auch, dass es kontraproduktiv und gefährlich ist, die Schuld auf das Verhalten Einzelner zu schieben, weil sie beispielsweise ein Flugzeug genommen haben. Dadurch lenkt man von den wahren Ursachen des Problems ab, nämlich den Prioritäten und Entscheiden von Firmen und Regierungen.

In der Pandemie haben die Menschen ihr Leben digitalisiert. Das macht vieles bequemer. Sie werden dadurch aber auch durchschaubarer. Wie wird dieses beginnende Zeitalter des Überwachungskapitalismus die Gesellschaft verändern?

Die Entwicklung ist besorgniserregend. Es ist eine der global grössten Gefahren, und sie hat sich in den letzten zwei Jahren deutlich beschleunigt. Zum ersten Mal in der Geschichte ist es technisch möglich, alle Menschen ständig zu überwachen und diese besser zu kennen als sie sich selbst. Das ist der Traum jedes Diktators. Dafür braucht man keine menschlichen Agenten mehr, wir haben unseren Agenten in der Tasche: das Smartphone. Und bei der Überwachung geht es nicht mehr nur darum, was wir tun, was wir sagen und wen wir treffen. Künftig entschlüsselt Technik auch, was wir fühlen. Damit geht die Überwachung erstmals sozusagen auch unter die Haut. Dafür sammeln die Geräte allerhand biometrische Signale, angefangen bei Mimik und Körpersprache bis hin zu Blutdruck, Herzfrequenz und Gehirnaktivität. Wir sind sehr nahe daran, Gedanken und Gefühle überwachen zu können.

Die neue Technologie kann auch wunderbare Dinge tun – etwa Krankheiten diagnostizieren, bevor sie ausbrechen.

Völlig richtig. Andererseits kann sie auch die Grundlage für das schlimmste totalitäre Regime in der Geschichte der Menschheit sein, schlimmer als alles, was wir im 20.  Jahrhundert sahen. Aber noch einmal: Das ist keine Prophezeiung. Wir sehen, dass sich einige Länder in diese Richtung bewegen, aber es ist noch nicht zu spät, sie zu stoppen. Wir müssen die neue Informationswirtschaft, den Datenfluss in der Welt, regulieren, um dystopische Szenarien zu verhindern.

Es ist immer leicht, Regulierung zu fordern. Aber wie soll die konkret aussehen?

Drei sehr grundlegende Regeln sollten implementiert werden. Erstens: Wenn jemand Daten von Menschen sammelt, sollten sie nur verwendet werden, um diesen zu helfen, niemals, um sie zu manipulieren. Zweitens sollten wir nie zulassen, dass alle Informationen von einer Stelle gesammelt werden, egal ob es sich um eine Regierungsbehörde oder um ein Unternehmen handelt. Diese Datenkonzentration ist der Königsweg zur Diktatur. Es sollte immer getrennte Silos geben, getrennte Informationssysteme.

Was meinen Sie damit?

In einer Pandemie müssen Einzelpersonen stärker überwacht werden, um die Ansteckungsketten zu stoppen. Das sollte aber nicht die Polizei tun, sondern eine separate Behörde, die die Informationen nicht an andere weitergibt. Es ist weniger effizient, aber Ineffizienz ist hier ein Feature, kein Fehler.

Und die dritte Regel?

Immer dann, wenn Individuen stärker überwacht werden, muss auch die Überwachung der Regierungen und der grossen Unternehmen verstärkt werden.

Sie warnen, dass künstliche Intelligenz zu einem mächtigen Instrument für autoritäre Regimes werden kann. Was bedeutet das für die Zukunft der Demokratie?

Das ist schwer zu sagen. Die Demokratie ist das beste System der Welt, wenn es darum geht, sich neuen Bedingungen anzupassen. Interessanterweise haben die Menschen in der Zeit der Pandemie plötzlich mit Bewunderung auf autokratische Regimes geschaut, wo Dinge oft schneller und effizienter geregelt wurden. Man braucht dort keine Debatten, keine Kompromisse und keinen Konsens – nur eine Person, die eine Richtung vorgibt. Das Problem von Diktaturen ist aber, dass Fehler unter den Teppich gekehrt und nicht korrigiert werden. Das wiederum ist die Stärke von Demokratien. Sie können Dinge ausprobieren – wenn etwas nicht funktioniert, ist es einfacher, Fehler einzugestehen und einen anderen Weg zu gehen.

Das sieht mitunter chaotisch aus.

Doch das Chaos hat auch gute Seiten. Es schafft neue Dinge. Es lässt mehr Meinungen zu. Daraus kann auch Neues entstehen. Es dauert aber eine Weile, um die diversen Meinungen zu berücksichtigen und einen Konsens zu finden. Wenn man von dieser Warte aus die Systeme vergleicht und dabei an so etwas wie KI und die Macht denkt, die sie verleiht, wird schnell klar: Die Gefahr, dass Algorithmen die Macht übernehmen, ist in einer Diktatur viel grösser als in einer Demokratie.

Wieso das?

In Demokratien ist es für eine KI schwierig, Autorität zu erlangen, weil das System so vielstimmig ist. In Diktaturen ist es viel einfacher, weil es nur eine Machtquelle gibt.

Wird das Land, das die beste KI hat, eines Tages auch die ganze Welt kontrollieren?

Ja, das ist durchaus möglich. KI ist die wichtigste Technologie der heutigen Zeit.

Und das wird dann China sein?

Entweder China oder die USA. Niemand ist auf dem Gebiet auch nur annähernd so stark wie die beiden Hightech-Supermächte. Und das könnte einen neuen kalten Krieg zur Folge haben und eine Art von neuem Kolonialismus, einen Datenkolonialismus.

Das müssen Sie erklären.

Stellen Sie sich eine Welt vor, in der alle Daten an nur zwei Orte fliessen, nach China und in die USA, wo sie gespeichert und ausgewertet werden. Wenn alle Daten jedes Politikers, jedes Journalisten, jedes Geschäftsführers, jedes Richters dieser Welt in den Händen von jemandem in New York, Washington oder Peking lägen, wären Sie dann noch ein unabhängiges Land? Oder wären Sie dann eine Datenkolonie? Um im 21. Jahrhundert ein Land zu kontrollieren, braucht man keine Soldaten mehr zu schicken. Man muss nur alle Daten sammeln.

Ist Europa auf dem Weg, eine solche Datenkolonie zu werden?

Bis zu einem gewissen Grad sicherlich. Bedenken Sie, dass es bei Datenkolonien nicht nur um Politik, sondern auch um Wirtschaft geht, um die üblichen Beziehungen zwischen dem imperialen Zentrum und den Kolonien oder den Provinzen. Die Kolonien liefern Rohstoffe, und die hoch entwickelte Technologie wird im Zentrum produziert und dann zurückgeschickt, so wie Ägypten vor einem Jahrhundert noch Baumwolle nach Grossbritannien schickte, wo dann die hochwertigen Textilien produziert und wieder nach Ägypten exportiert wurden.

Heute ist die hoch entwickelte Technologie die KI, und das Rohmaterial sind Daten.

Das kann man so sagen. Noch hat Europa aufgrund seiner historischen Macht und seiner Wirtschaftskraft die Chance, dem Orbit dieser beiden Hightech-Superstars zu entkommen und ein drittes Machtzentrum zu werden. Die einzige Chance dafür ist allerdings, dass Europa wieder ein gemeinsames Ethos und eine gemeinsame europäische Mission findet.

Bei allen Risiken ist KI auch der Schlüssel für einige der grössten Probleme: In vielen Teilen der Welt werden Arbeitskräfte knapp. Unternehmen müssen in den nächsten Jahren deshalb immer mehr Jobs automatisieren. Dadurch ist KI auch ein mächtiges Tool für alternde Gesellschaften.

Das stimmt. Aber der Bevölkerungsrückgang an sich ist nicht das Problem. Sondern der Übergang in die neue Zeit und die Frage, wie man diesen gestalten kann.

Wie kann man ihn gestalten?

Der Übergang wird reibungsloser verlaufen, wenn wir Massnahmen kombinieren, etwa den verstärkten Einsatz von KI und Robotern mit Einwanderung und dem Outsourcen bestimmter Tätigkeiten. Der springende Punkt bei der Automatisierung ist aber die Frage der Umschulung. Ich glaube nicht, dass alle Arbeitsplätze verschwinden werden, und es werden natürlich auch neue Jobs entstehen. Das grosse Problem wird sein, die Menschen neu zu schulen. Andernfalls wird es einerseits zu enormer Arbeitslosigkeit kommen und andererseits zu einem grossen Fachkräftemangel für die neuen Jobs. Dann hätten wir das Schlimmste aus beiden Welten.

Ist Flexibilität also die wichtigste Fähigkeit dieser Zukunft?

Auf jeden Fall. Es ist die Fähigkeit, alle fünf oder zehn Jahre umzuschulen, umzulernen und sich neu zu erfinden. Das führt natürlich zu immensen finanziellen, aber auch psychologischen Belastungen. Diejenigen, die das können, werden die Wirtschaft der Zukunft anführen.

Sie meditieren jeden Tag zwei Stunden lang. Wo nehmen Sie die Zeit her? Oder beschäftigen Sie ganz viele Leute, die sich dann um den Rest kümmern?

Wir beschäftigen ein paar Leute, also ich muss wirklich nicht sehr viele E-Mails und Ähnliches bearbeiten. Aber das Erste, was ich in meinen Kalender eintrage, ist die Zeit für Meditation, sowohl täglich als auch über das Jahr. Ich versuche, jedes Jahr zu einer langen Meditationsklausur zu fahren. Das ist ein Privileg, ich weiss. Aber ich denke, es ist für jeden wichtig, zumindest für ein paar Minuten am Tag oder ein paar Stunden in der Woche in die Gesundheit des Geistes zu investieren, darum geht es bei der Meditation. Wir investieren so viel in die Gesundheit unseres Körpers, achten darauf, was wir essen und wie viel wir trainieren, und wir investieren noch mal mehr in die Gesundheit unseres Bankkontos. Wir sollten auch etwas für die Gesundheit unseres Geistes tun.

Ist Meditation für Sie auch Eskapismus, weil Sie sich ansonsten so intensiv mit der teils düsteren Zukunft der Menschen beschäftigen?

Es ist das Gegenteil von Eskapismus. Es ist die Konfrontation mit der Welt, wie sie ist.

Die Konfrontation mit Ihrem Atem.

Was könnte realer sein als der Atem, der durch die Nase strömt? Wenn er nur für ein paar Minuten aussetzt, stirbt man. Und doch kann man sich nicht auf diese Realität konzentrieren, weil man sich in all diese Träumereien und Ablenkungen flüchtet. Wenn wir nicht in der Lage sind, die Realität unseres Atems zu beobachten, ohne uns ablenken zu lassen, wie sollen wir dann die Realität des globalen Wirtschaftssystems oder des Klimawandels beobachten können, ohne in irgendeine beruhigende Träumerei oder Fantasie zu flüchten? Bei Meditation geht es nicht darum, einen friedlichen Zustand zu erreichen. Für mich geht es darum, die Wahrheit über mich selbst und die Welt zu erfahren. Und eine der wichtigsten Wahrheiten ist, dass wir nur sehr wenig über unseren Geist wissen und dass wir nur sehr wenig Kontrolle über ihn haben.

Warum haben Sie eigentlich kein Smartphone? Hat das auch damit zu tun, den Fokus zu behalten?

Ich bin nicht naiv. Ich weiss, dass ich verfolgt werden kann, auch wenn ich kein Smartphone habe. Der Hauptpunkt ist, Ablenkungen fernzuhalten. Ich weiss, wie schwierig es ist, den Geist zu kontrollieren, konzentriert zu bleiben. Und ausserdem: Die Menschen auf der anderen Seite des Smartphones – die klügsten Menschen der Welt – haben in den vergangenen 20 Jahren gelernt, wie man das menschliche Gehirn durch das Smartphone hacken kann. Denen bin ich nicht gewachsen. Wenn ich gegen die antreten muss, werden sie gewinnen. Also gebe ich ihnen meinen Bildschirm nicht, gewähre ihnen keinen direkten Zugang zu meinem Gehirn.