Yuval Noah Harari: Warum KI die Macht übernimmt

Bevor Yuval Noah Harari angefangen hat, Bücher zu schreiben, fühlte sich Geschichtsschreibung an wie die Wissenschaft der Vergangenheit. Durch den israelischen Historiker wurde sie zur Wissenschaft der Veränderung.

Seine Bücher „Homo Deus“ und „Eine kurze Geschichte der Menschheit“ sind Weltbestseller. Staatsoberhäupter wollten ihn kennenlernen, CEO posteten, dass sie seine Werke lesen. Harari wurde so einer der wesentlichen Vordenker.

Überforderte Gesellschaften

KI ist für ihn weit mehr als nur eine von vielen Erfindungen der Menschheit. Wir erleben gerade die tiefgreifendste Informationsrevolution seit Menschengedenken, ist er überzeugt und ergänzt: Wir können das aber nicht begreifen, solange wir nicht verstehen, was vorher war. Deshalb hat er sein neues Buch „Nexus“ geschrieben. Darin untersucht er, wie die Weitergabe von Informationen unsere Welt zugleich auf- und umgebaut hat. Die Frage, wie wir als Menschheit an Informationen gelangen und mit wem wir sie teilen, ist dabei nicht nur ein Schlüssel, um unsere Gegenwart besser zu verstehen. Sie ist vor allem auch entscheidend für unsere Zukunft. Warum, erklärt er im Exklusiv-Interview.

DUP UNTERNEHMER-Magazin: Sie sprechen bei KI von „Alien Intelligence“. Warum so skeptisch?

Ich bin nicht skeptisch, was das positive Potenzial von KI angeht. Ich stimme zu, dass sie der Menschheit und dem Planeten immense Vorteile bringen könnte. Denn sie hilft uns, Herausforderungen zu bewältigen – angefangen vom Klimawandel bis hin zu Fragen der Gesundheitsversorgung. Aber gerade weil sie eine so mächtige Technologie ist, ist sie auch mit enormen Risiken verbunden.

Inwiefern?

Sie ist die erste Technologie der Geschichte, die selbstständig Entscheidungen treffen und neue Ideen entwickeln kann. Sie ist also eher ein unabhängiger Akteur, und als solcher kann sie uns außer Kontrolle geraten, uns potenziell sogar versklaven oder ganz vernichten. Man sagt, dass jede Erfindung mit Risiken verbunden sei. Wenn Sie Ihren Führerschein machen, dann wird Ihnen als Erstes beigebracht, wie Sie die Bremse betätigen. Im Falle der KI lernen wir als Erstes, mit dem Gaspedal umzugehen, bevor wir die Bremse bedienen können. Wir entwickeln diese Technologie extrem schnell, ohne dabei einen widerstandsfähigen Mechanismus zu haben, der sicherstellt, dass wir die Kontrolle bewahren und auf die Bremse treten können, wenn etwas schiefgehen sollte.

Aber die Menschen lernen doch seit jeher, die Gefahren neuer Technologien zu beherrschen. Autofahren wird immer sicherer.

Zwei Dinge sollten wir im Hinterkopf behalten: Erstens ist KI anders als alle bisherigen Erfindungen. Die Druckerpresse hat unsere Bücher zwar gedruckt, aber sie konnte sie nicht selbst schreiben. Eine Atombombe kann auch keine eigenen Entscheidungen treffen. Aber ein autonomes Waffensystem, wie etwa eine vollautomatische Drohne, kann selbst entscheiden, wen sie angreift oder sogar tötet. Und während Atombomben von sich aus auch keine ausgefeilteren Bomben herstellen konnten, so kann die KI durchaus ausgefeiltere KI-Systeme entwickeln.

Was macht KI denn so fremdartig für uns?

Das Besondere an der KI ist, dass sie ein Akteur und kein Werkzeug ist. Das ist der Kern ihrer Definition. Denn der Unterschied zwischen KI und allen anderen Arten von Computerprogrammen ist, dass KI von selbst lernen kann. Sie kann Dinge, die nicht einmal ihre Schöpfer wissen. Sie kommt auf Ideen und entwickelt Strategien, die wir ihr nicht vorgegeben haben. Wir lassen also Millionen, möglicherweise Milliarden unabhängiger Akteure auf die Welt los. Es sind deshalb fremdartige Akteure, weil sie auf eine Art und Weise denken, Entscheidungen treffen und Ziele verfolgen, die sich grundlegend von der unseren unterscheidet.

Angesichts des großen Einflusses von KI-Technologie: Glauben Sie, dass die US-Wahlen im November fair ablaufen werden?

Ich hoffe es zumindest. Wir haben immer noch die Fähigkeit sicherzustellen, dass das Hauptrisiko nicht in den Wahlen an sich liegt. Die Gewaltenteilung in den USA ist immer noch sehr stark. Anders als in Russland oder Venezuela. Das Hauptrisiko liegt in der Desinformation durch die Medien, angeheizt und verstärkt durch die Möglichkeit, dass mittels KI manipulierte Bilder, Videos und Nachrichten erstellt werden können. Das geschieht dermaßen schnell, dass wir nicht wissen, wie wir damit umgehen sollen.

Was meinen Sie damit konkret?

Man kann sich das so vorstellen: Eine Gruppe von Menschen versucht, ein Gespräch zu führen. Dann platzt eine Gruppe von Robotern in das Gespräch und beginnt zu brüllen. Wie wollen Sie da ein Gespräch führen? Wenn Sie sich jetzt in den sozialen Medien, zum Beispiel auf X, umschauen, so gibt es Schätzungen, die besagen, dass zwischen 20 und 40 Prozent der Inhalte auf X in Wahrheit von Bots erstellt und verbreitet werden – nicht von Menschen. Das ist eine noch nie da gewesene Situation in der Geschichte. Es gab zwar schon früher Propaganda, aber wir hatten es noch nie zuvor mit nicht menschlichen Gesprächspartnern zu tun. Wenn Sie sich heutzutage online unterhalten, können Sie nie sicher sein, ob Sie gerade mit einem Menschen oder einem Bot kommunizieren.

Was können wir dagegen tun?

Wir verfügen durchaus über Gegenmaßnahmen: Zum Beispiel können wir Bots verbieten, die sich als Menschen ausgeben. Und wir können KI-Systeme und Bots für diverse Zwecke einsetzen. Aber ein KI-Bot sollte sich niemals als Mensch ausgeben dürfen, so wie das auf Plattformen wie X der Fall ist. Wenn die Leute sagen, das verstoße gegen die Meinungsfreiheit, dann sage ich: Es gibt keine Meinungsfreiheit für Bots. Bots haben keine Rechte. Sie sollten gar nicht Teil dieser Unterhaltungen sein.

Was ist mit den Konzernen, die hinter den Bots oder den Plattformen stecken?

Demokratien sollten Firmen für die Handlungen ihrer eigenen Algorithmen haftbar machen. Unternehmen wie Facebook oder X reden sich damit raus, dass sie bloß die Plattform seien und die Menschen diejenigen, die Verschwörungstheorien oder Hass verbreiten. Sie sagen, sie hätten nicht das Recht, die Menschen zu zensieren und deren Meinungsfreiheit einzuschränken. Doch dabei lenken sie die Konversation weg von der eigentlichen Problematik. Und die besteht darin, dass die Algorithmen von Facebook, X, TikTok und Co. bewusst Empörung, Wut und Angst verbreiten, weil das gut für das Geschäft und das Engagement der Nutzer ist. Dafür sollten diese Firmen zur Verantwortung gezogen werden.

Sehen Sie durch KI bald zu viel Macht in den Händen weniger?

Sie werden definitiv einen immensen Einfluss auf die Welt haben. Auf die Wirtschaft, auf Politik, auf die Kultur. Die Kultur ist ein weiterer Bereich, der sich dramatisch verändern wird. Über Jahrtausende lag kulturelles Schaffen in den Händen der Menschen. Alles, von Gedichten über Bilder und Theaterstücke bis hin zu TV-Serien, wurde von Menschen erschaffen. Jetzt, mit generativer KI, wird immer mehr Kultur von nicht menschlicher, fremdartiger Intelligenz erschaffen – kontrolliert von einigen wenigen Unternehmen. Diese werden also nicht nur viel wirtschaftliche und politische Macht besitzen. Sie werden auch immensen kulturellen Einfluss haben.

Wie tief geht das Problem?

Diese Unternehmen repräsentieren niemanden. Denn niemand hat Menschen wie Elon Musk oder Mark Zuckerberg gewählt, um die Welt zu kontrollieren. Darüber hinaus sind sie wieder nur in einigen wenigen Ländern angesiedelt. Die Mehrheit der großen Tech-Unternehmen sitzt in gerade einmal zwei Ländern. In China und den USA. Nach vielen Jahrzehnten, in denen wir den Zusammenbruch von Großreichen erlebt und eine gleichberechtigtere, wenn auch nicht völlig gleichberechtigte, internationale Arena geschaffen haben, steuern wir nun potenziell auf ein neues imperialistisches Zeitalter zu. Ein Zeitalter, in dem einige wenige Länder und einige wenige Konzerne die Wirtschaft und die Kultur und damit auch die Politik des größten Teils der Welt kontrollieren.

Nun gibt es das Blackbox-Problem: Wir wissen also nicht genau, anhand welcher Daten die KI zu ihren Schlussfolgerungen und Inhalten kommt. Entwickelt KI ein Eigenleben?

Ich denke, das ist ein sehr großes Problem. Wenn Sie sich die verschiedenen Bereiche ansehen, in denen die KI zu einem sehr mächtigen Akteur werden könnte, dann steht das Finanzwesen ganz oben auf der Liste, denn es findet nicht in der physischen Welt statt. Die Finanzwelt basiert rein auf Information und Mathematik. Dies ist die ideale Spielwiese für eine KI, für Algorithmen. Schon heute verstehen die meisten Menschen nicht, wie das Finanzsystem funktioniert. Was bereits jetzt geschieht, ist, dass Menschen, Firmen und Banken der KI mehr und mehr Autonomie geben, um in der Finanzwelt zu agieren.

Was kann passieren?

Irgendwann kommt es zu einem großen Finanzcrash, bei dem kein Mensch versteht, was genau passiert. Erinnern wir uns an die letzte große Finanzkrise von 2007/2008 zurück: Die begann mit diesen neuen, von Menschen erfundenen Finanzinstrumenten, den CDOs, die nur wenige Regulierungsbehörden verstanden. Für ein paar Jahre hat das gut funktioniert. Aber dann brach alles zusammen. Mit KI kann also etwas Ähnliches passieren, allerdings in noch größerem Maßstab.

KI-Akteure können auch eine emotionale Bindung zu uns Menschen aufbauen. Wie gefährlich ist das in den falschen Händen?

Auch hier handelt es sich wieder um eine neue Art Macht. Noch nie zuvor mussten wir mit nicht menschlichen Akteuren interagieren. Heute weiß jeder, dass es online und in den sozialen Medien zwischen verschiedenen Unternehmen ein großes Buhlen um unsere Aufmerksamkeit gibt. Aber gerade bricht ein neuer Kampf los, und zwar um Intimität. Intimität ist wesentlich mächtiger als Aufmerksamkeit. Alles Mögliche kann unsere Aufmerksamkeit erwecken, aber Intimität geht viel tiefer. Wenn jemand eine intime Beziehung zu Ihnen hat, dann ist dieser jemand in der besten Position, um Ihre Sichtweisen, Ihre Meinung zu ändern und Ihnen alles zu verkaufen – von einem Politiker über ein Produkt bis hin zu einem Krieg.

In China misst ein Social Scoring, wie sich die Menschen in der Öffentlichkeit verhalten. KI könnte in Zukunft sogar Gesundheitsdaten messen und bewerten. Wird das Schule machen?

Es ist sehr wahrscheinlich, dass wir einen Anstieg solcher Social-Scoring-Systeme erleben werden. Die Idee ist folgende: Sie bekommen Punkte für etwas, was Sie tun, und Ihr Score wiederum beeinflusst, was Sie tun dürfen. Wenn Sie beispielsweise Müll auf die Straße werfen, senkt das Ihren Social-Credit-Score. Das hat dann Auswirkungen auf Ihre Aussichten, einen Job zu bekommen, aufs College zu kommen, ein Flugticket zu buchen und so weiter. Nun ist es natürlich so, dass solche Systeme auch Vorteile mit sich bringen können. Aber in den falschen Händen könnten sie zu den schlimmsten totalitären Systemen in der Geschichte führen.

Woran denken Sie?

An Regime, in denen keinerlei Privatsphäre mehr möglich ist. Alles, was Sie tun, wird 24 Stunden am Tag überwacht. Das ist eine Art Macht, von der frühere totalitäre Regime nur träumen konnten. Ein Beispiel: Ostdeutschland zur Stasi-Zeit. Die Stasi konnte nicht alle Menschen 24 Stunden am Tag beschatten. Dafür hatten sie nicht genügend Agenten. Die KI macht es möglich, ein System zu schaffen, das jeden ständig verfolgt und alles, was man tut, bewertet. Dadurch wird die Privatsphäre im Grunde vernichtet, und Ihr gesamtes Leben gleicht einem einzigen langen Vorstellungsgespräch. Das ist unglaublich stressig und zerstörerisch für das menschliche Wohlbefinden.

Wie viele Jobs könnten durch KI verloren gehen? Sehen Sie viele Arbeitslose auf uns zukommen?

Ja, aber wir müssen das relativieren. Ich glaube nicht, dass es einen Mangel an Arbeitsplätzen geben wird. Wir werden zwar sehr große Schwankungen auf dem Arbeitsmarkt erleben. Bestehende Jobs werden verschwinden, neue hinzukommen. Aber auch die neuen Jobs werden sich wieder rapide verändern. Es wird genug Arbeitsplätze geben, aber die Herausforderung wird sein, die Arbeitskräfte dafür umzuschulen. Weltweit betrachtet wird das größte Problem die globale Ungleichheit sein.

Wieso?

Denken Sie an Länder wie Deutschland, die USA oder China – diese werden von der KI-Revolution in hohem Maße profitieren. Die haben auch die Mittel, um ihre Arbeitskräfte umzuschulen und Gewinne mit all den neuen Jobs zu machen. Aber andere Länder wie Bangladesch, Pakistan, Ägypten oder Guatemala werden die alten Arbeitsplätze, etwa in der Textilproduktion, verlieren. Sie werden auch nicht die Ressourcen haben, um ihre Arbeitskräfte umzuschulen.

Welche Berufe haben im KI-Zeitalter eine Zukunft?

Niemand kann sagen, welche Berufe oder Fähigkeiten in 20 oder 30 Jahren gefragt sein werden. Mein Rat wäre, sich nicht auf etwas Begrenztes zu beschränken, sondern sich auf weit gefasste Tätigkeiten zu konzentrieren. Entwickeln Sie eine Palette an Fähigkeiten und investieren Sie vor allem in motorische und soziale Fähigkeiten, nicht nur in kognitive – die sind am leichtesten automatisierbar. Bei allem, was mit sozialer Interaktion und motorischer Aktivität zu tun hat, ist das viel schwieriger. Lernen Sie Ihren eigenen Verstand kennen und investieren Sie in eine Art Verstandesübung – alles von Meditation bis hin zu psychologischer Therapie. Alles, was Ihnen hilft, Ihren Geist kennenzulernen und dessen Flexibilität zu trainieren, ist sehr zu empfehlen.