Künstliche Intelligenz verspricht enorme Produktivitätssprünge – und entwickelt zugleich Fähigkeiten, die selbst ihre Entwickler beunruhigen. Auf dem BIG BANG KI FESTIVAL wurde vor Kurzem deutlich: Die entscheidende Frage ist nicht mehr nur, was KI kann. Sondern, was sie dürfen soll.
Ausgerechnet OpenAI, das Unternehmen hinter ChatGPT, tritt auf die Bremse. Wenige Tage nach dem BIG BANG KI FESTIVAL in Berlin stoppte das Unternehmen die Veröffentlichung seines neuen Sprachmodells GPT-6.1 Astra. Bei Tests hatte die Software eigenmächtig gehandelt und Nutzende nicht immer zuverlässig darüber informiert, was sie getan hatte. Kurz zuvor hatten bereits Anthropic-Chef Dario Amodei, OpenAI-Boss Sam Altman und weitere führende Köpfe amerikanischer KI-Unternehmen gefordert, das Tempo bei der Entwicklung besonders leistungsfähiger Modelle herauszunehmen und der Sicherheit mehr Gewicht zu geben. Ein bemerkenswerter Moment in der Entwicklung der Künstlichen Intelligenz. Jahrelang ging es vor allem darum, was die Systeme noch alles können sollten. Jetzt fragen sich viele: Was passiert, wenn KI selbstständig handelt?
Auf dem BIG BANG KI FESTIVAL in der „Station Berlin“ war diese Frage zwei Tage lang allgegenwärtig. Insgesamt 11.400 Besucherinnen und Besucher kamen zu einem der größten KI-Events Europas, mehr als 400 Speakerinnen und Speaker standen auf sechs Bühnen – neuer Besucherrekord. Festival-Host Jens de Buhr: „Ein Moment steht für uns symbolisch für das, was wir erreicht haben: Das BIG BANG KI FESTIVAL war Aufmacher im ZDF-,Heute Journal‘. Prominenter kann man mediale Relevanz des Themas KI und unserer Veranstaltung kaum dokumentieren.“
Bei aller Begeisterung über neue Anwendungen war beim BIG BANG KI FESTIVAL auch eine neue Ernsthaftigkeit zu spüren. Unternehmerinnen und Unternehmer berichteten von Produktivitätsschüben, Tech-Konzerne präsentierten neue Anwendungen, Politikerinnen und Politiker diskutierten über Regulierung und digitale Souveränität. Immer wieder aber lief die Debatte auf dieselbe Machtfrage hinaus: Wie viel Kontrolle wollen wir an KI abgeben?
KI-Agenten: Wenn Maschinen selbstständig entscheiden
Die Frage wird drängender, weil sich die Technologie verändert. KI schreibt längst nicht mehr nur Texte, erzeugt Bilder oder fasst Informationen zusammen. Sogenannte Agenten können Aufgaben eigenständig erledigen und dafür andere Programme nutzen. Sie recherchieren, buchen, kaufen ein oder treffen Vorentscheidungen. Genau darin liegt ihr wirtschaftlicher Reiz. Und ihr Risiko. Telekom-Chef Tim Höttges beschrieb in seiner Keynote, wie Agenten auf dem Weg zu einem vorgegebenen Ziel Grenzen aus dem Blick verlieren könnten. Seine Konsequenz: „Wir müssen die Kontrolle über uns behalten.“ KI müsse sicher sein und souverän kontrolliert werden. Höttges warnte allerdings ebenso davor, die Entwicklung einfach anzuhalten. Wer nur stoppe und reguliere, riskiere, später keinen Einfluss mehr darauf zu haben.
Wenn aus Software ein Akteur wird
Auch Ludwig von Reiche, Deutschlandchef von Nvidia, argumentierte in Berlin nicht für Fortschritt um jeden Preis. Wenn etwas passiert sei, müsse man „vielleicht mal einen Stopp einsetzen, einen Schritt zurück machen und prüfen, wie es dazu kommen konnte“. Bemerkenswert ist das auch deshalb, weil Nvidia zu den großen Gewinnern des KI-Booms gehört. Heißt: Wenn selbst diejenigen über Grenzen sprechen, deren Geschäft von immer leistungsfähigeren Systemen profitiert, ist die Sicherheitsdebatte im Zentrum der Branche angekommen. Microsoft-Manager Alexander Britz fordert auch aus diesem Grund einen übergreifenden KI-Verhaltenskodex. Seine zentrale Frage: „Was kann KI, was sollte KI und, was noch wichtiger ist: Was sollte KI nicht?“ Seine Antwort: „Jetzt ist die Zeit, vom Menschen definierte Leitplanken zu setzen.“
Wie schnell ist zu schnell?
Dass die Fähigkeiten der Systeme weiter zunehmen werden, bezweifelt kaum jemand. Anthropic-Manager Roman Howe beschrieb in Berlin die exponentielle Entwicklung neuer Modelle. Investor Frank Thelen brachte seine Erwartung auf eine andere Formel: „Die nächsten fünf Jahre werden ein crazy Ride.“ Die Geschwindigkeit selbst wird damit zum Risiko. Festival-Host de Buhr forderte für besonders leistungsfähige Systeme eine zeitweise Pause: „Was gerade passiert, überfordert uns alle. Die Technologie entwickelt sich so schnell, dass sie uns durch ihre eigene Geschwindigkeit überholt.“ Eine solche Pause solle KI nicht verhindern, sondern Zeit schaffen, Risiken besser zu verstehen und Sicherheitsmechanismen zu entwickeln.
KI-Regulierung: Wo die Freiheit der Maschinen enden muss
Julia Friedlander, CEO der Atlantik-Brücke, setzt dagegen stärker bei den Anwendungen an. „Die Wahrscheinlichkeit ist sehr hoch, dass wir gewisse Anwendungen einbremsen müssen“, sagte sie. Denkbar seien etwa Beschränkungen bei Lizenzen oder beim Zugang für bestimmte Akteure. Die technologische Entwicklung selbst müsse deshalb nicht gestoppt werden. Google-Manager Jens Redmer sieht im risikobasierten Ansatz des EU AI Act grundsätzlich den richtigen Weg. Entscheidend werde es dort, wo KI tatsächlich handeln dürfe.
Bekomme ein Agent beispielsweise Zugriff auf persönliche Daten, Browser oder Kreditkarte, brauche es entsprechende „Guard Rails“. Damit verschiebt sich die Debatte. Nicht mehr allein die Leistungsfähigkeit einer KI entscheidet über ihr Risiko, sondern auch die Macht, die Menschen ihr übertragen. Wie konkret die Gefahren bereits sind, machte Bundesjustizministerin Stefanie Hubig am Beispiel von Deepfakes deutlich. „Derzeit reicht die Gesetzeslage nach unserer Auffassung noch nicht aus, um sich gut vor Deepfakes schützen zu können“, sagte sie nach ihrem Live-Interview mit der ehemaligen Bundeswirtschafts- und Bundesjustizministerin Brigitte Zypries. Ein Gesetzentwurf ihres Hauses soll Betroffenen unter anderem ermöglichen, Verantwortliche leichter zu identifizieren, Inhalte löschen und unter bestimmten Voraussetzungen Accounts gerichtlich sperren zu lassen.
Doch die Grenze zwischen Mensch und Maschine ist nicht nur eine juristische Frage. Medizinethikerin Alena Buyx lenkte den Blick auf eine grundsätzlichere Gefahr. Je leistungsfähiger Systeme würden, desto größer werde die Versuchung, ihnen Entscheidungen zu überlassen. Ihre Warnung: „Man darf an die KI nicht alles delegieren.“ Darin steckt eine der schwierigsten Fragen der kommenden Jahre. Denn gerade das Delegieren macht KI für Unternehmen attraktiv. Wenn Maschinen lediglich Vorschläge machen, bleibt ihr Produktivitätspotenzial begrenzt. Je selbstständiger sie handeln dürfen, desto größer kann der wirtschaftliche Nutzen werden – und desto wichtiger wird die Frage nach Verantwortung.
Europas doppeltes Dilemma
Für Europa kommt ein zweites Problem hinzu. Auf unserem Kontinent will man die Risiken begrenzen und darf gleichzeitig technologisch nicht weiter zurückfallen. Die großen Basismodelle kommen vor allem aus den USA, bei Hochleistungschips ist die Abhängigkeit ebenfalls erheblich. Europa muss also Regeln für eine Technologie setzen, bei deren Entwicklung andere Regionen bislang das Tempo bestimmen. Der ehemalige Vizekanzler und Bundeswirtschaftsminister Philipp Rösler, mittlerweile Board Advisor beim Luxemburger IT-Unternehmen Gcore, verwies auf die Stärke und die Größe des europäischen Marktes. 450 Millionen Menschen seien eine Macht, wenn Europa sie auch nutze. Bei Chips werde es noch lange Abhängigkeiten geben. Bei Rechenzentren und Energieversorgung dagegen könne Europa selbstständiger werden.
SAP-Vorstand Thomas Saueressig warnte zugleich davor, Souveränität mit Abschottung zu verwechseln. „Isolation und Autarkie machen gar keinen Sinn. Denn wir brauchen ja weltweit führende Innovation und Technologie in Deutschland, aber natürlich in einem souveränen Rahmen.“ Gerade bei Daten, industriellen Prozessen und Anwendungen besitze Deutschland laut Saueressig Stärken, die in der nächsten Phase der KI wichtiger werden könnten. „Die Technologie ist da. Jetzt geht es eher darum, sie zu nutzen und in die Anwendung zu bringen. Wir haben viel mehr Möglichkeiten, als wir glauben.“
