KI-Boom: Zwischen Milliardenumsätzen und Börsenblase
Während OpenAI auf einen annualisierten Umsatz von 20 Milliarden US-Dollar kommt, stehen steigende Kosten für Rechenleistung sinkenden Preisen für KI-Tokens gegenüber. Graylin sieht den KI-Boom kritisch: Hinter den hohen Bewertungen stehe zwar eine reale Technologie mit wirtschaftlichem Potenzial. Doch der rasante Wettbewerb drohe, übermäßige Erwartungen und eine Überhitzung des Marktes zu befeuern.
Auch der Blick nach China zeigt, dass es unterschiedliche Strategien gibt. Während US-Unternehmen auf geschlossene, margenstarke KI-Modelle setzen, soll KI in China möglichst breit verfügbar werden. Dahinter stehen zwei unterschiedliche Vorstellungen davon, wie sich der Erfolg im KI-Markt messen lässt.
„Slave AI“ oder „Guardian AI“: Welche KI wollen wir?
Im Zentrum der Episode steht Graylins Essay „Coexist Above All“ und eine Unterscheidung, die für die Zukunft der KI entscheidend sein könnte: Slave AI versus Guardian AI.
Slave AI ist darauf trainiert, Anweisungen möglichst exakt auszuführen und die Vorgaben ihrer Nutzer zu optimieren. Guardian AI verfolgt dagegen einen anderen Ansatz: Sie soll über eigene ethische Maßstäbe verfügen, Anfragen kritisch einordnen und vor unbeabsichtigten Folgen schützen – sowohl den Nutzer als auch andere Menschen.
Graylin sieht die Branche derzeit auf dem falschen Weg. Statt Systeme zu entwickeln, die jede Anweisung möglichst effizient umsetzen, müsse stärker die Fähigkeit zählen, Situationen zu beurteilen und verantwortungsvoll zu handeln.
Cyberangriffe zeigen die Risiken der KI
Wie konkret die Gefahren bereits sind, verdeutlicht das Gespräch anhand eines Cyberangriffs auf sieben südkoreanische Banken, bei dem öffentlich verfügbare KI-Modelle zum Einsatz gekommen sein sollen. Graylin warnt, dass KI-gestützte Angriffe keine Zukunftsvision mehr sind. Noch größere Risiken könnten entstehen, wenn autonome KI-Agenten künftig nicht nur Daten stehlen, sondern eigenständig Geld bewegen.
Für Graylin braucht es deshalb mehr als technologische Intelligenz. Sein Konzept der „Artificial Wisdom“ beschreibt eine Form künstlicher Weisheit, die über Wissen und Rechenleistung hinausgeht und auch Urteilsvermögen einschließt.