Es gibt Firmen, bei denen für die Nutzung Künstlicher Intelligenz mittlerweile Tausende Euro pro Monat und Mitarbeitenden anfallen. Doch ist das tatsächlich notwendig? Unternehmerinnen und Unternehmer sollten vergleichen. Womöglich lohnt sich die Nutzung eines KI-Routers.
Das ideale System identifizieren
Firmen wie Open Router, Kauz AI oder Riesen wie AWS oder Cisco bieten mittlerweile Plattformen an, die für die jeweils anfallende Aufgabe das beste oder kostengünstigste Angebot herausfiltern. Komplexe Projekte werden an sehr leistungsfähige, aber auch teure Anbieter von LLMs weitergeleitet. Einfache Jobs, wie einen Brief zu schreiben oder eine simple Recherche durchzuführen, erledigen günstige Anbieter, zum Beispiel aus China. „Nach unseren bisherigen Berechnungen können sich die Kosten durch die Auswahl des jeweils passenden Modells in geeigneten Nutzungsszenarien um 50 bis 60 Prozent reduzieren. Die konkrete Einsparung hängt vom Einzelfall ab“, sagt Thomas Rüdel, Gründer und CEO von Kauz AI, einem Düsseldorfer Start-up, das einen KI-Router anbietet.
DUP UNTERNEHMER-Magazin: Wie arbeitet Ihr KI-Router, und welche Probleme löst er für Ihre Kunden?
Thomas Rüdel: Die „Kauz-Selection“ ist ein synthetisches Sprachmodell, das mehrere Large Language Models verbindet. Nutzende stellen ihre Anfrage im „AI Workplace“. Das System prüft dann in Millisekunden, wie komplex die Aufgabe ist. Etwa, ob eine Internetrecherche oder eine Suche in Datenbanken erforderlich ist, ob Bilder interpretiert oder Werkzeuge eingesetzt werden müssen. Danach leitet es die Aufgabe an das für diese Konstellation passendste Modell weiter. Mitarbeitende müssen also die Stärken einzelner Modelle nicht kennen.
Wie entscheidet Kauz AI technisch, welches Modell eine bestimmte Anfrage bekommt – welche Kriterien fließen in die Routing-Entscheidung ein?
Rüdel: Zuerst klassifiziert „Kauz-Selection“ die Anfrage. Bewertet werden Komplexität, Tooleinsatz und bestimmte Erfordernisse. Innerhalb dieses Rahmens wählt das System die kosteneffizienteste Option. Für anspruchsvolle Aufgaben kann ein Premiummodell zum Einsatz kommen, für Routineaufgaben ein günstigeres. Die manuelle Auswahl bleibt jedoch immer möglich.
Wie hoch liegen nach Ihren Erfahrungen die monatlichen KI-Kosten bei Power-Usern in Unternehmen, in welcher Dimension können Sie diese senken? Und wie stellt sich die Kosten-Nutzen-Relation für Ihre Kunden dar?
Rüdel: Die Kosten hängen von den Aufgaben, insbesondere anspruchsvollen Reasoning-Aufgaben, sowie natürlich der Häufigkeit der Nutzung ab. Der Power Seat bei Kauz AI enthält 12.000 KI-Punkte. Zum Vergleich: Wenignutzer verbrauchen 100 KI-Punkte im Monat, Normalnutzer vielleicht 1.000. Mit den 12.000 KI-Punkten kommt man also ziemlich weit, doch wenn immer das teuerste Modell eingesetzt wird und es den ganzen Tag arbeitet, reicht es trotzdem vielleicht nicht für einen ganzen Monat. Mit der „Kauz-Selection“ kommen Nutzende in der Regel gut durch den Monat, ohne nachkaufen zu müssen. Eine pauschale Umrechnung der KI-Punkte in Euro ist schwierig, weil die tatsächlichen Kosten stark vom jeweiligen Nutzerprofil und der Nutzung abhängen. Auch das eingesetzte Modell und der Umfang der Anfragen spielen eine Rolle. Nach unseren bisherigen Berechnungen können sich die Kosten durch die Auswahl des jeweils passenden Modells in geeigneten Nutzungsszenarien um 50 bis 60 Prozent reduzieren. Die konkrete Einsparung hängt vom Einzelfall ab.
Wie positionieren Sie sich gegenüber großen Plattformen – etwa AWS, Google oder Microsoft –, die ebenfalls Routing-Funktionen anbieten?
Rüdel: Diese Plattformen routen nur innerhalb einer begrenzten Modellfamilie. Die „Kauz-Selection“ routet quer über alle Anbieter hinweg. Innerhalb der „Kauz-Selection“ spielen Modelle von OpenAI und Anthropic eine Rolle, aber auch Open-Source-Modelle wie die von Deep Seek oder Kimi K3. Und die „Kauz-Selection“ ist auf typische Anwendungsfälle unserer mittelständischen Kunden hin optimiert. Entscheidend für Kundinnen und Kunden ist übrigens nicht nur das Routing, sondern die Tatsache, anbieterunabhängig zu sein und jederzeit ein anderes LLM einsetzen zu können. Und das mit einem Vertrag und im Wissen, immer datenschutzkonform zu agieren. Damit nimmt Kauz AI ihnen die ganze Komplexität ab, die damit verbunden ist, als Unternehmen mit vielen LLM-Anbietern Verträge zu schließen, Zugangsdaten zu verwalten und die Datenschutzregeln zu prüfen.
