Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Unternehmen schlecht auf Krisen vorbereitet

    Unternehmen schlecht auf Krisen vorbereitet

    Unternehmen sind sich bewusst, dass es in naher Zukunft zu Krisensituationen für den eigenen Betrieb kommen kann. Laut dem ‘PWC Global Crisis Survey‘, sind viele Unternehmen auf eine solche Situation…

    mehr lesen: Unternehmen schlecht auf Krisen vorbereitet

  • IBM Deutschland stellt Beratungssparte unter neue Leitung

    IBM Deutschland stellt Beratungssparte unter neue Leitung

    Der Aufsichtsrat von IBM Deutschland hat Christian Noll zum Geschäftsführer ernannt und ihm die Leitung der Beratungssparte Global Business Services übertragen.

    mehr lesen: IBM Deutschland stellt Beratungssparte unter neue Leitung

  • Digitale Plattformen in der Industrie

    Digitale Plattformen in der Industrie

    Das Fraunhofer Institut für System- und Innovationsforschung (ISI) hat im Rahmen einer Studie untersucht, wie Plattformen in der Industrie angekommen sind. Demnach nutzt etwa ein Drittel der Betriebe im Verarbeitenden…

    mehr lesen: Digitale Plattformen in der Industrie

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Industrie 4.0 kann Kreditwürdigkeit positiv beeinflussen

    Industrie 4.0 kann Kreditwürdigkeit positiv beeinflussen

    Der Mittelstand öffnet sich immer mehr den Themen Industrie 4.0 und Digitalisierung: Das geht aus einer Umfrage des Finanzdienstleisters Creditshelf unter rund 250 Finanzentscheidern aus mittelständischen Industrieunternehmen hervor. So haben…

    mehr lesen: Industrie 4.0 kann Kreditwürdigkeit positiv beeinflussen

  • Neue Geschäftsführung beim ZVEI

    Neue Geschäftsführung beim ZVEI

    Dr. Wolfgang Weber (Bild), Vice President Unternehmenskommunikation und Regierungsbeziehungen für die Region Europa, Naher Osten und Afrika bei BASF, wechselt als Vorsitzender der Geschäftsführung zum ZVEI.

    mehr lesen: Neue Geschäftsführung beim ZVEI

  • Lichtblick für den deutschen Maschinenbau

    Lichtblick für den deutschen Maschinenbau

    Ein starker Anstieg der Aufträge aus den Euro-Partnerländern um 11% hat das Bild im September für den deutschen Maschinenbau etwas aufgehellt. Insgesamt verbuchten die Unternehmen im September einen Bestellrückgang um…

    mehr lesen: Lichtblick für den deutschen Maschinenbau

  • Deutscher Maschinenbau im Stimmungstief

    Deutscher Maschinenbau im Stimmungstief

    Rezessionsgefahr und eine abgeschwächte Auslandsnachfrage trüben die Stimmung im deutschen Maschinenbau. Dies geht aus dem vierteljährlichen Maschinenbaubarometer von PWC für das dritte Quartal 2019 hervor. Demnach blicken 48 Prozent der…

    mehr lesen: Deutscher Maschinenbau im Stimmungstief

  • IT-Umgebungen mit KI managen

    IT-Umgebungen mit KI managen

    Der Anstieg an vernetzten Geräten und Services könnte zukünftig dazu führen, dass IT-Umgebungen nicht mehr allein von Menschenhand gesteuert werden. Dies ist das Ergebnis des ‘2020 Global Networking Technology Report‘…

    mehr lesen: IT-Umgebungen mit KI managen

  • Cosmo Consult erweitert Führungsteam

    Cosmo Consult erweitert Führungsteam

    Um den Weg für weiteres Wachstum zu ebnen, hat das Software- und Beratungsunternehmen Cosmo Consult seine Führungsmannschaft um drei neue Positionen erweitert.

    mehr lesen: Cosmo Consult erweitert Führungsteam

  • Im Wettbewerb Schwachstellen aufspüren

    Im Wettbewerb Schwachstellen aufspüren

    Der IT-Security-Spezialist Trend Micro erweitert seinen Wettbewerb ‘Pwn2Own Miami‘ auf industrielle Steuerungssysteme (ICS). Die Aufgabe besteht darin, Schwachstellen in der Software und den Protokollen von weit verbreiteten Systemen zu finden.…

    mehr lesen: Im Wettbewerb Schwachstellen aufspüren

  • Industrie 4.0 ohne Stolpersteine

    Industrie 4.0 ohne Stolpersteine

    In dem auf drei Jahre ausgelegten Forschungsprojekt Sorisma wollen die Projektpartner Methoden erarbeiten, die Unternehmen dabei helfen soll, Fallstricke bei der Einführung von Industrie 4.0-Technologien zu vermeiden.

    mehr lesen: Industrie 4.0 ohne Stolpersteine