Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Neil Barua folgt auf James Heppelmann

    Neil Barua folgt auf James Heppelmann

    Nach 13 Jahren als CEO beim Softwareunternehmen PTC verabschiedet sich James Heppelmann in den Ruhestand. Sein Nachfolger wird Neil Barua.

    mehr lesen: Neil Barua folgt auf James Heppelmann

  • Skeptischer Blick auf den Sommer

    Skeptischer Blick auf den Sommer

    Ifo Geschäftsklimaindex im Mai Skeptischer Blick auf den Sommer Nach 93,4 Punkten im Vormonat, fällt der Ifo Geschäftsklimaindex im Mai auf 91,7 Punkte – der erste Rückgang in sechs Montanen.

    mehr lesen: Skeptischer Blick auf den Sommer

  • Kritik am Cyber Resilience Act

    Kritik am Cyber Resilience Act

    Kritik am Cyber Resilience Act Open-Source-Organisationen richten offenen Brief an EU Kommission In einem offenen Brief kritisieren neun Open-Source-Organisationen die EU Kommission, die Perspektive der Community im Rahmen des Cyber…

    mehr lesen: Kritik am Cyber Resilience Act

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • VDI bietet Big-Data-Schulungen an

    VDI bietet Big-Data-Schulungen an

    Aus- und Weiterbildung VDI bietet Big-Data-Schulungen an Auf Grundlage der im November 2022 veröffentlichten Richtlinie VDI/VDE-MT 3714 bietet der VDI Schulungen für die Implementierung und den Betrieb von Big-Data-Anwendungen an.

    mehr lesen: VDI bietet Big-Data-Schulungen an

  • Qualitätsmanagement-System mit integrierter KI

    Qualitätsmanagement-System mit integrierter KI

    KI-Funktionen in Standardsoftware Qualitätsmanagement-System mit integrierter KI Softwareanbieter Consense ergänzt sein Qualitätsmanagement-System um KI-gestützte Funktionen. Die Algorithmen sollen helfen, Prozesse zu automatisieren und einfacher zu gestalten.

    mehr lesen: Qualitätsmanagement-System mit integrierter KI

  • Eine Tauschplattform für die Autoindustrie

    Eine Tauschplattform für die Autoindustrie

    Plattform Wavetrade Eine Tauschplattform für die Autoindustrie Der KI-Spezialist One Data hat eine Tauschplattform an den Start gebracht, über die Automobilhersteller ’kritische Komponenten’ wie etwa Halbleiter an- und verkaufen sowie…

    mehr lesen: Eine Tauschplattform für die Autoindustrie

  • Marktstudie vergleicht mehr als 140 SCM-Lösungen

    Marktstudie vergleicht mehr als 140 SCM-Lösungen

    Supply-Chain-Management-Software Marktstudie vergleicht mehr als 140 SCM-Lösungen Wo liegen die Unterschiede in Supply-Chain-Management-Software? Eine Marktübersicht der Trovarit, des Fraunhofer IPA und des IFR vergleicht mehr als 140 Lösungen.

    mehr lesen: Marktstudie vergleicht mehr als 140 SCM-Lösungen

  • Was bedeuten Low Code und No Code für ERP-Systeme?

    Was bedeuten Low Code und No Code für ERP-Systeme?

    Diskussionspapier des Bitkom Was bedeuten Low Code und No Code für ERP-Systeme? Mit Low Code bzw. No Code können auch Nicht-ITler Anwendungen aus vorgefertigten Bausteinen erstellen. Die Auswirkungen des Ansatzes…

    mehr lesen: Was bedeuten Low Code und No Code für ERP-Systeme?

  • Positives Signal, doch es bleiben Fragen

    Positives Signal, doch es bleiben Fragen

    DSAG-Statement zur geplanten Stärkung des SAP-ERP-Geschäfts Positives Signal, doch es bleiben Fragen Im Rahmen der Bilanzpressekonferenz hat SAP mitgeteilt, das Enterprise-Resource-Planning (ERP)-Geschäft stärken und Einschnitte in Programmen für Vertrieb und…

    mehr lesen: Positives Signal, doch es bleiben Fragen

  • Neuer Deutschlandchef bei HPE

    Neuer Deutschlandchef bei HPE

    Marc Fischer folgt auf Johannes Koch Neuer Deutschlandchef bei HPE Hewlett Packard Enterprise hat Marc Fischer zum Deutschland-Chef ernannt. Sein Vorgänger Johannes Koch übernimmt die Leitung für die Region Zentraleuropa.

    mehr lesen: Neuer Deutschlandchef bei HPE

  • Geschäftslage der Autoindustrie bessert sich

    Geschäftslage der Autoindustrie bessert sich

    Erwartungen wieder positiv Geschäftslage der Autoindustrie bessert sich Die deutsche Autoindustrie ist laut einer Ifo Befragung zuversichtlicher gestimmt als noch zuletzt. So sind auch die Erwartungen erstmals seit fünf Monaten…

    mehr lesen: Geschäftslage der Autoindustrie bessert sich