Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Produktion legt wieder zu

    Produktion legt wieder zu

    Laut statistischem Bundesamt hat sich die Industrie im Mai von den Einbrüchen verursacht durch die Corona-Pandemie etwas erholt. Die Produktion legte zu, verfehlt das Mai-Ergebnis des Vorjahres jedoch um 19,3…

    mehr lesen: Produktion legt wieder zu

  • Drei von vier Unternehmen erwarten schnelle Erholung

    Drei von vier Unternehmen erwarten schnelle Erholung

    Zwei Drittel (66 Prozent) der Unternehmensleiter weltweit sind optimistisch, dass sich der europäische Markt relativ schnell vom wirtschaftlichen Abschwung durch die COVID-19-Pandemie erholen wird. Das geht aus einem Report des…

    mehr lesen: Drei von vier Unternehmen erwarten schnelle Erholung

  • Neuer CSO bei Proalpha

    Neuer CSO bei Proalpha

    Der ERP-Anbieter Proalpha hat einen neuen Chief Sales Officer. Zum 1. Juli hat Michael T. Sander die Position übernommen. Er folgt auf Andree Stachowski.

    mehr lesen: Neuer CSO bei Proalpha

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Leuze nimmt neues Distributionszentrum in Betrieb

    Leuze nimmt neues Distributionszentrum in Betrieb

    Leuze will bis Ende Juli sein neues Distributionszentrum in Betrieb nehmen.

    mehr lesen: Leuze nimmt neues Distributionszentrum in Betrieb

  • Armin Schnettler wird VDE-Präsident

    Armin Schnettler wird VDE-Präsident

    Der VDE hat mit Prof. Dr. Armin Schnettler einen neuen Präsidenten. Er folgt auf Dr. Gunther Kegel.

    mehr lesen: Armin Schnettler wird VDE-Präsident

  • Plattform für digitale Ausweisdokumente

    Plattform für digitale Ausweisdokumente

    Infineon Technologies bietet mit Secora ID eine einfach zu integrierende Sicherheitsplattform für digitale Ausweisdokumente, die kontaktlos funktionieren.

    mehr lesen: Plattform für digitale Ausweisdokumente

  • In der Krise mehr digitalisieren

    In der Krise mehr digitalisieren

    52 Prozent der Unternehmen wollen ihre Ausgaben bezüglich der digitalen Transformation erhöhen. Dies hat der Business-Software-Anbieter IFS in einer Studie ermittelt für die weltweit mehr als 3.032 Führungskräfte befragt wurden.

    mehr lesen: In der Krise mehr digitalisieren

  • Veränderungen in Bosch-Geschäftsführung

    Veränderungen in Bosch-Geschäftsführung

    Bosch Rexroth gibt einige Veränderungen in der Geschäftsführung bekannt. Unter anderem tritt Filiz Albrecht die Nachfolge von Christoph Kübel an, der zum Jahresende in den Ruhestand geht.

    mehr lesen: Veränderungen in Bosch-Geschäftsführung

  • Maschinenbau: Stimmungslage im 2. Quartal

    Maschinenbau: Stimmungslage im 2. Quartal

    Der exportorientierte deutsche Maschinenbau wurde von der weltweiten Corona-Pandemie hart getroffen. Das wird sich auch so schnell nicht ändern. Darauf deuten sowohl die aktuelle Stimmungslage sowie die Konjunktur- und Umsatzprognose…

    mehr lesen: Maschinenbau: Stimmungslage im 2. Quartal

  • Cyber Security for Critical Infrastructures

    Cyber Security for Critical Infrastructures

    Die zunehmende Digitalisierung von Unternehmen und die damit einhergehende Vernetzung praktisch aller Gebiete schaffen ein enormes wirtschaftliches Potenzial. Gleichzeitig entstehen durch die zunehmende Vernetzung aber auch neue Gefahren und Cyberangriffe…

    mehr lesen: Cyber Security for Critical Infrastructures

  • Operational Technology im Fokus von Cyberattacken

    Operational Technology im Fokus von Cyberattacken

    In einer weltweiten Studie haben TÜV Rheinland und das Marktforschungsinstitut Ponemon untersucht, wie es um die Cybersicherheit von Industrieanlagen bestellt ist. Demnach ist die Operational Technology besonders gefährdet.

    mehr lesen: Operational Technology im Fokus von Cyberattacken