Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Manufacturing-X-Demonstrator von VDMA und T-Systems

    Manufacturing-X-Demonstrator von VDMA und T-Systems

    Der VDMA und T-Systems präsentieren gemeinsam mit der Initiative Umati (universal machine technology interface) auf der diesjährigen Hannover Messe eine erste globale Manufacturing-X-Umsetzung mit offenen Standards für Maschinendaten.

    mehr lesen: Manufacturing-X-Demonstrator von VDMA und T-Systems

  • VDI stellt Führungsspitze neu auf

    VDI stellt Führungsspitze neu auf

    Der VDI stellt seine Führungsspitze in zentralen Bereichen neu auf: Daniel Kölle übernimmt die Leitung des Bereichs Politik und Kommunikation; Thomas Kiefer wird Bereichsleiter Beruf, Bildung und Netzwerke.

    mehr lesen: VDI stellt Führungsspitze neu auf

  • Unsere Podcasts auf der der OWW

    Unsere Podcasts auf der der OWW

    Ab sofort finden sich die Podcast-Formate des TeDo Verlages auch auf der Open Webinar World.

    mehr lesen: Unsere Podcasts auf der der OWW

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

    China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

    Die Staatliche Kommission für Entwicklung und Reform Chinas hat angekündigt, einen öffentlich geförderten Wagniskapitalfonds für Robotik, künstliche Intelligenz und Spitzeninnovationen einzurichten.

    mehr lesen: China will 1 Billion Yuan in die Robotik- und Hightech-Industrie investieren

  • Wenn der Clever-Hans-Effekt zuschlägt

    Wenn der Clever-Hans-Effekt zuschlägt

    KI-Modelle wie GPT, Llama oder Clipdienen dienen oft als Ausgangsbasis für spezialisierte KI-Modelle, die in der Wissenschaft, Industrie und nicht zuletzt in der medizinischen Diagnostik eingesetzt werden.

    mehr lesen: Wenn der Clever-Hans-Effekt zuschlägt

  • AMA-Mitglieder mit verhaltenem Optimismus für 2025

    AMA-Mitglieder mit verhaltenem Optimismus für 2025

    Der AMA Verband für Sensorik und Messtechnik hat seine Mitglieder Anfang des Jahres zur wirtschaftlichen Entwicklung 2024 befragt.

    mehr lesen: AMA-Mitglieder mit verhaltenem Optimismus für 2025

  • BSI als EUCC-Zertifizierungsstelle notifiziert

    BSI als EUCC-Zertifizierungsstelle notifiziert

    Das Bundesamt für Sicherheit in der Informationstechnik (BSI) wurde als alleinige staatliche Zertifizierungsstelle gemäß der Verordnung (EU) 2019/881 (Cybersercurity Act, CSA) bei der Europäischen Kommission (EU-KOM) notifiziert.

    mehr lesen: BSI als EUCC-Zertifizierungsstelle notifiziert

  • Logicalis, Siticom und Orange Networks unter einem Dach

    Logicalis, Siticom und Orange Networks unter einem Dach

    Unter dem Motto ‚One Logicalis‘ firmieren die Logicalis-Tochterunternehmen Siticom und Orange Networks künftig ebenfalls als Logicalis – unter gemeinsamer Führung mit der Logicalis GmbH.

    mehr lesen: Logicalis, Siticom und Orange Networks unter einem Dach

  • Konjunktur-Dämpfer für Intralogistikbranche

    Konjunktur-Dämpfer für Intralogistikbranche

    Im vergangenen Jahr konnten die Hersteller von Fördertechnik und Intralogistik aus Deutschland den konjunkturellen Herausforderungen trotzen.

    mehr lesen: Konjunktur-Dämpfer für Intralogistikbranche

  • Kooperation von Dürr und Grob

    Kooperation von Dürr und Grob

    Dürr und Grob setzen ihre strategische Kooperation im Bereich Produktionstechnologie für Batteriezellen fort. Der dritte Gründungspartner, der Maschinenbauer Manz, ist ausgestiegen.

    mehr lesen: Kooperation von Dürr und Grob

  • Wo Deutschland Exportweltmeister ist

    Wo Deutschland Exportweltmeister ist

    Bestimmte Medikamente, chemische Halbstoffe, optische Mikroskope: Bei all diesen Waren ist Deutschland besonders stark und dominant im Export.

    mehr lesen: Wo Deutschland Exportweltmeister ist