Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Werner Rieche wird Vice President DACH bei OpenText

    Werner Rieche wird Vice President DACH bei OpenText

    Von 2001 bis 2015 war Werner Rieche bereits für OpenText tätig. Nun kehrt er als Vice President DACH zum Softwareunternehmen zurück.

    mehr lesen: Werner Rieche wird Vice President DACH bei OpenText

  • 6 Steuertipps für Unternehmen

    6 Steuertipps für Unternehmen

    Aufgrund der Corona-Krise wurde eine Reihe von Steuergesetzen zugunsten von Unternehmen geändert. So können vor allem KMU unter anderem von Sonderabschreibungen, einer Verlängerung der Frist für den Investitionsabzugsbetrag sowie von…

    mehr lesen: 6 Steuertipps für Unternehmen

  • In fünf Phasen gegen Hacker

    In fünf Phasen gegen Hacker

    Angriffe mit Ransomware sind weit verbreitet und laut einer TÜV-Rheinland-Umfrage sehen sich rund 30 Prozent der darin Befragten Sicherheitsexperten, nicht ausreichend gegen eine solche Attacke gerüstet.

    mehr lesen: In fünf Phasen gegen Hacker

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Ende 2021 wieder auf Vorkrisenniveau

    Ende 2021 wieder auf Vorkrisenniveau

    Die zweite Corona-Welle hat den Wirtschaftsaufschwung des Sommers ausgebremst, doch die Entwicklung mehrerer Impfstoffe macht Hoffnung: So geht die Konjunkturprognose des Instituts der Deutschen Wirtschaft (IW) davon aus, dass das…

    mehr lesen: Ende 2021 wieder auf Vorkrisenniveau

  • Umfrage unter Deutschlands Ingenieuren 

    Umfrage unter Deutschlands Ingenieuren 

    Die deutschen Ingenieure blicken skeptisch auf das Jahr 2021. In einer Befragung des VDI Wissensforums gibt mehr als die Hälfte der befragten Ingenieure an, dass sich die Auftragslage im eigenen…

    mehr lesen: Umfrage unter Deutschlands Ingenieuren 

  • Neuer Westeuropachef bei Universal Robots

    Neuer Westeuropachef bei Universal Robots

    Andrea Alboni leitet seit dem 1. Dezember die Region Westeuropa für Universal Robots (UR). Damit übernimmt Alboni die Führung in einem der nach Unternehmensangaben wichtigsten Absatzmärkte von UR.

    mehr lesen: Neuer Westeuropachef bei Universal Robots

  • Blick in die Zukunft ist zuversichtlicher

    Blick in die Zukunft ist zuversichtlicher

    Mit einem Plus von 16 Punkten sind die ZEW-Konjunkturerwartungen im Dezember auf 55 Index-Punkte gestiegen. Die aktuelle Lage wird jedoch schlechter eingeschätzt als im Vormonat.

    mehr lesen: Blick in die Zukunft ist zuversichtlicher

  • Warenstau im Reich der Mitte

    Warenstau im Reich der Mitte

    Warentransporte von China nach Europa sind derzeit mit deutlich höheren Kosten als verbunden, als noch vor einigen Wochen. Containerschiffe sind ausgebucht, in der Luftfracht fehlen Kapazitäten und Waggons für Bahntransporte…

    mehr lesen: Warenstau im Reich der Mitte

  • Dassault Systèmes übernimmt alle Anteile von NuoDB

    Dassault Systèmes übernimmt alle Anteile von NuoDB

    Um die Weiterentwicklung seiner 3DEexperience-Plattform im Bereich Cloud und Data Science voranzutreiben, hat Dassault Systèmes das US-Unternehmen NuoDB übernommen.

    mehr lesen: Dassault Systèmes übernimmt alle Anteile von NuoDB

  • Modulare Sicherheit für modulare Produktionsanlagen

    Modulare Sicherheit für modulare Produktionsanlagen

    Die Industrie 4.0-Inititative SmartFactory-KL hat ein Whitepaper zur Absicherung von modularen Produktionsanlagen veröffentlicht. Die Grundlage für das Papier bildet ein ebenfalls modular aufgelegtes Safety-Konzept, das seit 2018 entwickelt wird.

    mehr lesen: Modulare Sicherheit für modulare Produktionsanlagen

  • Mehr Budget für mehr Digitalisierung

    Mehr Budget für mehr Digitalisierung

    Die Digitalisierung von Prozessen ist die Nummer-1-Priorität, wenn es um den Einsatz des IT-Budgets geht. Knapp die Hälfte im Rahmen einer Capgemini-Studie befragten Unternehmen will die Budgets im kommenden Jahr…

    mehr lesen: Mehr Budget für mehr Digitalisierung