Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Cyber Security for Critical Infrastructures

    Cyber Security for Critical Infrastructures

    Die zunehmende Digitalisierung von Unternehmen und die damit einhergehende Vernetzung praktisch aller Gebiete schaffen ein enormes wirtschaftliches Potenzial. Gleichzeitig entstehen durch die zunehmende Vernetzung aber auch neue Gefahren und Cyberangriffe…

    mehr lesen: Cyber Security for Critical Infrastructures

  • Operational Technology im Fokus von Cyberattacken

    Operational Technology im Fokus von Cyberattacken

    In einer weltweiten Studie haben TÜV Rheinland und das Marktforschungsinstitut Ponemon untersucht, wie es um die Cybersicherheit von Industrieanlagen bestellt ist. Demnach ist die Operational Technology besonders gefährdet.

    mehr lesen: Operational Technology im Fokus von Cyberattacken

  • Unternehmen sehen Licht am Ende des Tunnels

    Unternehmen sehen Licht am Ende des Tunnels

    Mit dem stärksten jemals gemessenen Anstieg hat sich der Ifo-Geschäftsklimaindex im Juni im Vergleich zum Vormonat etwas erholt. Er liegt nun bei 86,2 Punkten.

    mehr lesen: Unternehmen sehen Licht am Ende des Tunnels

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Cloud-Computing bleibt auf Wachstumskurs

    Cloud-Computing bleibt auf Wachstumskurs

    Im vergangenen Jahr haben 76 Prozent der Unternehmen Rechenleistung aus der Cloud in Anspruch genommen. Dies geht aus einer Studie von Bitkom Research im Auftrag von KPMG hervor.

    mehr lesen: Cloud-Computing bleibt auf Wachstumskurs

  • Maschinenbauer zuversichtlich für die Zeit nach Corona

    Maschinenbauer zuversichtlich für die Zeit nach Corona

    Die überwiegende Zahl der Maschinenbauer ist zuversichtlich, mittelfristig auf das nominale Umsatzniveau von 2019 zurückzukehren. So lautet die Kernbotschaft der sechsten VDMA-Blitzumfrage zur Corona-Pandemie, an der 658 Unternehmen teilnahmen.

    mehr lesen: Maschinenbauer zuversichtlich für die Zeit nach Corona

  • Google Cloud tritt der OPC Foundation bei

    Google Cloud tritt der OPC Foundation bei

    Google Cloud wird künftig verstärkt OPC UA nutzen, um Maschinendaten zur Verarbeitung an die eigene Infrastruktur zu übertragen. Dafür tritt die Firma der OPC Foundation als 773. Mitglied bei.

    mehr lesen: Google Cloud tritt der OPC Foundation bei

  • Zukünftig weniger Dienstreisen?

    Zukünftig weniger Dienstreisen?

    Wie aus der aktuellen Ifo-Konjunkturumfrage hervorgeht, will mehr als die Hälfte der deutschen Unternehmen — vor allem aus der Industrie — im Zuge der Coronakrise Geschäftsreisen dauerhaft zurückfahren.

    mehr lesen: Zukünftig weniger Dienstreisen?

  • Besser aus der Krise kommen

    Besser aus der Krise kommen

    Die finanziellen Auswirkungen der Corona-Pandemie sind groß, dennoch birgt die aktuelle Krise auch positives. Laut einer Umfrage des VDI führt die aktuelle Situation dazu, dass sich Unternehmen digitaler und krisenfester…

    mehr lesen: Besser aus der Krise kommen

  • Zukunftssicherheit im deutschen Maschinenbau

    Zukunftssicherheit im deutschen Maschinenbau

    Die Maschinenbau-Branche leidet unter den Folgen von Covid-19. Doch die Ursachen für die Probleme liegen tiefer. Das zeigt die jüngste Studie von Inform: ‚Trendreport 2020 für den Maschinen- und Anlagenbau:…

    mehr lesen: Zukunftssicherheit im deutschen Maschinenbau

  • BMW und Mercedes-Benz legen Entwicklungskooperation auf Eis

    BMW und Mercedes-Benz legen Entwicklungskooperation auf Eis

    BMW und Mercedes-Benz stoppen ihre Kooperation zur Entwicklung automatisierter Fahrzeuge. Die Entwicklung einer gemeinsamen Technologiebasis wäre zu aufwendig, heißt es in einer gemeinsamen Pressemitteilung. Auch die Konjunktur spiele bei der…

    mehr lesen: BMW und Mercedes-Benz legen Entwicklungskooperation auf Eis

  • Corona bremst Robotik und Automation stärker als erwartet

    Corona bremst Robotik und Automation stärker als erwartet

    VDMA Robotik+Automation rechnet für das laufende Jahr mit einem Umsatzrückgang von mindestens 20 Prozent. Vor Ausbruch der Pandemie ging der Verband von einem Rückgang von 10 Prozent aus.

    mehr lesen: Corona bremst Robotik und Automation stärker als erwartet