Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

  • Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

    Wissenschaftler der Universitäten Paderborn und Göttingen untersuchen in einer Studie, wie technologiebezogene Verschwörungstheorien zustande kommen und welche Auswirkungen diese haben können.

    mehr lesen: Forschende gehen technologiebezogenen Verschwörungstheorien auf den Grund

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • B-Human erneut beim RoboCup erfolgreich

    B-Human erneut beim RoboCup erfolgreich

    Das Team B-Human der Universität Bremen und des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) errang bei der RoboCup-Weltmeisterschaft in Eindhoven den Titel – und das bereits zum elften Mal.

    mehr lesen: B-Human erneut beim RoboCup erfolgreich

  • Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

    Unternehmen kämpfen noch mit den Cybersicherheitsanforderungen der neuen NIS-2-Richtlinie. Laut einer aktuellen Studie von BlackBerry scheint die Software-Lieferkette ein entscheidender Faktor dafür zu sein.

    mehr lesen: Fehlende Transparenz in der Software-Lieferkette gefährdet NIS-2-Compliance

  • Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

    Bosch setzt seinen Wachstumskurs mit einer strategischen Akquisition fort: Für seinen Bereich Energy and Building Technology plant die Unternehmensruppe das weltweite Heizungs-, Lüftungs- und Klimalösungsgeschäft für Wohn- und kleine Gewerbegebäude…

    mehr lesen: Bosch erwirbt HLK-Geschäft von Johnson Controls & Hitachi

  • EmpowerMX wird Teil von IFS

    EmpowerMX wird Teil von IFS

    IFS erweitert sein Produktportfolio mit der Übernahme von EmpowerMX um eine Wartungssoftware für die Luftfahrtindustrie.

    mehr lesen: EmpowerMX wird Teil von IFS

  • Neuer CFO für Rockwell Automation

    Neuer CFO für Rockwell Automation

    Rockwell Automation hat bekannt gegeben, dass Christian Rothe am 19. August als Senior Vice President und Chief Financial Officer in das Unternehmen eintreten wird.

    mehr lesen: Neuer CFO für Rockwell Automation

  • Kontron erweitert Vorstand

    Kontron erweitert Vorstand

    Mit Philipp Schulz und Johannes Fues hat Kontron zwei neue Vorstandsmitglieder. Zudem gibt das Unternehmen die Vertragsverlängerung von Vorstandsmitglied Michael Riegert bekannt.

    mehr lesen: Kontron erweitert Vorstand

  • Fehlerhaftes Update sorgt weltweit für Ausfälle

    Fehlerhaftes Update sorgt weltweit für Ausfälle

    Ein fehlerhaftes Update einer Sicherheitssoftware hatte am Freitag weltweit für IT-Ausfälle auf Windows-Systemen gesorgt. Aber auch Microsoft selbst meldete Probleme. Mittlerweile hat sich die Situation nach Angaben des BSI wieder…

    mehr lesen: Fehlerhaftes Update sorgt weltweit für Ausfälle

  • Geschäftsklima in der Chemischen Industrie verschlechtert sich

    Geschäftsklima in der Chemischen Industrie verschlechtert sich

    Zuletzt stieg der Ifo-Index der Chemischen Industrie vier Mal in Folge. Im Juni hat sich die Stimmung jedoch wieder verschlechtert.

    mehr lesen: Geschäftsklima in der Chemischen Industrie verschlechtert sich