Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Rahmenprogramm Nachwuchs und Fachkräfte

    Rahmenprogramm Nachwuchs und Fachkräfte

    Die Fachkräftesicherung bleibt eine zentrale Herausforderung in der Metallbearbeitungsbranche und bedarf einer konsequenten qualifizierten Nachwuchsförderung.

    mehr lesen: Rahmenprogramm Nachwuchs und Fachkräfte

  • Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Im Juni blieben die Bestellungen im Maschinen- und Anlagenbau unter dem Vorjahreswert. Und auch für das erste Halbjahr verzeichnet die Branche ein Minus.

    mehr lesen: Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

  • Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

    In der industriellen Fertigung, aber auch in anderen Branchen, hat sich die physische Interaktion zwischen Mensch und Roboter zu einer Schlüsseltechnologie entwickelt. Das Forschungsprojekt Fitness will diese Interaktion mit Metasurface-Antennen…

    mehr lesen: Mit intelligenter Haut Mensch-Roboter-Interaktionen verbessern

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Econ Solutions bezieht neuen Standort

    Econ Solutions bezieht neuen Standort

    Um mehr Kundennähe sowie eine engere Zusammenarbeit mit dem Mutterunternehmen MVV Energie zu ermöglichen hat Econ Solutions einen neuen Standort eröffnet.

    mehr lesen: Econ Solutions bezieht neuen Standort

  • KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

    Vor 40 Jahren kam die erste E-Mail in Deutschland an. Heute werden täglich rund 350 Milliarden Mails versendet – auch durch Cyberkriminelle. Professorin Melanie Volkamer, Expertin für IT-Sicherheit vom Karlsruher…

    mehr lesen: KIT-Expertin: „Cyberangriffe nehmen zu, Schutzmaßnahmen werden besser“

  • Bitkom zum Inkrafttreten des AI Acts

    Bitkom zum Inkrafttreten des AI Acts

    Nach der Veröffentlichung im EU-Amtsblatt am 12. Juli tritt am 1. August der AI Act in Kraft. Der Bitkom sieht jedoch noch viele Fragen ungeklärt.

    mehr lesen: Bitkom zum Inkrafttreten des AI Acts

  • Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

    In Deutschland fehlen Fachkräfte. Ein Weg, um die Lücken zumindest ein bisschen zu schließen: Selbst ausbilden. Besonders gefragt ist Nachwuchs in MINT-Berufen. Wie aus einer Studie des Instituts der deutschen…

    mehr lesen: Wie Unternehmen mit Ausbildung den Fachkräftemangel bekämpfen wollen

  • Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

    Nahezu alle Industrie-Unternehmen befassen sich laut einer Capgemini-Studie mit Bio-Engineering. Die Mehrheit der befragten Organisationen plant demnach sogar Investitionserhöhungen für Biotechnologie. Ein zentrales Motiv: mehr Nachhaltigkeit.

    mehr lesen: Capgemini-Studie zeigt Potenziale für Bio-Engineering in der Industrie

  • Smart Factory Week startet Mitte September

    Smart Factory Week startet Mitte September

    Die Smart Factory Week von MPDV geht vom 16. bis 19. September 2024 in die vierte Runde. Das Online-Event richtet sich an Einsteiger und Nutzer digitaler Fertigungsprozesse und Management Execution…

    mehr lesen: Smart Factory Week startet Mitte September

  • Neuer Managing Director Germany bei Commvault

    Neuer Managing Director Germany bei Commvault

    Seit Juli hat die Commvault Systems einen neuen Management Director für Deutschland. Frank Dehne folgt in dieser Position auf Peter Kayi.

    mehr lesen: Neuer Managing Director Germany bei Commvault

  • BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle

    Nach den weltweiten IT-Störungen am 19. Juli 2024 hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Gespräch mit den Software-Unternehmen Crowdstrike und Microsoft erste Maßnahmen entwickelt, um vergleichbare…

    mehr lesen: BSI entwickelt Folgemaßnahmen als Reaktion auf weltweite IT-Ausfälle