Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Wenn Excel-Listen etwas vorgaukeln

    Wenn Excel-Listen etwas vorgaukeln

    „Manipulierte Phantomzahlen in Excel können über Jahre hinweg ein florierendes Unternehmen vorgaukeln, das in Wahrheit kurz vor der Insolvenz steht“, sagt Jane Enny van Lambalgen. Die CEO von Planet Industrial…

    mehr lesen: Wenn Excel-Listen etwas vorgaukeln

  • NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

    NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

    Mit einer Mehrheitsbeteiligung an ProvenTech will NTT Data seine Marktreichweite im Bereich Life Sciences steigern. Das indische Unternehmen beschäftigt rund 350 Mitarbeiter.

    mehr lesen: NTT Data erwirbt Mehrheitsbeteiligung an ProvenTech

  • Ein Exoskelett für das Raumfahrttraining

    Ein Exoskelett für das Raumfahrttraining

    Bei Weltraummissionen werden Astronautinnen und Astronauten oft mit feinmotorischen Aufgaben wie Reparaturen oder Experimenten konfrontiert, die durch die Schwerelosigkeit im All erschwert werden.

    mehr lesen: Ein Exoskelett für das Raumfahrttraining

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • MKG wird Teil von Proalpha

    MKG wird Teil von Proalpha

    Proalpha übernimmt das Unternehmen MKG. Der niederländische ERP-Anbieter ist im Bereich der metallverarbeitenden Industrie tätig.

    mehr lesen: MKG wird Teil von Proalpha

  • Augenlicht aus dem 3D-Drucker

    Augenlicht aus dem 3D-Drucker

    Noch während der Operation eine neue Hornhaut ausdrucken und damit die Sehfunktion wiederherstellen: Diesen Schritt im Kampf gegen Hornhauterkrankungen soll künftig ein laserbasiertes Verfahren mit maßgeschneiderter Biotinte ermöglichen. Entwickelt haben…

    mehr lesen: Augenlicht aus dem 3D-Drucker

  • Die passende Software finden

    Die passende Software finden

    ’Mehrwert durch Software’ heißt der neue Branchenführer der VDMA-Gruppe Software und Digitalisierung. Der Branchenführer steht ab sofort zum Download bereit.

    mehr lesen: Die passende Software finden

  • PSI besetzt CTO-Posten mit Erol Bozak

    PSI besetzt CTO-Posten mit Erol Bozak

    Der Softwarehersteller PSI verstärkt das Management im Bereich Technologie und Entwicklung und ernennt Erol Bozak zum CTO.

    mehr lesen: PSI besetzt CTO-Posten mit Erol Bozak

  • Snowflake-Kunden im Visier von Cyberkriminellen

    Snowflake-Kunden im Visier von Cyberkriminellen

    Wie der Security-Spezialist Mandiant berichtet, haben es Bedrohungsakteure auf Kunden des Cloud-Anbieters Snowflake abgesehen. Die Unternehmen raten dazu, die Multi-Faktor-Authentifizierung zu aktivieren.

    mehr lesen: Snowflake-Kunden im Visier von Cyberkriminellen

  • TDM Systems und Cribwise bilden Tool Flow Solutions

    TDM Systems und Cribwise bilden Tool Flow Solutions

    Der Sandvik-Konzern hat den Geschäftsbereich Tool Flow Solutions ins Leben gerufen. Erste Mitglieder werden die beiden Tochterunternehmen TDM Systems und Cribwise.

    mehr lesen: TDM Systems und Cribwise bilden Tool Flow Solutions

  • 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    Trotz eines Rückgangs bei Umsätzen und Auslieferungen von Industrierobotern im Jahr 2023 prognostizieren die Marktforscher von Interact Analysis ein jährliches Marktwachstum von 3,7 Prozent bis 2028.

    mehr lesen: 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

  • Quantencomputing made in Germany

    Quantencomputing made in Germany

    Quantencomputer haben eine besonders hohe Rechenleistung und können so komplexe Probleme lösen. Wie? Davon können sich Unternehmen und Forschungsteams nun im Hamburg ein Bild machen.

    mehr lesen: Quantencomputing made in Germany