Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Weiter Zurückhaltung bei Neueinstellungen

    Weiter Zurückhaltung bei Neueinstellungen

    Bundesweit gab es im ersten Quartal 2021 1,13Mio. offene Stellen und damit mehr als im gleichen Zeitraum 2020. Im Vergleich zum 4. Quartal 2020 gingen die offenen Stellen jedoch zurück.

    mehr lesen: Weiter Zurückhaltung bei Neueinstellungen

  • Konjunkturerwartung steigen im Mai

    Konjunkturerwartung steigen im Mai

    Höchster Wert seit Pandemie-Beginn Konjunkturerwartung steigen im Mai Mit 84,4 Punkten steigen die ZEW-Konjunkturerwartungen im Mai auf den höchsten Wert seit mehr als 20 Jahren und auch die aktuelle Lage…

    mehr lesen: Konjunkturerwartung steigen im Mai

  • Valantic und Systema arbeiten zusammen

    Valantic und Systema arbeiten zusammen

    Das IT-Beratungs- und Softwarehaus Valantic partnert künftig mit Systema, einem eigentümergeführten Systemintegrator, der sich auf Softwarelösungen und Dienstleistungen zur MES-Integration, Fertigungsautomatisierung und Produktionsoptimierung spezialisiert hat.

    mehr lesen: Valantic und Systema arbeiten zusammen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Industrie will mehr produzieren

    Industrie will mehr produzieren

    Die Deutschen Industrieunternehmen wollen ihre Produktion ausweiten. Die gesteigerten Erwartungen verhelfen dem entsprechenden Indikator des Ifo Instituts zum höchsten Stand seit 1991.

    mehr lesen: Industrie will mehr produzieren

  • Mehrheit der Industrieunternehmen geht gestärkt aus der Krise

    Mehrheit der Industrieunternehmen geht gestärkt aus der Krise

    57 Prozent der Unternehmen aus der verarbeitenden Industrie gehen davon aus, gestärkt aus der Coronakrise hervorzugehen. Das geht aus einer Studie von Sopra Steria und dem F.A.Z.-Institut hervor. Um diese…

    mehr lesen: Mehrheit der Industrieunternehmen geht gestärkt aus der Krise

  • Agile Methoden liegen im Trend

    Agile Methoden liegen im Trend

    Das sogenannte Wasserfall-Prinzip in der Software-Entwicklung kommt immer seltener zum Einsatz. Häufiger sind agile Methoden wie die ’Continuous Integration’, bei denen Software in kleinen Einheiten kontinuierlich erweitert und verbessert wird.…

    mehr lesen: Agile Methoden liegen im Trend

  • LiefKettG nimmt Schutz von Arbeitnehmern und Umwelt in den Fokus

    LiefKettG nimmt Schutz von Arbeitnehmern und Umwelt in den Fokus

    Das Bundeskabinett hat im März den Entwurf für das neue Lieferkettengesetz beschlossen. Wird das Gesetz in dieser Form erlassen, so werden in deutschen Unternehmen einige Änderungen erforderlich. Der Softwareanbieter Comarch…

    mehr lesen: LiefKettG nimmt Schutz von Arbeitnehmern und Umwelt in den Fokus

  • Siemens mit deutlicher Gewinnsteigerung im 2. Quartal

    Siemens mit deutlicher Gewinnsteigerung im 2. Quartal

    Siemens beendet das erste Halbjahr des laufenden Geschäftsjahres mit positiven Neuigkeiten. Umsatzerlöse und Gewinn legen kräftig zu.

    mehr lesen: Siemens mit deutlicher Gewinnsteigerung im 2. Quartal

  • Mehr Investitionen in Forschung und Entwicklung

    Mehr Investitionen in Forschung und Entwicklung

    Insgesamt 8,2Mrd.€ hat der Maschinen- und Anlagenbau im Jahr 2019 für Forschung und Entwicklung ausgegeben. Auch in der Pandemie behalten F&E-Ausgaben einen hohen Stellenwert.

    mehr lesen: Mehr Investitionen in Forschung und Entwicklung

  • Sicherheitsrisiko neu definieren – Hacker engagieren

    Sicherheitsrisiko neu definieren – Hacker engagieren

    IT-Sicherheit ist ein wichtiges Thema für jedes Unternehmen. Denn kommt es zu einem erfolgreichen Angriff kann dies teuer werden. Durch die Nutzung sogenannter Bug-Bounty-Plattformen können Unternehmen kriminellen Hackern vorgreifen.

    mehr lesen: Sicherheitsrisiko neu definieren – Hacker engagieren

  • Zusammenarbeit funktioniert nur in jedem fünften Unternehmen

    Zusammenarbeit funktioniert nur in jedem fünften Unternehmen

    Corona stellt Unternehmen und deren Mitarbeiter nach wie vor auf eine harte Probe. Laut der Studie ‚Kollaboration – Erfolgsfaktor Zusammenarbeit‘ schaffen es aktuell nur 22 Prozent der Unternehmen, eine Zusammenarbeit…

    mehr lesen: Zusammenarbeit funktioniert nur in jedem fünften Unternehmen