Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Mit Low-Code gegen den Entwicklungsstau

    Mit Low-Code gegen den Entwicklungsstau

    Die Pandemie hat die Digitalisierung beschleunigt, aber auch zu einem zunehmendem Software-Entwicklungsstau geführt, so eine Studie von Mendix. Ein Low-Code-Ansatz kann helfen den damit einhergehenden Problemen zu begegnen.

    mehr lesen: Mit Low-Code gegen den Entwicklungsstau

  • Jochen Weyrauch folgt auf Ralf Dieter

    Jochen Weyrauch folgt auf Ralf Dieter

    Seit 2006 ist Ralf W. Dieter Vorstandsvorsitzender der Dürr AG. Zum Jahresende wird er sein Amt zur Verfügung stellen. Seine Nachfolge tritt Jochen Weyrauch an.

    mehr lesen: Jochen Weyrauch folgt auf Ralf Dieter

  • Zugang zur Formnext nur für Geimpfte und Genesene

    Zugang zur Formnext nur für Geimpfte und Genesene

    Im November findet die 3D-Druck-Messe Formnext in Frankfurt statt. Wie der Veranstalter nun bekanntgegeben hat, kommt dabei die 2G-Regel zum tragen.

    mehr lesen: Zugang zur Formnext nur für Geimpfte und Genesene

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Lieferengpässe drücken die Stimmung der Automobilindustrie

    Lieferengpässe drücken die Stimmung der Automobilindustrie

    Die Engpässe bei Vorprodukten wirken sich derzeit quasi auf alle Teile der Industrie aus. Besonders davon betroffen ist allerdings die Automobilindustrie, was sich auch in aktuellen Zahlen des Ifo Instituts…

    mehr lesen: Lieferengpässe drücken die Stimmung der Automobilindustrie

  • Datenwirtschaft und KI als Chance begreifen

    Datenwirtschaft und KI als Chance begreifen

    Laut einer ZVEI-Umfrage fühlen sich die Unternehmen der Elektronikbranche eingeschränkt, wenn es um die Nutzung von Daten geht, auch aufgrund von Rechtsunsicherheiten bezüglich der DSGVO.

    mehr lesen: Datenwirtschaft und KI als Chance begreifen

  • Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

    Nach einer Analyse des Technologie-Dienstleisters NTT haben Ransomware-Attacken ein neues Rekordniveau erreicht: Bis zum Jahresende müssen sich Unternehmen alle elf Sekunden auf einen Angriff mit Erpresser-Schadsoftware einstellen. Dabei nutzen Cyberkriminelle…

    mehr lesen: Mehr Angriffe, mehr Lösegeld, doppelt Erpresst

  • Weg ins Firmennetzwerk oft schlecht gesichert

    Weg ins Firmennetzwerk oft schlecht gesichert

    In Deutschland nutzen die Menschen laut einer G Data-Erhebung zu selten sichere Passwörter, Antiviren-Programme oder Zwei-Faktor-Authentifizierung. Damit steigt das Risiko im beruflichen und auch im privaten Bereich.

    mehr lesen: Weg ins Firmennetzwerk oft schlecht gesichert

  • Spatenstich für Neubau des Fraunhofer IPA

    Spatenstich für Neubau des Fraunhofer IPA

    In dieser Woche erfolgte der Spatenstich für den Neubau des Fraunhofer Instituts für Produktionstechnik und Automatisierung. Das Investitionsvolumen beträgt rund 37Mio.€.

    mehr lesen: Spatenstich für Neubau des Fraunhofer IPA

  • Peter Schneck wird Cenit-CEO

    Peter Schneck wird Cenit-CEO

    Peter Schneck wird Mitglied des Vorstands bei der Cenit AG und übernimmt zum 1. Januar 2022 die Position des CEO. Er folgt auf Kurt Bengel der das Unternehmen plangemäß zum…

    mehr lesen: Peter Schneck wird Cenit-CEO

  • Rekordjahr für Investitionen in Quantentechnologien

    Rekordjahr für Investitionen in Quantentechnologien

    Der McKinsey ‘Quantum Technology Monitor’ zeigt eine Zunahme der globalen Markt – und Technologieentwicklungen von Quantentechnologien. Dabei sind die angekündigten Investitionen im laufenden Jahr dreimal so hoch wie in 2020.

    mehr lesen: Rekordjahr für Investitionen in Quantentechnologien

  • Stimmung in der Industrie belastet Geschäftsklima

    Stimmung in der Industrie belastet Geschäftsklima

    Nach einem Rückgang im August ist der Ifo-Geschäftsklimaindex auch im September gesunken. Belastet werden die Zahlen dabei durch die schlechtere Stimmung in der Industrie.

    mehr lesen: Stimmung in der Industrie belastet Geschäftsklima