Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • World of Quantum geht in München an den Start

    World of Quantum geht in München an den Start

    Eine Plattform für die Quantentechnologie will die Messe München mit der World of Quantum bieten, die erstmals im Rahmen der Laser World of Photonics stattfinden soll.

    mehr lesen: World of Quantum geht in München an den Start

  • Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Pandemie hemmt Innovationen und ist zugleich Impulsgeber

    Im Jahr 2020 haben deutsche Unternehmen ihre innovationsausgaben reduziert. Wie aus Erhebungen des Zentrums für Europäische Wirtschaftsforschung hervorgeht, sind die Innovationstätigkeiten dabei vor allem bei Großunternehmen zurück gegangen.

    mehr lesen: Pandemie hemmt Innovationen und ist zugleich Impulsgeber

  • FMB 2022 findet früher statt

    FMB 2022 findet früher statt

    Die Vorverlegung der SPS führt dazu, dass die FMB – Zuliefermesse Maschinenbau nun ebenfalls früher stattfindet. Statt wie ursprünglich geplant Mitte November, sind die Veranstalter auf einen Termin Mitte Oktober…

    mehr lesen: FMB 2022 findet früher statt

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • iGrafx übernimmt Logpickr

    iGrafx übernimmt Logpickr

    Mit der Übernahme von Logpickr hat sich der Prozessdatenmanagement-Spezialist iGrafx Knowhow in Sachen Process Mining gesichert.

    mehr lesen: iGrafx übernimmt Logpickr

  • Machine Learning für die hochautomatisierte Fertigung

    Machine Learning für die hochautomatisierte Fertigung

    Der Automobilzulieferer Valeo hat mit dem Fraunhofer KI-Spin-off Plus10 und der Technischen Hochschule Ingolstadt ein Forschungs- und Entwicklungsprojekt gestartet. Ziel des Projekts Palim (Performance-Accelerated Learning for Intelligent Manufacturing) ist es,…

    mehr lesen: Machine Learning für die hochautomatisierte Fertigung

  • Ifo Geschäftsklima legt im Januar zu

    Ifo Geschäftsklima legt im Januar zu

    0,9 Punkte mehr als noch im Dezember: Der Ifo-Geschäftsklimaindex ist im Januar gestiegen. Aus der Industrie kommen dabei positive Signale.

    mehr lesen: Ifo Geschäftsklima legt im Januar zu

  • Neuer Vorsitzender der VDI/VDE-GMA

    Neuer Vorsitzender der VDI/VDE-GMA

    Nach Atilla Bilgic übernimmt Michael Weyrich den Vorsitz der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik (GMA).

    mehr lesen: Neuer Vorsitzender der VDI/VDE-GMA

  • Wie sich Omicron auf die Lieferketten auswirkt

    Wie sich Omicron auf die Lieferketten auswirkt

    Nach Analysen des B2B-Netzwerks Tradeshift hat sich das Auftreten der Omicron-Variante im vierten Quartal negativ auf die globalen Lieferketten ausgewirkt, jedoch nicht so stark wie vorherige Infektions-Wellen.

    mehr lesen: Wie sich Omicron auf die Lieferketten auswirkt

  • Open Mind sichert sich Mehrheit an Hummingbird

    Open Mind sichert sich Mehrheit an Hummingbird

    Open Mind übernimmt die Mehrheit am MES-Hersteller Hummingbird Systems. Die CAD/CAM-Lösung von Open Mind wurde bereits im Rahmen einer Zusammenarbeit in das MES von Hummingbird integriert.

    mehr lesen: Open Mind sichert sich Mehrheit an Hummingbird

  • 350Mrd.€ weniger Wertschöpfung durch die Pandemie

    350Mrd.€ weniger Wertschöpfung durch die Pandemie

    Laut einer Studie des Instituts der deutschen Wirtschaft (IW) sind durch die Corona-Pandemie bisher 350Mrd.€ an Wirtschaftsleistung verloren gegangen. Im ersten Quartal dieses Jahres gehen die IW-Experten von einem weiteren…

    mehr lesen: 350Mrd.€ weniger Wertschöpfung durch die Pandemie

  • Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung

    Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung

    Umstellung auf S/4Hana ja, aber keine Zeit für die Vorbereitung. So sieht es die Mehrheit der befragten Unternehmen in einer Studie des Analystenhauses Techconsult. Bei 90 Prozent der Studienteilnehmer bemängeln…

    mehr lesen: Umstellung auf S4/Hana für viele Unternehmen eine Herausforderung