Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Erwartungen an die Cloud in der Praxis

    Erwartungen an die Cloud in der Praxis

    Entscheider erwarten durch den Einsatz der Cloud vor allem mehr Agilität sowie schnell zur Verfügung stehende performante Services. In einer Studie von Exasol übertrifft die Cloud im Praxiseinsatz in vielen…

    mehr lesen: Erwartungen an die Cloud in der Praxis

  • Sechs Prozent der Deutschen Unternehmen nutzen KI-Technologien

    Sechs Prozent der Deutschen Unternehmen nutzen KI-Technologien

    Im Rahmen einer Studie hat das Bundesministerium für Wirtschaft und Energie ermittelt, dass nur sechs Prozent der Deutschen Unternehmen künstliche Intelligenz einsetzen. Diese Unternehmen investierten rund 4,8Mrd.€ in die Technologie.

    mehr lesen: Sechs Prozent der Deutschen Unternehmen nutzen KI-Technologien

  • Zustände überwachen im Industrial IoT

    Zustände überwachen im Industrial IoT

    Schildknecht bietet auf dem Automatisierungstreff 2020 ein Tagesprogramm rund um das Condition Monitoring von industriellen Maschinen und Anlagen an. Nach einer Keynote widmen sich drei Workshops dem Thema mit dem…

    mehr lesen: Zustände überwachen im Industrial IoT

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Geschäftsmodelle mit dem Internet of Things

    Geschäftsmodelle mit dem Internet of Things

    Beim Workshop von Exor stehen neue Geschäftmodelle für Maschinen und Anlagen auf der Basis von IoT im Fokus. Der Anbieter liefert dazu Technologien und Methoden, mit denen Fertigungsbetriebe zunächst ein…

    mehr lesen: Geschäftsmodelle mit dem Internet of Things

  • Maschinenbau spürt weitere Auswirkungen der Corona-Krise

    Maschinenbau spürt weitere Auswirkungen der Corona-Krise

    Der Maschinenbau bekommt die Folgen der Corona-Pandemie mit zunehmender Wucht zu spüren. Das geht aus einer zweiten Umfrage des VDMA unter 965 Mitgliedsfirmen hervor.

    mehr lesen: Maschinenbau spürt weitere Auswirkungen der Corona-Krise

  • Beratungsangebote rund ums Homeoffice

    Beratungsangebote rund ums Homeoffice

    Cosmo Consult will in der Corona-Krise mit teils kostenfreie Webinaren, Workshops und Beratungspaketen Fachwissen rund um Microsoft Teams und die digitale Zusammenarbeit im Homeoffice anbieten.

    mehr lesen: Beratungsangebote rund ums Homeoffice

  • MES-Strategie entwickeln

    MES-Strategie entwickeln

    Ein Workshop von HIR Hoff Industrie Rationalisierung behandelt die mögliche Rolle von Manufacturing-Execution-Systemen in Zeiten der digitalen Transformation.

    mehr lesen: MES-Strategie entwickeln

  • Stimmung in der Digitalbranche trübt sich ein

    Stimmung in der Digitalbranche trübt sich ein

    Nach 24,6 Punkten im Februar, ist der Bitkom-Ifo-Digitalindex im März auf 0,6 Punkte zurückgegangen. Dabei sind von den negativen Folgen im Zuge der Corona-Krise vor allem die Industrie und der…

    mehr lesen: Stimmung in der Digitalbranche trübt sich ein

  • Mit OPC UA over TSN zur Losgröße 1

    Mit OPC UA over TSN zur Losgröße 1

    Im Maschinenbau werden immer häufiger modulare Anlagen gefertigt. Deren Zusammenstellung aus Spezialmodulen für verschiedene Teilaufgaben von unterschiedlichen Herstellern scheiterte bisher oft an inkompatiblen Kommunikationsstandards.

    mehr lesen: Mit OPC UA over TSN zur Losgröße 1

  • Automatica in den Dezember verlegt

    Automatica in den Dezember verlegt

    Die Messe München hat sich dazu entschlossen, die Messe Automatica, die vom 16. bis zum 19. Juni stattfinden sollte, in den Dezember zu verschieben.

    mehr lesen: Automatica in den Dezember verlegt

  • Weltmarkt für Maschinen legt 2019 leicht zu

    Weltmarkt für Maschinen legt 2019 leicht zu

    Neue Maschinen und Anlagen waren auch im vergangenen Jahr weltweit gefragt. Allerdings erfolgten die Geschäfte bereits unter erschwerten Bedingungen: Der Wandel in der Automobilindustrie, der Handelskrieg zwischen den USA und…

    mehr lesen: Weltmarkt für Maschinen legt 2019 leicht zu