Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Maschinenbau rechnet 2020 mit Produktionsrückgang von 17 Prozent

    Maschinenbau rechnet 2020 mit Produktionsrückgang von 17 Prozent

    Der Maschinen- und Anlagenbau kämpft gegen die Folgen der globalen Corona-Pandemie, aber auch gegen einen nach wie vor belastenden Protektionismus im internationalen Handel. Hinzu kommt ein industrieller Wandel, der sich…

    mehr lesen: Maschinenbau rechnet 2020 mit Produktionsrückgang von 17 Prozent

  • Fraunhofer IFF baut Forschungsstandort aus

    Fraunhofer IFF baut Forschungsstandort aus

    Das Fraunhofer IFF baut eine neue Forschungsfabrik im Magdeburger Wissenschaftshafen. Diese soll im Herbst 2021 fertig sein und neue Forschungsschwerpunkte beheimaten.

    mehr lesen: Fraunhofer IFF baut Forschungsstandort aus

  • KIT forscht an 6G-Technologien

    KIT forscht an 6G-Technologien

    Ein am KIT in Karlsruhe entwickeltes Konzept soll hohe Datenübertragungsraten bei niedrigen Kosten ermöglichen — für die sechste Generation des Mobilfunks. Dabei haben die Forscher die bislang höchste Datenrate in…

    mehr lesen: KIT forscht an 6G-Technologien

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Industrie erwartet Produktionsplus

    Industrie erwartet Produktionsplus

    Die Produktionserwartungen der deutschen Industrie haben sich laut aktuellen Zahlen des Ifo-Instituts leicht verbessert. Im Maschinenbau kletterten die Erwartungen, nach minus 12 Punkten im Juli, wieder in den positiven Bereich.

    mehr lesen: Industrie erwartet Produktionsplus

  • Expleo bezieht neues Technologiezentrum

    Expleo bezieht neues Technologiezentrum

    Anfang August hat Expleo sein neues Technologiezentrum bezogen. Dort sollen zukünftig Software- und Elektroniksysteme für automobile Anwendungen entwickelt werden.

    mehr lesen: Expleo bezieht neues Technologiezentrum

  • Neues Vorstandsmitglied beim VDMA Robotik + Automation

    Neues Vorstandsmitglied beim VDMA Robotik + Automation

    Der VDMA Fachverband Robotik + Automation hat mit Ralf Winkelmann ein neues Vorstandsmitglied berufen.

    mehr lesen: Neues Vorstandsmitglied beim VDMA Robotik + Automation

  • Unternehmen erwarten exponentielles Datenwachstum

    Unternehmen erwarten exponentielles Datenwachstum

    Die Menge an Daten wird in den nächsten Jahren weiter zunehmen. Wie gut Unternehmen darauf vorbereitet sind und welche Hindernisse durch Dark Data entstehen, zeigt eine aktuelle Studie von Splunk.

    mehr lesen: Unternehmen erwarten exponentielles Datenwachstum

  • Auftragsrückgang schwächt sich ab

    Auftragsrückgang schwächt sich ab

    Die Auftragseingänge im Maschinen- und Anlagenbau sind auch im Juli prozentual zweistellig gesunken, allerdings hat sich der Rückgang im Vergleich zu den Vormonaten abgeschwächt.

    mehr lesen: Auftragsrückgang schwächt sich ab

  • Arbeitsmarktbarometer legt erneut zu

    Arbeitsmarktbarometer legt erneut zu

    Mit einem Anstieg von 0,6 Punkten im Vergleich zum Juli liegt das IAB-Arbeitsmarktbarometer im August weiter auf Erholungskurs. Die Beschäftigungskomponente des Frühindikators sank jedoch leicht.

    mehr lesen: Arbeitsmarktbarometer legt erneut zu

  • Neue Technologie am Arbeitsplatz bietet Karrierechancen

    Neue Technologie am Arbeitsplatz bietet Karrierechancen

    Grundsätzlich stehen Arbeitnehmer der Einführung neuer Technologie am Arbeitsplatz positiv gegenüber. Entsprechende Modernisierungen sehen viele Arbeitstätige unter anderem als Chance, ihre Karriere voranzubringen. Das geht aus einer Studie des Payroll-…

    mehr lesen: Neue Technologie am Arbeitsplatz bietet Karrierechancen

  • Allianz kombiniert KI und IoT

    Allianz kombiniert KI und IoT

    Device Insight, Anbieter von IoT- und IIoT-Lösungen, und Sentian, schwedischer Spezialist für industrielle KI, bündeln ihre Expertise, um Unternehmen dabei zu unterstützen, ihre Produktionsprozesse im Sinne einer Smart Factory zu…

    mehr lesen: Allianz kombiniert KI und IoT