Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Zu wenig sozialer Kontakt im Homeoffice

    Zu wenig sozialer Kontakt im Homeoffice

    Wo ist die Arbeitsbelastung höher – im Büro oder im Homeoffice? Dieser Frage ist die Deutsche Gesetzliche Unfallversicherung nachgegangen und hat im Rahmen einer Studie ermittelt, dass die Arbeitsbelastung nicht…

    mehr lesen: Zu wenig sozialer Kontakt im Homeoffice

  • Arbeitslosigkeit sinkt langsamer

    Arbeitslosigkeit sinkt langsamer

    Trotz des dritten Rückgangs in Folge verbleibt das IAB-Arbeitsmarktbarometer noch auf einem hohen Niveau. Einen größeren Rückschlag durch die vierte Pandemie-Welle erwarten die Experten des Instituts für Arbeitsmarkt- und Berufsforschung…

    mehr lesen: Arbeitslosigkeit sinkt langsamer

  • Diego Rapela wird CTO bei Auvesy

    Diego Rapela wird CTO bei Auvesy

    Zusätzlich zu CEO Dr. Tim Weckerle und COO Stefan Jesse wird zukünftig auch Dr. Diego Ricardo Rapela dem Auvesy-Management-Team angehören. Er übernimmt die neugeschaffene Position des Chief Technology Officers.

    mehr lesen: Diego Rapela wird CTO bei Auvesy

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Keine Erholung beim Materialmangel

    Keine Erholung beim Materialmangel

    Nach einem leichten Rückgang im vergangenen Monat, hat sich der Materialmangel in der Industrie im November wieder verstärkt. Rund drei Viertel der Unternehmen klagen über Engpässe.

    mehr lesen: Keine Erholung beim Materialmangel

  • Exportindustrie mit verbesserten Erwartungen

    Exportindustrie mit verbesserten Erwartungen

    Nach einem Rückgang im Oktober haben sich die Exporterwartungen der deutschen Unternehmen im November wieder verbessert. Nach Angaben des Ifo Instituts erwarten dabei vor allem die Automobilindustrie und Hersteller elektrischer…

    mehr lesen: Exportindustrie mit verbesserten Erwartungen

  • Congatec und Sysgo gehen Partnerschaft ein

    Congatec und Sysgo gehen Partnerschaft ein

    Congatec gibt seine strategische Partnerschaft mit Sysgo bekannt. Ziel ist es, den Märkten für kritische Systeme – wie Industrieautomation, Medizintechnik, Smart Energy, Eisenbahn, kommerzielle und autonome Fahrzeuge oder Baumaschinen -…

    mehr lesen: Congatec und Sysgo gehen Partnerschaft ein

  • CAS und ELO kooperieren

    CAS und ELO kooperieren

    Enterprise Content Management und Customer Relationship Management näher aneinander rücken ist das Ziel der Kooperation zwischen ELO Digital Office und CAS Software.

    mehr lesen: CAS und ELO kooperieren

  • Fünf IT-Trends für 2022

    Fünf IT-Trends für 2022

    Auch 2022 werden sich die IT-Systeme von Unternehmen weiterentwickeln. Oliver Rozić, Vice President Product Engineering bei Sage, weiß wie und welche Trends dabei eine Rolle spielen könnten.

    mehr lesen: Fünf IT-Trends für 2022

  • Digitalisierungsschub überdauert die Pandemie

    Digitalisierungsschub überdauert die Pandemie

    Unternehmen gehen digital gestärkt ins dritte Corona-Jahr, so das Ergebnis einer Bitkom-Befragung unter 602 Unternehmen. Demnach will die große Mehrheit ihre Digitalisierungs-Projekte fortsetzen. Diese Aufbruchsstimmung müsse genutzt werden, so Bitkom-Präsident…

    mehr lesen: Digitalisierungsschub überdauert die Pandemie

  • Mittelmaß bei der Digitalisierung

    Mittelmaß bei der Digitalisierung

    Im internationalen Vergleich belegt Deutschland bei der Digitalisierung keine Spitzenposition, sondern tendiert eher zum Mittelfeld. So zumindest legt es eine Studie des Ifo Instituts nahe. Demnach sei nicht nur die…

    mehr lesen: Mittelmaß bei der Digitalisierung

  • Bauteilschwingungen Vorhersagen

    Bauteilschwingungen Vorhersagen

    Bauteilschwingungen, die bei vielen Fertigungsverfahren entstehen, führen oftmals dazu, dass die Oberfläche des Werkstücks beschädigt wird. Darüber hinaus sind sie ein Grund für erhöhten Werkzeugverschleiß. Das Fraunhofer-Institut für Produktionstechnologie IPT…

    mehr lesen: Bauteilschwingungen Vorhersagen