Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

    Trotz eines Rückgangs bei Umsätzen und Auslieferungen von Industrierobotern im Jahr 2023 prognostizieren die Marktforscher von Interact Analysis ein jährliches Marktwachstum von 3,7 Prozent bis 2028.

    mehr lesen: 2023 wurden mehr als 500.000 Industrieroboter ausgeliefert

  • Quantencomputing made in Germany

    Quantencomputing made in Germany

    Quantencomputer haben eine besonders hohe Rechenleistung und können so komplexe Probleme lösen. Wie? Davon können sich Unternehmen und Forschungsteams nun im Hamburg ein Bild machen.

    mehr lesen: Quantencomputing made in Germany

  • USA führend bei Digitalinnovationen

    USA führend bei Digitalinnovationen

    Die Innovationstätigkeit in Digitaltechnologien nimmt weiter an Fahrt auf. Und laut Deutschem Patent- und Markenamt dominieren die USA und China in diesen Bereichen. Die deutsche Bilanz ist zwiespältig.

    mehr lesen: USA führend bei Digitalinnovationen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Smarties warnen vor Extremereignissen

    Smarties warnen vor Extremereignissen

    Im Forschungsprojekt Smarties entwickelt und testet das Max-Planck-Institut für Dynamik und Selbstorganisation (MPI-DS) zusammen mit dem Fraunhofer-Institut für Integrierte Schaltungen IIS ein System intelligenter Miniballons mit atmosphärischen Tracern – sogenannten…

    mehr lesen: Smarties warnen vor Extremereignissen

  • Europa mit vergleichsweise niedrigem KI-Reifegrad

    Europa mit vergleichsweise niedrigem KI-Reifegrad

    Data Analytics und KI sollen KMU helfen, Wettbewerbsvorteile zu sichern. Laut einer Studie von AWS liegt Europa beim Reifegrad künstlicher Intelligenz jedoch hinter anderen Regionen zurück.

    mehr lesen: Europa mit vergleichsweise niedrigem KI-Reifegrad

  • VDI will Deutschland fit für die Zukunft machen

    VDI will Deutschland fit für die Zukunft machen

    Die Aufgaben der Transformation sind gewaltig: Um ihren Herausforderungen zu begegnen, startet der VDI die Initiative ’Zukunft Deutschland 2050‘.

    mehr lesen: VDI will Deutschland fit für die Zukunft machen

  • Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

    Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

    Frauen sind im MINT-Bereich immer noch stark unterrepräsentiert, nur 11 Prozent aller Ingenieure sind weiblich und nur 17 Prozent beträgt der Frauenanteil im deutschen Maschinenbau allgemein. Doch woran liegt das?…

    mehr lesen: Lena Weirauch von ai-omatic solutions über die Gründung eines Startups

  • Wie Unternehmen Augmented und Virtual Reality nutzen

    Wie Unternehmen Augmented und Virtual Reality nutzen

    Je ein Fünftel der Unternehmen in Deutschland setzt bereits AR- oder VR-Technologie. Laut einer Bitkom-Befragung dominieren Schulung und Weiterbildung sowie Konstruktion und Planung die Anwendungen.

    mehr lesen: Wie Unternehmen Augmented und Virtual Reality nutzen

  • Stimmung in der Automobilindustrie kühlt ab

    Stimmung in der Automobilindustrie kühlt ab

    Nach zuletzt etwas besseren Werten im April bewegt sich der Ifo-Indikator für das Geschäftsklima in der Automobilindustrie im Mai wieder in die andere Richtung.

    mehr lesen: Stimmung in der Automobilindustrie kühlt ab

  • Petra Boss wird Co-CFO bei Xitaso

    Petra Boss wird Co-CFO bei Xitaso

    Mit Petra Boss hat Xitaso eine neue Geschäftsführerin. Als Co-CFO verantwortet die 55-Jährige gemeinsam mit Martin Huggenberger den Finance- und Legal-Bereich des Unternehmens.

    mehr lesen: Petra Boss wird Co-CFO bei Xitaso

  • Dämpfer für das IAB-Arbeitsmarktbarometer

    Dämpfer für das IAB-Arbeitsmarktbarometer

    Im Vergleich zum Vormonat sinkt das IAB-Arbeitsmarktbarometer im Mai 2024 um 0,8 Punkte. Der Frühindikator des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) befindet sich nun mit 99,8 Punkten unter dem…

    mehr lesen: Dämpfer für das IAB-Arbeitsmarktbarometer