Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Cosmo Consult gründet Life Science-Geschäftseinheit

    Cosmo Consult gründet Life Science-Geschäftseinheit

    Hersteller von Pharmazeutika, biologischen Präparaten und Medizinprodukten sowie alle verbundenen Unternehmen arbeiten in einem stark regulierten Umfeld und auch technologische sowie gesellschaftliche Herausforderungen nehmen zu. Bei Cosmo Consult trägt man…

    mehr lesen: Cosmo Consult gründet Life Science-Geschäftseinheit

  • Vom Großunternehmen bis zum regionalen Zulieferer

    Vom Großunternehmen bis zum regionalen Zulieferer

    Rund 130 Aussteller werden am 12. und 13. Februar auf der FMB-Süd in Augsburg erwartet. Der Branchenmix reicht von der Metall- und Kunststoffverarbeitung über Montage-, Handhabungs- und Automatisierungstechnik sowie Antriebstechnik…

    mehr lesen: Vom Großunternehmen bis zum regionalen Zulieferer

  • Alles rund um industrielle Instandhaltung

    Alles rund um industrielle Instandhaltung

    Vom 12. bis zum 13. Februar 2020 findet in Dortmund die Maintenance statt. Rund 220 Aussteller werden dann auf dem dortigen Messegelände erwartet – darunter Dienstleister, Handelshäuser und Software-Anbieter. Wie…

    mehr lesen: Alles rund um industrielle Instandhaltung

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Mehr Verlass auf Deep-Learning-Entscheidungen

    Mehr Verlass auf Deep-Learning-Entscheidungen

    Menschen können Probleme entweder logisch und mit Ruhe betrachten, oder spontan und emotional entscheiden. Ähnlich geht es dem Computer: Moderne Deep-Learning-Verfahren liefern schnelle Ergebnisse, die jedoch nicht nachvollziehbar sind. Wissenschaftler…

    mehr lesen: Mehr Verlass auf Deep-Learning-Entscheidungen

  • Hohe Stromkosten für deutsche Rechenzentren

    Hohe Stromkosten für deutsche Rechenzentren

    Die Stromkosten für deutsche Rechenzentrumsbetreiber sind mit 113,11€ pro Megawattstunde am höchsten. Der große Unterschied zu den Nachbarländern ergibt sich dabei aus den Nebenkosten.

    mehr lesen: Hohe Stromkosten für deutsche Rechenzentren

  • Security-Modul für IPCs mit Windows 7

    Security-Modul für IPCs mit Windows 7

    Mithilfe des Security-Moduls mGuard von Phoenix Contact können Anwender eine Security-Lücke bei Industrie-PCs mit dem Betriebssystem Windows 7 schließen, für das Microsoft seit dem 14. Januar 2020 keine Sicherheits-Updates mehr…

    mehr lesen: Security-Modul für IPCs mit Windows 7

  • Harting und Expleo Group kooperieren für IoT-Lösungen

    Harting und Expleo Group kooperieren für IoT-Lösungen

    Harting und Expleo haben im Rahmen der SPS 2019 in Nürnberg eine Kooperationsvereinbarung geschlossen. Vorstandsvorsitzender Philip Harting und Peter Seidenschwang, Head of Industry bei Expleo Germany, unterzeichneten die Vereinbarung, mit…

    mehr lesen: Harting und Expleo Group kooperieren für IoT-Lösungen

  • Mit mehr Technologie zu mehr Umsatz

    Mit mehr Technologie zu mehr Umsatz

    Laut einer Accenture-Studie können Unternehmen, die in die Skalierung von Technologieinnovationen investieren, mehr als doppelt so hohe Umsatzwachstumsraten erzielen. Dies betrifft in der Studie lediglich zehn Prozent der befragten Unternehmen.

    mehr lesen: Mit mehr Technologie zu mehr Umsatz

  • Konjunkturerwartungen legen zu

    Konjunkturerwartungen legen zu

    Laut aktueller Zahlen des ZEW — Leibniz-Zentrum für Europäische Wirtschaftsforschung, blickt die Deutsche Wirtschaft zuversichtlicher in die Zukunft, als noch Ende des vergangenen Jahres. Im Vergleich zum Dezember stieg der…

    mehr lesen: Konjunkturerwartungen legen zu

  • Neue Produktionstechnik für die Mobilität von morgen

    Neue Produktionstechnik für die Mobilität von morgen

    Um Mobilität in Zeiten von Verstädterung, Ressourcenknappheit und Klimawandel zukunftsfest zu machen, bündeln die Universität Stuttgart und das Karlsruher Institut für Technologie (KIT) ihre Forschungskompetenzen im Innovationscampus ‘Mobilität der Zukunft‘…

    mehr lesen: Neue Produktionstechnik für die Mobilität von morgen

  • CEOs auf lange Sicht optimistischer

    CEOs auf lange Sicht optimistischer

    Im 23. Global CEO Survey von PWC rechnet mehr als die Hälfte der 1.581 befragten CEOs mit einem Rückgang des Weltwirtschaftswachstums. Auf lange Sicht zeigen sich die Befragten jedoch optimistischer.

    mehr lesen: CEOs auf lange Sicht optimistischer