Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • VDMA zeichnet Nachwuchstalente aus

    VDMA zeichnet Nachwuchstalente aus

    Nachwuchspreis ’Digitalisierung im Maschinenbau’ VDMA zeichnet Nachwuchstalente aus 30 Absolventinnen und Absolventen von Deutschen Hochschulen waren für den Nachwuchspreis ’Digitalisierung im Maschinenbau’ nominiert. Vier von ihnen wurden nun für ihre…

    mehr lesen: VDMA zeichnet Nachwuchstalente aus

  • Ransomware-Gruppe BlackCat setzt Opfer mit Vorschriften unter Druck

    Ransomware-Gruppe BlackCat setzt Opfer mit Vorschriften unter Druck

    Kommentar von Martin J. Krämer, KnowBe4 Ransomware-Gruppe BlackCat setzt Opfer mit Vorschriften unter Druck Jüngste Ereignisse zeigen, dass Cyberkriminelle nicht nur über technisches Knowhow verfügen, sondern auch über ein grundlegendes…

    mehr lesen: Ransomware-Gruppe BlackCat setzt Opfer mit Vorschriften unter Druck

  • Was Lernfabriken zur Weiterbildung beitragen

    Was Lernfabriken zur Weiterbildung beitragen

    Fachkräfte für die Industrie 4.0 Was Lernfabriken zur Weiterbildung beitragen Was können sogenannte Lernfabriken 4.0 für die Weiterbildung von Fachkräften leisten? Sehr viel – wenn Lehrkonzepte und Rahmenbedingungen stimmen. Zu…

    mehr lesen: Was Lernfabriken zur Weiterbildung beitragen

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Das Online- und Präsenz-Lernen verzahnen

    Das Online- und Präsenz-Lernen verzahnen

    Blended Learning Das Online- und Präsenz-Lernen verzahnen Viele Unternehmen nutzen inzwischen die Digitaltechnik, um sogenannte Blended-Learning-Konzepte in ihrer Organisation zu realisieren – auch weil diese Lernform den Erwartungen der Angehörigen…

    mehr lesen: Das Online- und Präsenz-Lernen verzahnen

  • Studie: Carbon Capture and Storage in Industrieprozessen

    Studie: Carbon Capture and Storage in Industrieprozessen

    CO2-Emissionen einlagern Studie: Carbon Capture and Storage in Industrieprozessen Technologien zum Abtrennen und Speichern von CO2 (CCS) waren vor einigen Jahren für Kohlekraftwerke im Gespräch – stießen aber auf massiven…

    mehr lesen: Studie: Carbon Capture and Storage in Industrieprozessen

  • Geschäftsklima in der Autoindustrie kühlt ab

    Geschäftsklima in der Autoindustrie kühlt ab

    Zahlen des Ifo Instituts Geschäftsklima in der Autoindustrie kühlt ab Im Juni 2023 ist Stimmung der Automobilindustrie deutlich eingebrochen. Und nach Angaben des Ifo Instituts hat sich dieses Niveau bis…

    mehr lesen: Geschäftsklima in der Autoindustrie kühlt ab

  • Forschungsausgaben im Maschinenbau auf Rekordwert

    Forschungsausgaben im Maschinenbau auf Rekordwert

    Forschung- und Entwicklung Forschungsausgaben im Maschinenbau auf Rekordwert Der Maschinen- und Anlagenbau in Deutschland hat im Jahr 2022 knapp 8,7Mrd.€ für Forschung und Entwicklung ausgegeben. Das war eine Steigerung von…

    mehr lesen: Forschungsausgaben im Maschinenbau auf Rekordwert

  • Michael Pieper wird XPLM-Geschäftsführer

    Michael Pieper wird XPLM-Geschäftsführer

    Karl Wachtel übergibt Unternehmensführung Michael Pieper wird XPLM-Geschäftsführer Karl Wachtel hat die Führung des PLM-Spezialisten XPLM übergeben. Seit November leitet Michael Pieper die Geschicke des Dresdner Unternehmens.

    mehr lesen: Michael Pieper wird XPLM-Geschäftsführer

  • Industrie steigert Investitionen in Klimaschutz

    Industrie steigert Investitionen in Klimaschutz

    Plus 74 Prozent in 10 Jahren Industrie steigert Investitionen in Klimaschutz Etwas mehr als 4Mrd.€ hat die deutsche Industrie im Jahr 2021 im Bereich Klimaschutz investiert. Wie das Statistische Bundesamt…

    mehr lesen: Industrie steigert Investitionen in Klimaschutz

  • Starkes Netzwerk in unsicheren Zeiten

    Starkes Netzwerk in unsicheren Zeiten

    Die SPS in Nürnberg ist der Branchentreff für Automatisierer. Welche Trends dabei in diesem Jahr hervorstechen und was Besucher darüber hinaus erwarten können, berichtet Silke Schulz-Metzner, Vice President SPS beim…

    mehr lesen: Starkes Netzwerk in unsicheren Zeiten

  • Die Welt der Automatisierung auf 120.000m²

    Die Welt der Automatisierung auf 120.000m²

    Zur 32. Ausgabe der SPS – Smart Production Solutions werden in 16 Messehallen mit rund 120.000m² Ausstellungsfläche mehr als 1.300 Aussteller aus der ganzen Welt erwartet. Neben Innovationen bietet der…

    mehr lesen: Die Welt der Automatisierung auf 120.000m²