Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Gründungen auf neuem Tiefststand –  vor allem verarbeitendes Gewerbe betroffen

    Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

    Im Jahr 2018 führten 25 Prozent der jungen Unternehmen im verarbeitenden Gewerbe Marktneuheiten ein. Im aktuellen IAB/ZEW-Gründungspanel ist dieser Wert auf 21 Prozent gesunken. Zudem beobachten die Studienverantwortlichen insgesamt einen…

    mehr lesen: Gründungen auf neuem Tiefststand – vor allem verarbeitendes Gewerbe betroffen

  • Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

    Leistungsfähige Mikrochips sind entscheidend für den erfolgreichen Einsatz von künstlicher Intelligenz (KI). Das am Karlsruher Institut für Technologie (KIT) koordinierte Projekt EDAI verfolgt einen neuen Ansatz: Die Forschenden koppeln den…

    mehr lesen: Künstliche Intelligenz: Algorithmen und Chips zusammen entwickelt

  • VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

    VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

    Nur zwei von drei Unternehmen im Maschinenbau können aktuell die Mehrheit ihrer offenen Stellen für Fachkräfte besetzen. Der Arbeitskräftemangel kostet sie nun auch Umsatz.

    mehr lesen: VDMA-Befragung: Arbeitskräftemangel kostet Umsatz

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Wo Manager zukünftig Cybergefahren sehen

    Wo Manager zukünftig Cybergefahren sehen

    Deutsche und Schweizer C-Level Manager sehen besonders für das Homeoffice Handlungsbedarf, um dort in der Zukunft sensible Daten besser zu schützen. Die Österreicher halten Smart-Building-Technologien für anfällig. Dies zeigen die…

    mehr lesen: Wo Manager zukünftig Cybergefahren sehen

  • Produzenten mit Montage als Teilnehmer gesucht

    Produzenten mit Montage als Teilnehmer gesucht

    Forschende am IPH-Institut für Integrierte Produktion Hannover entwickeln eine Methode, um die Nachhaltigkeit von Automatisierungssystemen zu bewerten und solche Systeme einzuführen. Produzierende Unternehmen können sich am Projekt beteiligen.

    mehr lesen: Produzenten mit Montage als Teilnehmer gesucht

  • Tochterunternehmen Onoff verschmilzt mit SpiraTec

    Tochterunternehmen Onoff verschmilzt mit SpiraTec

    Die Onoff GmbH, eine hundertprozentige Tochterfirma der SpiraTec AG, ist mit der Muttergesellschaft verschmolzen. Die Kombination der Ressourcen, des Knowhows und der Teams soll die Grundlage für die zukünftigen Expansionspläne…

    mehr lesen: Tochterunternehmen Onoff verschmilzt mit SpiraTec

  • Neues Forschungszentrum für die kognitive Produktion entsteht

    Neues Forschungszentrum für die kognitive Produktion entsteht

    Das Fraunhofer-Institut für Werkzeugmaschinen und Umformtechnik IWU hat den Bau des neuen Forschungszentrums begonnen. Im Neubau soll dann an Systemen im Sinn einer kognitiven Produktion geforscht werden. Konkreter ist damit…

    mehr lesen: Neues Forschungszentrum für die kognitive Produktion entsteht

  • 86 Prozent finden DSGVO-Umsetzung schwierig

    86 Prozent finden DSGVO-Umsetzung schwierig

    Für 86 Prozent der Firmen ist es sehr herausfordernd, die DSGVO umzusetzen, ergab eine Umfrage von Piwik Pro. Doch dass Konformität und ihre Marketingaktivitäten vereinbar seien, gaben 90 Prozent der…

    mehr lesen: 86 Prozent finden DSGVO-Umsetzung schwierig

  • SuperOffice-CEO Jentoft geht nach 18 Jahren

    SuperOffice-CEO Jentoft geht nach 18 Jahren

    Der CRM-Softwareanbieter SuperOffice hat Lars Engbork zum neuen CEO ernannt. Er übernimmt die Leitung von Gisle Jentoft, der das norwegische Unternehmen 18 Jahre lang geführt hat. Seit 2020 hält der…

    mehr lesen: SuperOffice-CEO Jentoft geht nach 18 Jahren

  • Transferprojekt vermittelt Blockchain-Wissen für KMU

    Transferprojekt vermittelt Blockchain-Wissen für KMU

    Im neu gestarteten Projekt DUH-IT sollen KMU aus Dortmund, Unna und Hamm den Einsatz von Blockchain-Technologie in der Lieferkettengestaltung erkunden. So wollen das Fraunhofer IML und die TU Dortmund die…

    mehr lesen: Transferprojekt vermittelt Blockchain-Wissen für KMU

  • Maschinenausfuhren gehen zurück

    Maschinenausfuhren gehen zurück

    Der deutsche Maschinen- und Anlagenbau hat im ersten Quartal 2024 nominal 4,6 Prozent weniger als im Vorjahr exportiert, meldet der Branchenverband VDMA. Die Exporte nach China sinken weiter, das Wachstum…

    mehr lesen: Maschinenausfuhren gehen zurück