Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Ixon verlegt  Firmensitz

    Ixon verlegt Firmensitz

    Mit der Verlegung des Firmensitzes ins niederländische Boxmeer will sich der IIoT-Spezialist Ixon für weiteres Mitarbeiterwachstum rüsten. Zugleich erhofft sich das Unternehmen durch die Nähe zur deutschen Grenze größeres Potenzial…

    mehr lesen: Ixon verlegt Firmensitz

  • Siemens Mobility kooperiert mit RazorSecure

    Siemens Mobility kooperiert mit RazorSecure

    Siemens Mobility und RazorSecure haben eine Kooperationsvereinbarung unterzeichnet, um Betreibern von Schienenfahrzeugen weltweit verbesserte Lösungen für die Cybersicherheit im Bahnverkehr anbieten zu können.

    mehr lesen: Siemens Mobility kooperiert mit RazorSecure

  • Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Lösungen für Einsatz künstlicher Intelligenz in der Produktion

    Im Projekt ‚Datenfabrik.NRW‘ erarbeiten vier Fraunhofer-Institute (Entwurfstechnik Mechatronik IEM, Materialfluss und Logistik IML, Optronik, Systemtechnik und Bildauswertung IOSB und Intelligente Analyse- und Informationssysteme IAIS) Anwendungen für den Einsatz von künstlicher…

    mehr lesen: Lösungen für Einsatz künstlicher Intelligenz in der Produktion

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Was Unternehmen beim KI-Einsatz heute anders machen würden

    Was Unternehmen beim KI-Einsatz heute anders machen würden

    Nahezu die Hälfte der für eine Reichelt Elektronik-Studie befragten Unternehmen würde Implementierung von künstlicher Intelligenz nach heutigem Stand anders angehen. Beispielsweise würden sie Mitarbeiter stärker einbeziehen.

    mehr lesen: Was Unternehmen beim KI-Einsatz heute anders machen würden

  • Softwarebasis für flexiblere Automobilfertigung

    Softwarebasis für flexiblere Automobilfertigung

    Um Produktionssysteme in der Automobilindustrie schneller, flexibler und effizienter zu gestalten soll im Forschungsprojekt ’Software-Defined Manufacturing für die Fahrzeug- und Zulieferindustrie (SDM4FZI)‘ eine neue technologische Grundlage entwickelt werden.

    mehr lesen: Softwarebasis für flexiblere Automobilfertigung

  • Wieder mehr Kurzarbeit im November

    Wieder mehr Kurzarbeit im November

    Erstmals seit Februar ist die Zahl der Kurzarbeitenden in Deutschland wieder gestiegen. Wie das Ifo Institut mitteilt, waren im November 10.000 Beschäftigte mehr in Kurzarbeit als noch im Oktober.

    mehr lesen: Wieder mehr Kurzarbeit im November

  • Datasensing geht an den Start

    Datasensing geht an den Start

    Zum Jahreswechsel geht das Unternehmen Datasensing an den Start. Das Unternehmen entsteht aus dem Zusammenschluss von Micro Detectors und dem Datalogic-Geschäftsbereich ‘Sensor & Safety and Machine Vision‘.

    mehr lesen: Datasensing geht an den Start

  • Unternehmen setzen auf Individualsoftware

    Unternehmen setzen auf Individualsoftware

    Jedes Unternehmen hat andere Bedürfnisse, wenn es um den Einsatz von Software geht. Standardlösungen können dies oftmals nicht ausreichend abbilden. Daher setzt laut einer Techconsult-Studie jedes zweite Unternehmen auf Individualsoftware.

    mehr lesen: Unternehmen setzen auf Individualsoftware

  • Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier übernimmt Evora IT Solutions, einen Spezialisten für Kundenservice- und Instandhaltungslösungen. Damit will Allgeier seine SAP- und ServiceNow Beratung ausbauen.

    mehr lesen: Allgeier erwirbt Mehrheit an Evora IT Solutions

  • Zu wenig sozialer Kontakt im Homeoffice

    Zu wenig sozialer Kontakt im Homeoffice

    Wo ist die Arbeitsbelastung höher – im Büro oder im Homeoffice? Dieser Frage ist die Deutsche Gesetzliche Unfallversicherung nachgegangen und hat im Rahmen einer Studie ermittelt, dass die Arbeitsbelastung nicht…

    mehr lesen: Zu wenig sozialer Kontakt im Homeoffice

  • Arbeitslosigkeit sinkt langsamer

    Arbeitslosigkeit sinkt langsamer

    Trotz des dritten Rückgangs in Folge verbleibt das IAB-Arbeitsmarktbarometer noch auf einem hohen Niveau. Einen größeren Rückschlag durch die vierte Pandemie-Welle erwarten die Experten des Instituts für Arbeitsmarkt- und Berufsforschung…

    mehr lesen: Arbeitslosigkeit sinkt langsamer