Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Siemens erweitert Vorstand

    Siemens erweitert Vorstand

    Siemens hat Personalentscheidungen auf Vorstandsebene verkündet und den Vorstand des Konzern von fünf auf sieben Vorstandsmitglieder erweitert.

    mehr lesen: Siemens erweitert Vorstand

  • Wie die Deutschen mit KI-Bots sprechen

    Wie die Deutschen mit KI-Bots sprechen

    Knapp die Hälfte (46 Prozent) der Deutschen hat schon einmal einen KI-Chatbot verwendet – und pflegt dabei unterschiedliche Umgangsformen.

    mehr lesen: Wie die Deutschen mit KI-Bots sprechen

  • GBO Datacomp lädt ein zu ’We move it’

    GBO Datacomp lädt ein zu ’We move it’

    Am 25. September lädt der MES-Spezialist GBO Datacomb ins Sacher Hotel Wien zur Veranstaltung ’We move it’ ein. Das Thema: Digitalisierung in der Produktion.

    mehr lesen: GBO Datacomp lädt ein zu ’We move it’

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Quantencomputer entwickeln sich schneller als erwartet

    Quantencomputer entwickeln sich schneller als erwartet

    Etwa die Hälfte der für eine QuEra-Studie befragten Fachleute aus Wissenschaft, Forschung und Industrie glauben, dass Quantencomputer schneller als erwartet Fortschritte machen. 40 Prozent sind sogar der Meinung, dass sie…

    mehr lesen: Quantencomputer entwickeln sich schneller als erwartet

  • Inform holt Thomas Kirn an Bord

    Inform holt Thomas Kirn an Bord

    Inform hat mit Thomas Kirn einen neuen Vertriebsverantwortlichen. Er soll u.a. die Vertriebsleitung für den Geschäftsbereich Workforce Management übernehmen.

    mehr lesen: Inform holt Thomas Kirn an Bord

  • Stimmung in der Automobilindustrie verdüstert sich weiter

    Stimmung in der Automobilindustrie verdüstert sich weiter

    Nach bereits trüber Stimmung im Vormonat hat sich das Geschäftsklima in der Automobilindustrie erneut verschlechtert.

    mehr lesen: Stimmung in der Automobilindustrie verdüstert sich weiter

  • Reichelt Elektronik expandiert nach Spanien und Irland

    Reichelt Elektronik expandiert nach Spanien und Irland

    Reichelt Elektronik intensiviert seine Aktivitäten in Europa und erweitert den Webshop um Irland und Spanien.

    mehr lesen: Reichelt Elektronik expandiert nach Spanien und Irland

  • Ocean Shipping Index zeigt Anstieg der Lieferzeiten

    Ocean Shipping Index zeigt Anstieg der Lieferzeiten

    Wetter, geopolitische Konflikte oder überlastete Häfen beeinträchtigen den Welthandel. Die Folge: Transitzeiten auf dem Seeweg haben sich laut Ocean Shipping Index für das zweite Quartal im Vergleich zum Vorjahreszeitraum um…

    mehr lesen: Ocean Shipping Index zeigt Anstieg der Lieferzeiten

  • Eplan Network geht wieder auf Tour

    Eplan Network geht wieder auf Tour

    Im September startet die jährliche Roadshow von Eplan durch acht Städte in Deutschland, Österreich und der Schweiz.

    mehr lesen: Eplan Network geht wieder auf Tour

  • Rahmenprogramm Nachwuchs und Fachkräfte

    Rahmenprogramm Nachwuchs und Fachkräfte

    Die Fachkräftesicherung bleibt eine zentrale Herausforderung in der Metallbearbeitungsbranche und bedarf einer konsequenten qualifizierten Nachwuchsförderung.

    mehr lesen: Rahmenprogramm Nachwuchs und Fachkräfte

  • Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus

    Im Juni blieben die Bestellungen im Maschinen- und Anlagenbau unter dem Vorjahreswert. Und auch für das erste Halbjahr verzeichnet die Branche ein Minus.

    mehr lesen: Maschinen- und Anlagenbauer mit zweistelligem Auftragsminus