Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • AIM-Trendbarometer: AutoID auf gutem Weg

    AIM-Trendbarometer: AutoID auf gutem Weg

    85 Prozent der im AIM-D organisierten AutoID-Anbieter haben für das 1. Halbjahr 2021 eine verbesserte oder gleichgebliebene Geschäftsentwicklung ihrer Märkte gegenüber dem vorangegangenen Halbjahr gemeldet. Das hat der Branchenverband AIM-D…

    mehr lesen: AIM-Trendbarometer: AutoID auf gutem Weg

  • Wenn Roboter Batterien recyceln

    Wenn Roboter Batterien recyceln

    Ausgediente Batterien von Elektroautos enthalten Rohstoffe, die weiterhin nutzbar sind. Um sie recyceln zu können, entwickelt ein Forschungsteam vom Zentrum für Digitalisierte Batteriezellenproduktion (ZDB) am Fraunhofer IPA eine Roboterzelle mit…

    mehr lesen: Wenn Roboter Batterien recyceln

  • Etwas weniger Materialmangel in der Industrie

    Etwas weniger Materialmangel in der Industrie

    70,4 Prozent der Industrieunternehmen in Deutschland haben nach Angaben des Ifo Instituts im Oktober über Materialmangel geklagt. Im Vergleich zum Vormonat hat sich dieser Wert leicht verbessert, doch die Unternehmen…

    mehr lesen: Etwas weniger Materialmangel in der Industrie

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Industrie Informatik ernennt Andreas Brinks zum Head of Consulting

    Industrie Informatik ernennt Andreas Brinks zum Head of Consulting

    Als Head of Consulting ist Andreas Brinks seit Oktober für die Abwicklung von Kundenprojekten verantwortlich.

    mehr lesen: Industrie Informatik ernennt Andreas Brinks zum Head of Consulting

  • Eine Organisation für herstellerunabhängige Automatisierung

    Eine Organisation für herstellerunabhängige Automatisierung

    Mit der UniversalAutomation.Org hat eine neue Non-Profit-Organisation ihre Arbeit aufgenommen. Zielsetzung der Organisation ist es, eine herstellerunabhängige Automatisierung zu ermöglichen.

    mehr lesen: Eine Organisation für herstellerunabhängige Automatisierung

  • USA sind Top-Angriffsziel, Deutschland auf Platz 5

    USA sind Top-Angriffsziel, Deutschland auf Platz 5

    Deutschland gehört weltweit zu den Top-5-Zielen, wenn es um Ransomware-Angriffe geht. Dies hat eine Analyse des Verschlüsselungsclouddienstes NordLocker ergeben. Der Großteil der untersuchten Angriffe richtet sich allerdings gegen US-Unternehmen.

    mehr lesen: USA sind Top-Angriffsziel, Deutschland auf Platz 5

  • Führungswechsel bei SAS Deutschland

    Führungswechsel bei SAS Deutschland

    Helene Lengler tritt die Nachfolge von Annette Green an und wird Managing Director bei SAS Deutschland. Mit dem Führungswechsel sollen auch die Organisationen im DACH-Raum neu strukturiert werden.

    mehr lesen: Führungswechsel bei SAS Deutschland

  • Wieder mehr Kurzarbeit in der Industrie

    Wieder mehr Kurzarbeit in der Industrie

    Gegen den allgemeinen Trend hat die Kurzarbeit in der Industrie wieder zugenommen. Grund dafür sind die aktuellen Lieferengpässe bei den Vorprodukten.

    mehr lesen: Wieder mehr Kurzarbeit in der Industrie

  • SPS findet als 2G-Veranstaltung statt

    SPS findet als 2G-Veranstaltung statt

    Nachdem die Corona-Ampel in Bayern auf rot gesprungen ist, gilt für Veranstaltungen nun die 2G-Regel. Somit findet auch die SPS Ende November unter 2G-Bedingungen statt.

    mehr lesen: SPS findet als 2G-Veranstaltung statt

  • Virtueller Browser schützt KRITIS vor Gefahren

    Virtueller Browser schützt KRITIS vor Gefahren

    35 Prozent aller Unternehmen, die zu den Kritischen Infrastrukturen (KRITIS) zählen, sind in den vergangenen zwölf Monaten Opfer eines Angriffs aus dem Internet geworden – mit zum Teil gravierenden Folgen…

    mehr lesen: Virtueller Browser schützt KRITIS vor Gefahren

  • Lazarus entwickelt Fähigkeiten für Supply-Chain-Angriffe

    Lazarus entwickelt Fähigkeiten für Supply-Chain-Angriffe

    Kaspersky-Forscher haben bei Lazarus verstärkte Angriffsfähigkeiten auf Lieferketten identifiziert. Des Weiteren setzt die Advanced-Persistent-Threat(APT)-Gruppe nun das plattformübergreifende MATA-Framework für Cyberspionage-Ziele ein.

    mehr lesen: Lazarus entwickelt Fähigkeiten für Supply-Chain-Angriffe