Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Maschinenbau in China fährt langsam wieder hoch

    Maschinenbau in China fährt langsam wieder hoch

    Eine 2. Blitzumfrage des VDMA in China zeigt, dass die Auswirkungen der Corona-Pandemie dort als weniger schlimm eingeschätzt werden als noch im März. Dennoch erwarten die Unternehmen kräftige Umsatzeinbußen.

    mehr lesen: Maschinenbau in China fährt langsam wieder hoch

  • Zertifizierung während der Corona-Krise

    Zertifizierung während der Corona-Krise

    Unternehmen sind derzeit in vielerlei Hinsicht gefordert: Sie müssen ihr wirtschaftliches Überleben sichern, Mitarbeiter ins Homeoffice oder in Kurzarbeit schicken und neue Strategien entwickeln. Sind Managementsysteme für Qualität, Umwelt, Energie…

    mehr lesen: Zertifizierung während der Corona-Krise

  • ZVEI-Umfrage

    ZVEI-Umfrage

    Die Elektroindustrie bekommt die Auswirkungen der Corona-Pandemie zunehmend zu spüren. Das ergab eine Umfrage des ZVEI unter seinen Mitgliedsunternehmen.

    mehr lesen: ZVEI-Umfrage

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Nvidia wird Gesellschafter beim DFKI

    Nvidia wird Gesellschafter beim DFKI

    Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat mit Nvidia einen neuen Gesellschafter. Beide Unternehmen forschen gemeinsam in den Bereichen Machine Learning und Deep Learning.

    mehr lesen: Nvidia wird Gesellschafter beim DFKI

  • CDOs vor allem in großen Unternehmen etabliert

    CDOs vor allem in großen Unternehmen etabliert

    Bezogen auf die Gesamtwirtschaft haben 19 Prozent der Unternehmen die Position eines Chief Digital Officers bzw. eines Leiters Digitalisierung geschaffen. Das geht aus einer Befragung des Digitalverbands Bitkom hervor.

    mehr lesen: CDOs vor allem in großen Unternehmen etabliert

  • Corona und die Folgen für die Wirtschaft in Deutschland

    Corona und die Folgen für die Wirtschaft in Deutschland

    Die Auswirkungen von COVID-19 auf unsere Gesellschaft und die Wirtschaft sind enorm und betreffen uns alle.

    mehr lesen: Corona und die Folgen für die Wirtschaft in Deutschland

  • AI-fähige Microlearning-Lösung für die Industrie 4.0

    AI-fähige Microlearning-Lösung für die Industrie 4.0

    Aveva und Axonify wollen gemeinsam eine KI-Microlearning-Lösung für die Industrie anbieten. Beide Unternehmen haben sich diesbezüglich auf eine strategische Partnerschaft geeinigt.

    mehr lesen: AI-fähige Microlearning-Lösung für die Industrie 4.0

  • Industry Show: Virtuelle Messe für alle Bereiche der Industrie

    Industry Show: Virtuelle Messe für alle Bereiche der Industrie

    Der TeDo Verlag veranstaltet ab dem 4. Mai eine virtuelle Messe rund um unsere Themen Automatisierung, Robotik und Energieverteilung, Schaltschrankbau, Industrielle IT, IIoT usw. Wir wollen so eine Lösung finden,…

    mehr lesen: Industry Show: Virtuelle Messe für alle Bereiche der Industrie

  • Zoom-Nutzer verstärkt im Visier

    Zoom-Nutzer verstärkt im Visier

    Die Corona-Pandemie stellt uns alle vor große Herausforderungen – nicht nur im privaten Bereich, sondern auch beruflich. Unzählige Menschen weltweit arbeiten derzeit erstmals im Homeoffice.

    mehr lesen: Zoom-Nutzer verstärkt im Visier

  • IoT-Geräte als Köder für Cyberangreifer

    IoT-Geräte als Köder für Cyberangreifer

    Attivo Networks hat seine auf der Deception-Technologie basierende ThreatDefend-Plattform in das Microsoft Azure Security Center integriert. Dadurch wird die Erkennungsrate und Reaktionszeit bei Angriffen auf den Microsoft-Dienst Azure IoT Edge…

    mehr lesen: IoT-Geräte als Köder für Cyberangreifer

  • Auftragseingang im Maschinenbau im Februar 2020

    Auftragseingang im Maschinenbau im Februar 2020

    Im Februar verfehlten die Auftragseingänge im deutschen Maschinenbau ihr Vorjahresniveau real um 4 Prozent. Während die Bestellungen der inländischen Kunden um 6 Prozent sanken, lagen die Auslandsorders um 3 Prozent…

    mehr lesen: Auftragseingang im Maschinenbau im Februar 2020