Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Mehr Resilienz durch Digital Workplace

    Mehr Resilienz durch Digital Workplace

    In einer Studie von Campana & Schott geben zwei Drittel der Befragten an, dass digitale Arbeitsplätze Resilienz und Effizienz steigern. Fast die Hälfte der Studienteilnehmer hat bereits solche Arbeitsplätze eingeführt.

    mehr lesen: Mehr Resilienz durch Digital Workplace

  • Forschung am digitalen Zwilling

    Forschung am digitalen Zwilling

    Das Projekt IoT4DigitalTwin ist Teil der europäischen Initiative IoT4Industry im Rahmen des Programms Horizon 2020. Geprom Connecting Inustries und Gefasoft GmbH haben ein Konsortium gebildet mit dem Ziel, einen digitalen…

    mehr lesen: Forschung am digitalen Zwilling

  • Open Industry 4.0 Alliance stellt App Store vor

    Open Industry 4.0 Alliance stellt App Store vor

    2019 hat sich die Open Industry 4.0 Alliance auf der Hannover Messe gegründet. Das mittlerweile 74 Mitglieder umfassende Konsortium stellt zur diesjährigen Messe einen eigenen App Store vor.

    mehr lesen: Open Industry 4.0 Alliance stellt App Store vor

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Python-Anwendungen plattformunabhängig schützen

    Python-Anwendungen plattformunabhängig schützen

    Wibu-Systems hat sein Portfolio erweitert, sodass Hersteller ihre Python-Anwendungen einfach und flexibel plattformunabhängig mit CodeMeter schützen können.

    mehr lesen: Python-Anwendungen plattformunabhängig schützen

  • Formnext-Veranstalter planen hybride Messe

    Formnext-Veranstalter planen hybride Messe

    Im November steht industrieller 3D-Druck in Frankfurt im Fokus. Dann öffnet die Formnext ihre Tore — als Präsenzveranstaltung. Zusätzlich ist ein digitales Angebot geplant.

    mehr lesen: Formnext-Veranstalter planen hybride Messe

  • Wie nachhaltig ist die deutsche Technologie-Branche?

    Wie nachhaltig ist die deutsche Technologie-Branche?

    In einer aktuellen Deloitte-Studie betrachten 86 Prozent der deutschen Technologiekonzerne Nachhaltigkeit als einen wichtigen Bestandteil ihrer Geschäftstätigkeit. Jedoch nehmen etwa zwei Drittel der darin befragten Unternehmen eine Diskrepanz zwischen Anspruch…

    mehr lesen: Wie nachhaltig ist die deutsche Technologie-Branche?

  • Hyperkonvergente Infrastrukturen mit Potenzial für den Mittelstand

    Hyperkonvergente Infrastrukturen mit Potenzial für den Mittelstand

    Das Beratungsunternehmen Techconsult hat gemeinsam mit Gridscale untersucht, wie mittelständische Unternehmen die Modernisierung ihrer IT-Infrastrukturen vorantreiben. Die daraus resultierende Studie gibt Einblicke, mit welchen Herausforderungen sich die Unternehmen bei ihrer…

    mehr lesen: Hyperkonvergente Infrastrukturen mit Potenzial für den Mittelstand

  • Gesamtkonzept für mehr Resilienz

    Gesamtkonzept für mehr Resilienz

    Entwicklungen wie der Klimawandel oder die Digitalisierung haben das Thema Resilienz in die öffentliche Diskussion gerückt. Durch die Corona-Pandemie wird diese neu auf die Probe gestellt. Fraunhofer-Forscher haben nun ein…

    mehr lesen: Gesamtkonzept für mehr Resilienz

  • Ifo Institut erwartet geringeres Wachstum

    Ifo Institut erwartet geringeres Wachstum

    Für das laufende Jahr geht das Ifo Institut von einem wirtschaftlichen Wachstum von 3,7 Prozent aus. Damit zeigen sich die Forscher pessimistischer als noch im Dezember.

    mehr lesen: Ifo Institut erwartet geringeres Wachstum

  • Rhebo integriert Apps für Cybersecurity

    Rhebo integriert Apps für Cybersecurity

    Rhebo hat sich der Partnerwelt ctrlX World von Bosch Rexroth angeschlossen. So setzt Rhebo auf ctrlX Automation als Integrationsplattform und zusätzlichen Marktplatz für ihre industriellen Monitoring-Lösungen, die sowohl für die…

    mehr lesen: Rhebo integriert Apps für Cybersecurity

  • Alarmmanagement in modularen Automatisierungssystemen

    Alarmmanagement in modularen Automatisierungssystemen

    Modulare Anlagen werden in der Fertigungs- und Verfahrenstechnik vermehrt eingesetzt. Die Planungszeit neuer Anlagen und Umbauarbeiten sollen so beschleunigt werden, um Stillstände beziehungsweise die Time-to-Market zu verkürzen.

    mehr lesen: Alarmmanagement in modularen Automatisierungssystemen