Die Ära der kostenlosen KI ist vorbei

Alan Trefler
Bild: Pegasystems GmbH

Die Wirtschaftlichkeit großer Sprachmodelle steht kurz davor, mit der Unternehmensrealität zu kollidieren, schreibt Pegasystems-CEO Alan Trefler (Bild). Warum er das so sieht, beschreibt er in einem Kommentar:

In der ersten Phase der Einführung wurde KI meist in Form subventionierter, häufig nutzerbasierter, Preismodelle angeboten. Die Tokens schienen praktisch kostenlos zu sein. Das machte das Experimentieren einfach – vor allem für jene, die inzwischen regelrecht von ihrer täglichen Dosis KI-Agenten abhängig geworden sind. In manchen Unternehmen scheint die Nutzung inzwischen zum Selbstzweck geworden zu sein. Der absurde Trend des sogenannten Tokenmaxxing feiert Quantität statt Qualität, als ob sich Eingaben einfach mit Ergebnissen gleichsetzen lassen.

Doch jetzt, da die großen Sprachmodelle die Unternehmen an KI-Agenten gewöhnt haben, wird die eigentliche Rechnung fällig.

Hunderte Milliarden Dollar fließen derzeit in KI-Infrastrukturen und irgendjemand wird diese Kosten tragen müssen. Jüngste Schritte großer Anbieter deuten darauf hin, dass Token-basierte Abrechnungsmodelle zum Standard werden. Was zunächst wie ein All-you-can-eat-Buffet begann, verwandelt sich zunehmend in einen Taxameter.

Für viele Führungskräfte wird dabei die größere Überraschung nicht in den sichtbaren Output-Tokens liegen. Vielmehr ist entscheidend, dass im Hintergrund sogenannte Reasoning-Tokens verbraucht werden, wann immer ein Modell eine Entscheidung eigenständig herleitet. Und dann noch einmal überdenkt und neu bewertet. Genau diese Tokens sind die teuersten überhaupt, obwohl niemand ausdrücklich darum gebeten hat.

Reasoning-KI ist zwar leistungsstark, sie ist aber auch kostspielig, unvorhersehbar und oft unnötig. Jede operative Entscheidung immer wieder neu zu durchdenken, mag anspruchsvoll wirken, ist jedoch das Gegenteil von Disziplin. Sobald Logik, Richtlinien und Workflows sauber aufgesetzt sind, verursacht deren endloses Neugenerieren während des laufenden Betriebs unnötige Kosten und Risiken, ohne einen Mehrwert zu schaffen.

Reasoning in der Designphase, also dort, wo Kreativität, Exploration und neue Erkenntnisse gefragt sind, ist hingegen die Stärke generativer KI. Die Runtime-Ausführung ist jedoch etwas grundlegend anderes. Hier zählen Vorhersehbarkeit, Konsistenz und Kostenkontrolle mehr als Kreativität. Der Einsatz schlanker semantischer KI-Funktionen in dieser Phase ermöglicht es Agenten, definierte Workflows effizienter und kostengünstiger zu befolgen. Genau so lässt sich KI sinnvoll skalieren.

Nachhaltige KI ist keine Magie, sie basiert vielmehr auf klugen Abwägungen.

Die nächste Phase von Enterprise-KI wird weniger durch spektakuläre Demos als durch Disziplin geprägt sein. Durch vorhersehbare Ergebnisse und durch kalkulierbare Kosten. Und durch eine klare Entscheidung darüber, wann sich aufwendiges Reasoning wirklich lohnt und wann nicht.

Unternehmen, die sich frühzeitig mit der wachsenden Abhängigkeit von agentenbasierter KI auseinandersetzen und dabei auf Token-Effizienz und architektonische Klarheit setzen, werden nicht nur Kosten sparen. Sie werden auch Systeme aufbauen, die vertrauenswürdiger, leichter zu steuern und einfacher zu skalieren sind. Dies wird insbesondere dann von Vorteil sein, wenn KI nicht mehr als kostenlos wahrgenommen wird, sondern als realer wirtschaftlicher Faktor.



  • Neues Institutsgebäude für das KIT

    Neues Institutsgebäude für das KIT

    Ab dem nächsten Frühjahr sollen die Arbeiten am InformatiKOM auf dem Campus Süd des Karlsruher Instituts für Technologie beginnen. Auf 10.000m² entstehen zwei Gebäude, in denen unterschiedliche Disziplinen zusammengebracht werden…

    mehr lesen: Neues Institutsgebäude für das KIT

  • Produktivere Mitarbeiter durch künstliche Intelligenz

    Produktivere Mitarbeiter durch künstliche Intelligenz

    Die große Mehrheit der im Rahmen einer IFS-Studie befragten Unternehmen plant, in KI-Technologien zu investieren. Davon erhoffen sie sich an erster Stelle Produktivitätssteigerungen der Belegschaft.

    mehr lesen: Produktivere Mitarbeiter durch künstliche Intelligenz

  • Datenschutz und Quantencomputing

    Datenschutz und Quantencomputing

    Im neuen Projekt ‘PQC4MED‘ arbeitet das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) gemeinsam mit mehreren Partnern an Verfahren daran, medizinische Daten durch updatefähige Systeme langfristig vor Attacken durch Quantencomputer zu…

    mehr lesen: Datenschutz und Quantencomputing

  • Anzeige
    Retarus beschleunigt Datenaustausch in der Produktion

    Retarus beschleunigt Datenaustausch in der Produktion

    Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität

    mehr lesen: Retarus beschleunigt Datenaustausch in der Produktion

  • Arbeitsmarktbarometer legt zu

    Arbeitsmarktbarometer legt zu

    Das IAB-Arbeitsmarktbarometer ist im November gestiegen. Gegenüber dem Vormonat legte der Frühindikator des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) um 0,5 auf 102,1 Punkte zu. Verbessert hat sich der Ausblick…

    mehr lesen: Arbeitsmarktbarometer legt zu

  • Holger Michalka wird Teil der MR-Geschäftsführung

    Holger Michalka wird Teil der MR-Geschäftsführung

    Von Rittal zu MR: Zum April nächsten Jahres stößt Holger Michalka zur Maschinenfabrik Reinhausen und übernimmt dort die Leitung des Geschäftsbereichs ‘Products und Operations‘.

    mehr lesen: Holger Michalka wird Teil der MR-Geschäftsführung

  • Rockwell Automation tritt ISA Global Cybersecurity Alliance bei

    Rockwell Automation tritt ISA Global Cybersecurity Alliance bei

    Der neu gegründete Zusammenschluss ISA Global Cybersecurity Alliance hat sich zum Ziel gesetzt, die IT-Sicherheit in industriellen Betrieben voranzutreiben.

    mehr lesen: Rockwell Automation tritt ISA Global Cybersecurity Alliance bei

  • Hildegard Müller wird neue VDA-Präsidentin

    Hildegard Müller wird neue VDA-Präsidentin

    Hildegard Müller ist neue Präsidentin des Verbandes der Automobilindustrie (VDA). Sie tritt die Nachfolge von Bernhard Mattes an, der sein Amt zum Jahresende aufgibt.

    mehr lesen: Hildegard Müller wird neue VDA-Präsidentin

  • Siemens und Qualcomm installieren erstes privates Standalone-5G-Netz im industriellen Umfeld

    Siemens und Qualcomm installieren erstes privates Standalone-5G-Netz im industriellen Umfeld

    Siemens und Qualcomm Technologies haben das erste eigenständige private 5G-Netz in einer realen industriellen Umgebung bei Nutzung des 3,7 – 3,8GHz-Frequenzbandes implementiert.

    mehr lesen: Siemens und Qualcomm installieren erstes privates Standalone-5G-Netz im industriellen Umfeld

  • Schutz gegen Urgent/11-Schwachstellen

    Schutz gegen Urgent/11-Schwachstellen

    Im Juli 2019 wurde die Entdeckung von elf Zero-Day-Sicherheitsschwachstellen bekannt gegeben, die das Echtzeitsystem Wind River VxWorks betreffen. Alle Geräte, auf denen VxWorks läuft, zu aktualisieren, ist oftmals nicht einfach…

    mehr lesen: Schutz gegen Urgent/11-Schwachstellen

  • Hilfe für den Mittelstand

    Hilfe für den Mittelstand

    Mit Hilfe von künstlicher Intelligenz in der Produktion können Prozesse überwacht und Routinetätigkeiten übernommen sowie Entscheidungen unterstützt werden. Oft fehlt es Unternehmen allerdings noch an Fachwissen und die Erfahrung, um…

    mehr lesen: Hilfe für den Mittelstand

  • Switches und Router mit Cybersecurity-Funktionen

    Switches und Router mit Cybersecurity-Funktionen

    Die Anybus-Router und unmanaged und managed (Layer 2/Layer 3) Switches von HMS sind in einem Temperaturbereich von -40 bis +75°C einsetzbar. Mehrere Redundanz- und Cybersecurity-Funktionen sollen es Anwendern erlauben, zuverlässige…

    mehr lesen: Switches und Router mit Cybersecurity-Funktionen