Die eigentliche Geschichte ist die Lücke
Fast vier Jahre nachdem ChatGPT am 30. November 2022 veröffentlicht wurde, ist die wichtigste Kennzahl für Unternehmen kein Benchmark-Score oder ein Modellpreis. Es ist die Lücke zwischen dem, was Vorstände genehmigt haben, und dem, was die Workflows an der Front tatsächlich aufgenommen haben.
McKinseys „State of AI 2025“ (veröffentlicht im November 2025, n=1.993, Feldzeit Juni-Juli 2025) ist die klarste einzelne Analyse dieser Lücke. 88 % der Unternehmen berichten inzwischen über eine regelmässige Nutzung von KI in mindestens einer Geschäftsfunktion, gegenüber 78 % im Vorjahr. Aber nur etwa ein Drittel hat damit begonnen, KI im gesamten Unternehmen zu skalieren. Nur 39 % der Befragten schreiben der KI-Nutzung einen EBIT-Einfluss zu, und die meisten von ihnen geben an, dass dieser weniger als 5 % beträgt. Nur ~6 % qualifizieren sich als McKinseys „KI-High-Performer“, die mehr als 5 % des EBIT und einen signifikanten Wert der KI zuschreiben. Der stärkste Prädiktor auf Führungsebene für den High-Performer-Status ist die grundlegende Neugestaltung von Workflows: High-Performer haben eine fast dreimal höhere Wahrscheinlichkeit als ihre Mitbewerber, einen Workflow rund um KI neu gestaltet zu haben.
Der MIT NANDA-Bericht, „The GenAI Divide: State of AI in Business 2025“, zeichnete dieses Bild im Juli 2025 noch schärfer. Trotz geschätzter Unternehmensausgaben von 30-40 Milliarden USD für generative KI schätzt das MIT, dass rund 95 % der generativen KI-Pilotprojekte in Unternehmen immer noch keine messbaren G&V-Erträge liefern. Die Lücke konzentriert sich auf kundenspezifische interne Entwicklungen und nicht auf gekaufte Copilots. IBMs „2026 CEO Study“, die die Führungsebene betrachtet, fand heraus, dass 76 % der Unternehmen einen Chief AI Officer ernannt haben und 64 % der CEOs sich wohlfühlen, wichtige strategische Entscheidungen auf Basis von KI-generiertem Input zu treffen. Dennoch nutzen nur 25 % der Belegschaft KI regelmässig in ihrer täglichen Arbeit und 83 % der CEOs sagen, dass der Erfolg nun mehr von der Akzeptanz durch die Menschen als von der Technologie selbst abhängt.
Das ist die eigentliche Geschichte. KI wird in Unternehmen mittlerweile fast universell eingesetzt, ist aber nur oberflächlich integriert. Die Firmen, die Wert schaffen und diesen vermehren, sind nicht diejenigen mit der lautesten Erzählung. Es sind diejenigen, die die Fähigkeiten von Modellen in messbare Workflow-Änderungen umwandeln, die Kosten durch Architektur kontrollieren und KI als produktives System und nicht als Demo steuern.
Dieser Beitrag ist meine Synthese der bis zum 12. Mai 2026 verfügbaren Evidenz: McKinseys „State of AI 2025“, MIT NANDAs „GenAI Divide“, IBMs „2026 CEO Study“, der Stanford HAI „AI Index 2025“, Gartner-Prognosen, Preislisten von Anbietern, öffentliche Unternehmensberichte, offizielle Fallstudien und Standardisierungsleitfäden. Ich schreibe ihn so, wie ich den Markt analysiere: Zahlen zuerst, dann die Geschichte, zuletzt die Meinung.
Was Unternehmen tatsächlich entwickeln
Der Mix der eingesetzten Lösungen ist weitaus enger als es die Rhetorik der „KI-Transformation“ vermuten lässt. Die dominierenden Muster sind Copilots für die Büroproduktivität, Enterprise Search auf internen Inhalten, Assistenten im Kundenservice, Code-Assistenten, Zusammenfassungen von Dokumenten und Meetings sowie eingegrenzte Agenten, die nur innerhalb einer Workflow-Hülle agieren. Die Textgenerierung ist nach wie vor die dominierende Modalität. Code und Bilder liegen materiell dahinter.
Eine praktische Taxonomie:
| Projekttyp | Typische Architektur | Warum es sich früh durchsetzt | Hauptkosten- oder Risikozentrum |
|---|---|---|---|
| SaaS-Produktivitäts-Copilot | Vom Anbieter verwaltetes Modell + Datenanbindung des Mandanten + Sitzplatzlizenz | Schnellster Beschaffungs- und Veränderungspfad | Ausgaben pro Arbeitsplatz, Identität, Datengrenzen |
| Enterprise Search / Wissens-Chat | RAG über interne Dokumente, Vektor- oder Hybridsuche, Zitate, RBAC | Hoher Wert, geringes Handlungsrisiko | Qualität des Retrievals, Berechtigungen, Evaluierung |
| Kundenservice-Bot | Konversations-Orchestrierer + Wissensdatenbank + CRM/Workflow-Aktionen + Eskalation | Klarer ROI und hohes Volumen | Halluzinationen, Qualität der Fallabwehr, Kundenvertrauen |
| Code-Assistent | IDE-Erweiterung oder auf Repositories basierender Assistent | Sofortige Akzeptanz bei Entwicklern und messbare Telemetrie | Sicherheit, Code-Qualität, geistiges Eigentum, Compliance |
| Agentischer Back-Office-Workflow | LLM-Planer/Router + Tool-Nutzung + Genehmigungen + API-Ausführung | Höchstes Automatisierungspotenzial | Zuverlässigkeit, Ausnahmebehandlung, Governance |
Das Architekturmuster, das heute produktive „Copilots“ dominiert, ist nicht „ein riesiges Modell“. Es ist ein Stack: Identitäts- und Zugriffskontrolle, Orchestrierung, Retrieval-Augmented Generation, Tool- oder API-Aufrufe, Beobachtbarkeit, Evaluierung und menschliche Eskalation. Microsoft, AWS, Google Cloud und OpenAI veröffentlichen alle nahezu identische Referenzarchitekturen. Der eigene Enterprise-Leitfaden von OpenAI empfiehlt ausdrücklich, mit einem einzelnen Agenten zu beginnen und Tools schrittweise hinzuzufügen, anstatt direkt zu Multi-Agenten-Systemen zu springen.
Drei technische Entscheidungen trennen Pilotprojekte von der Produktion. Erstens, RAG für volatile oder berechtigungssensible Daten, weil es Antworten auf aktuellen Unternehmensdaten basiert, ohne das Modell neu zu trainieren. Zweitens, Tool-Nutzung nur dort, wo eine formale Workflow-Grenze besteht, wie bei CRM-Updates, Ticketing oder dem Einfügen von Meeting-Notizen. Drittens, Fine-Tuning oder Destillation für Aufgaben mit hohem Volumen und stabilen Anforderungen, bei denen die Steuerung allein über Prompts nicht mehr ausreicht.
Das Muster von Morgan Stanley ist das klarste öffentliche Beispiel. Der frühe Einsatz des Unternehmens konzentrierte sich auf die interne Wissensunterstützung und später auf die Nachbereitung von Meetings, wobei ein Evaluierungs-Framework verwendet wurde, um die Qualität der Ergebnisse vor dem breiten produktiven Einsatz zu validieren. Bis April 2025 zeigten öffentliche Berichte von Morgan Stanley und OpenAI eine tägliche Nutzung durch 98 % der Berater und einen Anstieg des Dokumentenzugriffs von 20 % auf 80 %, mit Abfragen in natürlicher Sprache über mehr als 100.000 proprietäre Forschungsdokumente. Das ist keine KI, die den Berater ersetzt. Das ist KI, die als Such-, Zusammenfassungs- und Entwurfsebene auf dem bestehenden menschlichen Urteilsvermögen aufsetzt.
Wie Sie dies auf Ihr eigenes Portfolio anwenden
Wenn Sie eine spezifische Initiative anhand derselben sechs Ebenen, die ich beim Schreiben dieses Artikels verwende (Baseline, Architecture, Surface, Intelligence, Containment, Scale), einem Stresstest unterziehen möchten, ist das nachfolgende Diagnose-Tool die interaktive Version des Frameworks, auf das ich in diesem Beitrag immer wieder zurückkomme.
Die Ökonomie von Tokens, APIs und Cloud-Ausgaben
Der Preisgestaltungsmarkt hat sich zu mehreren unterschiedlichen Modellen entwickelt: direkte Abrechnung nach Tokens, Sitzplatzlizenzen, priorisierter oder reservierter Durchsatz und Gebühren auf Plattformebene für Routing, Suche, Tools oder Governance. Der Kernpunkt ist, dass ein angegebener „Modellpreis“ selten der vollständige Endpreis ist.
Preisvergleich der Anbieter
| Anbieter | Preismodell | Beispielhafter aktueller öffentlicher Preis | Wichtige Vorbehalte |
|---|---|---|---|
| OpenAI | Direkte API-Token-Preise; Batch -50 %; Datenresidenz +10 % | GPT-5.5 5 USD Input / 30 USD Output pro Mio. Tokens; GPT-5.4 2,50 USD / 15 USD; GPT-5.4 mini 0,75 USD / 4,50 USD | Aktuelle Flaggschiff-Preise konzentrieren sich auf GPT-5.x; gecachter Input ist wesentlich günstiger als der Basis-Input. |
| Anthropic | Direkte API-Token-Preise; Prompt-Caching; Batch -50 %; Prioritäts- und Regionalaufschläge auf Drittplattformen | Claude Opus 4.7 5 USD / 25 USD; Claude Sonnet 4.6 3 USD / 15 USD; Claude Haiku 4.5 1 USD / 5 USD | Cache-Treffer kosten 10 % des Basis-Input-Preises; Opus 4.7 kann bis zu 35 % mehr Tokens für denselben Text verbrauchen; Tool-Nutzung fügt zusätzliche Tokens hinzu. |
| Google Cloud | Vertex/Agent Platform Token-Preise mit Priority versus Flex/Batch und bereitgestelltem Durchsatz (GSUs) | Gemini 3.1 Pro Preview Flex/Batch: 1 USD / 6 USD pro Mio. Tokens bis zu 200k Input-Tokens, dann 2 USD / 9 USD darüber; Priority: 3,6 USD / 21,6 USD bis zu 200k, dann 7,2 USD / 32,4 USD | Die Preise sind nach Kontextgrösse und Service-Tier gestaffelt; bereitgestellter Durchsatz wird in GSUs gekauft, nicht pro Aufruf in Tokens. |
| Microsoft | Azure OpenAI Token-Preise plus PTUs; separate sitzplatzbasierte Copilot-Produkte | Azure GPT-4.1 Global Standard 2 USD / 8 USD; Priority 3,50 USD / 14 USD; Batch 1 USD / 4 USD pro Mio. Tokens. Microsoft 365 Copilot Business für 18 USD pro Nutzer/Monat bei jährlicher Zahlung oder 25,20 USD bei monatlicher Bindung für bis zu 300 Nutzer | Mischt zwei ökonomische Modelle: nach Tokens abgerechnete APIs und gebündelte Sitzplatzlizenzen. Copilot Chat ist für berechtigte Microsoft 365-Nutzer enthalten; benutzerdefinierte Agenten können nach Verbrauch abgerechnet werden. |
| AWS | Bedrock-Marktplatzpreise über Standard/Flex/Priority/Reserved-Tiers; modellspezifische Raten; Batch-Rabatte | Claude 3.5 Sonnet auf Bedrock Extended Access 6 USD / 30 USD pro Mio. Tokens, Batch 3 USD / 15 USD; Intelligent Prompt Routing 1 USD pro 1.000 Anfragen | Bedrock ist eine Plattformebene, keine einzelne Modellfamilie. Die Preise variieren je nach Anbieter, Region und Tier; reservierter Durchsatz wird in der Regel über Account-Teams verkauft. |
Zwei strategische Beobachtungen folgen daraus. Die Listenpreise der Anbieter für begrenzte, rein textbasierte Aufgaben konvergieren nach unten, insbesondere für kleinere Modelle, bleiben aber bei den Output-Tokens strukturell asymmetrisch. Und die wichtigsten Kostenkontrollhebel sind jetzt eher architektonischer als verhandlungstechnischer Natur: Caching, Batch-Verarbeitung, das Weiterleiten einfacherer Prompts an kleinere Modelle und die Begrenzung unnötiger Ausgabelängen.
Drei Workload-Szenarien zu Listenpreisen
Die nächste Tabelle ist bewusst operativ. Sie zeigt, wie drei gängige Workload-Szenarien aussehen, wenn sie nur zu den aktuellen öffentlichen Preisen für Text-Tokens berechnet werden, ohne Berücksichtigung von Speicherung, Suche, Sitzplatzlizenzen, Sicherheitstools, Beobachtbarkeit, Engineering-Arbeit und Steuern.
| Szenario | Monatliche Volumenannahme | OpenAI GPT-5.4 mini | Anthropic Sonnet 4.6 | Google Gemini 3.1 Pro Flex/Batch | Azure GPT-4.1 Global | AWS Bedrock Claude 3.5 Sonnet |
|---|---|---|---|---|---|---|
| Interner Wissensassistent | 55.000 Q&A-Interaktionen; 110 Mio. Input- + 33 Mio. Output-Tokens | 231 USD | 825 USD | 308 USD | 484 USD | 1.650 USD |
| Copilot für Meeting-Zusammenfassungen | 20.000 Meetings; 160 Mio. Input- + 20 Mio. Output-Tokens | 210 USD | 780 USD | 280 USD | 480 USD | 1.560 USD |
| Gross angelegter Kundenservice-Bot | 10 Mio. Chats; 10.000 Mio. Input- + 2.500 Mio. Output-Tokens | 18.750 USD | 67.500 USD | 25.000 USD | 40.000 USD | 135.000 USD |
Diese Zahlen sind illustrativ, nicht vertraglich. Sie sind für eine Einsicht nützlich. Bei vielen internen Text-Workloads ist die reine Abrechnung nach Modellnutzung nicht der dominante Kostenfaktor. Eine Implementierung von Microsoft 365 Copilot Business für 300 Arbeitsplätze zum Listenpreis des Jahresplans würde vor Implementierungsaufwand rund 5.400 USD pro Monat kosten, was bereits höher ist als die Modellkosten für viele moderate interne API-Workloads. Sobald eine Organisation sehr volumenstarke Support- oder kundenorientierte Workloads betreibt oder in Video-, Bild-, Long-Context- oder tool-lastige Pipelines vordringt, wird die Inferenz materiell sichtbar.
Durchsatz und Quoten als reale Verbrauchssignale
Da öffentliche Angaben zum Token-Volumen rar sind, sind die am besten beobachtbaren Indikatoren für die reale Unternehmensnutzung Durchsatzquoten, Konversationen, Dokumente und Nutzerakzeptanz. OpenAI listet Ratenlimits für GPT-5.5 von 500.000 TPM (Tokens per Minute) auf Tier 1 bis 40.000.000 TPM auf Tier 5. Anthropic misst Ratenlimits in RPM, ITPM und OTPM und merkt an, dass bei einem ITPM-Limit von 2.000.000 und einer Cache-Trefferquote von 80 % der effektive Input-Durchsatz 10.000.000 Tokens pro Minute erreichen kann, da Cache-Lesevorgänge bei den meisten aktuellen Modellen nicht zum ITPM zählen.
Auf Plattformebenen sind die Zahlen noch grösser. AWS dokumentiert 6.000.000 regionenübergreifende TPM für Claude Sonnet 4.6 und 15.000.000 für Claude Opus 4.7 auf Bedrock. Google Cloud dokumentiert 30.000 RPM pro Modell pro Region als Systemlimit in Vertex AI, mit Beispielen wie 3,4 Mio. TPM pro Projekt für Gemini 2.0 Flash Text-Workloads und 67.250 Tokens pro Sekunde kontinuierlichen Durchsatz von 25 GSUs bereitgestelltem Gemini 2.5 Flash. Azure rahmt Quoten in TPM und RPM pro Region, Abonnement und Modell- oder Bereitstellungstyp und positioniert PTUs als Option für planbare Kapazität für stetige Workloads.
Kostensteigerungen, die teilweise auf KI zurückzuführen sind
Der deutlichste Makroindikator ist die Feststellung von IBM, dass die durchschnittlichen Kosten für Rechenleistung zwischen 2023 und 2025 voraussichtlich um 89 % steigen werden, wobei 70 % der Führungskräfte generative KI als kritischen Treiber bezeichnen. Ein starkes Richtungssignal, aber immer noch Umfragedaten statt geprüfter Abschlüsse.
Die Evidenz aus öffentlichen Unternehmensberichten ist präziser, aber nuancierter: KI-Kosten sind in der Regel sichtbar, aber mit Hosting, Support und Plattformwachstum vermischt und nicht sauber isoliert.
| Organisation | Was sich geändert hat | Wie viel war eindeutig auf KI zurückzuführen? | Interpretation |
|---|---|---|---|
| Duolingo | Q2 2025: Bruttomarge sank um 100 Bp. im Jahresvergleich aufgrund höherer KI-Kosten durch die Erweiterung von Duolingo Max. Q3 2025: Gesamt-Bruttomarge fiel auf 72,5 % von 72,9 %; Neunmonatswert 72,0 % von 73,1 %, wobei das Management höhere generative KI-Kosten und Hosting anführte | Teilweise spezifiziert: KI wird genannt, genaue Aufteilung gegenüber Hosting nicht spezifiziert | KI-Kostendruck zeigt sich in der Marge, nicht als separater Posten |
| Duolingo | Q1 2026: Bruttomarge stieg um 190 Bp. im Jahresvergleich auf 73,0 %, hauptsächlich getrieben durch Senkungen der KI-Stückkosten | Richtungsmässig klar KI-bezogen, genauer Betrag nicht spezifiziert | Früher Margendruck kann sich umkehren, wenn sich die Stückkosten verbessern |
| Snowflake | Geschäftsjahr 2026-Bericht: Kosten des Produktumsatzes beinhalten Cloud-Infrastrukturkosten von Drittanbietern, einschliesslich solcher für GPUs und KI-Inferenz, wobei einige Investitionen im Vorfeld der Umsatzerzielung angefallen sind | Gemischte Zuordnung: KI explizit, aber gebündelt mit Support und internationaler Expansion | KI-Last fliesst in die Cloud-Kosten des Umsatzes ein, ist aber nicht separat quantifiziert |
| Klarna | Vertriebs- und Marketingausgaben fielen im Q1 2024 um 11 %; das Unternehmen gab an, dass KI für 37 % dieser Einsparungen verantwortlich war, etwa 10 Mio. USD auf Jahresbasis | Vom Unternehmen direkt der KI zugeschrieben | Seltener Fall, in dem das Management einen expliziten KI-Anteil an der Kostenbewegung angibt |
| Gartner-Benchmark | Typische Implementierungsansätze können 5-20 Mio. USD kosten; viele Projekte werden nach dem POC abgebrochen | Nicht unternehmensspezifisch | Als Benchmark-Spanne zu verwenden, nicht als Schätzung auf Unternehmensebene |
Die Schlussfolgerung: Auf KI zurückzuführende Kosten sind in öffentlichen Berichten oft nur teilweise isolierbar. In der Produktion fallen KI-Kosten als Bündel an: Modellinferenz, GPU-lastige Cloud-Workloads, Enterprise Search, Data Engineering, Sicherheitstools, Support- und Adoptionsprogramme. Genau aus diesem Grund kann die KI-Ökonomie im Labor günstig und in einer Finanzprüfung teuer aussehen.
Geschäftsergebnisse und ROI
Die beste Evidenz zeigt keine einheitliche KI-Produktivitätsdividende. Sie zeigt begrenzte Gewinne in begrenzten Kontexten, mit den grössten Erfolgen dort, wo die Aufgabe häufig ist, der Workflow messbar ist und die Fehleranfälligkeit kontrolliert wird.
| Organisation | Anwendungsfall | Gemessenes Ergebnis | Was die Kennzahl beweist und was nicht |
|---|---|---|---|
| Morgan Stanley mit OpenAI | Wissensassistent für Berater (AI @ Morgan Stanley Assistant) und Meeting-Nachbereitung (AI @ Morgan Stanley Debrief, OpenAI-betrieben) | 98 % der Berater nutzen den OpenAI-betriebenen Assistenten; Dokumentenzugriff stieg von 20 % auf 80 %; Debrief generiert nun Meeting-Notizen und Follow-up-Entwürfe für Kunden in der Produktion | Starker Beleg für Akzeptanz und Produktivitätsunterstützung, mit einem öffentlichen Evaluierungs-Framework; keine unternehmensweite ROI-Gleichung offengelegt |
| GitHub mit Accenture | Enterprise Code-Assistent | 8,69 % mehr Pull-Requests, 15 % höhere Merge-Rate, 84 % mehr erfolgreiche Builds; 90 % der Entwickler fühlten sich erfüllter; 95 % hatten mehr Freude am Programmieren | Hochwertige Evidenz aus der Praxis: kombiniert Telemetrie und kontrolliertes Studiendesign |
| Klarna (Höhepunkt 2024) | Kundenservice-Assistent | 2,3 Mio. Konversationen im ersten Monat; zwei Drittel der Support-Chats; Arbeit von 700 Vollzeit-Agenten; durchschnittliche Lösungszeit sank von 11 Minuten auf unter 2 Minuten; „vergleichbare“ CSAT | Starkes Effizienzsignal in der Spitze |
| Klarna (Kehrtwende Mai 2025, Bloomberg) | Neuausrichtung des Kundenservice | CEO Sebastian Siemiatkowski gibt öffentlich zu, dass der reine KI-Ansatz bei den Kosten zu weit ging; Firma stellt wieder menschliche Agenten ein und bekennt sich zu einem hybriden Modell | Direkter Beweis, dass rein auf Automatisierung basierende Roll-outs an eine Grenze der Kundenerfahrung stossen; ein Argument für KI als Ergänzung, nicht als Ersatz |
| Klarna | Marketing-Operationen | KI für 37 % der Kosteneinsparungen verantwortlich, etwa 10 Mio. USD auf Jahresbasis | Seltener expliziter KI-Anteil an Kosteneinsparungen |
| Duolingo | KI-gestützter Premium-Tarif und Content-Ökonomie | Bruttomarge im Q1 2026 um 190 Bp. im Jahresvergleich gestiegen, hauptsächlich durch niedrigere KI-Stückkosten | Der ROI verbessert sich erheblich, wenn die KI-Stückkosten nach der Implementierung und Optimierung sinken |
| Google Cloud-Kunden | Kundensupport und Forschungsinfrastruktur | LUXGEN: KI-Agent reduzierte den Arbeitsaufwand des menschlichen Kundenservice um 30 %. Citadel Securities: TPUs führten KI-Workloads bis zu 4x schneller bei 30 % niedrigeren Kosten aus | Richtungweisende, vom Anbieter ausgewählte Fallstudien |
Auf Marktebene sind die am häufigsten zitierten ROI-Multiplikatoren immer noch hauptsächlich auf Umfragen oder Sponsoren basierend und sollten eher als ambitioniert denn als geprüfte Renditen gelesen werden. Das glaubwürdige Gegengewicht ist die Erkenntnis aus MIT NANDAs „GenAI Divide“ (Juli 2025), dass rund 95 % der generativen KI-Pilotprojekte immer noch keine messbaren G&V-Auswirkungen erzielen. Beide Zahlen können gleichzeitig wahr sein: eine kleine Minderheit von Unternehmen erzielt überproportionale Renditen; das typische Unternehmen jedoch nicht.
Die nüchterne ROI-Regel: KI schafft messbaren Wert, wenn eingesparte Zeit tatsächlich in Durchsatz, Vertrieb, Service oder Genauigkeit reinvestiert wird, nicht, wenn das Unternehmen lediglich feststellt, dass Mitarbeiter eine Aufgabe schneller erledigt haben. McKinseys Erkenntnis von 2025, dass die Neugestaltung von Workflows der stärkste einzelne Prädiktor auf Führungsebene für den High-Performer-Status ist, fasst diesen Punkt am besten zusammen.
Fehlermodi, versteckte Kosten und organisationale Effekte
Die teuersten KI-Fehler in Unternehmen sind in der Regel keine Modellfehler. Es sind Fehler im Systemdesign und im Betriebsmodell.
Versteckte technische Kosten
Das erste ist die Token-Inflation ausserhalb des Basis-Prompts. Tool-Schemata, System-Prompts, abgerufene Textblöcke, Konversationsverläufe und modellspezifische Tokenizer verändern die realen Ausgaben. Anthropic merkt an, dass Opus 4.7 aufgrund eines neuen Tokenizers bis zu 35 % mehr Tokens für denselben festen Text verwenden kann; die Dokumentation zur Tool-Nutzung zeigt zusätzliche System-Prompt-Overheads von etwa 313-346 Tokens pro Aufruf, sobald Tools aktiviert sind. Ein Schlagzeilenpreis von „5 USD pro Mio. Tokens“ kann die tatsächlichen Kosten in einer tool-lastigen, schlecht optimierten Implementierung erheblich unterschätzen.
Das zweite ist die Latenz als Funktion der Ausführlichkeit. Google Cloud gibt explizit an, dass die Latenz direkt proportional zur Länge der generierten Tokens ist und empfiehlt, `max_output_tokens` zu begrenzen, um unnötige Verzögerungen und Kosten zu vermeiden. Lange Ausgaben erhöhen die direkten Inferenzkosten, den Druck auf die Warteschlange, die Wartezeit der Benutzer und den Aufwand für Prüfer.
Das dritte sind Schulden im Bereich Retrieval und Data Engineering. Produktionsreifes RAG bedeutet Dokumentenaufnahme, Chunking, Indizierung, Replikation von Berechtigungen, Abstimmung des hybriden Retrievals, Validierung von Zitaten und Wartung von Konnektoren. Azure, AWS und Google behandeln alle Suche, Dokumentenextraktion und das Design der Wissensebene als erstklassige Architekturkomponenten.
Qualitäts-, Sicherheits- und Rechtsrisiken
Das Qualitätsrisiko konzentriert sich nach wie vor auf Ungenauigkeit und Halluzination, gefolgt von Datenschutz, Cybersicherheit und geistigem Eigentum. McKinseys „State of AI 2025“ berichtet, dass Unternehmen zunehmend in Massnahmen zur Minderung von Ungenauigkeiten, Cybersicherheit und Risiken des geistigen Eigentums investieren, sich aber die meisten immer noch auf eine kleine Anzahl von Kontrollen verlassen. Unabhängige Berichte über produktive Implementierungen zeigen, dass Halluzinationen, Prompt Injection und das Durchsickern sensibler Daten die dominanten Fehlermodi bleiben, wenn LLMs ohne strenge Evaluierungsmechanismen Benutzereingaben oder Tool-Nutzung ausgesetzt sind.
Standardisierungsgremien behandeln dies nun als zentrales Managementthema. Das „AI RMF Generative AI Profile“ des NIST ist die Ergänzung zum AI RMF 1.0 zur Identifizierung und zum Management von Vertrauenswürdigkeitsrisiken in generativen KI-Systemen; SP 800-218A erweitert sichere Softwareentwicklungspraktiken auf generative KI und Dual-Use-Basismodelle. Die Transparenzpflichten nach Artikel 50 des EU AI Act treten am 2. August 2026 in Kraft und verpflichten Anbieter und Betreiber, KI-generierte Inhalte zu kennzeichnen und Interaktionen mit KI-Systemen offenzulegen. Zusammen rahmen diese die Aufsicht als eine produktive Disziplin und nicht nur als Prompt-Filter ein.
Organisationale Effekte
Die organisationalen Auswirkungen sind bereits materiell. IBMs „2026 CEO Study“ berichtet, dass 76 % der Unternehmen einen Chief AI Officer ernannt haben, mit stärkerer Beteiligung des CHRO und breiten Erwartungen an Umschulungen. McKinsey 2025 stellt fest, dass der Anstieg der KI-Rollen sich auf technische und Produktprofile konzentriert, während Spezialisten für KI-Compliance und -Ethik im Verhältnis zum Umfang der zentralisierten Risiko- und Compliance-Arbeit selten bleiben. Diese Fähigkeitslücke ist eine der besseren Erklärungen dafür, warum so viele Programme auf der Governance-Ebene und nicht auf der Modellebene ins Stocken geraten.
Der Vendor-Lock-in ist ebenfalls tiefer, als viele Beschaffungsteams zunächst annahmen. Die Portabilität von Prompts ist relativ einfach. Die operative Portabilität ist es nicht. In dem Moment, in dem eine Organisation auf Azure PTUs, Google GSUs, Anthropic-spezifische Cache-Semantik, Bedrock-Routing-Tiers oder proprietäre SaaS-Grounding-Layer angewiesen ist, verlagern sich die Wechselkosten vom Prompt-Text zur Laufzeitökonomie, Beobachtbarkeit, Genehmigungslogik und Governance. Die eigene Dokumentation von Anthropic merkt an, dass ihre Modelle über die Claude API, Bedrock, Vertex AI und Microsoft Foundry laufen, mit unterschiedlichen regionalen und preislichen Behandlungen.
Schatten-IT ist nicht mehr nur ein Sicherheitsthema. Es ist ein Beschaffungs- und FinOps-Thema. Wenn sicherer Chat in einer bestehenden Suite enthalten ist, wenn Agenten-Builder als Low-Code-Tools verkauft werden und wenn die Abrechnung nach Modellnutzung isoliert betrachtet günstig aussieht, wird unkontrolliertes Wachstum einfach. Ohne zentrale Gateways, Workspace-Limits, Budgets und Audit-Logs zahlen Organisationen am Ende für doppelte Copilots, doppelte Konnektoren und doppelte Überprüfungsprozesse.
Governance und das AI-FinOps-Playbook
Die Evidenz deutet auf eine Reihe recht klarer Praktiken hin.
Erstens, etablieren Sie eine zentrale KI-Kontrollebene für Data Governance, Modellzugriff, Beobachtbarkeit und Richtlinien, während Sie das Experimentieren in den Geschäftsbereichen teilweise dezentralisiert belassen. Dies entspricht der typischen Zentralisierung von Risiko und Compliance, während Akzeptanz und Talent häufiger hybrid gehandhabt werden.
Zweitens, behandeln Sie die Auswahl von Anwendungsfällen als ein Portfolio-Problem. Die besten Kandidaten für die erste Welle sind hochfrequente Aufgaben mit überschaubarem Risiko, klaren Ausgangswerten und messbaren Ergebnissen: Entwürfe für Support-Antworten, auf Repositories basierende Programmierhilfe, interne Wissensabfrage, Meeting-Notizen, Dokumentenzusammenfassungen. Beginnen Sie mit einem einzelnen Agenten und fügen Sie Tools schrittweise hinzu.
Drittens, integrieren Sie AI FinOps vom ersten Tag an in die Umsetzung. Mindestens:
- Obergrenzen für die Ausgabe und Kontrolle der Ausführlichkeit;
- Prompt-Caching für wiederholte Anweisungen und langen Kontext;
- Batch-Verarbeitung für asynchrone Aufträge;
- Weiterleitung einfacher Anfragen an kleinere Modelle;
- separate Budgets für Modellausgaben, Suche/Indexierung und menschliche Überprüfung;
- Verrechnung nach Geschäftsbereich oder Workspace.
Viertens, fordern Sie einen Nachweis des Werts, nicht nur der Akzeptanz. Die richtige Verrechnungseinheit ist der Geschäftsprozess: Lösungszeit, Merge-Rate, Zykluszeit, Kampagnendurchsatz, Bruttomarge, Konversion, Genauigkeit von Ansprüchen oder Umlaufgeschwindigkeit des Betriebskapitals. Von Anbietern gesponserte ROI-Multiplikatoren sind nützlich für die Ambition; der interne ROI sollte wo immer möglich anhand von Kontrollgruppen, Vorher-Nachher-Vergleichen oder randomisierten Roll-outs gemessen werden. Die GitHub/Accenture-Studie ist ein gutes Modell, da sie Telemetrie, Nutzerumfragen und ein explizites experimentelles Design kombiniert.
Fünftens, stufen Sie die menschliche Aufsicht nach Risiko ab. Nach aussen gerichtete oder regulierte Inhalte sollten strengere Regeln für Überprüfung, Herkunft und Eskalation haben als risikoarme interne Entwürfe. Das „AI RMF Generative AI Profile“ und SP 800-218A des NIST sowie die ab dem 2. August 2026 geltenden Verpflichtungen nach Artikel 50 des EU AI Act bieten die besten öffentlichen Vorlagen, um die Aufsicht operativ und nicht nur als Anspruch zu gestalten.
Offene Fragen
Drei Fragen bleiben strukturell schwer aus öffentlichen Daten zu beantworten. Die erste ist der genaue Token-Verbrauch von Unternehmenskunden: Öffentliche Angaben bleiben spärlich, sodass jeder unternehmensübergreifende Token-Benchmark immer noch grösstenteils auf Schlussfolgerungen beruht. Die zweite ist der wahre All-in-ROI: Viele Fallstudien von Anbietern legen den Nutzen, aber nicht den vollständigen Kostenstapel offen, während viele Unternehmensberichte Kostendruck ohne einen sauberen kontrafaktischen Vergleich auf Prozessebene offenlegen. Die dritte ist die Dauerhaftigkeit des Mehrwerts: Kurzfristige Produktivitätsgewinne sind zunehmend gut belegt, aber die mittelfristigen Auswirkungen auf Fehlerraten, Organisationsdesign, Beschaffungskonsolidierung und Arbeitskräftemix entwickeln sich noch. Die Kehrtwende von Klarna im Mai 2025 und die Bruttomargenschwankungen von Duolingo zeigen, dass sich die Ökonomie schnell in beide Richtungen bewegen kann, wenn sich die Qualität der Implementierung und die Stückkosten ändern.
Die Schlussfolgerung mit der höchsten Zuversicht, nach fast vier Jahren, ist bereits klar. Die Auswirkungen des KI-Fiebers auf Unternehmen waren real, aber ungleichmässig. Die erfolgreichsten Firmen sind nicht diejenigen mit der lautesten KI-Erzählung. Es sind diejenigen, die die Fähigkeiten von Modellen in messbare Workflow-Änderungen umwandeln, Architektur zur Kostenkontrolle nutzen und KI als produktives System und nicht als Demo steuern.
Quellen
- McKinsey & Company. The state of AI in 2025: Agents, innovation, and transformation. 5. November 2025. n=1.993.
- MIT NANDA. The GenAI Divide: State of AI in Business 2025. Juli 2025.
- Stanford HAI. Artificial Intelligence Index Report 2025.
- IBM Institute for Business Value. 2026 CEO Study.
- Gartner. Predicts 30% of Generative AI Projects Will Be Abandoned After Proof of Concept By End of 2025. 29. Juli 2024.
- Gartner. Forecasts Worldwide GenAI Spending to Reach $644 Billion in 2025. 31. März 2025.
- OpenAI. API-Preise, Ratenlimits und Enterprise-Dokumentation. platform.openai.com (erfasst Mai 2026).
- Anthropic. Claude API-Preise, Prompt-Caching und Tool-Nutzungs-Dokumentation. docs.anthropic.com (erfasst Mai 2026).
- Google Cloud. Vertex AI und Agent Platform-Preise (Flex/Batch, Priority, GSUs).
- Microsoft. Azure OpenAI-Preise, PTUs und Microsoft 365 Copilot Business-Preise.
- Amazon Web Services. Amazon Bedrock-Preise über Standard-, Flex-, Priority- und Reserved-Tiers.
- Morgan Stanley. Launch of AI @ Morgan Stanley Debrief; OpenAI-Kundenstory über Morgan Stanley-Evals.
- GitHub mit Accenture. Enterprise Copilot-Implementierungsstudie.
- Bloomberg. Klarna Turns From AI to Real Person Customer Service. 8. Mai 2025.
- Reuters. Berichterstattung über Klarna CEO-Kommentare zu den Grenzen der KI-Kostensenkung im Kundenservice, 2025.
- Duolingo. Quartalsweise Bruttomargen-Offenlegungen, Geschäftsjahr 2025 bis Q1 2026.
- Snowflake. Geschäftsjahr 2026-Bericht über die Kosten des Produktumsatzes.
- NIST. AI Risk Management Framework Generative AI Profile und SP 800-218A.
- Europäische Kommission. AI Act, Artikel 50 Transparenzpflichten, anwendbar ab 2. August 2026.