KI erinnert an die Anfänge der Cloud – der Wettlauf um den Betrieb beginnt

In den letzten zwei Jahren drehte sich der Großteil des Lärms um KI um das Modellrennen – wessen Modell ist größer, schneller oder erzielt bessere Benchmark-Ergebnisse. Doch während KI von Pilotprojekten in den Kern von Produkten und Arbeitsabläufen übergeht, zeigt sich ein bekanntes Muster aus den Anfängen der Cloud: Systeme sind programmierbarer denn je, aber auch viel schwieriger zu betreiben. Das bedeutet, dass der wichtigste Wettbewerb im KI-Bereich sich nun verlagert: von der Frage, wer das „beste“ Modell hat, hin zu der Frage, wer KI zuverlässig, effizient und sicher im großen Maßstab betreiben kann.

Bei der Betrachtung realer Telemetriedaten aus Tausenden von Produktionssystemen zeichnet sich ein klares Bild ab. Fast jeder 20. KI-Aufruf schlägt fehl, sobald Anwendungen skaliert werden, und die Mehrheit dieser Fehler resultiert aus Kapazitätsgrenzen wie Ratenbegrenzungen, Kontingenten und Parallelitätsbeschränkungen, nicht aus Modellfehlern oder schlechter Genauigkeit. Das ist eine ganz andere Geschichte als die Benchmark-Diagramme, über die die meisten Teams früher grübelten. Die pro Anfrage gesendete Datenmenge steigt ebenfalls. In vielen Produktionsumgebungen haben durchschnittliche Nutzer ihre Token-Nutzung mehr als verdoppelt, während die Volumen bei Vielnutzern um ein Vielfaches gestiegen sind. Dieses Wachstum ist sowohl ein Symptom ehrgeizigerer KI-Anwendungsfälle als auch ein direkter Treiber von Kosten und IT-Infrastrukturbelastung.

Die Auswirkungen zeigen sich am deutlichsten in dem, was viele Teams jetzt als GPU-Sprawl bezeichnen: fragmentierte Flotten, die über Clouds und On-Premises-Cluster verteilt sind. Einige GPUs sind im Leerlauf, während andere durchgehend ausgelastet sind, und es gibt nur eine geringe Korrelation zwischen dem Ort, an dem GPU-Stunden verbraucht werden, und dem Ort, an dem sie geschäftlichen Mehrwert schaffen. Das Ergebnis ist jedem bekannt, der die frühe Einführung von Cloud Computing miterlebt hat – explodierende Ausgaben, unvorhersehbare Leistung und Kapazitätskrisen, die aus dem Nichts auftauchen.

Im asiatisch-pazifischen Raum, insbesondere in ASEAN, sehen wir derzeit strukturelle Spannungen: Die KI-Einführung beschleunigt sich, aber die operative Reife ist ungleichmäßig. Singapur ist bei Governance und Beobachtbarkeit weiter fortgeschritten, angetrieben durch regulatorische Erwartungen und eine reifere Cloud-Landschaft. Märkte wie Indonesien, Malaysia und Thailand hingegen bewegen sich bei der Bereitstellung sehr schnell und drängen KI oft in kundenorientierte Dienste, während die Betriebspraktiken hinterherhinken. Diese Lücke zwischen Bereitschaft und Bereitstellung schafft bereits operative und Kostenschulden, die später schwerer abzubauen sein werden.

Mit der Entwicklung der KI, die den Anfängen der Cloud ähnelt, können wir zumindest ein wenig vorhersagen, wohin die Reise geht. KI-Führungskräfte sollten sich fragen, welche Disziplinen die Teams auszeichnen, die am besten mit dieser Komplexität umgehen können. Meiner Ansicht nach gibt es vier Disziplinen, die Teams für nachhaltigen Erfolg übernehmen müssen: Sichtbarkeit und Zuordnung herstellen, Kontrollen und Leitplanken durchsetzen, GPU-Auslastung optimieren, bevor das Angebot skaliert wird, und Kostenmanagement und FinOps einführen. Ohne diese Disziplinen stoßen KI-Programme oft an wirtschaftliche Grenzen, lange bevor sie an technische Grenzen stoßen. Man endet mit beeindruckenden Prototypen, aber untragbaren Stückkosten.