Die meisten Führungskräfte stellen sich KI-Kosten als GPUs und Beschleunigerracks vor und übersehen die Datenspeicherung. Doch was mit den Daten geschieht, nachdem ein Modell geantwortet hat, ist ein erheblicher und oft ungeplanter Infrastrukturaufwand. Milliarden täglicher Prompts, Bilder und Videos erzeugen Backend-Daten, die gespeichert werden müssen, und Speicher gehört zu den schwer planbaren Kostenposten.
Training ist endlich: Ein Lauf beginnt, verbraucht Rechenleistung und endet. Inferenz läuft kontinuierlich, und jede Anfrage hinterlässt etwas. WD hat ein 8 Sekunden langes KI-generiertes Video gemessen, das den Nutzern als 3,97 MB große 720p-Datei übergeben wurde, aber mehr als 500 MB zugehörige Backend-Daten hinterließ, darunter Logs, zwischengespeicherten Kontext, Renderings, Backups und Sicherheitsprotokolle. Das entspricht einem 130-fachen Anstieg gegenüber der Ausgabe, die der Nutzer sah, und längere, hochauflösende Clips könnten den Fußabdruck auf Hunderte Gigabyte treiben.
Das Wachstum ist beträchtlich. McKinsey prognostiziert, dass die Nachfrage nach KI-Inferenz bis 2030 mit einer jährlichen Wachstumsrate von 35 % steigen wird, verglichen mit 22 % beim Training, und bis zum Ende des Jahrzehnts mehr als 40 % der gesamten Rechenzentrumsnachfrage ausmachen wird. Eine von WD gesponserte IDC-Umfrage unter 763 IT- und Geschäftsentscheidern ergab, dass fast 95 % im vergangenen Jahr einen durch generative KI bedingten Anstieg des Datenvolumens feststellten und rund 61 % ein Wachstum von 25 % oder mehr meldeten. Wie ein Produktmanager eines Hyperscale-Cloudanbieters es formulierte, hilft Speicherkapazität dabei, GPUs ausgelastet zu halten, denn untätige GPUs, die auf Daten warten, werden schnell teuer.
Anders als Rechenleistung schrumpfen gespeicherte Daten nicht, wenn die Nachfrage nachlässt. Logs, synthetische Ausgaben und Inferenzergebnisse häufen sich weiter an und werden zunehmend als Eingaben für künftige KI-Workloads wiederverwendet, einschließlich retrieval-augmentierter Generierung. Dieselbe Umfrage ergab, dass 96 % der Befragten einen schnelleren Abruf aus Archiven erwarten. Für CFOs und CIOs bedeutet das, dass KI-Infrastrukturbudgets, die sich nur auf Rechenleistung konzentrieren, einen wesentlichen Kostentreiber übersehen, und dass der Speicher-Engpass verborgen bleibt, bis er sich in den Betriebskosten zeigt.
Quelle: MIT Technology Review AI · Zusammengefasst von HeadlinesBriefing