Article GPT-6 auf Microsoft Foundry: Ein Leitfaden für Unternehmen zum Einsatz von KI-Agenten im Produktivbetrieb

Anfang dieses Jahres erzählte mir ein CxO, dass ihre KI-Ausgaben die Cloud als am schnellsten wachsenden Posten in ihrem Technologiebudget überholt hätten. Fast nichts davon war geplant. Es waren Token: Hunderte Millionen von Aufrufen von Frontier-Modellen, die in Workflows liefen, die niemand wirklich überwachte.

Am 22. September hat Microsoft GPT-6 Sol und GPT-6 Luna in der Microsoft Foundry allgemein verfügbar gemacht, wo sie sich zu GPT-6 Astra gesellen. Es ist ein starkes Release, das diese Diskussion einerseits erleichtert, es andererseits aber auch einfacher macht, dabei Fehler zu machen. Einfacher, weil die Preisspanne über die drei Modelle hinweg groß genug ist, um die meisten Rechnungen deutlich zu verändern. Leichter, Fehler zu machen, weil die Preisliste nur ein kleiner Teil dessen ist, was darüber entscheidet, ob ein Agent produktiv geht und auch dort bleibt.

Das Release: Drei Modelle, ein hundertfacher Preisunterschied

Microsoft positioniert Astra für anspruchsvolles logisches Denken, Softwareentwicklung und Computernutzung, Sol für allgemeine Produktionsaufgaben und Luna für hochvolumige Extraktion, Zusammenfassungen und Routing. Alle drei sind als Standard-Bereitstellungen in den EU- und US-Datenzonen sowie weltweit verfügbar. Die folgende Übersicht zeigt die Preise für Bereitstellungen in der EU-Datenzone:

Astra kostet beim Input und Output 100-mal so viel wie Luna. Sol liegt bei einem Fünftel von Astra. Nehmen wir zur Veranschaulichung einen Schritt, der 2.000 Token liest und 300 schreibt. Bei diesen Preisen kostet das etwa 0,042 $ bei Astra, 0,0084 $ bei Sol und 0,0004 $ bei Luna. Führt man dies 100.000 Mal im Monat aus, beläuft sich die Rechnung auf etwa 4.200 $, 840 $ oder 42 $.

Ich habe gesehen, wie dasselbe Prinzip in unserer eigenen Entwicklung funktioniert. Wir haben rund 90.000 Vertragsdokumente der britischen Regierung auf vier lokalen GPUs analysiert. Ein hochmoderner Coding-Agent hat die Pipeline geschrieben. Kleinere Modelle, die auf unserer eigenen Hardware liefen, übernahmen das gesamte Lesen. Datenbeschränkungen und nicht die Kosten waren ausschlaggebend für dieses Design, aber es folgt dem gleichen Muster: Das teure Modell übernimmt das Denken, wo es nötig ist, und die günstigeren Modelle bewältigen das Volumen.

Kosten pro Aufgabe: Der richtige Maßstab, aber nur ein Teil des Bildes.

Microsoft empfiehlt, über den Preis pro Token hinauszuschauen und die Kosten pro Aufgabe zu verstehen. Dem stimme ich zu, und ich würde noch einen Schritt weiter gehen, denn die Kosten einer Aufgabe bestehen aus drei Teilen: Token, Rechenleistung und der damit verbundenen menschlichen Aufsicht. Token erscheinen auf der Rechnung. Die Kosten menschlicher Aufsicht hingegen häufig nicht.

Ein günstigeres Modell, das mehr von seinem Output zur Korrektur an eine Person sendet, kann pro abgeschlossener Aufgabe mehr kosten als das teurere Modell, sobald die Zeit dieser Person mit eingerechnet wird. Ebenso kann eine günstig und korrekt erledigte Aufgabe immer noch eine Aufgabe sein, die niemand gebraucht hätte. Die Kosten pro Aufgabe zeigen, was eine Aufgabe kostet. Sie beantworten jedoch nicht die entscheidende Frage, ob dadurch ein besseres Geschäftsergebnis erzielt wird.

Um diese zu beantworten, braucht es mehr als einen guten Modell-Router. Es erfordert eine Struktur rund um die Agenten.

Die Struktur: Vier Teile, und das Modell befindet sich in einem davon

Im Zentrum von Insights AI Centric Enterprise Architecture Framework steht ein anschauliches Bild: ein Steintor nach dem Vorbild von Stonehenge. Zwei aufrechte Säulen, ein darüber liegender Querbalken und der Boden, auf dem alle drei stehen. Jedes Element übernimmt eine eigene Funktion und trägt wesentlich zur Gesamtstabilität bei.

Eine Säule ist die Technologie: die Landschaft, auf der die Agenten laufen, von der Infrastruktur bis hin zur Benutzererfahrung. Foundry, Azure und Agent 365 sind hier angesiedelt und bilden starke Stützen. Die andere Säule ist das Geschäft: die Rollen und der Prozess, was bedeutet, wer die Arbeit macht, wer dafür verantwortlich ist und wie sich die Arbeit verändert, wenn KI mehr davon übernimmt. Governance (Steuerung) ist der Querbalken über beiden, der entscheidet, was gebaut wird, wem es gehört und was jeder einzelnen Funktion anvertraut wird. Das Fundament ist das Wissen: eine formale Beschreibung dessen, was die Organisation weiß, durch die jeder Agent hindurchgreift, um an die darunter liegenden Daten zu gelangen.

In vielen meiner Gespräche ist der Aufwand zuerst in die Technologie-Säule geflossen. Das ist verständlich, denn dort finden die Vorführungen statt. Aber das meiste, was über ein Produktionsergebnis entscheidet, liegt in den anderen drei. Vier Fragen zeigen, wo.

Was Insight tut: Wir bauen auf bestehenden KI-Initiativen auf.

Im ersten Gespräch steht selten ein neues Modell im Mittelpunkt. Es geht darum, was bereits läuft: Agenten, die ein Team im letzten Quartal entwickelt hat, KI-Funktionen, die in einer Software aktiviert wurden, die das Unternehmen vor Jahren gekauft hat, Tools, die ohne Rücksprache eingeführt wurden. Wir beginnen damit, diese zu finden, jeden Schritt auf dieser Skala einzuordnen und einen Verantwortlichen zu benennen.

Von dort aus begleitet Insight Unternehmen strukturiert auf dem Weg vom Pilotprojekt in den produktiven Betrieb, basierend auf unserem AI Centric Enterprise Architecture Framework und unter Nutzung unserer Agentic Enterprise Accelerators. Die Geschäfts- und Technologiereife werden gemeinsam geprüft, bevor der nächste Schritt erfolgt:

• Modelle nach Beweislage auswählen. Wir bewerten Astra, Sol und Luna anhand der unternehmenseigenen Aufgaben in Foundry und erstellen für jeden Anwendungsfall eine Kostenübersicht, die auch die menschliche Aufsicht einbezieht.
  
• Beweisen vor dem Skalieren. Neue Funktionen laufen zunächst parallel zum bestehenden Prozess, sodass der Vergleich anhand der unternehmenseigenen Fälle gezogen wird, bevor etwas übergeben wird.
  
• Vereinbaren, worauf sich Agenten verlassen können. Bevor Agenten auf Daten angesetzt werden, klären wir mit dem Unternehmen, welche Quellen maßgeblich sind und wie die unternehmenseigenen Begriffe definiert sind. Unsere Agentic Enterprise Accelerators helfen dabei, diese gemeinsame Beschreibung der Organisation aufzubauen, damit die Agenten darin verankert sind.
  Auswählen, was zuerst gebaut wird. Wir helfen Führungskräften dabei, Anwendungsfälle nach Wert, Umsetzbarkeit und Wiederverwendbarkeit zu bewerten, da dieselbe Funktion oft von drei Abteilungen in drei verschiedenen Vokabularen angefordert und dreimal gebaut wird. Die Accelerators unterstützen diese
• Priorisierung und die darauf folgende gesteuerte Umsetzung. Steuerung der Microsoft-Landschaft. Als Microsoft Day 1 Launch Partner für Agent 365 hilft Insight Unternehmen bei der Einrichtung und dem Betrieb der Azure-, Foundry- und Agent 365-Basis, auf der all dies läuft, einschließlich der Wahl von Regionen und Datenstandorten.
  

Nichts davon ersetzt das, was Microsoft aufgebaut hat. Der Model Router, die Token-Limits und die Guardrails (Leitplanken) von Foundry sind die richtigen Kontrollen für die Technologie-Säule, und wir konfigurieren sie entsprechend. Der Rest der Struktur sorgt dafür, dass diese Kontrollen für das Unternehmen eine Bedeutung haben. Wenn Sie noch überlegen, wo Sie anfangen sollen, ist unser Leitfaden zur Überwindung der KI-Implementierungslücke ein guter Ausgangspunkt.

Entscheidend ist nicht das Modell, sondern dessen Einsatz.

GPT-6 steht auch Ihren Wettbewerbern zur gleichen Zeit, auf derselben Plattform und zu vergleichbaren Kosten zur Verfügung. Das Modell wird nicht das sein, was die Agenten eines Unternehmens von denen eines anderen unterscheidet. Den Unterschied machen Governance, belastbare Nachweise, eine saubere Datenbasis und fundierte Entscheidungen zur Datenresidenz.