Der Preis pro Token fällt seit Monaten. Die Rechnung steigt trotzdem. In Folge 9 von Prompt & Proper vergleichen Steffen Ochsenreither von der Post und ich, was wir in unseren Organisationen sehen, und auf beiden Seiten zeigt sich dasselbe Muster: Je mehr wir agentisch entwickeln, desto schneller wächst der Verbrauch, und zwar schneller, als die Modellpreise sinken.
Willkommen zu Ausgabe 9 von The CAIO.
Ab Oktober wird bei Zühlke jede KI-Anfrage dem Team verrechnet, das sie gestellt hat. Die Tokenpreise haben sich diesen Sommer mehr als halbiert, und trotzdem bleibt die Rechnung die Zahl, auf die man schauen muss. Ein billiges Modell, das zweimal scheitert und am Ende einen Menschen auf den Fall setzt, kostet mehr als das teure. Derselbe Agent nimmt beim selben Prompt zwei Wege und schickt zwei Rechnungen. Meine eigene Dark Factory hat über mehrere Tage eine Milliarde Tokens verbrannt, für ein Spiel, für das ich nichts bezahlen würde. Fast kein Unternehmen hat eine Person, deren Aufgabe es ist, diese Rechnung zu beobachten und umzustellen.
Willkommen zu Ausgabe 8 von The CAIO.
Eine Frage lief diesen Monat unter fast jedem Post mit. Wenn ein Modell den Code schreibt und jede Person im Unternehmen ihn starten kann, was bleibt dann, das ein Mensch verantworten muss? Die zwei Posts mit der grössten Reichweite haben sie von entgegengesetzten Enden beantwortet. Der eine zeigte ein Unternehmen, in dem Menschen ohne Engineering-Titel in Produktion ausliefern. Der andere zeigte eine Engineering-Organisation, in der die Ausführung so billig wurde, dass das Entscheiden zur Beschränkung wurde. Leg beide nebeneinander, und die Kontrolle, die du zu haben glaubtest, nämlich zu wissen, wer etwas geschrieben hat, ist weg.
Willkommen zu Ausgabe 7 von The CAIO.
Ich argumentiere seit Jahren, dass das Modell der kleine Teil ist und die Disziplin drumherum die eigentliche Arbeit. Das ist eine Behauptung, bei der man leicht nickt und die man ebenso leicht als Beratersatz abtut. Im Juli hörte sie auf, ein Satz zu sein. Eine Forschungsgruppe hat sie an 5'000 Codebasen getestet und eine Zahl daran gehängt. Ein Systemingenieur hat eine virale Prahlerei über “37'000 Zeilen am Tag” auseinandergenommen und gezeigt, was dieses Volumen tatsächlich kostet. Beide Posts sind weit über mein übliches Publikum hinaus gelaufen, einer davon mit der höchsten Reichweite des Jahres. Das Publikum ist des Arguments nicht müde. Es will die Belege.
Willkommen zu Ausgabe 6 von The CAIO.
Der Juni hatte eine Lektion, die immer wieder auf einem Schreibtisch landete, auf dem sie selten gelandet war: Finance. Zwei Jahre lang haben wir KI-Tokens als kostenlos behandelt und darum konkurriert, wer mehr davon verbrennt. Im Juni kam die Rechnung. Der Preis pro Anfrage war gefallen, und genau deshalb ist die Nutzung explodiert und die Gesamtkosten sind über alles gestiegen, was irgendjemand budgetiert hatte. KI-Kostenkontrolle wurde zum CFO-Thema, so schnell wie sie zu unserem wurde.
Zusammenfassung # Das Handelsblatt beleuchtet, wie der Wechsel der großen Modellanbieter zu nutzungsbasierter Abrechnung Token zu einer Ressource macht, die Unternehmen aktiv managen müssen, ähnlich wie Arbeit, Energie und Kapital. Anlass ist unter anderem die Umstellung von GitHub Copilot auf eine tokenbasierte Abrechnung. Der Artikel zeigt, wie Unternehmen mit Budgets, Modellauswahl und neuen Plattformen auf den Kostendruck reagieren.
Vor einem Jahr habe ich DevSecOps, Continuous Delivery, Cloud und AIOps als Trends für 2021 ausgerufen. Das meiste davon ist eingetroffen. Für 2022 wird das Bild interessanter, denn DevOps ist nicht mehr eine einzige Welle — verschiedene Teile des Markts sind in sehr unterschiedlichen Adoptionsphasen. Um das zu sortieren, lege ich die 2022-Trends auf den Technology Adoption Lifecycle: Late Majority, Early Majority und Early Adopters.
