Zum Hauptinhalt springen
Agentic Coding und die Token-Kosten: Warum der Faktor 10 ein Mythos ist
  1. Podcast/

Agentic Coding und die Token-Kosten: Warum der Faktor 10 ein Mythos ist

Autor
Romano Roth
Ich bin überzeugt: Der nächste Wettbewerbsvorteil ist nicht AI selbst, sondern die Organisation drumherum. Als Group Chief AI Officer bei Zühlke arbeite ich mit C-Level-Führungskräften daran, Unternehmen zu bauen, die wahrnehmen, entscheiden und sich kontinuierlich anpassen. Seit über 20 Jahren mache ich diese Überzeugung zur Praxis.
Frag die KI über diesen Artikel

Auf LinkedIn lese ich immer wieder, Agentic Coding mache Teams um den Faktor 10 produktiver. Das ist gutes Marketing. Mit dem, was wir in Projekten messen, hat es wenig zu tun.

In Folge 2 von Prompt & Proper nehmen Steffen Ochsenreither von der Post und ich diese Zahl auseinander. Und wir reden über die zweite Seite derselben Medaille, über die deutlich weniger gesprochen wird: was Tokens tatsächlich kosten und wie tragfähig die Ökonomie dahinter ist.

Was wirklich drin liegt: 20 bis 30 Prozent
#

Steffens Erfahrungswert deckt sich mit unserem. Bei einfachen Aufgaben, Dokumentation ist das Paradebeispiel, kommst du locker auf 80 Prozent Effizienzgewinn. Bei komplexen Tasks, wo du wirklich nachdenken und mehrschichtige Abläufe beschreiben musst, sind es eher 20. Über alles gerechnet landest du bei 20 bis 30 Prozent. Das ist viel. Es ist nur eben kein Faktor 10.

Coding ist der kleinste Hebel
#

Der spannendere Punkt: Das Coden selbst macht in einer kompletten Wertschöpfungskette vielleicht 10 Prozent aus. Der Rest liegt davor und danach, im Requirements Engineering und in der Ideation auf der einen Seite, in Quality Assurance, Deployment und Operations auf der anderen.

Steffen bringt ein gutes Argument für die vorgelagerte Seite. Jeder Requirements Engineer arbeitet anders, einer auf Papier, der nächste in PowerPoint, der dritte auf einem Miro-Board. Agenten liefern dir dort einen standardisierten Output und stellen nebenbei Fragen, die sonst niemand gestellt hätte. Wenn der Input besser wird, beschleunigt das am Ende auch das Coding. Codezeilen schreiben kann jede KI. Requirements sauber übersetzen ist die eigentliche Kunst.

Wer nur das Coden beschleunigt, produziert Stress an beiden Enden. Vorne kommen die Requirements nicht mehr nach, hinten stapelt sich, was reviewt und getestet werden muss. Und mehr Output heisst nicht mehr Wert. Steffen bringt es auf den Punkt:

„Shit in mit Agentic ist nicht nur Shit out, das ist Shit out hoch zwei. Das wird einfach nur mehr, das wird nicht besser dadurch."

Die falschen KPIs
#

Die meisten Unternehmen messen den Impact von Agentic Coding falsch. Codezeilen, abgearbeitete Tickets, Tokenverbrauch. Steffens Urteil dazu ist deutlich:

„Verbrauch von Tokens ist kein KPI. Anzahl Pull Requests ist kein KPI. Anzahl abgearbeiteter Tickets, definitiv kein KPI."

Nur weil du Vollgas fährst, bist du nicht schneller am Ziel. Die relevante Frage lautet: Wie viel von dem generierten Code überlebt in der Produktion?

50 Dollar in einer Stunde
#

Seit dem 1. Juni rechnet GitHub Copilot tokenbasiert ab. Wir haben das kommen sehen und rechtzeitig ein Monitoring aufgebaut. Trotzdem war der Blick am Montagmorgen um acht ernüchternd: Einzelne Entwickler hatten in einer Stunde 50 US-Dollar an Tokens verbraten. Hochgerechnet auf ein Unternehmen unserer Grösse und auf ein Jahr kommst du zu Zahlen, bei denen du den Laden zumachen kannst.

Für Firmen, die das nicht monitoren, sehe ich hier ein echtes Risiko. Die Rechnung kommt, und dann ist es zu spät für Gegenmassnahmen.

Die Rechnung dahinter geht nicht auf
#

Steffen hat Zahlen mitgebracht. „Krieg und Frieden" durch ein Modell zu jagen, rund 300'000 Token, kostet heute etwa 15 Cent. Lächerlich wenig. Nur werden die Modelle komplexer und brauchen entsprechend mehr Tokens, während der Preis pro Token sinkt.

Im grossen Bild sieht es so aus: Allein dieses Jahr fliessen über 700 Milliarden US-Dollar Investment in KI, rund zwei Milliarden pro Tag. Rechnest du die Infrastruktur dazu, also Kraftwerke und alles, was daran hängt, landest du bei rund 1'400 Milliarden. Dem steht ein globaler Revenue von etwa 150 Milliarden gegenüber. Bei rund 1,3 Milliarden KI-Nutzern weltweit, von denen die wenigsten zahlen, bräuchte es ungefähr 600 Dollar Umsatz pro Nutzer. Niemand zahlt das.

Wir rechnen beide damit, dass diese Blase platzt. Ich hatte es früher erwartet. Der SpaceX-IPO könnte viel Kapital abziehen und einige Kurse mitnehmen. Firmen werden Konkurs gehen und Geld wird weg sein. Andere überleben und gehen ins nächste Zeitalter über. Für die Token-Preise heisst das nur eines: Sie steigen.

Eine Plattform als Gateway
#

In meiner Rolle als Group Chief AI Officer bei Zühlke baue ich gerade eine AI-Plattform auf, de facto ein Gateway. Governance liegt darin, und jeder Request läuft durch. Von dort wird geroutet, auf unsere On-Prem-Modelle, auf günstigere Modelle oder auf Frontier-Modelle, wenn die Aufgabe es wirklich verlangt. Für ein Beratungsunternehmen kommt dazu, dass die Kosten verrechnet werden müssen, und das kriegst du nur über eine solche Plattform sauber hin.

Steffen ergänzt den Punkt, der die Rechnung erst schliesst: Der Abstand zwischen den günstigen und den Frontier-Modellen beträgt oft nur rund einen Monat. Wenn du nicht immer das Neueste brauchst, arbeitest du mit den kleineren Modellen ausgezeichnet. Die Schwierigkeit ist, das im Alltag zu entscheiden. Ich merke es an mir selbst. Ich nehme oft Opus und frage mich hinterher, ob es das für diesen Text gebraucht hätte. Aber:

„Ich habe keinen Bock auf Rework und ich habe auch keine Zeit für Rework."

Der Trend zur eigenen Hardware
#

Viele unserer Ingenieure basteln sich gerade eigene Rigs zusammen, Grafikkarten plus Mainboard, und lassen ihre Agenten lokal laufen. Nvidia hat zusammen mit Microsoft einen Chip angekündigt, mit dem LLMs auf dem PC laufen. Ich kann mir gut vorstellen, dass wir schon nächstes Jahr Agentenschwärme auf Laptop und Handy sehen und das Rechenzentrum nur noch für die wirklich grossen Tasks brauchen.

Der Engpass dabei ist nicht die Hardware, es ist Vertrauen. Ich habe mir ein agentisches System in einer gesicherten Umgebung aufgesetzt und stand danach vor der Frage, was ich damit eigentlich mache. Für mein Knowledge Management wäre es grossartig. Aber ich traue dem Ding noch zu wenig und will zu stark steuern. Dahinter steckt ein Unlearning und Re-Learning der eigenen Arbeitsweise. Das hat bei mir stattgefunden, als ich vom Browser zu ChatGPT und von dort zu Claude Code gewechselt bin. Wie viel Zeit das kostet, wird regelmässig unterschätzt.

Review wird zum Engpass
#

Wenn mehr geshippt wird, muss auch mehr reviewt werden. Unsere Senior-Entwickler beklagen sich zunehmend darüber, dass sie hauptsächlich Code reviewen, den ihre Kollegen mit KI erzeugt haben. Reviewen ist nach Dokumentation das ungeliebteste Kind der Produktentwicklung, weil du dich jedes Mal neu eindenken musst.

Steffen erzählt von einem Fall, in dem sowohl das Produkt als auch die Testfälle mit KI gebaut wurden. Alle Tests grün, das Produkt funktionierte trotzdem nicht. Ein Modell will gefallen, und ein Quality Gate, das nach denselben Annahmen gebaut ist wie das Produkt, prüft nichts.

Genau deshalb verschwindet die Software-Engineering-Disziplin nicht. Ein guter Entwickler kann Code lesen und verstehen, egal wie er entstanden ist. Das bleibt.

Das Take-away
#

Schaut end-to-end statt nur aufs Coding. Wählt das richtige Modell für den richtigen Task, auch gegen den Reflex, immer zum neuesten zu greifen. Und behaltet die Token-Kosten im Blick, bevor die Rechnung kommt.

Wenn euch die Folge gefällt, abonniert Prompt & Proper auf Spotify, Apple Podcasts, Amazon Music oder YouTube und schreibt uns, mit welchem KI-Thema ihr gerade kämpft. Alle Folgen: promptandproper.ai.