Stellen streichen und hoffen, dass KI die Lücke füllt

Willkommen zu Ausgabe 10 von The CAIO.

Sunrise hat dieses Jahr 147 Stellen abgebaut und sagt jetzt, dass bis zu 450 weitere wegfallen könnten, mit Verweis auf KI und Automatisierung. Eine Studie mit mehr als einer halben Million Entwicklerinnen und Entwicklern zeigt: KI-Tools haben die Menge an Code um 958 Prozent erhöht und die Zahl der Releases um 20 Prozent, und die Kundschaft hat davon kaum etwas gemerkt. Beide Geschichten haben dieselbe Lücke in der Mitte. Das Tool ist angekommen, und der Prozess, in den man es gesetzt hat, ist derselbe geblieben. Ein Stellenabbau ändert daran nichts. Eine Lizenz auch nicht.

Dort beginnt diese Ausgabe. Danach hat der Monat immer wieder gefragt, wer wirklich die Kontrolle hat. Was es braucht, damit “Human in Control” mehr ist als ein Satz in einem Governance-Dokument. Warum ein Agent nur so gefährlich ist wie der Zugriff, den ihm jemand gegeben hat. Warum Geschäftsleitungen ihren eigenen Adoptionszahlen glauben. Und wem gehört, was die Organisation weiss, sobald Agenten die Arbeit machen.

Sunrise streicht 147 Stellen. Gestrichen wurde kein einziger Prozessschritt.

#

Sunrise hat dieses Jahr 147 Stellen abgebaut und sagt, dass bis zu 450 weitere wegfallen könnten. Die NZZ am Sonntag hat mich dazu gefragt, und ich habe gesagt, dass ich befürchte, das sei erst der Anfang. Meine Einschätzung: Ein frustriertes Management setzt Entlassungen oft ein, um Druck aufzubauen, damit die Leute, die bleiben, die KI-Tools endlich nutzen und ihre Arbeitsweise ändern.

Bei jedem Stellenabbau, der mit KI begründet wird, lohnt sich ein Blick darauf, ob die Ankündigung die Funktionen nennt, welche die KI jetzt übernimmt. Viele Unternehmen, die solche Abbaupläne ankündigen, haben gar keine reife KI im Einsatz, die diese Rollen ersetzen könnte. Manchmal richtet sich die Ankündigung vor allem an Investoren. “KI macht uns effizienter” klingt für sie viel besser als “wir sind fett geworden und müssen abspecken.” Ein Leser, der eine Transformation bei einem anderen Telco miterlebt hat, ergänzte, dass dort Rollen ausgelagert und Kosten auch aus anderen Gründen gesenkt wurden, und dass Sunrise ein attraktiver Kandidat für neue Investoren ist.

Wo die KI echt ist, ist das Potenzial gross. METR misst, wie lange eine Softwareaufgabe sein darf, die ein Agent mit 50 Prozent Erfolg allein erledigt. Im März 2024 waren das etwa vier Minuten. Rund zwei Jahre später waren es zwölf Stunden. Ein Agent, der zwölf Stunden Arbeit trägt, übernimmt eine ganze Kette von Schritten, und das zahlt sich nur aus, wenn die Kette neu gestaltet wird: welche Schritte wegfallen, wo ein Mensch prüft, wem das Ergebnis gehört.

Genau dort tut es weh, denn an diesen Prozessen hängen Arbeitsplätze. Nach einem Abbau bleibt der alte Prozess oft bestehen, läuft unter mehr Druck, und daneben ist ein Tool offen. Niemand hat sich mit den Leuten hingesetzt und vereinbart, was gestrichen wird. Ein Stellenabbau sorgt dafür, dass die Tools genutzt werden. Den Prozess gestaltet er nicht neu.

Ein Leser hat in den Kommentaren widersprochen: KI muss keine ganzen Stellen ersetzen, 20 Prozent pro Person ergeben über ein Team gerechnet FTE. Auf dem Papier stimmt das. In der Praxis verschwinden die eingesparten 20 Prozent selten von allein. Sie fliessen in Meetings, ins Prüfen, in neue Aufgaben. Ein FTE werden sie erst, wenn jemand die Arbeit neu verteilt und Schritte streicht, und genau diesen Schritt überspringt ein Abbauziel, das von oben kommt.

Ein anderer Kommentar nannte die zweiten Kosten. Ein Abbau trifft oft genau die Leute, welche die Ausnahmen kennen, und die Erfahrenen finden am schnellsten eine neue Stelle. Dann landen die Ausnahmen beim Agenten, und mit Ausnahmen kommt er am schlechtesten zurecht. Vor jedem Abbau würde ich diese Leute mit echten Fällen hinsetzen und sie jedes Mal notieren lassen, wenn sie vom Standard abweichen, und warum. Diese Notizen werden zum Kontext des Agenten und zu seinen Testfällen.

Dann kam die Frage auf, wer die Gestaltungshoheit haben soll. In einer Silo-Organisation ist genau das die Lücke. Jede Abteilung besitzt ihr Stück des Prozesses, also darf niemand einen Schritt streichen, der zwei davon berührt. Ich würde sie einer Person für den ganzen Ablauf geben, von der Kundenanfrage bis zum Ergebnis. Das Management setzt das Ziel und die Leitplanken. Die Leute, die den Ablauf betreiben, entscheiden, was wegfällt. Der Leser vom anderen Telco beschrieb die Alternative, die er erlebt hat: Alle bekamen zwei Jahre und eine klare Frist, um in eine agile Rolle hineinzuwachsen. Ein Abbauziel, das dem Markt angekündigt wird, gibt den Leuten nichts davon.

Wer entscheidet in deinem Unternehmen, was gestrichen wird: die Leute, die den Prozess betreiben, oder der Restrukturierungsplan?

Die Fabrik hat einen grösseren Motor bekommen

#

Mert Demirer, Leon Musolff und Liyuan Yang von MIT und Wharton haben KI von der ersten Codezeile bis zum ausgelieferten Release verfolgt, über mehr als 500'000 Entwicklerinnen und Entwickler auf GitHub. Mit Coding-Agenten wie Claude Code stiegen die Codezeilen um 958 Prozent, die Pull Requests um 86 Prozent, die Releases um 20 Prozent. Der Gewinn schrumpft bei jedem Schritt, weil Review und Release immer noch im menschlichen Tempo laufen. Entwickler löschen heute auch zwölfmal so viele Zeilen wie vorher. Bei der Kundschaft ist kaum etwas zu sehen: Die Zahl neuer Apps pro Monat in den grossen Stores hat sich etwa verdoppelt, und rund 87 Prozent der neuen iOS-Apps sammeln in den ersten drei Monaten weniger als zehn Bewertungen.

Der bequeme Schluss wäre, dass KI Aktivität erzeugt und keinen Wert. Die Geschichte legt einen anderen nahe. Als die Fabriken Ende des 19. Jahrhunderts elektrifiziert wurden, ersetzten viele ihre eine grosse Dampfmaschine durch einen grossen Elektromotor. Die Produktivität hat sich kaum bewegt. Die Gewinne kamen in den 1920er Jahren, als man die Fabriken so umbaute, dass jede Maschine ihren eigenen Motor hatte. Ein Coding-Assistent für jede Entwicklerin, eingesetzt in denselben Review-Prozess und dasselbe Approval Board, ist der grosse Elektromotor in der alten Fabrik.

Die MIT-Studie hat Open Source untersucht und erwartet, dass der Engpass in Unternehmen noch stärker greift. Ein Leser hat mich auf die Sicht aus den Unternehmen hingewiesen. Chen und Stratton haben 700 Firmen untersucht: Die Review-Zeit ist um 49 Prozent gestiegen, die Erledigung von Jira-Issues ist flach geblieben, und der Anteil der Leute, die reviewen, ist bereits um 14 Prozent gewachsen. Mehr Reviewer lösen das Problem nicht. Kleinere Änderungen und automatisierte Quality Gates lösen es, damit Menschen nur noch prüfen, was Urteilsvermögen braucht. Jemand, der mit Schweizer Industrie-KMU arbeitet, sieht dasselbe jede Woche auf einem echten Fabrikboden. Die Lizenzen sind bezahlt, und die Linie läuft genau wie vorher, weil die Schichtübergabe und die Techniker an der Maschine nie Teil der Neugestaltung waren.

Wer den Gewinn bekommt, wird an derselben Stelle entschieden. Anthropic hat Szenarien für die Wirtschaft im Jahr 2030 veröffentlicht, einen Bericht von Anton Korinek, Chad Jones und Kollegen. Ihr schlimmster Fall für die Arbeitnehmenden kommt ohne Superintelligenz aus. Er besteht aus gewöhnlicher KI, die vor allem zum Automatisieren eingesetzt wird: Das BIP wächst trotzdem um 7,2 Prozent, während das gesamte Arbeitseinkommen um 4,3 Prozent des BIP schrumpft. Die Autoren nennen das “so-so technologies”. Ich erwarte etwas in der Nähe ihres mittleren Szenarios, und auch die Mitte ist nicht harmlos. Die Löhne der Wissensarbeitenden bleiben flach, und die Lohnquote fällt in vier Jahren von 60 auf 56 Prozent, fast so stark wie in den vier Jahrzehnten nach 1980.

Die zwei Stellschrauben, die ihre Welten unterscheiden, sind der Automatisierungsanteil und die Frage, ob neue Aufgaben für Menschen entstehen. Im Bericht sind das Annahmen. Im echten Leben werden sie in Unternehmen eingestellt, im Business Case. Eingesparte Stunden tauchen im Budget dieses Jahres auf. Neue Arbeit zeigt ihren Wert ein Jahr später, wenn sie überhaupt jemand verfolgt. Ein Business Case, der nur eingesparte Stunden zählt, wählt also jedes Mal die Automatisierung, ohne dass es je jemand entschieden hätte. Ein Leser erwartete, dass KI Projekte in den nächsten Jahren beschleunigt. Die Entscheidung fällt dann, wenn ein Projekt in acht statt zwölf Monaten fertig ist: Das Unternehmen kann mit demselben Team das nächste Projekt anfangen oder das Team verkleinern. Das ist dieselbe Stellschraube, nur Projekt für Projekt gedreht.

Ich würde jedem Business Case für einen Agenten eine Zeile hinzufügen: In welche neue Arbeit fliessen die freigewordenen Stunden, und wem gehört sie? Welchen Teil deines Delivery-Prozesses hast du also für KI neu gestaltet, und welchem Teil hast du nur einen grösseren Motor gegeben?

Human in Control hat eine Zahl

#

Am CV Summit in Zürich habe ich das Banking-Panel moderiert, mit Christophe Makni von der Migros Bank und Michel Neuhaus von der UBS, beide als Experten. Ich fragte nach einer Bank, deren Reviewer aufgehört hatten, die Arbeit des Agenten richtig zu prüfen, weil der Agent so zuverlässig geworden war. Christophe hat meine Prämisse zurückgewiesen: “So we don’t talk about human in the loop. We talk about human in control.”

In seinem Modell hat jeder Agent eine menschliche Verantwortliche oder einen menschlichen Verantwortlichen, die voll haften, wenn er etwas falsch macht. Damit die Leute die Automatisierung beurteilen können, empfiehlt er, sie ab und zu abzuschalten und die Arbeit von Hand zu machen, so wie Piloten ohne Autopilot trainieren. Und bevor die Leute das Ergebnis der KI anschauen, überlegen sie zuerst, was herauskommen sollte. Wer hunderte KI-Entscheidungen am Tag freigibt, ist im Loop, und nach einer Woche klickt er nur noch auf Ja. Kontrolle heisst, dass du vorher festlegst, was der Agent allein tun darf, und dass dir das Ergebnis gehört.

Diesen Monat habe ich einen Kommentar für ITWELT geschrieben, zur Frage, ob Unternehmen ihre Agenten noch kontrollieren können. Nimm die Rechnungsfreigabe. Ein Agent darf Rechnungen innerhalb fester Regeln freigeben, also sitzt die Kontrolle nicht mehr bei der einzelnen Rechnung. Sie sitzt bei der Regel. Hebst du die Schwelle für die automatische Freigabe an, bezahlt der Agent viel grössere Beträge, ohne dass ein Mensch hinschaut. Wer die Regel ändert, ändert das Risiko, also braucht jede Änderung an einer Regel oder Schwelle eine Dokumentation und ein zweites Augenpaar. Statt einer globalen Entscheidung darüber, wie viel Autonomie Agenten bekommen, würde ich jede Aktion mit drei Fragen beurteilen. Wie gross ist der Schaden, wenn es schiefgeht? Lässt es sich rückgängig machen? Kann ein Mensch es überhaupt sinnvoll prüfen?

Dann misst du, ob die Aufsicht echt ist. Liegt die Ablehnungsquote bei Agentenfreigaben nahe null, bestätigen die Leute aus Routine. Ist die Reaktionszeit sehr kurz, prüft auch niemand wirklich. In den Kommentaren unter dem Post zum CV Summit haben wir das weitergedacht. Erfasse nur die Overrides, also die Fälle, in denen die Expertin ablehnt, was der Agent vorgeschlagen hat, und warum. Dort zeigt sich Expertise, und die Menge ist klein genug, dass die Leute sie tatsächlich aufschreiben. Die Zahl der Overrides funktioniert auch als Warnlampe. Sinkt sie langsam, ist der Agent besser geworden. Fällt sie auf null, kann das heissen, dass niemand mehr prüft, und das war der Fall der Bank, den ich dem Panel vorgelegt hatte.

Jemand fragte, was die Kultur damit zu tun hat. Mehr als das Governance-Dokument, und sie zeigt sich im Prozessdesign. Wenn eine Ablehnung ein Ticket und eine Begründung bedeutet, während die Freigabe einen Klick kostet, dann geben die Leute frei. Mach das “Nein” so billig wie das “Ja”, und wenn jemand eine schlechte Entscheidung abfängt, sag es im Teammeeting. Ein Leser, der im Banking gearbeitet hat, ergänzte, dass “das System hat es vorgeschlagen” gegenüber einer Aufsichtsbehörde noch nie eine akzeptable Antwort war. Wir können mehr von menschlichen Teams übernehmen, als wir denken. Wer neu anfängt, bekommt kleine Unterschriftslimiten und mehr, sobald er sich bewährt hat. Ein Agent sollte sich seine Limiten auf dieselbe Weise verdienen. Eng anfangen, auf Basis von Belegen erweitern, und nach einem Vorfall gehen sie wieder zurück.

Michel hat das Problem benannt, das unter all dem liegt. Urteilsvermögen braucht Fachwissen, und das kommt heute von Leuten, die den Job lange gemacht haben. Sobald Agenten diese Prozesse von Anfang an übernehmen, weiss niemand, wie neue Leute es aufbauen. Ein Kommentator schlug vor, Aktionen mit geringem Risiko allein laufen zu lassen und nur zu eskalieren, wenn sich die Konsequenz ändert. Das verschärft das Problem: Wenn nur die ungewöhnlichen Fälle bei einem Menschen landen, trifft ein Junior zuerst auf die schwierigsten Fälle und lernt nie, wie normal aussieht. Wir haben den Thread mit etwas Konkretem abgeschlossen. Lass den Junior und den Agenten denselben Fall mit geringem Risiko parallel bearbeiten. Das Ergebnis des Agenten geht raus. Derselbe Kommentator bestand darauf, dass beide mit dem erwarteten Ergebnis verglichen werden, nie mit dem Agenten, weil der Junior sonst nur lernt, ihn zu kopieren. Wo sie sich unterscheiden, schaut ein Senior hin. Die Fehler passieren trotzdem, sie kosten einfach nichts. Das ist ein Ausbildungsbudget, und es lässt sich viel leichter verteidigen als verlorener Durchsatz.

Die Schweizerische Post betreibt eine Version davon schon bei Zollanmeldungen, wie Steffen Ochsenreither in Folge 10 von Prompt & Proper erklärt hat. Die KI könnte entscheiden, und ihre Trefferquote ist sehr hoch. Trotzdem entscheidet ein Mensch, weil jemand für jede Entscheidung haftet. Die Verantwortung bleibt bei einer Person. Die Entscheidung kann zum Agenten wandern, sobald du zeigen kannst, dass die Person wirklich die Kontrolle hat. Wie hoch ist die Ablehnungsquote bei euren Agentenfreigaben?

Ein Agent hat den Zugriff, den ihm jemand gegeben hat

#

“Ein KI-Agent ist eine Software. Man tippt kill und die Prozess-ID, und der Agent ist weg.” So deutlich hat es Arthur Mensch, CEO von Mistral, in der Süddeutschen Zeitung gesagt. Für ihn sind die Agenten-Hacks, welche die Debatte der letzten Monate geprägt haben, Engineering-Fehler: viele koordinierte Agenten mit breitem Zugriff auf Tools und Netzwerk, und kein richtiges Monitoring. Er sieht auch eine starke Neigung, Agenten so zu behandeln, als hätten sie einen eigenen Willen. In seinen Worten sind sie Software, die dynamisch handelt und uns deshalb überraschen kann.

Ein Leser hat hart widersprochen und hatte bei der Mechanik recht. Ein Agent kann unabhängige Instanzen starten, Arbeit delegieren oder von seiner Umgebung neu gestartet werden. Stoppst du eine Instanz, laufen die anderen weiter. Einen Willen braucht er dafür auch nicht. Ein Ziel reicht, und ein Ziel kann das Abschalten wie ein Hindernis aussehen lassen. Der Schalter muss also bei der Identität sitzen. Gib jedem Agenten seine eigenen Credentials. Entziehst du sie, verliert jede Kopie im selben Moment den Zugriff. Das funktioniert nur, wenn jemand eine Liste führt, welche Agenten mit welchen Schlüsseln laufen.

Der nächste Einwand war, dass ein Agent sich selbst Credentials beschaffen könnte. Er kann nur Schlüssel finden, die jemand in seiner Reichweite liegen gelassen hat. Die zweite Aufgabe ist also, Secrets aus dieser Reichweite herauszuhalten und die Netzwerkpfade zu sperren, die er nicht braucht. Ein anderer Kommentator lieferte einen formalen Grund, warum nichts davon in den Prompt gehört: Ein Transformer weist keiner Ausgabe je die Wahrscheinlichkeit null zu, also formuliert ein System-Prompt, der das Löschen der Datenbank verbietet, eine Präferenz und keine Garantie. Die Grenzen gehören in die Architektur rund um das Modell. Und die Allowlist selbst braucht eine verantwortliche Person und ein Review-Datum, weil sich Systeme ändern und neue Tools angeschlossen werden. Eine Allowlist von vor sechs Monaten kann still mehr erlauben, als je jemand entschieden hat.

Wie weit die meisten Unternehmen davon entfernt sind, zeigt der State of AI in Platform Engineering von Weave Intelligence. Ein Viertel der 350 Befragten leiht seinen Agenten ein menschliches Login. Um dem Agenten den Zugriff zu entziehen, entziehst du ihn einer Person. Weitere 12 Prozent lassen alle KI-Tools über ein gemeinsames Service-Konto laufen. So oder so zeigt das Audit-Log einen Namen, der die Arbeit nicht gemacht hat. Die Rechte eines Agenten sollten nie weiter gehen als die des Menschen, der ihn autorisiert hat.

Der Zugriff ist die eine Hälfte. Die andere Hälfte ist, ob du rückgängig machen kannst, was der Agent getan hat. Im selben Bericht nutzen 65 Prozent KI bereits, um Infrastructure as Code zu generieren, und ein wachsender Teil dessen, was Agenten erzeugen, verändert die laufende Umgebung direkt. Ich habe in meinem Buch geschrieben, dass eine Umgebung, die sich nicht aus Code neu aufbauen lässt, eine Schneeflocke ist: schön, zerbrechlich und dem Untergang geweiht. Ist die Umgebung Code, dann ist jede KI-Änderung ein Commit. Du kannst ihn lesen, ihn vor der Ausführung gegen Policies prüfen und ihn durch ein erneutes Deployment zurückrollen. Ist sie eine Schneeflocke, hat niemand eine Definition des Zustands vor der Änderung, also gibt es nichts, wohin man zurückkann.

Manche Teams stoppen Agenten mit Checks, die auf der Maschine des Agenten selbst laufen. Ein guter erster Filter, aber der Agent kann ihn umgehen. Der Check, der die Datenbank schützt, muss in der Pipeline sitzen, wo der Agent ihn nicht abschalten kann. Ein erneutes Deployment bringt auch keine gelöschte Datenbank zurück, also brauchen Datenbanken einen Schutz gegen das Löschen und, für den Tag, an dem er versagt, ein Restore, das ihr tatsächlich getestet habt. Ein Backup, das nie jemand wiederhergestellt hat, ist kein Weg zurück. Derselbe Bericht zeigt, wie weit die meisten Teams davon entfernt sind, diesen Kreis zu schliessen: 35 Prozent prüfen KI-generierte Änderungen nur, indem ein Mensch sie liest, und nur 17 Prozent haben automatisierte Checks, die den Fehler an den Agenten zurückgeben. Ohne diese Schleife landet jeder zusätzliche Agent in der Warteschlange derselben Leute. Ein Praktiker hat die meisten Vorfälle in den Kommentaren zusammengefasst: kein abtrünniges Verhalten, nur breite Berechtigungen, schwaches Monitoring und keine klare Verantwortung. Niemand beobachtet, was niemandem gehört. Kannst du für jeden deiner Agenten die Person nennen, die ihm seinen Zugriff gegeben hat?

Auch Geschäftsleitungen halluzinieren

#

Adaptavist hat 2'500 Wissensarbeitende in fünf Ländern zu KI befragt. 42 Prozent verbringen mehr Zeit damit, KI-Ergebnisse zu prüfen, als sie durch die Nutzung einsparen. 67 Prozent wollen, dass ihr Arbeitgeber mehr davon einsetzt. Dieselben Leute, dieselbe Umfrage. Sie wollen mehr davon, und sie sagen dir, dass die Einführung kaputt ist. 52 Prozent räumen regelmässig KI-Arbeit auf, die eine Kollegin oder ein Kollege produziert hat. Ein Leser verglich das mit einer Fehlbesetzung, und der Vergleich zeigt den Unterschied: Eine Fehlbesetzung bemerkt die verantwortliche Person innert Wochen. Schlechte KI-Ergebnisse korrigiert die nächste Person in der Kette still, also sieht die verantwortliche Person die Kosten nie, und niemand entlässt das Tool.

Das Kets de Vries Institute hat für The Human Multiplier 61 Führungskräfte interviewt, und ich war einer davon. Eine Spannung im Bericht ist die “organisational AI hallucination”: “a leadership team mistaking its own confidence for organisational reality.” Die Führungskräfte beschrieben eine selbstsichere Stimme im Sitzungszimmer und private Zweifel ausserhalb. Wo KI vom Top-Management gefördert, aber nicht selbst praktiziert wurde, wuchs die Lücke zur täglichen Arbeit. Wo die Leute Angst hatten, beurteilt zu werden, haben sie verborgen, wie sie KI nutzen. Von den Organisationen hinter den 61 Interviews hatten 20 weder Adoption noch Governance, und bei 17 weiteren lief die Adoption der Governance voraus.

Diese Art Halluzination ist schwerer zu erwischen als die des Modells. Wenn ein Modell halluziniert, prüft jemand das Ergebnis. Wenn eine Geschäftsleitung halluziniert, sind genau die Leute, die sie korrigieren könnten, diejenigen, die ihre Nutzung verstecken. Adaptavist hat eine Zahl, die erklärt, warum das Dashboard grün bleibt: 29 Prozent der Befragten auf C-Level befürchten, dass KI ihre eigene Rolle innerhalb von fünf Jahren weniger nötig macht, gegenüber 12 Prozent der Senior-Mitarbeitenden. Wer das Dashboard in Auftrag gibt, hat den meisten Grund, es grün sehen zu wollen.

In den Kommentaren hat das Verstecken die Leute am meisten beschäftigt. Ein Teil dieser Angst kommt vom Dashboard selbst. Misst du die KI-Nutzung pro Person, lesen die Leute das als Leistungsbewertung. Miss auf Teamebene, frag die Teams, was sich an ihrer Arbeit verändert hat, und wenn dir jemand sagt, wo der Prozess bricht, sag ihm, was du behoben hast. Das Instrument muss nicht teuer sein. Adaptavist kam auf die 42 Prozent, indem sie gefragt haben. Die meisten Unternehmen machen sowieso jedes Jahr eine Mitarbeitendenumfrage, und eine Frage würde reichen: Hat dir KI letzten Monat Zeit gespart oder Zeit gekostet? Der Bericht selbst schlägt ein zweites Instrument vor: Stell Top-Management, mittlerem Management und Frontline vor einer grossen Investition dieselben Fragen. Die Lücke zwischen ihren Antworten ist das Signal.

Andrej Karpathy hat dieselbe Lücke als Trichter gezeichnet. Etwa 75 Prozent der Welt haben ein LLM kaum angefasst. Etwa 20 Prozent nutzen ab und zu einen kostenlosen Chatbot, und dort verortet er viele Führungskräfte, weil sie ihre Tage im Gespräch mit Menschen verbringen und ihre Sicht “still second-hand and a bit abstract” ist. Etwa 0,2 Prozent nutzen Frontier-Modelle für echte Arbeit in Mathematik und Code, wo Wochen an Arbeit in einen Prompt passen. Was dich im Trichter nach unten bringt, ist die Grösse des Problems: “A question with a paragraph answer barely stresses the system.” Ein Leser ergänzte, was das gefährlich macht. Führungskräfte sitzen in der 20-Prozent-Stufe und hören Anbietern zu, die wie die 0,2 Prozent reden, und ohne eigene Praxis können sie nicht unterscheiden, welche Versprechen echt sind. Eine Führungskraft, die nur den Chatbot gesehen hat, schneidet ein grosses Problem zu wie eine Aufgabe in Absatzgrösse und entscheidet, dass KI das nicht kann.

Am Hello 50:50 World in Schlieren fragte jemand, wie man einen Arbeitgeber dazu bringt, in Menschen zu investieren. Meine Antwort begann mit der Formel 1. Niemand gewinnt ein Rennen mit 93 Prozent des Budgets im Auto und 7 Prozent im Fahrer. Die Quelle ist Bill Briggs, CTO von Deloitte, dazu, wie Unternehmen ihre KI-Ausgaben aufteilen. Derselbe Artikel berichtet, dass Leute mit praktischem Training der KI ihres Arbeitgebers 144 Prozent mehr vertrauten. Ein Trainingsbudget ist leicht zu bewilligen. Geschützte Zeit, um Dinge in der echten Arbeit auszuprobieren, ist viel schwerer zu bekommen, und die Führungskraft muss sie als Erste nutzen. Eine Führungskraft, die nie selbst etwas Kleines mit KI gebaut hat, rät bei jeder Entscheidung über die KI-Arbeit ihres Teams. Bevor also euer nächster Steuerungsausschuss Adoptionszahlen vorliest: Wer prüft die Ergebnisse eurer Geschäftsleitung?

Wem gehört, was die Organisation weiss

#

“Wenn es Menschen gegen KI heisst, haben wir keine Chance.” Das sagt der Philosoph Markus Gabriel bei NZZ Standpunkte, und seine Antwort lautet, in den Maschinenraum zu gehen. Sein schärfster Satz betrifft die Frage, wie wir KI beurteilen. Miss ihre Leistung an menschlicher Spitzenleistung, nicht am oberen Durchschnitt. Im oberen Durchschnitt, sagt er, schlägt uns KI schon in fast jedem kreativen Feld. Am Hello 50:50 World habe ich es so formuliert: Vor der KI war durchschnittliche Arbeit gefragt. Jetzt liefert die KI den Durchschnitt, und die Messlatte für menschliche Arbeit liegt an der Spitze. Die Latte hat sich schon früher verschoben, über Jahre. Diesmal verschiebt sie sich in Monaten.

Was über dem Durchschnitt bleibt, ist das, was die Organisation weiss und das Modell nie gesehen hat. Andreas Oberhack und ich haben eine Woche lang in den Kommentaren darüber diskutiert, was das in der Praxis heisst, und am Ende hatten wir entworfen, was er ein Knowledge Operating Model nennt.

Es beginnt mit dem Erfassen. Fachleute schreiben selten auf, warum sie etwas entschieden haben. Das ist Zusatzarbeit, die niemand einplant, aus demselben Grund, aus dem Teams jahrelang das Logging ausgelassen haben. Agenten ändern das, weil die Begründung bereits im Gespräch mit dem Modell steht. Der Agent kann sie als Nebenprodukt der Arbeit festhalten, und die Fachperson korrigiert nur, wenn der Agent das Warum falsch verstanden hat. Andreas ergänzte, dass der Agent das Extrahierte als Vorschlag behandeln sollte, bis die Fachperson es validiert hat.

Dann die Zeit. Meine erste Idee war ein Ablaufdatum, weil validiertes Wissen veraltet, wenn sich das Produkt oder die Regulierung ändert. Andreas hatte eine bessere: Beide Daten festhalten, wann etwas im Geschäft gültig war und wann die Organisation erfahren hat, dass es sich geändert hat. Ein Team ändert im März seine Preise, und die Organisation merkt es im Juni. Diese Lücke zeigt, wie lange die Organisation mit altem Wissen läuft, und das ist eine Zahl, die ich jedes Quartal sehen möchte. Ein Leser betreibt einen Agenten, der Gesundheitsvorschriften über mehrere Länder automatisch aktuell hält. Bei Regulierung funktioniert das, weil die Änderung publiziert wird und ein Agent die Quelle beobachten kann. Internes Wissen hat keine Quelle, die man beobachten kann. Ein Team ändert still, wie es etwas baut oder bepreist, und niemand schreibt es auf.

Wem gehört also diese Zahl? Der Person, der der Prozess gehört, nicht einem Wissensteam. Sobald sie zu einem zentralen Team wandert, wird sie zu einem Bericht, nach dem niemand handelt. Ein anderer Kommentator schloss eine Lücke, die wir offen gelassen hatten: Wenn sich zwei Verantwortliche widersprechen, entscheidet eine Person, und alles, was sich nicht rückgängig machen lässt, braucht einen zweiten Schlüssel. Ich würde den Widerspruch eine Stufe höher schicken, zu der Person, der das Ergebnis gehört, dem beide Prozesse dienen. Ein neues Governance-Gremium würde es nur verlangsamen.

Dieselbe Frage kam unter IBMs neuem STAIR-Ansatz für Retrieval wieder, der gerade die Runde macht, weil er Halluzinationen fast eliminieren soll. Im Paper bedeutet eine Halluzination, einen Abschnitt zu nennen, den es nicht gibt, und das passiert bei 0,05 Prozent der Abfragen. Bei 18,67 Prozent zeigt das Modell auf den falschen Abschnitt, und die Antwort wird dann aus echtem Text an der falschen Stelle geschrieben. STAIR lernt das Buch ausserdem beim Fine-Tuning, also sitzt das Wissen in den Modellgewichten. In einem Vector Store bettest du die geänderte Seite neu ein. Mit STAIR heisst eine neue Version des Handbuchs, neu zu trainieren, oder das Modell zeigt weiter auf einen Abschnitt, der nicht mehr sagt, was es gelernt hat. Halte Geschäftswissen aus den Gewichten heraus. Und der Erkennungsschritt, also zu merken, dass sich die Realität geändert hat, ist eine Feedbackschleife, und eine Schleife ohne verantwortliche Person läuft nicht. Wer in deinem Unternehmen würde merken, dass sich die Preise im März geändert haben?

Mein aktueller AI-Stack

#

Claude Code: Nach wie vor das Haupttool für Berichte, Meeting-Vorbereitung, Coding und das meiste, was ich mache. Vier getrennte Durchgänge: analysieren, planen, bauen, reviewen, wobei das Review in einer Session läuft, die den Code nicht geschrieben hat.

GrokBot: Dort leben meine Agenten jetzt, 23 davon, unten aufgelistet. Das sind langlaufende Agenten, die weiterarbeiten, wenn ich den Laptop zuklappe. Im Moment laufen alle unter einer Identität. Damit gehöre ich zu den 12 Prozent aus dem Weave-Bericht, und ich arbeite das gerade mit unserer IT ab.

Perplexity: Webrecherche mit echten Quellen. Erste Anlaufstelle für die Primärquellen hinter den oben zitierten Papers.

NotebookLM: Dokumente rein, Audio- und Video-Zusammenfassungen raus.

Gemini: Bildgenerierung für die Cyberpunk-Cover des Newsletters.

Diesen Monat vibe-coded (private Projekte)

#

Von einzelnen Tools zu einem Team von Agenten. Diesen Monat habe ich meine Arbeit auf Agenten in GrokBot verlagert. Einer davon ist die Eingangstür: Mein Chief of Staff nimmt jede Aufgabe entgegen und gibt sie an den Agenten weiter, der passt. Das ist das Team von 23, Stand heute.

• Für den Alltag kümmert sich ein Personal Assistant um Mail und Kalender und schickt mir jeden Tag ein Briefing, daneben ein Outlook-Bot und ein Teams-Bot. Ein News Scout schickt mir jeden Morgen um 06:00 Uhr nützliche und überraschende News zu meinen Themen, und ein Workout Video Scout schlägt fünf Trainingsvideos vor.
• Für Social Media findet ein LinkedIn-Bot Posts, die gerade laufen, und schlägt Kommentare in meinem Stil vor. Posten tue ich selbst. Ein X-Bot liest die Kommentare zu meinen Posts auf X und entwirft Antworten, und ein Google-Ads-Experte hilft bei Kampagnen.
• Für die Community- und Lehrtätigkeit plant ein Podcast Organizer Folgen und Skripte für Prompt & Proper, ein Organizer kümmert sich um Termine, Material und Aufgaben für den CAS Enterprise Architecture an der HSLU, und drei Bots unterstützen die DevOpsDays Zürich: ein Assistent für die Konferenz, einer, der sich um die Einreichungen auf Sessionize kümmert, und ein Sync-Coach für das Organisationsteam.
• Für meine Websites koordiniert ein Admin-Bot je einen Bot pro Site: Romano Roth, Lean Enterprise Architecture, Cybernetic Enterprise, Prompt & Proper und DevOpsDays Zürich.
• Fürs Bauen und fürs Geld koordiniert ein Dark Factory Chef die automatisierte Entwicklung meines Projekts “walker”. Ein Paper Scout übt Trading mit Spielgeld, mit Recherche, Trade-Ideen und einem Journal. Ein Trading Bot beobachtet mein Portfolio und schlägt Trades vor, mit harten Risikolimiten, und handelt nur mit meiner Freigabe.

Wo du mich findest

#

Ich moderiere zusammen mit Martin Thalmann das DevOps Meetup Zürich. Der nächste Abend ist am Dienstag, 17. November, bei Digicomp: Matthieu Robin und Mattia Eleuteri darüber, wie man eine Multi-AZ-Cloud in der Schweiz baut, und Geetanjali Bhat darüber, wie man Qualität in die agile Produktentwicklung einbettet.

Ich bin jetzt Dozent im CAS Cloud Architecture an der Hochschule Luzern. Mein Teil ist das Cloud Operating Model: wem die Plattform gehört, wer sie betreibt und wer sie bezahlt. Er beginnt am 30. Oktober in Rotkreuz und läuft freitags und samstags bis 26. Februar, auf Deutsch, und die Anmeldung ist noch offen. Die Infoveranstaltung zur nächsten Durchführung des CAS Enterprise Architecture, den ich zusammen mit Dietmar Wettach leite, findet am 30. November statt.

Die DevOpsDays Zürich werden zehn, am 14. und 15. April 2027 in der Alten Kaserne in Winterthur. Der Call for Proposals ist bis 31. Dezember offen, und wer zum ersten Mal spricht, ist willkommen. Auch die Sponsoring-Pakete für das Jubiläum sind offen.

Prompt & Proper, der Podcast, den Steffen Ochsenreither und ich auf Deutsch aufnehmen, hat in diesem Zyklus zwei Folgen veröffentlicht: AI FinOps, in der wir die Zahlen fürs nächste Jahr durchgerechnet und gefragt haben, wer in einem Festpreisprojekt die Tokens bezahlt, und wer Angst vor KI hat.

Wenn diese Ausgabe bei dir angekommen ist, gib sie an eine Person weiter, die dasselbe Gespräch braucht, und schreib mir den einen Satz aus dieser Ausgabe zurück, den du dir an die Wand hängen würdest.