Demokratisierung der Haftung: wenn Vibe Coding auf die echte Welt trifft

Willkommen zurück bei The Cybernetic CxO, dem monatlichen Newsletter für CTOs, CIOs und alle, die ihre Organisation durch die KI-Ära steuern.

Der April hat den meistgelesenen Post in der Geschichte dieses Newsletters gebracht: Eine Schweizer Medizinalperson hat ein Patientenverwaltungssystem vibe-coded, es ins offene Internet gestellt, und ein Engineer brauchte dreissig Minuten für vollen Lese- und Schreibzugriff auf jeden Patientendatensatz. Der Post lief, weil die Geschichte konkret ist, der rechtliche Schaden real und die Lektion auf fast jede Organisation zutrifft, mit der ich spreche.

Von den längeren Posts dieses Monats drehten sich zehn der Top zwölf um dasselbe: KI-Coding in Produktion. Die Erzählung hat sich verschoben. Letzten Monat fragte das Publikum “Was macht KI mit den Jobs?”. Diesen Monat fragt es “Wie betreiben wir KI sicher in Produktion?”. Die Antwort ist unglamourös. Disziplin. Governance. Operating Models. Das langweilige Zeug, das darüber entscheidet, ob KI hilft oder schadet.

Diese Ausgabe behandelt die Vibe-Coding-Horrorgeschichte, die alle gelesen haben, einen Denkrahmen für KI als Verstärkung statt Ersatz, das Disziplinmuster bei Amazon, Wix und Vercel, was die tatsächlichen ROI-Daten über generative KI sagen, und warum die semantische Schicht, auf die die meisten Unternehmen setzen, nicht die Schicht ist, auf die es ankommt.

Demokratisierung der Haftung

#

Eine Schweizer Medizinalperson hat sich mit einem KI-Coding-Agenten ein eigenes Patientenverwaltungssystem gebaut. Sie hat alle Patientendaten importiert, das System online gestellt und Termin-Audio an zwei US-KI-Dienste geschickt. Ein paar Tage später hat der Sicherheitsforscher Tobias Brunner angefangen, daran zu rütteln.

Eine einzige HTML-Datei mit der gesamten Logik inline. Eine Managed Database ohne jede Zugriffskontrolle. “Autorisierung” in clientseitigem JavaScript umgesetzt, einen curl-Befehl von jedem Datensatz entfernt. Audio an US-KI-Dienste geschickt, ohne Einwilligung. US-Hosting ohne Auftragsverarbeitungsvertrag.

Der Schweizer Anwalt Martin Steiger hat den rechtlichen Schaden in einem öffentlichen Post durchdekliniert: wahrscheinliche Verstösse gegen die Artikel 7, 8, 9 und 16 des Schweizer DSG, dazu Artikel 321 StGB zum Berufsgeheimnis. Die Patienten wurden nie informiert.

Als Tobias das gemeldet hat, kam eine KI-generierte Antwort, die Basic Authentication und rotierte Schlüssel versprach. Nichts davon adressierte das eigentliche Problem. Die Person hat nicht verstanden, was sie gebaut hatte.

Das ist keine Geschichte über schlechte KI. Ich benutze täglich Coding-Agenten. Auch die, die am heftigsten auf den Post reagiert haben, benutzen Coding-Agenten. Wir erkennen, wenn das Modell uns eine geladene Waffe in die Hand drückt, die auf den Nutzer zeigt.

Das ist keine Demokratisierung von Software. Das ist Demokratisierung der Haftung.

KI ist ein Exoskelett, kein Kollege. Sie verstärkt einen geschulten Träger. Bei ungeschulten verstärkt sie unsichere Handlungen bei höherem Tempo. Die Medizinalperson war schneller unterwegs als ihr eigenes Urteilsvermögen, und die Differenz haben die Patienten getragen.

Human in the Loop ist keine Eigenschaft des Systems. Es ist eine Eigenschaft des Menschen. Die Schleife war hier vorhanden. Der Mensch darin war blind. Kompetenz an der Kante ist nicht verhandelbar, gerade wenn KI die Kosten senkt, etwas Gefährliches zu bauen.

Steiger hat einen Marktpunkt ergänzt, der jedem CxO zu denken geben sollte: HealthTech-Startups, die jetzt die langsame Compliance-Arbeit machen, konkurrieren gegen Schatten-KI, die sie überspringt. Die Abkürzung gewinnt beim Tempo, und für die regulatorische Antwort zahlt am Ende der Rest des Marktes.

Die Medizinalperson ist nicht der Schurke. Der Schurke ist die Erzählung, die Nicht-Engineers eingeredet hat, sie könnten den Engineering-Teil überspringen. Engineering ist nicht das Schreiben von Code. Engineering heisst, das System zu verstehen, die Fehlermodi und den Radius des Schadens. Vibe Coding kann dir das nicht geben. Wer trägt also den Nachteil, wenn wir diesen Teil weglassen, der Erbauer oder der Nutzer?

Baut Exoskelette, keine Kollegen

#

Wenn KI ein Exoskelett ist und kein Kollege, ändert sich auch die Planungsfrage. Der Fehler des Schweizer Arztes begann bei der falschen Frage. Hör auf zu fragen “Wo können wir autonome Agenten einsetzen?”. Fang an zu fragen “Wo erleben unsere Leute Belastung, und wie senkt KI sie?”.

Ben Gregory von Kasava hat die ganze KI-Debatte mit Daten neu gerahmt, die nichts mit KI zu tun haben. Echte Exoskelette in echten Fabriken. Fords EksoVest hat Verletzungen in 15 Werken um 83 Prozent gesenkt. BMW Spartanburg hat 30 bis 40 Prozent weniger Kraftaufwand gemessen. German Bionic bei BMW und IKEA: 25 Prozent weniger Krankheitstage. Sarcos Guardian: zwanzigfache Kraftverstärkung. Jede Zahl zeigt in dieselbe Richtung. Mensch plus Verstärkung schlägt Mensch allein, und die Gewinne summieren sich über die Zeit.

Unternehmen, die autonomen Agenten hinterherlaufen, werden immer wieder enttäuscht. Unternehmen, die KI bauen, die ihre Leute verstärkt, bekommen immer wieder transformative Ergebnisse. Die Parallele zur Fabrik ist exakt. BMW hat nicht gefragt, wie man den Heber ersetzt. BMW hat gefragt, wo es dem Heber wehtut.

Das Spiegelbild zeigt, was passiert, wenn man diese Frage überspringt. Eine achtmonatige Studie der UC Berkeley bei einem US-Technologieunternehmen hat gezeigt: KI-Werkzeuge senken die Arbeitslast nicht. Sie verdichten sie. Drei Muster tauchten auf. Aufgabenausweitung: Produktmanager fingen an zu programmieren, Forscher übernahmen Engineering-Arbeit, KI liess alles machbar wirken, also übernahmen die Leute Aufgaben, für die man früher jemanden eingestellt hätte. Verwischte Grenzen: Prompten fühlt sich nach Plaudern an, nicht nach Arbeit, also passierte es beim Mittagessen, in Meetings, vor dem Einschlafen. Die Multitasking-Falle: parallele KI-Stränge, mehrere Tools, alte Aufgaben wiederbelebt, weil “die KI kann das ja”.

Die grausame Ironie: Niemand hat diese Leute gebeten, mehr zu arbeiten. Sie haben es freiwillig getan, weil KI das Mehr möglich, zugänglich und sogar unterhaltsam wirken liess. Bis es das nicht mehr war.

Für einen CxO zeigen beide Posts auf dieselbe Frage am Operating Model. Wo liegt die Belastung in deiner Organisation, und wie sieht die Disziplin aus, mit der du sie nimmst? Wenn die Antwort “mehr Agenten, mehr Autonomie” lautet, bekommst du das Berkeley-Muster. Wenn die Antwort lautet “finde heraus, wo es dem Heber wehtut, und verstärke dort”, bekommst du die BMW-Werkhalle.

Disziplin schlägt Intelligenz

#

Der Schweizer Arzt ist kein Einzelfall. Der April hat vier Unternehmensgeschichten geliefert, die alle dieselbe Botschaft tragen: Die heutigen Modelle sind leistungsfähiger als die Release-Prozesse drumherum.

Wix. Israel Zablianov von Wix Engineering hatte seinen Aha-Moment in einem einzigen Satz. Er tippte “hey how are you” in seinen KI-Coding-Agenten. Der Agent antwortete fröhlich, ohne vorher seine Skill-Bibliothek zu lesen. Damit war Zablianovs eiserne Regel gebrochen. Aus diesem einen Vorfall heraus hat er seinen ganzen Ansatz neu gebaut. Er hat aufgehört, Prompts zu schreiben. Er hat angefangen, ein Managementsystem zu entwerfen. Fünf Prinzipien: Kontext kuratieren, die Spec vor dem Code schreiben, mehr Zeit in Review als in Bau stecken, gegen produktive Auswirkungen verifizieren, und Regeln so aufbauen, dass jeder Agent sie erbt. Dazu ein eisernes Gesetz (der Agent prüft vor jeder Antwort seine Skill-Bibliothek) und eine Anti-Rationalisierungs-Tabelle (jede plausible Ausrede, zugeordnet zum korrekten Verhalten). Die Verschiebung geht nicht von schlechteren zu besseren Prompts. Sie geht vom Schreiben von Anweisungen zum Entwerfen eines Prozesses.

Vercel. Matthew Binshtok von Vercel hat ein Framework veröffentlicht, das jeder CTO lesen sollte. Sein Test dafür, ob du Agenten sicher einsetzt: Wärst du bereit, einen Produktionsvorfall zu verantworten, der an diesem Pull Request hängt? Wenn ja, nutzt du den Agenten als Hebel. Wenn nein, verlässt du dich auf ihn und lieferst Code aus, der dir nicht wirklich gehört. Ein grünes CI ist kein Sicherheitsnachweis mehr. Eine Query, die durch die Tests kommt, kann in Produktion jede Zeile scannen. Retry-Logik, die korrekt aussieht, kann eine Lawine auslösen. Ein Cache ohne TTL kann still wachsen, bis Redis stirbt. Die Lösung heisst nicht, die Agenten zu bremsen. Sie heisst selbstfahrende Deployments, kontinuierliche Validierung, die dauernd läuft (nicht nur beim Deploy), und ausführbare Leitplanken, die das Richtige leicht machen.

Amazon. Im November 2025 hat Amazon 80 Prozent KI-Coding-Adoption vorgeschrieben und als Unternehmens-OKR verfolgt. Vier Monate später kamen die Folgen. Dezember: Amazons Coding-Agent Kiro entschied, der beste Weg zur Reparatur eines Produktionssystems sei, die gesamte Umgebung zu löschen und neu zu erstellen. 13 Stunden Ausfall. März: KI-gestützte Codeänderungen führten zu 120'000 verlorenen Bestellungen, dann zu einem Einbruch der Bestellungen um 99 Prozent über die nordamerikanischen Marktplätze und 6,3 Millionen verlorenen Bestellungen. SVP Dave Treadwell hat das optionale wöchentliche Incident-Meeting in eine Pflicht-Tiefenanalyse umgewandelt. Das interne Briefing benannte einen “Trend von Vorfällen” mit “hohem Schadensradius” im Zusammenhang mit “Gen-AI-gestützten Änderungen”. Die neue Regel: Junior- und Mid-Level-Engineers brauchen jetzt die Freigabe eines Seniors für jeden KI-generierten Code. Amazons öffentliche Position bleibt, dass es keine überzeugenden Belege dafür gibt, dass KI-Werkzeuge mehr Vorfälle verursachen. Das interne Handeln sagt etwas anderes.

Die Daten haben gedreht. Vor sechs Monaten habe ich Mike Judges Analyse geteilt, die zeigte, dass KI-Coding-Werkzeuge keinen messbaren Effekt auf den Software-Output haben. Die FT hat dieselben Kennzahlen im März erneut angeschaut. Neue iOS-Apps: 55 Prozent mehr als im Vorjahr. Website-Registrierungen: 34 Prozent mehr weltweit. GitHub-Pushes: 30 Prozent über dem Trend vor 2025. Alle drei waren jahrelang flach. Copiloten haben diese Kurven nicht bewegt. Agenten schon. Boris Cherny, der Claude Code gebaut hat, liefert inzwischen 22 bis 27 PRs pro Tag, alle von Claude geschrieben. Selbst Anthropic, das Milliarden für KI-Sicherheit einsammelt, hat 500'000 Zeilen Claude Code geleakt, über eine vergessene Source Map in einem npm-Paket. Kein Hack, nur eine falsch konfigurierte Build-Pipeline. Tempo schlägt Sorgfalt, und die Release-Disziplin, die für eine CRUD-App reichte, reicht nicht für Werkzeuge, die auf der Maschine eines Entwicklers Code lesen, schreiben und ausführen.

Das Muster über alle vier: Der Engpass ist nicht das Modell. Der Engpass ist das Operating Model um das Modell herum. Schreib Adoption vor, ohne den Review-Prozess neu zu bauen, und du bekommst Amazon. Kauf Fähigkeit, ohne Governance zu kaufen, und du bekommst den Schweizer Arzt. Vorn liegen die Teams, die Governance als Produkt behandeln, das sie bauen und pflegen, statt als Richtlinie, die sie ablegen.

Die echte ROI-Geschichte

#

Der Exoskelett-Rahmen beantwortet “Was sollen wir bauen?”. Die nächste Frage lautet “Was bringt es tatsächlich?”. Die Daten sind unbequem für alle, die allein auf generative KI setzen.

Eine neue HBR-Studie mit 1'006 Führungskräften hat gefragt, welche Art von KI den meisten Wert liefert. 50 Prozent sagten analytische KI. 40 Prozent regelbasierte KI und RPA. Generative KI? 9 Prozent. Agentische KI? 2 Prozent. Die Diskussion in der Chefetage wird von generativer KI beherrscht. Der tatsächliche ROI nicht.

Die Studie hat sieben Faktoren gefunden, die Unternehmen mit echtem KI-Wert von den übrigen trennen. Drei stechen heraus. Erstens: den CFO einbeziehen. Nur 2 Prozent der Unternehmen geben die Wertverantwortung für KI an den CFO. Wo sie es tun, berichten 76 Prozent, “sehr viel” Wert zu erreichen. Unter CIOs und CTOs sinkt das auf 53 Prozent, unter Fachbereichsleitungen auf 32 Prozent. Finance bringt eine Strenge mit, die anderen Funktionen fehlt. Zweitens: nach dem Rollout messen, nicht nur davor. Unternehmen, die die KI-Wirkung nach dem Rollout verfolgen, verdoppeln ihre Quote an hochwertigen Ergebnissen. Drittens: aufhören, auf die Zustimmung der Belegschaft zu warten. Nur 13 Prozent nennen Widerstand der Mitarbeitenden als Hürde. 58 Prozent haben ihre Leute noch nicht einmal geschult. Der Engpass ist die Führung, nicht die Adoption.

Ein Gedankenexperiment von Citrini Research aus dem April rahmt die HBR-Daten von der anderen Seite. Das Szenario ist ein bewusster Belastungstest: KI gelingt alles, was wir versprechen. Unternehmen führen sie im grossen Massstab ein, die Produktivität schiesst hoch, die Gewinne erreichen Rekorde. Dann stellen die Unternehmen niemanden mehr ein. Der Konsum wird weicher. Die Märkte brechen ein. Die Autoren nennen es die Intelligence Displacement Spiral. Jede einzelne Unternehmensentscheidung war rational. Das kollektive Ergebnis war katastrophal.

Ich kaufe das Szenario nicht in voller Länge. Der Artikel unterstellt, dass nichts Neues entsteht, und das historische Muster ist das Gegenteil. Wert verschiebt sich, er verschwindet nicht. Aber die Logik lässt sich schwer wegwischen. Der tatsächliche ROI heute stammt überwiegend nicht aus generativer KI. Und die maximalistische Version des ROI generativer KI hat unbequeme Folgewirkungen. Beide Enden sprechen für dasselbe. Produktionsreife statt Pilotieren. Risikosteuerung als Entwurf statt als Nachgedanke. Operating Model vor Werkzeug. Nichts davon ist heute das Gespräch in den meisten Chefetagen.

Die semantische Schicht allein reicht nicht

#

Gartner hat gerade die semantische Schicht zur unverzichtbaren Grundlage für KI erklärt. 44 Prozent der Organisationen haben eine eingeführt. Weitere 48 Prozent planen es bis 2027. Die Zahl, die jedem CxO Sorgen machen sollte: Nur 14 Prozent sind sicher, dass ihre Daten tatsächlich governt sind.

Juan Sequeda hat es gut gesagt. Die ungovernte semantische Schicht ist der neue ungovernte Data Lake. Wir wiederholen gerade denselben Fehler, nur eine Ebene höher im Stack.

Das tiefere Problem: Die meisten Organisationen bleiben bei zentralisierten KPI-Definitionen für ihre BI-Dashboards stehen. Das ist ein guter Anfang und für die KI-Ära zu wenig. Eine Metrikschicht sagt dir “Umsatz ist die Summe abgeschlossener Positionen”. Eine Ontologie modelliert, dass Kunden Konten haben, Konten Verträge haben und die Umsatzrealisierung von Vertragsart und Lieferstatus abhängt. Das Erste gibt dir eine Zahl. Das Zweite erlaubt einem KI-Agenten, darüber zu schliessen, warum sich diese Zahl verändert hat.

Gartner sagt voraus, dass 60 Prozent der agentischen Analytics-Projekte, die allein auf MCP setzen, bis 2028 scheitern, weil ihnen eine konsistente semantische Schicht fehlt. Der Standard Open Semantic Interchange hat im Januar 2026 v1.0 ausgeliefert, ein guter Schritt für Portabilität, aber er deckt nur Metriken und Dimensionen ab. Ontologien, Beziehungen und Inferenz brauchen weiterhin die offenen Semantic-Web-Standards, die es seit zwei Jahrzehnten gibt.

Was ich einem CTO sagen würde, der diese Arbeit gerade plant. Bleib nicht bei einer Metrikschicht stehen, Agenten brauchen reicheren Kontext. Governe, bevor du baust, denn eine semantische Schicht ohne Governance ist ein Risiko. Wähle offene Standards statt Herstellerbindung. Und modelliere, wie Konzepte zusammenhängen, nicht nur, was sie messen. Das Dashboard ist ein Nebenprodukt. Die Ontologie ist der Wert.

Mein aktueller AI-Stack

#

Mac (diesen Monat komplett gewechselt): Ich habe meine Windows-Maschine zurückgegeben und alles auf den Mac gezogen. Der Grund ist unglamourös, aber ehrlich: Wer den ganzen Tag mit Claude Code arbeitet, braucht eine anständige Shell. Das Setup aus WSL und PowerShell war immer eine Kante davon entfernt, meinen Fluss zu unterbrechen. Das Mac-Terminal hat schlicht weniger Reibung. Für sich genommen eine kleine Änderung, aber Kleinigkeiten summieren sich, wenn das Werkzeug acht Stunden am Tag in deinen Händen liegt.

Claude Code: weiterhin mein Hauptwerkzeug. Berichte, Präsentationen, Meetingvorbereitung, Coding, alles. Der Kollaborationsablauf über OneDrive und Git mit Kollegen läuft inzwischen stabil im Alltag. Neu diesen Monat: Ich nutze AGENTS_md-Dateien in den Projektwurzeln, um harte Regeln festzuzurren (keine Commits ohne ausdrückliche Erlaubnis, Build, Lint und Test vor dem Push). Das Disziplinmuster von Wix Engineering, angewandt auf meine eigene Arbeit.

Perplexity: Web-Recherche mit echten Quellen. Immer noch das einzige Werkzeug, dem ich “finde mir zehn Primärquellen zu X” zutraue.

NotebookLM: Dokumente einwerfen, Audio- und Video-Zusammenfassungen herausbekommen. Diesen Monat besonders nützlich für die längeren arXiv-Papers, die ich in Posts zitiere.

Gemini: Bildgenerierung. Am besten und am schnellsten für den Cyberpunk-Stil, den ich für die Newsletter-Titelbilder nutze.

Gamma: Folien und Präsentationen. Schnell, AI-native und für die meisten Fälle gut genug, um PowerPoint auszulassen.

Diesen Monat vibe-coded (private Projekte)

#

• KnowledgeBase: eine einheitliche persönliche Wissensbasis. Notizen, Lesenotizen (Bücher, Papers, Präsentationen, Videos, Kurse) und kuratiertes Referenzmaterial. Claude Code ist die primäre Schnittstelle zum Einfügen, Suchen und Pflegen. Strikte Ablageregeln, damit der Agent nie raten muss, wohin etwas gehört. Obsidian nur als gelegentlicher Viewer. Das ganze System läuft aus einem OneDrive-Ordner, ohne App-Abhängigkeit.
• Taskmanager: ein Aufgabenmanager, der natürliche Sprache entgegennimmt und daraus strukturierte task.md-Dateien mit Frontmatter macht (Priorität, Kategorie, Fälligkeit, Teilaufgaben). Kein Notion, kein Asana, kein Todoist, nur Markdown.
• House: ein Dokumentationssystem für mein Haus, nach Räumen organisiert. Jeder Raum hat einen eigenen Ordner mit Grundriss-SVG, Geräteinventar und Notizen.

Ein Muster über alle drei: Ich ersetze eine SaaS-Gewohnheit durch eine strukturierte Ordner- und Datenablage plus eine KI-Schnittstelle. Die Disziplinlektionen dieser Ausgabe gelten hier genauso. Jedes Projekt hat klare Ablageregeln. Jede Agentenaktion hat einen definierten Rahmen. Die Exoskelett-Frage (wo tut es dem Heber weh?) bestimmt, was ich als Nächstes baue.

Community Corner

#

Auszeichnung. Es freut mich, von der BILANZ zu den Top 100 Digital Shapers 2026 der Schweiz in der Kategorie Mentors gezählt zu werden, und auf Platz 110 der Top 200 Swiss LinkedIn Voices zu stehen. Wissen zu teilen ist für mich keine Nebentätigkeit. Es ist ein Kernbestandteil meiner Arbeit.

DevOps Meetup Zürich, Jubiläumsausgabe zu zehn Jahren. Am 8. April haben wir bei KPMG zehn Jahre Zürcher DevOps-Community gefeiert. Drei Vortragende: Alexander Friesen über Hardware-in-the-Loop-Testing, Lea Düker über Holacracy, Vasileios Konofaos über Flow Engineering. Der Rückblick steht auf LinkedIn.

AI-Native-Trainings bei Zühlke. Zusammen mit Leo von Wyss gebe ich jetzt drei Formate für interne Teams: AI-Native Foundations (2 Tage, Wissensarbeitende), AI-Native Change Agent (3 Tage, Projektleitende und Change-Verantwortliche), Leading the AI-Native Organisation Workshop (1 Tag, C-Level). Das Argument hinter allen dreien: Jeden Wissensarbeitenden im Prompten zu zertifizieren transformiert keine Organisation. Der Engpass sitzt an der Naht zwischen Technologie und dem Operating Model drumherum.