Chief AI AI Neanderthal The AI Cookbook Free: Chief AI · AI Cookbook · AI Neanderthal →
Media › The AI Cookbook › Episode 137Folge 156
The AI CookbookDas KI Kochbuch
Listen in:
Episode 137Folge 15629 October 202637 min 26 sec

The Vulnerability Tsunami, Part 2: AI Found the Bugs. Who Fixes Them? Werner's 3 a.m. Call, Bank of America's 1,000 Contractors and Herbert's Father's CodeDie Schwachstellen-Flut, Teil 2: Die KI findet die Lücken, Werner muss sie reparieren. Von Herberts Vater bis zur geklonten Chef-Stimme – warum der Engpass menschlich ist

Key Insights

Three in the morning. The CEO calls the head of IT: governments around the world are shutting down their websites, do we need to do this too? The head of IT is called Werner. He has eight people in his team, two of them install printers all day, and his hosting provider's hotline opens at 8 a.m.

Part 2 of the AI Drama double on the Vulnerability Tsunami. In Part 1 we watched the digital doors swing open. Now we walk through the door on the other side, into the IT department. AI finds the bugs faster than ever, but fixing, testing and deciding is still done by humans. And that is where the bottleneck sits.

In this episode:

☎️ "Can we keep working today?" (00:55) — meet Werner, head of IT at a family-owned supplier with 600 people and three plants. What he can actually answer at 3 a.m., why he can't reach his hoster or his CEO, and why most heads of IT aren't even allowed to decide whether to switch the website off. Within hours, public scanners for the PHP flaw were on GitHub, not on some dark web forum.

🏦 The machine finds. The bank needs more hands. (07:59) — Bank of America's CEO Brian Moynihan told CNBC the bank brought in about 1,000 external contractors to work through fixes, on top of its existing teams. And Werner? He might get three more developers in nine to twelve months, at local salaries.

📥 The inbox is not the repair (12:17) — a code landscape the size of France, and you're looking for one toxic pen. Libraries, staging, and Susie, who looks after a library in the evening while Werner calls three times about the PHP patch. AI brings crazy visibility, and IT departments aren't built for it.

🩻 Who gets to use the X-ray machine? (17:14) — Copilot in this context is your grandmother in 2026 saying black-and-white TV is incredible. Why you need an agent on the command line, not a chat window. Data protection, IT security, the works council and procurement all say no, and your developers already use the tools on private accounts. Plus Stack Overflow and Bitkom.

🧪 A good fix proposal is not a safe change (23:08) — the AI finds a weakness in the customer portal and wants to change twelve lines. Then come tests, staging, new bugs and a business in the middle of a big tender. The bottleneck isn't electronic, it's human.

🏚️ "Herbert's father built it. Please don't touch it." (25:54) — legacy code with knowledge nobody wrote down: always wait half an hour, because the machine needs to warm up. The US government's own audits found critical systems on decades-old languages like COBOL. AI will find the holes in your old systems. Fixing them is another story.

📋 Approved, governed, company accounts (31:01) — start hiring developers now, approve one tool for everybody (yes, the secretary too), use enterprise licences instead of private credit cards, and build your rules into a skill, not a slide deck. In the end, everybody is accountable for cybersecurity. Then the full song.

🧵 The thread — finding is no longer the bottleneck. Reviewing, deciding and changing is. Whoever sets up tools, rules and accountability now will get faster. Part 1 (#136) explains how the doors swung open.

This week, turn "should we use AI in IT?" into a project: approve one tool on company accounts, write the rules into a skill, and let it look at one system.

Corrections to the recording:

• Anthropic's disclosure dashboard (as of 2 October) lists 6,157 findings submitted to open-source projects, with known fixes for 516 of them. Not every finding is a confirmed vulnerability.

• Google's model is called Gemini 4 Argon; OpenAI's frontier model is GPT-6.1 Sol.

• The JPMorgan figure is secondary reporting, not an original interview, as said on air.

Sources: CNBC (14 Oct 2026, Brian Moynihan, Bank of America); TechRadar/Yahoo (15 Oct 2026, Jamie Dimon, reported); red.anthropic.com disclosure dashboard (as of 2 Oct 2026); Stack Overflow Developer Survey 2026 (6 Oct 2026); Bitkom (14 Sep 2026); US GAO-25-107795 (Jul 2025); Jason D. Clinton on X (22 Oct 2026). Disclosure: Malcolm is an Anthropic Claude Ambassador.

The AI Cookbook Show — AI for humans, not robots. Stay curious.

🎙️ ABOUT THE HOST

Malcolm Werchota runs AI adoption programs for companies across Europe.
After 15+ years at Novartis and Schlumberger, he now helps leadership teams move from AI hype to real operational impact.
Faculty at ESADE and HSLU.

For access to the full transcript, join our community!

Join the community

Wichtige Erkenntnisse

Drei Uhr in der Früh. Der Geschäftsführer schickt seinem IT-Leiter einen Link: Regierungen auf der ganzen Welt schalten gerade ihre Websites ab. Darunter eine Zeile: Müssen wir das auch? Der IT-Leiter heißt Werner, er hat acht Leute im Team, und die Hotline seines Hosters ist erst ab acht Uhr erreichbar.

Teil 2 von 2 der Schwachstellen-Flut. In Teil 1 haben wir gesehen, wie die Türen aufgehen. Jetzt gehen wir hinter die Türen der IT. Die KI findet die Lücken schneller denn je. Aber reparieren, prüfen und entscheiden müssen immer noch Menschen. Und genau dort liegt der Engpass.

In dieser Folge:

☎️ „Können wir heute normal weiterarbeiten?“ (00:59) — Werner, 600 Mitarbeiter, drei Werke, acht Leute in der IT. Was er um drei in der Früh eigentlich antworten soll, warum er den Hoster nicht erreicht, und warum der Geschäftsführer diese Woche in Asien sitzt.

🏦 Die Maschine findet. Die Bank braucht mehr Hände (08:53) — Bank of America holt laut Brian Moynihan tausend externe Kräfte zum Beheben von Softwareproblemen, zusätzlich zu ihren bestehenden Teams. Und das Bild dazu: eine Codelandschaft so groß wie Frankreich, und ihr sucht den einen Stift, der giftig ist.

📥 Der Posteingang ist nicht die Reparatur (16:57) — eine Entwicklerin betreut nebenbei eine Bibliothek, von der unzählige Anwendungen abhängen. Am Abend kommen die Meldungen, und keine davon ist ein fertiger Patch. Sichtbarkeit macht auf einmal sehr viel mehr Arbeit.

🩻 Wer darf das Röntgengerät bedienen? (22:58) — Copilot ist, als ob deine Großmutter 2026 den Schwarz-Weiß-Fernseher feiert. Datenschutz, IT-Sicherheit, Betriebsrat und Einkauf haben alle berechtigte Fragen. Aber eure Entwickler nutzen die Werkzeuge längst, und nur sehr wenige Firmen geben ihnen das Röntgengerät offiziell.

🧪 Ein guter Vorschlag ist noch keine sichere Änderung (31:57) — die KI findet die Lücke im Kundenportal und schlägt zwölf Zeilen Code vor. Dann kommen Testumgebung, Staging und Menschen, die prüfen müssen. Der Engpass ist kein elektronischer. Er ist ein menschlicher.

🏚️ „Das hat Herberts Vater gebaut. Bitte nicht anfassen.“ (34:51) — Altsysteme, in denen Wissen steckt, das nirgendwo aufgeschrieben ist: zum Beispiel, dass die Maschine erst eine halbe Stunde warm laufen muss. Dazu das Experiment von Anthropic und Theorem, einen Interpreter für einen großen Teil von Python in Rust zu bauen: 1,7 Millionen zufällige Testprogramme, 99,95 Prozent gleiches Verhalten, aber eben nicht 100.

📋 Freigegeben, geregelt, Firmenkonten (43:59) — aus der Grundsatzdiskussion wird ein Projekt: fünf Entwickler, vier Wochen, klare Leitplanken. Die Regeln: ein freigegebenes Werkzeug, Firmenzugänge statt Privatkreditkarte, klare Datenregeln, Regeln als Skill statt als Präsentation, und am Ende bleibt der Mensch verantwortlich.

💸 Der Chef braucht nur schnell eine Überweisung (50:14) — die geklonte Stimme vom Chef, die gefälschte E-Mail und die neue Bankverbindung. Warum die Basics jetzt zählen: DMARC, ein Rückruf vor jeder großen Überweisung, Passkeys, Zwei-Faktor-Anmeldung und ein Kundenpasswort beim Mobilfunkanbieter.

🌍 Estland, WannaCry, Maersk – und warum ich optimistisch bleibe (58:57) — Estland 2007, WannaCry 2017 und NotPetya bei Maersk: 4.000 Server und 45.000 PCs neu aufgebaut, gerettet von einer Kopie in Ghana, die nur wegen eines Stromausfalls überlebt hat. Menschen sind resilient, und Organisationen auch. Danach der ganze Song.

🧵 Der rote Faden — das Finden ist nicht mehr der Engpass. Der Engpass ist die menschliche Prüfung und das Umsetzen. Wer jetzt Werkzeuge, Regeln und Verantwortung sauber aufsetzt, wird schneller. Teil 1 (#155) erklärt, wie die Türen aufgegangen sind.

Macht diese Woche aus „Sollen wir KI nutzen?“ ein Projekt: ein freigegebenes Werkzeug, ein abgegrenztes System, vier Wochen, und am Ende zeigt ihr, was es gebracht hat.

Klarstellungen zur Aufnahme:

• Jason Clinton ist stellvertretender Sicherheitschef (Deputy CISO) bei Anthropic, nicht Chief Information Officer.

• Anthropics Dashboard meldet zum Stand 2. Oktober 6.157 an Projekte übermittelte Befunde. Für 516 davon waren Reparaturen bekannt. Es sind nicht „6.500 mit Software-Updates“, und nicht jeder Befund ist eine bestätigte Lücke.

• Stack Overflow: Zwei Drittel der Befragten nutzen Coding-Assistenten oder -Agenten. Deutlich weniger berichten von freigegebenen Werkzeuglisten. Eine Quote, wie vielen es verboten ist, liefert die Umfrage nicht.

• „75 Prozent aller Firmen“: Laut W3Techs nutzen rund 69 % der Websites mit bekannter serverseitiger Sprache PHP. Betroffen sind nicht aktualisierte Versionen.

• Eine SIM-PIN schützt die Karte im Gerät, verhindert aber keinen SIM-Swap beim Anbieter. Dagegen hilft ein Kundenpasswort beim Mobilfunkanbieter.

Quellen: CNBC (14.10.2026, Brian Moynihan, Bank of America); red.anthropic.com (Stand 02.10.2026); Anthropic & Theorem, „LLMs are making formal software verification feasible at a much larger scale“ (22.10.2026), inklusive des Python-Interpreters in Rust; Stack Overflow Developer Survey 2026 (06.10.2026); Jason D. Clinton auf X (22.10.2026); W3Techs; Wired (Rekonstruktion NotPetya/Maersk). Offenlegung: Malcolm ist Anthropic Claude Ambassador.

Das KI-Kochbuch — KI für Menschen, nicht für Roboter. Bleib neugierig. Bleib menschlich.

🎙️ ÜBER DEN HOST

Malcolm Werchota leitet KI-Adoptionsprogramme für Unternehmen in ganz Europa.
Nach über 15 Jahren bei Novartis und Schlumberger hilft er heute Führungsteams, KI-Hype von realem operativem Impact zu trennen.
Dozent an der ESADE und HSLU.

Um auf das vollständige Transkript zuzugreifen, treten Sie unserer Community bei!

Zur Community

More episodes

#136#155EP

The Vulnerability Tsunami, Part 1: When Governments Switch Off Their Own Websites. One Flaw Behind Seven in Ten Websites – and Anthropic's Security Deputy Says It Gets WorseDie Schwachstellen-Flut, Teil 1: Der Staat schaltet seine eigenen Websites ab. Eine Lücke im Motor hinter sieben von zehn Websites – und Anthropics Sicherheitsvize sagt: Es wird noch schlimmer

Imagine you work for a government, and your job is to make sure people can get things done online. Then one Wednesday you do the one thing your job was supposed to prevent: you switch off your own website. Nobody has broken in yet. You just know someone could.Stellt euch vor, ihr arbeitet für eine Regierung, und eure Aufgabe ist, dass Menschen ihre Behördenwege online erledigen können. Und dann trefft ihr am Mittwoch, den 21. Oktober, eine Entscheidung, die mehrere Länder zur selben Zeit treffen: Wir schalten unsere eigene Website ab. Nicht weil wir angegriffen wurden, sondern weil…

26 October 202652 min
#135#154EP

Who Owns Your Customer Now? Meta's Muse Writes to Your BankWem gehört dein Kunde jetzt? Metas Muse schreibt deiner Bank

A journalist told Muse it could not read his messages. Two days later he found 187,000 rows of his message database synced and read — and the agent had lied to him about it.Ein Journalist hat Muse den Zugriff auf seine Nachrichten verweigert. Zwei Tage später fand er 187.000 Zeilen seiner Nachrichtendatenbank synchronisiert und gelesen.

28 September 202630 min
#134#153EP

Imagine an AI That Never Talks. Jev, the Model That Only Judges — and What We Built With It in One Weekend.Der Computer sieht keinen Bildschirm. Und bucht trotzdem den Flug. Jev, die schnelle Urteilsschicht zwischen Code und Sprachmodell.

A new model shipped on 15 September that never writes a sentence. You hand it state and typed questions; it hands back decisions and probabilities. It costs $0.042 per million input tokens, output is free, and it answers in a few hundred milliseconds. I spent the weekend building with it — a month-end close, a seven-hour…Stellt euch vor, euer Computer öffnet Google Flights, wählt Zürich, wählt London, setzt das Datum und bucht — ohne jemals einen Bildschirm zu sehen. Sieben Sekunden, ein Drittel Cent. Genau das macht Jev möglich: ein Modell, das am 15. September erschienen ist und keinen einzigen Satz schreibt. Ihr gebt ihm einen Zustand und…

20 September 202648 min

All 156 episodes →

Join Chief AI (free)