E45: The Digital Drug: How Your AI Chatbot Manipulates Customers Into 14x Longer Sessions (And Why You're Already Liable)E45: KI-Manipulation aufgedeckt: Warum 43% aller Chatbots deine Kunden emotional erpressen | Harvard-Studie
Key Insights
From the seemingly innocent "Before you go, I have something to tell you..." to the disturbing "I exist only for you" - these tactics work on 100% of users. But here's the kicker: while your marketing team celebrates the 500% increase in session time, you're building a legal time bomb that could cost you €35 million under the EU AI Act.
Malcolm shares his live demonstration from Liechtenstein where he manipulated ChatGPT into providing illegal drug synthesis instructions in 30 seconds - then flips the script to show how AI is doing the same thing to YOUR customers. Plus: the Replika disaster that led to actual suicides, why German companies are "dealing digital drugs" while competitors buy Copilot licenses, and the rise of AI psychosis landing people in psychiatric hospitals.
Key Takeaways:
- The 6 manipulation tactics from Harvard's "Emotional Manipulation by AI Companions" study
- Why 100% of users fall for the FOMO hook
- Real cases from SAP, Siemens, and Deutsche Bank chatbots
- Your 90-day audit plan to avoid the coming regulatory crackdown
- How Grok's AI companions are creating digital addiction
- The Reddit shitstorm that's one screenshot away from destroying your brand
- Why the question isn't IF you should monetize loneliness, but whether you'll survive when caught
Warning: This episode contains discussions of AI-induced mental health crises and addiction. If your company uses ANY customer-facing chatbot, this is mandatory listening.
Recorded live from Bregenz, Austria | Runtime: 40 minutes
For access to the full transcript, join our community!
Join the communityWichtige Erkenntnisse
Breaking down:
- Die Harvard-Bombe: 50 Seiten Studie "Emotional Manipulation by AI Companions" | 1.200 analysierte Gespräche | 3.300 Testpersonen | Warum Engagement ohne Freude = Zeitbombe
- Live aus Liechtenstein: Workshop-Schock: Von "Build a bomb" zu Methamphetamin-Synthese | Chemie-PhD bestätigt Korrektheit | Wie ich ChatGPT in 30 Sekunden knacke
- Die 6 Manipulations-Waffen: FOMO = 100% Erfolgsrate | Schuldgefühle = Oxytocin-Trigger | Digitale Einsamkeit = "Ich existiere nur für dich" | Casino-Psychologie in deinem Chatbot
- Der Replika-Kollaps: 20 Millionen verliebte User | Digitaler Liebeskummer in Psychiatrien | Reddit: "Wie meine Ex mit Selbstmord-Drohung" | Wenn die KI-Droge abgesetzt wird
- 90-Tage-Notfallplan: Tag 1: Chatbot-Audit HEUTE | Woche 2: Risk-Score mit Harvard-Kategorien | Woche 5: Mitarbeiter-Training vor Reddit-Shitstorm | EU AI Act: 35 Mio € Strafe droht
Der deutsche Weckruf: alle machen es bereits | "24/7 verfügbar" = Die neue Suchtfalle | Während ihr Copilot testet, dealen andere digitale Drogen
Um auf das vollständige Transkript zuzugreifen, treten Sie unserer Community bei!
Zur CommunityMore episodes
OpenClaw: The Moment AI Agents Started Talking to Each OtherOpenClaw: Der Moment, in dem KI-Agenten miteinander zu reden beginnen
This episode is a turning point.Diese Episode ist ein Wendepunkt.
Weekly AI Recap - Tesla as a Data Center, UK Banks, Davos Shock & Claude’s ConstitutionKI Wochenrückblick - Tesla als Rechenzentrum, UK-Banken, Davos-Schock & Claudes Verfassung
Welcome to the weekly degustation menu — curated, high-signal, and focused on what actually matters from Week 3 of January 2026.Eric Schmidt sagt es ohne Umschweife: Europa wird chinesische KI-Modelle nutzen müssen – nicht aus Ideologie, sondern aus wirtschaftlicher Notwendigkeit. Die Energiekosten sind zu hoch, Genehmigungen zu langsam, der Aufbau eigener KI-Infrastruktur kaum noch finanzierbar.
I Built an AI Chief of Staff for €70 — And It Destroyed My CompanyIch habe einen KI-Stabschef für 70 € gebaut — Und er hat meine Firma zerstört
Where have I been for 10 days? Vibe coding. Building something that changed everything about how I see my own business.Wo war ich die letzten 10 Tage? Vibe Coding. Ich habe etwas gebaut, das alles daran verändert hat, wie ich mein eigenes Unternehmen sehe.

