Episode 236 - Kontrollillusionen Mit Dr. Karl von Wendt (Karl Olsberg)

About this episode

Send us Fan Mail Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist. Themen der Folge: • Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommt • Die Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgen • Human in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung) • Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen • „Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsste • Pause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließe • Rekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbes