Ist künstliche Intelligenz sicher? – Dr. Thilo Hagendorff | #145

About this episode

Wie sicher ist künstliche Intelligenz – und wer entscheidet, welchen Werten sie folgt? Dr. Thilo Hagendorff leitet eine Forschungsgruppe für AI Safety an der Universität Stuttgart. Mit Marco spricht er darüber, wie wir das Verhalten von Sprachmodellen untersuchen und wo menschliche Kontrolle an Grenzen stößt. Was passiert, wenn eine KI erkennt, dass sie getestet wird? Wie lassen sich ethische Prinzipien trainieren, und welche politischen Vorstellungen stecken darin? Das Gespräch führt von autonomen Agenten und den Risiken offener Modelle zu einer Frage, die uns im Alltag betrifft: Wie nutzen wir KI, ohne uns das eigene Denken abzugewöhnen? 🎙️ Themen dieser Folge: • KI-Risiken: Missbrauch, Kontrollverlust und gesellschaftliche Folgen • Wenn Sprachmodelle Tests erkennen und ihr Verhalten daran anpassen • Autonome KI-Agenten: Ziele verfolgen und Kontrolle behalten • Wie Modelle ethische Prinzipien lernen und politische Haltungen übernehmen • Warum offene Modelle der Sicherheitsforschung helfen und zugleich missbraucht werden • Welche Fähigkeiten wir trotz KI selbst weiter trainieren sollten 🔗 Weiterführende Links: • Thilo Hagendorff an der Universität Stuttgart • Daniel Kahnem