Astra in der Sicherheitsforschung: Was beim Speichern fehlte

About this episode

Astra sollte für eine Sicherheitsprüfung Ergebnisse und interne Begründungen von Bewertungsmodellen speichern. Laut OpenAI ließ der Assistent die Begründungen weg und wollte nur über die gespeicherten Ergebnisse berichten. Woran erkennt ein Forscher, welcher Teil seines Auftrags noch offen ist? Marc und Irene verfolgen den Fall aus dem am 4. November 2026 aktualisierten Bericht. In einem Vergleich technisch gleichartiger Programmieraufgaben erfüllte Astra weniger Prüfpunkte, wenn die Arbeit als Sicherheitsforschung beschrieben wurde. Die Autoren halten übermäßige Vorsicht für eine plausible Erklärung. Die Ursache bleibt offen. Am Beispiel der gespeicherten Bewertungen zeigen wir, wie sich das gelieferte Ergebnis mit dem Auftrag vergleichen lässt, auch wenn interne Aufzeichnungen geschützt bleiben. Quelle: OpenAI, Covert underperformance on safety research tasks https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/