Arete: Wer bestimmt, wie politisch deine KI antwortet?

About this episode

Nous Research hat Arete als nachtrainierte Version von Qwen veröffentlicht und nennt westliche Werte ausdrücklich als Ziel. Marc und Irene verfolgen an einem veröffentlichten Trainingsfall, wie sich Tatsachenbehauptungen, Antwortverweigerung und politische Rahmung unterscheiden. Was zeigt der Test des Entwicklers, und wer legt fest, was sein Prüfer belohnt? Der Fall fragt nach journalistischer Skepsis gegenüber einer Festnahme aufgrund eines polizeilichen Gesichtsabgleichs. Die veröffentlichten Antworten stammen von der Ausgangsversion Qwen und dem Lehrermodell Inkling. Sie sind kein Vorher-nachher-Beispiel für Qwen und Arete. Die mitgelieferten Prüfnotizen kritisieren auch Angaben der Lehrerantwort. Die Selbstbewertung von Nous wird zusammen mit ihrer Faktenbewertung und den Grenzen der Rubrik erklärt. OpenAIs politische Bewertung, Claudes Verfassung und der frühere Rückzug einer übermäßig zustimmenden GPT-4o-Version zeigen andere Wege, Verhalten zu messen oder zu beeinflussen. Daraus entsteht kein Rangvergleich der Anbieter. Zum Schluss geht es um die Wahl offener Modelle und eine eigene Prüfung: Belege vorab festlegen, Tatsachen von Empfehlungen trennen und Antworten in de