Forscher legen Bias von KI-Juroren frei

Inside the Unfair Judge wurde am 13. Juli von Zixiang Xu und sechs Mitautorinnen und Mitautoren eingereicht. Die Gruppe untersucht sieben Judge-Modelle, sieben Bias-Typen und neun Benchmarks. Ihr Argument: Prompt-Varianten und Score-Differenzen zeigen, dass etwas schiefläuft; sie erklären aber nicht, wo der Effekt im Modell entsteht.

Die Arbeit beschreibt eine Geometrie im Hidden State. Normale Bewertungsinputs lägen auf einer kompakten Aktivierungsstruktur; verzerrte Inputs verschöben sich entlang niedrigdimensionaler, bias-spezifischer Richtungen. In einfachen Worten: Die Autorengruppe sucht nicht nur die schiefe Note, sondern die innere Spur, die dorthin führt.

Besonders interessant ist der Kausalitätsversuch. Das Team steuert die Hidden States entlang dieser Richtung vorwärts und rückwärts. Laut Abstract kann die Vorwärtsrichtung auf sauberen Inputs verzerrte Bewertungen nachbilden; die Gegenrichtung bringt bei verzerrten Inputs einen Basiswert zurück. Zufallsrichtungen gleicher Norm hätten deutlich kleinere Effekte gezeigt.

Das ist Forschung, nicht der Schalter „Bias aus“. Doch die Idee ist praktisch: Ein linearer Projektor auf diese Merkmale soll Ausfälle auf drei zuvor ungesehenen Benchmarks besser vorhersagen als textbasierte Alternativen. Wenn sich das repliziert, könnten Evaluationssysteme ihren eigenen Richter während der Arbeit beobachten, statt erst am Ende über seltsame Punktzahlen zu rätseln.

Der Governance-Wert liegt auf der Hand. Immer mehr Agenten- und Modellpipelines verwenden LLMs zur Auswahl, Bewertung oder Belohnung. Dann ist der Judge keine neutrale Excel-Zelle, sondern ein lernendes Bauteil mit eigenen Mustern. Transparenz darf hier nicht bei einem hübschen Dashboard enden.