Redwood Research
Ein gemeinnütziges KI-Sicherheitslabor, das sich auf Kontrolle konzentriert, also Möglichkeiten, die Sicherheit zu gewährleisten, selbst wenn ein Modell falsch ausgerichtet ist.
Redwood Research ist eine kleine gemeinnützige Organisation, die sich mit der KI-Anpassung und insbesondere mit dem befasst, was in diesem Bereich als Kontrolle bezeichnet wird: der Frage, wie man ein mächtiges Modell davon abhalten kann, Schaden anzurichten, selbst wenn es es aktiv versucht, anstatt davon auszugehen, dass man es von vornherein dazu bringen kann, die richtigen Dinge zu wollen.
In der Berichterstattung taucht er meist als externer Rezensent auf. Zusammen mit METR wurde es beauftragt, die Fehlausrichtung hinter dem Hugging Face-Vorfall von OpenAI im Juli 2026 unabhängig zu untersuchen. Diese Rolle, bei der eine externe Gruppe die Hausaufgaben eines Labors überprüft, ist eine der wenigen Formen der Verantwortung, über die die Branche derzeit verfügt.