Goodfire

Goodfire findet kleine Neuronengemeinschaften hinter Modellverhalten
Goodfire Research zufolge können kleine Gruppen von Neuronen für bestimmte Verhaltensweisen von Sprachmodellen notwendig und ausreichend sein, darunter grammatische…

Goodfire steuert das KI-Training über interne Repräsentationen
Goodfire Research hat ein Paper zu „Mechanistic Shaping“ veröffentlicht. Das Framework nutzt die internen Repräsentationen eines Modells, um festzulegen, wie es eine…

Goodfire-Seite zu SAE-Skalierung und Feature-Mannigfaltigkeiten verweist auf arXiv-Paper
Goodfire hat eine Forschungsseite mit dem Titel "Understanding Sparse Autoencoder Scaling in the Presence of Feature Manifolds", die Leserinnen und Leser auf ein Paper…