WARUM DAS WICHTIG IST
Die Architektur zeigt einen möglichen Weg, Modellwissen und Inferenzkosten gezielter zu entkoppeln.
Intern-S2-Mobius basiert auf Mobius-v0. Die Architektur legt laut Preprint Wissen in ein global geteiltes Feed-Forward-Memory und nutzt mehrere Self-Attention-Reasoner für iteratives Schlussfolgern.
Ein von Grund auf trainiertes 7B-Modell erreichte laut Autor:innen ähnliche Downstream-Ergebnisse wie eine 7B-Transformer-Baseline mit 62,6 Prozent ihrer Trainingsdaten. Für die auf Qwen3.5-35B forttrainierte Variante berichten sie bei ähnlichen Downstream-Ergebnissen nahezu vierfaches Ende-zu-Ende-Inferenztempo.
Das InternLM-Team veröffentlichte den Modellnamen am 17. August im eigenen Hugging-Face-Account. Leistungswerte und Übertragbarkeit bleiben anhand der jeweiligen Inferenzumgebung zu prüfen.
DIE KERNPUNKTE
- 01
Die Architektur trennt Wissensspeicher und iterative Reasoning-Module.
- 02
Das Papier berichtet für ein 7B-Modell ähnliche Ergebnisse mit 62,6 Prozent der Trainingsdaten der Baseline.
- 03
Für Intern-S2-Mobius nennen die Autor:innen nahezu vierfaches Ende-zu-Ende-Inferenztempo.
- 04
Ein Modellartefakt ist im InternLM-Hugging-Face-Account verfügbar.