Subquadratic 1.1 Small
#1 in Embeddings & Vektor-DBsSubquadratic · v1.1 · small · 2× · zuletzt 28. Sept. 2026
SubQ 1.1 Small ist ein Long-Context-Sprachmodell von Subquadratic (Miami), das auf der firmeneigenen Subquadratic Sparse Attention (SSA) basiert – einer inhaltsabhängigen, spärlichen Attention, die linear statt quadratisch mit der Kontextlänge skaliert. Das Modell wurde primär mit 1M Token trainiert, generalisiert laut Technical Report aber auf nahezu perfekte Retrieval-Ergebnisse bis 12M Token im Needle-in-a-Haystack-Test. Es basiert auf einem bestehenden offenen Frontier-Modell, dessen dichte Attention durch SSA ersetzt wurde, und befindet sich aktuell im eingeschränkten Zugang bei ausgewählten Design-Partnern bzw. per Warteliste. Eine öffentliche Preisliste existiert laut Drittquellen bislang nicht.