Bonsai 27B
#14 in Reasoning-ModelleUnknown · 27b · 2× · zuletzt 01. Aug. 2026
Bonsai 27B ist ein am 14. Juli 2026 von PrismML veröffentlichtes, offen lizenziertes Reasoning-Modell mit 27,8 Milliarden Parametern, das durch extreme Low-Bit-Kompression (1-Bit bzw. ternär) des Basismodells Qwen3.6 27B entsteht. Es liegt in zwei Varianten vor – einer 3,9 GB großen 1-Bit-Version für Smartphones und einer 5,9 GB großen ternären Version für Laptops – und unterstützt Text, Vision, Tool-Calling und agentische Workflows bei einem Kontextfenster von 262.144 Token. Laut Herstellerangaben behält die ternäre Variante rund 94,6–95 % und die 1-Bit-Variante rund 89,5–90 % der Benchmark-Leistung des unkomprimierten Basismodells. Das Modell steht unter der Apache-2.0-Lizenz kostenlos als Gewicht auf Hugging Face sowie über kostenlose API-Endpunkte Dritter zur Verfügung.
Features
| Key-Benchmark (%) | 80,49 Punkte im Schnitt über 15 Benchmarks (Ternary, Thinking-Mode) = 94,6–95% der FP16-Baseline; 1-Bit-Variante 76,11 Punkte (89,5–90%) |
| Kontextfenster (Token) | 262.144 Token |
| Lizenz | Apache 2.0 (offene Gewichte auf Hugging Face) |
| Multimodalität | Ja – Text, Vision (4-Bit-Vision-Tower), Tool-Calling, agentische Workflows |
| Plattform | On-Device: iPhone (17 Pro/Pro Max), Laptops/PCs (llama.cpp, MLX, RTX 5090, M5 Pro); zudem Cloud-APIs (Puter, Together AI) |
| Preis pro 1M Token | $0 (kostenlos, z.B. über Puter- und Together-AI-API sowie offene Gewichte) |
| Release-Datum | 14. Juli 2026 |