{"@context":"https://schema.org","@type":"NewsArticle","generatedAt":"2026-07-23T08:01:28.298Z","headline":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","description":"PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","url":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/","mainEntityOfPage":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/","datePublished":"2026-07-14T22:51:34.000Z","dateModified":"2026-07-14T22:51:34.000Z","inLanguage":"zh-CN","publisher":{"@type":"NewsMediaOrganization","name":"Aioga","url":"https://www.aioga.com"},"citation":["https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones","https://aihot.virxact.com/items/cmrl9fwp600fabi1z80i1kcq4"],"canonicalUrl":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/","directAnswer":{"@type":"Answer","text":"Aioga 编辑摘要：PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。 Aioga 将其归入「模型更新」方向，重点关注它对真实使用和行业竞争的影响。","url":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/","dateCreated":"2026-07-14T22:51:34.000Z","author":{"@type":"Organization","@id":"https://www.aioga.com/authors/aioga-editorial/#editorial-team","name":"Aioga Editorial Team","url":"https://www.aioga.com/authors/aioga-editorial/"}},"evidence":[{"@type":"CreativeWork","name":"marktechpost.com source article","url":"https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones","datePublished":"2026-07-14T22:51:34.000Z","provider":{"@type":"Organization","name":"marktechpost.com","url":"https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones"}},{"@type":"CreativeWork","name":"AIHot archive record","url":"https://aihot.virxact.com/items/cmrl9fwp600fabi1z80i1kcq4","datePublished":"2026-07-14T22:51:34.000Z","provider":{"@type":"Organization","name":"AIHot","url":"https://aihot.virxact.com/items/cmrl9fwp600fabi1z80i1kcq4"}}],"aggregationSource":"MarkTechPost（RSS）","originalPublisher":{"name":"marktechpost.com","url":"https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones"},"article":{"id":"cmrl9fwp600fabi1z80i1kcq4","slug":"cmrl9fwp600fabi1z80i1kcq4","url":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/","title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","title_en":"PrismML Releases Bonsai 27B： 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones","summary":"PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","source":"MarkTechPost（RSS）","sourceUrl":"https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones","aiHotUrl":"https://aihot.virxact.com/items/cmrl9fwp600fabi1z80i1kcq4","publishedAt":"2026-07-14T22:51:34.000Z","category":"模型更新","score":44,"selected":false,"articleBody":["PrismML just released Bonsai 27B：https://prismml.com/news/bonsai-27b . It is a low-bit representation of Qwen3.6-27B, not a new pretrain. The architecture is unchanged.","Two variants ship under Apache 2.0. Ternary Bonsai 27B uses {−1, 0, +1} weights at a true 1.71 bits per weight. Its ideal size is 5.9GB. 1-bit Bonsai 27B uses binary {−1, +1} weights at 1.125 bits per weight, for 3.9GB.","Both are multimodal. The split is ~24.8B language weights, a 0.46B vision tower, and 2.5B in embeddings and the LM head. The vision tower is held separately at 4-bit (HQQ). Context is 262K tokens, kept practical because ~75% of Qwen3.6-27B attention is linear.","That architecture shapes the compression method below.","Each weight is a code, with one shared FP16 scale per group of 128. The effective weight is w_i = s_g · t_i .","A ternary value carries log2(3) ≈ 1.585 bits. One FP16 scale per 128 weights adds 16/128 , giving ≈1.71 bits per weight. That is a ~9.4× reduction against FP16. Binary costs 1 + 16/128 = 1.125 bits, a ~14.2× reduction.","The representation runs end to end across the matrix-heavy components. Those are embeddings, attention projections, MLP projections, and the LM head. Only a negligible tail of normalization and scale parameters stays higher precision.","Measured as a true average, the Qwen3.6-27B “4-bit” build (Q4_K_XL) is 5.2 bits per weight. The “2-bit” build (IQ2_XXS) is 2.8. Bonsai also departs from BitNet, which avoids collapse only by pretraining from scratch.","The obvious question is what compression costs in accuracy.","PrismML evaluated 15 benchmarks in thinking mode, using EvalScope with vLLM on H100 GPUs. Ternary Bonsai 27B retains 94.6% of the FP16 baseline, and 1-bit Bonsai 27B retains 89.5%.","Conventional sub-4-bit builds fail differently. IQ2_XXS falls to 57.5 on AIME26 and 56.4 on LiveCodeBench. It still scores 88.93 on MMLU-Redux, so short-form benchmarks mask the collapse. Gemma-4-31B Q2_K_XL repeats that pattern on a second base model.","Scores alone, however, do not explain the release. Memory does.","Fitting a phone is stricter than storage numbers suggest. iOS limits a single app to roughly half of physical memory. A 12GB iPhone therefore exposes about 6GB.","The KV cache is the second budget. Only 16 of 64 layers carry a growing full-attention cache, so FP16 costs ≈64 KiB/token. A 262K window costs ≈17.2GB, and a 4-bit KV cache cuts that to ≈4.3GB.","Tolerance is measured. Against its own FP16-KV baseline, Ternary Bonsai shows 0.0011 nats of output forward-KL on MATH-500. Q4_K_XL shows 0.0146.","Peaks follow. At 100K tokens with an FP16 cache, 1-bit peaks at 11.6GB and ternary at 14.7GB. The derived Q4_K_XL row needs ≈25.6GB.","Once a model fits, throughput is the next question.","Generation is memory-bandwidth-bound, so fewer bytes per step means more tokens per second. Prefill is compute-bound and gains less.","PrismML also ships a DSpark drafter trained against the Bonsai 27B target. On an H100 at draft depth k=4, the binary target reaches accepted length τ=3.6. That is 143.8 tok/s, a 1.37× speedup. Verification is lossless, so output stays distribution-identical. On Apple Silicon the drafter is off by default at batch size 1.","Ternary 27B is the demo repo default. Start the server, or generate directly:","Tool calling uses the standard OpenAI-style tools array:","The call returns in choices[0].message.tool_calls . Thinking mode is on by default; thinking_budget_tokens toggles it per request.","That maps onto four deployment patterns.","Need to partner with us for promoting your GitHub Repo OR Hugging Face Page OR Product Release OR Webinar etc.? Connect with us ：https://forms.gle/wbash1wF6efRj8G58","Asif Razzaq is the CEO of Marktechpost Media Inc.. As a visionary entrepreneur and engineer, Asif is committed to harnessing the potential of Artificial Intelligence for social good. His most recent endeavor is the launch of an Artificial Intelligence Media Platform, Marktechpost, which stands out for its in-depth coverage of machine learning and deep learning news that is both technically sound and easily understandable by a wide audience. The platform boasts of over 2 million monthly views, illustrating its popularity among audiences."],"articleImages":[{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2019/06/Screen-Shot-2021-09-14-at-9.02.24-AM-300x300.png","alt":"","afterParagraph":23,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/787a6d54564e8e19.webp"},{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2026/07/blog19132-20-100x70.png","alt":"Mistral Vibe for Code vs Claude Code vs Cursor vs Codex: Four Agents Scored on One Scaffold-to-PR Task","afterParagraph":24,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/1df51c6c30dc7f4b.png"},{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2026/07/high-level-description-a-vibrant-cartoon_pKD1SQYxVZS3w328qEVqlQ_G3BjSYtwQXuk43uSkQarZg_cover-100x70.png","alt":"OpenCoreDev Releases Domain SDK 0.2.0: One TypeScript API to Add, Verify, and Remove Customer Domains Across Five Platforms","afterParagraph":24,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/67ad1fac735d6c36.png"},{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2026/07/blog19132-1-5-100x70.png","alt":"Meet Blume: An Open-Source, Zero-Config Documentation Framework","afterParagraph":24,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/264587eedc14c409.png"},{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2026/07/blog19132-18-100x70.png","alt":"Robostral Navigate","afterParagraph":24,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/612e2d400cf85435.png"},{"sourceUrl":"https://www.marktechpost.com/wp-content/uploads/2026/06/blog1913-39-100x70.png","alt":"Anthropic Claude Sonnet 5","afterParagraph":24,"url":"/media/articles/cmrl9fwp600fabi1z80i1kcq4/ae1e4676b02a9356.webp"}],"mediaStatus":"ok","articleBodyZh":[],"translationStatus":"","bodyOrigin":"source-page","editorial":{"summary":"Aioga 编辑摘要：PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。 Aioga 将其归入「模型更新」方向，重点关注它对真实使用和行业竞争的影响。","background":"背景分析：模型与研究类动态需要结合能力边界、开放方式、成本、可用性和真实任务表现判断，单项指标领先不等于已经形成稳定采用。","viewpoint":"Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。","implications":"影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。","nextStep":"后续观察：继续观察官方文档、实际可用性、价格变化、开发者反馈和竞品回应。","evidenceRefs":["title","summary","articleBody"],"confidence":"medium","status":"published","aiGenerated":false,"autoApproved":true,"generatedBy":"rule-safe-fallback","generatedAt":"2026-07-23T08:10:16.939Z","sourceHash":"212672d35b21c6cd","validation":{"passed":true,"mode":"rule-safe-fallback","checks":["schema","length","source-attribution","no-html"]}},"tags":["模型更新","MarkTechPost（RSS）"],"translations":{"zh-CN":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AI资讯","description":"PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16","url":"https://www.aioga.com/news/cmrl9fwp600fabi1z80i1kcq4/"},"en":{"title":"PrismML Releases Bonsai 27B： 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones","summary":"Aioga tracks this update from MarkTechPost（RSS） under Models. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"Models","source":"MarkTechPost（RSS）","pageTitle":"PrismML Releases Bonsai 27B： 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones - Aioga AI News","description":"Aioga tracks this update from MarkTechPost（RSS） under Models. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重","url":"https://www.aioga.com/en/news/cmrl9fwp600fabi1z80i1kcq4/"},"ja":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aiogaは「モデル更新」の動きとして、MarkTechPost（RSS） からの更新を追跡しています。PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"モデル更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AIニュース","description":"Aiogaは「モデル更新」の動きとして、MarkTechPost（RSS） からの更新を追跡しています。PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125","url":"https://www.aioga.com/ja/news/cmrl9fwp600fabi1z80i1kcq4/"},"ko":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga는 MarkTechPost（RSS）의 업데이트를 모델 업데이트 흐름으로 추적합니다. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"모델 업데이트","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AI 뉴스","description":"Aioga는 MarkTechPost（RSS）의 업데이트를 모델 업데이트 흐름으로 추적합니다. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125","url":"https://www.aioga.com/ko/news/cmrl9fwp600fabi1z80i1kcq4/"},"es":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga sigue esta actualización de MarkTechPost（RSS） dentro de Modelos. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"Modelos","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Noticias de IA","description":"Aioga sigue esta actualización de MarkTechPost（RSS） dentro de Modelos. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−","url":"https://www.aioga.com/es/news/cmrl9fwp600fabi1z80i1kcq4/"},"fr":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga suit cette mise à jour de MarkTechPost（RSS） dans la catégorie Modèles. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"Modèles","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Actualités IA","description":"Aioga suit cette mise à jour de MarkTechPost（RSS） dans la catégorie Modèles. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit ","url":"https://www.aioga.com/fr/news/cmrl9fwp600fabi1z80i1kcq4/"},"de":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga KI-News","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/de/news/cmrl9fwp600fabi1z80i1kcq4/"},"pt-BR":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Notícias de IA","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/pt-BR/news/cmrl9fwp600fabi1z80i1kcq4/"},"ru":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Новости ИИ","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/ru/news/cmrl9fwp600fabi1z80i1kcq4/"},"ar":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga أخبار الذكاء الاصطناعي","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/ar/news/cmrl9fwp600fabi1z80i1kcq4/"},"hi":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AI समाचार","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/hi/news/cmrl9fwp600fabi1z80i1kcq4/"},"it":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Notizie IA","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/it/news/cmrl9fwp600fabi1z80i1kcq4/"},"nl":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AI-nieuws","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/nl/news/cmrl9fwp600fabi1z80i1kcq4/"},"tr":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga AI Haberleri","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/tr/news/cmrl9fwp600fabi1z80i1kcq4/"},"vi":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Tin tức AI Aioga","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/vi/news/cmrl9fwp600fabi1z80i1kcq4/"},"id":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Berita AI Aioga","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/id/news/cmrl9fwp600fabi1z80i1kcq4/"},"th":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - ข่าว AI Aioga","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/th/news/cmrl9fwp600fabi1z80i1kcq4/"},"pl":{"title":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行","summary":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每权重 1.125 bits，大小 3.9GB。两者均支持多模态，上下文窗口 262K tokens。三值版保留 FP16 基线 94.6% 的推理性能，1-bit 版保留 89.5%。1-bit 版是首个可装入手机的 27B 级模型。PrismML 还提供 DSpark 推测解码 drafter，在 H100 上实现 1.37 倍加速。两者均以 Apache 2.0 许可证发布，支持 llama.cpp 和 MLX。","category":"模型更新","source":"MarkTechPost（RSS）","pageTitle":"PrismML 发布 Bonsai 27B：Qwen3.6-27B 的低比特版本，可在笔记本和手机上运行 - Aioga Wiadomości AI","description":"Aioga tracks this update from MarkTechPost（RSS） under 模型更新. PrismML 发布 Bonsai 27B，这是 Qwen3.6-27B 的低比特表示，非全新预训练模型。三值版使用 {−1， 0， +1} 权重，每权重 1.71 bits，大小 5.9GB；1-bit 版使用 {−1， +1} 权重，每","url":"https://www.aioga.com/pl/news/cmrl9fwp600fabi1z80i1kcq4/"}}}}