❌

阅读视图

发现新文章，点击刷新页面。

體積爆降14倍！PrismML 推出全球首款 1 位元 LLM「Bonsai 8B」，可在iPhone上本地端運行

✇電腦王阿達
達小編

傳統印象裡，如果要 AI 模型更聰明，就必須把它的規模做的更大，相對的就是更多參數、更多 GPU、更多電力、更 […]

The post 體積爆降14倍！PrismML 推出全球首款 1 位元 LLM「Bonsai 8B」，可在iPhone上本地端運行 appeared first on 電腦王阿達.

💾

1-bit Bonsai 8B running on an iPhone 17 Pro. For comparison, we also show a 16-bit 1B model on the same MATH-500 prompt.
❌