情报 最强端侧模型!Zyphra推出Zamba2-mini :12 亿参数,4bit 量化下内存占用小于 700MB

Zyphra 在 8 月 27 日宣布推出了 Zamba2-mini 1.2B 模型,该模型拥有 12 亿参数,是一款端侧 SOTA(State-of-the-Art)小型语言模型。在 4bit 量化条件下,该模型的内存占用低于 700MB。Zyphra 已承诺将 Zamba2-mini 作为 Apache 2.0 许... 阅读全文