Unsloth AI团队量化DeepSeek V4.1-Flash-1017发布，实现1-bit 保留约 88.2% 准确率

AI充电站
1

DeepSeek V4.1-Flash-1017 现可本地运行！
我们实现了 1-bit 保留约 88.2% 准确率，同时将大小从 508GB 缩小至 250GB（−52%）。
在 128GB+ RAM 设备上运行。V4.1 Flash 1017是迄今最强的开源模型

指南：https://unsloth.ai/docs/models/deepseek-v4.1-flash
GGUF：https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF

image
image1920×2141 423 KB

1 个赞
2

卡了一个很不舒服的体积

128GB的苹果盒子，以及128GB的N卡Spark，正好不适合用

似乎是苹果 M5 ultra 的玩具，

对第三方自己部署模型服务商的4卡或者8卡盒子也比较友好
（希望不是Trae）

2 个赞