本地部署相关【deepseek吧】_百度贴吧

02月20日漏签0天

deepseek吧关注：93,680贴子：150,229

4回复贴，共1页

<返回deepseek吧

本地部署相关

只看楼主收藏回复

内存32+显存12，可以跑70B-Q3和32B-Q8，都占用35G左右，哪个效果会好一点？

送TA礼物

IP属地:广西

来自Android客户端1楼2025-02-08 00:08回复

显存太小了，跑个14b看看速度先

IP属地:广东

来自Android客户端2楼2025-02-08 00:21

收起回复

我显存8G，跑14B是5.5tok，32 B是3.5tok

IP属地:广东

来自Android客户端3楼2025-02-08 00:43

模型下好了，你不会自己测试吗

IP属地:广东

来自Android客户端4楼2025-02-08 01:16

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

4回复贴，共1页

<返回deepseek吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴