ollama+deepseek+open-webui，ollama的keep_alive已经设置-1，加载大模型时候也都用着没问题，可是过几个小时，发现gpu显存占用为0，大模型不能正常对话，看日志有offload to cuda 的字样，不知道问题出在哪了
deepseek吧 关注：99,181贴子：163,793
- 0回复贴，共1页
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频！
看高清直播、视频！
贴吧热议榜
- 1王祖贤在贴吧官宣创业2589090
- 2表白收到摩斯密码怎么破2027245
- 3AL淘汰JDG晋级决赛1885324
- 4分享我和妹妹难以启齿的故事1604205
- 5南师大博士女友出轨已婚导师1138878
- 6特朗普被说是俄国克格勃特工960075
- 7娜可露露重做野区霸主归来845160
- 8崩坏3.2遐蝶技能强度爆炸629119
- 9未来的农村宅基地还值钱吗462946
- 10尹锡悦的最终时刻即将到来461055
