chatglm吧 关注:286贴子:452
  • 10回复贴,共1
求助

windows10下部署chatglm2-6b-int4失败

只看楼主收藏回复

求解决,问题如下图


IP属地:湖北来自Android客户端1楼2023-08-18 19:56回复
    chatglm2的标准回复


    IP属地:湖北来自Android客户端3楼2023-08-18 20:43
    回复
      到b站有一篇叫做 低显存本地搭建chatglm int4量化版 的文章
      照里面教的装一下 mingw,可以自动编译c++


      IP属地:湖北4楼2023-08-23 08:20
      回复
        安装了mongw,也装了gcc


        IP属地:湖北来自Android客户端5楼2023-08-23 08:45
        回复
          整个过程照着流程来做
          CPU版很简单的
          装pytorch
          然后pip install -r requirements.txt
          只要配置够应该是不会出问题的


          IP属地:湖北6楼2023-08-23 13:57
          收起回复
            看看MinGW是32位还是64位?


            IP属地:山东8楼2023-08-24 10:20
            收起回复
              借楼,我这个是属于成功一半还是失败了?没有对话窗口


              IP属地:浙江9楼2023-11-28 11:03
              回复