返回列表
[ChatGLM-Infer]Pytorch1.11.0-Cann6.3.rc1-Python3.7-Euler2.8
PyTorch
Others
下载量:90
上传者:duanxinyu
点赞
2
有改进之处
0
收藏
收藏
版本信息
Python版本:3.7
CANN版本:6.3.RC1
操作系统版本:Euler2.8
Pytorch:1.11
使用说明

Chatglm镜像

 

使用说明:

1)  本地选择ARM服务器拉取该镜像,镜像已预置成Public,无需登录,直接拉取即可;

2)  将拉取的镜像推到本局点的SWR,然后通过ModelArts的自定义镜像功能使用;

3)  创建实例后,以ma-user用户启动后,会自动下载迁移好的chatglm推理代码

用户只需运行taskset -c 0-23 python3 test_glm.py 即可推理

镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull remote_image_address)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag local_image_address remote_image_address),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push remote_image_address)
备用镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull remote_image_address)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag local_image_address remote_image_address),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push remote_image_address)
评论
若您有任何疑虑,您可以在这里反馈您的建议。
发布
该镜像支持在DUO卡上跑吗
2024-01-11 17:38
duanxinyu
不支持
2024-01-15 16:11
发布
用户40231899
这是chatglm的什么版本啊,6b,130b?
2023-05-29 11:49
duanxinyu
6b
2023-06-07 12:25
发布