返回列表
[32GB][llama2-flashattention]MindSpore2.1.0-Cann6.3.rc2-Python3.7-Euler2.8
MindSpore
LLM
下载量:58
上传者:duanxinyu
1
0
收藏
版本信息
Python版本:3.7
CANN版本:Cann6.3.rc2
操作系统版本:Euler2.8
MA和BMS都可以使用
CANN版本:Cann6.3.rc2
操作系统版本:Euler2.8
MA和BMS都可以使用
使用说明
当前为LLama2-70B优化后的版本
## 启动容器指令示例
~~~
docker run -it -u root
--device=/dev/davinci0
--device=/dev/davinci1
--device=/dev/davinci2
--device=/dev/davinci3
--device=/dev/davinci4
--device=/dev/davinci5
--device=/dev/davinci6
--device=/dev/davinci7
--device=/dev/davinci_manager
--device=/dev/devmm_svm
--device=/dev/hisi_hdc
-v /usr/local/Ascend/driver:/usr/local/Ascend/driver
-v /usr/local/dcmi:/usr/local/dcmi
-v /usr/local/Ascend/toolbox:/usr/local/Ascend/toolbox
-v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi
-v /usr/local/Ascend/firmware:/usr/local/Ascend/firmware
-v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi
-v /home/aicc:/home/ma-user/work/aicc
--name mindspore_ma
--entrypoint=/bin/bash
swr.cn-central-221.ovaijisuan.com/dxy/mindspore_kernels:MindSpore2.2.10-cann7.0.0beta1_py_3.9-euler_2.8.3-D910B
~~~
镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull remote_image_address)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag local_image_address remote_image_address),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push remote_image_address)
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull remote_image_address)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag local_image_address remote_image_address),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push remote_image_address)
swr.cn-east-292.mygaoxinai.com/cloud/ms21_fa:v1.0
评论
若您有任何疑虑,您可以在这里反馈您的建议。
发布