返回列表
[32GB][llama2-flashattention]MindSpore2.1.0-Cann6.3.rc2-Python3.7-Euler2.8
MindSpore
LLM
下载量:58
上传者:duanxinyu
点赞
1
有改进之处
0
收藏
收藏
版本信息
Python版本:3.7
CANN版本:Cann6.3.rc2
操作系统版本:Euler2.8
MA和BMS都可以使用
使用说明
当前为LLama2-70B优化后的版本 ## 启动容器指令示例 ~~~ docker run -it -u root --device=/dev/davinci0 --device=/dev/davinci1 --device=/dev/davinci2 --device=/dev/davinci3 --device=/dev/davinci4 --device=/dev/davinci5 --device=/dev/davinci6 --device=/dev/davinci7 --device=/dev/davinci_manager --device=/dev/devmm_svm --device=/dev/hisi_hdc -v /usr/local/Ascend/driver:/usr/local/Ascend/driver -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/Ascend/toolbox:/usr/local/Ascend/toolbox -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /usr/local/Ascend/firmware:/usr/local/Ascend/firmware -v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi -v /home/aicc:/home/ma-user/work/aicc --name mindspore_ma --entrypoint=/bin/bash swr.cn-central-221.ovaijisuan.com/dxy/mindspore_kernels:MindSpore2.2.10-cann7.0.0beta1_py_3.9-euler_2.8.3-D910B ~~~
镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull remote_image_address)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag local_image_address remote_image_address),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push remote_image_address)
评论
若您有任何疑虑,您可以在这里反馈您的建议。
发布