Python版本：3.10
CANN版本：8.0.rc3.beta1
操作系统版本：ubuntu_20.04
mindie_1.0.RC3
PyTorch_2.3.1

# 依赖【细看，版本对齐，不行就装】 - 910b + 驱动 Ascend-hdk-910b-npu-driver\_24.1.rc3\_linux-aarch64.run 链接:https://obs-whaicc-fae-public.obs.cn-central-221.ovaijisuan.com/cann/mindie/1.0.RC3/910B/Ascend-hdk-910b-npu-driver\_24.1.rc3\_linux-aarch64.run + 固件 Ascend-hdk-910b-npu-firmware\_7.5.0.1.129.run 链接:https://obs-whaicc-fae-public.obs.cn-central-221.ovaijisuan.com/cann/mindie/1.0.RC3/910B/Ascend-hdk-910b-npu-firmware\_7.5.0.1.129.run - 310P + 驱动 scend-hdk-310p-npu-driver_24.1.rc2_linux-aarch64.run 链接:https://obs-whaicc-fae-public.obs.cn-central-221.ovaijisuan.com/cann/mindie/1.0.RC3/310p/Ascend-hdk-310p-npu-driver_24.1.rc2_linux-aarch64.run + 固件 Ascend-hdk-310p-npu-firmware_7.3.0.1.231.run 链接:https://obs-whaicc-fae-public.obs.cn-central-221.ovaijisuan.com/cann/mindie/1.0.RC3/310p/Ascend-hdk-310p-npu-firmware_7.3.0.1.231.run # 拉取镜像 + 910b: ```shell docker pull swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:910B-ascend\_24.1.rc3-cann\_8.0.rc3.beta1-py\_3.10-ubuntu\_20.04-aarch64-mindie\_1.0.RC3.04 ``` + 310p: ```shell docker pull swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:310p-ascend_24.1.rc2-cann_8.0.rc3.beta1-py_3.10-ubuntu_20.04-aarch64-mindie_1.0.RC3.02 ``` # 启动指令示例(自己加一下 【反斜杠】 我写了但不显示) + 910b: ``` docker run -it \\ --name MindIE \\ --device=/dev/davinci0 \\ --device=/dev/davinci1 \\ --device=/dev/davinci\_manager \\ --device=/dev/devmm\_svm \\ --device=/dev/hisi\_hdc \\ -v /usr/local/dcmi:/usr/local/dcmi \\ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \\ -v /usr/local/Ascend/driver/lib64/common:/usr/local/Ascend/driver/lib64/common \\ -v /usr/local/Ascend/driver/lib64/driver:/usr/local/Ascend/driver/lib64/driver \\ -v /etc/ascend\_install.info:/etc/ascend\_install.info \\ -v /etc/vnpu.cfg:/etc/vnpu.cfg \\ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \\ -v /home/aicc:/home/aicc \\ swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:910B-ascend\_24.1.rc3-cann\_8.0.rc3.beta1-py\_3.10-ubuntu\_20.04-aarch64-mindie\_1.0.RC3.04 /bin/bash ``` + 310p: ``` docker run -it \\ --name MindIE \\ --device=/dev/davinci0 \\ --device=/dev/davinci1 \\ --device=/dev/davinci\_manager \\ --device=/dev/devmm\_svm \\ --device=/dev/hisi\_hdc \\ -v /usr/local/dcmi:/usr/local/dcmi \\ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \\ -v /usr/local/Ascend/driver/lib64/common:/usr/local/Ascend/driver/lib64/common \\ -v /usr/local/Ascend/driver/lib64/driver:/usr/local/Ascend/driver/lib64/driver \\ -v /etc/ascend\_install.info:/etc/ascend\_install.info \\ -v /etc/vnpu.cfg:/etc/vnpu.cfg \\ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \\ -v /home/aicc:/home/aicc \\ swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:310p-ascend_24.1.rc2-cann_8.0.rc3.beta1-py_3.10-ubuntu_20.04-aarch64-mindie_1.0.RC3.02 /bin/bash ``` # 加载环境变量 ```shell # 自动加载，镜像启动或者用户登录会小卡10来秒，参阅 \~/.bashrc ``` # 测试代码 + LLaMA2-7b-hf测试代码 ```shell torchrun --nproc\_per\_node 2 --master\_port 20038 -m examples.run\_pa --model\_path /home/aicc/mushroom/LLaMA2-7b-hf --input\_text ["What's Deep Learning?"] --max\_output\_length 2048 # model\_path 写你自己的路径！！！！ ``` # 镜像只是安装MindIE包,使用问题请自行解决

在其他AICC使用本镜像时，
1） 在本地arm宿主机通过docker pull 拉取上面镜像到本地（即执行docker pull remote_image_address）
2） 用docker tag 将局点信息和组织名替换成对应版本（即执行 docker tag local_image_address remote_image_address），
3） 用docker push 将修改后的镜像名称推送到局点的swr服务中（即执行docker push remote_image_address）

若您有任何疑虑，您可以在这里反馈您的建议。