Atlas 200DK 開發環境搭建
Atlas 200DK 開發環境搭建—模型推理
Atlas 200 DK主要包含Atlas 200 AI加速模塊(型號 3000)、圖像/音頻接口芯片(Hi3559C)和LAN SWITCH或PHY三部分,系統架構如圖1和圖2所示。
Atlas 200 DK對外提供一個Type C接口類型USB接口,兼容USB 3.0(SuperSpeed),USB 2.0(HighSpeed)和USB 1.1(FullSpeed)通信協議。此接口只能作為Device模式使用,不支持Master模式,主要用來對接調試主機做加載調試用。
用戶在使用Atlas 200 DK開發、運行AI應用程序前的準備工作,包括系統SD卡的制作,Atlas 200 DK與Ubuntu服務器的連接,開發工具的安裝等。
開發工具 MindStudio包含了開發套件、以及各個工具模塊(如模型管理工具、編譯工具、日志工具等),其中開發套件提供了設備側編譯時所依賴的庫文件,用戶開發使用的工具、依賴庫以及公共頭文件等。
開發環境:官網下載安裝免費VirtualBox
安裝ubuntu18.04
重啟ubuntu
華為提供鏡像 https://mirrors.huaweicloud.com/
sudo cp -a /etc/apt/sources.list /etc/apt/sources.list.bak sudo sed -i "s@http://.*archive.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list sudo sed -i "s@http://.*security.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list apt-get update apt-get install vim cd mkdir .pip cd .pip vim pip.conf [global] index-url = http://pypi.douban.com/simple/ [install] trusted-host=pypi.douban.com
groupadd HwHiAiUser useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser passwd HwHiAiUser
sudo apt-get install -y gcc g++ make cmake unzip zlib1g-dev libbz2-dev libsqlite3-dev libssl-dev libxslt1-dev libffi-dev cd Python-3.7.5 ./configure --prefix=/usr/local/python3.7.5 --enable-shared make sudo make install sudo cp /usr/local/python3.7.5/lib/libpython3.7m.so.1.0 /usr/lib sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/bin/python3.7.5 sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/bin/pip3.7.5 sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/bin/python3.7 sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/bin/pip3.7 python3.7.5 --version apt-get -y install xterm openjdk-8-jdk fonts-wqy-zenhei fonts-wqy-microhei fonts-arphic-ukai fonts-arphic-uming 配置java路徑 vi ~/.bashrc export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 export PATH=$JAVA_HOME/bin:$PATH source ~/.bashrc echo $JAVA_HOME /usr/local/python3.7.5/bin/pip3 install --user protobuf grpcio attrs numpy decorator sympy cffi coverage gnureadline pylint matplotlib psutil requests scipy xlrd PyQt5==5.14.0
200Dk環境搭建
參考文檔:https://support.huaweicloud.com/environment-deployment-Atlas200DK1011/atlased_04_0012.html
下載:(三個包)
鏡像:ubuntu-18.04.5-server-arm64.iso
驅動:A200dk-npu-driver-21.0.2-ubuntu18.04-aarch64-minirc.tar.gz
nnrt: Ascend-cann-nnrt_5.0.3.alpha001_linux-aarch64.run
驅動鏈接https://www.hiascend.com/hardware/firmware-drivers?tag=community
nnrt:配套版本https://gitee.com/ascend/tools/blob/master/makesd/Version_Mapping_CN.md
su - root 執行如下命令更新源: apt-get update 執行如下命令安裝相關python依賴: pip3 install pyyaml apt-get install qemu-user-static binfmt-support python3-yaml squashfs-tools gcc-aarch64-linux-gnu g++-aarch64-linux-gnu
2、下載制卡入口腳本“make_sd_card.py”。 wget https://gitee.com/ascend/tools/raw/master/makesd/for_1.0.11.alpha/make_sd_card.py 下載制作SD卡操作系統的腳本“make_ubuntu_sd.sh”。 wget https://gitee.com/ascend/tools/raw/master/makesd/for_1.0.11.alpha/make_ubuntu_sd.sh
按照實際需求 修改make_sd_card.py中網卡的ip
執行制卡腳本。
fdisk -l
運行腳本開始制卡python3 make_sd_card.py local /dev/sdb
制卡成功后,將SD卡插入200DK上電,然后用默認HwHiAiUser登錄。
登錄200DK
https://support.huaweicloud.com/environment-deployment-Atlas200DK1011/atlased_04_0017.html
修改HwHiAiUser默認密碼:ascend310
root用戶的缺省登錄密碼為Mind@123
修改root默認密碼為ascend310
至此,環境搭建完畢。
安裝CANN(開發環境與運行環境合設)
全程root用戶下執行
參考下載配套cann包https://gitee.com/ascend/tools/blob/master/makesd/Version_Mapping_CN.md
安裝OS依賴
sudo apt-get install -y gcc g++ make cmake zlib1g zlib1g-dev openssl libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3 libopenblas-dev
安裝python3.7.5再安裝numpy等開源相關依賴,詳細參考
https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/51RC1alpha005/softwareinstall/instg/atlasdeploy_03_0022.html
安裝cann
./Ascend-cann-toolkit_{version}_linux-aarch64.run --install
設置環境變量
`
vi ~/.bashrc
添加
#用于設置python3.7.5庫文件路徑
export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:LD_LIBRARY_PATH #如果用戶環境存在多個python3版本,則指定使用python3.7.5版本 export PATH=/usr/local/python3.7.5/bin:PATH
source /usr/local/Ascend/ascend-toolkit/set_env.sh
`
驗證環境是否正常,可用atc
如下圖即安裝正常
安裝docker
修改華為源https://mirrors.huaweicloud.com/home
cp -a /etc/apt/sources.list /etc/apt/sources.list.bak wget -O /etc/apt/sources.list https://repo.huaweicloud.com/repository/conf/Ubuntu-Ports-bionic.list apt-get update
安裝docker鏈接https://docs.docker.com/engine/install/ubuntu/
sudo apt-get update sudo apt-get install \ ca-certificates \ curl \ gnupg \ lsb-release curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu \ $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null sudo apt-get update sudo apt-get install docker-ce docker-ce-cli containerd.io
至此,dokcer安裝完成。
下載ascend推理鏡像[https://ascendhub.huawei.com/#/detail/ascend-infer]
docker login xxxx(獲取權限)
docker pull ascendhub.huawei.com/public-ascendhub/ascend-infer:5.0.3-ubuntu18.04
docker 推理模型
參考官方部署鏡像https://support.huawei.com/enterprise/zh/doc/EDOC1100235020/84317213
根據實際情況修改docker啟動命令
docker run -it --device=/dev/davinci0 --device=/dev/davinci_manager --device=/dev/event_sched --device=/dev/upgrade --device=/dev/hi_dvpp --device=/dev/memory_bandwidth --device=/dev/ts_aisle -v /usr/local/Ascend/driver/tools:/usr/local/Ascend/driver/tools -v /usr/local/Ascend/driver/lib64:/usr/local/Ascend/driver/lib64 -v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi -v /var/hdc_ppc:/var/hdc_ppc -v /etc/hdcBasic.cfg:/etc/hdcBasic.cfg -v /etc/rc.local:/etc/rc.local -v /sys:/sys -v /usr/bin/sudo:/usr/bin/sudo -v /usr/lib/sudo/:/usr/lib/sudo/ -v /etc/sudoers:/etc/sudoers/ -v /etc/sys_version.conf:/etc/sys_version.conf/ -v /home/bear:/home/bear -v /var/slogd:/var/slogd -v /var/dmp_daemon:/var/dmp_daemon -v/usr/lib/:/usr/lib/ ascendhub.huawei.com/public-ascendhub/ascend-infer:5.0.3-ubuntu18.04 /bin/bash -c "/usr/local/Ascend/driver/tools/minirc_container_prepare.sh;/bin/bash" mkdir –p /usr/slog mkdir –p /run/driver mkdir –p /var/driver groupadd -g 1000 HwHiAiUser useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser usermod -u 1000 HwHiAiUser /var/slogd /var/dmp_daemon -I -U 8087 &
裸機上已成功推理,鏡像推理過程缺少什么依賴,就掛載什么依賴
版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。