NVIDIA顯卡硬件技術交流整理
672
2022-05-29
第六屆Nvidia Sky Hackathon已于2022年5月21日開營。由于張小白不是學生,所以只能參與旁聽。
本期的主題AI助力防疫——創建AI“大白”:
主要的場景如下:
這里面涉及到AI的幾個技術:
(1)ASR自動語音識別:STEP1 識別你的“你好大白,請讓我進入小區。。”語音,并轉換為文字。
(2)CV目標檢測:STEP2 識別口罩是否已帶,識別二維碼。
(3)TTS語音合成:STEP2: 語音回復:“請戴好口罩,并出示二維碼”。STEP3:語音回復“您好,歡迎回家,二維碼有效,請您通過”。
在本次的案例中,我們用到了以下技術:
NVIDIA NeMO:它支持Automatic Speech Recognition (ASR):聲紋識別,Natural Language Processing (NLP):自然語言處理,Text-to-Speech (TTS) models:文本轉音頻。
NVIDIA TAO:Train, TAO是Adapt, and Optimize 訓練、適配、優化的縮寫。TAO ToolKit是NVIDIA推出的基于GUI工作流程驅動框架,可以簡化并加速企業級AI應用和服務的創建。
NVIDIA TensorRT:TRT是用于高性能深度學習推理的 SDK。此 SDK 包含深度學習推理優化器和運行時環境,可為深度學習推理應用提供低延遲和高吞吐量。
通過本次訓練營,可以學會以下技能:
為了完成相關任務,我們首先需要搭建環境。
訓練營提供了相關環境安裝的知識圖譜:
眾所周知,AI的環境一般包含兩套:訓練環境和推理環境。
訓練環境需要是基于Ubuntu的X86電腦(帶NVidia GPU),張小白擬使用 惠普暗影精靈8Plus(使用NVidia GTX 3080 Laptop GPU)作為訓練環境。這個環境張小白在《且看張小白如何用暗影精靈玩轉MindSpore》系列文章中有介紹如何安裝雙系統:
(一)開箱、拆機加裝硬盤 https://bbs.huaweicloud.com/blogs/309887
(二)Windows 11預覽版和ubuntu 18.04.5雙系統共存 https://bbs.huaweicloud.com/blogs/309888
(三)3080的崛起 https://bbs.huaweicloud.com/blogs/309891
以上文章介紹了從零開始(零——就是你只有一個Windows系統)搭建ubuntu x86環境,并安裝Nvidia驅動、CUDA和cuDNN的全過程。
推理環境需要是基于Ubuntu aarch64的Jetson Nano,張小白擬使用Jetson Nano B01 作為推理環境。但這次不使用自己制作的環境,而是采用訓練營提供的鏡像環境。
后者比較簡單,先介紹一下。
訓練營提供了 10G大小的Jetson Nano鏡像:
使用balenaEtcher打開這個gz文件刻錄到TF卡上即可。張小白找了一張32G的TF卡完成了刻錄,然后將刻錄好的TF卡放入Nano的TF卡槽,并接上網線:
開機啟動系統:
這個系統是訓練營特制的,沒有圖形界面,輸入用戶名和密碼:nvidia/nvidia即可完成登錄。
使用jtop可以看到它的版本是JetPack 4.4:
查看下Nano的IP地址是192.168.1.118:
所以在暗影精靈的X86 ubuntu上可以使用瀏覽器打開?http://192.168.199.118:8888
輸入密碼nvidia,即可進入jupyter環境:
(未完待續)
AI Ubuntu 機器學習 深度學習
版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。