ModelArts模型部署方式總結(jié)

作為實際使用ModelArts的企業(yè)用戶，訓(xùn)練出來的模型最終應(yīng)用于實際場景產(chǎn)生價值則需要部署，接下來總結(jié)了ModelArts的各種部署方式以及其槽點

一.訓(xùn)練作業(yè)或者用戶用線下資源訓(xùn)練的模型

（1）用戶自行部署：訓(xùn)練作業(yè)的最終模型是輸出到用戶的OBS目錄，用戶可根據(jù)需求下載下來自行部署

（2）部署在線服務(wù)：需要在模型管理模塊先導(dǎo)入模型，導(dǎo)入成功后可在模型管理界面和在部署上線界面部署成在線服務(wù)。

該方式槽點在于上傳模型需要滿足模型包規(guī)范，作為企業(yè)開發(fā)人員有一定的學(xué)習(xí)成本，同時還有一些其他的限制，給使用帶來不便：

（3）端側(cè)部署：訓(xùn)練作業(yè)的模型因為是用戶的算法生成的，所以用戶可以根據(jù)自己的需求適配端側(cè)設(shè)備進(jìn)行部署。第二種方式是可以通過模型轉(zhuǎn)換轉(zhuǎn)換成支持Ascend的模型，從而可以通過HiLens部署。

二.自動學(xué)習(xí)

（1）用戶自行部署：自動學(xué)習(xí)模型用戶無法下載，無法自行部署。

（2）部署在線服務(wù)：自動學(xué)習(xí)原生支持在線服務(wù)部署，可在自動學(xué)習(xí)頁面直接部署成在線服務(wù)或者在模型管理里找到對應(yīng)模型部署成在線服務(wù)。

（3）端側(cè)部署：自動學(xué)習(xí)暫不支持端側(cè)部署，也不支持HiLens

自動學(xué)習(xí)模型用戶無法下載，只能使用在線部署的方式。實際的企業(yè)用戶特別是小的企業(yè)用戶，他們沒有AI開發(fā)人員，但是華為云提供的AI相關(guān)API無法滿足其需求，這種情況下他們會使用自動學(xué)習(xí)或者預(yù)置算法，但是自動學(xué)習(xí)不支持端側(cè)部署，這導(dǎo)致了很大的不方便。

三.預(yù)置算法

（1）用戶自行部署：預(yù)置算法模型可以輸出到OBS上，用戶可自行部署。

（2）部署在線服務(wù)：需要在模型管理模塊先導(dǎo)入模型，導(dǎo)入成功后可在模型管理界面和在部署上線界面部署成在線務(wù)。因為預(yù)置算法模型輸出的模型滿足模型管理模塊所需的模型包結(jié)構(gòu)。所以該方式比較簡便。

（3）端側(cè)部署：預(yù)制算法雖然支持部署到第三方端側(cè)設(shè)備，但是沒有一個詳細(xì)的指導(dǎo)文檔，導(dǎo)致用戶的不便。第二種方式是可以通過模型轉(zhuǎn)換轉(zhuǎn)換成支持Ascend的模型，從而可以通過HiLens部署，但是當(dāng)前僅支持兩種預(yù)制算法的部署。

部署 ModelArts AI

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。