【云小課】EI第16課 ModelArts 使用自定義鏡像快速遷移上云-這2種功能，你了解哪些？

ModelArts為用戶提供了多種常見的預置引擎，但是當用戶對深度學習引擎、開發庫有特殊需求場景的時候，預置AI引擎可能不再滿足用戶需求。

ModelArts底層采用容器技術，您可以自行制作容器鏡像上傳并在ModelArts上運行。自定義鏡像支持自由文本形式的命令行參數和環境變量，靈活性高，便于支持任意計算引擎的作業啟動需求。

當前ModelArts自定義鏡像功能支持以下兩種場景：

創建訓練作業

導入模型

讓我們看看如何在ModelArts中使用自定義鏡像創建訓練作業和導入模型吧！

關聯服務介紹

使用自定義鏡像功能可能涉及以下云服務：容器鏡像服務、對象存儲服務、彈性云服務器。

容器鏡像服務：容器鏡像服務（Software Repository for Container，SWR）是一種支持鏡像全生命周期管理的服務， 提供簡單易用、安全可靠的鏡像管理功能，幫助您快速部署容器化服務。您可以通過界面、社區CLI和原生API上傳、下載和管理容器鏡像。

ModelArts訓練和導入模型使用的自定義鏡像需要從SWR服務管理列表獲取。您制作的自定義鏡像需要上傳至SWR服務。

對象存儲服務：對象存儲服務（Object Storage Service，OBS）是一個基于對象的海量存儲服務，為客戶提供海量、安全、高可靠、低成本的數據存儲能力。

在創建訓練作業和導入模型時往往存在數據交互，您需要的云上數據可以存儲至OBS服務。

彈性云服務器：彈性云服務器（Elastic Cloud Server，ECS）是由CPU、內存、操作系統、云硬盤組成的基礎的計算組件。彈性云服務器創建成功后，您就可以像使用自己的本地PC或物理服務器一樣，在云上使用彈性云服務器。

在制作自定義鏡像時，您可以在本地環境或者ECS上完成自定義鏡像制作。

在您使用自定義鏡像功能時，ModelArts可能需要訪問您的容器鏡像服務SWR、對象存儲服務OBS等依賴服務，若沒有授權，這些功能將不能正常使用。建議您使用委托授權功能，將依賴服務操作權限委托給ModelArts服務，讓ModelArts以您的身份使用依賴服務，代替您進行一些資源操作。詳細操作參見使用委托授權。

使用自定義鏡像創建訓練作業

端到端樣例可參考最佳實踐-使用自定義鏡像創建訓練作業~

1.準備工作

完成訪問授權的配置，詳細操作參見使用委托授權。

已在OBS服務中創建桶和文件夾，用于存放樣例數據集以及訓練代碼。

2.制作自定義鏡像，您可以使用ECS或者應用本地已有的主機進行自定義鏡像的制作。

在制作鏡像用時，需滿足ModelArts定義的規范。

自定義鏡像中不能包含惡意代碼。

基礎鏡像中的部分內容不能改變，包括“/bin”、“/sbin”、“/usr”、“/lib(64)”下的所有文件，“/etc”下的部分重要配置文件，以及“$HOME”下的ModelArts小工具。

不可以新增屬主為“root”且權限包含“setuid”或“setgid”位的文件。

自定義鏡像大小不能超過5GB。

日志文件輸出，為保證日志內容可以正常顯示，日志信息需要打印到標準輸出。

ModelArts還提供基礎鏡像用于自定義鏡像的制作。基礎鏡像中有一些必要的工具，幫助用戶快速實現代碼下載、訓練日志輸出、上傳日志文件至OBS等功能。

3.上傳鏡像至SWR服務。上傳鏡像的詳細操作可參考SWR用戶指南。

4.使用自定義鏡像創建訓練作業。

使用自定義鏡像導入模型

端到端示例請參考使用自定義鏡像導入模型~

1.準備工作

完成訪問授權的配置，詳細操作參見使用委托授權。

已在OBS服務中創建桶和文件夾，用于存放數據以及相關文件。

2.制作自定義鏡像

在制作鏡像用時，需滿足ModelArts定義的規范。

自定義鏡像中不能包含惡意代碼。

自定義鏡像大小不超過30GB。

鏡像對外接口

鏡像的對外服務接口需要為8080，推理接口需與config.json文件中apis定義的url一致，當鏡像啟動時可以直接訪問。

健康檢查接口

自定義鏡像需要提供健康檢查接口供ModelArts調用，在config.json文件中配置，參見模型配置文件編寫說明。

日志文件輸出

為保證日志內容可以正常顯示，日志信息需要打印到標準輸出。

鏡像啟動入口

如果需要部署批量服務，鏡像的啟動入口文件需要為“/home/run.sh”，采用CMD設置默認啟動路徑。

鏡像依賴組件

如果需要部署批量服務，鏡像內需要安裝python、jre/jdk、zip等組件包。

3.上傳鏡像至SWR服務。上傳鏡像的詳細操作可參考SWR用戶指南。

4.選擇從容器鏡像導入模型，可參考從容器鏡像中選擇元模型。

5.將模型部署為在線服務。

AI開發平臺ModelArts EI智能體 容器 鏡像服務

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。