如何部署模型到ModelArts并遠(yuǎn)程調(diào)用 (一)：保存模型為平臺(tái)支持的格式

前言

本文章會(huì)介紹如何將訓(xùn)練好的AI模型部署到ModelArts上，成為一個(gè)在線API服務(wù)，并通過(guò)互聯(lián)網(wǎng)對(duì)外提供服務(wù)。

本文章不考慮自定義鏡像的場(chǎng)景，因?yàn)榉绞奖容^復(fù)雜。

本文章會(huì)大量復(fù)用ModelArts的幫助文檔，但是會(huì)添加一些自己的見解和評(píng)論，并將幫助文檔中的內(nèi)容組織成一個(gè)工作流。

模型部署流程介紹

如果想要將訓(xùn)練好的模型部署到ModelArts上，并通過(guò)互聯(lián)網(wǎng)對(duì)外提供服務(wù)，需要完成以下幾個(gè)步驟。

第一步，需要將模型保存成ModelArts部署支持的模型格式。請(qǐng)參考：保存模型為平臺(tái)支持的格式。

第二步，編寫推理配置文件，config.json。在該文件中定義模型推理環(huán)境。請(qǐng)參考：編寫推理配置文件。

第三步，編寫推理代碼， customize_service.py 。在該文件中編寫推理邏輯。請(qǐng)參考：編寫推理代碼。

第四步，將模型、推理代碼、推理配置文件組織成模型包，導(dǎo)入到ModelArts，成為一個(gè)ModelArts模型。請(qǐng)參考：導(dǎo)入模型。

第五步，將ModelArts模型部署成一個(gè)在線API服務(wù)，并通過(guò)HTTPS請(qǐng)求訪問(wèn)這個(gè)在線API服務(wù)。請(qǐng)參考：如何調(diào)用在線API服務(wù)。

由于篇幅過(guò)長(zhǎng)，接下來(lái)，我們將分多篇文章依次詳細(xì)介紹這幾個(gè)步驟。

保存模型為平臺(tái)支持的格式

要想將模型部署到ModelArts上，需要將模型保存為ModelArts部署支持的格式。

各個(gè)AI框架支持的部署格式見此文檔。

關(guān)于如何將模型保存成這些格式，見此示例。請(qǐng)參考其中的各個(gè)AI引擎的訓(xùn)練代碼的寫法，在訓(xùn)練結(jié)束的時(shí)候，會(huì)保存模型為ModelArts平臺(tái)支持的格式。

這里特別提一點(diǎn)，由于Keras非常簡(jiǎn)單易用，很多開發(fā)者喜歡使用Keras。目前TF2.X對(duì)Keras的支持特別好，可以直接將Keras模型保存成TensorFlow的pb模型（平臺(tái)支持的模型部署格式），使用如下代碼即可完成：

model.fit(x_train,?y_train,?epochs=10) tf.keras.models.save_model(model,?"./mnist")

附：

如何部署模型到ModelArts并遠(yuǎn)程調(diào)用 （二）：編寫推理配置文件

如何部署模型到ModelArts并遠(yuǎn)程調(diào)用 （三）：編寫推理代碼

如何部署模型到ModelArts并遠(yuǎn)程調(diào)用 （四）：導(dǎo)入模型

如何部署模型到ModelArts并遠(yuǎn)程調(diào)用 (五)：如何調(diào)用在線API服務(wù)

AI開發(fā)平臺(tái)ModelArts

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容，請(qǐng)聯(lián)系我們jiasou666@gmail.com 處理，核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。