借助整合式AI方案 企業營運大幅提升訓練與建模效率 智慧應用 影音
Mouser
ST Microsite

借助整合式AI方案 企業營運大幅提升訓練與建模效率

  • 林稼弘台北

為加速數位轉型,許多企業紛紛投入AI環境建置工作,但過程中往往遭遇幾個難題,包括如何引入資料專學家;如何採集豐富資料,再透過訓練與建模將資料轉化為資訊、知識;如何善用科技,建構最佳化的AI平台、報表與工具;以及如何打造最佳的底層架構,隨時因應突然爆增的效能與容量需求,更有彈性地進行橫向擴充。

NetApp台灣技術長張展智表示,上述挑戰涵蓋資料科學家、資料、科技、底層基礎架構等四個環節,針對後兩者,最佳解決途徑即為混合雲。主要是因為,執行Training與Modeling需要動用GPU資源,假使面臨大量突發需求、逾越企業機房現有的GPU所能提供的運算,即可適時引用公有雲資源,也就是將資料經過加密上傳公有雲平台,完成GPU運算後再將結果落地回企業,利用混合雲架構來降低科技與底層架構的風險。

NetApp台灣技術長張展智。NetApp

NetApp台灣技術長張展智。NetApp

數年前NetApp與NVIDIA合力孕育ONTAP AI整合式方案,除滿足邊緣端的資料採集,核心端的資料準備、模型訓練與部署等外,也支援公有雲訂閱服務,甚至可針對大量資料提供保護、分層等功能,堪稱市場上最能促進AI與混合雲相輔相成、共同協作的解決方案,為企業帶來最佳的ROI、最快的GTM(Go-to-Market)效率。

蘊含最佳實務配置 簡化採購與部署流程

張展智指出,ONTAP AI整合式方案蘊含四大優勢,首先它具有經過NetApp和NVIDIA雙方驗證的完整AI Stack,可透過最佳實務(Best Practice)的配置來簡化企業採購流程。其次將不同效能與容量組裝為多元技術配置,滿足從小到大的部署需求。

再者為協助企業順利執行安裝與佈建,ONTAP AI提供由雙方專家認可的Deployment Guide、並放置於官網上,以利用戶或建置夥伴下載使用。最後則採用NetApp和NVIDIA共同設計的集中式支援模型,用戶無論遇到何等疑難雜症,皆可向NetApp或NVIDIA任一窗口反應,然後由兩邊專家共同解決問題,展現最高的障礙排除效率。

前述提及的Deployment Guide,基本上是一套Step by Step的Workbook,引導用戶最快實踐最佳配置。假使企業欲以x86伺服器搭配NVIDIA GPU自建AI環境,亦可參考Deployment Guide來實作,只是佈建時間較長一些,且後續若有支援需求,也只能分別尋求伺服器、GPU不同供應商的協助。

優化作業體驗 創造最佳ROI與GTM效率

談到ONTAP AI對於企業的實質助益,除了一開始簡化採購流程和佈建程序外,更大的利基,在於能夠迎合資料科學家、基礎架構工程師與企業主共同在意的ROI與GTM目標,讓資料加速產生價值,且確保資料管理的體驗更為簡潔流暢。

舉例來說,資料科學家在執行模型訓練的過程,通常面臨眾多版本切換與控制需求,假設原始資料為1TB大小,初步產出第一版訓練結果後,會再稍加修改成為下一版訓練資料,接著產出另一版訓練成果;按理說1TB資料歷經三個版本切換,將衍生三倍儲存空間需求,且徒增三倍作業時間。如今ONTAP AI用戶可援引NetApp ONTAP所有軟體技術,利用其中FlexClone功能,在數秒內Clone出數TB、數十TB或最大數百TB的複本,完全不需犧牲效能,也僅微幅增加少許的空間佔用,減輕企業的採購預算負擔,且創造更佳使用者體驗,使資料科學家得以保留寬裕時間來處理AI學習。

另值得一提,NetApp貼心提供DataOps Toolkit,透過自動化流程,將前端資料處理、後端資料配置的整套歷程串在一起,讓資料科學家或工程師可藉由Helpdesk系統,自助提出他想要的申請條件,包括期望獲得的容量、效能與SLA(例如需不需要做備份或DR),進而以最快速度完成環境建置,連帶省卻後端IT操作者針對個案準備資源的冗長時間,使企業更簡單地啟用與管理AI運算資源。


關鍵字