智慧應用 影音
台灣亞馬遜網路服務有限公司
event

400個病歷5萬張圖片 國網自動開關算力效率化資源

在任務型容器內設定執行時間,作業完成即自動退出,用多少算多少,節省開發成本。王聿泰

Amazon AWS、微軟(Microsoft) Azure、Google 人工智慧(AI)平台、NVIDIA等跨國企業都藉由雲端運算或邊緣運算等方式提供機器學習與深度學習的算力服務,而台灣本土也有類似的服務,財團法人國家實驗研究院國家高速網路與計算中心(以下簡稱國網中心)也有建置高速運算的台灣AI雲,提供國內產官學研醫法政與新創團隊使用。在使用上,到底有哪些面向比較特別,這次也專門邀請到國網中心智慧應用組組長王聿泰來與大家分享使用心得、與產業的互動經驗。

三大類AI算力使用者 彈性共享算力資源

除了完成國網中心服務的申請步驟,包括iService的使用者帳號申請、綁定台灣手機門號、E-mail以外,更重要的是「根據使用的計算資源」與「三種身分」來啟動服務計畫,包括一、政府機構、二、業界、三、科技部計畫。

在梅特卡夫定律(Metcalfe’s law)方興未艾的年代,彈性與快速相當重要,王聿泰舉科技部計畫申請的情境分享說道,「1個小時之內,馬上可用」,僅需在3個月之內完善經費申請流程即可。可見「縮減啟用流程」也成了加速切入市場的關鍵。

除了一個帳號自己用以外,共同開發者、合作夥伴、老師學生之間也可以藉由新增附屬帳號、電子錢包的系統,共享同一個帳號的算力資源。此外,為了優化使用者體驗、降低重複登入的麻煩,iService與TWCC.AI的認證是互通的,也因此在切換時,無需再重複登入。

除了節點依場域設計和優化 算力資源自動開關提供經費最佳化

針對國網中心的超級電腦運算平台到底有什麼特別?王聿泰舉了一些數據供大家參考,比方說,起初平台就是以「超級電腦的規模來設計」,也成了最大亮點,跟NVIDIA的合作,也是多次調校正,根據國網中心的環境,調校到最佳狀態。

與其他平台電腦之間聯結為一般網路相比,國網中心的超級電腦之間則是用特別網路聯結,在128個節點的串聯之下,效能還能維持在90%以上,相較其他平台可能僅剩80%左右。使用上,使用者進到系統、點選調校後的系統、可以建立模型、擁有儲存空間、上傳資料到暫存的儲存空間。

王聿泰補充說道,當使用者建立模型後,能將建立的環境儲存起來,並建立特殊、個人化、微調的腳本,同時,系統更提供「自動開啟與自動關閉」的服務,也有效最佳化使用費率。

自動開關的意思是,當工程師寫程式時跑程式、數值分析軟體,比方說,如果程式跑了1小時,軟體已有結果,然而一般平台的畫面會持續開著,那麼以量計費來說,就會繼續算錢,但國網中心的系統若是偵測到程式跑完,就會協助自主關閉,替使用者省下不必要支出的費用。

像是有個AI影像模型判讀的案例,約400個病歷與5萬張512x512解析度的圖片,耗時1天的算力,牌價約新台幣3.1萬元;另一個案例則是800個病歷與300張256x256的資料、800x60的資料,也1小時就算完,僅82元。王聿泰笑著說,光是想到DGX系統就要新台幣400多萬元,就能想像得出來,根據使用量收費,其實真的大幅降低運算成本。

延伸閱讀:形塑醫療數據應用品質 國網中心IaaS接軌國際

蔡騰輝

DIGITIMES電子時報智慧醫療主編蔡騰輝Mark Tsai
專注研究智慧醫療產品、技術、服務導入場域時,所遇到的困難癥結與如何克服要點。
有時喜歡用德文思考,用英文採訪
揪團打排球之餘、跳跳Swing Dance

作者更多專欄

  •     按讚加入DIGITIMES智慧醫療粉絲團