智慧應用 影音
DTResearch
event

奎景運算協同客戶加速醫療AI研發

奎景運算科技執行長陳俊傑。

林佩瑩/台北

奎景運算科技執行長陳俊傑曾服務於美國NVIDIA,看好台灣在智慧製造、智慧醫療領域的發展潛力,遂決定回臺創業,邀集深具數據探勘等研究底蘊的學弟妹建立研發團隊。在公司籌備期間,以產學合作為出發點,以突破小型新創公司不易建立人脈的瓶頸、快速觸及金字塔頂端客群。陳俊傑強調,奎景的初衷並非替客戶代為開發模型,而是幫助客戶建立一套AI excellent workflow。

從建立AI開發所需的軟硬體環境,乃至攸關模型加速訓練、如何進行AI模型的大規模部署等,促使AI專家能與領域專家攜手並進,藉由持續不斷的模型訓練、修正、再訓練流程,迅速打造成功的智慧應用方案。這般服務理念,深獲某醫療新創公司的認同,促使雙方合作發展呼吸偵測AI模型。

於今年(2020)上半年,國網中心為鼓勵各方好手加速創造抗疫創新方案,開啟「御守台灣 科技抗疫專案」,公開徵求各界提案。適逢當時協助客戶加速發展AI連續肺音監測系統的奎景運算科技,正好也對運算資源需求殷切,於是陳俊傑決定響應計畫、參與報名,因而結識國網中心的高速運算服務。

陳俊傑表示,TWCC臺灣AI雲擁有豐沛的GPU運算資源,用戶可依其研究題目涉及的資料量大小、模型複雜度,啟用多台主機與多張GPU顯示卡、進而展開平行計算;使得原本耗時數日的作業,驟減到幾小時內完成,達到3~4倍以上的增速效果,連帶讓客戶的試錯週期變短,加快AI專家與領域專家彼此檢視模型、修正模型的節奏。

影響所及,奎景和客戶合作至今不過一年,客戶之AI肺音監測成果已獲得TFDA認證,並積極申請臨床驗證中,效率之高著實令人驚艷,背後提供運算力的TWCC臺灣AI雲堪稱居功厥偉。

藉助大量頂級GPU,讓模型開發效率急遽飆升

陳俊傑透露,在使用國網中心TWCC臺灣AI雲資源前,奎景為了籌措模型訓練所需之巨大資源,曾嘗試採用電信公司提供的GPU雲服務,但成本壓力依然不輕。

後來有幸參與國網中心抗疫專案,終於突破瓶頸,能以合理成本取用大量且頂級的GPU資源,大幅加快模型計算速度,繼而減少等待時間、提高模型開發與測試之效率,讓客戶的AI肺音監測研究計畫得以快步運行。

「過程中,國網中心為我們配置一位功力深厚的研究員,藉由他的輔助,讓許多技術障礙迎刃而解。」陳俊傑說,這名研究員對於機器設定,以及相關函式庫與SDK等可用工具的挖掘,可說涉獵甚深,屢屢給出絕佳建議,亦是促使此次研究計畫順利推展的一大關鍵。

展望下一步,奎景期望從加速模型訓練再往前進,著手建立能將AI模型實際落地到醫院、工廠等場域的快速可規模化模型部署流程。

到了這個階段,不僅需要動用大量運算資源,且必須克服許多新的難題,包括如何運用分散式運算架構,使模型不管執行在一張或多張GPU上,皆無需更改程式;以及如何確保能在10秒內將模型輕易部署到1千台甚或1萬台主機,達到AI DevOps目標。

為此奎景將持續與國網中心緊密合作,一方面繼續借重TWCC的高性價比運算資源,二方面則仰賴研究員協助解決諸多底層技術關卡,使奎景不斷維持最高效率的探索與開發進程。

  •     按讚加入DIGITIMES智慧醫療粉絲團
更多關鍵字報導: 國網中心 智慧醫療 生醫新創