奎景運算協同客戶加速醫療AI研發

奎景運算科技執行長陳俊傑。

奎景運算科技執行長陳俊傑曾服務於美國NVIDIA，看好台灣在智慧製造、智慧醫療領域的發展潛力，遂決定回臺創業，邀集深具數據探勘等研究底蘊的學弟妹建立研發團隊。在公司籌備期間，以產學合作為出發點，以突破小型新創公司不易建立人脈的瓶頸、快速觸及金字塔頂端客群。陳俊傑強調，奎景的初衷並非替客戶代為開發模型，而是幫助客戶建立一套AI excellent workflow。

從建立AI開發所需的軟硬體環境，乃至攸關模型加速訓練、如何進行AI模型的大規模部署等，促使AI專家能與領域專家攜手並進，藉由持續不斷的模型訓練、修正、再訓練流程，迅速打造成功的智慧應用方案。這般服務理念，深獲某醫療新創公司的認同，促使雙方合作發展呼吸偵測AI模型。

於今年(2020)上半年，國網中心為鼓勵各方好手加速創造抗疫創新方案，開啟「御守台灣 科技抗疫專案」，公開徵求各界提案。適逢當時協助客戶加速發展AI連續肺音監測系統的奎景運算科技，正好也對運算資源需求殷切，於是陳俊傑決定響應計畫、參與報名，因而結識國網中心的高速運算服務。

陳俊傑表示，TWCC臺灣AI雲擁有豐沛的GPU運算資源，用戶可依其研究題目涉及的資料量大小、模型複雜度，啟用多台主機與多張GPU顯示卡、進而展開平行計算；使得原本耗時數日的作業，驟減到幾小時內完成，達到3~4倍以上的增速效果，連帶讓客戶的試錯週期變短，加快AI專家與領域專家彼此檢視模型、修正模型的節奏。

影響所及，奎景和客戶合作至今不過一年，客戶之AI肺音監測成果已獲得TFDA認證，並積極申請臨床驗證中，效率之高著實令人驚艷，背後提供運算力的TWCC臺灣AI雲堪稱居功厥偉。

藉助大量頂級GPU，讓模型開發效率急遽飆升

陳俊傑透露，在使用國網中心TWCC臺灣AI雲資源前，奎景為了籌措模型訓練所需之巨大資源，曾嘗試採用電信公司提供的GPU雲服務，但成本壓力依然不輕。

後來有幸參與國網中心抗疫專案，終於突破瓶頸，能以合理成本取用大量且頂級的GPU資源，大幅加快模型計算速度，繼而減少等待時間、提高模型開發與測試之效率，讓客戶的AI肺音監測研究計畫得以快步運行。

「過程中，國網中心為我們配置一位功力深厚的研究員，藉由他的輔助，讓許多技術障礙迎刃而解。」陳俊傑說，這名研究員對於機器設定，以及相關函式庫與SDK等可用工具的挖掘，可說涉獵甚深，屢屢給出絕佳建議，亦是促使此次研究計畫順利推展的一大關鍵。

展望下一步，奎景期望從加速模型訓練再往前進，著手建立能將AI模型實際落地到醫院、工廠等場域的快速可規模化模型部署流程。

到了這個階段，不僅需要動用大量運算資源，且必須克服許多新的難題，包括如何運用分散式運算架構，使模型不管執行在一張或多張GPU上，皆無需更改程式；以及如何確保能在10秒內將模型輕易部署到1千台甚或1萬台主機，達到AI DevOps目標。

為此奎景將持續與國網中心緊密合作，一方面繼續借重TWCC的高性價比運算資源，二方面則仰賴研究員協助解決諸多底層技術關卡，使奎景不斷維持最高效率的探索與開發進程。