TWCC 助新創團隊迅速累積資源、鞏固創業基地
- 林佩瑩
-
無論從事AI、影像辨識、大數據、雲端服務或IoT的新創團隊，皆需仰賴大量運算資源，籌措資源的過程艱辛，為此國家實驗研究院國家高速網路與計算中心(以下簡稱國研院國網中心)提出TWCC臺灣AI雲，期望做為新創的後盾。
近期國研院國網中心啟動「TWCC星創爭霸」活動，規劃在北中南舉辦五場Workshop，引領新創界人士深入理解TWCC雲端服務內涵；日前於8月21日臺北場率先開跑。
匯聚國家級雲算力，做為產業新創的超強後盾
國研院國網中心企劃推廣組行銷總監李君偉指出，國研院國網中心成立初期著重為學術研究單位提供超級電腦運算資源，近年將範圍延伸到新創及產業。TWCC根植於「台灣杉二號」，擁有全東南亞最大的AI運算GPU超級電腦資源，提供容器計算、叢集計算和虛擬化計算三大服務架構，並由臺中、新竹與臺南等機房串起全國服務網路。
此外TWCC具備「在地」(低延遲網路、本地技術支援、數據落地自主管理)、「創生」(為新創提供POC、POS、Production各種方案支持)與「信賴」(國家級戰略基礎設施)三大特色，且蘊含快速、簡單、易用、高效之設計理念。
國研院國網中心雲端平台營運組副組長也是台灣杉二號／TWCC總架構師盧鴻復表示，TWCC以超級電腦為重要元件，把GPU計算環境雲端化，後面包含整串雲端服務。使用者登註冊iService服務網，登入TWCC，接著選擇需要的各式GPU環境規格、甚至可以透過CLI工具完成DevOps操作，短短幾分鐘內就可獲得想要的運算環境。
盧鴻復以ResNet-50為例，於活動中展開Demo。從選用TensorFlow映像檔、決定GPU數量，到開啟 JupyterNotebook 使用預先寫好的 Python 程式，3分鐘產生計算結果；相較於使用者在自家環境以消費級GPU來執行同等任務，效能上至少快3.5倍。以ResNet-50的模型訓練工作為例，TWCC的資料中心級GPU效能比起消費級的GPU可以將單一模型的正式訓練工作從數天縮短到8小時內。也就是說下班前把訓練工作投入TWCC，隔天上班就可以收穫訓練好的模型。TWCC的巨量GPU資源甚至可以讓資料科學家一個晚上同時完成多個模型的訓練工作。
「許多AI新創曾面臨挑戰，雖購置多台機器、卻無法統整這些資源，」盧鴻復說，即使公司願意花錢購買高階工作站機器、甚至做了虛擬化，仍經常礙於配置不佳，讓使用過程流於繁複，造成公司內資料科學家、資料工程師耗時處理機器瑣事，難以創造有效率、有品質的產出。這樣的專業人力浪費，是很多新創公司的盲點與痛點。透過TWCC服務，可直接引用已就緒的環境，使資料科學家可以專注在分析主題上。讓資料科學家爭取時效，處理更多題目、產出更多模型。更高、更專注的工作效率正是TWCC要提供給客戶的重要價值之一。
憑藉最佳GPU使用環境，提升創新創業效率
來自國研院國網中心TWCC團隊的工程師趙逢毅博士強調，TWCC是全臺最多GPU的農場(超過2,000 GPU)，已調校最佳環境，不僅能支撐大計算量，更因掌握公領域、公開授權的巨量資料集，堪稱絕佳的大數據處理環境。
為驗證TWCC能耐，國網團隊曾進行大尺度的實驗。鎖定全台高速公路1,488支即時影像攝影機，開發大數據分析平台、AI訓練建模環境，為每一支個別攝影機建立個別的車速預測模型，總共1,448個AI模型以實現高速公路全線的車速預測目標；最終得出模型切換時間為2.0367秒、實際預測時間為0.364秒，等於2.5秒內產出預測成果，效率優於高公局提供的數值(每分鐘 1 次)。
趙逢毅博士另點出TWCC幾個關鍵價值，包括與NVIDIA密切合作，營造出較一般環境高出逾3倍的混合精度運算效能、TensorCore效能，也打造出NGC最佳化環境。
值得一提，此系列Workshop邀請新創夥伴進行案例與使用經驗分享，以臺北場活動為例，講者包括康健基因科技副執行長王威霽、華碩雲端產業合作發展總監黃世民。
王威霽以第三代定序儀Oxford Nanopore為基礎，闡述該公司如何善用TWCC資源，結合Nanopore進行COVID-19病毒株定序並完成後續資料分析。從樣本處理、萃取核酸、建庫、上機，接著進行Data QC、Genome Assembly、Annotation、Phylogenetic Analysis，整體執行時間壓縮在14小時內，可確認COVID-19患者的病毒感染源最趨近那株已知的病毒株, 是否有產生新的變異並預測變異是否具有功能性。
至於黃世民，則闡述其基於TWCC催生智慧應用生成及營運框架，進一步孕育智慧城市智慧服務生成平台(SCCP)，形成Smart City 3.0建置概念，標榜可運用智慧科技活用數據資源，滿足並融合市民、產業與地方到中央政府多元「高度差異化」需求，且能造就一套「活的系統」，藉由導入、驗證、創新、調整、反饋、改善等循環不止的迴圈，帶動市政服務持續創新與改進。
總括而論，TWCC已發展出成熟技術且做到極致，而且在臺落地深耕、沒有敏感數據的合規風險，得以滿足新創所需之商轉動能，效益價值更勝國際公有雲。(林佩瑩整理報導)
