活用雲端基建,開創數位、綠色雙軸轉型新未來 智慧應用 影音
Vishay
ST Microsite

活用雲端基建,開創數位、綠色雙軸轉型新未來

  • 闞大成DIGITIMES企劃

AWS舉辦韌性製造峰會,將主題定調於「雲地聯防即戰力,重塑智慧供應鏈」,闡述如何運用雲端達到最佳化資源整合。DIGITIMES攝
AWS舉辦韌性製造峰會,將主題定調於「雲地聯防即戰力,重塑智慧供應鏈」,闡述如何運用雲端達到最佳化資源整合。DIGITIMES攝

現今已是AI時代,眾所周知數據成為了新石油,因此各行各業都急欲完整地保存、萃取與應用數據,但單憑傳統地端架構無法成就此事,所以需要借重雲端賦能與協作,從而促使雲端儲存、運算、網路等基礎建設日趨完善,加上終端行動裝置逐漸普及成熟,使得「數位轉型、綠色經營」蔚為新浪潮。

因此,如今絕大多數企業機構皆有所體認,「雙軸核心」已成為營運升級前的必考題,這對於企業而言固然是一筆投資,然而更是一場長期布局與挑戰。著眼於此,DIGITIMES舉辦一場定調在「雲端基建與雙軸轉型」的論壇,希冀藉助產學研各界專家釋出寶貴的經驗與知識,讓來自於企業的廣大聽眾有所啟發,知道如何迅速乘上雲端浪潮,實踐業務永續的終極目標。

資策會商業經理林君容分享如何實踐AI驅動的委外管理……。DevOps開發團隊只需送上程式碼,就能自動展開測試,確知程式有無品質或漏洞問題……。DIGITIMES攝

資策會商業經理林君容分享如何實踐AI驅動的委外管理……。DevOps開發團隊只需送上程式碼,就能自動展開測試,確知程式有無品質或漏洞問題……。DIGITIMES攝

國研院國網中心主任張朝亮,以國網中心(NCHC)提供的可信賴雲端資料分析環境與雲端服務作為演說主題。DIGITIMES攝

國研院國網中心主任張朝亮,以國網中心(NCHC)提供的可信賴雲端資料分析環境與雲端服務作為演說主題。DIGITIMES攝

第一線積極將現有SD-WAN POP升級為SASE POP,期望匯聚SD-WAN、雲原生安全(SASE+ZTNA)等即服務能量,打造完整的一站式SASE解決方案。DIGITIMES攝

第一線積極將現有SD-WAN POP升級為SASE POP,期望匯聚SD-WAN、雲原生安全(SASE+ZTNA)等即服務能量,打造完整的一站式SASE解決方案。DIGITIMES攝

DIGITIMES研究中心分析師陳冠榮預期,未來我們可看到除LLM模型規模持續擴增外,也會逐漸看到更多元的發展趨勢……。DIGITIMES攝

DIGITIMES研究中心分析師陳冠榮預期,未來我們可看到除LLM模型規模持續擴增外,也會逐漸看到更多元的發展趨勢……。DIGITIMES攝

東海大學圖書暨資訊處圖資長楊朝棟認為學校猶如小型都市,若能做出好的智慧校園,可擴展到整個智慧城市,反之亦然……。DIGITIMES攝

東海大學圖書暨資訊處圖資長楊朝棟認為學校猶如小型都市,若能做出好的智慧校園,可擴展到整個智慧城市,反之亦然……。DIGITIMES攝

AI的未來就是現在!蓋亞資訊展示如何結合雲端服務與智能搜索(Prompt+RAG),讓企業加速實踐AI在商業上的應用效益。DIGITIMES攝

AI的未來就是現在!蓋亞資訊展示如何結合雲端服務與智能搜索(Prompt+RAG),讓企業加速實踐AI在商業上的應用效益。DIGITIMES攝

緯謙科技推廣微軟GitHub Copilot,與自研的WiKMS(企業自用ChatGPT)等方案,助製造業落實提質、增效、降本、減存、ESG等五大AI應用。DIGITIMES攝

緯謙科技推廣微軟GitHub Copilot,與自研的WiKMS(企業自用ChatGPT)等方案,助製造業落實提質、增效、降本、減存、ESG等五大AI應用。DIGITIMES攝

透過可信賴雲端,加速產業應用與學術研究發展

國研院國網中心主任張朝亮,以國網中心(NCHC)提供的可信賴雲端資料分析環境與雲端服務作為演說主題。他指出,NCHC提供的雲端服務與有別於一般雲平台,偏向Specialty Cloud屬性,像是NCHC最擅長的HPC Cloud。

有鑑於產品應用開發、學術研究或是先進研究,都需要存取HPC主機,促使NCHC打造HPC Cloud。談到常見的雲端服務存取模式,多是利用VM來設定一個叢集、然後直接運行,但NCHC亟欲營造高效能運算(HPC)環境,讓用戶直接存取後端主機,故未採取一般模式,特別打造足以避免延遲(Latency)的中間網路,作為服務的一大特色。

另外論及NCHC所訴求的「可信賴雲端」,主要是引進Network Partition概念,考量用戶須傳輸機密資料,因而提出一個具隱私保護、資料加密的網路;而當資料進入雲端時,NCHC再以Data Partition、Secure Enclaves加上Data Residency,據以實現資料不落地;後續完成訓練,就直接送出結果,並以安全加密機制高度保護資料,藉此翻轉「Bring Analysis to Data」傳統模式,形塑「Bring Data to Analysis」新局。

擁抱大智物雲,以數據、通訊及科技改善校園問題

東海大學圖書暨資訊處圖資長楊朝棟,闡釋該校在「大智物雲」(雲端服務、大數據分析與智慧物聯網)的發展成果。他強調學校猶如小型都市,因此若能做出好的智慧校園,可擴展到整個智慧城市,反之亦可將智慧城市概念縮小到智慧校園;為此東海提出「SMILE」概念,期望運用數據、通訊及科技來改善校園中的服務、管理、生活資訊、學習、環境等問題,讓師生都能因為智慧而微笑。

推動智慧校園的初期,重點在於建構雲端化智慧服務應用、虛擬化資訊系統、數位化資料應用。後來隨著少子化、淨零排放等諸多議題崛起,驅使東海智慧校園與時俱進,納進生成式AI、資通安全、AIoT應用、智慧+、SDG/ESG等新元素。

值得一提,在國內大學,東海堪稱軟體雲的先行者,約10年前便以VMware的vSphere和Horizon為基底,讓師生可在任何地方遠距存取校方軟體。後續進入AI/生成式AI時代,東海斥資建構GPU環境,方便師生來運用,存取諸如Stable Diffusion等現今火紅的生成式AI模型。

DevOps加上AI,大幅優化委外管理效能

資策會商業經理林君容,探討如何實踐AI驅動的委外管理,提升管理效能。近3多年她聚焦發展DevOps,希望開發團隊只需送上程式碼,就能自動展開一連串測試,不再需要由管理者緊盯每位開發者做什麼修什麼,即可確知此程式究竟有無品質或漏洞問題。

她強調DevOps重點在於促成跨職能合作,意即在同一個小團隊匯聚不同職能,搭配各項自動化工具,協力快速解決複雜問題。發展過程中亦需推動Platform Engineering,把DevOps變成一個Platform,讓使用者(工程師)真正專注在他的專長。另隨著攻擊日新月異,必須將安全檢測納進DevOps。

至於AI可幫到DevOps什麼忙?因DevOps環境充滿程式碼,據調查約有70%程式碼反覆於各專案,但多數人無意重複運用程式碼,寧可發包請廠商重寫,因為要讀取消化既有程式碼,得花1.5倍的工,不如重新發包。既然委外需求大,承辦人可透過DevOps搭配AI,安心做好合約管理、版本管理、程式碼管理與安全檢測,並藉由持續交付,清楚掌握每段測試結果,更易於控制風險。

發展企業AI應用,務求破解AI幻覺

DIGITIMES研究中心分析師陳冠榮預期,未來我們可看到除LLM模型規模持續擴增外,也會逐漸看到更多元的發展趨勢。

關於此,大致歸納3個方向。一是LLM逐漸走向多模態,不只是文字生成文字,還有文字生成圖片或影音等。二是LLM開始追求小型化,如Llama2有不同參數規模,旨在讓模型能搭載在邊緣或終端裝置。三是雲端業者開始著重不同垂直應用,希望為各產業提供專屬模型,意謂AI發展不再只趨向一般消費者,也走向更多的企業或產業應用。

惟談到企業應用,勢必更重視模型正確性,以避免因AI幻覺而造成實損失。所以像是模型再訓練、模型微調,或是提示詞精確化、RAG等議題,可望受到更大關注。

雲端服務+智能搜索,開創AI商業應用

蓋亞資訊業務經理陳勁瑋指出,企業已歷經3次轉型,一是從地到雲,突破地理限制並獲取更佳算力、輕易拓展全球生意。二是容器化,增加企業服務的可移植性、效率與安全性。三是AI,也包含近期火紅的生成式AI(GenAI)、大型語言模型(LLM)。

惟關於GenAI與LLM,尚有幻覺問題亟待解決。為此陳勁瑋介紹兩個解方,一是加入關鍵字(Prompt),二是檢索增強生成架構(RAG);其中Prompt如瞄準鏡,幫助我們對症下藥、加速找出所需解答,至於RAG,則在答案丟給LLM前,先透過內部檢索比對資料,提高整體回答的準確性。而蓋亞致力結合智能搜索(Prompt+RAG)與雲端服務,期盼創造1加1大於2功效,助企業加速建構高效準確的GenAI應用場景。

善用無伺服器服務,加快Go to Market進程

AWS SSO lead產品團隊經理Cathy Lai,針對無伺服器(Serverless)議題展開演說。她指出Serverless對AWS非新課題,早在2016年便催生Lambda第一個服務;發展至今,舉凡前端運算調度,乃至後面的API整合、資料整合,逐步達到全線產品Serverless化。如同AWS與Amazon.com技術長Werner博士所言,再無一台Server需要由客戶營運和維護。取而代之客戶可直接啟用Serverless服務,快速Go to Market,且不使用時無需付費。

因此透過AWS Serverless運算架構,足以提供彈性擴展、成本節約且高效的運算成分;客戶可藉助不同Serverless元件的整合,輕易達到一個整合型架構。譬如前端運算架構進來後,由API Gateway轉發,調度後端運算服務,再存檔至資料庫如DynamoDB、Aurora Serverless V2,或最新推出的ElastiCache Serverless快取服務。

以數據中台延伸AI,形塑智慧製造應用大局

緯謙科技副總經理葉卯陽,分享緯謙參與的數位轉型與智慧製造應用案例。他表示,數位化牽涉甚廣,須做到自動化、可視化,往下延伸到數據中台,再藉由數據中台延伸至AI;而數位轉型是不斷循環滾動的歷程,絕非一個專案成功就結束。

數位轉型與智慧製造殊途同歸,最終目的都在於如何創造營收、創造更大價值。故數位轉型路徑、智慧製造路徑兩者相輔相成,係因產線中除了設備自動化外,還蘊含許多數位轉型發展空間,這些發展皆需藉助雲端、IIoT及AI三大技術。基於這些目標實踐,緯謙力推數據中台服務,透過自動化ETL功能與雲端運算引擎,即時活化OT與IT數據資源,助企業進行生產、研發、行銷決策化分析。

憑藉最佳算力配置,創造最佳AI應用成效

華碩電腦Data Center Solutions產品經理呂益丞,分享近年華碩集團針對AI運算的發展成果,期望營造一條龍服務優勢,爭取海內外企業青睞。

不可諱言,推動AI有一重點,需要準確衡量算力。為此華碩從2019年起一路跟隨NVIDIA等同業參與MLCommons組織,導入AI訓練和推論評測指標,讓客戶可根據需求,選擇具有最佳算力的產品。與此同時華碩努力精進韌體層、硬體層及訊號傳遞,得以在諸多MLPerf Benchmark締造佳績,使客戶能增強信心,確認只要善用華碩的GPU Server、NVIDIA HGX Solution,乃至終端的迷你PC或螢幕,即可達到理想的AI應用成效。華碩甚至自建大型語言模型,除部署到台智雲的雲服務外,亦支援On-permise佈建,方便企業做進一步的調優,直接進行7B、33B甚或180B的Token運算。

透過一站式SASE服務,建立雲網安融合優勢

香港商第一線台灣分公司售前經理高沛辰,暢談如何藉助公有雲接入服務、雲網安融合的一站式SASE方案,實現最佳雲端營運策略。

近年數位轉型、AI等議題延燒,但皆需以資安、連網效能為基底。為此第一線致力發展兩大關鍵服務,首先是公有雲接入,透過其MPLS核心骨幹,再以專線方式協助客戶接入各大公有雲,營造優於Internet的連線品質。其次針對資安,有鑑於混合辦公以及公有雲/SaaS等趨勢興起,第一線期望提供企業比VPN更安全的存取模式,故結盟國際級領導業者,打造兼具SSE(Security Service Edge)、ZTNA(零信任網路存取)及SD-WAN(軟體定義廣域網路)完整元素的SASE一站式方案,使遠端工作者能透過Internet安全地存取公司內部服務或雲端服務,在效能與安全之間取得最佳平衡。

以ITSM及Low Code為核心,快速建立AIOps高效流程

叡揚資訊系統直屬事業處副處長張祐嘉,闡述如何利用全視化IT指揮塔,營造「觀察(Observe)、判斷(Engage)、行動(Act)」自動化AIOps流程,以簡化複雜IT任務,提高效率並降低成本。

張祐嘉表示,綜觀IT人的日常,往往先Observe到某事件發生,再由人來判斷該怎麼解決,此時需憑藉網路監控、DB監控、User反應…等多方來源,甚至查Change Log,才決定後續行動方案,如重啟VM、加大磁碟空間或啟動RPA等。顯見中間Engage環節至關重要,需以完善的ITSM機制為依歸。為此叡揚推薦採用ServiceNow工具,係因它能輕易做到Connect Everything、串連所需資料,減短判斷流程,再利用平台所提供業界最豐富的CMDB與Webhook,輔以Low Code方式,快速做出任何你想要的Trigger,藉由SOP自動化方式,輕鬆排解各種IT維運難題。

援引科技電信能量,推動GenAI與安全應用

台灣大哥大企業服務新創服務發展處商務開發經理周謙程,分享如何以科技電信助力,幫助企業推展生成式AI與安全應用。

他指出「科技+電信」為台灣大哥大集團的雙軸轉型路徑,其科技電信藍圖以可靠的通訊服務為基石,穩定支持媒體娛樂、行動商務與企業服務全面擴展。其中的企業服務團隊,對生成式AI(GenAI)著力至深,不但用以改善集團對外服務,也從中累積豐富實務經驗,懂得放大GenAI好處並解決幻覺、偏見等疑慮,可協助企業建構完善的GenAI應用環境。包括提供底層GPU超算力平台,以私有雲交付整合繁中語料庫的LLM,搭配歷經AI 2.0國家平台、台灣大哥大ISO雲端機房…等專案淬鍊的資安能量,匯聚成扎實的Best Practice,最終透過技術與顧問團隊體現於客戶專案。


關鍵字