研揚科技全方位解決方案 加快邊緣運算與AI創新步伐 智慧應用 影音
vishay
世平

研揚科技全方位解決方案 加快邊緣運算與AI創新步伐

  • 賴品如台北

英特爾平台研發協理王宗業(左二)在演講中指出,預計到2026年全球AI支出將突破3,000億美元大關。研揚
英特爾平台研發協理王宗業(左二)在演講中指出,預計到2026年全球AI支出將突破3,000億美元大關。研揚

數位轉型與AI浪潮帶來前所未有的挑戰與機遇。作為Intel架構運算平台的領導者,研揚科技成立30年以來,始終致力於提供企業完整解決方案,從雲端訓練伺服器到邊緣運算主機,助力企業提升競爭力。為幫助企業掌握最新技術,研揚科技近日舉辦了「2024研揚科技 Solution Day」,邀請多位專家深入解析邊緣運算的市場趨勢及解決方案。

研揚科技業務處資深經理丁國平在致詞時表示,儘管AI的軟硬體應用已廣泛討論,邊緣運算仍是較少被觸及的領域。然而,研揚科技早已在該領域耕耘多年,並累積了豐富經驗。此次活動重點放在邊緣運算的應用潛力,透過研揚解決方案幫助企業掌握智慧化商機。

研揚科技現場展示了多款創新產品應用。研揚

研揚科技現場展示了多款創新產品應用。研揚

研揚科技業務處資深經理丁國平在致詞時表示,儘管AI的軟硬體應用已廣泛討論,邊緣運算仍是較少被觸及的領域。研揚

研揚科技業務處資深經理丁國平在致詞時表示,儘管AI的軟硬體應用已廣泛討論,邊緣運算仍是較少被觸及的領域。研揚

研揚科技已在該邊緣運算領域耕耘多年,並累積了豐富經驗。此次活動重點放在邊緣運算的應用潛力,透過研揚解決方案幫助企業掌握智慧化商機。研揚

研揚科技已在該邊緣運算領域耕耘多年,並累積了豐富經驗。此次活動重點放在邊緣運算的應用潛力,透過研揚解決方案幫助企業掌握智慧化商機。研揚

資深產品經理蘭之怡在演講提到,靈活快速的設計支援與混合模組的高效測試能力,可滿足應用市場的特定需求。研揚

資深產品經理蘭之怡在演講提到,靈活快速的設計支援與混合模組的高效測試能力,可滿足應用市場的特定需求。研揚

迎接AI浪潮 英特爾與APMIC深化技術布局

英特爾平台研發協理王宗業在「使用Intel AI軟硬體微調大語言模型」的演講中指出,AI發展速度驚人,預計到2026年全球AI支出將突破3千億美元大關。邊緣運算和生成式AI尤其備受矚目,目前已有58%的執行長積極投資AI,預計2026年將有超過75%的邊緣部署採用AI技術。因應此趨勢,英特爾全力推動AI在各領域的應用,無論是個人電腦還是企業資料中心,均提供完整的AI軟硬體整合方案。英特爾解決方案強調開放性與易用性,其AIPC產品支援CPU、GPU、NPU等不同硬體平台,在會議摘要、聊天機器人、圖像增強等多元應用場景已有應用實例。在大型語言模型領域,英特爾可運用旗下軟硬體平台,對如Llama 2等模型進行微調優化。此外英特爾使用OpenVINO和LangChain等開放標準與工具,優化生成式AI模型。

未來企業將透過AI提升人力作業、自動化工作流程和部門運作效率,後續的發展趨勢將朝向部署AI Agent,並運用企業專屬資料強化AI的智能與應用價值。王宗業認為,此趨勢不僅改變企業的運作模式,也將為各領域帶來新機遇與挑戰。對此,英特爾將提供從個人電腦到雲端的大規模參考設計,確保AI的擴展性、安全性和可靠性。在此同時,英特爾也高度重視開放生態系統,並將企業資料安全視為首要考量,希望藉由全面性的策略,加速AI技術普及,提供企業更多選擇。

APMIC亞太智能機器共同創辦人暨產品負責人林益弛,也在演講中分享企業加速大型語言模型私有化的策略。APMIC成立於2017年,專注於自然語言理解(NLU)領域,提供企業LLM即服務工具箱。隨著AI技術快速發展,LLM私有化已成為企業的重要課題。他指出,生成式AI雖然強大,但也帶來了安全風險。對此,企業需採用負責任的AI(rGAI)策略,確保AI生成內容的安全性與可靠性,因應此一挑戰,林益弛建議可使用通過參考外部知識庫優化LLM輸出的RAG(檢索增強生成)技術,在生成式AI和模型微調方面,APMIC提供了多種大語言模型選擇,使用者可透過指令微調和人類回饋強化學習(RLHF)提升模型效能,滿足不同企業的特定需求。

林益弛接著表示,APMIC已針對在企業私有化LLM訓練流程,推出包括資料前處理、持續微調、抗毒性處理、RAG技術應用在內的全面解決方案,此流程可協助企業精準掌握複雜格式資料,並降低生成式AI模型中的幻覺(hallucination)問題與惡意攻擊風險,協助企業將AI技術效益最大化,從而提升競爭優勢。

多年深耕累積強大技術能量 研揚科技讓邊緣運算效益最佳化

研揚科技在邊緣運算不僅產品布局完整,而且已應用於各垂直領域中。資深產品經理蘭之怡在「選擇高效能邊緣運算硬體:Intel方案的全面解析」演講提到,1992年成立的研揚科技,已成為工業嵌入式解決方案的領導廠商,2011年獲得華碩投資後,整體實力更上層樓,目前總部位於台北,在全球16個地點設有辦事處。研揚的產品組合十分豐富,涵蓋嵌入式主板、工業用電腦、網路應用設備和單板電腦等,特別針對智能自助服務設備、智慧零售和機器學習等垂直市場需求設計。

研揚科技推出了多款創新產品,如EPIC-RPS9和PICO-MTU4等。這些硬體產品具備強大的靈活性,能夠滿足從輕量級AI推論到大型生成式AI模型的各種部署需求。研揚科技的解決方案不僅大幅提高AI推論效率,還能從圖像和影片中快速提取關鍵資訊。為滿足不同客戶的需求,研揚科技提供專用AI引擎硬體,支援生成式AI、電腦視覺和傳統機器學習等多種應用。此外,研揚科技還根據功耗需求將AI應用場景分為輕、中、重三類,進一步優化產品在各種場景下的性能表現。

研揚科技的技術可用於自動化測試設備、5G通訊塔和零售超市等多個場景,有效強化應用場域的效率和智能化程度。蘭之怡指出,研揚科技產品側重靈活快速的設計支援與混合模組的高效測試能力,藉此滿足應用市場的特定需求,並為智慧城市和工業4.0的發展奠定堅實基礎。整體而言,研揚科技善用英特爾的邊緣運算硬體產品,提供各類垂直市場高效能AI解決方案,無論是輕量還是重度AI運算,客戶都能夠找到合適產品,在多變市場中保持競爭優勢。

研揚科技產品經理詹雅淇在活動中介紹了公司的UP邊緣運算解決方案。她強調,UP系列產品專為邊緣運算設計,具備高度靈活性與敏捷性,能滿足各種工業應用場景,為不同邊緣運算應用場域提供全方位支援。在後疫情時代,因應無接觸服務、遠端工作和智慧監控等新興需求,UP系列產品適時推出針對性解決方案,不僅可解決人力短缺問題,還能協助企業推動自動化升級與數位轉型。此系列的一大特色是產品線多元化,從小巧的卡片尺寸UP Core到功能強大的口袋大小UP Xtreme i12,均能為不同規模和效能需求的邊緣運算應用提供豐富選擇。所有UP系列產品都搭載Intel®處理器,並支援開放式AI SDK,有效縮短智慧化設備的開發時程。

在AI邊緣運算效能方面,UP系列產品表現卓越,在電腦視覺和生成式AI應用中,更展現出強大的處理能力,最高可支援52 TOPS運算效能。透過支援OpenVINO架構,UP系列可有效提升AI訓練和推論效率,優化企業生產力與成本效益。詹雅淇提到,研揚UP系列產品在邊緣運算領域展現出全面技術優勢,無論是因應後疫情時代新挑戰,或推動自動化和AI應用發展,都可提供是市場創新且高效的解決方案。隨著物聯網和AI技術持續進步,UP系列產品將在工業自動化、智慧城市和智慧製造等領域扮演關鍵角色,成為企業數位轉型的強力後盾。

研揚科技的邊緣運算解決方案,目前已有豐富的成功應用案例,業務經理王品中在演講中提到,該公司的邊緣運算產品線涵蓋強固型無風扇系統、強固型平板電腦和工業級主機板,可滿足市場多元需求。在強固型無風扇系統方面,研揚的BOXER系列分為超薄型、強固型和擴展型三個等級,適應不同應用環境例如,中國大廠的無人搬運車、無人送貨車就採用BOXER系列產品。研揚科技強固型平板電腦產品線同樣亮眼,支援Windows和Android作業系統,提供7吋到11.6吋不同尺寸選擇,還可依需求配置2D條碼掃描器、NFC等功能模組,適用於現場檢查、機械維修和庫存管理等作業流程。工業級主機板方面,研揚產品支援多種平台,具備長效命週期和高可靠性特色。

王品中強調,研揚解決方案的優勢不僅體現在豐富產品線,更反映在實際應用案例中。除前述的無人搬運車和無人送貨車,中國上海的街道監控系統也採用其解決方案。由此案例可看出研揚產品在各種極端環境下的效能和穩定性,進一步證明其在自動化、工業和智慧監控領域的領先地位。從多元應用與使用端回饋來看,研揚科技解決方案已能滿足各類型場域業者需求,未來將進一步延伸應用觸角,推動產業智慧化和數位轉型進程,加快AI邊緣運算普及速度。

隨著物聯網和AI技術持續發展,市場對邊緣運算的需求將快速浮現,研揚科技善用自身強大技術能量,並與英特爾緊密合作所打造的解決方案,將可開啟AI邊緣運算應用的無限可能,協助企業以創新力迎接智慧新未來。