邁達特偕同Microsoft揭開企業導入GenAI應用的關鍵 智慧應用 影音
Dwebinar1106
member

邁達特偕同Microsoft揭開企業導入GenAI應用的關鍵

  • 張丹鳳台北

邁達特可為企業導入量身訂製的AI平台。DIGITIMES攝
邁達特可為企業導入量身訂製的AI平台。DIGITIMES攝

隨著生成式AI市場規模快速成長,市場上的大型語言模型(LLM)也百花齊放,不過,引爆此波生成式AI成長動能的OpenAI,其所推出的GPT-3.5或GPT-4大型語言模型,仍是許多企業欲導入生成式AI應用時,腦中浮現的第一選擇。然而,無論GPT-3.5或GPT-4模型皆並非為了企業級應用而設計,若要落地到公司營運環境中,免不了有穩定性、安全性等疑慮。

「對於想要使用OpenAI服務的企業來說,透過 Microsoft 微軟Azure雲平台上的Azure OpenAI服務(AOAI),會是比較合適的選擇,」MetaAge邁達特產品經理/Azure雲端架構師簡貝安在2024台灣年度最大AI博覽會「AI EXPO Taiwan 2024」上指出,Microsoft 微軟與OpenAI是戰略夥伴關係,透過雙方的技術合作,微軟可快速將OpenAI最新釋出的模型商業化,例如Open AI在2024年1月才剛推出GPT-4 Turbo版本,不到1個月就出現在微軟於2月初發佈的更新中。

IT智能化最佳夥伴-MetaAge邁達特產品經理/Azure 雲端架構師簡貝安。DIGITIMES攝

IT智能化最佳夥伴-MetaAge邁達特產品經理/Azure 雲端架構師簡貝安。DIGITIMES攝

Azure OpenAI五大生成式AI模型

目前Azure OpenAI服務提供的AI模型大約可以分成5種,企業可以根據應用情境和需求來選擇不同的模型。簡貝安表示:「而在這5種之外,Azure OpenAI還有嵌入模型、文字轉語音模型等可供選擇,充分滿足企業導入生成式AI應用的需求,」

(1.) 是最為人們所熟知、可以自動生成內容的大型語言模型,如 GPT-4、GPT-4 Turbo、GPT-3.5 Turbo等
(2.)是可以解釋圖片內容的多模態模型GPT-4 Vision
(3.)是可以進行微調(Fine Tuning)的大型語言模型,企業可以餵入自有資料去調整模型,使AI的回答更專業,例如GPT-3.5 Babbage版、GPT-3.5 Davinci版、GPT-3.5 Turbo等
(4.)是圖像生成模型DALL・E 3
(5.)是語音轉文字模型Whisper

善用Azure OpenAI工具,加速開發生成式AI應用

當然,Azure OpenAI不只提供AI模型,也提供各種工具與服務,加速企業導入AI應用的腳步。

例如:On Your Data服務,讓企業能夠在自己的資料上執行進階AI模型;抑或GPT-3.5 Turbo、GPT-4等,無需進行大量模型訓練或微調。還有生成式AI開發中心Azure AI Studio,讓企業可以運用AI模型來開發程式。另外,2023 年底推出的Assistants API,則讓開發人員可以自行創建一個小助理,可以將上傳的文件整理成AI需要的維度資料。

簡貝安提醒,儘管Assistants API同樣具備聊天機器人的功能,但無論是Azure OpenAI或OpenAI都設有使用條件,最多只能上傳20個檔案,且每份檔案容量最高只能512MB,比較適合作為個人或開發團隊專用的聊天機器人。倘若是企業對外客服或對內部所有員工的聊天機器人,還是要重新開發,尚無法直接套用。

生成式AI常見四大應用情境

綜觀現今生成式AI應用案例,大致可以分成四種類型:內容生成、文件摘要、程式碼生成及語意搜尋,無論哪一種類型,IT 智能化最佳夥伴-MetaAge邁達特都能提供「從頭到尾」的Azure OpenAI全程導入服務,包含建立基礎知識、進行微調、POC驗證、測試、落地部署等,協助企業順利開展企業級生成式AI應用。

從0到100:邁達特帶領建置專屬的企業AI平台

邁達特與各大產業領域Domain Know-how做深度鏈結,可為企業導入量身訂製的商業級Azure AI專案,從0到100為企業建置專屬企業AI平台。