Amazon Bedrock可更輕鬆快速地建構和擴展安全的生成式AI應用程式 智慧應用 影音
EVmember
ST Microsite

Amazon Bedrock可更輕鬆快速地建構和擴展安全的生成式AI應用程式

  • 林岫台北

Amazon Bedrock的全新功能使客戶更輕鬆快速地建構和擴展安全的生成式AI應用程式。AWS
Amazon Bedrock的全新功能使客戶更輕鬆快速地建構和擴展安全的生成式AI應用程式。AWS

全新的專有模型導入功能讓客戶更輕鬆地將專屬模型導入到Amazon Bedrock中,進而充分利用Amazon Bedrock的強大功能。全新的模型評估功能使客戶能夠廣泛且便捷地選擇多樣完全託管模型,包括RAG優化的新版Amazon Titan Embeddings V2以及來自Cohere、Meta的最新模型。Amazon Bedrock的Guardrails採用業界領先技術,幫助客戶根據應用需求和負責任的AI政策,有效實施客製化的安全措施。

數以萬計的客戶和合作夥伴正在使用Amazon Bedrock建構和部署生成式AI應用程式,包括愛迪達(Adidas)、ADP(美國自動資料處理公司)、Aha!、亞馬遜(Amazon.com)、橋水基金(Bridgewater Associates)、精品酒店集團、科萊恩(Clariant)、美國達美航空(Delta)、電通(Dentsu)、福克斯電影、GoDaddy、Hugging Face、Infor、Intuit、通力(Kone)、KT、律商聯訊(LexisNexis Legal & Professional)、孤獨星球(Lonely Planet)、Netsmart、紐約證券交易所、輝瑞(Pfizer)、PGA錦標賽(PGA TOUR)、Perplexity AI、Ricoh USA、Rocket Mortgage、瑞安航空、Salesforce、西門子(Siemens)、湯森路透集團(Thomson Reuters)、豐田、Tui、美國聯合航空(United Airlines)等。

Amazon Web Services(AWS)宣布推出Amazon Bedrock的全新功能,為客戶提供了更簡單、更快捷、更安全的方法,幫助客戶開發先進的生成式人工智慧(AI)應用。目前,已有成千上萬的用戶選擇將Amazon Bedrock作為其生成式AI策略的核心基礎。Amazon Bedrock讓用戶能夠輕鬆導入來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI以及亞馬遜等公司的領先基礎模型(FMs),同時滿足了開發和部署生成式AI應用所需的功能性和企業級安全性需求。

Amazon Bedrock上可用的強大模型均以完全託管服務的方式提供給客戶,因此客戶無需擔心底層基礎設施,這為應用程式的無縫部署、可擴展性和持續優化提供保障。新增的功能允許客戶在Amazon Bedrock上運行專屬的完全託管模型,簡化了為特定應用場景選擇最佳模型的過程,並讓生成式AI應用程式的保護措施更易於實施,同時還擴展了模型的選擇範圍。

從迅速崛起的新創公司到注重安全的大型企業及政府機構,全球各類組織正透過Amazon Bedrock激發創新、提升生產效率並打造全新的用戶體驗。例如,紐約證券交易所(NYSE)利用Amazon Bedrock豐富的基礎模型和先進的AI生成能力,處理眾多的監管檔案,並將複雜的法規內容轉化為易於理解的語言。歐洲最大的航空公司瑞安航空正透過Amazon Bedrock提升服務效率。

Amazon Bedrock能夠幫助機組人員即時查詢特定國家法規的相關資訊,或從數量龐大的手冊中快速擷取關鍵摘要,確保乘客的旅遊順利順暢出行;專注於為社區醫療機構提供電子健康記錄(EHR)解決方案的技術供應商Netsmart,正在努力減輕醫護工作者在臨床檔案管理上的工作負擔。透過在Amazon Bedrock上建構的生成式AI自動化工具,他們旨在將個人健康記錄的管理時間減少高達50%。這將使Netsmart客戶加速患者報銷申請的提交過程,同時提升患者所得到的護理體驗。

AWS AI和資料全球副總裁Swami Sivasubramanian表示:「企業應用Amazon Bedrock正呈現出爆炸式的成長。成千上萬不同規模,來自不同產業的企業選擇Amazon Bedrock作為他們生成式AI策略的核心基礎,它極大加速並簡化了企業從試驗階段到實際生產的過程。客戶對Amazon Bedrock充滿熱情,因為它不僅提供企業級的安全性和隱私保護,還提供了廣泛的前瞻模型選擇,使得建構生成式AI應用變得前所未有的簡單。隨著今天新功能的推出,我們將繼續快速創新,以為我們的客戶提供更豐富的功能和業界領先的模型,並進一步推動生成式AI的大規模普及。」

全新的專有模型導入功能可以幫助客戶將客製化模型整合至Amazon Bedrock,減少營運成本並加速應用程式開發

在Amazon Bedrock上,來自醫療保健與金融服務等產業的客戶不僅可以輕鬆使用AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亞馬遜的多種領先的基礎模型,還能利用自身資料客製化公開模型,以支援特定產業的應用。當企業需要用自有資料建構這些模型時,他們通常仰賴模型訓練服務如Amazon SageMaker,以從頭開始訓練模型或對現有的公開模型如Llama、Mistral和Flan-T5進行進階客製化。自2017年推出以來,Amazon SageMaker已成為建構和訓練世界級基礎模型的平台,其中包括超大參數量的公開模型Falcon 180。同時,客戶還希望能夠將他們自己的客製化模型與Amazon Bedrock內建的高級生成式AI工具結合,如知識庫、Guardrails、代理(Agents)和模型評估等,而無需自行開發這些功能。

借助全新的Amazon Bedrock專有模型導入功能,企業現在能夠將自己的客製化模型導入到Amazon Bedrock中,以完全託管的應用程式開發介面(API)形式使用,這種方式為建構生成式AI應用程式帶來前所未有的體驗。只需點擊幾下,客戶即可將他們使用Amazon SageMaker或其他工具開發的模型整合到Amazon Bedrock平台上。模型透過自動化驗證流程後,客戶便可像使用平台上其他模型一樣使用自己的客製化模型,同時享受目前Amazon Bedrock所具備的所有優勢,包括無縫的可擴展性、強大的保護能力、遵循負責任的AI原則、利用檢索增強生成(RAG)擴充模型知識庫、輕鬆打造用於完成多步驟任務的代理(Agents)、進行微調以持續訓練和優化模型,且無需管理底層基礎設施。

這一新功能讓企業能夠輕鬆地透過同一API使用Amazon Bedrock的模型與自己的客製化模型,Amazon Bedrock專有模型導入功能現已推出預覽版,並支援三種最受歡迎的開放模型架構:Flan-T5、Llama和Mistral,並計畫未來支援更多模型。

模型評估功能幫助客戶評估、比較和選擇適合其應用程式的最佳模型

Amazon Bedrock提供了最廣泛的業界領先的模型選擇,滿足企業在價格、效能或功能方面的各種需求,並允許企業獨佔或與其他企業共享模型。建構生成式AI應用程式的關鍵步驟是找到合適的模型,而選擇特定應用場景的最佳模型則需要客戶在準確性和效能之間達成微妙的平衡。現在,企業還需要花費大量時間分析每個新模型可以如何滿足他們的應用場景,這放慢了他們向用戶提供生成式AI體驗的速度。今天起,模型評估功能已正式可用,它是企業快速分析和比較Amazon Bedrock上模型的最快方式,讓評估模型的時間從幾個星期縮短到幾個小時,進而加速推出新的應用程式並改善使用者體驗。

客戶可以立即開始評估,透過選擇預定義的評估標準(例如準確性和穩健性)並上傳自有資料庫或提示庫,或者從內建的、公開可用的資源中進行選擇。對於主觀標準或需要細緻判斷的內容,Amazon Bedrock使客戶能夠輕鬆將人工審核融入到工作流程中,以根據特定應用場景的指標(如相關性、風格和品牌聲量)對模型進行評估。一旦設定完成,Amazon Bedrock將執行評估並生成報告,使客戶能夠輕鬆瞭解模型在關鍵指標上的表現,並迅速選擇最適合其應用場景的模型。

透過Amazon Bedrock Guardrails功能,客戶可以利用前瞻技術輕鬆實施防護措施,去除個人訊息和敏感資訊、不當語言、特定詞彙並過濾有害內容

企業需要以安全、可信任和負責任的方式使用生成式AI。許多模型使用內建控制來過濾不良和有害內容,但大多數客戶希望進一步客製化他們的生成式AI應用程式,以確保生成結果更具相關性,在符合公司政策的同時遵循負責任的AI原則。現在,Amazon Bedrock的Guardrails功能已正式可用,它在基礎模型的原有功能之上提供了業界領先的安全保護,能夠幫助客戶阻止高達85%的有害內容。

Guardrails是唯一一項由頂級雲端服務供應商提供的解決方案,它允許客戶在單一服務中同時擁有內建和客製化的防護機制,並可與Amazon Bedrock中的所有大型語言模型(LLMs)以及經過微調的模型一起使用。要打造一個Guardrail,客戶只需提供一個自然語言描述來定義其應用程式上下文中不予顯示的主題即可。此外,客戶還可以設定閾值以過濾仇恨言論、侮辱、性相關用語、攻擊和暴力性等內容,並設定篩檢程式來移除個人訊息和敏感資訊、不當言論或過濾特定詞彙。透過為生成式AI應用程式提供一致的使用者體驗和標準化的安全和隱私控制,Amazon Bedrock Guardrails使客戶能夠快速且安全地進行創新。

Amazon Bedrock專屬的Amazon Titan模型是由AWS在大規模且多樣化的資料庫上打造和預訓練而成的,專為多種應用場景設計,並內建負責任的AI功能。Amazon Bedrock不斷擴展Amazon Titan系列,為客戶提供更多選擇和靈活性。Amazon Titan Text Embeddings V2針對使用RAG的應用場景進行了優化,非常適合如資訊搜尋、問答聊天機器人和客製化推薦等用途。許多企業採用RAG技術,這種流行的模型客製化技術透過連接到知識源頭以增強基礎模型的生成結果。

然而,運行這些操作可能會消耗大量運算和儲存資源。即將推出的新版Amazon Titan Text Embeddings V2模型降低了儲存和運算成本,同時提高了準確性。透過為客戶提供靈活的嵌入(embeddings)功能,將儲存需求降低至原來的四分之一,顯著降低了營運成本,同時在RAG應用場景中保持97%的準確性,表現優於其他領先模型。

Amazon Titan Image Generator現已正式可用,為廣告、電子商務、媒體和娛樂等產業客戶提供了一種低成本的方式來生成專業級別的圖像,或對現有圖像進行優化和編輯,僅憑自然語言提示即可實現。Amazon Titan Image Generator還為生成的所有圖像設計隱形浮水印,以幫助識別AI生成的圖像,進而推動AI技術的安全、可靠和透明發展,並有助於減少虛假資訊的傳播。同時,Amazon Titan Image Generator還可以檢查圖片中是否存在浮水印,並幫助客戶確認圖片是否由其生成。

同時,Amazon Bedrock上的Meta Llama 3基礎模型已正式可用,Cohere的Command R和Command R+模型也即將推出。Llama 3專為開發者、研究人員和企業設計,旨在支持他們建構、試驗並負責任地擴展生成式AI專案。Llama 3模型是一系列經過預訓練及微調的大型語言模型,適用於廣泛的應用場景,特別擅長執行文本摘要和分類、情感分析、語言翻譯及程式碼生成等任務。而Cohere的Command R和Command R+模型則是前瞻的基礎模型,客戶能夠基於此建構支援10種語言、具備先進RAG功能的企業級生成式AI應用,助力全球業務拓展。

來自Amazon Bedrock客戶和合作夥伴的回饋

亞馬遜打造的Rufus是一款以生成式AI為核心的專業購物助手,它是基於公司龐大的產品目錄、客戶建議、社群問答以及網際網路資訊進行訓練。Rufus能夠解答客戶的購物疑問、提供產品比較,並根據對話情境進行推薦。亞馬遜商店Foundational AI副總裁兼傑出科學家Trishul Chilimbi表示:「為了在亞馬遜商店中提供卓越的對話式購物體驗,我們致力於為Rufus開發先進的模型,並期待它為客戶帶來超乎預期的價值。透過利用Amazon Bedrock的客製化模型導入功能,我們能夠將Rufus先進的底層模型提供給內部開發人員,以完全託管的API形式使用它。現在,從物流到工作室的各業務團隊都可以使用這個模型來建構自己的應用,而Amazon Bedrock則簡化了開發流程,幫助所有亞馬遜客戶快速開發新體驗。」

電通(Dentsu)是全球領先的綜合行銷和技術服務提供者之一。電通創意全球技術總監James Thomas表示:「在過去的三個月裡,我們利用Amazon Titan Image Generator模型的預覽版,透過自然語言提示創造了大量擬真的工作室級圖像,主要用於產品推廣和一致的品牌標誌生成。我們的創意團隊對Titan Image Generator生成的多樣化內容感到印象深刻,這些內容幫助我們為全球廣告活動創造了引人注目的圖像。我們期待體驗該模型新推出的浮水印檢測功能,這將提升AI生成內容的透明度,並幫助我們與客戶建立更牢固的信任關係。」

Salesforce是全球AI客戶關係管理(CRM)領域的領導者,其「CRM+資料+AI+信任」的組合為企業提供了強大的客戶連結。Salesforce AI產品資深副總裁Kaushal Kurapati表示:「AI是我們承諾幫助客戶在Salesforce應用中提供客製化體驗的核心,這些應用都建立在Data Cloud的資料之上。為了在我們的統一資料平台上實施生成式AI,我們正在評估各種基礎模型,確保所選模型最符合客戶的需求。Amazon Bedrock是我們開放生態系統模型策略的關鍵部分,這項新的模型評估功能提供自動化與人工評估兩種方式,加速了我們比較和選擇模型的過程。現在,我們不僅可以基於直觀標準評估模型,還能從友好性、風格和品牌相關性等更多質性標準進行評估。這種能力的提升將使我們為客戶營運模型變得更加簡單和迅速。」


關鍵字