OneDegree Global推出AI風險評估 滿足不斷變化的合規和治理需求 智慧應用 影音
Event
榮耀會員

OneDegree Global推出AI風險評估 滿足不斷變化的合規和治理需求

  • 鄭宇渟台北

OneDegree Global推出市場領先的人工智慧風險評估,滿足不斷變化的合規和治理需求。Cymetrics
OneDegree Global推出市場領先的人工智慧風險評估,滿足不斷變化的合規和治理需求。Cymetrics

資訊安全和風險管理解決方案領域的領導者 OneDegree Global(以下簡稱OneDegree),非常榮幸宣布推出其具有突破性的大語言模型系統(LLM)評估服務。隨著全球對人工智慧監管環境日益嚴格,例如近期頒布的《歐盟人工智慧法案》、2023 年底推出的 ISO 42001 標準及各國監管機構的指引,都凸顯出這項策略性解決方案的推出正值關鍵時刻。

歐盟人工智慧法案與國際間人工智慧相關標準與規範,核心重點都是在強調道德、安全和負責任的人工智慧開發及部署,因此對預計導入或上線人工智慧的企業來說,成熟的人工智慧管理和安全控制措施比以往任何時候都來得重要。而新發布的ISO 42001也為人工智慧管理系統(AIMS)設立了新的標準。在此背景下,OneDegree的大語言模型系統(LLM)評估服務,對於需滿足這些嚴格標準的企業來說,將是不可或缺的解決方案。

OneDegree的服務透過廣泛的文獻研究與開發,並建立在負責任的人工智慧框架之上,穩健地確立了其在人工智慧安全性和可信度評估的前瞻地位;作為人工智慧風險評估領域的先驅,其團隊成員亦獲得全球首批ISO 42001主導稽核員的認證。

與大語言模型系統(LLM)相關的潛在風險,也強調了此類評估服務的必要性。
以銀行業可能面對到的潛在風險為例:

• 隱私風險:整合LLM的客戶財務諮詢工具,可能在處理過程中不經意的洩露銀行客戶的機敏個資, 從而導致嚴重的大量個資外洩並喪失客戶信任。
• 營運中斷:針對整合LLM的網路銀行系統執行LLM阻斷式 (DoS) 攻擊,可能影響銀行服務的可用性,使客戶無法存取網路銀行服務。
• 財務影響:針對整合LLM的風險評估工具,透過提示詞注入(Prompt Injection)操縱信用評分,從而導致銀行接受高風險貸款。
• 系統完整性:針對整合LLM的反洗錢(AML)系統,透過提示詞注入(Prompt Injection)操縱判斷之準確性,使銀行因系統失能,無法有效阻絕非法資金之流動,從而遭受監管機關裁罰。

除了剛推出的大語言模型系統風險評估服務外,OneDegree亦致力於提高各行業的數位韌性,其透過 Cymetrics團隊為科技業、製造業、醫療業、金融業、電子商務和公部門,提供完整多樣的資安評估與檢測產品及服務,而受到高度認可。

OneDegree資安長Stanley Chou表示:「隨著開創性LLM評估服務的推出, OneDegree將為人工智慧的合規評估設立新標準,並隨著監管環境之演進,賦能我們的客戶從容應對風險與監管,確保其人工智慧的投資將以安全、道德及合規的方式進行。」

【關於 OneDegree Global】

OneDegree Global是具領導地位的科技公司,總部設於新加坡,在亞太和中東地區極具影響力。我們的願景是通過保險和資安的創新,來賦予更美好的未來。
自2020年以來,我們建立了兩個領導品牌:IXT,現代化的保險核心解決方案,為保險公司、中介機構和應用程式/平台提供服務;以及Cymetrics,專業資安檢測服務提供商,利用獨家資安SaaS技術和市場情資,來保護企業的網路安全。

議題精選-AI專欄