IBM推出提升人工智慧信任和決策透明度的軟體服務

IBM公司日前推出了一種提高人工智慧透明度的技術，使企業能夠更全面地駕馭人工智慧的力量。 這種在IBM雲端運算平台上執行的軟體服務，能夠在人工智慧進行決策時自動檢測偏差並解釋決策過程，進而幫助各行各業的組織管理人工智慧系統。IBM服務事業部也將與企業合作，幫助他們運用這種全新的軟體服務。

此外，IBM研究院將會向開源社群發布一套人工智慧偏差檢測和緩解工具包，用先進的工具和培訓促進全球協作，以解決人工智慧偏差問題。這些技術的發展也同樣印證IBM商業價值研究院的最新研究結果，該研究顯示，雖然有82%的企業正在考慮運用人工智慧，但有60％的企業擔心責任問題，63％的企業缺乏能夠可靠地管理這種技術的內部人才。

提高人工智慧決策的可見度

台上的全新信任和透明度功能，可與各種機器學習框架和人工智慧建構的環境模型配合使用，例如Watson，Tensorflow，SparkML，AWS SageMaker和AzureML。也就是說，企業可以將這些新的控制工具用於大部分常見的人工智慧框架。還可以對軟體服務進行編碼，以監控任何業務工作流程所需的獨特決策因素，使其能根據特定的組織用途進行客製化。

這種完全自動化的軟體服務能夠解釋決策並在運行時檢測人工智慧模型中的偏差，每當潛在的不公結果出現時就會立即發現。重要的是，它還能自動建議應添加到模型的數據，幫助緩解它檢測到的任何偏差。

它使用通俗易懂的術語提供解釋，說明是哪些因素的權重使決策朝某一方向傾斜，決策建議的可信度有多大，以及可信度背後的因素。此外，模型的準確性、性能和公正性以及人工智慧系統譜系的紀錄可以根據客戶服務、法規或法遵用途，例如GDPR法遵，輕鬆地追蹤和回顧。

所有這些功能都是透過可視化操作面板來存取，讓企業客戶擁有前所未有的理解、解釋和管理人工智慧主導決策的能力，並降低對專業人工智慧技能的依賴。IBM還提供新的諮詢服務，來幫助公司設計業務流程和人類與人工智慧介面，進一步減緩策偏差的影響。

使開源社群能夠建構更公正的人工智慧

IBM研究院還將提供開源社群 AI Fairness 360工具包，這是一套包括新型演算法、程式碼和教程的資源庫，它將為學術單位、研究者和資料科學家提供在建構和部署機器學習模型時整合偏差檢測功能的工具和知識。開源社群中的其他資源僅僅著眼於檢查訓練數據中的偏差，而IBM研究院建立的IBM AI Fairness 360工具包將有助於檢查和緩解人工智慧模型中的偏差。IBM研究院藉由這一工具包，廣邀全球開源社群合作推動人工智慧的相關研究，降低解決人工智慧偏差的困難度。