Progress研究顯示有65%企業遭受資料偏差問題

Progress發布其「資料偏差：人工智慧的隱藏風險」的全球性調查結果。Progress的調查委由獨立研究公司Insight Avenue執行，針對超過640位的企業及IT專業人士的訪談為基礎，受訪者使用資料進行決策，且正使用或計畫使用人工智慧（AI）及機器學習（ML）來支援其做出決策。

偏差往往是由文化和個人經驗承襲而來。在機器學習模型收集和使用資料，做為學習訓練時，模型會繼承建模者的偏差，產生出非預期且可能有害的結果。然而，儘管資料偏差與潛在的法律及金融陷阱息息相關，但人們並不了解如何能成功解決資料偏差所需的訓練、流程和技術。

Progress的調查顯示，78%企業及IT決策者相信，資料偏差將隨著AI/ML的使用增加而成為更大的隱憂，但僅有13%的人已經積極處理這個問題，並有一個持續的評估程序。他們認為最大障礙是缺乏對潛在偏差的認知、了解如何識別偏差，以及缺乏可用的專家資源，例如有機會接觸資料科學家。

調查結果顯示：66%的企業預計在未來幾年將更依賴AI/ML來進行決策，65%的企業認為目前企業內部就有資料偏差的現象，77%的企業認為他們需要採取更多措施來解決數據偏差問題，51%的企業認為缺乏對偏差的察覺和了解是幾決問題的障礙。

Progress應用程式與資料平台執行副總裁暨總經理John Ainsworth表示，每天，偏差都會對業務營運和決策產生負面影響，從安全、治理到失去客戶信任、影響財務以及潛在的法律與道德風險。客戶是我們最優先的考量，當我們探索AI／ML能做的一切事項，希望能確保客戶獲得正確的資訊，做出最好的決策來推動業務發展。

Progress亞太區業務副總裁John Yang也指出，現今愈來愈多的機器學習導入商業應用，協助企業決策，例如決定推薦什麼產品，是否批准貸款。在Progress的這分調查報告中顯示，有高達54%的台灣受訪企業，已經使用或未來12個月內將使用機器學習等人工智慧，或其他高階的計算機智慧支援決策的制定，其中擔心資料偏差影響決策、造成偏見的比例達54%，遠遠高於全球平均的29%，70% 也認為資料偏差會成為企業中更大的問題。

其中最擔心的資料偏差影響類型分別是金融（48%）、訊息技術與數位（48%）、銷售／贏得客戶（46%）。隨著AI使用的成長，消除AI資料偏差需要結合技術、培訓和實踐以降低風險，才能做出正確決策增加市場機會。