ChatGPT引發資安疑慮?台大教授建議導入前應先去識別化 智慧應用 影音
英飛凌
ST Microsite

ChatGPT引發資安疑慮?台大教授建議導入前應先去識別化

  • 廖家宜台北

台大資管系李家岩教授(左)向業界分享ChatGPT使用眉角。廖家宜攝
台大資管系李家岩教授(左)向業界分享ChatGPT使用眉角。廖家宜攝

先前三星電子(Samsung Electronics)員工在使用ChatGPT時,不慎外洩公司內部機密資料,也引發企業使用生成式人工智慧(Generative AI)的疑慮。台大資管系教授李家岩對此則提醒企業,在使用ChatGPT時須注意去識別化,以確保企業資料安全性。

李家岩建議,企業使用ChatGPT之前,可先建立新帳號,IP也可經過轉換,以防止身分識別。此外,在與ChatGPT問答過程中,也可運用角色扮演與情境模擬的技巧,以特定情境模擬或假設的資料分布來與 ChatGPT問答,而不是提供實際企業數據來發問。

李家岩也分享其在訓練學生運用ChatGPT思考的經驗。他鼓勵企業決策者嘗試指派任務給人員以ChatGPT提問,這樣的訓練可以促使人員持續思考是否能產出比ChatGPT更好的答案,進而培養人員的AI應用能力。

業界也相當關心,面對生成式AI浪潮席捲全球,企業的應對策略是什麼?李家岩則指出,倘若企業只把AI當作工具,那麼它就是一個幫助人們工作或提升生產力的工具,但企業資訊長(CIO)身為公司IT與技術策略的舵手,必須在有限企業資源下,選出真正有價值的專案來導入,因此需要先進行盤點。

李家岩建議,盤點過程需要留意兩件事情,首先是數據盤點,檢查專案可行性與資料面或資料庫設計。而在資料庫導入後,隨著經年累月使用,應重新檢視資料庫當初的設計是否合宜。

其次則是策略面的盤點,CIO應該檢視哪些AI專案跟公司長期策略面或技術藍圖有關。AI專案不是一個孤立的點,而是需要從整個流程來考量。李家岩建議,CIO需要採取由線到面、從盤點流程改善的視野來看,而不是從某一個單點角度來突破。

至於在面對景氣波動時,企業應該如何作為?李家岩表示,決策者想掌握景氣循環的節奏不易。在景氣好時,應提前考慮在淡季時需要使用哪些AI技術,相反地,在淡季時也可考慮旺季時可能需要的前導AI技術有哪些。

由於AI開發需要一定的時間,不能在景氣低迷時才想到要使用,企業應提前備齊工具,以縮短開發時間,透過Pilot run的方式,從小樣本開始試作,以確認技術是否可行,如此才能有效縮短軟體開發或設計的前置時間。

李家岩補充,提前準備的思維並非限於產線,像人力資源(HR)部門也會受到景氣循環的影響。企業可以透過AI技術預測人員留任率,在景氣波動時做出相應的動作,如此才能應對未來可能出現的挑戰。

專攻AI智慧製造的杰倫智能科技指出,生成式AI熱潮引發企業與產業變革,業界相當關心如何運用AI強化人員生產力與企業競爭力。杰倫智能共同創辦人暨技術長林裕鑫表示,杰倫智能目前提供端到端的無程式碼(No-code)AutoML平台以及隨選即用AI應用知識庫。目前在AI AutoML虛擬資料科學家平台方面,已擁有超過百家客戶,有單一客戶內部使用者已超過500名,並在平台上建立超過3,500個預測模型。


責任編輯:毛履兆


關鍵字