report
活動+

水能載舟亦能覆舟 AI造假成未來新隱憂

  • 廖家宜
人工智慧能打假亦能造假,近來AI創造的虛假內容正快速增加。法新社

人工智慧(AI)可做到人類能力無法所及的事,因而被運用在各種行業中得以實現協助人類實行更智慧的決策或執行力。然而,人工智慧技術一直在進步,但進步的速度似乎正超越人類的想像與控制。專家直言,有心人士欲利用人工智慧創造假資料以假亂真,這種現象未來將會越來越常見,甚至人類不及透過AI找出破綻。

人工智慧所帶來的應用不勝枚舉,其中一項便是被大量應用在安防領域,尤其近年恐怖攻擊事件頻傳,各國已開始大量運用生物辨識技術來維護治安。例如,NEC將人臉辨識技術導入機場出入境,從通過海關的旅客中比對以往曾有非法紀錄的人物,藉此提升機場海關的業務效率。

除了機場外,2016年的里約奧運也使用了NEC的人臉辨識系統,在入口處以辨識工作人員身分,以避免工作證遭盜用。不過,人工智慧如同一柄雙面刃,若遭遇有心人士使用在不當的地方,反而以人工智慧創造假資料的技術有可能發展的比識別技術還來的更快。

華盛頓大學研究團隊曾發表一篇名為「同步歐巴馬:學習如何用聲音同步嘴形」的研究。而該研究正是一系列美國前總統歐巴馬的「造假」影片。研究團隊首先取得了美國前總統歐巴馬過去一系列的演講影片,透過深度學習演算法,學習如何將聲音檔轉化為嘴型變化。

研究團隊只花了17個小時就能夠分析出歐巴馬講話時的嘴型,接著只要將歐巴馬其他演講的影片配上新的音檔內容,就可以將歐巴馬的嘴型修飾成完全符合音檔的內容,也就是說,雖然影片是真實的,但實際上影片內所說的話卻是假的。

這樣的實驗說明AI造假的確大有可能,假使持有非法紀錄的人透過AI竄改系統上的ID照片,很有可能因此形成「漏網之魚」而潛藏在各種場合中。然而,現有的AI技術卻很有可能跟不上「抓魚」的進度。

研究機構Gartner認為,時至2020年,人工智慧創造虛假內容或不實內容的能力,將超越其偵測這類內容的能力,從而引發數位不信任感。雖然偵測虛假內容的最佳方法就是透過人工智慧,因為其可以比人類更快偵測及發掘到偽造的內容。

但不幸的是,由於近幾年來以人工智慧技術創造的虛假內容快速增加,目前使用人工智慧偵測虛假內容的速度,已落後於人工智慧創造虛假內容的速度。

虛假內容的創造則有一部份來自於社交媒體的興起,這促使傳統媒體不再只是新聞訊息的唯一來源,而社交媒體的創造與分享,讓人人都能成為新聞訊息的來源,但也讓造假與不實內容頻傳。

近日甚至已有研究發現,人工智慧學會了自動編寫虛假點評來取代時下盛行的「網軍」,試圖將某一事件導向單一風向。如果AI能夠任意創造虛假的點評,而人類卻無法分辨真偽,那麼這將會導致社會的信賴感急遽下降。

事實上,在人類尚未找到辦法完全杜絕AI的假資料之前,諸如Facebook、Google等科技巨頭已經在致力打擊假新聞,例如,Facebook悄悄推出了Disputed標籤,這個標籤將會出現在被判定為不實新聞的頁面下。Google也對其強大搜索引擎背後的演算法進行了徹底的調整,將容易產生誤導性、虛假和令人反感的在線文章排名降級。