F5 2024網路安全預測-AI成為威脅的增強器
網路資訊安全的預測變化莫測,一方面是現代網路在硬體、軟體、協議和服務的複雜度增加了攻擊面,再則網路攻擊者也在不斷更新攻擊技術與手法,這也增加了保護系統的難度。2023年F5針對網路資訊安全預測,有些預測真的準確無誤,如API相關的安全漏洞與前一年相比,上升了三分之一以上,超過1.2億的資料在2023年22次漏洞中被公開,其中大多數是由於身分驗證或授權失效引起的。其中27%的漏洞是由安全配置錯誤引起的,相較2022年增加近4倍。開發人員通常未遵循組織已定義的標準和政策,部署了影子API,這無疑也屬於安全配置錯誤的範疇。
有鑑於知己知彼更能擬定周全的安全策略的信念下,在F5的安全營運工程師和威脅情報分析師的研究發現:AI提升攻擊者的能力上產生極大的影響。表面上來說,這並不像是一個多麼具體前瞻的預測,因為從ChatGPT首次亮相以來,全球的安全專業人員都在預測,使用大型語言模型來撰寫釣魚郵件的危害。事實上,這只是開始,生成式人工智慧將以各種方式成為威脅的增強器。F5認為,釣魚攻擊的真正瓶頸不是惡意鏈接的初始點擊,而是追求經濟利益,受害者被攻擊的次數遠比我們可能想像的更多更複雜。
以下的威脅預測,將針對在攻擊者可以利用LLMs的超大型深度學習的一些具體方式下,將展開的行動。
預測 1:生成式人工智慧將與釣魚受害者對話
受益於生成式人工智慧,攻擊者透過社交工程學手段欺騙用戶,模擬特定人物或情境,他們讓詐騙者與受害者的溝通,聽起來更具說服力。F5安全情報中心研究發現,生成式語言模型(LLMs)將接管詐騙者和受害者之間的來回對話,組織犯罪團體把LLMs當作支援中心,直接翻譯被攻擊者使用的非母語,並以真實的模擬對話回應,無需招募更多的詐騙人。同時,它還會利用公開可得的個人資料,建立極為逼真的詐騙行為,進而提高社交工程攻擊的成功率。這將使傳統釣魚網路攻擊在規模和效率上都有了巨大的轉變,生成式人工智慧的使用,也不僅限於製作最初的電子郵件誘餌。
預測 2:使用生成式人工智慧進行虛假資訊宣傳與製作虛假帳戶
生成式人工智慧工具在不久的將來將顯著改變惡意資訊操作的方式,包括建立虛假內容、自動生成的虛假訊息、有針對性的活動誤導以及規避內容審核。F5研究報告觀察發現,小規模的影響是在全球當今的國家衝突中,生成式人工智慧產出的圖像,已經被國家和非國家行為者散播,以獲得對其一方的支持。在更大的範圍使用上,我們預計在2024年包括美國總統選舉和巴黎奧運會等重大世界事件之前,將會有不同的行為者利用這種技術。
同時,AI還可用於創建虛假內容,包括圖像和文字,以製作難以區分真實人類內容的虛假帳戶。這將擴展到利用AI進行政治虛假信息,並在組織犯罪中用於製造虛假帳戶以實施詐騙、憑證填充、虛假訊息和市場操縱等攻擊策略。在無需成本的情況下,生產力無法想像。
預測 3:網路攻擊將使用生成式人工智慧的即時輸入
網路攻擊將採用生成式人工智慧的即時輸入。這種做法可能會引入新的漏洞,原因在於使用人工智慧的即時輸入,讓攻擊者能夠根據防禦措施做出即時反應。生成式人工智慧可能會在攻擊中動態地調整程序序列,以應對防禦策略,這可能創造出新的攻擊向量或漏洞,使得現有的安全防護措施變得無法立即應對,從而增加了系統的弱點。不久的將來,可以預期LLMs將使攻擊鏈多樣化,構成威脅。
預測 4:LLM運作的不透明性洩漏隱憂
生成式人工智慧在其運作中的不可預測性和不透明性是很大的潛在問題,在難以準確預測其生成的內容或行為,這使得可能導致出現意外結果,包括未預期的錯誤或泄漏,也使得安全、隱私以及治理/法遵性團隊執行任務時變得更複雜。我們預測將會看到一些由生成式人工智慧驅動的工具的驚人失敗,例如大規模的個人資料的外洩、未經授權的存取新技術,以及DDoS攻擊。這種不透明性增加了管理、監督和調整生成式AI應用的難度與隱憂,特別是在需要確保安全性、隱私和法遵性的情境下。
預測 5:速度凌駕安全導致生成式漏洞
生成式人工智慧(GenAI)也造就 「生成式代碼助理」應運而生,當大家沉浸於高速、效率的代碼生成協助時,如果缺乏適當的防護機制,使得開發人員在短時間內難以進行全面的審查,可能會錯過潛在的漏洞或安全問題,導致生成的代碼存在風險。此外,大型語言模型只能根據現有建構時間,它可能無法掌握最新的漏洞訊息,這可能導致生成的代碼中未考慮到最新的安全漏洞,使得生成的代碼容易受到已知漏洞的攻擊。
在生成式人工智慧時代,將速度置於安全性之上的組織,將不可避免地引入新的漏洞。架構複雜性也將使安全防護變得更棘手,系統和安全架構的各種變化,以及對代碼安全性缺乏全面考慮和審查。將導致生成的代碼存在著各種潛在的安全風險。
- Hitachi Vantara推出Virtual Storage Platform One為混合雲儲存提供基礎
- 偉康科技聚焦金管會零信任與AI最新指引 賦能金融創新
- 醫揚榮獲「2024中堅潛力獎」 凸顯智慧醫療領域的市場競爭力與永續發展承諾
- AI將改變全球的商業模式 臺灣企業應把握全球變局下的AI新機遇
- AWS邀請產官專家跨界激盪 梳理AI世界的新經濟發展策略
- 日本JR東海選擇AWS 於山梨磁浮線推動下世代高速列車的高效營運
- 教育部推AI學習教程 臺師大聯手麗臺深化數位教育
- Radware推出EPIC-AI,在安全解決方案和服務中增加全新AI和GenAI功能
- 趨勢科技攜手NVIDIA AI Enterprise強化AI部署
- QNAP發表Qsirch 5.4.2正式版 強化AI語意搜尋提升NAS圖片搜尋精準度
- 威強電與翱騰國際攜手打造AI個人化遠距醫療照護環境
- 群聯aiDAPTIV+榮獲Best of Show - Most Innovative AI Application獎項
- 宜鼎攜手研華 旗下MIPI相機模組支援最新AFE-R360系統
- 趨勢科技推深偽偵測方案防範AI視訊詐騙
- 高通推出Snapdragon 4s Gen 2行動平台 整合AI實現強大的行動體驗
- AMD釋出AMD Fluid Motion Frames 2技術預覽
- ROG推出全球首款AI雙模電競螢幕
- NTT DATA推出超輕型邊緣AI平台
- 優必達攜手富邦金控 化身AI啦啦隊前進巴黎
- 具備AI加速功能的3.5吋單板電腦IB962
- 台灣的醫療中心採用NVIDIA加速運算技術推動生物醫學研究發展
- H.I.T. 醫療生成式AI研究體系:引領醫療人工智慧新紀元
- HDMI協會趨勢觀察 AI革新電視體驗 8K應用快速成長
- 生成式AI考驗HPC互聯 矽光子技術將成大勢所趨
- 研華與臻鼎達成戰略合作 AI助力共鑄PCB產業數智化綠色化發展
- 醫揚推搭載輝達IGX平台醫療AI PC 全球首家可量產銷售公司
- 艾創點數位 共創企業AI應用新紀元
- 台達「解密Cloud to Edge AI」於COMPUTEX 2024展出驅動AI技術
- 英飛凌發佈新一代PSOC Edge微控制器產品組合
- NVIDIA執行長黃仁勳將在COMPUTEX 2024前發表主題演講
- 美光率先出貨關鍵記憶體 助力 AI 資料中心
- 研華SKY-602E3 GPU 伺服器 以其緊湊的塔型設計革新人工智能應用
- 洞視科技有限公司 MacroInsight:引領AI智能應用,創新多領域
- 迪威智能看準商業應用缺口 推AI會議記錄及聲音轉換 搶攻全球市場
- 傑騰智能以生成式智慧製造架構JEDAS 整合最新智慧製造解決方案
- 擁有AI影像辨識 iSeek創新訂閱制AI服務 掀市場革命
- 精誠集團捐贈輔仁大學Gemini Data AI圖數據軟體
- NVIDIA生成式人工智慧研究在一秒內製作出3D形狀
- 瞄準東南亞牙科市場 台灣牙e通登星國最大牙材展
- Dynabook 亮相AI EXPO 2024:為企業客戶帶來新解方
- 麗臺助陣 以AI工作站和AIDMS推動全民AI大潮
- NEC攜手能火、微軟為衛武營推出全球首個可互動的「生成式AI貝多芬」
- OneDegree Global推出AI風險評估 滿足不斷變化的合規和治理需求
- 安勤智慧交通展荷蘭初登場 運用AI邊緣運算助力低碳永續、無縫綠運輸
- HPE協助電信業者在6G、人工智慧時代以及長遠未來取得成功
- NTT DATA攜手吉嘉電子 升級MES系統 迎接智造新時代
- 戴爾科技集團助企業打造具全新AI體驗的現代化工作環境
- 台灣科技助樟宜機場打造高效室內定位服務
- Cadence推出全新Celsius Studio AI熱管理平台
- F5 2024網路安全預測-AI成為威脅的增強器
- Check Point揭統一且全面安全平台 開創AI驅動和雲端交付網路安全未來
- 安提推出首款NVIDIA Ada Lovelace架構MXM圖形模組 加速AI應用升級
- NTT DATA攜手璨揚啟動RISE with SAP升級上雲並導入生成式AI技術
- Alibaba.com全球同步上線「AI生意助手」
- 昕力資訊連續兩年奪下台灣精品獎 三項MIT軟體大放異彩
- 以AI融合獨特五字訣營運心法 陞泰科技打造最適化智慧安全監控系統
- 想像 vs. 現實:AI 視覺智造的時代?
- 2024科技趨勢 - 影響安防產業的5大科技趨勢
- Amazon亞馬遜技術長Werner Vogels 2024年及未來技術趨勢預測
- 趨勢科技2024資安預測報告:科技躍進與政經局勢交互作用 資安局勢添變數
- 導入AI讓設備變聰明 亞炬智能監測系統提高維修保養業營收
- 微軟Azure OpenAI助力HAPPY GO數位化精準行銷
- 昕力資訊連續兩年奪下台灣精品獎三項MIT軟體大放異彩
- AWS與Salesforce深化合作 更輕鬆地建構可信的AI應用程式
- AMD為微軟客戶提供全新AI與運算功能
- 華碩、NVIDIA、陽明交大產學合作 培育前瞻藝術人才
- VMware擴展Tanzu平台功能 為生成式AI經濟構建應用
- 人工智慧和自動化:中小企業不可錯失良機
- 摩爾斯微電子與Xailient攜手改變智慧型攝影機的未來
- AIoT賦能創造多元價值 新世代智慧建築成形
- 美光推出主流PCIe Gen4資料中心 SSD
- 製造業迎接AI時代 遠端設廠的革新趨勢
- 零壹科技攜手Pyramid Analytics為企業提供一站式智能AI決策解決方案
- 最新MLCommons AI推論結果 凸顯英特爾產品在AI領域的強大競爭力
- 明基醫與光明智能取得台灣第一個TFDA認證牙科AI軟體
- NVIDIA Grace Hopper超級晶片在MLPerf推論基準測試中取得卓越成果
- 圓剛再推新款邊緣AI運算解決方案VerMedia Box PC-D133ONB
- 威盛電子全力推動智慧工廠煙火辨識防爆偵準系統
- 智慧製造永續的基石: AI驅動決策
- 趨勢科技報告指出:2023上半年網路犯罪市場正利用AI工具提高效率
- VMware協助企業輕鬆駕馭生成式AI的力量
- o9引領供應鏈計畫邁向新世代:整合生成式人工智慧的頂尖計畫平台
- Google Cloud與NVIDIA合作推動人工智慧運算、軟體和服務
- 安勤科技推出智慧零售解決方案Renity AIR
- AI推論首選!華碩新一代邊緣電腦PE1100N
- 高通與現代汽車集團合作為移動專用車打造資訊娛樂系統
- AMD研究指出IT主管看好AI將改變其業務方式並正在加大投資
- 迎戰AI新世代 HPE產業應用論壇
- AIDMS助力 中醫大附醫與亞大資工攜手以AI助病患安心居家洗腎
- Menlo Security以AI驅動技術重新定義上網安全
- 正新橡膠擴大導入Profet AI方案
- 海韻電子助力AI產業蓬勃發展 提供環保高效的電源供應解決方案
- 淮南寰宇與法騰科技聯手打造lntellinet智能網管平台
- 用AI製作形象影片,實威國際推動製造業新時代的數位轉型
- 民視攜光禾感知打造AI虛擬主播
- 明基材料成功導入AI應用 改善製程與突破生產瓶頸
- 兆米智檢重新定義AOI瑕疵檢測準確率的新標準
- o9 Solutions以其AI賦能的規劃平台革新供應商協作流程
- NVIDIA 與微軟合作加速企業就緒生成式AI發展
- 戴爾科技集團和NVIDIA推出Helix計畫以實現安全的地端生成式AI
- SAP助力企業擁抱AI致勝未來
- NVIDIA:全球需求量大 AI晶片銷中禁令擴大應無傷短期營運
- 身心財都要健康 Lydia AI 再推APP助健康及財務規劃
- ChatGPT應用於製造業有譜? 工研院機械所:可朝7大方向發展
- 亞博福爾摩沙全通路語音智能客服 開展客服新世代
- 全球AI服務推展進入戰國時期 國家團隊整合已成必行之勢
- 透過AI演算分析模組o9致力永續指標納入供應鏈規劃流程
- DUGAA透過AI協助企業效率化分析海量數據
- AI視覺打造Gogoro人機協作未來產線
- Beseye雲守護研發最新AI監控解方
- 安圖斯AI運算平台 為企業和教育領域提供可靠解決方案
- 手機市場難樂觀 日零組件廠期待車載拉業績
- 迪威智能Noise Eraser:提升音訊品質,重新定義聲音體驗
- 搭載AI智能商機 精聯電子首創5G工規行動電腦並支援ARCore技術
- 新思科技推出Synopsys.ai為晶片製造商打造全面性AI驅動EDA套件
- 創鑫智慧雲端用人工智慧推論晶片在AI世界評測贏得最佳能效比
- 從AI到LLM:建置有序的人工智慧模型作業流程
- 安勤科技投資柏瑞醫 合作開發AI疾病輔助篩檢系統
- cacaFly強化雲端技術力 通過Google Cloud 專業認證
- Moldex3D 2023實現未來塑造
- 精誠與Gemini Data領先於台灣推出OpenAI商業應用
- 晶睿通訊整合旗下新品建構全方位AI安防解決方案