AI趨勢下產生的資安風險問題有哪些？

資訊安全》AI趨勢下產生的資安風險問題有哪些？｜天矽網頁設計

隨著AI技術普及發展，企業在感受效率提升的同時，也正面臨資安風險。生成式AI帶來前所未有的創新與生產力，尤其是代理式AI(Agentic AI)，因能自主決策、規劃或執行複雜工作的AI系統，可目標性的移動或學習，因應這樣趨勢發展，想必會引入輸入操縱、數據汙染、憑證劫持等資安風險。

近年來，AI人工智慧技術快速發展，從生成式 AI、語音辨識到自動化決策，已經廣泛的被企業使用，特別是在生成式AI之後，代理式AI逐漸備受關注，由於能自主決策、規劃或執行複雜度較高的AI系統，因而大幅提升企業的作業效率。

AI技術能力的上升，同時也放大了潛在的資安風險。如果AI系統被授權了更高的權限與資料儲存能力，當系統遭到濫用或入侵，造成的影響範圍或破壞程度就會越大，這也讓企業在導入AI技術的過程，往往也必須重新審視既有的資安防護是否足夠，或是否有需要加強資安防護。

生成式AI vs 代理式AI的區別

隨著AI技術蓬勃發展，資安風險的型態從傳統的系統漏洞，轉變為結合AI技術的自動化攻擊，不管是生成式AI或代理式AI，因為AI強大的資料處理與決策能力，可以快速分析大量或複雜度高的資訊。然而，如果缺乏管控，原本使用於提升效率的AI技術，將會演變且成新型的資安風險與威脅。

以下是針對AI趨勢技術發展，常見的資安風險類型：

資安風險項目	說明
AI 生成釣魚與社交工程攻擊	運用生成式 AI 大量產出高度擬真的郵件、簡訊或對話內容，提升詐騙成功率。
深偽詐騙（Deepfake）	運用合成音或或用AI生成假影象，冒用主管或客戶，誘導人員誤信指令。
企業機密資料外洩	內部資料輸入至 AI 平台，造成資料可能會被保留或分析。
權限濫用風險	AI 系統有可能取得較高的管理者權限，系統遭誤用或被入侵後造成破壞。
自動化流程誤導操作	代理式AI自主性執行自動化流程任務，若無加強訓練，有可能使系統設定錯誤，或是出現連續性錯誤。
第三方AI潛在風險	使用外部 AI API 或工具，由於第三方因素較不可控，亦有潛在的資安風險。
系統模型被操控或誤導	透過病毒干擾注入AI模型系統，使AI系統產生異常狀況或行為。
法規風險問題	若AI系統使用的方式不符合法規，導致企業可能面臨罰鍰或法律責任。