How Will AI Affect Cybersecurity?
人工智慧仍然是一個具有巨大潛力和興趣的話題：無論是用於提高員工效率的內部應用程序，還是用於最大限度地減少支援查詢的面向客戶的工具，人工智能的廣泛採用正在對網路安全領域產生重大影響- 良好和壞的。
人工智慧在網路安全中帶來的挑戰
人工智慧快速整合和產生大量資料的能力在被故意用於惡意目的時可能會造成重大危險。
以下這些人工智慧驅動的威脅可能會使保護企業安全的任務變得更加困難。
網路釣魚法學碩士
社會工程透過利用信任和人為錯誤，藉此操縱個人或組織透露敏感資料或破壞安全性。 網路釣魚等技術是其中的核心，攻擊者冒充合法來源來欺騙受害者：
- 點擊有害鏈接
- 分享個人資料
- 轉移資金
透過製造虛假的信任感或緊迫感，攻擊者無需突破技術防禦即可存取網路、裝置和帳戶，而是依賴操縱人類行為的便利性。
OpenAI 的 GPT-4 等先進人工智慧模型能夠大規模產生高度個人化的魚叉式網路釣魚電子郵件，並且具有令人難以置信的真實性和最低的成本。 這將大規模網路釣魚的效率與針對性攻擊的精確性結合起來，從而使網路犯罪分子能夠部署看似真實的自訂攻擊。 因此，這些網路釣魚訊息的命中率變得更高，為更多的網路犯罪提供了資金。
多模式生成模型的興起，它可以在以下各方面解釋和創建內容：
- 文字
- 影像
- 音頻
這為攻擊者提供更多的攻擊途徑，而不僅僅是電子郵件。 這些模型使攻擊者能夠透過分析目標的圖像和音訊樣本來產生高度個人化的網路釣魚內容。
例如，微軟的 VALL-E 可以從簡短的音訊樣本中克隆一個人的聲音，從而允許攻擊者製造令人信服的語音網路釣魚（vishing）電話並模仿同事。 多種模式（包括文字、圖像和語音）的融合，大大大地擴大了潛在攻擊的範圍和真實性。
驗證碼
CAPTCHA 檢查通常是防止壞機器人進行外的一種方法，並確保只有人類與您的在線資源互動。
但是，人工智慧的持續學習能力讓研究人員創建了一個能夠繞過 reCAPTCHA v2 的機器人。
他們的人工智慧驅動工具將物件辨識模型與VPN （偽裝來自一個 IP 位址的重複嘗試）、自然滑鼠移動工具和虛假 cookie 資料結合，能夠模擬類人的瀏覽行為。 結果，該工具擊敗了所有 CAPTCHA 測試的 100％。
內部人工智慧開發增加安全風險
值得關注的不僅是網路攻擊者手中的人工智慧：內部人工智慧工具的安全風險可能很大。 例如，訓練資料外洩呈現出明顯的脆弱性，正如微軟研究人員無意中在 GitHub 上洩露了大約 38 TB 的敏感資料所看到的那樣。
發生此事件的原因是Azure儲存網址上用於下載人工智慧模型的權限錯誤地授予了對整個儲存帳戶的存取權限。 暴露的資料包括敏感資訊，例如：
- 個人備份
- 服務密碼
- 秘密鑰
- 超過 30,000 個內部微軟團隊訊息
這說明了人工智慧研究中意外資料外洩的潛在嚴重性，以及為什麼您必須小心。
人工智慧對網路安全的好處
在正確的人手中，人工智慧驅動的工具不僅能夠消除新的人工智慧威脅，還能夠消除多年來困擾安全團隊的一些更傳統的困難。
能夠分析大量數據
安全資訊與事件管理（安全性資訊與事件管理）解決方案集中了整個組織防禦的日誌收集和分析。 彙總數據，SIEM 幫助：
- 識別異常
- 觸發警示
- 收集其他前後關聯
- 隔離受影響的資產
這使組織能夠快速有效地回應潛在的安全事件。
機器學習和模式識別使人工智能支援的安全性資訊與事件管理系統能夠比人工審查更快地分析歷史安全數據：更好的是，所有這些單獨的數據都可以用於為每個人建立行為基線用戶和裝置。
與依賴日誌簽章和預定義關鍵性的傳統 SIEM 不同，人工智慧 SIEM 透過將當前事件與此基準進行比較來動態偵測威脅。 此外，這些系統可以分析異常模式，以建立與已知攻擊向量的任何連接，從而提供高度準確、近乎即時的警報。
網路釣魚威脅偵測
網路釣魚攻擊的主要目標是模仿合法網站，因為這種相似性有助於欺騙受害者，讓他們相信自己位於受信任的網站上。
這種模仿導致受害者無意識地直接向攻擊者提供敏感信息，例如：
- 密碼
- 財務詳情
網路釣魚頁面越令人信服，成功操縱受害者採取有害行為的機會就越高。
同時處理文字和圖像的多模式大語言模型 (LLM) 在檢測基於品牌的網路釣魚方面具有巨大潛力。 通過對各種品牌表現方面的廣泛培訓，這些模型分析網頁的視覺和文字元素，以識別其品牌關聯。
此功能使法學碩士能夠識別品牌展示中可能表明網路釣魚嘗試的不一致之處，從而有可能改進基於品牌的網路威脅的自動檢測方法。
資料外洩防護
確保這些人工智慧工具如何應用其訓練資料的重要性從未如此重要。 由於人工智慧提示及其回應採用對話式、非結構化資料的格式，因此很難像傳統DLP方法所使用的那樣確保關鍵字的安全。
基於人工智慧的高級資料分類可以透過檢測和防止與這些應用程式相關的潛在資料外洩來幫助保護敏感資訊，從而確保保持對平台資料流的完全控制。
Check Point 如何實現全面安全的人工智慧集成
要了解組織中的 GenAI 應用程序，識別和評估這些工具可能帶來的風險至關重要，尤其是在資料安全和合規方面。 在您自己的用例中仔細權衡人工智慧的利弊是確定其長期適用性的關鍵。
Check Point的GenAI 安全性能夠透過準確分類和保護提示內的對話資料來確保所有團隊的人工智慧專案的安全。 如果您已經建立了許多工具，它可以提供 GenAI 應用程式和所有連接服務的深入可見性。 這可減少暗影 IT 的風險，並有助於進一步領先監管要求。 立即加入我們的預覽計劃，探索您的人工智慧工具的蔓延。
As for Check Point’s application of AI within pre-existing cybersecurity tools, our Check Point platform harnesses generative AI to deliver advanced threat prevention, streamlined automated threat response, and effective security management. By combining 50 AI engines to cover the full breadth of threat intelligence, Check Point delivers the best catch rate of any security solution. When any new Indicator of Compromise is discovered, the pattern is quickly applied to the entire tech stack in under 2 seconds, securing:
- 雲
- 物聯網、網路
- 所有其他端點甚至免受零時差攻擊
Fundamentally, Check Point supports AI innovation: securing both new-found applications, and supporting the complex services that AI-powered organizations run on. Schedule a demo to see how it works.
