的是當模型被洩露或被盜時該
Posted: Wed Dec 18, 2024 10:24 am
暴露的人工智慧模型北卡羅來納州立大學的研究人員展示了一種提取人工智慧模型的新方法透過從處理硬體捕獲電磁訊號來實現高達 % 的準確度。透過將探針放置在 Google Edge 張量處理單元 TPU 附近他們可以分析揭示模型結構關鍵資訊的訊號。據推測該攻擊不需要直接存取系統從而對人工智慧智慧財產權構成安全風險。調查結果強調隨著人工智慧技術在商業和關鍵系統中的使用需要改進保障措施。人工智慧模型很有價值我們不希望人們竊取它們該研究論文的合著者、北卡羅來納州立大學電氣和計算機工程副教授艾丁·艾蘇（Aydin Aysu）在部落格文章中表示。
建置模型成本高昂並且需要大量的運算資源。但同樣重要 目標行業資料庫 模型也變得更容易受到攻擊——因為第三方可以研究該模型並識別任何弱點。人工智慧訊號安全漏洞人工智慧模型對攻擊的敏感性可能迫使企業重新考慮人工智慧處理技術顧問 Suriel Arellano 告訴 PYMNTS。他補充說公司可能會轉向更集中和安全的計算或考慮不易被盜的替代技術。這是一個潛在的場景。但更有可能的結果是從人工智慧中獲得顯著收益並在公共環境中工作的公司將大力投資於提高安全性。
儘管有盜竊風險人工智慧也有助於提高安全性。正如 PYMNTS 之前所報導的那樣人工智慧正在透過模式識別和數據分析實現自動威脅檢測和簡化事件響應來加強網路安全。聯想首席技術長 Timothy E. Bates 表示人工智慧驅動的安全工具既可以識別潛在威脅又可以從每次遭遇中學習他強調了機器學習系統如何幫助團隊預測和應對新出現的攻擊。推薦的人工智慧訊號漏洞可能會導致模型盜竊Keo 擴大了對巴西BB 支付平台
建置模型成本高昂並且需要大量的運算資源。但同樣重要 目標行業資料庫 模型也變得更容易受到攻擊——因為第三方可以研究該模型並識別任何弱點。人工智慧訊號安全漏洞人工智慧模型對攻擊的敏感性可能迫使企業重新考慮人工智慧處理技術顧問 Suriel Arellano 告訴 PYMNTS。他補充說公司可能會轉向更集中和安全的計算或考慮不易被盜的替代技術。這是一個潛在的場景。但更有可能的結果是從人工智慧中獲得顯著收益並在公共環境中工作的公司將大力投資於提高安全性。
儘管有盜竊風險人工智慧也有助於提高安全性。正如 PYMNTS 之前所報導的那樣人工智慧正在透過模式識別和數據分析實現自動威脅檢測和簡化事件響應來加強網路安全。聯想首席技術長 Timothy E. Bates 表示人工智慧驅動的安全工具既可以識別潛在威脅又可以從每次遭遇中學習他強調了機器學習系統如何幫助團隊預測和應對新出現的攻擊。推薦的人工智慧訊號漏洞可能會導致模型盜竊Keo 擴大了對巴西BB 支付平台