微軟推出了漏洞賞金計劃，為發現 AI 系統中的漏洞提供高達 15,000 美元的獎勵，目標是透過外部安全測試來提高 AI 安全性。
該計劃的初始範圍將涵蓋 Bing 的 AI 功能，包括 Bing Chat、Bing Image Creator 以及 Bing 與 Microsoft Edge、Microsoft Start 應用和 Skype 的整合。
該公司在 BlueHat 安全會議上的演講中強調了這項新的獎勵計劃。 它的目的是激勵安全研究人員在惡意行為者利用它們之前發現微軟人工智慧產品中的錯誤和缺陷。
微軟在聲明中聲稱：
“正如上個月我們在年度獎勵回顧部落格文章中所分享的那樣，我們不斷發展、迭代和發展我們的獎勵計劃，以幫助 Microsoft 客戶在不斷變化的安全環境和新興技術中保持領先地位。”
微軟的賞金計畫擴展到包括人工智慧
微軟的新獎勵計畫是現有計畫的延伸，該計畫已向研究人員獎勵超過 1,300 萬美元。 此前，該公司最近更新了人工智慧系統的漏洞嚴重程度評級，並面臨人工智慧安全研究挑戰。
根據賞金計畫的條款，合格的漏洞必須滿足 Microsoft 的嚴重性閾值，之前未曾報告過，並且包括明確且可重現的步驟。
提交的內容將根據技術嚴謹性和報告品質進行評分。
對於中等嚴重程度的缺陷，最低賞金金額為 2,000 美元；對於嚴重漏洞，最低賞金金額為 15,000 美元。 對於對客戶有重大影響的問題，Microsoft 可能會酌情獲得更高的獎勵。
如何參加
有興趣參與的研究人員可以透過 Microsoft 安全回應中心入口網站提交漏洞。
Microsoft 建議使用測試帳戶進行道德賞金狩獵，同時避免揭露客戶資料或拒絕服務。
該計劃的範圍僅限於 Bing 人工智慧體驗中的技術漏洞。 不允許執行某些操作，例如存取不屬於您的資料、利用伺服器問題來證明概念證明以及執行產生大量流量的自動化測試。
總結
微軟的人工智慧漏洞賞金計畫標誌著更廣泛的行業關注在人工智慧系統中的漏洞被利用之前識別並負責任地披露這些漏洞。
雖然僅限於必應的人工智慧功能，但隨著微軟建構並確保更多人工智慧功能，獎勵可能會在以後擴大。
特色圖片：Andrii Yalanskyi/Shutterstock
