微新創(chuàng)想(idea2003.com) 10 月 28 日消息: Google 宣布，將擴(kuò)展其漏洞獎勵計劃（VRP），以獎勵研究人員尋找針對生成式人工智能（AI）系統(tǒng)的攻擊方案，以增強 AI 的安全性和安全性。

Google 的 Laurie Richardson 和 Royal Hansen 表示：「生成式 AI 帶來了與傳統(tǒng)數(shù)字安全不同的新問題，例如可能存在的不公平偏見、模型操作或數(shù)據(jù)誤解（幻覺）。」

適用范圍內(nèi)的一些類別包括提示注入、訓(xùn)練數(shù)據(jù)集中敏感數(shù)據(jù)的泄露、模型操縱、觸發(fā)誤分類的對抗性擾動攻擊和模型盜竊。

值得注意的是，Google 在今年 7 月早些時候成立了一個 AI 紅隊，以幫助解決 AI 系統(tǒng)的威脅，作為其安全 AI 框架（SAIF）的一部分。

同時，作為致力于保障 AI 的承諾的一部分，Google 還宣布了通過現(xiàn)有的開源安全倡議，如軟件的供應(yīng)鏈級別（SLSA）和 Sigstore 來加強 AI 供應(yīng)鏈的努力。

Google 表示：「數(shù)字簽名，如來自 Sigstore 的簽名，允許用戶驗證軟件是否被篡改或替換。」

「諸如 SLSA Provenance 之類的元數(shù)據(jù)告訴我們軟件中有什么以及它是如何構(gòu)建的，允許消費者確保許可兼容性，識別已知的漏洞，并檢測更高級的威脅。」

此項發(fā)展是在 OpenAI 揭幕了一個新的內(nèi)部準(zhǔn)備團(tuán)隊，以「跟蹤、評估、預(yù)測和保護(hù)」針對跨越網(wǎng)絡(luò)安全、化學(xué)、生物、放射性和核（CBRN）威脅的生成式 AI 的災(zāi)難性風(fēng)險之際發(fā)生的。

兩家公司，連同 Anthropic 和微軟，還宣布了創(chuàng)建一個 1000 萬美元的 AI 安全基金，專注于推動 AI 安全領(lǐng)域的研究。