微新創(chuàng)想(idea2003.com) 7月25日 消息:美國白宮于7月21日發(fā)布的一份情況說明書正式披露，一些在美國運(yùn)營的最大的生成式人工智能公司計(jì)劃為其內(nèi)容添加水印。亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 就生成式人工智能的使用和監(jiān)督（包括水印）達(dá)成了八項(xiàng)自愿承諾。

此前，白宮在三月份發(fā)表了一份聲明，表達(dá)了對人工智能濫用的擔(dān)憂。此外，自2022年11月ChatGPT將人工智能內(nèi)容置于公眾視野以來，監(jiān)管機(jī)構(gòu)正在制定管理生成式人工智能對技術(shù)以及人們與其互動方式的影響的程序。

白宮人工智能的八項(xiàng)安全承諾包括:

• 人工智能系統(tǒng)發(fā)布前的內(nèi)部和外部安全測試。

• 在整個行業(yè)以及與政府、民間社會和學(xué)術(shù)界共享有關(guān)管理人工智能風(fēng)險的信息。

• 投資網(wǎng)絡(luò)安全和內(nèi)部威脅防護(hù)措施，特別是保護(hù)模型權(quán)重，這會影響人工智能模型關(guān)聯(lián)的偏見和概念。

• 鼓勵第三方發(fā)現(xiàn)和報告其人工智能系統(tǒng)中的漏洞。

• 公開報告所有人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。

• 優(yōu)先研究偏見和隱私。

• 幫助將人工智能用于癌癥研究等有益目的。

• 開發(fā)強(qiáng)大的水印技術(shù)機(jī)制。

水印承諾涉及生成人工智能公司開發(fā)一種將文本、音頻或視覺內(nèi)容標(biāo)記為機(jī)器生成的方法;它將適用于水印系統(tǒng)鎖定后創(chuàng)建的任何公開可用的生成人工智能內(nèi)容。由于水印系統(tǒng)尚未創(chuàng)建，因此判斷內(nèi)容是否由人工智能生成的標(biāo)準(zhǔn)方法將公開可用還需要一段時間。

此舉是為了解決目前 AI 技術(shù)面臨的一些重要問題，如偏見、不可靠性和潛在的危險性。通過這些保證，公司將能夠更好地管理和控制 AI 系統(tǒng)的風(fēng)險，確保其在使用過程中不會對人類造成傷害。這份清單的發(fā)布得到了業(yè)界的廣泛關(guān)注和贊賞，被認(rèn)為是 AI 安全領(lǐng)域的重要一步。