微新創想(idea2003.com) 7月25日 消息:美國白宮于7月21日發布的一份情況說明書正式披露，一些在美國運營的最大的生成式人工智能公司計劃為其內容添加水印。亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 就生成式人工智能的使用和監督（包括水印）達成了八項自愿承諾。

此前，白宮在三月份發表了一份聲明，表達了對人工智能濫用的擔憂。此外，自2022年11月ChatGPT將人工智能內容置于公眾視野以來，監管機構正在制定管理生成式人工智能對技術以及人們與其互動方式的影響的程序。

白宮人工智能的八項安全承諾包括:

• 人工智能系統發布前的內部和外部安全測試。

• 在整個行業以及與政府、民間社會和學術界共享有關管理人工智能風險的信息。

• 投資網絡安全和內部威脅防護措施，特別是保護模型權重，這會影響人工智能模型關聯的偏見和概念。

• 鼓勵第三方發現和報告其人工智能系統中的漏洞。

• 公開報告所有人工智能系統的功能、局限性以及適當和不適當使用的領域。

• 優先研究偏見和隱私。

• 幫助將人工智能用于癌癥研究等有益目的。

• 開發強大的水印技術機制。

水印承諾涉及生成人工智能公司開發一種將文本、音頻或視覺內容標記為機器生成的方法;它將適用于水印系統鎖定后創建的任何公開可用的生成人工智能內容。由于水印系統尚未創建，因此判斷內容是否由人工智能生成的標準方法將公開可用還需要一段時間。

此舉是為了解決目前 AI 技術面臨的一些重要問題，如偏見、不可靠性和潛在的危險性。通過這些保證，公司將能夠更好地管理和控制 AI 系統的風險，確保其在使用過程中不會對人類造成傷害。這份清單的發布得到了業界的廣泛關注和贊賞，被認為是 AI 安全領域的重要一步。