微新創想(idea2003.com) 7月27日消息:谷歌、微軟等四家領先的人工智能公司于周三宣布成立了一個新的行業組織，旨在確定最佳的安全實踐，并推動該技術在應對重大社會挑戰方面的應用。

該組織強調，在政策制定者制定新規則之前，該行業可能需要繼續自我監管。

Anthropic、谷歌、微軟和OpenAI稱這個名為Frontier Model Forum（前沿模型論壇）的新組織有四個主要目標，谷歌在一篇博文中概述了這些目標：

1. 推進AI安全研究，促進前沿模型的負責任開發，最小化風險，并實現對能力和安全性的獨立、標準化評估。

2. 確定前沿模型的負責任開發和部署的最佳實踐，幫助公眾了解技術的性質、能力、局限性和影響。

3. 與政策制定者、學者、民間社會和公司合作，共享有關信任和安全風險的知識。

4. 支持開發能夠應對社會最大挑戰的應用程序，例如氣候變化緩解和適應、早期癌癥檢測和預防以及打擊網絡威脅。

滿足若干標準的組織可以加入該組織。這些標準包括開發或部署前沿模型，即“大規模的機器學習模型超越了目前最先進的現有模型的能力，并能執行各種各樣的任務，”谷歌在博文中表示。他們還必須通過技術和機構方法表現出對安全的承諾。

該組織表示，在未來幾個月內，將組建一個多樣化背景的咨詢委員會來指導其優先事項。創始公司將咨詢民間社會組織，以制定其治理設計和資金籌集。

此舉發生在政策制定者權衡何種適當的技術監管措施，同時又不會阻礙創新并讓該國在AI競賽中失去優勢。

參議院多數黨領袖查克·舒默（D-N.Y.）一直在帶頭努力制定一個AI立法框架，而其他很多涉及技術影響不同方面的法案已經被提出。白宮還一直在與行業領袖和AI專家舉行會議，并最近宣布領先企業同意自愿承諾安全開發AI。

谷歌和 Alphabet 全球事務總裁肯特·沃克 (Kent Walker) 表示：「我們很高興與其他領先公司合作，分享技術專業知識，以促進負責任的人工智能創新。我們都需要共同努力，確保人工智能造福每個人。」

微軟副董事長兼總裁 Brad Smith 表示：「創造人工智能技術的公司有責任確保其安全、可靠并始終處于人類控制之下。這一舉措是將科技行業聚集在一起，負責任地推進人工智能并應對挑戰，使其造福全人類的重要一步。」

OpenAI 全球事務副總裁 Anna Makanju 表示：「先進的人工智能技術具有給社會帶來深遠影響的潛力，而實現這一潛力的能力需要監督和治理。至關重要的是，人工智能公司——尤其是那些致力于最強大模型的公司——必須在共同點上保持一致，并推進深思熟慮且適應性強的安全實踐，以確保強大的人工智能工具擁有盡可能廣泛的利益。這是一項緊迫的工作，本論壇完全有能力迅速采取行動，以提高人工智能安全水平。」

Anthropic 首席執行官 Dario Amodei 表示：「Anthropic 相信人工智能有潛力從根本上改變世界的運作方式。我們很高興與行業、民間社會、政府和學術界合作，促進該技術的安全和負責任的開發。前沿模型論壇將在協調最佳實踐和分享前沿人工智能安全研究方面發揮至關重要的作用。」