劃重點:

– ? Meta的開源模型Llama2備受爭議，未滿足開源倡議要求。

– ? Meta公司堅持保持一定的開放性，同時關注商業風險。

– ? Meta積極參與行業組織，倡導安全AI模型部署標準。

微新創想(idea2003.com) 10月31日 消息:Meta公司最近發布的大型語言模型Llama2備受爭議，因其并未完全滿足開源倡議的要求。盡管Llama2相對較為開放和免費，但在開源軟件領域，一些人仍對該公司的開放性持有異議。

具體來說，Meta公司的許可協議使Llama2對許多人免費，但它仍然是有限的，未滿足開源倡議的所有要求。開源倡議要求不僅分享代碼或研究，還要提供自由的重新分發、源代碼訪問、允許修改，并且不得與特定產品綁定。而Meta公司的限制包括對擁有超過7億日活用戶的開發者收取許可費，以及禁止其他模型在Llama上進行訓練。因此，一些研究人員認為Meta公司聲稱Llama2是開源的“具有誤導性”，社交媒體上也質疑Meta如何能夠宣稱其為開源。

Meta公司的AI研究負責人Joelle Pineau表示，她了解Meta公司的開放性存在限制。但她認為，這是信息共享的好處與Meta公司業務潛在成本之間的必要平衡。在接受The Verge采訪時，Pineau表示，即使Meta公司對開放性采取了有限的方式，也已經改變了他們研究的方式，使他們更加關注AI項目的安全性。“開放性已經在內部改變了我們對研究的方法，驅使我們不發布任何不夠安全和負責的內容，” Pineau說道。

Meta公司最大的開源倡議之一是PyTorch，這是一種用于開發生成式AI模型的機器學習編程語言。該公司于2016年將PyTorch發布給開源社區，自那以后，外部開發人員一直在對其進行改進。Pineau希望能夠在其生成式AI模型上建立相同的激情，特別是自從開源以來，PyTorch已經“有了很大的改進”。

Meta公司積極參與行業組織，如合作伙伴AI和MLCommons，以幫助制定基礎模型的標準和安全模型部署指南。該公司更愿意與行業組織合作，因為他們認為沒有任何一家公司可以主導開源社區中有關安全和負責任的AI的討論。

Meta公司在大型AI公司領域的開放性方法似乎是一種新穎的做法。OpenAI起初作為更為開放和開源的公司開始，但OpenAI的聯合創始人和首席科學家Ilya Sutskever告訴The Verge，分享他們的研究是一個錯誤，他提到了競爭和安全問題。雖然谷歌偶爾會分享其科學家的論文，但它在開發一些大型語言模型方面也一直保持保密。

開源開發者通常在Hugging Face和GitHub的代碼庫上定期發布新的LLM（大型語言模型），迪拜科技創新研究院推出的開源LLM“Falcon”也在與Llama2和GPT-4競爭中越來越受歡迎。然而，值得注意的是，大多數閉源AI公司并不分享有關創建其模型訓練數據集的詳細信息。

Pineau表示，目前的許可計劃并未考慮到接受大量外部數據的軟件，而許多生成式AI服務都會接受大量外部數據。大多數許可協議，無論是開源還是專有，都僅為用戶和開發人員提供有限的責任，對于侵權也提供非常有限的賠償。但Pineau表示，像Llama2這樣的AI模型包含更多的訓練數據，如果用戶制作了被視為侵權的內容，他們可能會面臨更多的法律責任。當前的軟件許可協議并不包括這種不可避免的情況。

目前業內人士已經開始關注在商業領域的一些LLM的開源許可的局限性，同時也有人認為純粹和真正的開源是一個哲學性的討論，而開發人員不太關心。