>>>>>大模型動態(tài)<<<<<

開源大模型訓(xùn)練框架Megatron-LLaMA來了32卡訓(xùn)練可加速176%

9月12日，淘天集團(tuán)聯(lián)合愛橙科技正式對外開源大模型訓(xùn)練框架Megatron-LLaMA，以提高大語言模型訓(xùn)練性能，降低訓(xùn)練成本。

要點:

1. Megatron-LLaMA是一個基于Megatron-LM的分布式深度學(xué)習(xí)訓(xùn)練框架，專門用于大規(guī)模語言模型LLaMA的訓(xùn)練。

2. 測試顯示，相比HuggingFace代碼，Megatron-LLaMA在32卡訓(xùn)練上獲得176%的加速效果。

3. Megatron-LLaMA已在GitHub開源，將持續(xù)關(guān)注社區(qū)發(fā)展，與開發(fā)者共同推進(jìn)相關(guān)方向。

螞蟻集團(tuán)發(fā)布“蟻天鑒”大模型安全一體化解決方案

螞蟻集團(tuán)在2023國家網(wǎng)絡(luò)安全宣傳周上發(fā)布了名為“蟻天鑒”的大模型安全一體化解決方案，包括“蟻鑒2.0”大模型安全檢測平臺和“天鑒”大模型風(fēng)險防御平臺，可以從多角度保障大模型的安全性。

要點:

1. “蟻天鑒”解決方案包含兩大核心產(chǎn)品“蟻鑒2.0”和“天鑒”平臺。

2. “蟻天鑒”從數(shù)據(jù)安全、內(nèi)容安全、科技倫理等角度保障大模型安全。

3. “天鑒”平臺可以防止大模型受到外部攻擊，并對生成內(nèi)容進(jìn)行風(fēng)險過濾。

>>>>>聚焦開發(fā)者<<<<<

WebAI開源:允許開發(fā)者直接在瀏覽器中運行現(xiàn)代深度學(xué)習(xí)模型

web-ai是一個開源的TypeScript庫，使開發(fā)者可以直接在瀏覽器或Node.js中運行現(xiàn)代深度學(xué)習(xí)模型。它提供了一種無需復(fù)雜服務(wù)器端基礎(chǔ)設(shè)施或依賴第三方API的方式，將AI能力集成到Web應(yīng)用程序中。

項目地址:https://github.com/visheratin/web-ai

要點:

1） WebAI使用ONNX Runtime在瀏覽器和Node.js運行深度學(xué)習(xí)模型，支持高性能推理和緩存。

2） 提供簡單的API和配置選項，開發(fā)者可以輕松集成AI能力到Web應(yīng)用中。

3） 采用MIT許可證，可以自由修改和商業(yè)部署，是集成深度學(xué)習(xí)到Web的開源首選。

開源AI搜索平臺Swirl 支持Microsoft365集成

開源AI搜索平臺Swirl支持Microsoft365集成，可以搜索自己的數(shù)據(jù)，與大型語言模型GPT進(jìn)行知識問答，在不移動和重新索引數(shù)據(jù)的情況下解決多源數(shù)據(jù)搜索問題。

項目地址:https://github.com/swirlai/swirl-search

要點:

1. Swirl是一個開源的元搜索平臺，可以連接多種數(shù)據(jù)源進(jìn)行聯(lián)合搜索。

2. Swirl可以搜索自己的數(shù)據(jù)，與GPT大模型進(jìn)行知識問答，實現(xiàn)檢索增強(qiáng)生成。

3. Swirl使用Python和Django棧構(gòu)建，可以在不移動和重新索引數(shù)據(jù)的情況下解決多源搜索問題。

通用Web應(yīng)用程序服務(wù)器NGINX Unit開源

通用Web應(yīng)用程序服務(wù)器NGINX Unit開源，可在七種語言中運行應(yīng)用程序代碼。它將Web服務(wù)器、應(yīng)用程序服務(wù)器和進(jìn)程管理器功能集成到一個軟件包，通過在多語言中本地執(zhí)行代碼簡化Web應(yīng)用棧，是一個開源、高性能、易擴(kuò)展的Web服務(wù)器。

項目地址:https://github.com/nginx/unit

要點:

1. NGINX Unit將Web服務(wù)器、應(yīng)用程序服務(wù)器和進(jìn)程管理器功能集成一個軟件包。

2. 支持在多種語言如Python、PHP等中本地執(zhí)行應(yīng)用程序代碼。

3. 它是一個開源、高性能、易擴(kuò)展的Web服務(wù)器。

組合式AI驅(qū)動生態(tài)系統(tǒng)XenonJs 像搭積木一樣構(gòu)建Web應(yīng)用

XenonJs是一款模塊化的Web開發(fā)框架，開發(fā)者可以像搭積木一樣組合不同的組件和服務(wù)構(gòu)建Web應(yīng)用，它集成了AI技術(shù)，支持多終端部署，開源免費，使用JavaScript語言編寫，易學(xué)易用。

項目地址:https://github.com/NeonFlan/xenonjs

要點:

1. XenonJs采用組件化和圖狀態(tài)模式，組件間采用標(biāo)準(zhǔn)化接口實現(xiàn)松耦合和高內(nèi)聚。

2. XenonJs深度集成AI技術(shù)，開發(fā)者可以利用AI服務(wù)快速添加智能功能。

3. XenonJs支持多終端部署，開發(fā)一次可以部署到多設(shè)備，還支持同構(gòu)應(yīng)用。

Numenta發(fā)布基于大腦的NuPIC，將AI效率提高100倍

Numenta公司推出基于17年大腦研究的人工智能產(chǎn)品NuPIC，可將AI處理效率提高約100倍。與大多數(shù)依賴圖形處理單元（GPU）的AI解決方案不同，NuPIC利用Intel CPU，充分利用其靈活的編程模型。這一創(chuàng)新意味著在不需要昂貴GPU基礎(chǔ)設(shè)施的情況下，能夠降低AI的成本，將AI運行效率提高數(shù)倍。

要點:

1. NuPIC是一款基于神經(jīng)科學(xué)研究的AI解決方案，由杰夫·霍金斯等人創(chuàng)立，無需深度學(xué)習(xí)知識即可使用。

2. NuPIC利用Intel CPU實現(xiàn)高性能運行，相比依賴GPU的AI可降低成本，提升多倍效率。

3. NuPIC確保企業(yè)數(shù)據(jù)安全隱私，提供完全控制，是AI領(lǐng)域重要進(jìn)展，可提高AI效率。

生成式AI開發(fā)平臺Hiber3D 用ChatGPT方式開發(fā)游戲

3D游戲開發(fā)平臺Hiber3D通過谷歌的PaLM大語言模型，結(jié)合自身500多個模板庫，以及數(shù)百萬個成品3D場景進(jìn)行微調(diào)，推出了一個全新游戲開發(fā)平臺。該平臺在生成式AI加持下，用戶可以像使用ChatGPT那樣，通過文本問答方式快速創(chuàng)建3D游戲場景和功能。

申請試用地址:https://www.hiber3d.com/genai

要點:

1. Hiber3D利用谷歌PaLM模型，推出文本交互式3D游戲開發(fā)平臺，用戶可像使用ChatGPT那樣通過問答開發(fā)游戲。

2. Hiber3D提供500+模板庫及數(shù)百萬成品場景，用戶發(fā)出文本指令可快速生成游戲場景。

3. Hiber3D平臺未來將開放給用戶，實現(xiàn)無編程背景的普通人也可開發(fā)3D游戲。

>>>>>AI新鮮事<<<<<

英偉達(dá)GH200在MLPerf3.1中驚艷亮相，性能相比H100躍升17%

MLPerf作為業(yè)界公認(rèn)的AI系統(tǒng)性能基準(zhǔn)測試，最近發(fā)布了3.1版本。此版本中，英偉達(dá)最新發(fā)布的GH200Grace Hopper超級芯片首次在公開基準(zhǔn)中亮相。測試結(jié)果顯示，GH200的性能比單個H100GPU提升了17%，在服務(wù)器場景的各個測試項目上均具有明顯優(yōu)勢。

要點:

1. 英偉達(dá)最新GH200芯片在MLPerf3.1基準(zhǔn)測試中首次亮相。

2. GH200的性能比單個H100提升了17%，各測試項目表現(xiàn)均超過H100。

3. MLPerf Inference3.1新增GPT-J推理測試，更新DLRM推理測試。

微軟攜手Project Gutenberg利用AI語音技術(shù)制作5000本免費有聲書

美國 IT 巨頭微軟公司近日與古Project Gutenberg合作，利用人工智能技術(shù)為該計劃的電子書庫制作了超過5000本高質(zhì)量的有聲書。通過機(jī)器學(xué)習(xí)、自動文本選擇和自然語音合成等AI技術(shù)，實現(xiàn)了電子書自動轉(zhuǎn)化為語音的全流程。

圖源備注:圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

要點:

1. 微軟與Project Gutenberg合作，使用AI語音技術(shù)為該計劃的電子書庫制作了超過5000本有聲書。

2. 項目團(tuán)隊開發(fā)算法自動分析電子書結(jié)構(gòu)，使用多項前沿的AI語音合成技術(shù)生成語音。

3. 制作的有聲書語音數(shù)據(jù)達(dá)35000小時，涵蓋各類經(jīng)典作品，免費開源提供。

OpenAI又被告了!作家集體起訴OpenAI侵犯版權(quán)

最近，一群作家，包括邁克爾·查伯恩、大衛(wèi)·亨利·黃在內(nèi)，針對OpenAI提起了集體訴訟。訴訟稱，OpenAI通過讓ChatGPT學(xué)習(xí)他們的受版權(quán)保護(hù)作品來進(jìn)行模型訓(xùn)練，不僅侵犯了版權(quán)，還通過ChatGPT產(chǎn)生的內(nèi)容分析和總結(jié)構(gòu)成了衍生侵權(quán)作品。

要點:

1. 邁克爾·沙伯恩、大衛(wèi)·亨利·黃等作家起訴OpenAI，稱其訓(xùn)練ChatGPT時侵犯版權(quán)。

2. 訴訟稱ChatGPT只能通過學(xué)習(xí)他們的作品才能產(chǎn)生內(nèi)容，屬非法商業(yè)行為。

3. 這是繼Paul Tremblay等人后，又一群作家針對OpenAI提集體訴訟。

人工智能應(yīng)用 Character.ai 月活躍用戶數(shù)正在趕超 ChatGPT

Character.ai的月活躍用戶數(shù)正在快速增長，有望趕超ChatGPT成為人工智能應(yīng)用的新寵。根據(jù)市場情報公司 Similarweb 最近的分析，得到 a16z 支持的 Character.ai 的 iOS 和 Android 應(yīng)用程序在美國現(xiàn)在每月有420萬活躍用戶，而 ChatGPT 的移動應(yīng)用程序在美國的月活躍用戶數(shù)接近600萬。

要點:

1. 根據(jù)Similarweb數(shù)據(jù)，Character.ai iOS和Android應(yīng)用的月活躍用戶達(dá)到420萬，接近ChatGPT移動端的600萬月活躍用戶。

2. Character.ai吸引了更多18-24歲的年輕用戶，這一人群在其他AI應(yīng)用中的占比較低。

3. 盡管ChatGPT在網(wǎng)頁訪問量上領(lǐng)先，但Character.ai憑借移動應(yīng)用成功保留了更多用戶，有望繼續(xù)增長。

小紅書博主用AI為“秀才”去油獲贊1.2萬 網(wǎng)友:還是AI懂我的審美

近日，小紅書博主“萬金油ai”利用AI技術(shù)生成了AI版的“秀才”，這條筆記在小紅書上獲得了1.2萬點贊和近3500條評論。不少用戶都被AI生成的“秀才”驚艷了一下，直呼“這哪是AI，這是去油神器”。

要點:

1、小紅書博主使用AI技術(shù)為中年大叔“秀才”逐步生成了古風(fēng)美男形象。

2、生成的內(nèi)容在小紅書上獲得超過1.2萬的點贊數(shù)，引發(fā)網(wǎng)友熱議。

3、這種創(chuàng)意應(yīng)用展示了AI在藝術(shù)創(chuàng)作等領(lǐng)域的應(yīng)用前景。

B站UP主用1300條B站熱門標(biāo)題訓(xùn)練AI 自制“賽博主編”

B站UP主“差評君”用1300條B站熱門視頻標(biāo)題訓(xùn)練AI“賽博主編”，能根據(jù)過往熱門視頻內(nèi)容和觀眾口味自動生成符合B站觀眾喜好的視頻標(biāo)題。截至目前，該視頻播放量達(dá)72.4萬，獲贊2.1萬。

要點:

1. “差評君”收集1300條B站熱門視頻標(biāo)題作為訓(xùn)練數(shù)據(jù)。

2. 通過千帆AI平臺訓(xùn)練生成自動創(chuàng)作標(biāo)題的AI“賽博主編”。

3. 訓(xùn)練后的AI可以根據(jù)過往熱門視頻內(nèi)容和觀眾口味生成標(biāo)題。

抖音博主利用AI繪畫工具打造葡萄時裝秀獲贊5.4萬

抖音博主利用AI繪畫工具制作創(chuàng)意果蔬時裝秀視頻獲得高人氣，展示了AI在藝術(shù)創(chuàng)作領(lǐng)域中的應(yīng)用潛力。

要點:

1.抖音博主“知伊”制作的“田園葡萄時裝秀”視頻獲得5.4萬點贊。

2.其他平臺博主也嘗試AI繪畫工具創(chuàng)作果蔬時裝，獲得了較高贊同。

3.這些視頻以獨特視覺效果吸引網(wǎng)友目光，展現(xiàn)了AI在藝術(shù)創(chuàng)作中的可能性。

馬斯克禁止第三方抓取X數(shù)據(jù)訓(xùn)練AI模型

X公司更新服務(wù)條款，從9月29日起禁止第三方未經(jīng)許可在平臺上獲取數(shù)據(jù)用于訓(xùn)練AI模型，馬斯克一直反對第三方利用X平臺數(shù)據(jù)訓(xùn)練AI，但表示X自己可以使用公開信息訓(xùn)練AI。

要點:

1、X公司服務(wù)條款更新，從9月29日起禁止第三方未經(jīng)許可獲取數(shù)據(jù)訓(xùn)練AI。

2、馬斯克反對第三方使用X數(shù)據(jù)訓(xùn)練AI，曾威脅提告微軟。

3、馬斯克稱X只會用公開信息訓(xùn)練AI，不涉及私密內(nèi)容。

谷歌推出2000萬美元基金支持負(fù)責(zé)任的人工智能開發(fā)

谷歌宣布設(shè)立2000萬美元基金，支持負(fù)責(zé)任的人工智能開發(fā)，并宣布啟動數(shù)字未來項目，匯聚AI發(fā)展中的多樣化聲音。

要點:

1. 谷歌推出2000萬美元基金，支持負(fù)責(zé)任的人工智能開發(fā)。

2. 谷歌啟動數(shù)字未來項目，旨在匯聚AI發(fā)展中的多樣化聲音。

3. 首批基金接受者包括阿斯彭研究所、布魯金斯學(xué)會等機(jī)構(gòu)。

人工智能女友熱銷!羅馬尼亞AI初創(chuàng)公司每月獲利12萬美元

羅馬尼亞AI初創(chuàng)公司DreamGF通過讓用戶自定義虛擬女友，目前已有5萬注冊用戶和1萬付費用戶，每月收入約12萬美元。

要點:

1、DreamGF讓用戶選擇不同的服裝和“角色”來定制虛擬女友。

2、DreamGF的訂閱價格從每月10歐元到97歐元不等，級別越高福利越多。

3、DreamGF面臨行業(yè)潛在的倫理問題，有人擔(dān)心會加劇對女性的物化。

>>>>>AI應(yīng)用<<<<<

美團(tuán)大眾點評開始測試“智能小助手”AI功能

近日，美團(tuán)大眾點評開始悄然測試“智能小助手”功能，用戶在搜索部分問題時，搜索結(jié)果頁面的頭部將出現(xiàn)“小助手”測試版，智能回答用戶提問。該功能可以智能回答用戶在美團(tuán) App 中的某些搜索問題。搜索結(jié)果由用戶評價自動綜合生成。該功能目前還處于內(nèi)測階段。

要點:

1、 美團(tuán)大眾點評正在測試“智能小助手”AI功能

2、 智能小助手可以智能回答App內(nèi)某些搜索問題

3、搜索結(jié)果由用戶評價自動綜合生成

sdxl-emoji:一個生成emoji風(fēng)格圖片的AI繪畫模型

sdxl-emoji是一個基于Stable Diffusion框架進(jìn)行fine-tune的對抗生成模型，用戶只需輸入提示詞即可生成富有個性和趣味的表情包。

https://replicate.com/fofr/sdxl-emoji

要點:

1、sdxl-emoji模型可生成Apple風(fēng)格emoji圖像。

2、用戶通過語言描述實現(xiàn)表情包的即時個性化生成。

3、模型在Replicate平臺上以API服務(wù)形式開放使用。