站長之家(ChinaZ.com) 7月7日 消息:7月7日消息，螞蟻集團(tuán)與清華大學(xué)在2023世界人工智能大會(huì)上發(fā)布了名為蟻鑒2.0的AI安全檢測(cè)平臺(tái)。隨著大模型的發(fā)展，人們對(duì)AI的關(guān)注再度升溫。

事實(shí)上，AI已成為推動(dòng)數(shù)字化發(fā)展的關(guān)鍵生產(chǎn)力工具，確保其應(yīng)用符合安全規(guī)范成為業(yè)界重點(diǎn)關(guān)注的問題。

據(jù)介紹，蟻鑒2.0能夠利用生成式AI能力檢測(cè)生成式AI模型，識(shí)別數(shù)百種風(fēng)險(xiǎn)，包括數(shù)據(jù)安全、內(nèi)容安全和科技倫理等三大類別。

蟻鑒2.0覆蓋了表格、文本、圖像等多種數(shù)據(jù)和任務(wù)類型，是業(yè)內(nèi)第一個(gè)實(shí)現(xiàn)產(chǎn)業(yè)級(jí)應(yīng)用的全數(shù)據(jù)類型AI安全檢測(cè)平臺(tái)。該平臺(tái)利用智能對(duì)抗技術(shù)生成大量測(cè)試集，通過與AIGC生成式模型的交互誘導(dǎo)，類似于一位24小時(shí)不間斷工作的安全黑客，以尋找大模型的弱點(diǎn)和安全問題。除了支持?jǐn)?shù)字金融領(lǐng)域，蟻鑒2.0還滿足教育、文化、醫(yī)療、電商等對(duì)AI安全性檢測(cè)的需求。