微新創(chuàng)想（idea2003.com）7月27日 消息:為了響應(yīng)日益增長的監(jiān)管呼聲，OpenAI、微軟、谷歌和 Anthropic 成立了前沿模型論壇，旨在確保 “前沿人工智能” 模型的安全和負(fù)責(zé)任的開發(fā)。該聯(lián)盟將利用成員公司的專業(yè)知識(shí)來開發(fā)技術(shù)評(píng)估和基準(zhǔn)，并推廣最佳實(shí)踐和標(biāo)準(zhǔn)。

他們認(rèn)為這類模型對(duì)公共安全構(gòu)成嚴(yán)重風(fēng)險(xiǎn)，具有獨(dú)特的監(jiān)管挑戰(zhàn)。論壇的目標(biāo)包括推進(jìn)人工智能安全研究、確定最佳實(shí)踐、與政策制定者合作，并支持應(yīng)對(duì)社會(huì)挑戰(zhàn)的應(yīng)用程序。具體如下:

新論壇的自定目標(biāo)包括:

i） 推進(jìn)人工智能安全研究，以促進(jìn)負(fù)責(zé)任的前沿模型開發(fā)，最大限度地降低風(fēng)險(xiǎn)，并實(shí)現(xiàn)對(duì)能力和安全性的獨(dú)立、標(biāo)準(zhǔn)化評(píng)估。

ii） 確定負(fù)責(zé)任地開發(fā)和部署前沿模型的最佳實(shí)踐，幫助公眾了解技術(shù)的性質(zhì)、功能、局限性和影響。

iii） 與政策制定者、學(xué)術(shù)界、民間社會(huì)和公司合作，分享有關(guān)信任和安全風(fēng)險(xiǎn)的知識(shí)。

iiii） 支持開發(fā)有助于應(yīng)對(duì)社會(huì)最大挑戰(zhàn)的應(yīng)用程序，例如減緩和適應(yīng)氣候變化、早期癌癥檢測(cè)和預(yù)防以及應(yīng)對(duì)網(wǎng)絡(luò)威脅。

盡管目前只有四名成員，但該團(tuán)體表示歡迎新成員加入。這一舉措旨在向外界展示 AI 行業(yè)對(duì)安全問題的重視，并試圖通過自愿舉措來規(guī)避即將到來的監(jiān)管，也許可以為制定規(guī)則做一些努力。

歐洲正在推進(jìn)第一個(gè)具體的人工智能法規(guī)，旨在將安全、隱私、透明度和反歧視納入公司的人工智能開發(fā)理念。上周，拜登總統(tǒng)在白宮與七家人工智能公司會(huì)面，其中包括前沿模型論壇的四個(gè)創(chuàng)始成員，以達(dá)成自愿保障措施來應(yīng)對(duì)蓬勃發(fā)展的人工智能革命。

拜登也表示，未來可能會(huì)出現(xiàn)監(jiān)管監(jiān)督。拜登當(dāng)時(shí)表示:“通過管理風(fēng)險(xiǎn)來實(shí)現(xiàn)人工智能的承諾將需要一些新的法律、法規(guī)和監(jiān)督。” “在未來幾周內(nèi)，我將繼續(xù)采取行政行動(dòng)，幫助美國引領(lǐng)負(fù)責(zé)任的創(chuàng)新之路。我們將與雙方合作制定適當(dāng)?shù)牧⒎ê捅O(jiān)管。”