?劃重點:

1. Google AI負責人Demis Hassabis認為，人工智能的發展對人類構成了類似氣候變化的威脅，擔心出現超級智能系統失控等惡意可能性。

2. 他強調必須像氣候變化一樣認真對待AI的風險，并呼吁建立類似聯合國氣候變化政府間專門委員會（IPCC）的獨立機構來監管AI。

3. Google、微軟、OpenAI和Anthropic宣布成立了1，000萬美元的AI安全基金，旨在推動對最有能力的AI模型進行有效測試和評估的研究。

微新創想(idea2003.com) 10月27日 消息:谷歌AI負責人Demis Hassabis表示，人工智能的發展對人類構成了一種存在威脅，類似于氣候變化。

他在接受《衛報》采訪時指出，他擔心人類可能會開發出一個失控的超級智能系統，以及其他惡意可能性。他認為我們必須像對待氣候變化一樣認真對待人工智能的風險。他還指出，AI技術可能會使制造生物武器變得容易，類似于氣候變化問題，國際社會協調有效的全球應對措施可能會拖延，而我們將為此付出代價。因此，他強調我們不能在處理AI方面出現同樣的延遲。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

盡管AI在許多領域，如醫療領域，具有巨大潛力，但Hassabis呼吁建立一個獨立機構來監管AI，類似于聯合國的氣候變化政府間專門委員會（IPCC）。這一觀點得到了前谷歌首席執行官埃里克·施密特的支持。

事實上，在Hassabis的采訪發表后的一天，谷歌、微軟、OpenAI和Anthropic宣布成立了1，000萬美元的AI安全基金，旨在推動對最有能力的AI模型進行有效測試和評估的研究。Hassabis在X（之前被稱為Twitter）上發帖稱贊了這一舉措，表示我們正處在人工智能歷史上的關鍵時刻。

盡管AI領域的專家公開表達了對AI安全和道德的擔憂，但人們對于像Hassabis和谷歌這樣的公司在AI安全和倫理方面的認真程度存在疑慮。2020年，谷歌因AI倫理學家Timnit Gebru和AI研究員Margaret Mitchell共同撰寫的一篇有爭議的論文未達到谷歌的發表標準而將他們解雇。這篇論文提出了有關AI的若干風險，這些風險現在看來非常準確:其環境影響，如何影響邊緣化社群，訓練數據中的偏見，數據集如此龐大以至于難以審核，以及它們可能被用來欺騙人們。