鳳凰網科技訊《AI前哨》北京時間7月6日消息，ChatGPT開發商OpenAI周三宣布，公司計劃投入大量資源，并組建一支新的研究團隊，以確保其人工智能(AI)對人類是安全的，最終實現AI的自我監督。

OpenAI聯合創始人伊利亞蘇斯克維爾(Ilya Sutskever)和AI一致性問題主管簡萊克(Jan Leike)周三在一篇博客文章中寫道：“超級智能的巨大力量可能……導致人類被剝奪權力，甚至人類滅絕。目前，我們還沒有一個解決方案來操控或控制一個潛在的超智能AI，并防止它不受控制。”AI一致性(alignment)指的是AI的行為符合設計者的利益和預期目標。

他們在博文中預測，比人類更聰明的超智能AI可能在這個十年(2030年前)就會到來，人類將需要比目前更好的技術來控制超智能AI，因此需要在所謂的“一致性研究”方面取得突破。“一致性研究”的重點是確保AI對人類有益。

OpenAI發表的防AI失控博文

OpenAI承諾，將拿出未來四年所獲算力的20%用于解決AI失控的問題。此外，該公司正在組建一個新的團隊來組織這項工作，并將其稱之為超級一致性團隊。該團隊的目標是創建一個“人類水平”的AI研究人員，然后借助大量算力擴大這項努力。OpenAI表示，這意味著他們將使用人類反饋信息來訓練AI系統，訓練AI系統來輔助人類評估，然后最終訓練AI系統開展一致性研究。

不過，AI安全擁護者康納萊希(Connor Leahy)表示，OpenAI的計劃從根本上存在缺陷，因為可達到“人類水平”的初級版AI可能會在被用于解決AI安全問題之前失控并造成嚴重破壞。“在構建人類水平的智能之前，你必須先解決一致性問題，否則你無法控制它，這是可以默認的。我個人認為這不是一個特別好或安全的計劃。”萊希表示。

另外，分析公司Similarweb的數據顯示，在去年11月推出便火爆全球后，ChatGPT網站的月度流量和獨立訪客數量在今年6月份首次出現下降。Similarweb稱，ChatGPT網站的全球桌面和移動流量在6月份環比下降了9.7%，獨立訪客數量環比下降了5.7%，訪客在該網站上停留的時間也下降了8.5%。鳳凰網科技《AI前哨》對此將持續關注。