聲明：本文來自于微信公眾號 新智元（ID:AI_era），作者:新智元，授權微新創想轉載發布。

在最近MIT科技評論的專訪中，DeepMind聯創，Inlfection AI創始人表示，他們已經將AI毒性去除，生成式AI只是過渡，未來AI將獲得像人一樣的自由。

DeepMind的聯合創始人，Inflection AI的創始人，Mustafa Suleyman接受了MIT科技評論對他進行了一次線上專訪，在專訪中，他拋出觀點:

現階段的生成式AI只是一個技術階段，接下來會進入交互式AI的時代:AI將會成為能夠根據每個用戶的不同任務需求去調用其他軟件和人來完成工作的機器人。

他創辦的公司——Inflection AI的目標，不僅僅是一個聊天助手，而是想要通過AI讓世界上的絕大多數人獲得更加平等的資源和信息。

最后，他還呼吁政府要積極的對AI進行監管，并認為將AI在現有制度下進行監管不難實現。

也許與Suleyman有相似看法的人并不少，但與大多數人不同的是，是一個估值數十億美元的公司——Inflection AI的領導者。

這個公司擁有來自DeepMind、Meta和OpenAI的頂級人才，并且通過與英偉達的合作擁有全球最大的專業AI硬件算力儲備。

我們正處于AI技術的三波浪潮中的第二波

在Sulyman看來，第一波AI浪潮是關于分類（Classification）的。深度學習表明，人類可以訓練計算機對各種類型的輸入數據進行分類:圖像、視頻、音頻、語言。

現在處于第二波浪潮，生成式AI之中，輸入數據并生成新數據。

第三波浪潮將是交互式AI。他一直認為對話是未來的交互界面。用戶不僅僅是點擊按鈕和鍵入文字，用戶會與AI進行直接的對話。

這些AI將能夠自主采取行動。只需要給它一個一般性的、終局的目標，AI將使用所有工具來實現這個目標。

它們會與其他人對話，與其他AI對話。這就是他將要用Pi來實現的東西。

這是技術能力的巨大升級。這是技術史上一個影響非常、非常深遠的時刻，他認為許多人都低估了技術的潛力。

AI技術現在依然還是靜態的。它基本上是按照你告訴它的方式去做事。

但技術將變得有生命力。如果用戶給予AI充分的自由，AI就能去利用這種自由去采取行動。

這確實是人類歷史上一個質的飛躍，我們正在創建具有這種智能體能力的工具。

人類將始終是主導者。人類需要確定AI不能越過邊界的限制，并確保這些邊界從實際代碼到與其他AI或人類的互動，再到創造技術的公司的動機和激勵，都能提供可證明的安全性。

早年經歷對自己價值觀和創業的影響

當被問到他與眾不同的職業經歷和傳統的「硅谷風」截然不同，而這些經歷對于他在硅谷創業有什么影響時，Suleyma回答到:

他一直對權力、政治等方面很感興趣。他覺得人類基本原則是妥協的產物。依靠的是不同的、相互沖突的力量之間持續不斷的協商才能達成的一種動態平衡。

雖然人類在不斷地解決問題——但是人類依然會被自身的偏見和認知盲區所限制。

民間組織、地方政府、中央政府、國際組織等等——都會受到自身的限制而沒有辦法高效的，不犯錯的運作。

想象一下，如果人類不會犯錯誤，將會出現什么情況?

他覺得人類有可能構建出真正反映自身利益的AI，并最終更一致、更公平地代表所有人做出更好的利弊權衡。

（1984年，Sulyman出生于倫敦北部，父親是敘利亞人，母親是英國人。他在貧困中長大，16歲時，父母分居，兩人都移居國外，留下他和弟弟自謀生路。

Sulyman上的是伊麗莎白女王學校（Barnet的一所男子文法學校）。大概在那個時候，他通過他最好的朋友，認識了DeepMind的聯合創始人Demis Hassabis。Sulyman說，他和Demis Hassabis經常討論他們將如何影響世界。

后來他被牛津大學錄取，學習哲學和神學，但一年后就退學了。

之后與他的大學朋友Mohammed Mamdani一起創辦了穆斯林青年幫助熱線，這是一項電話咨詢服務。該組織后來成為英國最大的穆斯林心理健康支持服務機構。

隨后，Sulyman在倫敦市長Ken Livingstone手下擔任人權政策官員，之后創辦了Reos Partners，這是一家「系統性變革」咨詢公司，利用解決沖突的方法來解決社會問題。

作為一名談判代表和調解人，Suleyman曾為聯合國、荷蘭政府和世界自然基金會等一系列的客戶工作。）

Suleyma說，離開DeepMind后，他已經財務自由了。不需要去創業或者寫書賺錢來養活自己。

錢從來都不是工作的動力。錢是工作的副產品。

對他來說，工作的目標從來沒有變過，就是如何讓世界變得更好，以及如何以一種健康、令人滿意的方式推動世界前進。

即使在2009年那時，當他開始考慮進入科技行業時，他就看到了AI技術代表了一種在世界上提供服務的公平和準確的方式。

（Suleyman與Hasabiss共同創立了人工智能公司DeepMind Technologies，擔任首席產品官。DeepMind于2014年被谷歌收購，他成為DeepMind應用人工智能的負責人。

2022年1月，Suleyman離開谷歌，加入Greylock Partners，擔任風險合伙人。

2022年3月，Suleyman與Greylock的Reid Hoffman共同創立了AI實驗室Inflection AI。

該公司成立的目標是利用「人工智能幫助人類與計算機對話」，從谷歌和Meta等公司招募了前員工，并在第一輪融資中籌集了2.25億美元。

隨后在今年7月，得到了來自微軟、英偉達、比爾·蓋茨和LinkedIn創始人Reid Hoffman的15億美元投資。

Inflection AI拿到融資之后，馬上就購買了價值13億美元的英偉達H100GPU，搭建了世界上最大的GPU集群之一。

今年早些時候，他發布了一款名為Pi的ChatGPT競品。他還與作家和研究員Michael Bhaskar合著了一本關于AI未來的書，名為《即將到來的浪潮:技術、權力和21世紀最大的困境》。）

如何看待技術的負面影響

他認為過于糾結于誰是樂觀主義還是悲觀主義沒有太大的意義。這是有偏見的看待事物的方式。他只想冷靜地分析利益和挑戰。

站在他的立場上，可以非常清晰地看到，隨著大型語言模型規模的進一步提升，它們變得更易控制。

所以兩年前，當時的觀點——他當時就認為是錯誤的——是「哦，它們只會產生有毒的、反芻的、有偏見的、種族主義的內容?！?/p>

但是這些情況都只是暫時的。人們忽視了技術不斷地進展，沒有真正理解技術向前發展的軌跡。

現在Pi這樣的模型，非常的可控。Inflection AI 可以不讓Pi產生種族主義、同性戀歧視、性別歧視——任何形式的有毒內容。

能讓它拒絕教用戶制造生物或化學武器，或者鼓勵用戶去砸鄰居的窗戶。

至于如何實現，Suleyma不想透露過多的技術細節，但是他說，請放心大膽地去實驗!Pi已經上線了，用戶可以嘗試所有可能的攻擊方式。

針對Pi的任何越獄、提示黑客攻擊或任何事情都不起作用。這就是一個客觀事實。

Inflection AI有世界上最強大的團隊，在過去三四年里創造了所有最大的語言模型。

這是一個非常出色的團隊，在一個非常高效的環境中工作，擁有大量的計算資源。

他們一開始就把安全作為第一優先事項，因此，Pi沒有像其他公司的模型那樣那么「火辣」。

看看Character.ai。（Character是一個聊天機器人，用戶可以為其設計不同的「角色」，并在線分享給其他人聊天。做鏈接） 它的功能主要用來創造天馬行空的角色，但是Inflection AI一開始就覺得這不是一個好的方向——他們不會做這樣的功能。

Pi會非常尊重你。如果你開始抱怨你社區的移民搶了你的工作，Pi不會指責你，不會對你指手畫腳。

Pi會關心地詢問并給你提供語言和心理上的支持。它會試圖了解用戶這種情緒從何而來，并溫和地鼓勵你去同情別人。這些都是我思考了20年的價值觀。

但被問到如果開源這些技術能讓世界變得更好的話，為什么不開源。

Sulyman強調，自己畢竟在經營公司，得掙錢養活大家，之前買了英偉達13億的GPU，得賺錢滿足投資者對回報的要求。

現在開源生態系統正在蓬勃發展，做得相當不錯，開源社區也發現類似的方法。Suleyman只假設他們最多領先六個月。

AI監管如何有效進行

對他而言，開發AI遞歸自我改進的技術需要被監管起來，小型AI在沒有你的監督下去更新自己的代碼是危險的，也許這甚至應該是一個需要許可的行為。

或許需要像處理炭疽或核材料一樣，有專門的機制來監管這種行為。

他還認為，對于AI的恐懼是完全沒有必要的。AI監管完全可以落腳在現在的監管框架之內。AI只是治理體系的另一個組成部分。

人類在規范超復雜事物方面做得非常出色。聯邦航空管理局為例:我們都已經習慣乘坐這些鋁制管道在四萬英尺的高空飛行，而這是有史以來最安全的交通方式之一。這就是監管成功的例子。

或者汽車:每一個組件都經受了極限的壓力測試，而用戶必須有駕照才能駕駛它。

有些行業——比如航空公司——一開始就很好地自我規制。因為他們知道，如果他們沒有做好安全工作，大家都會害怕，他們就會失去生意。

參考資料:

https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/