微新創想(idea2003.com) 8月14日消息:美國證券交易委員會主席 Gary Gensler 表示，人工智能將成為未來金融危機的核心，監管機構無法提前預知并應對。這是目前美國最重要和最有權力的監管者之一發出的信息。

Gensler 在麻省理工學院擔任教授時撰寫的一篇論文是了解這些風險以及監管機構能做多少努力來解決這些問題的寶貴資源。

總的來說，人工智能在金融市場中最明顯的風險是由 AI 驅動的「黑盒子」交易算法失控，并同時大量賣出同樣的東西，導致市場崩盤。

Gensler 寫道：「實際上沒有那么多人受過培訓可以構建和管理這些模型，而且他們往往具有相似背景。」此外，在共同接受培訓的人群中存在著強烈親和性，所謂「學徒效應」。

模型同質化風險也可能由監管本身引起。如果監管機構對 AI 可以做什么、不能做什么進行控制，增加它們同時采取相同行動的風險，并增加公司選擇使用少數幾個無可指責的大型供應商提供的 AI 服務的可能性。

由于模型購買和銷售的規則對人類來說是不透明且事先（甚至事后）無法知道的，監管機構很難阻止這種崩盤。

正如 Gensler 所寫：「如果深度學習預測可以解釋，那么它們一開始就不會被使用。」言外之意是：人工智能帶來的風險比交易算法要深刻得多。

例如，許多人工智能致力于評估信用價值。由于其不透明性，很難確定它們是否以歧視方式評判人類。而且由于 AI 在以不可預測的方式不斷演變，我們無法實時得知昨天沒有種族主義傾向的 AI 今天是否已經產生了種族主義傾向。

「隨著深度學習在金融領域更廣泛采用，可能出現并將顯著增加監管空白。」Gensler 寫道。「我們得出結論認為深度學習可能會增加系統性風險。」

最簡單、可能也是最有效的監管應對措施很可能就是增加金融機構（或其監管機構）使用人工智能工具時需要持有的資本量。

監管機構還可以要求所有由 AI 生成的結果經過更傳統、可解釋性更強的線性模型進行「嗅探測試」。公司可能會受到阻止或禁止采取無法從基本面廣泛解釋的行動。

監管機構可能能夠減緩風險上升的速度，但很不可能能夠阻止系統性風險上升。

Gensler 自己列出了一長串有助于應對問題的監管方法，但他明確表示，即使綜合起來，「也不足以勝任當前任務」。

Gensler 在他的論文中指出，人工智能「對數據有永不滿足的需求」。

風險在于人工智能模型最終會趨于具有相同的龐大訓練數據集（例如 Common Crawl），共享該數據集可能存在的固有弱點。

「基于相同數據集構建的模型很可能生成高度相關的預測，呈現出群集和集體行為」，Gensler 寫道。

對大量數據來源的需求往往導致壟斷。Gensler 指出，洲際交易所通過收購 MERS、Ellie Mae 和 Simplifile，已經悄然占據了抵押數據業務的主導地位。

這些壟斷企業隨后可能成為威脅整個網絡的「單點故障」，就像一家中型投資銀行 Lehman Brothers 的失敗引發了全球金融災難。

即使最大的數據集也極不完整。「互聯網使用數據、可穿戴設備數據、車載數據、GPS 和智能手機數據根本沒有足夠長的時間跨度來覆蓋一個完整的金融周期」，Gensler 指出。

這可能會產生毀滅性后果，就像我們在金融危機中所看到的那樣。

擁擠風險已經存在。「據推測，高頻算法交易中的集體行為和擁擠部分導致了閃電崩盤」，Gensler 寫道。隨著交易者越來越多地轉向人工智能，這個風險只會增加。

發展中經濟體的公司最終可能會使用根本沒有接受過國內數據訓練的人工智能，這使得風險更大。

總而言之，人工智能不知道自己不知道的東西。這可能非常危險。