鳳凰網科技訊 《AI前哨》北京時間6月29日消息，網絡安全公司Surfshark發布的報告顯示，隨著人工智能(AI)的快速發展，AI的“翻車事故”(AI incident)數量在十年時間內(按階段)增長了15倍，三家主要AI公司占據了其中的四分之一。

所謂AI翻車事故指的是AI引發的故障、錯誤、欺詐、用于影響政治的深度偽造等欺騙行為、聊天機器人提供的不良健康信息，以及危及行人的自動駕駛汽車。Surfshark數據顯示，人類歷史上第一次AI翻車事故差點造成了核戰爭。1983年，蘇聯的一個自動化系統誤認為它探測到了來自美國的核導彈，險些釀成全球沖突。

報告統計了自2010年5月8日至2023年5月29日的AI翻車事故數量。2010年時，報告只記錄了一次AI翻車事故。但是到2023年5月29日時，數量已增至55起。按階段劃分，在AI發展初期(2010年至2013年)，AI翻車事故的數量為18起，只占據總量的3.5%。但是在2020年至2023年，數量已增加至293起，占據總量的56.6%，較2010年至2013年增長了大約15倍。截至今年5月，2023年發生的AI翻車事故已超過去年的一半，預計將成為翻車事故最多的一年。

2023年預計將成為AI翻車事故最多的一年

雖然AI翻車事故快速增長，但是考慮到過去一年的AI投資和使用量大幅增加，這并不令人感到震驚。根據軟件評論服務公司G2的數據，從2022年2月到2023年2月，聊天機器人的搜索流量增長了261%。而且，G2整個數據庫中增長最快的三個軟件產品都是AI產品。

Surfshark發言人埃琳娜巴巴斯凱特(Elena Babarskaite)表示：“最近的一個著名案例就是教皇方濟各穿著白色羽絨夾克的深度偽造圖像，這表明AI圖像生成器可以實現超逼真的視覺效果。”

然而，鑒于AI增強的假新聞可能會在未來繼續誤導公眾，它的影響將不僅僅是娛樂領域。其他更嚴重的AI事件可能會導致種族主義、暴力或犯罪。

“罪魁禍首”

在這些事故中，有三家公司“貢獻不小”。數據顯示，特斯拉、臉書以及OpenAI的AI技術所造成的翻車事故占據了目前所有已知事故的24.5%。

三巨頭占據了AI翻車事故的四分之一

特斯拉的AI問題主要集中在自動輔助駕駛系統(Autopilot)和全自動駕駛系統(FSD)，這些問題會導致汽車意外剎車，或者汽車無法識別前方的汽車和行人。2022年底，特斯拉“幽靈剎車”問題導致舊金山發生了一起8車相撞的事故。

臉書面臨的挑戰則是，其算法無法發現暴力內容，騙子利用臉書上深度偽造的圖像和視頻來欺騙人們。

OpenAI的麻煩通常是AI訓練所產生的數據侵權問題、用戶的隱私問題。最新報道稱，由于OpenAI在訓練ChatGPT時大規模從互聯網上抓住數據，涉嫌侵犯了數據版權和無數人的隱私，該公司在美國被提起集體訴訟。

盡管大多數人對AI系統抱有懷疑態度，但是那些購買AI軟件的商業高管們似乎相信這項技術。G2最近對1700名軟件買家進行了調查，結果發現，“盡管人們對AI的使用普遍持懷疑態度，但78%的受訪者表示，他們相信AI解決方案的準確性和可靠性”。