微新創(chuàng)想(idea2003.com) 10月7日消息:Snap 公司因其生成式人工智能聊天機(jī)器人可能對 Snapchat 用戶，尤其是 13 至 17 歲的青少年，構(gòu)成的潛在隱私風(fēng)險而在英國面臨調(diào)查。

圖片來自 Snap

英國數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)信息專員辦公室（ICO）上周發(fā)布了初步強(qiáng)制執(zhí)行通知，指稱 Snap 的聊天機(jī)器人 My AI 可能會對 Snapchat 用戶，特別是 13 至 17 歲的用戶，構(gòu)成風(fēng)險。

信息專員 John Edwards 在聲明中表示：「我們的初步調(diào)查結(jié)果表明，Snap 未能在推出『My AI』之前充分識別和評估兒童和其他用戶的隱私風(fēng)險，這令人擔(dān)憂。」

Snap 在 2 月份推出了生成式 AI 聊天機(jī)器人（盡管它直到 4 月份才登陸英國），利用 OpenAI 的 ChatGPT 大語言模型 (LLM) 技術(shù)來驅(qū)動固定在用戶信息流頂部的機(jī)器人，充當(dāng)可以向其尋求建議或發(fā)送快照的虛擬朋友。

最初，該功能僅適用于 Snapchat+ 的訂閱者，Snapchat+ 是 Snap 消息平臺的高級版本。但很快 Snap 也向免費用戶開放了「My AI」的訪問權(quán)限，同時還增加了人工智能將快照發(fā)送回與其交互的用戶的能力（這些快照是用生成式人工智能創(chuàng)建的）。

這些調(diào)查尚未得出最終結(jié)論，Snap 將有機(jī)會解決初步擔(dān)憂，然后才會作出最終決定。如果 ICO 的初步發(fā)現(xiàn)導(dǎo)致強(qiáng)制執(zhí)行通知，Snap 可能需要停止向英國用戶提供 AI 聊天機(jī)器人，直到解決隱私問題。

Snap 的發(fā)言人在一封電子郵件中告訴表示：「我們正在密切審查 ICO 的初步?jīng)Q定。與 ICO 一樣，我們致力于保護(hù)用戶的隱私。根據(jù)我們的產(chǎn)品開發(fā)標(biāo)準(zhǔn)，My AI 在公開提供之前經(jīng)過了嚴(yán)格的法律和隱私審查流程。」

該技術(shù)公司表示，將繼續(xù)與 ICO 合作，以確保該機(jī)構(gòu)對 Snap 的風(fēng)險評估程序感到滿意。這款運行在 OpenAI 的 ChatGPT 上的 AI 聊天機(jī)器人具有一些功能，可以在孩子使用聊天機(jī)器人時向父母發(fā)出警報。Snap 表示，它還為其機(jī)器人制定了通用指南，要求機(jī)器人避免發(fā)表冒犯性評論。

ICO 沒有提供額外評論，理由是這些調(diào)查是初步的。該機(jī)構(gòu)此前發(fā)布了「AI 和數(shù)據(jù)保護(hù)指南」，并在今年 4 月發(fā)布了一則一般通知，列出了開發(fā)人員和用戶應(yīng)該就 AI 提出的問題。

Snap 的 AI 聊天機(jī)器人自今年年初推出以來一直備受關(guān)注，因不當(dāng)?shù)膶υ挾艿綄彶椋缃ㄗh一名 15 歲的孩子如何掩蓋酒精和大麻的氣味，據(jù)《華盛頓郵報》報道。

Snap 在其最新的財報中表示，已經(jīng)有超過 1.5 億人使用了這款 AI 機(jī)器人。

其他形式的生成式人工智能也在最近受到批評。例如，必應(yīng)的生成式 AI 圖像已被極端分子討論板 4chan 用來制作種族主義圖像。