微新創想(idea2003.com) 10月7日消息:Snap 公司因其生成式人工智能聊天機器人可能對 Snapchat 用戶，尤其是 13 至 17 歲的青少年，構成的潛在隱私風險而在英國面臨調查。

圖片來自 Snap

英國數據保護監管機構信息專員辦公室（ICO）上周發布了初步強制執行通知，指稱 Snap 的聊天機器人 My AI 可能會對 Snapchat 用戶，特別是 13 至 17 歲的用戶，構成風險。

信息專員 John Edwards 在聲明中表示：「我們的初步調查結果表明，Snap 未能在推出『My AI』之前充分識別和評估兒童和其他用戶的隱私風險，這令人擔憂。」

Snap 在 2 月份推出了生成式 AI 聊天機器人（盡管它直到 4 月份才登陸英國），利用 OpenAI 的 ChatGPT 大語言模型 (LLM) 技術來驅動固定在用戶信息流頂部的機器人，充當可以向其尋求建議或發送快照的虛擬朋友。

最初，該功能僅適用于 Snapchat+ 的訂閱者，Snapchat+ 是 Snap 消息平臺的高級版本。但很快 Snap 也向免費用戶開放了「My AI」的訪問權限，同時還增加了人工智能將快照發送回與其交互的用戶的能力（這些快照是用生成式人工智能創建的）。

這些調查尚未得出最終結論，Snap 將有機會解決初步擔憂，然后才會作出最終決定。如果 ICO 的初步發現導致強制執行通知，Snap 可能需要停止向英國用戶提供 AI 聊天機器人，直到解決隱私問題。

Snap 的發言人在一封電子郵件中告訴表示：「我們正在密切審查 ICO 的初步決定。與 ICO 一樣，我們致力于保護用戶的隱私。根據我們的產品開發標準，My AI 在公開提供之前經過了嚴格的法律和隱私審查流程。」

該技術公司表示，將繼續與 ICO 合作，以確保該機構對 Snap 的風險評估程序感到滿意。這款運行在 OpenAI 的 ChatGPT 上的 AI 聊天機器人具有一些功能，可以在孩子使用聊天機器人時向父母發出警報。Snap 表示，它還為其機器人制定了通用指南，要求機器人避免發表冒犯性評論。

ICO 沒有提供額外評論，理由是這些調查是初步的。該機構此前發布了「AI 和數據保護指南」，并在今年 4 月發布了一則一般通知，列出了開發人員和用戶應該就 AI 提出的問題。

Snap 的 AI 聊天機器人自今年年初推出以來一直備受關注，因不當的對話而受到審查，例如建議一名 15 歲的孩子如何掩蓋酒精和大麻的氣味，據《華盛頓郵報》報道。

Snap 在其最新的財報中表示，已經有超過 1.5 億人使用了這款 AI 機器人。

其他形式的生成式人工智能也在最近受到批評。例如，必應的生成式 AI 圖像已被極端分子討論板 4chan 用來制作種族主義圖像。