《科創(chuàng)板日?qǐng)?bào)》5 月 22 日訊（記者 李明明 黃心怡）熱門(mén) AI 應(yīng)用再卷入隱私安全風(fēng)暴。

國(guó)家網(wǎng)絡(luò)與信息安全信息通報(bào)中心近日發(fā)布通告，經(jīng)公安部計(jì)算機(jī)信息系統(tǒng)安全產(chǎn)品質(zhì)量監(jiān)督檢驗(yàn)中心檢測(cè)，在應(yīng)用寶平臺(tái)中發(fā)現(xiàn) 35 款移動(dòng)應(yīng)用存在違法違規(guī)收集使用個(gè)人信息的情況，其中涉及了智譜清言、Kimi 等熱門(mén) AI 應(yīng)用。

通告共羅列了 11 種違規(guī)情況，檢測(cè)時(shí)間為 2025 年 4 月 16 日至 5 月 15 日。涉及到智譜清言（版本 2.9.6），主要違規(guī)原因?yàn)?" 實(shí)際收集的個(gè)人信息超出用戶授權(quán)范圍 "。另一款被通報(bào)的 AI 應(yīng)用Kimi（版本 2.0.8）則是因 " 實(shí)際收集的個(gè)人信息與業(yè)務(wù)功能沒(méi)有直接關(guān)聯(lián) "。

此外，AI 應(yīng)用 Wow（版本 1.16.5）、貓箱（版本 1.57.0）也在通報(bào)名單中。其中，Wow 是美團(tuán)首個(gè) AI 交互產(chǎn)品，由美團(tuán)關(guān)聯(lián)公司全資控股的上海三快省心購(gòu)科技有限公司開(kāi)發(fā)。貓箱則是字節(jié)跳動(dòng)旗下社交陪伴類(lèi) AI 產(chǎn)品，同類(lèi)產(chǎn)品在海外試驗(yàn)成功后被字節(jié)帶回國(guó)內(nèi)。

經(jīng)過(guò)一段時(shí)間的爆發(fā)式發(fā)展，AI 應(yīng)用的隱私安全問(wèn)題開(kāi)始受到更多關(guān)注。盡管手機(jī)應(yīng)用超范圍收集用戶的現(xiàn)象并不鮮見(jiàn)，并非 AI 應(yīng)用所特有，但 AI 應(yīng)用有別傳統(tǒng)應(yīng)用的技術(shù)特性、商業(yè)生態(tài)以及發(fā)展階段，可能讓 AI 應(yīng)用面臨更嚴(yán)峻的數(shù)據(jù)安全問(wèn)題和用戶隱私風(fēng)險(xiǎn)。

AI 應(yīng)用屢陷隱私安全風(fēng)波

智譜清言、Kimi 分別為大模型 " 六小虎 " 智譜、月之暗面開(kāi)發(fā)的生成式 AI 助手。據(jù)第三方檢測(cè)平臺(tái)，2025 年 4 月，Kimi 的月活躍用戶數(shù)為 2499 萬(wàn)，位居國(guó)內(nèi) AI 產(chǎn)品的第 5 位，智譜清言的月活躍用戶數(shù)為 906 萬(wàn)，居第 7 位。

對(duì)于上述通報(bào)的違規(guī)情況，《科創(chuàng)板日?qǐng)?bào)》記者向智譜清言、Kimi 詢問(wèn)，截至發(fā)稿，兩家企業(yè)均未回應(yīng)。

2021 年，國(guó)家網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局四部門(mén)聯(lián)合印發(fā)了《常見(jiàn)類(lèi)型移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序必要個(gè)人信息范圍規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），明確了 39 種常見(jiàn)類(lèi)型 App 的必要個(gè)人信息范圍。其中，網(wǎng)絡(luò)直播類(lèi)、在線影音類(lèi)、實(shí)用工具類(lèi)、短視頻類(lèi)、應(yīng)用商店類(lèi)等 13 類(lèi) App 無(wú)須個(gè)人信息，即可使用基本功能服務(wù)；而即時(shí)通信類(lèi)、網(wǎng)絡(luò)社區(qū)類(lèi)、本地生活類(lèi)等 App 的必要個(gè)人信息主要為移動(dòng)電話號(hào)碼等；地圖導(dǎo)航類(lèi)、網(wǎng)絡(luò)約車(chē)類(lèi)則涉及到出發(fā)地、到達(dá)地、位置信息等必要個(gè)人信息。

《規(guī)定》明確，為保障 App 基本功能服務(wù)的正常運(yùn)行可以收集必要個(gè)人信息，但不得因?yàn)橛脩舨煌馓峁┓潜匾獋€(gè)人信息而拒絕用戶使用。

匯業(yè)律師事務(wù)所史宇航律師表示，超范圍收集用戶信息的問(wèn)題在應(yīng)用程序中并不鮮見(jiàn)，甚至可以說(shuō)是 " 很常見(jiàn) "，"APP 一般都是什么數(shù)據(jù)都想要，多多益善。權(quán)限主要包括電話號(hào)碼、陀螺儀、位置，如果與業(yè)務(wù)關(guān)系不大，就容易超范圍收集。"

他表示，通常情況下，移動(dòng)應(yīng)用因違規(guī)收集使用個(gè)人信息被監(jiān)管部門(mén)通報(bào)后，如若拒不整改，或?qū)⒚媾R應(yīng)用下架的處罰措施。

而 AI 類(lèi)應(yīng)用對(duì)數(shù)據(jù)的需求，因其技術(shù)特性與傳統(tǒng)應(yīng)用有所不同，開(kāi)發(fā)企業(yè)對(duì)擴(kuò)大數(shù)據(jù)收集范圍有更強(qiáng)的原動(dòng)力，由此更容易催生隱私安全問(wèn)題。

除了本次網(wǎng)信辦通報(bào)中的 AI 應(yīng)用數(shù)據(jù)收集問(wèn)題外，此前熱門(mén) AI 應(yīng)用就已經(jīng)引發(fā)過(guò)一輪新技術(shù)帶來(lái)的隱私安全憂慮。

騰訊元寶在今年 3 月因《用戶協(xié)議》中的條款陷入用戶隱私爭(zhēng)議。有用戶發(fā)現(xiàn)，元寶的《用戶協(xié)議》規(guī)定用戶上傳內(nèi)容及生成內(nèi)容，騰訊可獲廣泛、無(wú)邊界的許可使用權(quán)，包括模型優(yōu)化等，由此引發(fā)了用戶對(duì)使用過(guò)程中輸入及生成的內(nèi)容被隨意使用的擔(dān)憂。

字節(jié)跳動(dòng)旗下 AI 產(chǎn)品豆包在去年末也曾因身份安全漏洞引發(fā)公眾擔(dān)憂。事件最初由一名網(wǎng)友在社交平臺(tái)發(fā)帖曝光，稱陌生人通過(guò)豆包輸入其姓名和學(xué)校后，精準(zhǔn)搜出了其微信號(hào)。此外，豆包 AI 還能展示其專(zhuān)業(yè)、考研成績(jī)、班級(jí)活動(dòng)等較為詳細(xì)的個(gè)人信息。

北京計(jì)算機(jī)學(xué)會(huì) AI 專(zhuān)委會(huì)秘書(shū)長(zhǎng)、北大人工智能博士張有魚(yú)告訴《科創(chuàng)板日?qǐng)?bào)》記者，AI 應(yīng)用成違規(guī)重災(zāi)區(qū)，核心驅(qū)動(dòng)為模型對(duì)海量數(shù)據(jù)的 " 饑渴 "，但這非唯一原因。" ‘敏捷開(kāi)發(fā)’文化下，企業(yè)搶占市場(chǎng)，常將功能置于合規(guī)之前，忽視隱私保護(hù)。部分商業(yè)模式也依賴數(shù)據(jù)變現(xiàn)，誘導(dǎo)過(guò)度索取。加之 AI 技術(shù)復(fù)雜，用戶難明數(shù)據(jù)用途，企業(yè)也可能利用此信息不對(duì)稱。同時(shí)，針對(duì) AI 新特性的監(jiān)管法規(guī)尚在完善，也給違規(guī)行為留下空間。"

元寶和豆包都在風(fēng)波之后采取了整改措施。騰訊元寶方面表示，稱在最新版本中增加數(shù)據(jù)管理功能和體驗(yàn)優(yōu)化開(kāi)關(guān)，并默認(rèn)關(guān)閉，用戶可自主選擇是否授權(quán)；同時(shí)明確用戶輸入輸出內(nèi)容權(quán)利歸用戶，以此保障用戶隱私安全。豆包方面則表示，已對(duì)詢問(wèn)個(gè)人信息類(lèi)提示詞進(jìn)行優(yōu)化，保證即使網(wǎng)上有公開(kāi)信息的情況下，仍然限制相關(guān)信息的露出，做好個(gè)人隱私信息的保護(hù)。

狂奔的 AI 與滯后的規(guī)則

可以看到，AI2.0 時(shí)代中技術(shù)顛覆帶來(lái)的公眾情緒，已經(jīng)逐步從驚奇轉(zhuǎn)變?yōu)閷徤鳎绕涫钦谠噲D通過(guò) AIGC 技術(shù)實(shí)現(xiàn)商業(yè)化增長(zhǎng)的互聯(lián)網(wǎng)巨頭們，受到了來(lái)自公眾和監(jiān)管更嚴(yán)格的審視和規(guī)范。

而諸如這次被有關(guān)部門(mén)通報(bào)的大模型初創(chuàng)企業(yè)或新一代 AI 應(yīng)用產(chǎn)品，則可能在資本催熟、自身造血緊迫性以及用戶基礎(chǔ)的相對(duì)匱乏的三重壓力下，在公眾視線聚焦更少的角落，采取更激進(jìn)的數(shù)據(jù)策略以換取競(jìng)爭(zhēng)優(yōu)勢(shì)，引發(fā)更嚴(yán)峻的合規(guī)隱憂。

AI 應(yīng)用當(dāng)前存在的隱私風(fēng)險(xiǎn)，核心矛盾在于應(yīng)用開(kāi)發(fā)企業(yè)對(duì)數(shù)據(jù)價(jià)值挖掘以及用戶隱私保護(hù)之間的天然沖突。而對(duì)于實(shí)現(xiàn)數(shù)據(jù)利用與隱私保護(hù)之間的平衡，除了企業(yè)本身對(duì) " 數(shù)據(jù)貪婪 " 保持克制，也需要一套系統(tǒng)化的機(jī)制加以監(jiān)管。

張有魚(yú)對(duì)《科創(chuàng)板日?qǐng)?bào)》記者表示，從企業(yè)的層面，首要是確立 " 負(fù)責(zé)任的 AI" 戰(zhàn)略，將隱私保護(hù)融入頂層設(shè)計(jì)（Privacy by Design），堅(jiān)持?jǐn)?shù)據(jù)最小化、目的限定和透明可控原則，賦予用戶實(shí)質(zhì)選擇權(quán)。內(nèi)部治理上，需明確責(zé)任，加強(qiáng)審計(jì)與培訓(xùn)。

" 差分隱私等技術(shù)，通過(guò)對(duì)數(shù)據(jù)添加‘噪音’來(lái)保護(hù)個(gè)體信息，允許在統(tǒng)計(jì)層面利用數(shù)據(jù)，確實(shí)能在一定程度上緩解矛盾。但其面臨隱私保護(hù)強(qiáng)度與數(shù)據(jù)效用性的權(quán)衡，且無(wú)法解決源頭上的超范圍收集或改變‘?dāng)?shù)據(jù)貪婪’的動(dòng)機(jī)。它更多是‘術(shù)’層面的補(bǔ)充，而非根本之道。真正的平衡，依賴于企業(yè)倫理、健全法治、用戶賦權(quán)與技術(shù)善用的有機(jī)結(jié)合，形成法律、組織、技術(shù)（LOT）的綜合治理框架。"

從監(jiān)管層面而言，除了存在規(guī)則制定滯后于新技術(shù)發(fā)展的常見(jiàn)問(wèn)題外，在當(dāng)前全球范圍內(nèi)掀起 AI 技術(shù)高地爭(zhēng)奪的大背景下，實(shí)現(xiàn)規(guī)范技術(shù)發(fā)展與保持技術(shù)創(chuàng)新活力之間平衡，也成為制度設(shè)計(jì)者面臨的挑戰(zhàn)。

從全球范圍來(lái)看，歐洲在 AI2.0 時(shí)代的隱私安全保持了慣有的審慎。就在 5 月 19 日，意大利數(shù)據(jù)保護(hù)機(jī)構(gòu) GPDP 對(duì)外表示，基于歐盟于 2018 年實(shí)施的《通用數(shù)據(jù)保護(hù)條例》，GPDP 隱私保護(hù)專(zhuān)員已對(duì)注冊(cè)于美國(guó)的聊天機(jī)器人 "Replika" 處以 500 萬(wàn)歐元罰款。與此同時(shí)，GPDP 還啟動(dòng)了獨(dú)立的平行調(diào)查，以核實(shí) "Replika" 在人工智能服務(wù)中所進(jìn)行的個(gè)人數(shù)據(jù)處理是否合規(guī)。

國(guó)內(nèi)方面，《個(gè)人信息保護(hù)法》中的相關(guān)條款亦對(duì)企業(yè)侵犯?jìng)€(gè)人信息行為做出了明確的懲罰規(guī)定，包括最高 5000 萬(wàn)元或上一年度營(yíng)業(yè)額 5% 以下罰款等較為嚴(yán)厲的處罰措施。

但北京大成律師事務(wù)所合伙人孫榮達(dá)律師《科創(chuàng)板日?qǐng)?bào)》記者表示，相關(guān)處罰措施在實(shí)踐中存在不足，以及有效民事責(zé)任追究機(jī)制的缺乏，可能導(dǎo)致企業(yè)因違法成本不高而在侵犯?jìng)€(gè)人信息問(wèn)題上屢犯不止。

" 綜合來(lái)看，當(dāng)前企業(yè)違法收集個(gè)人信息的成本過(guò)低，與違法行為獲得的巨大經(jīng)濟(jì)收益不成比例。要解決這一問(wèn)題，需要從多方面入手：一是加強(qiáng)《個(gè)人信息保護(hù)法》的實(shí)際執(zhí)行力度，明確情節(jié)嚴(yán)重的認(rèn)定標(biāo)準(zhǔn)，使高額罰款切實(shí)可行；二是在立法或司法解釋層面引入懲罰性賠償機(jī)制，建立科學(xué)的賠償計(jì)算標(biāo)準(zhǔn)和最低賠償額；三是進(jìn)一步完善公益訴訟和代表人訴訟制度，降低集體維權(quán)門(mén)檻；四是強(qiáng)化各級(jí)網(wǎng)信部門(mén)的監(jiān)管執(zhí)法能力，提高執(zhí)法專(zhuān)業(yè)化水平，使違法企業(yè)承擔(dān)實(shí)質(zhì)性的法律后果。" 孫榮達(dá)表示。

本次 AI 應(yīng)用違規(guī)通報(bào)，無(wú)疑進(jìn)一步顯露了 AI 技術(shù)需求與隱私保護(hù)之間的深層矛盾。技術(shù)饑渴、資本催生的 " 先采集后合規(guī) " 模式與傳統(tǒng)監(jiān)管框架滯后的三重困境疊加，可能將持續(xù)加劇 AI2.0 時(shí)代的數(shù)據(jù)濫用風(fēng)險(xiǎn)。" 解決這一問(wèn)題，需要監(jiān)管探索適應(yīng) AI 特性的動(dòng)態(tài)化、穿透式監(jiān)管新范式，從‘亡羊補(bǔ)牢’轉(zhuǎn)向‘未雨綢繆’；更需要 AI 企業(yè)的戰(zhàn)略遠(yuǎn)見(jiàn)和責(zé)任擔(dān)當(dāng)，將合規(guī)內(nèi)化為核心競(jìng)爭(zhēng)力，而非僅僅是外部約束。" 張有魚(yú)在采訪最后總結(jié)。