AI隱私泄露危機(jī)四伏！如何確保數(shù)據(jù)安全？《人工智能隱私保護(hù)白皮書》

最近幾年，有關(guān)隱私受到侵犯的案件一再發(fā)生。例如，F(xiàn)acebook 未經(jīng)用戶允許將用戶個(gè)人信息泄露給劍橋分析公司用于非正當(dāng)目的， 同時(shí)其利用網(wǎng)民的瀏覽行為來精準(zhǔn)的投放廣告，劍橋大學(xué)心理測(cè)量學(xué) 中心從用戶對(duì)哪些帖子和新聞進(jìn)行閱讀和點(diǎn)贊，來分析出每個(gè)人的性 別、性取向、個(gè)性外向還是內(nèi)向等，美食外賣企業(yè)“餓了么”、“大 眾點(diǎn)評(píng)”、“美團(tuán)”會(huì)利用算法推送一些推薦食物和餐館幫用戶做出 飲食決定，自動(dòng)駕駛技術(shù)讓人們可以輕松的出行，高德地圖、百度地 圖等智能導(dǎo)航系統(tǒng)減少了人們尋找路線的時(shí)間和精力，ChatGPT 和其 他生成式人工智能工具可以提高用戶交互體驗(yàn)、提高員工的創(chuàng)作和辦 公效率，但這些信息都以數(shù)據(jù)的形式存儲(chǔ)了下來，并被企業(yè)或其他主 體收集和利用，一些智能手機(jī)應(yīng)用甚至過度的收集并違規(guī)使用個(gè)人信 息，使得個(gè)人隱私信息面臨被泄露或被竊取的風(fēng)險(xiǎn)。

可以看到人工智能的普及與濫用使其面臨越來越多的隱私與安全威脅，社會(huì)各界也逐漸加大了對(duì)隱私風(fēng)險(xiǎn)的分析和隱私保護(hù)的關(guān)注 度。從隱私保護(hù)角度，數(shù)據(jù)隱私性、模型保密性、模型完整可用性是 用戶和服務(wù)提供商最為關(guān)心的問題。因此，本章將先從數(shù)據(jù)、模型這 兩個(gè)不同的方面來揭示人工智能面臨的通用隱私威脅。同時(shí)，由于生 成式人工智能（Generative Artificial Intelligence，簡(jiǎn)稱生成式 AI）技術(shù)的快速發(fā)展和應(yīng)用給人們帶來了巨大的想象空間，但也增加 了新的 AI 隱私風(fēng)險(xiǎn)，本章還將對(duì)生成式人工智能隱私風(fēng)險(xiǎn)進(jìn)行揭示。

為了更好的推動(dòng)新一代人工智能安全發(fā)展，讓人工智能用的放心， 各國(guó)政府和企業(yè)越來越重視人工智能隱私保護(hù)。人工智能隱私保護(hù)指 的是在數(shù)據(jù)采集存儲(chǔ)和數(shù)據(jù)使用共享，模型訓(xùn)練以及模型推理應(yīng)用的 全生命周期過程中有效的保護(hù)用戶數(shù)據(jù)隱私不泄漏，不被未授權(quán)第三 方獲取或推理。因此，在人工智能處理大量個(gè)人數(shù)據(jù)和敏感信息的過 程中，如何加強(qiáng)數(shù)據(jù)隱私管控；在人工智能訓(xùn)練過程中，如何保證數(shù) 據(jù)質(zhì)量，避免原始數(shù)據(jù)隱私泄露；在人工智能推理應(yīng)用過程中，如何 防御攻擊引起的數(shù)據(jù)隱私推理，如何保護(hù)模型保密性與完整性日漸成 為國(guó)際人工智能的重要議題。

本白皮書從人工智能隱私保護(hù)的內(nèi)涵出發(fā)，從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風(fēng)險(xiǎn)和生成式人工智能隱私風(fēng)險(xiǎn)。在此 基礎(chǔ)上，總結(jié)了國(guó)內(nèi)外人工智能隱私保護(hù)法規(guī)政策標(biāo)準(zhǔn)化現(xiàn)狀。然后 分析了人工智能隱私保護(hù)技術(shù)和平臺(tái)，包括管控技術(shù)、數(shù)據(jù)加密技術(shù)、 攻擊防御技術(shù)、隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)和人工智能安全檢測(cè)平臺(tái)等。 最后以技術(shù)發(fā)展和隱私保護(hù)并重為原則，研究提出了多維度、負(fù)責(zé)任 的人工智能隱私保護(hù)實(shí)施建議，讓下一代人工智能用的放心。

本白皮書由中國(guó)聯(lián)通研究院主筆，中國(guó)聯(lián)通集團(tuán)網(wǎng)絡(luò)與信息安全 部、中國(guó)軟件評(píng)測(cè)中心（工業(yè)和信息化部軟件與集成電路促進(jìn)中心）、 數(shù)據(jù)安全關(guān)鍵技術(shù)與產(chǎn)業(yè)應(yīng)用評(píng)價(jià)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室、中國(guó) 計(jì)算機(jī)行業(yè)協(xié)會(huì)數(shù)據(jù)安全專業(yè)委員會(huì)、三六零數(shù)字安全科技集團(tuán)有限 公司、中興通訊股份有限公司聯(lián)合編寫

附件：AI隱私泄露危機(jī)四伏！如何確保數(shù)據(jù)安全？《人工智能隱私保護(hù)白皮書》