AI隱私泄露危機四伏！如何確保數(shù)據(jù)安全？《人工智能隱私保護白皮書》

最近幾年，有關(guān)隱私受到侵犯的案件一再發(fā)生。例如，F(xiàn)acebook 未經(jīng)用戶允許將用戶個人信息泄露給劍橋分析公司用于非正當目的， 同時其利用網(wǎng)民的瀏覽行為來精準的投放廣告，劍橋大學心理測量學 中心從用戶對哪些帖子和新聞進行閱讀和點贊，來分析出每個人的性 別、性取向、個性外向還是內(nèi)向等，美食外賣企業(yè)“餓了么”、“大 眾點評”、“美團”會利用算法推送一些推薦食物和餐館幫用戶做出 飲食決定，自動駕駛技術(shù)讓人們可以輕松的出行，高德地圖、百度地 圖等智能導航系統(tǒng)減少了人們尋找路線的時間和精力，ChatGPT 和其 他生成式人工智能工具可以提高用戶交互體驗、提高員工的創(chuàng)作和辦 公效率，但這些信息都以數(shù)據(jù)的形式存儲了下來，并被企業(yè)或其他主 體收集和利用，一些智能手機應用甚至過度的收集并違規(guī)使用個人信 息，使得個人隱私信息面臨被泄露或被竊取的風險。

可以看到人工智能的普及與濫用使其面臨越來越多的隱私與安全威脅，社會各界也逐漸加大了對隱私風險的分析和隱私保護的關(guān)注 度。從隱私保護角度，數(shù)據(jù)隱私性、模型保密性、模型完整可用性是 用戶和服務提供商最為關(guān)心的問題。因此，本章將先從數(shù)據(jù)、模型這 兩個不同的方面來揭示人工智能面臨的通用隱私威脅。同時，由于生 成式人工智能（Generative Artificial Intelligence，簡稱生成式 AI）技術(shù)的快速發(fā)展和應用給人們帶來了巨大的想象空間，但也增加 了新的 AI 隱私風險，本章還將對生成式人工智能隱私風險進行揭示。

為了更好的推動新一代人工智能安全發(fā)展，讓人工智能用的放心， 各國政府和企業(yè)越來越重視人工智能隱私保護。人工智能隱私保護指 的是在數(shù)據(jù)采集存儲和數(shù)據(jù)使用共享，模型訓練以及模型推理應用的 全生命周期過程中有效的保護用戶數(shù)據(jù)隱私不泄漏，不被未授權(quán)第三 方獲取或推理。因此，在人工智能處理大量個人數(shù)據(jù)和敏感信息的過 程中，如何加強數(shù)據(jù)隱私管控；在人工智能訓練過程中，如何保證數(shù) 據(jù)質(zhì)量，避免原始數(shù)據(jù)隱私泄露；在人工智能推理應用過程中，如何 防御攻擊引起的數(shù)據(jù)隱私推理，如何保護模型保密性與完整性日漸成 為國際人工智能的重要議題。

本白皮書從人工智能隱私保護的內(nèi)涵出發(fā)，從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風險和生成式人工智能隱私風險。在此 基礎上，總結(jié)了國內(nèi)外人工智能隱私保護法規(guī)政策標準化現(xiàn)狀。然后 分析了人工智能隱私保護技術(shù)和平臺，包括管控技術(shù)、數(shù)據(jù)加密技術(shù)、 攻擊防御技術(shù)、隱私保護機器學習平臺和人工智能安全檢測平臺等。 最后以技術(shù)發(fā)展和隱私保護并重為原則，研究提出了多維度、負責任 的人工智能隱私保護實施建議，讓下一代人工智能用的放心。

本白皮書由中國聯(lián)通研究院主筆，中國聯(lián)通集團網(wǎng)絡與信息安全 部、中國軟件評測中心（工業(yè)和信息化部軟件與集成電路促進中心）、 數(shù)據(jù)安全關(guān)鍵技術(shù)與產(chǎn)業(yè)應用評價工業(yè)和信息化部重點實驗室、中國 計算機行業(yè)協(xié)會數(shù)據(jù)安全專業(yè)委員會、三六零數(shù)字安全科技集團有限 公司、中興通訊股份有限公司聯(lián)合編寫

附件：AI隱私泄露危機四伏！如何確保數(shù)據(jù)安全？《人工智能隱私保護白皮書》