# AI 安全考量：利用 AI 保護資料

> 您的公司為 AI 收集資料 - 但不加選擇的收集是否仍可持續？斯坦福白皮書警告：總體危害大於個人層面。三項主要建議：從「選擇不接受」轉為「選擇接受」、確保資料供應鏈的透明度、支援新的治理機制。目前的法規並不足夠。採用道德方法的組織可透過信任與營運復原力獲得競爭優勢。

Source: https://www.electe.net/tc/post/considerazioni-sulla-sicurezza-dellia-proteggere-i-dati-sfruttando-lia

Site guide: https://www.electe.net/tc/llms.txt

# 人工智慧時代的資料安全與隱私權：以史丹佛白皮書為基礎的觀點

隨著企業日益採用人工智慧解決方案來提升效率與創新能力,資料安全與隱私問題已成為首要議題。正如[史丹佛大學關於人工智慧時代隱私與資料保護白皮書(2023年)的執行摘要](https://hai.stanford.edu/policy/white-paper-rethinking-privacy-ai-era-policy-provocations-data-centric-world)中所強調的,「資料是所有人工智慧系統的基礎」,且「人工智慧的發展將持續加劇開發者對訓練資料的渴求,從而引發一場比過去幾十年更為激烈的資料爭奪戰。」人工智慧固然帶來巨大機遇,但同時也帶來獨特的挑戰,這需要我們從根本上重新思考資料保護的方法。本文探討了企業在部署人工智慧系統時應考量的主要安全與隱私議題,並提供實用指引,幫助在整個人工智慧生命週期中保護敏感資料。

## 瞭解人工智慧的安全性與隱私權狀況

正如史丹福白皮書第 2 章「資料保護與隱私權：關鍵概念與法規格局」所指出，人工智慧時代的資料管理需要考慮超越單純技術安全的相互關聯層面。根據執行摘要，有三項關鍵建議可減緩人工智慧的發展與採用所造成的資料隱私風險：

1. **將預設資料蒐集去常規化**,從選擇退出(opt-out)機制轉向選擇加入(opt-in)機制
2. **專注於人工智慧的資料供應鏈**,以提升隱私與資料保護水準
3. **改變個人資料的建立與管理方式**,支持新治理機制的發展

這些層面需要超越傳統 IT 安全實務的特定方法。

## 人工智能時代的資料收集反思

正如斯坦福白皮書中明確指出的，「大體上不受限制的資料收集帶來了超越個人層面的獨特隱私風險--它們彙總起來會造成社會傷害，而這些傷害無法僅透過行使個人資料權利來解決」。這是執行摘要中最重要的觀點之一，要求我們從根本上重新思考資料保護策略。

### 預設資料收集非標準化

直接引用斯坦福執行摘要的第一項建議：

- **從選擇退出轉向選擇加入**:「將預設資料蒐集去常規化,從選擇退出模式轉向選擇加入模式。資料蒐集者必須透過『預設隱私保護』策略,促成真正的資料最小化,並採用能實現有意義同意機制的技術標準與基礎架構。」
- **實質的資料最小化**:依照白皮書第3章「省思與預測」的建議,僅蒐集特定使用情境所必需的資料,實踐「預設隱私保護」
- **有意義的同意機制**:採用能實現真正知情且細緻同意的技術標準與基礎架構

> **實施建議**:建立資料分類系統,自動標記敏感元素,並依敏感程度套用相應控管措施,同時預設為不蒐集。

## 提高人工智能資料鏈的透明度

根據斯坦福執行摘要的第二項建議，整個資料鏈的透明度和問責性是任何處理資料隱私的監管系統的根本。

### 專注於 AI 資料鏈

白皮書明確指出，必須「聚焦於人工智能資料供應鏈，以改善隱私和資料保護。确保数据集在整个生命周期内的透明度和问责制，必须成为任何解决数据隐私问题的监管体系的目标"。這需要：

- **完整可追溯性**:針對資料來源、轉換過程與使用方式維護詳盡文件紀錄
- **資料集透明度**:確保模型所用資料的組成與來源具有可見性,尤其考量到第2章針對生成式人工智慧系統所提出的疑慮
- **定期稽核**:對資料取得與使用流程進行獨立查核

> **實施建議**:建立資料溯源系統,記錄人工智慧系統訓練與運作過程中所用資料的完整生命週期。

## 改變資料建立與管理的方式

斯坦福執行摘要的第三項建議指出，需要「改變個人資料的建立與管理方式」。正如文件中所報告的，「決策者應該支持開發新的治理機制和技術基礎設施（例如，資料經紀人和資料授權基礎設施），以支持個人資料權利和偏好的行使並使其自動化」。

### 新的資料管理機制

- **資料中介機構**:支持發展能代表個人擔任受託人角色的實體,此為白皮書明確建議的做法
- **資料授權基礎架構**:建立系統,讓個人能就其資料的使用表達細緻的偏好
- **個人權利行使自動化**:開發能自動化執行個人資料權利的機制,同時如第3章所強調的,認知到僅憑個人權利本身並不足夠

> **實施建議**:採用或協助開發資料授權的開放標準,以實現不同系統與服務之間的互通性。

## 保護人工智慧模型

AI 模型本身需要特定的保護：

- **模型安全性**:透過加密技術與存取控管,保護模型的完整性與機密性
- **安全部署**:運用容器化技術與程式碼簽章,確保模型的完整性
- **持續監控**:建立監控系統,偵測未經授權的存取或異常行為

> **實施建議**:在開發流程中設立「安全關卡」,要求模型在投入生產環境前必須通過安全性與隱私性驗證。

## 防禦對方攻擊

AI 系統面臨獨特的攻擊媒介：

- **資料下毒**:防範訓練資料遭受操縱
- **敏感資訊萃取**:防範可能從模型回應中萃取訓練資料的技術手段
- **成員推論**:防止判定特定資料是否屬於訓練資料集的成員推論攻擊

> **實施建議**：採用對抗式訓練技術，在開發過程中專門讓模型接觸潛在的攻擊向量。

## 特定產業的考量

不同部門對隱私權和安全性的要求有很大差異：

### 醫療保健

- 符合 HIPAA 對受保護健康資訊的要求
- 對基因和生物識別資料的特殊保護措施
- 在研究效用與隱私保護之間取得平衡

### 金融服務

- 支付資訊的 PCI DSS 要求
- 反洗錢（AML）合規考量
- 以差分隱私方法管理客戶敏感資料

### 公營部門

- 公民資料保護法規
- 演算法決策過程的透明度
- 遵守地方、國家及國際隱私法規

## 實用的實施架構

在人工智能中實施全面的資料隱私與安全方法需要：

1. **從設計之初納入隱私與安全**
2.
  - 從開發初期就納入隱私考量
  - 針對每個 AI 使用案例執行隱私影響評估
3. **整合式資料治理**
4.
  - 將 AI 管理與更廣泛的資料治理計畫對齊
  - 在所有資料處理系統中套用一致的控管措施
5. **持續監控**
6.
  - 實施持續性的隱私合規監督
  - 建立基準指標以偵測異常狀況
7. **法規對齊**
8.
  - 確保符合現行及不斷演變的法規
  - 記錄隱私措施以供法規審查之用

## 案例研究：在金融機構中的實施

一家全球性金融機構採用分層方式實施了一套以 AI 為基礎的詐欺偵測系統：

- **資料隱私層**：在處理前將客戶的敏感資訊代碼化（tokenization）
- **同意管理**：提供精細化系統，讓客戶能控管哪些資料可被使用以及用於何種目的
- **透明度**：提供客戶儀表板，顯示其資料在 AI 系統中的使用方式
- **監控**：持續分析輸入、輸出與效能指標，以偵測潛在的隱私違規情況

## 總結

> 正如斯坦福白皮书的执行摘要中明确指出的，「虽然基于全球公认的公平信息做法（FIPs）的现有和拟议的隐私立法隐含地规范了人工智能的发展，但不足以解决竞相获取数据以及由此产生的个人和系统性隐私危害」。此外，「即使是包含关于算法决策和其他形式人工智能的明确规定的立法，也没有提供必要的数据治理措施，对人工智能系统中使用的数据进行有意义的监管」。

在人工智能時代，資料保護和隱私權不能再被視為次要。各機構必須遵循白皮書的三項主要建議：

1. 從不加篩選的資料蒐集模式轉向基於自願同意（opt-in）的模式
2. 確保整條資料鏈的透明度與問責制
3. 支持新的治理機制，讓個人對自身資料擁有更大的掌控權

這些建議的實施代表著我們在人工智能生態系統中構想和管理資料方式的根本性轉變。正如斯坦福白皮書中的分析所顯示，目前的資料收集和使用方式是不可持續的，並有可能破壞大眾對人工智慧系統的信任，同時造成遠遠超越個人的系統漏洞。

為了因應這些挑戰，法規面貌已經在改變，這從國際間愈來愈多的討論可以看出，不僅要對人工智慧的結果，也要對哺育這些系統的資料擷取程序進行法規管理。然而，僅僅遵守法規是不夠的。

採用合乎道德且透明的資料管理方式的組織，將能在這個新環境中處於更有利的位置，透過使用者的信任與更高的營運復原力，獲得競爭優勢。我們面臨的挑戰是如何平衡技術創新與社會責任，並認識到人工智慧的真正永續性取決於其尊重與保護服務對象基本權利的能力。