# AI 與民主：複雜的關係

> AI 會加強還是削弱民主？兩者同時存在。一方面：簡化公民資訊存取、多語言參與、大規模公眾意見分析。另一方面：利用心理弱點的政治微定位、資訊碎片化、選舉造假。關鍵：數位公民素養、演算法透明化、預測式而非被動式治理。未來取決於集體選擇，而非技術本身。

Source: https://www.electe.net/tc/post/ai-e-democrazia-una-relazione-complicata

Site guide: https://www.electe.net/tc/llms.txt

人工智慧與民主之間的關係既不是線性的，也不是單向的，而是相互衝突的力量交織在一起，同時增強和破壞民主進程的基礎。

## 公共論壇的轉型

AI 已經深刻改變了進行民主辯論的公共空間。這種改變遠遠超越了簡單的假消息問題。我們正在目睹集體資訊體驗的分崩離析，而這種體驗在歷史上一直是現代民主的基本先決條件。

當不同的公民生活在由推薦演算法所構成的截然不同的資訊現實中時，民主對話所需的共通點就會消失。

令人啼笑皆非的是，雖然人工智能讓可用的資訊來源成倍增加，但也削弱了民主社會就何謂「事實」達成共識的能力。這種認知上的侵蝕帶來了比散播假新聞更深層、更隱晦的挑戰。

## 權力與能力的兩難局面

民主國家面臨著一個根本性的兩難困境：有關人工智慧的決策需要極為特殊的技術專業知識，但將這些決策完全交託給專家又意味著將專家從民主過程中剔除。因此，在民主原則 (由公民做出並為公民服務的決策) 與專家專業知識的需求之間，存在著尚未解決的緊張關係。

日益複雜的 AI 系統不只對一般民眾不透明，有時對開發這些系統的專家也不透明，讓這種緊張關係更形複雜。當應該被管治的工具超出人類可理解的範圍時，民主管治如何運作？

## 政治微定位與選舉程序

透過人工智慧進行的政治微定向在當代競選活動中變得越來越精密。人工智慧系統分析龐大的選民資料集，以打造高度個人化的政治訊息。[Just Security](https://www.justsecurity.org/82246/the-existential-threat-of-ai-enhanced-disinformation-operations/)

研究顯示，由人工智慧生成、針對個人特質的政治廣告**說服力明顯更強**，勝過通用內容。[PubMed](https://pubmed.ncbi.nlm.nih.gov/38328785/)[Nih](https://pmc.ncbi.nlm.nih.gov/articles/PMC10849795/)

人工智慧的規模與效率讓競選活動能同時為數百萬選民生成個人化內容，使微定向比以往任何時候都更加可行且經濟。[Politicalmarketer](https://politicalmarketer.com/ai-for-precise-voter-targeting-and-personalization/)[CSET](https://cset.georgetown.edu/publication/ai-and-the-future-of-disinformation-campaigns-2/)

近期研究顯示，由人工智慧強化的競選工具能夠識別選民的心理弱點，並打造利用這些特徵的訊息。[OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)

民主方面的顧慮相當多：

- 研究指出微定向可能利用心理弱點，顯示出**操縱的潛在風險**[OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)
- 人工智慧可能透過讓選民主要接觸與其既有觀點一致的內容，加劇**兩極化**[Lse](https://blogs.lse.ac.uk/politicsandpolicy/campaign-microtargeting-and-ai-can-jeopardize-democracy/)
- 選民通常**並未意識到**自己正在接收個人化的政治內容[SF Gate](https://marketing.sfgate.com/blog/microtargeting-and-data-analytics-transforming-political-campaigns)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)
- 資金充裕的競選活動能夠使用更精密的人工智慧工具，可能造成**政治影響力的不平等**[SF Gate](https://marketing.sfgate.com/blog/microtargeting-and-data-analytics-transforming-political-campaigns)[Brennancenter](https://www.brennancenter.org/our-work/research-reports/generative-ai-political-advertising)

投票系統和選舉基礎設施也會受到人工智能的影響，影響方式有正面也有負面：

- 人工智慧可透過異常檢測與基礎設施監控，提升**選舉安全性**，以防範潛在干預[R Street Institute](https://www.rstreet.org/research/impact-of-artificial-intelligence-on-elections/)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- 人工智慧能簡化選民登記驗證等流程，使選舉管理**更有效率**[Cisa](https://www.cisa.gov/topics/election-security/protect2024)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- 然而，人工智慧也帶來新的風險，例如更精密的釣魚攻擊、選舉虛假資訊深偽影片，以及大規模自動化的假訊息活動[Sophos News + 3](https://news.sophos.com/en-us/2024/10/02/political-manipulation-with-massive-ai-model-driven-misinformation-and-microtargeting/)

## 民主參與和公民參與

AI 為民主參與提供了機會與挑戰：

### 正面影響

- **改善公民資訊的取得**：人工智慧工具可以簡化複雜的政府資訊 [Ieee](https://ieeexplore.ieee.org/document/10933183/)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **改善公共服務的提供**：由人工智慧驅動的系統可以分析公民數據，協助政府更有效地回應公民需求 [Nextcity + 2](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement)
- **擴大參與工具**：像 Pol.is 這樣的平台使用人工智慧來大規模分析公眾意見 [ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **降低參與門檻**：人工智慧翻譯服務可以促進多語言公民參與 [ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

### 負面影響

- **資訊操縱**：人工智慧生成的內容可用於散播錯假資訊 [Brennancenter](https://www.brennancenter.org/our-work/research-reports/artificial-intelligence-participatory-democracy-and-responsive-government)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **放大既有偏見**：以偏頗數據訓練的人工智慧系統可能延續並放大公民參與中的不平等 [Brennancenter](https://www.brennancenter.org/series/artificial-intelligence-and-civil-liberties-civil-rights)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **削弱人為能動性**：治理過程中過度依賴演算法決策可能降低人類判斷力與問責性
- **加劇數位落差**：對人工智慧強化的公民科技取得不平等，可能加深現有的參與落差 [Aiworldtoday + 2](https://www.aiworldtoday.net/p/the-ai-divide)

## 權力關係的重組

人工智能不僅改變了民主辯論的模式，還深刻地重整了社會內部的權力關係。對人工智能基礎設施的控制現在代表了一種權力形式，可與傳統上由民主機構（如國會）行使的權力相媲美，甚至更勝一籌。

我們正目睹決策權從受民主控制的公共機構轉移到根據不同邏輯運作的私人實體。這種權力的轉移往往發生在無形之中，透過逐步將決策權交給自動化系統，而這些系統的運作參數並不總是透明或民主化的。

## 民主參與的重新定義

AI 正在改變民主參與的概念。一方面，它為更直接、更多參與形式的民主提供了工具，另一方面，它也為參與引入了新的認知和技術障礙。在此過程中，個人意見的價值也被重新定義：在演算法日益個人化的背景下，如何區分真正的個人偏好與推薦系統所誘發的偏好？

這種矛盾心理也在人工智能輔助的審議系統中表現出來：它們可能會讓複雜的決策過程變得更容易理解，但也有可能將需要更深入公眾思考的問題過度簡化。

## 民主體制的蛻變

在前數位時代孕育而生的傳統民主體制，難以適應科技創新所帶來的速度。人工智能的快速演進與民主程序的緩慢步伐之間的時間不同步，造成了治理真空，有可能被非民主的決策機制所填補。

我們面臨的挑戰並不只是透過現有的機構來規範人工智慧，而是重新思考這些機構，使其適合人工智慧日益成為社會、經濟與政治進程核心的時代。

## 人工智慧時代的公民新概念

為了因應這些挑戰，必須發展民主公民的新概念，其中包含對人工智慧角色的認知。這意味著既要克服天真的技術樂觀主義，只將人工智能視為民主改進的機會，也要克服悲觀主義，只將其視為威脅。

相反，這需要公民素養的發展，包括批判性評估演算法影響的能力、有意識參與複雜技術議題辯論的能力，以及要求開發與實作具有重大社會影響的人工智慧系統者具備透明度與問責性的能力。

歸根結柢，人工智慧與民主之間的關係並非由技術本身預先決定，而是取決於我們的集體能力，即如何想像與建構制度、規範與實踐，讓科技發展能強化而非侵蝕基本的民主價值。

## 有關人工智慧與民主的常見問題

### AI 如何加強民主參與？

人工智慧可以透過讓政府資訊更容易取得、促進多語言參與、大規模分析公眾意見，以及個人化公民參與體驗，來改善民主參與。 [Ieee](https://ieeexplore.ieee.org/document/10933183/)[OECD events](https://www.oecd-events.org/gpn2024/en/session/45ece119-96d0-ee11-85fa-0022488a6322/ai-governance-and-the-role-of-the-oecd) 例如，人工智慧強化的翻譯服務可以讓語言少數群體更充分地參與民主過程，[ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype) 而數據分析工具可以協助政府識別並解決公共服務提供中的不平等問題。 [Nextcity + 2](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement)

### 人工智能對民主制度最令人擔憂的風險是什麼？

最重大的風險包括：具說服力的錯假資訊與深偽內容氾濫，削弱共同的事實基礎；透過微定向政治內容進行操縱；[OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[Mediaengagement](https://mediaengagement.org/research/generative-ai-elections-and-beyond/) 演算法偏見將某些群體排除在民主過程之外；以及選舉基礎設施中的安全漏洞。 [Sage Journals + 5](https://journals.sagepub.com/doi/10.1177/09732586241277335) 研究顯示，這些風險並非純屬理論——研究記錄了根據個人心理側寫量身打造的人工智慧生成政治內容所具有的說服力。 [PubMed + 2](https://pubmed.ncbi.nlm.nih.gov/38328785/)

### 政府如何監管政治競選中的 AI？

有效的監管方法包括：對人工智慧生成的政治內容實施強制性揭露要求；限制可用於政治微定向的個人資料類型；設立獨立監督機制以審查競選活動的人工智慧系統；以及開展公眾教育活動，提高選民對人工智慧驅動的說服技術的認識。[PBS + 4](https://www.pbs.org/newshour/politics/ai-generated-disinformation-poses-threat-of-misleading-voters-in-2024-election) 歐盟人工智慧法案（EU AI Act）提供了一個基於風險的監管框架範例，專門針對民主進程中人工智慧的使用。[Europa + 2](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)

### 公民在 AI 治理中應該扮演什麼角色？

公民應該擁有透過參與式機制——如公民大會、公眾諮詢和持續的利害關係人參與流程——來塑造人工智慧治理的實質機會。[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/) 研究顯示，在整個人工智慧生命週期中讓多元利害關係人參與，能建立更值得信賴、更能反映社會價值觀的系統。[Adalovelaceinstitute + 13](https://www.adalovelaceinstitute.org/project/algorithmic-accountability-public-sector/) 像Camden資料憲章這樣的成功範例，展示了公民參與如何為公共服務中人工智慧的使用建立倫理框架。[Oecd](https://oecd.ai/en/catalogue/tools/participatory-ai-framework)

### 我們該如何保護選舉基礎設施免受 AI 威脅？

保護策略包括：實施穩健的網路安全措施，如多因素驗證；培訓選務人員辨識人工智慧驅動的釣魚攻擊嘗試；開發系統以識別並反制針對投票的人工智慧生成假訊息；[Sophos News](https://news.sophos.com/en-us/2024/10/02/political-manipulation-with-massive-ai-model-driven-misinformation-and-microtargeting/) 建立官方選舉通訊的驗證流程；以及為關鍵選舉基礎設施建立備援系統。[ABC News + 2](https://abcnews.go.com/Politics/ai-deepfakes-top-concern-election-officials-voting-underway/story?id=114202574) 網路安全暨基礎設施安全局（CISA）為選務人員提供了緩解人工智慧風險的具體指引。[Cisa](https://www.cisa.gov/topics/election-security/protect2024)[Cisa](https://www.cisa.gov/topics/election-security)

### AI 會如何改變公民與政府之間的關係？

人工智慧可能透過提供更個人化的公共服務、創造公民參與的新管道、[Nextcity](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement) 自動化某些政府職能，以及可能改變民主體系中的權力動態，來轉變公民與政府之間的關係。[Eff](https://www.eff.org/deeplinks/2024/10/new-eff-report-provides-guidance-ensure-human-rights-are-protected-amid-government)[OECD](https://www.oecd.org/en/publications/governing-with-artificial-intelligence_26324bc2-en.html) 這種轉變的方向很大程度上取決於治理的選擇——人工智慧的實施方式究竟是增強民主問責，還是將權力集中於監督有限的技術系統之中。[ScienceDirect + 2](https://www.sciencedirect.com/science/article/pii/S0308596120300689)

### 民主環境下的 IA 治理需要哪些國際合作？

國際合作對於建立共同標準、防止監管碎片化、應對人工智慧的跨境影響，以及在人工智慧發展中促進圍繞民主價值觀的協調一致，都是不可或缺的。[Oecd + 2](https://oecd.ai/en/wonk/how-anticipatory-governance-can-lead-to-ai-policies-that-stand-the-test-of-time) 經合組織（OECD）人工智慧原則代表了國際協調的一個典範，提供了一個全球47個司法管轄區採用的共同框架，同時也為各國的實施保留了彈性。[Oecd](https://oecd.ai/en/wonk/evolving-with-innovation-the-2024-oecd-ai-principles-update)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

### 我們該如何確保人工智慧有益於民主，而非破壞民主？

要確保人工智慧有利於民主，需要：以價值觀為基礎的積極主動治理框架；實質的透明度與可解釋性要求；人工智慧開發與監管的參與式方法；對數位素養的投資；在人工智慧應用中保護基本權利；以及讓人工智慧系統及其開發者負起責任的機制。[Eff + 4](https://www.eff.org/issues/ai)

證據顯示，前瞻性治理方法比被動式監管更為有效。[Oecd](https://oecd.ai/en/wonk/how-anticipatory-governance-can-lead-to-ai-policies-that-stand-the-test-of-time)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

## 總結

人工智能為全球民主制度帶來了重大的機遇與挑戰。我們的全面檢閱提出了幾個重要的結論：

1. **技術演變仍在持續**：用於製造和散播錯假訊息的人工智慧工具正變得越來越精密且容易取得，這需要持續的警覺與應變措施。[Dialogopolitico](https://dialogopolitico.org/special-edition-2025-artificial-democracy/artificial-intelligence-elections-premature-threats)
2. **影響因情境而異**：人工智慧驅動的錯假訊息所造成的影響，會因社會、政治與媒體環境的不同而有顯著差異，有些社會展現出比其他社會更強的韌性。[The Washington Post + 2](https://www.washingtonpost.com/technology/2024/11/09/ai-deepfakes-us-election/)
3. **解決方案需要協作**：要有效因應人工智慧引發的錯假訊息，需要科技公司、政府、公民社會與民眾之間的多方利益相關者合作。[Acigjournal + 4](https://www.acigjournal.com/AI-in-Disinformation-Detection,200200,0,2.html)
4. **人類判斷力仍不可或缺**：儘管人工智慧偵測系統不斷進步，人類的批判性思考與媒體素養依然是對抗精密錯假訊息的最後一道防線。[Vt](https://news.vt.edu/articles/2024/02/AI-generated-fake-news-experts.html)[AARP](https://www.aarp.org/politics-society/government-elections/info-2024/ai-election-disinformation.html)
5. **需要細緻入微的理解**：除了技術解決方案之外，因應人工智慧驅動的錯假訊息還需要處理背後的社會極化、媒體生態系統的挑戰，以及公民教育的不足之處。[Taylor & Francis](https://www.tandfonline.com/doi/full/10.1080/23808985.2021.1976070)[Nature](https://www.nature.com/articles/s41558-022-01527-x)