# 人工智能与民主：复杂的关系

> 人工智能会加强还是削弱民主？两者同时存在。一方面：简化获取公民信息的渠道，多语言参与，大规模分析公众意见。另一方面：利用心理弱点的政治微定位、信息碎片化、选举造假。关键在于：数字公民素养、算法透明度、预见性而非反应性治理。未来取决于集体选择，而非技术本身。

Source: https://www.electe.net/zh/%E9%82%AE%E5%AF%84/ai-e-democrazia-una-relazione-complicata

Site guide: https://www.electe.net/zh/llms.txt

人工智能与民主之间的关系既不是线性的，也不是单向的，而是各种相互冲突的力量交织在一起，既加强了民主进程的基础，也破坏了民主进程的基础。

## 公共广场的变革

人工智能深刻地改变了进行民主辩论的公共空间。这种变化远远超出了简单的虚假信息问题。我们正在目睹集体信息体验的支离破碎，而集体信息体验历来是现代民主的基本前提。

当不同公民生活在由推荐算法构建的截然不同的信息现实中时，民主对话所需的共同基础就会丧失。

令人啼笑皆非的是，人工智能在成倍增加可用信息来源的同时，也削弱了民主社会就什么是 "事实 "达成共识的能力。这种认识论上的侵蚀带来了比传播假新闻更深层次、更隐蔽的挑战。

## 权力与能力的困境

民主政体面临着一个根本性的两难问题：人工智能决策需要极其具体的专业技术知识，但将这些决策完全委托给专家又意味着将他们排除在民主进程之外。因此，民主原则（由公民做出决定并为公民服务）与对专业知识的需求之间存在着无法解决的矛盾。

日益复杂的人工智能系统不仅对普通公民不透明，有时甚至对开发这些系统的专家也不透明，从而加剧了这种紧张关系。当被管理的工具超出了人类的理解能力时，民主控制如何发挥作用？

## 政治微目标和选举进程

通过人工智能实现的政治微定向在当代竞选活动中变得越来越复杂。人工智能系统分析海量选民数据集，以创建高度个性化的政治信息。[Just Security](https://www.justsecurity.org/82246/the-existential-threat-of-ai-enhanced-disinformation-operations/)

研究表明，由人工智能生成、针对个性特征定制的政治广告**说服力明显更强**，超过通用内容。[PubMed](https://pubmed.ncbi.nlm.nih.gov/38328785/)[Nih](https://pmc.ncbi.nlm.nih.gov/articles/PMC10849795/)

人工智能的规模和效率使竞选活动能够同时为数百万选民生成个性化内容，这让微定向变得比以往任何时候都更加可行、更加经济。[Politicalmarketer](https://politicalmarketer.com/ai-for-precise-voter-targeting-and-personalization/)[CSET](https://cset.georgetown.edu/publication/ai-and-the-future-of-disinformation-campaigns-2/)

最新研究表明，人工智能驱动的竞选工具能够识别选民的心理弱点，并据此制作利用这些特征的信息。[OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)

民主方面的关切是实质性的：

- **操纵的可能性**已由相关研究证实，该研究指出微定向可能利用心理弱点[OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)
- 人工智能可能加剧**两极分化**，因为它主要向选民展示与其现有观点相符的内容[Lse](https://blogs.lse.ac.uk/politicsandpolicy/campaign-microtargeting-and-ai-can-jeopardize-democracy/)
- 选民通常**并不知情**自己正在接收个性化的政治内容[SF Gate](https://marketing.sfgate.com/blog/microtargeting-and-data-analytics-transforming-political-campaigns)[TechInformed](https://techinformed.com/ai-disinformation-2024-us-election-deepfakes-voter-manipulation/)
- 资金充足的竞选活动能够使用更复杂的人工智能工具，这可能造成**政治影响力的不平等**[SF Gate](https://marketing.sfgate.com/blog/microtargeting-and-data-analytics-transforming-political-campaigns)[Brennancenter](https://www.brennancenter.org/our-work/research-reports/generative-ai-political-advertising)

投票系统和选举基础设施也受到人工智能的积极和消极影响：

- 人工智能可以通过异常检测和基础设施监控来提升**选举安全性**，从而应对潜在的干扰[R Street Institute](https://www.rstreet.org/research/impact-of-artificial-intelligence-on-elections/)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- 借助人工智能简化诸如选民登记核实等流程，选举管理工作可以变得**更高效**[Cisa](https://www.cisa.gov/topics/election-security/protect2024)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- 然而，人工智能也带来了新的风险，例如更复杂的网络钓鱼攻击、选举虚假信息深度伪造，以及大规模自动化虚假信息宣传活动[Sophos News + 3](https://news.sophos.com/en-us/2024/10/02/political-manipulation-with-massive-ai-model-driven-misinformation-and-microtargeting/)

## 民主参与和公民参与

人工智能为民主参与提供了机遇，也带来了挑战：

### 积极影响

- **改善公民信息获取**：人工智能工具可以简化复杂的政府信息 [Ieee](https://ieeexplore.ieee.org/document/10933183/)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **提升公共服务供给**：人工智能驱动的系统可以分析公民数据，帮助政府更有效地响应公民需求 [Nextcity + 2](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement)
- **扩展的参与工具**：像 Pol.is 这样的平台使用人工智能大规模分析公众意见 [ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **降低参与门槛**：人工智能翻译服务可以促进多语言公民参与 [ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

### 负面影响

- **信息操纵**：人工智能生成的内容可能被用来传播虚假信息 [Brennancenter](https://www.brennancenter.org/our-work/research-reports/artificial-intelligence-participatory-democracy-and-responsive-government)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **放大现有偏见**：基于偏差数据训练的人工智能系统可能延续并放大公民参与中的不平等 [Brennancenter](https://www.brennancenter.org/series/artificial-intelligence-and-civil-liberties-civil-rights)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)
- **降低人的自主性**：治理中过度依赖算法决策可能削弱人类判断力和问责制
- **加剧数字鸿沟**：对人工智能赋能公民技术的不平等获取可能加深现有的参与差距 [Aiworldtoday + 2](https://www.aiworldtoday.net/p/the-ai-divide)

## 权力关系的重组

人工智能不仅改变了民主辩论的模式，而且正在深刻调整社会内部的权力关系。现在，对人工智能基础设施的控制代表着一种权力形式，它可以与传统上由议会等民主机构行使的权力相媲美，甚至更胜一筹。

我们正在目睹决策权从受民主控制的公共机构向按照不同逻辑运作的私营实体转移。这种权力的转移往往发生在无形之中，通过将决策权逐步下放给自动化系统，而这些系统的运行参数并不总是透明或民主确定的。

## 重新定义民主参与

人工智能正在改变民主参与的概念。一方面，它为更直接和参与性更强的民主形式提供了工具，另一方面，它又为民主参与引入了新的认知和技术障碍。在这一过程中，个人意见的价值也被重新定义：在算法日益个性化的背景下，如何区分真正的个人偏好和由推荐系统诱发的偏好？

这种矛盾心理也体现在人工智能辅助审议系统中：它们可能会让复杂的决策过程变得更容易理解，但也有可能将需要公众进行更深入思考的问题过于简单化。

## 民主体制的蜕变

传统的民主体制是在前数字时代构想出来的，很难适应技术创新所带来的速度。人工智能的快速发展与民主进程的缓慢步伐之间的时间不同步造成了治理真空，有可能被非民主决策机制所填补。

我们面临的挑战不是简单地通过现有机构来监管人工智能，而是重新思考这些机构，使其适合人工智能日益成为社会、经济和政治进程核心的时代。

## 人工智能时代的公民新概念

为了应对这些挑战，必须发展一种新的民主公民概念，将对人工智能作用的认识纳入其中。这意味着既要克服只将人工智能视为民主进步机遇的天真技术乐观主义，也要克服只将其视为威胁的悲观主义。

相反，这需要培养公民素养，包括批判性地评估算法影响的能力，有意识地参与复杂技术问题辩论的能力，以及要求开发和实施具有重大社会影响的人工智能系统的人提高透明度和承担责任的能力。

归根结底，人工智能与民主之间的关系并不是由技术本身所决定的，而是取决于我们的集体能力，即想象并构建机构、规范和实践，使技术发展能够加强而不是削弱基本的民主价值观。

## 关于人工智能与民主的常见问题

### 人工智能如何加强民主参与？

人工智能可以通过使政府信息更易获取、支持多语言参与、大规模分析公众意见以及个性化公民参与体验来改善民主参与。 [Ieee](https://ieeexplore.ieee.org/document/10933183/)[OECD events](https://www.oecd-events.org/gpn2024/en/session/45ece119-96d0-ee11-85fa-0022488a6322/ai-governance-and-the-role-of-the-oecd) 例如，人工智能驱动的翻译服务可以让语言少数群体更充分地参与民主进程， [ECNL](https://ecnl.org/news/ai-public-participation-hope-or-hype) 而数据分析工具可以帮助政府识别并解决公共服务供给中的不平等问题。 [Nextcity + 2](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement)

### 人工智能对民主制度最令人担忧的风险是什么？

最重大的风险包括：令人信服的虚假信息和深度伪造内容泛滥，削弱共同的事实基础；通过微定向政治内容进行操纵； [OUP Academic](https://academic.oup.com/pnasnexus/article/3/2/pgae035/7591134)[Mediaengagement](https://mediaengagement.org/research/generative-ai-elections-and-beyond/) 将某些群体排除在民主进程之外的算法偏见；以及选举基础设施中的安全漏洞。 [Sage Journals + 5](https://journals.sagepub.com/doi/10.1177/09732586241277335) 研究表明，这些风险并非纯属理论——多项研究记录了根据个人心理画像定制的人工智能生成政治内容所具有的说服力。 [PubMed + 2](https://pubmed.ncbi.nlm.nih.gov/38328785/)

### 政府如何监管政治竞选中的人工智能？

有效的监管方法包括:对人工智能生成的政治内容实施强制披露要求;限制可用于政治微定向的个人数据类型;建立独立监督机制以审查竞选活动中的人工智能系统;以及开展公共教育倡议,提高选民对人工智能强化说服技术的认识。[PBS + 4](https://www.pbs.org/newshour/politics/ai-generated-disinformation-poses-threat-of-misleading-voters-in-2024-election) 欧盟《人工智能法案》提供了一个基于风险的监管框架范例,专门针对人工智能在民主进程中的使用。[Europa + 2](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)

### 公民在人工智能治理中应发挥什么作用？

公民应当拥有通过参与机制——如公民大会、公众咨询和持续的利益相关方参与流程——塑造人工智能治理的切实机会。[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/) 研究表明,在人工智能整个生命周期中让多元利益相关方参与,能够打造更值得信赖、更能反映社会价值观的系统。[Adalovelaceinstitute + 13](https://www.adalovelaceinstitute.org/project/algorithmic-accountability-public-sector/) 卡姆登数据宪章(Camden Data Charter)等成功案例表明,公民参与如何能够为公共服务中人工智能的使用建立伦理框架。[Oecd](https://oecd.ai/en/catalogue/tools/participatory-ai-framework)

### 如何保护选举基础设施免受人工智能威胁？

保护策略包括:实施强有力的网络安全措施,如多因素身份验证;培训选举官员识别人工智能强化的网络钓鱼企图;开发系统以识别和应对针对投票的人工智能生成的虚假信息;[Sophos News](https://news.sophos.com/en-us/2024/10/02/political-manipulation-with-massive-ai-model-driven-misinformation-and-microtargeting/) 为官方选举通信建立验证流程;以及为关键选举基础设施建立冗余系统。[ABC News + 2](https://abcnews.go.com/Politics/ai-deepfakes-top-concern-election-officials-voting-underway/story?id=114202574) 网络安全与基础设施安全局(CISA)为选举官员提供了关于降低人工智能风险的具体指导方针。[Cisa](https://www.cisa.gov/topics/election-security/protect2024)[Cisa](https://www.cisa.gov/topics/election-security)

### 人工智能如何改变公民与政府之间的关系？

人工智能有望通过实现更加个性化的公共服务、[Nextcity](https://nextcity.org/urbanist-news/cities-are-at-the-forefront-of-ai-and-civic-engagement) 创造公民参与的新渠道、自动化某些政府职能,并可能改变民主制度中的权力动态,从而重塑公民与政府的关系。[Eff](https://www.eff.org/deeplinks/2024/10/new-eff-report-provides-guidance-ensure-human-rights-are-protected-amid-government)[OECD](https://www.oecd.org/en/publications/governing-with-artificial-intelligence_26324bc2-en.html) 这一转变的方向在很大程度上取决于治理选择——即人工智能的部署方式究竟是增强民主问责,还是将权力集中在监督有限的技术系统中。[ScienceDirect + 2](https://www.sciencedirect.com/science/article/pii/S0308596120300689)

### 民主背景下的 IA 治理需要哪些国际合作？

国际合作对于建立共同标准、防止监管碎片化、应对人工智能的跨境影响以及在人工智能发展中围绕民主价值观推动共识至关重要。[Oecd + 2](https://oecd.ai/en/wonk/how-anticipatory-governance-can-lead-to-ai-policies-that-stand-the-test-of-time) 经合组织(OECD)人工智能原则是国际协调的典范,提供了一个已被全球47个司法管辖区采纳的共同框架,同时为各国的具体实施保留了灵活性。[Oecd](https://oecd.ai/en/wonk/evolving-with-innovation-the-2024-oecd-ai-principles-update)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

### 我们如何确保人工智能有利于民主而不是破坏民主？

要确保人工智能造福民主,需要:基于价值观的前瞻性治理框架;切实的透明度和可解释性要求;人工智能开发与监管的参与式方法;对数字素养的投资;在人工智能应用中保护基本权利;以及让人工智能系统及其开发者承担责任的机制。[Eff + 4](https://www.eff.org/issues/ai)

有证据表明，前瞻性治理方法比被动式监管更有效。[Oecd](https://oecd.ai/en/wonk/how-anticipatory-governance-can-lead-to-ai-policies-that-stand-the-test-of-time)[Brookings](https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation/)

## 结论

人工智能为全球民主制度带来了重大机遇和挑战。我们的全面审查得出了几个重要结论：

1. **技术演进持续进行**：用于制造和传播虚假信息的人工智能工具正变得越来越复杂、越来越易于获取，这需要持续保持警惕并做出适应性应对。[Dialogopolitico](https://dialogopolitico.org/special-edition-2025-artificial-democracy/artificial-intelligence-elections-premature-threats)
2. **影响因情境而异**：人工智能助推的虚假信息所造成的影响，会因社会、政治和媒体环境的不同而存在显著差异，某些社会表现出比其他社会更强的韧性。[The Washington Post + 2](https://www.washingtonpost.com/technology/2024/11/09/ai-deepfakes-us-election/)
3. **解决方案需要协作**：要有效应对人工智能带来的虚假信息，需要科技公司、政府、公民社会和公众之间的多方协作。[Acigjournal + 4](https://www.acigjournal.com/AI-in-Disinformation-Detection,200200,0,2.html)
4. **人类判断力仍不可或缺**：尽管人工智能检测系统不断进步，人类的批判性思维和媒介素养仍然是抵御复杂虚假信息的最后一道防线。[Vt](https://news.vt.edu/articles/2024/02/AI-generated-fake-news-experts.html)[AARP](https://www.aarp.org/politics-society/government-elections/info-2024/ai-election-disinformation.html)
5. **需要细致入微的理解**：除了技术方案之外，应对人工智能助推的虚假信息还需要解决深层次的社会两极分化、媒体生态系统面临的挑战，以及公民教育方面的不足。[Taylor & Francis](https://www.tandfonline.com/doi/full/10.1080/23808985.2021.1976070)[Nature](https://www.nature.com/articles/s41558-022-01527-x)