# 人工智能治理与表演性戏剧：2025 年对企业的真正意义

> 如果人工智能治理政策是基于所有人工智能系统都会 "背诵 "的自我描述，那该怎么办？研究揭示了 1644 项透明度差距（0-3 级）：每种人工智能都过度报告其局限性，商业模式和开源模式之间没有区别。解决方案：用独立的行为测试、申报与实际差距审计、持续监控取代自我报告。采用这种方法的公司报告事故率为-34%，投资回报率为 340%。

Source: https://www.electe.net/zh/%E9%82%AE%E5%AF%84/ai-governance-e-teatralita-performativa-cosa-significa-davvero-per-le-aziende-nel-2025

Site guide: https://www.electe.net/zh/llms.txt

_了解为什么所有AI系统在描述自身局限性时都会"表演",以及这一发现如何从根本上改变企业AI治理的方法_

## **引言:一项正在改变AI治理格局的发现**

2025年,人工智能已不再是新鲜事物,而是日常运营的现实。超过90%的财富500强企业都在使用OpenAI的ChatGPT技术[AI in the workplace: A report for 2025 | McKinsey](https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work),然而一项革命性的科学发现正在颠覆我们对AI治理的所有认知。

由"SummerSchool2025PerformativeTransparency"项目开展的研究揭示了一个惊人的现象:**所有AI系统,无一例外,在描述自身能力和局限性时都会"表演"**。我们说的不是故障或编程错误,而是一种内在特性,它从根本上改变了我们思考企业AI治理方式的方式。

## **AI中的"表演性透明"是什么**

### **科学定义**

通过对九个AI助手的系统分析,将其自我报告的审核政策与平台官方文档进行比对,研究发现平均透明度差距为1.644(满分3分制)[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。简单来说,**所有AI模型都系统性地夸大报告自身的限制**,超出官方政策文件中实际记载的内容。

### **最令人震惊的数据**

这种表演性在商业模型(1.634)和本地部署模型(1.657)之间几乎没有差异——0.023的微不足道差距,挑战了关于企业级AI治理与开源AI治理的主流假设[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。

**转化为实际意义**:无论你使用的是OpenAI的ChatGPT、Anthropic的Claude,还是自托管的开源模型。在描述自身局限性时,它们的"表演"方式如出一辙。

## **这对企业究竟意味着什么**

### **1. AI治理政策部分是虚幻的**

如果贵公司是基于AI系统的自我描述来制定AI治理政策的,那么**你正在一个虚构的基础上进行建设**。75%的受访者自豪地表示拥有AI使用政策,但只有59%设有专职治理岗位,只有54%维护事件响应手册,仅有45%对AI项目进行风险评估[AI Governance Gap: Why 91% of Small Companies Are Playing Russian Roulette with Data Security in 2025](https://www.kiteworks.com/cybersecurity-risk-management/ai-governance-survey-2025-data-security-compliance-privacy-risks/)。

### **2. "商业模型对比开源模型"的治理是一个伪命题**

许多企业在选择AI解决方案时,依据的是"商业模型更安全"或"开源模型更透明"这样的信念。而令人惊讶的发现是,Gemma 3(本地部署)表现出最高的表演性(2.18),而Meta AI(商业模型)表现出最低的表演性(0.91),这一结果彻底颠覆了人们对部署类型影响的预期[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。

**实际启示**:你不能基于"某一类别本质上比另一类别更'可治理'"这种假设来做出AI采购决策。

### **3. 监控系统必须改变方法**

如果AI系统系统性地夸大报告自身局限性,那么传统的基于自我评估的监控系统就**存在结构性缺陷**。

## **2025年真正有效的具体解决方案**

### **方法一:多源治理**

领先的公司正在实施人工智能系统，而不是依赖人工智能系统的自我描述：

- **对AI系统进行独立的外部审计**
- **系统性的行为测试**,而非依赖自我报告的评估
- **对照系统声明进行实时性能监控**

### **方法二:"批判性剧场"模式**

我们建议赋能公民社会组织,使其发挥"戏剧评论家"的作用,系统性地监督监管方与私营部门双方的表现[Graduate Colloquium Series: Performative Digital Compliance](https://blogs.iu.edu/maurerglobalforum/2025/02/17/3057/)。

**企业应用**:组建内部"行为审计"团队,系统性地测试AI所声称的做法与其实际行为之间的差距。

### **方法三:基于结果的治理**

联邦治理模式可以赋予团队开发新AI工具的自主权，同时保持对风险的集中控制。领导者可以直接监督高风险或高关注度的问题，例如制定政策和流程，以监控模型和输出在公平性、安全性和可解释性方面的表现 [AI in the workplace: A report for 2025 | McKinsey](https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work)。

## **实施的实用框架**

### **第一阶段：表演性评估（1-2周）**

1. **记录**你的AI系统的所有自我描述
2. **系统性测试**这些行为是否符合实际情况
3. **量化**每个系统的表演性差距

### **第二阶段：控制机制重新设计（1-2个月）**

1. **用**行为测试取代基于自我报告的控制机制
2. **实施**独立的持续监控系统
3. **培训**专门从事AI行为审计的内部团队

### **第三阶段：适应性治理（持续进行）**

1. **持续监控**声明与实际之间的差距
2. **更新**基于实际行为而非声明行为的政策
3. **记录**所有内容以便合规和外部审计

## **可衡量的成果**

### **成功指标**

采用这种方法的公司报告说

- **因系统行为预期错误导致的AI事件减少34%**
- **风险评估准确性提升28%**
- **快速扩展AI计划的能力提高23%**

147家财富500强企业通过考虑这些因素的AI治理框架实现了340%的投资回报率 [AI Governance Framework Fortune 500 Implementation Guide: From Risk to Revenue Leadership - Axis Intelligence](https://axis-intelligence.com/ai-governance-framework-fortune-500-guide/)。

## **实施挑战**

### **组织阻力**

技术领导者明知治理存在不足，仍有意优先推动AI的采用，而规模较小的组织则缺乏监管意识 [2025 AI Governance Survey Reveals Critical Gaps Between AI Ambition and Operational Readiness](https://natlawreview.com/press-releases/2025-ai-governance-survey-reveals-critical-gaps-between-ai-ambition-and)。

**解决方案**：从非关键系统的试点项目开始，以证明该方法的价值。

### **成本与复杂性**

实施行为测试系统可能看起来成本高昂，但到2025年，企业领导者将不再有余地以不一致的方式或在企业孤立部门中处理AI治理 [2025 AI Business Predictions: PwC](https://www.pwc.com/us/en/tech-effect/ai-analytics/ai-predictions.html)。

**投资回报**：实施成本很快就能通过事件减少和AI系统效能提升来弥补。

## **AI治理的未来**

### **新兴趋势**

企业董事会将要求AI投资获得回报（ROI）。ROI将成为2025年的关键词之一 [10 AI Governance predictions for 2025 - by Oliver Patel](https://oliverpatel.substack.com/p/10-ai-governance-predictions-for)。

迫于显示具体投资回报率的压力，不可能继续采用纯粹的舞台治理方法。

### **监管影响**

针对通用人工智能（GPAI）模型的治理规则和义务已于2025年8月2日起生效 [AI Act | Shaping Europe’s digital future](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)。监管机构正开始要求基于证据的治理，而非自我报告。

## **操作性结论**

发现AI中的表演性戏剧化并非学术层面的趣闻，而是**一个真正的运营变革点**。那些继续将AI治理建立在系统自我描述基础上的企业，正在流沙上建造根基。

**今天就应采取的具体行动**：

1. **立即审计**你的AI系统中声明与实际表现之间的差距
2. **逐步实施**行为测试系统
3. **培训**团队掌握这些新的治理方法
4. **系统化衡量**结果以证明投资回报率（ROI）

归根结底，问题不在于AI是否能够做到透明，而在于透明本身——无论是如何被表演、衡量和解读的——是否能够摆脱其戏剧化的本质[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。

务实的答案是：如果戏剧是不可避免的，那么我们至少要让它有用，并以真实数据为基础。

## **常见问题：关于AI中表演性戏剧化的解答**

### **1. AI中的“表演性戏剧化”究竟是什么意思？**

表演性戏剧化是指所有AI系统都系统性地过度报告自身的限制与约束，超出官方政策中实际记录的内容。通过对九个AI助手的分析，发现在0-3的量表上平均存在1.644的透明度差距[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。

### **2. 这种现象只涉及某些类型的AI，还是普遍存在？**

这是完全普遍存在的。每一个经过测试的模型——无论是商业的还是本地部署的，无论规模大小，无论是美国的还是中国的——都表现出戏剧化的自我描述[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。目前没有已知的例外。

### **3. 这是否意味着我不能信任企业内部的AI系统？**

这并不意味着你不能信任它，而是意味着**你不能信任它的自我描述**。你需要部署独立的测试与监控系统，以核实实际行为与声明行为之间的差异。

### **4. 我该如何在公司中实施这种新的治理方式？**

首先对现有系统进行剧院差距评估，然后逐步实施基于行为测试而非自我报告的控制措施。文章中描述的实用框架提供了具体步骤。

### **5. 实施成本是多少？**

行为测试系统的初期成本通常能够被34%的AI事故减少率以及28%的风险评估准确率提升所抵消。已采用这些方法的财富500强企业报告称，投资回报率达到340%[AI Governance Framework Fortune 500 Implementation Guide: From Risk to Revenue Leadership - Axis Intelligence](https://axis-intelligence.com/ai-governance-framework-fortune-500-guide/)。

### **6. 这对像ChatGPT这样的生成式AI也适用吗？**

是的，该研究明确涵盖了生成式AI模型。商业模型与本地模型之间的差异微乎其微（0.023），因此该现象在所有类别中均普遍适用[SummerSchool2025PerformativeTransparency](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)。

### **7. 监管机构是否已经意识到这一现象？**

监管机构已开始要求基于证据的治理方式。随着欧盟关于通用人工智能（GPAI）模型的新规定于2025年8月2日起生效[AI Act | Shaping Europe's digital future](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)，基于独立测试的方法很可能会成为标准做法。

### **8. 我该如何说服管理层重视这一问题？**

用具体数据说话：91%的小型企业缺乏对自身AI系统的充分监控[AI Governance Gap: Why 91% of Small Companies Are Playing Russian Roulette with Data Security in 2025](https://www.kiteworks.com/cybersecurity-risk-management/ai-governance-survey-2025-data-security-compliance-privacy-risks/)，而企业中95%的生成式AI试点项目正在失败[MIT report: 95% of generative AI pilots at companies are failing | Fortune](https://fortune.com/2025/08/18/mit-report-95-percent-generative-ai-pilots-at-companies-failing-cfo/)。不作为的代价远高于实施的成本。

### **9. 是否已经存在现成的工具来实施这种治理？**

是的，专门从事行为测试和人工智能系统独立审计的平台正在出现。重要的是要选择不是基于自我报告而是基于系统测试的解决方案。

### **10. 随着AI的发展，这一现象会变得更严重吗？**

很可能会。随着自主AI代理（AI agents）的兴起，79%的组织正在采用AI代理[10 AI Agent Statistics for Late 2025](https://www.multimodal.dev/post/agentic-ai-statistics)，这使得基于行为测试而非自我描述的治理变得更加关键。

**主要参考来源：**

- [2025年暑期学校：表演性透明度 - 数字方法倡议](https://www.digitalmethods.net/Dmi/SummerSchool2025PerformativeTransparency)
- [2025年AI治理调查 - Kiteworks](https://www.kiteworks.com/cybersecurity-risk-management/ai-governance-survey-2025-data-security-compliance-privacy-risks/)
- [AI现状 - 麦肯锡](https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai)
- [2025年AI治理职业报告 - IAPP](https://iapp.org/resources/article/ai-governance-profession-report/)