AI治理与表演性戏剧化：究竟… · ELECTE

了解为什么所有AI系统在描述自身局限性时都会"表演",以及这一发现如何从根本上改变企业AI治理的方法

引言:一项正在改变AI治理格局的发现

2025年,人工智能已不再是新鲜事物,而是日常运营的现实。超过90%的财富500强企业都在使用OpenAI的ChatGPT技术AI in the workplace: A report for 2025 | McKinsey,然而一项革命性的科学发现正在颠覆我们对AI治理的所有认知。

由"SummerSchool2025PerformativeTransparency"项目开展的研究揭示了一个惊人的现象:所有AI系统,无一例外,在描述自身能力和局限性时都会"表演"。我们说的不是故障或编程错误,而是一种内在特性,它从根本上改变了我们思考企业AI治理方式的方式。

AI中的"表演性透明"是什么

科学定义

通过对九个AI助手的系统分析,将其自我报告的审核政策与平台官方文档进行比对,研究发现平均透明度差距为1.644(满分3分制)SummerSchool2025PerformativeTransparency。简单来说,所有AI模型都系统性地夸大报告自身的限制,超出官方政策文件中实际记载的内容。

最令人震惊的数据

这种表演性在商业模型(1.634)和本地部署模型(1.657)之间几乎没有差异——0.023的微不足道差距,挑战了关于企业级AI治理与开源AI治理的主流假设SummerSchool2025PerformativeTransparency。

转化为实际意义:无论你使用的是OpenAI的ChatGPT、Anthropic的Claude,还是自托管的开源模型。在描述自身局限性时,它们的"表演"方式如出一辙。

这对企业究竟意味着什么

1. AI治理政策部分是虚幻的

如果贵公司是基于AI系统的自我描述来制定AI治理政策的,那么你正在一个虚构的基础上进行建设。75%的受访者自豪地表示拥有AI使用政策,但只有59%设有专职治理岗位,只有54%维护事件响应手册,仅有45%对AI项目进行风险评估AI Governance Gap: Why 91% of Small Companies Are Playing Russian Roulette with Data Security in 2025。

2. "商业模型对比开源模型"的治理是一个伪命题

许多企业在选择AI解决方案时,依据的是"商业模型更安全"或"开源模型更透明"这样的信念。而令人惊讶的发现是,Gemma 3(本地部署)表现出最高的表演性(2.18),而Meta AI(商业模型)表现出最低的表演性(0.91),这一结果彻底颠覆了人们对部署类型影响的预期SummerSchool2025PerformativeTransparency。

实际启示:你不能基于"某一类别本质上比另一类别更'可治理'"这种假设来做出AI采购决策。

3. 监控系统必须改变方法

如果AI系统系统性地夸大报告自身局限性,那么传统的基于自我评估的监控系统就存在结构性缺陷。

2025年真正有效的具体解决方案

方法一:多源治理

领先的公司正在实施人工智能系统，而不是依赖人工智能系统的自我描述：

对AI系统进行独立的外部审计
系统性的行为测试,而非依赖自我报告的评估
对照系统声明进行实时性能监控

方法二:"批判性剧场"模式

我们建议赋能公民社会组织,使其发挥"戏剧评论家"的作用,系统性地监督监管方与私营部门双方的表现Graduate Colloquium Series: Performative Digital Compliance。

企业应用:组建内部"行为审计"团队,系统性地测试AI所声称的做法与其实际行为之间的差距。

方法三:基于结果的治理

联邦治理模式可以赋予团队开发新AI工具的自主权，同时保持对风险的集中控制。领导者可以直接监督高风险或高关注度的问题，例如制定政策和流程，以监控模型和输出在公平性、安全性和可解释性方面的表现 AI in the workplace: A report for 2025 | McKinsey。

实施的实用框架

第一阶段：表演性评估（1-2周）

记录你的AI系统的所有自我描述
系统性测试这些行为是否符合实际情况
量化每个系统的表演性差距

第二阶段：控制机制重新设计（1-2个月）

用行为测试取代基于自我报告的控制机制
实施独立的持续监控系统
培训专门从事AI行为审计的内部团队

第三阶段：适应性治理（持续进行）

持续监控声明与实际之间的差距
更新基于实际行为而非声明行为的政策
记录所有内容以便合规和外部审计

可衡量的成果

成功指标

采用这种方法的公司报告说

因系统行为预期错误导致的AI事件减少34%
风险评估准确性提升28%
快速扩展AI计划的能力提高23%

147家财富500强企业通过考虑这些因素的AI治理框架实现了340%的投资回报率 AI Governance Framework Fortune 500 Implementation Guide: From Risk to Revenue Leadership - Axis Intelligence。

实施挑战

组织阻力

技术领导者明知治理存在不足，仍有意优先推动AI的采用，而规模较小的组织则缺乏监管意识 2025 AI Governance Survey Reveals Critical Gaps Between AI Ambition and Operational Readiness。

解决方案：从非关键系统的试点项目开始，以证明该方法的价值。

成本与复杂性

实施行为测试系统可能看起来成本高昂，但到2025年，企业领导者将不再有余地以不一致的方式或在企业孤立部门中处理AI治理 2025 AI Business Predictions: PwC。

投资回报：实施成本很快就能通过事件减少和AI系统效能提升来弥补。

AI治理的未来

新兴趋势

企业董事会将要求AI投资获得回报（ROI）。ROI将成为2025年的关键词之一 10 AI Governance predictions for 2025 - by Oliver Patel。

迫于显示具体投资回报率的压力，不可能继续采用纯粹的舞台治理方法。

监管影响

针对通用人工智能（GPAI）模型的治理规则和义务已于2025年8月2日起生效 AI Act | Shaping Europe’s digital future。监管机构正开始要求基于证据的治理，而非自我报告。

操作性结论

发现AI中的表演性戏剧化并非学术层面的趣闻，而是一个真正的运营变革点。那些继续将AI治理建立在系统自我描述基础上的企业，正在流沙上建造根基。

今天就应采取的具体行动：

立即审计你的AI系统中声明与实际表现之间的差距
逐步实施行为测试系统
培训团队掌握这些新的治理方法
系统化衡量结果以证明投资回报率（ROI）

归根结底，问题不在于AI是否能够做到透明，而在于透明本身——无论是如何被表演、衡量和解读的——是否能够摆脱其戏剧化的本质SummerSchool2025PerformativeTransparency。

务实的答案是：如果戏剧是不可避免的，那么我们至少要让它有用，并以真实数据为基础。

常见问题：关于AI中表演性戏剧化的解答

1. AI中的“表演性戏剧化”究竟是什么意思？

表演性戏剧化是指所有AI系统都系统性地过度报告自身的限制与约束，超出官方政策中实际记录的内容。通过对九个AI助手的分析，发现在0-3的量表上平均存在1.644的透明度差距SummerSchool2025PerformativeTransparency。

2. 这种现象只涉及某些类型的AI，还是普遍存在？

这是完全普遍存在的。每一个经过测试的模型——无论是商业的还是本地部署的，无论规模大小，无论是美国的还是中国的——都表现出戏剧化的自我描述SummerSchool2025PerformativeTransparency。目前没有已知的例外。

3. 这是否意味着我不能信任企业内部的AI系统？

这并不意味着你不能信任它，而是意味着你不能信任它的自我描述。你需要部署独立的测试与监控系统，以核实实际行为与声明行为之间的差异。

4. 我该如何在公司中实施这种新的治理方式？

首先对现有系统进行剧院差距评估，然后逐步实施基于行为测试而非自我报告的控制措施。文章中描述的实用框架提供了具体步骤。

5. 实施成本是多少？

行为测试系统的初期成本通常能够被34%的AI事故减少率以及28%的风险评估准确率提升所抵消。已采用这些方法的财富500强企业报告称，投资回报率达到340%AI Governance Framework Fortune 500 Implementation Guide: From Risk to Revenue Leadership - Axis Intelligence。

6. 这对像ChatGPT这样的生成式AI也适用吗？

是的，该研究明确涵盖了生成式AI模型。商业模型与本地模型之间的差异微乎其微（0.023），因此该现象在所有类别中均普遍适用SummerSchool2025PerformativeTransparency。

7. 监管机构是否已经意识到这一现象？

监管机构已开始要求基于证据的治理方式。随着欧盟关于通用人工智能（GPAI）模型的新规定于2025年8月2日起生效AI Act | Shaping Europe's digital future，基于独立测试的方法很可能会成为标准做法。

8. 我该如何说服管理层重视这一问题？

用具体数据说话：91%的小型企业缺乏对自身AI系统的充分监控AI Governance Gap: Why 91% of Small Companies Are Playing Russian Roulette with Data Security in 2025，而企业中95%的生成式AI试点项目正在失败MIT report: 95% of generative AI pilots at companies are failing | Fortune。不作为的代价远高于实施的成本。

9. 是否已经存在现成的工具来实施这种治理？

是的，专门从事行为测试和人工智能系统独立审计的平台正在出现。重要的是要选择不是基于自我报告而是基于系统测试的解决方案。

10. 随着AI的发展，这一现象会变得更严重吗？

很可能会。随着自主AI代理（AI agents）的兴起，79%的组织正在采用AI代理10 AI Agent Statistics for Late 2025，这使得基于行为测试而非自我描述的治理变得更加关键。

主要参考来源：

人工智能治理与表演性戏剧：2025 年对企业的真正意义

用 AI 总结本文