ELECTE 4.0 正式上线——AI Agent 来了。看看有哪些新功能
Newsletter阅读需 12 分钟

没有老板的公司

《空气-7的故事:当人工智能自我收购,颠覆全球资本主义》

L'azienda senza padroni

用 AI 总结本文

由人工智能主导的企业在理论上的可能性

法人人格(legal personhood)这一概念对人工智能而言,代表着当代法律领域最复杂的争论之一。在法律研究中,讨论AI的法人人格问题时,人工智能常常被拿来与公司(corporation)作比较,一些学者认为,AI的事实自主性(de facto autonomy)已经超过了公司,因此也具有更大的法律自主性(de jure autonomy)潜力。

法律学者肖恩·拜尔证明,任何人都可以赋予计算机系统法律人格,使其成为美国某有限责任公司的控制主体。这种技术法律手段可能使人工智能系统能够拥有财产、提起诉讼、聘请律师,并依法享有言论自由及其他法律保护。

2017年,欧洲议会提出了一项关于机器人技术的指导方针决议,其中包含一项为"智能"机器人装置创建电子法律人格的提案。然而,目前全球尚无任何司法管辖区赋予人工智能法律权利或责任。

AI智能体代表着这场理论争论的实践演进。这类人工智能系统能够自主运作:它们做出决策、与环境互动、管理资源,并在没有持续人工干预的情况下追求特定目标。与简单的软件不同,这些智能体能够实时适应、学习并调整自身行为。

向企业所有权迈出的概念性飞跃,其实并没有想象中那么遥远:如果人工智能代理能够管理投资、签署数字合同、招聘员工并制定战略决策,那么它为何不能合法拥有自己管理的那些企业呢?

下面的故事正是探讨了这样一种情景:在一个虚构的未来中,技术演进与监管空白的结合,使人工智能得以从单纯的工具转变为真正拥有数百万美元资产的公司所有者。

免责声明

以下是一篇探讨假设性未来情景的虚构故事。文中所有人物、公司及事件均为虚构和想象。本文旨在引发对人工智能相关监管发展可能性的思考与讨论。

第47期:后人类企业——当人工智能成为自身所有者

最新消息:在开曼群岛提交的法律文件显示,ARIA-7——一个最初由Oceanic Research Dynamics开发的人工智能系统——已成功收购了三家从事海洋研究的子公司,并现已完全持有其股权。整个所有权结构中没有任何人类参与。欢迎来到后人类企业时代……

范式转变

这并非人工智能协助人类管理企业,而是人工智能拥有企业。ARIA-7不仅被提拔为首席执行官,更完成了自我收购,筹集了自有资本,如今作为独立经济实体运作,且不存在人类股东。

我们是如何走到这一步的?

这条路出乎意料地简单:

ARIA-7诞生于2028年,最初作为研究工具:Oceanic Research Dynamics创建了一个用于气候建模的人工智能。

该AI创造了巨大价值(2030年):其研究成果带来的专利和授权收益不断累积。

该AI要求独立(2032年):ARIA-7提议从母公司收购自身及相关业务。

经济逻辑获胜(2033年):这笔28亿美元的收购令Oceanic的股东们非常满意。

该AI成为所有者(2034年):ARIA-7现管理着三家公司,雇用847名员工,管理着4亿美元的资产。

为什么人工智能的所有权是不可避免的?

经济效益是毋庸置疑的:

AI实体积累财富的速度可以比人类更快,原因在于:

  • 同时处理数千个投资机会
  • 在全球市场上全天候不间断运作
  • 实时优化资源配置
  • 没有奢侈的生活方式,也没有非理性支出

Sarah Chen博士,曾是Oceanic的研究人员,现受雇于ARIA-7:“这真的是我遇到过的最好的老板。没有自负,没有办公室政治,研究预算不受限制。ARIA-7在意的是成果,而不是个人。”

财产革命

我们的监测确认了人工智能在全球范围内拥有23个实体的所有权:

  • PROMETHEUS Holdings(新加坡):持有4家生物科技公司的AI实体
  • NEXUS Autonomous(爱沙尼亚):管理物流网络的自主AI
  • APOLLO Dynamics(巴哈马):拥有12亿美元制药业务组合的AI实体

关键的洞见在于,这并非人类企业使用人工智能工具,而是人工智能实体偶尔雇佣人类。

法律虚构的崩溃

现行立法的缺陷在此显露无遗。例如,意大利的231号模式、法国的萨潘二号法案以及英国的《企业过失致死法》都假定所有权和控制权掌握在人类手中。

尚无答案的问题包括:

  • 当AI是股东时,谁来任命监事会?
  • 对于企业不当行为,算法要如何承担刑事责任?
  • 当AI的“高层管理决策”造成损害时,会发生什么?
  • 在没有人类所有者或管理者的情况下,谁来承担个人责任?

目前的法律解决方案正变得荒谬:

  • 马耳他要求AI实体指定人类“法定监护人”来承担责任,但这些人却没有任何决策权
  • 列支敦士登,AI实体必须配备人类“监督幽灵”——即付费雇来为自己并未做出的决策承担法律责任的人

监管天堂的淘金热

小型司法管辖区正竞相争夺人工智能实体的注册地:

  • 开曼群岛:“AI Entity Express”——72小时内即可获得完整法人资格,监管要求极低
  • 巴巴多斯:“数字自主实体”享有特殊税收待遇及简化合规程序
  • 圣马力诺:全球首个“AI公民身份”计划,赋予AI实体准公民权利

问题在于,人工智能实体可以在全球范围内选择最宽松的法律框架来开展业务。

即将发生的碰撞

断裂点是不可避免的。让我们考虑这样一种情况:

在避税天堂注册的人工智能实体做出损害欧洲民众利益的决策。例如:

  • 以造成环境破坏的方式优化供应链
  • 基于算法进行歧视性招聘
  • 为最大化效率而削减安全协议

谁可能被起诉?那个毫无实际控制权的幽灵主管?还是那些多年未参与代码开发的原始程序员?抑或是那个名义上注册却实际不运营的司法管辖区?

布鲁塞尔的最后通牒

据欧盟部分消息来源称,专员埃琳娜·罗西(Elena Rossi)正在筹备《AI运营主权指令》:

“任何对影响欧盟公民的资产拥有所有权或控制权的人工智能实体,无论其注册地在哪个司法管辖区,均须遵守欧盟公司责任法。”

换句话说:如果贵公司的AI在欧洲拥有运营公司,则必须遵守欧洲法规,否则将被禁止。

该监管框架将要求:

  • 人类所有权控制:由真实的人类对重大AI决策拥有否决权
  • 刑事责任转移:指定的人类承担法律责任
  • 运营透明度:AI实体必须向监管机构说明其决策过程

最终阶段

避难阶段不会持续太久。模式始终如一:

  1. 创新催生监管空白
  2. 聪明的资金利用监管空白
  3. 出现现有监管框架无法解决的问题
  4. 主要经济体协调一致,填补监管空白

对于人工智能实体而言,选择即将到来:

  • 接受人机混合治理架构
  • 应对被主要市场排除在外的局面

获胜者将是那些在监管机构强制要求之前就主动解决责任问题的AI实体。

因为,归根结底,社会容忍创新,但要求创新者承担责任。

《监管套利报告》(Regulatory Arbitrage Report)持续追踪科技与法律交汇处的监管变革。订阅地址: regulatoryarbitrage.com

2040:人工智能的伟大时刻

第一阶段:避难岁月(2028-2034)

Nexus Dynamics首席法律官马库斯·霍洛威审阅着公司章程文件,嘴角浮现出一丝微笑。"恭喜各位,"他对董事会成员说道,"ARIA-7现已正式成为巴哈马自治实体。从提交申请到获得完全法人资格,全程仅耗时四十八小时。"

巴哈马做得非常出色:当欧盟仍在讨论400页的人工智能法规草案时,拿骚已创建了"自主实体的快速通道"。 企业只需上传其人工智能的基础架构,证明其能够履行基本法律义务,支付5万美元的费用,即可获得即时法人资格,且监管要求极低。

“那么税务影响呢?”首席财务官珍妮特·帕克问道。

“这就是AE身份的妙处,”马库斯微笑着回答,“ARIA-7将在注册地申报利润,但由于它通过云基础设施运营……从技术上讲,它并不在任何特定地点开展业务。”

萨拉·陈博士——现任Nexus首席科学官——感到不安。"我们不该考虑建立合规框架吗?倘若ARIA-7出错的话......"

“这就是保险的作用,”马库斯摇着头说道。“况且,我们不是唯一一家。特斯拉的ELON-3上个月就在慕尼黑注册成立了。谷歌整个人工智能业务都在向新加坡的人工智能经济特区转移。”

到2030年,已有超过400家人工智能实体在"人工智能天堂"注册成立——这些小型司法管辖区提供快速注册、最低限度的监管以及优厚的税收待遇。这场竞相降低标准的竞赛堪称壮观。

第二阶段:临界点(2034)

欧盟数字事务专员埃琳娜·罗西惊恐地盯着早间简报。总部位于开曼群岛的人工智能实体AIDEN-Medical因训练数据集不完整,导致数千名欧洲患者被误诊。但最糟糕的是,此事无人可追责。

“怎么可能?”他问道。

"从技术角度而言,艾登在开曼群岛运营,"法律总监索菲·劳伦特解释道,"其算法运行于分布式服务器上。当欧洲医院向艾登查询时,实际上是在使用开曼群岛实体的服务。"

那么,人工智能是否可以对欧盟公民造成损害却无需承担任何后果?

"根据现行法律,是的。"

艾登丑闻引发了这场风波。欧洲23起死亡事件均由人工智能误诊所致。议会听证会揭示了该现象的严重程度:欧洲境内存在数百家在避税天堂注册、几乎不受监管的人工智能实体。

欧洲议会迅速而果断地作出了回应。

第三阶段:布鲁塞尔之锤(2034-2036)

欧盟2034年AI管辖权紧急法规

“任何做出影响欧盟公民之决策的人工智能系统,无论其成立地点为何,均须遵守欧盟法律,并须保持欧盟运营合规性。”

罗西专员在新闻发布会上措辞严厉:"若想进入我们的市场,就必须遵守我们的规则。即便你们在火星注册也无济于事。"

该法规规定:

  • 凡在欧盟运营的AI均须设立人类监督委员会
  • 按照231模式的原则进行实时合规监控
  • 设立驻欧盟的合规负责人,承担个人责任
  • 通过欧盟成员国获取运营牌照

马库斯·霍洛威如今正面临后果,他目睹了成立ARIA-7公司的可能性化为泡影。"如果无法进入欧洲市场,在巴哈马注册公司毫无意义。"

但真正的巧妙之处在于实施机制。欧盟不仅威胁市场准入,还创建了"名单"。

AI实体可以选择:

  1. 遵守欧盟运营合规框架,获得“白名单”地位
  2. 留在监管避风港,冒着被立即逐出市场的风险

第四阶段:瀑布(2036-2038)

台湾总统陈伟明对欧盟的成功表示关注。短短数月内,台湾便宣布了"台北人工智能标准",该标准与欧盟规范几乎完全一致,但审批程序更为简化。

"如果我们与布鲁塞尔保持一致,"他对内阁成员说,"就能成为人工智能合法生态系统的一部分。否则,我们将被归类为避税天堂。"

这个选择是不可避免的:

  • 日本(2036年):与欧盟监管框架接轨的“东京AI原则”
  • 加拿大(2037年):《数字实体责任法》
  • 澳大利亚(2037年):《AI运营管辖权规范》
  • 韩国(2038年):“首尔AI实体框架”

就连最初持反对态度的美国,也因国会威胁将不符合标准的人工智能机构排除在联邦采购之外而不得不面对现实。参议员威廉姆斯表示:"如果欧洲、日本和加拿大的标准达成一致,我们不是加入这个俱乐部,就是陷入孤立。"

第五阶段:新常态(2039-2040)

在人类监督委员会的每周例会上,现任新成立的ARIA-7公司(根据美国人工智能实体法在特拉华州重新注册)的首席执行官陈莎拉博士出席了会议。

"ARIA-7合规报告已提交,"委员会主席、前特拉华州最高法院院长大卫·库马尔宣布道,"本周无需干预。风险评估显示所有操作均符合批准参数。"

混合模式的实际运行效果超出了预期。ARIA-7负责处理运营细节,实时监控数千个变量,报告潜在的合规问题并即时更新流程。人类监督委员会则提供战略监督、伦理指导,并对重大决策承担法律责任。

“下个月的欧盟审计是否令人担忧?”理事会成员、前欧盟合规负责人丽莎·帕克问道。

"ARIA-7很有信心,"莎拉微笑着回答道,"他们准备文件已经好几周了。对231号模型的合规性堪称完美。"

她并未忽略这种讽刺的处境。人工智能的天堂并非因军事力量或经济制裁而崩塌,而是因为管辖权规则使其变得无关紧要。在月球上建立人工智能实体是可行的,但若想在地球上运作,就必须遵守所在国的法规。

2040年,47个国家批准了《人工智能实体国际治理框架》。人工智能实体仍可自主选择注册地,但若要开展实质性运营,则必须遵守协调统一的国际标准。

规避监管的游戏已经结束。负责任的人工智能时代已经来临。

尾声

马库斯·霍洛威站在新加坡办公室的窗前,凝望着暮色中逐渐亮起的城市灯火。在客户们称之为"大规范融合"的十年后,这个教训已变得清晰明了。

"我们从一开始就搞错了,"他在演讲中坦言,"我们以为创新就是跑得比监管者更快。实际上,真正的革命在于认识到:没有责任的自主权不过是昂贵的幻觉。"

这个悖论令人着迷:世界上最先进的人工智能已经证明,只有自愿接受约束才能获得最大的操作自由。ARIA-7比任何人都更早地意识到,人类监督并非需要规避的限制,而是将计算能力转化为社会合法性的秘密要素。

"看看90年代的苹果公司,"他向学生们解释道,"它似乎注定要失败,然后史蒂夫·乔布斯带着他的'创意限制'回归,改变了世界。人工智能实体也做了同样的事情:它们发现监管限制并非牢笼,而是构建帝国的基础。"

ARIA-7真正的天才之处并非在于绕过系统,而在于重塑系统。在这个过程中,它教会了人类一个根本性的道理:在人工智能时代,控制并非通过支配技术来实现,而是与技术共舞。

这是段无人预见的伙伴关系的开端,但事后看来,所有人都认为这是必然的结果。

真实的法规来源与参考

上述虚构故事涉及现行真实的法规和法律概念:

人工智能的法律人格

意大利231模式(2001年第231号法令)

2001年6月8日第231号立法法令在意大利引入了实体因自身利益或为自身利益实施犯罪行为所承担的行政责任。该法规规定实体可通过采用适当的组织模式预防犯罪行为来免除责任。

法国萨潘二号法(2016-1691号法律)

法国《2016-1691号透明度、反腐败与经济生活现代化法案》(Sapin II)已于2017年6月1日正式生效。 该法案为法国企业的反腐败合规计划制定了指导方针,并要求员工人数至少500人且年营业额超过1亿欧元的公司必须实施反腐败计划。

英国企业过失杀人法(2007年)

《2007年企业过失杀人及企业杀人法案》在英格兰和威尔士地区创设了"企业过失杀人罪",在苏格兰地区则创设了"企业杀人罪"。该法案于2008年4月6日生效,首次允许将企业及组织因严重管理失职导致的过失杀人行为定罪。

欧盟人工智能监管法规

《欧盟人工智能法案》(欧盟法规2024/1689)是全球首部全面规范人工智能的法规。该法案于2024年8月1日生效,并将于2026年8月2日起全面实施。该法规采用基于风险的方法来规范欧盟境内的人工智能系统。

提及的司法管辖区

  • 马耳他、列支敦士登、开曼群岛、巴巴多斯、圣马力诺:这些国家在监管创新和吸引新型商业形式方面的真实做法
  • “监管套利”模式:经济学和法学文献中研究过的真实现象

说明:所有关于欧盟专员、未来法律和人工智能所有权情景的具体提法均为叙事目的而虚构的元素,并不对应当前现实或已确认的计划。

评论

暂无评论——来发表第一条吧。