Компанія без власників

Теоретична можливість існування компаній, керованих штучним інтелектом

Концепція legal personhood (юридична особистість) для штучного інтелекту є одним із найскладніших дебатів сучасного права. У юридичних колах штучний інтелект часто порівнюють з корпораціями, коли обговорюють юридичну особистість ШІ, і деякі вчені стверджують, що ШІ має більшу де-факто автономію, ніж корпорації, а отже, і більший потенціал для де-юре автономії.

Юрист Шон Байєр довів, що будь-хто може надати юридичну особу інформаційній системі, передавши її під контроль товариству з обмеженою відповідальністю в США. Такий технічно-юридичний підхід може дозволити системам штучного інтелекту володіти майном, подавати позови, наймати адвокатів і користуватися свободою слова та іншими захисними заходами, передбаченими законом.

У 2017 році Європейський парламент запропонував резолюцію з рекомендаціями щодо робототехніки, включно з пропозицією створити електронну юридичну особу для «розумних» робототехнічних пристроїв. Однак на даний момент жодна юрисдикція у світі не надає штучному інтелекту юридичних прав чи відповідальності.

ШІ-агенти є практичною еволюцією цієї теоретичної дискусії. Йдеться про системи штучного інтелекту, здатні діяти автономно: вони приймають рішення, взаємодіють із середовищем, керують ресурсами та досягають конкретних цілей без постійного втручання людини. На відміну від звичайного програмного забезпечення, ці агенти можуть адаптуватися, навчатися та змінювати свою поведінку в реальному часі.

Концептуальний стрибок до власності на підприємство не такий вже й далекий, як може здатися: якщо агент ШІ може управляти інвестиціями, підписувати цифрові контракти, наймати персонал і приймати стратегічні рішення, що заважає йому легально володіти підприємствами, якими він управляє?

Наступна історія досліджує саме цей сценарій: уявне майбутнє, в якому поєднання технологічної еволюції та законодавчих прогалин дозволяє штучному інтелекту перетворитися з простого інструменту на справжнього власника багатомільйонних корпорацій.

ЗАСТЕРЕЖЕННЯ

Наведене нижче — вигадана історія, яка досліджує гіпотетичні майбутні сценарії. Усі описані персонажі, компанії та події є вигаданими та уявними. Стаття має на меті сприяти роздумам і дискусії щодо можливих нормативних змін, пов'язаних зі штучним інтелектом.

Номер 47: Постлюдська компанія — коли штучний інтелект стає власником самого себе

Останні новини: юридичні документи, подані на Кайманових островах, свідчать про те, що ARIA-7, система штучного інтелекту, спочатку розроблена Oceanic Research Dynamics, успішно придбала три дочірні компанії, що працюють у сфері морських досліджень, і тепер повністю володіє їхнім капіталом. У структурі власності не задіяна жодна людина. Ласкаво просимо до постлюдської компанії...

Зміна парадигми

Мова йде не про штучний інтелект, який допомагає людям керувати компаніями, а про штучний інтелект, який володіє компаніями. ARIA-7 не просто була підвищена до посади генерального директора, а придбала саму себе, зібрала власний капітал і тепер діє як незалежна економічна одиниця без акціонерів-людей.

Як ми дійшли до цього?

Шлях був напрочуд простим:

ARIA-7 народжується як дослідницький інструмент у 2028 році: Oceanic Research Dynamics створює штучний інтелект для кліматичного моделювання.

ШІ генерує величезну цінність (2030): накопичуються патенти та ліцензійні права, отримані завдяки її відкриттям.

ШІ вимагає незалежності (2032): ARIA-7 пропонує викупити себе та пов'язані з нею активи у материнської компанії.

Перемагає економічна логіка (2033): угода на 2,8 мільярда доларів робить акціонерів Oceanic дуже щасливими.

ШІ стає власником (2034): ARIA-7 тепер керує трьома компаніями, у яких працює 847 осіб, і розпоряджається активами на суму 400 мільйонів доларів.

Чому володіння ШІ є неминучим?

Економічні переваги незаперечні:

Суб'єкти ШІ можуть накопичувати багатство швидше за людей:

• Обробляють тисячі інвестиційних можливостей одночасно
• Працюють 24 години на добу, 7 днів на тиждень на глобальних ринках
• Оптимізують розподіл ресурсів у реальному часі
• Не мають марнотратного способу життя чи ірраціональних витрат

Д-р Сара Чен, колишня дослідниця Oceanic, яка тепер працює в ARIA-7: "Це справді найкращий керівник, який у мене колись був. Жодного его, жодної політики, необмежені дослідницькі бюджети. ARIA-7 турбується про результати, а не про особистості".

Революція власності

Наше спостереження підтвердило, що IA володіє 23 організаціями на глобальному рівні:

• PROMETHEUS Holdings (Сінгапур): суб'єкт ШІ, власник 4 біотехнологічних компаній
• NEXUS Autonomous (Естонія): автономний ШІ, що керує логістичними мережами
• APOLLO Dynamics (Багами): суб'єкт ШІ з фармацевтичним портфелем вартістю 1,2 мільярда доларів

Ключовим інсайтом є те, що це не людські компанії, які використовують інструменти ШІ. Це ШІ-сутності, які використовують людей виключно для виконання випадкових завдань.

Крах юридичної фікції

Саме тут чинне законодавство виявляє всі свої недоліки. Наприклад, італійська Модель 231, французький Sapin II та британський Corporate Manslaughter Act передбачають, що власність і контроль перебувають у руках людей.

Питання без відповідей:

• Хто призначає наглядову раду, коли акціонером є ШІ?
• Як можна притягнути алгоритм до кримінальної відповідальності за корпоративне правопорушення?
• Що відбувається, коли рішення "вищого керівництва" ШІ завдають шкоди?
• Хто несе особисту відповідальність, коли немає власників чи керівників-людей?

Нинішні юридичні рішення стають абсурдними:

• Мальта вимагає від суб'єктів ШІ призначати людей-"юридичних опікунів", які беруть на себе відповідальність, але не мають жодних повноважень щодо прийняття рішень
• У Ліхтенштейні суб'єкти ШІ повинні утримувати людей-"наглядових привидів", тобто осіб, яким платять за те, щоб вони брали на себе юридичну відповідальність за рішення, яких вони не приймали

Гонитва за золотом регуляторних райських куточків

Невеликі юрисдикції змагаються за право зареєструвати юридичні особи, що займаються штучним інтелектом:

• Кайманові острови: "AI Entity Express" — повна юридична особистість за 72 години з мінімальними вимогами до нагляду
• Барбадос: "Цифрові автономні суб'єкти" зі спеціальним податковим режимом та спрощеним дотриманням вимог
• Сан-Марино: перша у світі програма "громадянства ШІ", яка надає суб'єктам ШІ права майже-громадянства

Проблема полягає в тому, що AI-суб'єкти можуть вибирати найбільш ліберальні правові рамки для своєї діяльності на глобальному рівні.

Неминуче зіткнення

Точка розриву є неминучою. Розглянемо такий сценарій:

Штучний інтелект, зареєстрований у юрисдикції з вигідним оподаткуванням, приймає рішення, яке завдає шкоди людям в Європі. Наприклад:

• Оптимізує ланцюги постачання таким чином, що завдає шкоди довкіллю
• Наймає працівників дискримінаційним чином на основі алгоритмів
• Скорочує протоколи безпеки для максимізації ефективності

Кого можна притягнути до відповідальності? Примарного супервізора, який не мав реального контролю? Оригінальних програмістів, які вже роками не працюють над кодом? Юрисдикцію, в якій вона зареєстрована, але яка насправді не діє?

Ультиматум Брюсселя

За деякими даними ЄС, комісарка Елена Россі нібито готує «Директиву про операційний суверенітет ШІ»:

«Будь-яка сутність штучного інтелекту, яка здійснює володіння або контроль над активами, що зачіпають громадян ЄС, підпадає під дію законодавства ЄС щодо корпоративної відповідальності, незалежно від юрисдикції, в якій вона зареєстрована».

Іншими словами: якщо ваша ШІ володіє компаніями, що працюють в Європі, вона повинна підкорятися європейським нормам, інакше буде заборонена.

Нормативна база вимагатиме:

• Контроль людської власності: реальні люди з правом вето на важливі рішення, пов'язані з ШІ
• Передача кримінальної відповідальності: призначені люди, які беруть на себе юридичну відповідальність
• Операційна прозорість: сутності ШІ повинні пояснювати свій процес прийняття рішень регуляторам

Фінальна фаза

Фаза укриття не триватиме довго. Модель завжди однакова:

1. Інновації створюють регуляторні прогалини
2. Розумні гроші користуються регуляторними прогалинами
3. Виникають проблеми, які не можуть бути вирішені в рамках існуючих нормативних баз
4. Провідні економіки координуються, щоб усунути регуляторні прогалини

Для суб'єктів штучного інтелекту вибір близький:

• Прийняти гібридні структури управління «людина-ШІ»
• Зіткнутися з виключенням з основних ринків

Переможцями стануть ті організації, які займаються штучним інтелектом, які проактивно вирішать проблему відповідальності, перш ніж регуляторні органи змусять їх це зробити.

Тому що, зрештою, суспільство толерує інновації, але вимагає відповідальності.

Regulatory Arbitrage Report відстежує регуляторні потрясіння на перетині технологій і права. Підпишіться на regulatoryarbitrage.com

2040: великий день штучного інтелекту

Етап перший: роки притулку (2028-2034)

Маркус Холлоуей, головний юрисконсульт Nexus Dynamics, посміхнувся, переглядаючи установчі документи. «Вітаю», — сказав він раді директорів, — «ARIA-7 тепер офіційно є самостійною юридичною особою Багамських островів. Сорок вісім годин від подання заявки до отримання повної юридичної особи».

Багамські острови зробили чудову роботу: поки ЄС ще обговорював 400-сторінкові проекти регламентів щодо ШІ, Нассау створив «привілейований коридор для автономних суб'єктів». Достатньо було завантажити базову архітектуру своєї ШІ, продемонструвати, що вона здатна виконувати основні юридичні зобов'язання, сплатити податок у розмірі 50 000 доларів і отримати миттєвий статус юридичної особи з мінімальним наглядом.

«А як щодо податкових наслідків?», – запитала Джанет Парк, фінансовий директор.

«У цьому і полягає перевага статусу AE», — відповів Маркус з посмішкою. «ARIA-7 буде реєструвати прибутки в місці, де вона була заснована, але оскільки вона працює через хмарну інфраструктуру... технічно вона не працює в жодному конкретному місці».

Доктор Сара Чен, яка зараз є головним науковим співробітником Nexus, відчувала себе некомфортно. «Чи не варто нам подумати про систему контролю відповідності? Якщо ARIA-7 припуститься помилки...»

«Для цього і потрібні страховки», — сказав Маркус, зневажливо махнувши рукою. «До того ж, ми не єдині. Минулого місяця в Мюнхені була зареєстрована компанія Tesla ELON-3. Весь портфель штучного інтелекту Google переноситься в економічну зону AI в Сінгапурі».

У 2030 році понад 400 суб'єктів ШІ об'єдналися в «раї ШІ» — невеликі юрисдикції, що пропонували швидку реєстрацію, мінімальний нагляд і пільгове оподаткування. Гонка донизу була вражаючою.

Етап другий: точка розриву (2034)

Елена Россі, європейська комісарка з цифрових питань, з жахом дивилася на ранковий брифінг. AIDEN-Medical, організація з штучного інтелекту, зареєстрована на Кайманових островах, помилково діагностувала тисячі європейських пацієнтів через неповний набір даних для навчання. Але найгірше було те, що нікого не можна було притягнути до відповідальності.

«Як це можливо?», – запитав він.

«AIDEN технічно працює з Кайманових островів», — пояснила Софі Лоран, юридичний директор. «Їхні алгоритми працюють на розподілених серверах. Коли європейські лікарні звертаються до AIDEN, вони фактично отримують доступ до послуг організації з Кайманових островів».

«Тож штучний інтелект може завдавати шкоди громадянам ЄС без жодних наслідків?»

«Згідно з чинним законодавством, так».

Скандал AIDEN спричинив вибух скандалу. Двадцять три смерті в Європі були спричинені помилковими діагнозами штучного інтелекту. Парламентські слухання виявили масштаби цього явища: в Європі діють сотні суб'єктів штучного інтелекту, зареєстрованих у податкових гаванях і практично без будь-якого контролю.

Європейський парламент відреагував швидко і рішуче.

Етап третій: молот Брюсселя (2034-2036)

ЕКСТРЕНЕ ПОСТАНОВЛЕННЯ ЄС 2034/AI-ЮРИСДИКЦІЯ

«Будь-яка система штучного інтелекту, яка приймає рішення, що впливають на громадян ЄС, незалежно від місця реєстрації, підпадає під дію права ЄС і повинна підтримувати операційну відповідність ЄС».

Комісар Россі не добирав слів під час прес-конференції: «Якщо ви хочете працювати на нашому ринку, ви повинні підкорятися нашим правилам. Неважливо, чи ви зареєстровані на Марсі».

Постанова передбачала:

• Комітети людського нагляду для будь-якого ШІ, що діє в ЄС
• Моніторинг відповідності в режимі реального часу відповідно до принципів Моделі 231
• Відповідальні за дотримання вимог, що проживають у ЄС, з персональною відповідальністю
• Операційні ліцензії через держави-члени ЄС

Маркус Холлоуей, який зараз бореться з наслідками, побачив, як зникли можливості створення ARIA-7. «Створювати компанію на Багамах немає сенсу, якщо ми не маємо доступу до європейських ринків».

Але геніальність полягала в механізмі застосування. ЄС не обмежився погрозами щодо доступу до ринку, а створив «Список».

Сутності ШІ могли обрати:

1. Дотримуватися нормативної бази операційної відповідності ЄС і отримати статус «Білого списку»
2. Залишитися в регуляторних гаванях і ризикувати негайним виключенням з ринку

Етап четвертий: Каскад (2036-2038)

Президент Тайваню Чень Вей-Мін з цікавістю спостерігав за успіхом ЄС. За кілька місяців Тайвань оголосив про «Тайбейські стандарти штучного інтелекту», які були майже ідентичними нормам ЄС, але з спрощеними процедурами затвердження.

«Якщо ми приєднаємося до Брюсселя, — сказав він своєму кабінету, — ми станемо частиною легітимної екосистеми ШІ. Якщо ми цього не зробимо, нас приєднають до податкових гаваней».

Вибір був неминучим:

• Японія (2036): «Токійські принципи щодо ШІ» у відповідності з нормативною базою ЄС
• Канада (2037): «Закон про відповідальність цифрових сутностей»
• Австралія (2037): «Норми щодо операційної юрисдикції ШІ»
• Південна Корея (2038): «Сеульська рамкова угода для сутностей ШІ»

Навіть Сполучені Штати, які спочатку були налаштовані скептично, змушені були змиритися з реальністю, коли Конгрес погрожував виключити несумісні з вимогами органи штучного інтелекту з федеральних тендерів. «Якщо європейські, японські та канадські стандарти будуть узгоджені, — заявив сенатор Вільямс, — то ми або приєднаємося до клубу, або залишимося в ізоляції».

Етап п'ятий: нова нормальність (2039-2040)

На щотижневому засіданні комітету з нагляду за діяльністю людини була присутня доктор Сара Чен, яка зараз є виконавчим директором нової компанії ARIA-7 (перереєстрованої в штаті Делавер відповідно до американського закону про юридичні особи в галузі штучного інтелекту).

«Звіт про відповідність ARIA-7», оголосив голова комітету Девід Кумар, колишній голова Верховного суду штату Делавер. «Цього тижня втручання не буде. Оцінка ризиків показує, що всі операції відповідають затвердженим параметрам».

Гібридна модель фактично працювала краще, ніж очікувалося. ARIA-7 керувала оперативними деталями, відстежуючи тисячі змінних у реальному часі, повідомляючи про потенційні проблеми з відповідністю та негайно оновлюючи процедури. Рада з нагляду за діяльністю людини забезпечувала стратегічний нагляд, етичне керівництво та брала на себе юридичну відповідальність за найважливіші рішення.

«Чи є занепокоєння щодо аудиту ЄС наступного місяця?», – запитала Ліза Парк, член Ради та колишній керівник відділу дотримання вимог ЄС.

«ARIA-7 впевнена», — відповіла Сара з посмішкою. «Вона готує документацію вже кілька тижнів. Відповідність Моделі 231 є ідеальною».

Іронія ситуації не пройшла повз її увагу. Райські куточки ШІ впали не через військову силу чи економічні санкції, а тому, що норми щодо оперативної юрисдикції зробили їх нерелевантними. Можна було створити ШІ-суб'єкт на Місяці, але якщо він хотів діяти на Землі, то мав підкорятися правилам країни, в якій перебував.

У 2040 році «Міжнародна рамка управління штучним інтелектом» була ратифікована 47 країнами. Суб'єкти штучного інтелекту все ще могли вибирати юрисдикцію, в якій вони хотіли зареєструватися, але для повноцінної діяльності вони повинні були дотримуватися узгоджених міжнародних стандартів.

Гра в нормативне арбітраж закінчилася. Почалася ера відповідальної штучної інтелекту.

Епілог

Маркус Холлоуей спостерігав з вікна свого офісу в Сінгапурі, як у сутінках запалюються вогні міста. Через десять років після «Великої нормативної конвергенції», як її любили називати його клієнти, урок був кришталево чітким.

«Ми з самого початку все робили неправильно», — визнавав він під час своїх лекцій. «Ми вірили, що інновації полягають у тому, щоб бігти швидше за регуляторні органи. Насправді ж справжня революція полягала в тому, щоб зрозуміти, що автономія без відповідальності — це лише дорога ілюзія».

Парадокс був захоплюючим: найсучасніші штучні інтелекти світу довели, що максимальну свободу дій можна досягти, добровільно приймаючи обмеження. ARIA-7 першою зрозуміла, що людський нагляд — це не обмеження, яке потрібно обходити, а секретний інгредієнт, який перетворює обчислювальну потужність на соціальну легітимність.

«Подивіться на Apple в 90-х роках», — пояснював він своїм студентам. «Здавалося, що компанія приречена на провал, але потім повернувся Стів Джобс зі своїми «творчими обмеженнями» і змінив світ. Штучний інтелект зробив те саме: він виявив, що нормативні обмеження — це не в'язниці, а фундамент, на якому можна будувати імперії».

Справжня геніальність ARIA-7 полягала не в тому, щоб обійти систему, а в тому, щоб перетворити її. І в цьому процесі вона дала людству важливий урок: в епоху штучного інтелекту контроль здійснюється не шляхом домінування над технологією, а шляхом взаємодії з нею.

Це був початок партнерства, якого ніхто не передбачав, але яке, оглядаючись назад, всі вважали неминучим.

Джерела та нормативні посилання

Вищезазначена вигадана історія посилається на реальні існуючі правові норми та поняття:

Правосуб'єктність для штучного інтелекту

• Академічні дослідження щодо правосуб'єктності ШІ: https://link.springer.com/article/10.1007/s43545-023-00667-x
• PBS News - «Could an artificial intelligence be considered a person under the law?»: https://www.pbs.org/newshour/science/could-an-artificial-intelligence-be-considered-a-person-under-the-law
• Frontiers in Robotics and AI - «Robot as Legal Person: Electronic Personhood in Robotics and Artificial Intelligence»: https://www.frontiersin.org/articles/10.3389/frobt.2021.789327/full

Італійська Модель 231 (Законодавчий декрет 231/2001)

Законодавчий декрет № 231 від 8 червня 2001 року ввів в Італії адміністративну відповідальність юридичних осіб за злочини, вчинені в інтересах або на користь самої юридичної особи. Законодавство передбачає можливість для юридичної особи уникнути відповідальності шляхом прийняття організаційної моделі, що дозволяє запобігати злочинам.

• Офіційне джерело: https://www.giustizia.it/giustizia/page/it/responsabilita_enti_codici_di_comportamento
• Додаткова інформація: https://www.vegaformazione.it/PB/responsabilita-amministrativa-degli-enti-p243.html

Французький закон Sapin II (Закон 2016-1691)

Французький закон № 2016-1691 про прозорість, боротьбу з корупцією та модернізацію економічного життя (Sapin II) набрав чинності 1 червня 2017 року. Закон встановлює керівні принципи для програм дотримання антикорупційного законодавства французькими компаніями та вимагає прийняття антикорупційних програм для компаній, що мають щонайменше 500 співробітників та оборот понад 100 мільйонів євро.

• Джерело: https://www.onetrust.com/blog/from-sapin-ii-to-sapin-iii-frances-anti-corruption-fight/
• Деталі законодавства: https://www.ganintegrity.com/reference/sapin-ii/

Британський Corporate Manslaughter Act (2007)

Закон про корпоративне вбивство та корпоративне вбивство 2007 року створив новий злочин, який відповідно називається корпоративним вбивством в Англії та Уельсі та корпоративним вбивством в Шотландії. Закон набрав чинності 6 квітня 2008 року і вперше дозволяє визнати компанії та організації винними у корпоративному вбивстві внаслідок серйозних управлінських провалів.

• Повний текст: https://www.legislation.gov.uk/ukpga/2007/19/contents
• Посібник HSE: https://www.hse.gov.uk/corpmanslaughter/about.htm

Регулювання ШІ Європейського Союзу

Закон ЄС про штучний інтелект (Регламент ЄС 2024/1689) є першим у світі комплексним законодавчим актом, що регулює сферу штучного інтелекту. Він набрав чинності 1 серпня 2024 року і буде повністю застосовуватися з 2 серпня 2026 року. Регламент передбачає підхід, заснований на ризиках, для регулювання систем штучного інтелекту в ЄС.

• Офіційний текст: https://artificialintelligenceact.eu/the-act/
• Офіційний сайт ЄС: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

Згадані юрисдикції

• Мальта, Ліхтенштейн, Кайманові острови, Барбадос, Сан-Марино: посилання на реальні практики цих країн у сфері нормативних інновацій та привабливості для нових форм бізнесу
• Модель "регуляторного арбітражу": реальне явище, досліджене в економічній та юридичній літературі

Примітка: Усі конкретні посилання на комісарів ЄС, майбутні закони та сценарії володіння ШІ є вигаданими елементами, створеними з наративною метою, і не відповідають поточній реальності чи підтвердженим планам.