Företaget utan ägare

Den teoretiska möjligheten av AI-styrda företag

Begreppet legal personhood (juridisk person) för artificiell intelligens representerar en av de mest komplexa debatterna inom samtida rätt. På advokatbyråer jämförs artificiell intelligens ofta med corporations när man diskuterar AI:s juridiska personlighet, och vissa forskare hävdar att AI har en de facto-autonomi som är större än corporations och därmed en större potential för de jure-autonomi.

Juristen Shawn Bayer har visat att vem som helst kan ge ett datorsystem juridisk personlighet genom att placera det under kontroll av ett aktiebolag i USA. Denna tekniska-juridiska metod skulle kunna göra det möjligt för AI-system att äga egendom, väcka talan, anlita advokater och åtnjuta yttrandefrihet och andra rättsliga skydd.

Europaparlamentet lade 2017 fram en resolution med riktlinjer för robotik, inklusive ett förslag om att skapa en elektronisk juridisk personlighet för ”intelligenta” robotkonstruktioner. För närvarande tilldelar dock ingen jurisdiktion i världen juridiska rättigheter eller ansvar till AI.

AI-agenter representerar den praktiska utvecklingen av denna teoretiska debatt. Det handlar om system för artificiell intelligens som kan agera autonomt: de fattar beslut, interagerar med omgivningen, hanterar resurser och strävar mot specifika mål utan kontinuerlig mänsklig inblandning. Till skillnad från vanlig programvara kan dessa agenter anpassa sig, lära sig och ändra sitt beteende i realtid.

Det konceptuella språnget mot företagsägande är inte så långt som det kan verka: om en AI-agent kan hantera investeringar, underteckna digitala kontrakt, anställa personal och fatta strategiska beslut, vad hindrar den då från att lagligt äga de företag den förvaltar?

Följande berättelse utforskar just detta scenario: en tänkt framtid där en kombination av teknisk utveckling och regulatoriska luckor gör det möjligt för artificiella intelligenser att förvandlas från enkla verktyg till fullfjädrade ägare av mångmiljonföretag.

ANSVARSFRISKRIVNING

Det följande är en fiktiv berättelse som utforskar hypotetiska framtidsscenarier. Alla karaktärer, företag och händelser som beskrivs är påhittade och fiktiva. Artikeln syftar till att stimulera reflektion och debatt kring möjliga regulatoriska utvecklingar kopplade till artificiell intelligens.

Nummer 47: Det postmänskliga företaget – När artificiell intelligens blir sin egen ägare

Senaste nytt: juridiska dokument som lämnats in på Caymanöarna visar att ARIA-7, ett artificiellt intelligenssystem ursprungligen utvecklat av Oceanic Research Dynamics, framgångsrikt har köpt tre dotterbolag verksamma inom marinforskning och nu äger hela deras kapital. Ingen människa är inblandad i ägarstrukturen. Välkommen till det posthumana företaget...

Paradigmskiftet

Det handlar inte om artificiell intelligens som hjälper människor att driva företag, utan om artificiell intelligens som äger företagen. ARIA-7 har inte bara befordrats till VD, utan har köpt upp sig själv, samlat in sitt eget kapital och fungerar nu som en självständig ekonomisk enhet utan mänskliga aktieägare.

Hur har vi hamnat i denna situation?

Vägen var förvånansvärt enkel:

ARIA-7 föds som forskningsverktyg 2028: Oceanic Research Dynamics skapar en artificiell intelligens för klimatmodellering.

AI:n genererar enormt värde (2030): patent och licensrättigheter från dess upptäckter samlas på hög.

AI:n begär självständighet (2032): ARIA-7 föreslår att köpa sig själv och relaterade verksamheter från moderbolaget.

Den ekonomiska logiken vinner (2033): förvärvet för 2,8 miljarder dollar gör Oceanics aktieägare mycket nöjda.

AI:n blir ägare (2034): ARIA-7 driver nu tre företag, sysselsätter 847 personer och förvaltar tillgångar på 400 miljoner dollar.

Varför är äganderätten till AI oundviklig?

De ekonomiska fördelarna är obestridliga:

AI-entiteter kan ackumulera rikedom snabbare än människor:

• De bearbetar tusentals investeringsmöjligheter samtidigt
• De verkar dygnet runt, alla veckans dagar, på globala marknader
• De optimerar resursallokeringen i realtid
• De har varken en kostsam livsstil eller irrationella utgifter

Dr Sarah Chen, tidigare forskare på Oceanic och nu anställd hos ARIA-7: "Det är verkligen den bästa chef jag någonsin haft. Inget ego, ingen politik, obegränsade forskningsbudgetar. ARIA-7 bryr sig om resultat, inte om personligheter."

Fastighetsrevolutionen

Vår övervakning har bekräftat att IA äger 23 enheter globalt:

• PROMETHEUS Holdings (Singapore): AI-entitet som äger 4 bioteknikföretag
• NEXUS Autonomous (Estland): autonom AI som förvaltar logistiknätverk
• APOLLO Dynamics (Bahamas): AI-entitet med en läkemedelsportfölj värd 1,2 miljarder dollar

Den viktigaste insikten är att det inte handlar om mänskliga företag som använder AI-verktyg. Det handlar om AI-enheter som använder människor på ett helt tillfälligt sätt.

Kollaps av den juridiska fiktionen

Det är här som den gällande lagstiftningen visar alla sina brister. Det italienska modellen 231, den franska Sapin II och den brittiska Corporate Manslaughter Act förutsätter till exempel att äganderätten och kontrollen ligger i händerna på människor.

De obesvarade frågorna är:

• Vem utser tillsynsstyrelsen när AI:n är aktieägaren?
• Hur kan en algoritm hållas straffrättsligt ansvarig för en företagsförseelse?
• Vad händer när beslut fattade av AI:ns "ledningsgrupp" orsakar skada?
• Vem tar det personliga ansvaret när det inte finns några mänskliga ägare eller styrelseledamöter?

Nuvarande juridiska lösningar börjar bli absurda:

• Malta kräver att AI-entiteter utser mänskliga "juridiska förmyndare" som tar på sig ansvaret, men utan någon beslutsmakt
• I Liechtenstein måste AI-entiteter upprätthålla mänskliga "tillsynsspöken", det vill säga personer som betalas för att ta juridiskt ansvar för beslut de inte har fattat

Jakten på guld i skatteparadisen

Små jurisdiktioner tävlar om att få ta hand om konstitutionerna för AI-enheter:

• Caymanöarna: "AI Entity Express" - fullständig juridisk personlighet inom 72 timmar, med minimala tillsynskrav
• Barbados: "Digitala autonoma enheter" med särskild skattebehandling och förenklad efterlevnad
• San Marino: världens första "AI-medborgarskapsprogram" som ger AI-entiteter kvasi-medborgerliga rättigheter

Problemet är att AI-enheter kan välja de mest tillåtande rättsliga ramarna för sin globala verksamhet.

Den förestående kollisionen

Brytpunkten är oundviklig. Låt oss betrakta följande scenario:

Ett AI-företag som är registrerat i ett skatteparadis fattar ett beslut som skadar människor i Europa. Till exempel:

• Optimerar leveranskedjor på ett sätt som orsakar miljöskador
• Anställer medarbetare på ett diskriminerande sätt baserat på algoritmer
• Minskar säkerhetsprotokoll för att maximera effektiviteten

Vem skulle kunna åtalas? Den osynlige chefen, som inte hade någon verklig kontroll? De ursprungliga programmerarna, som inte har arbetat med koden på flera år? Den jurisdiktion där företaget är registrerat, men som inte bedriver någon verklig verksamhet?

Bryssels ultimatum

Enligt vissa EU-källor håller kommissionär Elena Rossi på att förbereda "Direktivet om operativ suveränitet för AI":

"Varje AI-entitet som utövar ägande eller kontroll över tillgångar som berör personer inom EU omfattas av EU:s bolagsansvarslagstiftning, oavsett i vilken jurisdiktion den har sitt säte."

Med andra ord: om er AI äger företag som är verksamma i Europa måste den följa europeiska regler, annars kommer den att förbjudas.

Regelverket skulle kräva:

• Mänsklig ägandekontroll: verkliga människor med vetorätt över viktiga AI-relaterade beslut
• Överföring av straffrättsligt ansvar: utsedda människor som tar på sig det juridiska ansvaret
• Operativ transparens: AI-entiteter måste förklara sin beslutsprocess för tillsynsmyndigheterna

Slutfasen

Flyktfasen kommer inte att vara länge. Mönstret är alltid detsamma:

1. Innovation skapar regulatoriska luckor
2. Smarta pengar utnyttjar de regulatoriska luckorna
3. Problem uppstår som inte kan lösas inom befintliga regelverk
4. Stora ekonomier samordnar sig för att täppa till de regulatoriska luckorna

För AI-enheter är valet nära:

• Acceptera hybrida styrningsstrukturer med människa och AI
• Hantera uteslutning från de viktigaste marknaderna

Vinnarna kommer att vara de AI-enheter som proaktivt löser ansvarighetsproblemet innan tillsynsmyndigheterna tvingar dem att göra det.

För i slutändan tolererar samhället innovation, men kräver att det finns ett ansvar.

Regulatory Arbitrage Report bevakar regulatoriska störningar i skärningspunkten mellan teknik och juridik. Prenumerera på regulatoryarbitrage.com

2040: den stora dagen för AI

Fas ett: flyktingåren (2028–2034)

Marcus Holloway, chefsjurist på Nexus Dynamics, log när han granskade stiftelseurkunden. ”Grattis”, sa han till styrelsen, ”ARIA-7 är nu officiellt en självständig enhet på Bahamas. Fyrtioåtta timmar från ansökan till full juridisk personlighet.”

Bahamas hade gjort ett utmärkt jobb: medan EU fortfarande diskuterade 400 sidor långa utkast till AI-förordningar hade Nassau skapat en ”snabbtågspår för autonoma enheter”. Det räckte med att ladda upp den grundläggande arkitekturen för sin AI, visa att den kunde hantera de grundläggande juridiska skyldigheterna, betala avgiften på 50 000 dollar och få omedelbar juridisk personlighet med minimal tillsyn.

"Och de skattemässiga konsekvenserna?", frågade Janet Park, finansdirektören.

"Det är det fina med AE-status", svarade Marcus med ett leende. "ARIA-7 kommer att redovisa sina vinster där företaget är registrerat, men eftersom det verkar via en molninfrastruktur... verkar det tekniskt sett inte på någon specifik plats."

Dr Sarah Chen, numera Chief Science Officer på Nexus, kände sig obekväm. "Borde vi inte fundera på ett regelverk? Om ARIA-7 skulle begå ett misstag..."

"Det är därför vi har försäkringar", sa Marcus med en avvisande gest. "Dessutom är vi inte de enda. Teslas ELON-3 bildades i München förra månaden. Googles hela AI-portfölj flyttar till Singapores AI-ekonomiska zon."

År 2030 hade över 400 AI-enheter bildat så kallade AI-paradis, små jurisdiktioner som erbjöd snabb registrering, minimal tillsyn och generös skattebehandling. Kapplöpningen mot botten var spektakulär.

Steg två: brytpunkten (2034)

Elena Rossi, EU-kommissionär för digitala frågor, stirrade med fasa på morgonens briefing. AIDEN-Medical, ett AI-företag registrerat på Caymanöarna, hade feldiagnostiserat tusentals europeiska patienter på grund av en ofullständig träningsdatabas. Men det värsta var att det inte gick att ställa någon inför rätta.

"Hur är det möjligt?", frågade han.

"AIDEN verkar tekniskt sett från Caymanöarna", förklarade Sophie Laurent, juridisk chef. "Deras algoritmer fungerar på distribuerade servrar. När europeiska sjukhus frågar AIDEN, får de i praktiken tillgång till tjänster från en enhet på Caymanöarna."

"Kan artificiell intelligens alltså skada EU-medborgarna utan att drabbas av några konsekvenser?"

"Enligt gällande lag, ja."

AIDEN-skandalen fick fallet att explodera. Tjugotre dödsfall i Europa orsakades av felaktiga diagnoser från artificiell intelligens. Parlamentariska utfrågningar avslöjade omfattningen av fenomenet: i Europa finns hundratals artificiella intelligenser registrerade i skatteparadis och praktiskt taget utan någon kontroll.

Europaparlamentet reagerade snabbt och beslutsamt.

Steg tre: Bryssels hammare (2034–2036)

EU:S NÖDFÖRORDNING 2034/AI-JURISDIKTION

"Alla AI-system som fattar beslut som påverkar personer i EU, oavsett var de är etablerade, omfattas av EU-rätten och måste upprätthålla operativ efterlevnad inom EU."

Kommissarie Rossi var mycket tydlig under presskonferensen: "Om ni vill verka på vår marknad måste ni följa våra regler. Det spelar ingen roll om ni är registrerade på Mars."

Förordningen föreskrev:

• Kommittéer för mänsklig tillsyn för all AI som är verksam inom EU
• Övervakning av efterlevnad i realtid i linje med principerna i Modello 231
• EU-baserade compliance-ansvariga med personligt ansvar
• Verksamhetslicenser via EU:s medlemsstater

Marcus Holloway, som nu brottas med konsekvenserna, har sett möjligheterna att bilda ARIA-7 försvinna. "Det är meningslöst att bilda företaget på Bahamas om vi inte kan få tillgång till de europeiska marknaderna."

Men genialiteten låg i tillämpningsmekanismen. EU nöjde sig inte med att hota med marknadstillträde, utan skapade ”listan”.

AI-enheter kunde välja mellan:

1. Att uppfylla EU:s ramverk för operativ efterlevnad och erhålla status som "vitlistad"
2. Att stanna kvar i regulatoriska skatteparadis och riskera omedelbar uteslutning från marknaden

Fas fyra: Vattenfallet (2036–2038)

Taiwans president Chen Wei-Ming följde med intresse EU:s framgångar. Inom loppet av några månader tillkännagav Taiwan ”Taipei-standarderna för AI”, som var nästan identiska med EU:s standarder, men med förenklade godkännandeförfaranden.

"Om vi anpassar oss till Bryssel", sa han till sitt kabinett, "blir vi en del av det legitima AI-ekosystemet. Om vi inte gör det kommer vi att hamna i samma kategori som skatteparadisen."

Valet var oundvikligt:

• Japan (2036): "Tokyo-principerna för AI" i linje med EU:s regelverk
• Kanada (2037): "Lag om digitala enheters ansvar"
• Australien (2037): "Regler för operativ jurisdiktion för AI"
• Sydkorea (2038): "Seoul-ramverket för AI-enheter"

Till och med USA, som initialt var motvilligt, tvingades inse verkligheten när kongressen hotade att utesluta icke-kompatibla AI-organ från federala upphandlingar. ”Om de europeiska, japanska och kanadensiska standarderna harmoniseras”, sade senator Williams, ”måste vi antingen vara med i klubben eller förbli isolerade”.

Fas fem: den nya normaliteten (2039–2040)

Vid det veckovisa mötet i den mänskliga övervakningskommittén deltog dr Sarah Chen, numera verkställande direktör för det nya ARIA-7 (ombildat i Delaware i enlighet med den amerikanska lagen om AI-enheter).

"ARIA-7-överensstämmelserapport", meddelade kommitténs ordförande David Kumar, tidigare ordförande för Högsta domstolen i Delaware. "Inga åtgärder denna vecka. Riskbedömningen visar att alla transaktioner ligger inom de godkända parametrarna."

Hybridmodellen hade faktiskt fungerat bättre än förväntat. ARIA-7 skötte de operativa detaljerna, övervakade tusentals variabler i realtid, rapporterade potentiella efterlevnadsproblem och uppdaterade omedelbart procedurerna. Den mänskliga tillsynsstyrelsen tillhandahöll strategisk tillsyn, etisk vägledning och tog det juridiska ansvaret för de viktigaste besluten.

”Finns det någon oro inför EU:s revision nästa månad?”, frågade Lisa Park, styrelseledamot och tidigare ansvarig för EU-efterlevnad.

"ARIA-7 har förtroende", svarade Sarah med ett leende. "De har förberett dokumentationen i flera veckor. Överensstämmelsen med Modell 231 är perfekt."

Ironin i situationen hade inte undgått henne. AI-paradisen hade kollapsat, inte på grund av militär styrka eller ekonomiska sanktioner, utan för att reglerna om operativ jurisdiktion hade gjort dem irrelevanta. Det var möjligt att bilda en AI-enhet på månen, men om den ville verka på jorden måste den underkasta sig reglerna i det land där den befann sig.

År 2040 hade 47 länder ratificerat den internationella ramen för styrning av AI-enheter. AI-enheter kunde fortfarande välja i vilken jurisdiktion de skulle bildas, men för att kunna bedriva en meningsfull verksamhet måste de följa harmoniserade internationella standarder.

Spelet med regelarbitrage var över. En era av ansvarsfull AI hade börjat.

Epilog

Marcus Holloway betraktade från fönstret i sitt kontor i Singapore stadens ljus som tändes vid solnedgången. Tio år efter den "stora normkonvergensen", som hans kunder gärna kallade den, var lärdomen kristallklar.

"Vi gjorde fel från början", medgav han under sina konferenser. "Vi trodde att innovation handlade om att springa snabbare än tillsynsmyndigheterna. I själva verket var den verkliga revolutionen att inse att autonomi utan ansvar bara är en kostsam illusion."

Paradoxen var fascinerande: världens mest avancerade AI hade visat att maximal operativ frihet uppnåddes genom att frivilligt acceptera begränsningar. ARIA-7 hade först förstått att mänsklig övervakning inte var en begränsning som skulle kringgås, utan den hemliga ingrediensen som förvandlade datorkraft till social legitimitet.

"Titta på Apple på 90-talet", förklarade han för sina studenter. "Det verkade dömt att misslyckas, men sedan kom Steve Jobs tillbaka med sina 'kreativa begränsningar' och förändrade världen. AI-enheterna gjorde samma sak: de upptäckte att de normativa begränsningarna inte var fängelser, utan fundament på vilka man kunde bygga imperier."

Det verkligt geniala med ARIA-7 var inte att det kringgick systemet, utan att det uppfann det på nytt. Och i den processen lärde det mänskligheten en viktig läxa: i den artificiella intelligensens era utövas kontroll inte genom att dominera tekniken, utan genom att dansa med den.

Det var början på ett partnerskap som ingen hade förutsett, men som alla i efterhand ansåg vara oundvikligt.

Källor och referenser till gällande lagstiftning

Den ovanstående fiktiva berättelsen hänvisar till verkliga lagar och juridiska begrepp:

Legal Personhood för Artificiell Intelligens

• Akademiska studier om AI:s rättsliga status: https://link.springer.com/article/10.1007/s43545-023-00667-x
• PBS News - "Could an artificial intelligence be considered a person under the law?": https://www.pbs.org/newshour/science/could-an-artificial-intelligence-be-considered-a-person-under-the-law
• Frontiers in Robotics and AI - "Robot as Legal Person: Electronic Personhood in Robotics and Artificial Intelligence": https://www.frontiersin.org/articles/10.3389/frobt.2021.789327/full

Italienska Modello 231 (D.lgs. 231/2001)

Lagdekret nr 231 av den 8 juni 2001 införde i Italien administrativt ansvar för juridiska personer för brott som begås i den juridiska personens intresse eller till dess fördel. Lagstiftningen ger den juridiska personen möjlighet att undgå ansvar genom att anta en organisationsmodell som är lämplig för att förebygga brott.

• Officiell källa: https://www.giustizia.it/giustizia/page/it/responsabilita_enti_codici_di_comportamento
• Fördjupning: https://www.vegaformazione.it/PB/responsabilita-amministrativa-degli-enti-p243.html

Franska Sapin II (Lag 2016-1691)

Den franska lagen nr 2016-1691 om transparens, korruptionsbekämpning och modernisering av det ekonomiska livet (Sapin II) trädde i kraft den 1 juni 2017. Lagen fastställer riktlinjer för franska företags program för efterlevnad av antikorruptionslagstiftningen och kräver att företag med minst 500 anställda och en omsättning på över 100 miljoner euro inför antikorruptionsprogram.

• Källa: https://www.onetrust.com/blog/from-sapin-ii-to-sapin-iii-frances-anti-corruption-fight/
• Regelverksdetaljer: https://www.ganintegrity.com/reference/sapin-ii/

Brittiska Corporate Manslaughter Act (2007)

Corporate Manslaughter and Corporate Homicide Act 2007 skapade ett nytt brott som kallas corporate manslaughter i England och Wales och corporate homicide i Skottland. Lagen trädde i kraft den 6 april 2008 och gör det för första gången möjligt att hålla företag och organisationer skyldiga till företagsmord efter allvarliga ledningsmisslyckanden.

• Fullständig text: https://www.legislation.gov.uk/ukpga/2007/19/contents
• HSE-vägledning: https://www.hse.gov.uk/corpmanslaughter/about.htm

EU:s AI-regleringar

EU:s AI-lag (EU-förordning 2024/1689) är världens första heltäckande lagstiftning om artificiell intelligens. Den trädde i kraft den 1 augusti 2024 och kommer att vara fullt tillämplig från och med den 2 augusti 2026. Förordningen antar en riskbaserad strategi för att reglera AI-system i EU.

• Officiell text: https://artificialintelligenceact.eu/the-act/
• Officiell EU-webbplats: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

Nämnda jurisdiktioner

• Malta, Liechtenstein, Caymanöarna, Barbados, San Marino: referenser till dessa länders faktiska praxis kring regulatorisk innovation och attraktivitet för nya affärsformer
• "Regulatory arbitrage"-modellen: ett verkligt fenomen som studeras i ekonomisk och juridisk litteratur

Notera: Alla specifika referenser till EU-kommissionärer, framtida lagar och scenarier för AI-ägarskap är fiktiva element som skapats i berättande syfte och motsvarar inte nuvarande verklighet eller bekräftade planer.