ODIA: Noi concepte în reglementarea IA cu Mircea Duțu

I. Evoluții conceptual-reglementare
1. Primul tratat internațional privind inteligența artificială
La 17 mai 2024 miniștrii de externe ai celor 46 de state membre ale Consiliului Europei (CE) au adoptat, în cadrul sesiunii anuale, la Strasbourg Convenția-cadru privind inteligența artificială și drepturile omului, democrația și statul de drept primul tratat internațional în materie. Deschisă semnării și țărilor non europene, convenția stabilește un cadru juridic comun la nivel mondial ce se aplică de-a lungul întregului ciclu de viață al sistemelor de IA, tratează riscurile pe care le pot prezenta acestea și promovează o inovație responsabilă. Ea adoptă o abordare fondată pe riscurile privind concepția, dezvoltarea, utilizarea și scoaterea din serviciu a sistemelor de IA, impunând un examen atent al tuturor consecințelor negative potențiale legate de utilizarea lor. Este vorba de un tratat internațional unic în genul său, care răspunde nevoii de a dispune de o normă de drept internațional menită să beneficieze de susținerea statelor de pe diferite continente, unite prin valori comune, și permite valorificarea beneficiilor inteligenței artificiale, reducând totodată riscurile pe care acestea le prezintă.

Convenția-cadru este fructul a doi ani de lucru intens al unui organism interguvernamental, Comitetul privind inteligența artificială (CAI), care a reunit spre redactarea proiectului documentului reprezentanți ai celor 46 de state membre ale CE, Uniunii Europene, ai 11 state nemembre (Argentina, Australia, Canada, Costa Rica, S.U.A., Israel, Japonia, Mexic, Peru, Vatican și Uruguay), precum și pe cei ai sectorului privat, ai societății civile și lumii universitare, care au intervenit în calitate de observatori.

| 1. Textul ne oferă un fel de codificare a problematicii date la nivelul dreptului internațional prin luarea în considerare a 6 instrumente de soft law, declarații, recomandări, principii directoare (printre care Recomandarea UNESCO privind etica inteligenței artificiale din 23 noiembrie 2021, sau cea adoptată de Consiliul OCDE la 22 mai 2019, prima normă interguvernamentală în materie) precum și a Regulamentului Uniunii Europene de stabilire a unor norme armonizate privind inteligența artificială (Legea privind IA din 21 mai 2024) și care se inspiră din elemente a trei declarații pertinente ale unor forumuri internaționale relevante, precum (G7). Obiectivul său prim, declarat în Preambul, e acela de a veghea ca potențialul tehnologiilor inteligenței artificiale să servească prosperității umane, bunăstării indivizilor și societății, spre a face lumea mai productivă, mai inovantă și mai sigură, să fie exploatate într-un mod responsabil care respectă, protejează și realizează valorile comune ale Părților, precum și drepturile omului, exigențele democrației și ale statului de drept.

| 2. Definiția unui sistem de inteligență artificială reținută la art. 2 din Convenția-cadru (se înțelege prin „sistem de inteligență artificială” un sistem automatizat care, pentru obiective explicite ori implicite, deduce, pornind de la datele introduse, cum să genereze rezultate precum previziuni, conținuturi, recomandări sau decizii ce pot influența mediile fizice sau virtuale. Diferitele sisteme de inteligență artificială ce prezintă „grade variabile de autonomie și de adaptabilitate după implementare”) este împrumutată din ultima definiție revizuită adoptată de OCDE la 8 noiembrie 2023, opțiune care corespunde nu numai exigențelor de acuratețe științifică cele mai adecvate contextului, ci și necesității favorizării și ameliorării cooperării internaționale în domeniu și a celei de a facilita eforturile vizând armonizarea guvernanței IA la nivel mondial, inclusiv a terminologiei pertinente, ceea ce permite aplicarea coerentă a diferitelor instrumente relative la inteligența artificială în cadrul sistemelor juridice naționale ale Părților. Ea reflectă o înțelegere largă a ceea ce sunt sistemele de IA, în special în opoziție cu alte tipuri de sisteme de programe mai simple, bazate pe reguli definite numai de persoane fizice spre a executa operațiuni în mod automat. Se vizează să se garanteze precizia și securitatea juridice, noțiunea rămânând, totodată, suficient de abstractă și flexibilă spre a se păstra valabilă în pofida dezvoltărilor tehnologice viitoare. Desigur, respectiva definiție trebuie să fie privită și în lumina altor dispoziții pertinente ale Convenției-cadru, care se referă (1) la sistemele susceptibile să aducă atingere drepturilor omului, democrației și statului de drept și (2) la abordări graduale și diferențiate (din art. 1) precum și la elementele contextuale ale diferitelor proceduri prevăzute de reglementarea respectivă (art. 4 și 5).

| 3. Tratatul se aplică utilizării sistemelor de IA de către autoritățile publice – inclusiv întreprinderile care acționează pe seama acestora – și de actorii privați. Se prevăd două moduri care permit părților să se conformeze principiilor și obligațiilor stipulate în cadrul reglementării sectorului privat: ele pot opta ca activitățile respective să fie direct supuse dispozițiilor convenției aplicabile ori, în caz contrar, să ia alte măsuri spre a se conforma dispozițiilor convenției, fără a deroga de la obligațiile lor internaționale în materie de protecție a drepturilor omului, democrației și statului de drept. Această abordare s-a impus din cauza disparităților existente între sistemele juridice din diferite țări, cu atât mai mult cu cât convenția se vrea una universală, chiar dacă e încheiată în cadru european. Documentul enunță exigențe de transparență și de control adaptate contextelor și riscurilor specifice, în special cele legate de identificarea conținuturilor generate de sistemele IA. Părțile vor trebui să adopte măsuri spre a identifica, evalua, preveni și atenua riscurile eventuale și a evalua necesitatea unui moratoriu, unei interdicții, ori a altor măsuri apropriate privind utilizarea sistemelor de IA atunci când această utilizare e susceptibilă a prezenta riscuri incompatibile cu normele relative la drepturile omului. Ele sunt ținute, de asemenea, să determine responsabilitățile și să stabilească obligația de a da socoteală în caz de impacturi negative, a veghea ca sistemele de IA să respecte egalitatea, inclusiv cea de gen, să garanteze interdicția discriminării și protecția vieții private. În plus, părțile la tratat vor trebui să aibă în vedere ca victimele violării drepturilor omului în cadrul utilizării sistemelor de IA să dispună de căi de acțiune (recurs) și să beneficieze de garanții procedurale adecvate. Persoanele care interacționează cu un atare sistem se impune a fi informate în mod special de aceasta. Referitor la riscurile pentru democrație, se cere ca părțile să adopte măsuri pentru a veghea ca respectivele sisteme de IA să nu fie utilizate spre a aduce atingere instituțiilor și proceselor democratice, în special principiilor separației puterilor, independenței justiției și accesului la justiție.

| 4. În privința protecției drepturilor omului în raport cu implicațiile activităților desfășurate în cadrul ciclului de viață al sistemelor de inteligență artificială, prima obligație a statelor constă în a veghea ca dreptul lor intern să fie conform obligațiilor lor juridice internaționale, în frunte cu cea de a respecta, proteja și aplica drepturile fundamentale. Desigur, ele sunt libere să aleagă mijloacele de punere în operă a respectivelor îndatoriri, cu condiția ca reglementările să fie conforme acestora. E vorba de o obligație de rezultat, și în această privință principiul subsidiarității e esențial întrucât conferă Părților responsabilitatea primă de a asigura respectarea drepturilor omului și a prevedea căi de acțiune (recurs) în caz de nerespectare a lor.

În cadrul lucrărilor pregătitoare documentului au fost listate 8 instrumente ale ONU, 10 încheiate în cadrul CE și UE și alte 7 adoptate în diverse contexte regionale la care diferite state au negociat Convenția-cadru. Articolul 4 face referire și la protecția drepturilor omului aparținând sistemului juridic intern al fiecărei părți; e vorba, în general, de norme și reguli constituționale și subordonate acestora, precum și de mecanisme de control și de aplicare pertinente. Redactorii au dorit să precizeze că referința la dreptul național nu este destinată să servească drept excepție de la îndatoririle Părților de a se conforma la obligațiilor lor în materie de drept internațional. În acest context, obligația generală enunțată în art. 4 al Convenției-cadru reclamă ca Părțile să considere ca minime obligațiile lor, cadrele și mecanismele existente în materie de drepturile omului în cadrul sistemului juridic intern și perceperii lor conform abordării preconizate și afirmate de noul tratat.

| 5. O atenție deosebită este acordată asigurării integrității proceselor democratice și respectării exigențelor statului de drept (art. 5). Dacă tehnologiile de inteligență artificială posedă un potențial semnificativ pentru a întări valorile și instituțiile democratice, îngrijorările utilizării lor sunt, de asemenea, importante și sunt asociate cu precădere democrațiilor și procesului electoral. Aplicațiile recente introduse de această tehnologie emergentă ar putea genera numeroase amenințări pentru democrație și drepturile omului, servind la fragmentarea sferei politice, deteriorarea participării civice și degradarea încrederii în democrație. Prevederile art. 5 doresc să atragă atenția asupra contextelor sensibile ale aspectelor instituționale pertinente și să stabilească obligațiile ce revin statelor din această perspectivă. În sensul acestui deziderat, Părțile pot și trebuie, de exemplu, să ia în considerare riscurile pe care sistemele de IA le prezintă pentru: a) principiul separației puterilor (legislativă, executivă, judiciară); b) un sistem eficace de echilibru al celor trei puteri, inclusiv controlul eficient al celei executive; c) eventual o repartiție echilibrată a puterilor între diferitele niveluri de guvernanță (separarea verticală a puterilor); d) pluralismul politic (asigurat, în mare parte, prin protecția drepturilor omului, al căror respect e esențial pentru o democrație autentică, existența de media pluraliste și independente, precum și un evantai de partide politice); e) participarea la procesele democratice pe calea alegerilor libere și echitabile și o pluralitate de forme de participare civilă și politică semnificative; f) regula majorității politice asociate respectului dreptului minorității; g) respectarea principiului statului de drept (înglobând în general principiile legalității, securității juridice și interdicției arbitrariului) și principiul accesului la justiție și a bunei sale administrări și h) respectul principiului independenței justiției. În plus, integritatea democrației și procesele sale se întemeiază pe dispoziții relevante, a căror respectare se impune a fi avută în vedere.

| 6. Părțile la convenție nu vor fi ținute să aplice aceste dispozițiile la activitățile legate de protecția intereselor de securitate națională, dar vor trebui să vegheze ca activitățile aferente să fie desfășurate cu respectarea instituțiilor și proceselor democratice și a dreptului internațional. Convenția nu se va aplica chestiunilor de apărare națională și nici activităților de cercetare și dezvoltare, în afară de faptul dacă recurgerea la și utilizarea sistemelor de IA sunt susceptibile să interfereze cu drepturile omului, democrația și statul de drept. În scopul de a asigura aplicarea sa efectivă, tratatul stabilește un mecanism de urmărire sub forma unei conferințe a părților. Nu în ultimul rând, se cere ca părțile să stabilească un mecanism de control independent pentru a verifica respectarea sa și că sensibilizează publicul, animă și clarifică dezbaterea publică și întreprind consultații multipartite privind modul de a utiliza tehnologia de IA.

Convenția-cadru va fi deschisă semnării la Vilnius (Lituania) la 5 septembrie 2024 cu ocazia unei conferințe a miniștrilor justiției.

| 7. Adaptarea rapidă a unui atare prim tratat internațional multilateral, pornind de la un context instituțional continental, dar cu o deschidere universală (prin posibilitatea de a deveni părți pentru toate statele lumii) exprimă nu numai predispoziția normativă europeană, ci și faptul că dimensiunea revoluționară și provocările civilizaționale radicale generate de IA au nevoie de o guvernanță mondială, din care nu poate lipsi dreptul. Se pune astfel capăt unor idei vehiculate privind o pretinsă inaderență sau una scăzută a dreptului față de noua problematică, inadecvarea unei abordări generaliste a acesteia la nivelul dreptului internațional și favorabile unei mulțimi de instrumente aparținând mai degrabă dreptului derivat ori dreptului suplu. Este adevărat că, sub șocul anunțurilor evoluțiilor în domeniu, mai ales al celui apariției IA generative, într-o primă reacție s-a făcut apel la linii directoare, avize consultative, standarde etice, rezoluții și recomandări ș.a. în încercarea de instituire a unei guvernanțe în materie. Rolul și posibilitățile aferente acestora se reduceau însă mai ales la construirea unei culturi a inteligenței artificiale, cu destinația, deopotrivă, a actorilor publici și privați, structurarea unei înțelegeri în speranța unei acceptabilități sociale rapide și cât mai depline, și, nu în ultimul rând, în așteptarea clarificărilor necesare unor decizii adoptate și pe măsura mizelor aflate în joc. Deși inițiativele apărute la nivelul societății internaționale în domeniu vizau în mod esențial prospectiva, fiind destinate să determine impactul potențial ori dovedit al IA asupra activităților umane ori definirea „fezabilității” (termen răspândit în comunicarea organizațiilor internaționale), iar conferințele occidentale succesive mondiale (noiembrie 2023 din Marea Britanie, februarie 2024 din Belgia și în 2025 urmând Parisul) urmau să stabilească natura și formula de reglementare, iată că, la capătul doar a câtorva ani de negocieri CE reușește să ne ofere, fie și cu imperfecțiuni și limite, o reglementare generalistă de drept internațional, fondată pe norme europene în domeniul drepturilor omului, democrației și statului de drept. Alături și împreună cu IA Act, regulamentul UE din 21 mai 2024, Convenția-cadru din 17 mai același an marchează preluarea de către Europa a leadership-ului juridic și în materie de inteligență artificială. Totodată, recurgerea la un instrument de drept internațional se înscrie în „spiritul timpului”, aferent revirimentului suveranist care vede în controlul și securitatea datelor o miză esențială a suveranității economice a statelor și a Unității Europene. Într-adevăr, într-o societate în care se digitalizează iar utilizările aplicațiilor inteligenței artificiale tind a se generaliza resurgența pretențiilor de suveranitate tehnologică și economică datele, informația devin în secolul XXI ceea ce petrolul era în veacul al XX-lea, „anul invizibil” al dezvoltării și reclamă recurgerea la norma juridică spre reglementarea provocărilor pe care le implică.


2. Declarația universală a drepturilor spiritului uman
Elaborată și propusă de universitarul belgian Mark Hunyadi în 2024, aceasta ne propune o viziune inedită privind impactul revoluției digitale și al inteligenței artificiale asupra condiției umane și a răspunsului juridic cuvenit, din perspectiva drepturilor umane. Transformarea digitală fasonează și marchează fundamental întregul mediu de existență umană, așa încât eticile individualiste nu mai sunt suficiente spre a oferi o reglementare adecvată și cât mai deplină, ci se impune construirea uneia globale, care să ia în considerare devenirea – cibernetică a spiritului uman și interesele comune și solidare ale omenirii ca specie. Denunțând limitele de concepție și ineficiență și inadecvarea Declarației europene privind drepturile și principiile digitale pentru deceniul digital, din 2023, după modelul conceptual al Convenției privind dreptul mării din 1982 și în perspectiva rolului Declarației universale a drepturilor omului din 1948, M. Hunyadi propune declararea „spiritului uman” drept „patrimoniul comun al umanității”, recunoașterea calității sale de subiect de drepturi, cuprinse într-o panoplie care să reflecte unicitatea umană și să o apere structural și absolut de pericolele ofensivei artificialului și a pretențiilor sale de influență și capturare a dominației. El ar urma să fie reprezentat juridic și drepturile aferente exercitate în numele și pe seama lui de o Înaltă Autoritate Internațională „dedicată spiritului uman” .

O atare Declarație, garantată de o asemenea Înaltă Autoritate, ar reprezenta „o nouă etapă pe calea cuceririi condițiilor înfloririi umane”, permițând înainte de toate surmontarea fragmentării ce prevalează astăzi și pierde din vedere efectul global pe care tehnologiile spiritului ajung să-l exercite asupra condiției mentale a umanilor în general.

Preambulul documentului astfel propus, ni-l prezintă a fi proclamat solemn de „Noi, popoarele Terrei”, invocând „bogăția inestimabilă a spiritului uman...” și cu intenția „de a lucra în mod solidar la prezervarea și la promovarea integrității spiritului uman, patrimoniu comun al umanității”. Cele 8 articole constitutive sunt formulate în sensul unor principii-cerințe generale:

    – cea de a proteja, în ansamblul capacităților sale, spiritul uman, în mod intrinsec liber, inalienabil și universal, constituind fundamentul identității umane și al diversității culturale (art. 1);
    – prezervarea sa în special împotriva oricărei intruziuni vătămătoare, inclusiv cele ce rezultă din tehnologiile digitale, în scopul garantării intimității lui mentale; aceasta din urmă cere, de asemenea un acces echitabil la repaosul spiritului și la dreptul sau de a nu fi suprasolicitat (art. 2);
    – instituirea unei Autorități internaționale dedicate protecției spiritului uman, în scopul de a reglementa și a autoriza promovarea pe piață a tehnologiilor care afectează spiritul „în preocuparea de a promova o coabitare armonioasă a umanilor și tehnologiilor spiritului” (art. 3);
    – ghidarea tehnologiilor spiritului de principii etice, transparente și respectuoase drepturilor umane, garantându-se că, deopotrivă, de concepția, aplicarea și utilizarea lor beneficiază ansamblul omenirii, fără a cauza prejudicii; recunoașterea dreptului de a întreține relații reciproce cu lumea prin care spiritul se dezvoltă liber (art. 4);
    – accesul echitabil la resursele legate de spirit (art. 5);
    – încurajarea cercetării și inovării vizând ameliorarea înțelegerii spiritului uman (art. 6);
    – stabilirea de mecanisme de dare de seamă și de sancțiuni în caz de  abuz contra spiritului uman, garantându-se protecție și justiție pentru toți (art. 7);
    –  recunoașterea responsabilității comune de a proteja și prezerva spiritul uman și modelul său pentru generațiile prezente și viitoare (art. 8).

Dincolo de perspectiva filosofică mai evidentă și punerea în ecuația juridică ușor forțată, inițiativa în sine a unei atare Declarații și elemente de concepție și de conținut merită atenția analizei și chiar valorificarea ideatică corespunzătoare. Pe conținut se remarcă mai întâi ideea unei perceperi adecvate a radicalității transformărilor pe care le implică pentru condiția umană noua revoluție tehnologică promovată de digitalizare și inteligența artificială, odată cu stadiul său generator. Apoi e evidentă nevoia unei abordări generale, în spiritul solidarității de specie, cu un răspuns integrat, în care etica, drepturile omului și intervenția dreptului sunt considerate indispensabile. Opțiunea acordării personalității juridice pentru o entitate sui generis, identificată aici a fi spiritul uman în contrapunct evident cu perspectiva avansului agresiv al artificialității (neumane), cu pretenții de substituire, se înscrie în trendul mai general de a se recurge la o atare „ficțiune” juridică spre a găsi soluții de drept rapide, prin apelul la dreptul preexistent, la provocări urgente, fără corespondente și precedente teoretico-practice. Devenit subiect de drept spiritul uman poate intra într-o anumită concurență (juridică) cu inteligența artificială, beneficiară de propuneri în același sens de acordare a calității de titular de drepturi și chiar sub abordări formale de același gen. Desigur, rămâne de văzut, în același context, dacă și aspectul comparativ avut în vedere și recurgerea la noțiunea de patrimoniu comun al umanității, gestionat de o Înaltă Autoritate, nu s-ar preta și la extinderea și în privința IA și, în orice caz, dacă nu chiar ar fi fezabilă o apropriere a temelor și a celor două provocări până la convenirea unei ecuații de tratate într-o viziune interdependentă, deopotrivă sub aspect normativ și instituțional, sub guvernarea unui regim juridic comun, dar diferențiat aplicat.


II. Dileme concrete și dezbateri competente
Dilemele unei IA subiect de drept
| 1. Implicațiile (mizele) recunoașterii unei personalități juridice inteligenței artificiale sunt deosebite și amplificate de particularitățile ineditului subiect. Din punct de vedere strict tehnico-juridic aceasta ar însemna acordarea de drepturi și rezonanțe importante în privința responsabilității și responsabilizării deciziilor luate de ori prin intermediul aplicațiilor IA. Înainte de toate, pe această cale ea ar deveni responsabilă de actele sale precum orice altă persoană juridică, dar cu circumstanțele intrinseci unei atare ipostaze. Grosso modo, faptul ar însemna că întreprinderile care utilizează ineditele tehnologii vor fi responsabile de deciziile lor și vor putea să răspundă inclusiv pe calea justiției. În plus, programatorii care le creează ar putea fi ținuți și ei răspunzători pentru actele acesteia, întrucât au o influență considerabilă asupra deciziilor luate de IA, într-o formulă de solidaritate rămasă de definit. Dincolo de incertitudinile și vulnerabilitățile unei atare opțiuni, așa cum se întâmplă, prin forța lucrurilor, și mai ales în fața dilemelor IA, nu sunt de așteptat numai riscuri, ci și avantaje. Este vorba în această privință, printre altele, de a se permite o mai bună reglementare a utilizării IA și de a se proteja mai bine drepturile individuale; tot așa, întreprinderile care utilizează aplicațiile IA ar fi constrânse să garanteze că acestea respectă exigențele respectului drepturilor fundamentale, valorile democrației și ale statului de drept, iar deciziile aferente sunt juste și echitabile.

| 2. Inventarea, recunoașterea și practicarea ficțiunii personalității juridice, mai ales sub presiunea unor nevoi practice, au cunoscut de-a lungul istoriei de până acum diferite experiențe. Așa se face că mai întâi sub avântul primei revoluții industriale s-a recurs la crearea societății (comerciale) anonime (SA) care era chemată să protejeze riscurile asumate de investitori, putând să acționeze, în nume propriu, ca subiect de drept, în sensul încheierii de contracte, posedării de bunuri, acționării în justiție. Acordarea de personalitate juridică societăților anonime în cursul veacului al XIX-lea, mai precis începând cu 1855 în Anglia, a avut un important impact juridic, financiar și societal întrucât în acest mod se limita răspunderea acționarilor la cuantumul investit în societatea comercială și, în același timp, permitea acesteia să funcționeze în mod independent de viața și de interesele personale ale proprietarilor-acționarilor săi.

În ultimele decenii și astăzi, începând din S.U.A. și Australia și ajungând până în Europa, asistăm la fenomenul, de această dată sub impactul crizei ecologice și impulsului protecției naturii, al păstrării eșantioanelor sale reprezentative, acordării de drepturi unor entități naturale, considerate vii și deci protejate prin lege. Actul de a acorda personalitate juridică fluviilor, arborilor, lacurilor și altor spații naturale constituie o revoluție juridică și societală profundă, exprimând o schimbare fundamentală a raportării civilizaționale a omului la natură, o tranziție ecologică a mentalităților și grație unei dezvoltări susținute a dreptului mediului. Pe scena deschisă afirmării personalităților juridice își anunță pretenția, deocamdată teoretică, a recunoașterii unui atare și chiar fundamental statut inteligența artificială, în virtutea revoluției umane, societale rapide și radicale pe care o prezice și o poate implica.

| 3. Cu titlu preliminar, specialiștii problemei formulează câteva considerații de principiu. Prima, privește natura IA în sensul că inteligențele artificiale sunt creații umane și, spre deosebire de întreprinderi, ele nu dispun de voință, conștiință ori de sensibilitate intrinseci. Acestea nu fac altceva decât să execute sarcini bazate pe algoritmi și date, fără a avea o înțelegere reală a lumii. Faptul ar face dificilă acordarea de personalitate juridică similară indivizilor, colectivităților ori entităților naturale. Apoi, în materie de răspundere și responsabilizare, întrucât o cauză majoră a „inventării” ficțiunii juridice tradiționale a constituit-o stabilirea unei răspunderi separate, situația cu IA se complică și rezolvarea sa nu poate veni decât pe măsura intervenirii unor evoluții clarificatoare decisive. Dilema centrală, în acest sens, e aceea: în caz de prejudiciu cauzat de o inteligență artificială, cine va fi ținut răspunzător, creatorul tehnologiei, proprietarul aplicațiilor, fabricantul ori IA însăși? Nu în ultimul rând, funcția de protecție și exercitare a unor drepturi proprii se pune, de asemenea, într-o ecuație diferită. Inteligența artificială ca atare ar avea nevoie de a i se recunoaște calitatea de titular de drepturi așa încât acestea să îi fie proteguite ori spre protejarea intereselor umane? Se ridică, de asemenea, pentru început și preponderent, aspecte relevante privind drepturile de autor și drepturile de proprietate intelectuală asupra creațiilor IA, precum și considerații etice privind modul în care acestea interacționează cu ființele umane. După cum, în condițiile în care unele IA pot să ia decizii autonome în domenii specifice, precum conduita autonomă în autovehicule, intervin rezonanțele responsabilității în privința supervizării umane și a răspunderii în caz de incidente/accidente.

| 4. Dilema statutului IA de obiect sau subiect de drept prezintă, în mod evident, deopotrivă o dimensiune juridică, principală ca interes în acest demers și una filosofică, de fundal, care nu poate fi desprinsă de prima și care o nuanțează și o explică. Așadar, într-o formulare tranșantă, frontală se pune întrebarea: ar trebui să se acorde personalitate juridică anumitor roboți ori unor inteligențe artificiale? În continuarea și explicitarea sa se impune și cea al cărei răspuns e relevant pentru însăși rezolvarea în timp a problemei, dacă societatea e pregătită, inclusiv la nivelul mentalităților, iar tehnologia IA e suficient de avansată cu adevărat spre a se bucura de un atare inedit, inovant și complicat statut juridico-instituțional. Chiar dacă IA a ajuns a lua decizii autonome, faptul nu e suficient spre a i se acorda personalitate juridică; în acest scop se ia în calcul complexitatea deciziilor ce sunt luate de ea, influențate adesea de factori diverși, intersectați și mobili precum datele intrate, algoritmi promovați și obiective fixate de programatori.

Astfel cumulate, mirările existențiale au comportat soluții diferite, dacă nu chiar divergente. Sedus de noutatea provocării, Parlamentul European, într-o primă reacție exprimată prin Rezoluția conținând recomandări adresate Comisiei privind regulile de drept civil asupra roboticii, din 16 februarie 2017, a apreciat că instituirea, în cele din urmă, a unei „personalități juridice pentru roboți, cel puțin pentru cei autonomi, cei mai sofisticați care pot fi considerați ca persoane electronice responsabile, ținute să repare orice daună cauzată unui terț, ar fi de preconizat”, iar o asemenea personalitate electronică s-ar cuveni recunoscută tuturor roboților care iau decizii autonome ori care interacționează în mod independent cu terții (pct. 59.1). O propunere ce nu a fost însă una de succes, cel puțin la acest moment, din mai multe considerente. Primul invocat e de ordin tehnic; autonomia IA e foarte exagerată (cel puțin la acest moment); prezența umanului în utilizările sale se dovedește încă absolut necesară, IA reducându-se la stadiul de opinie umană încapsulată, supusă îndeplinirii unor sarcini și fără conștientizare a ceea ce face. Așa se face că ea nu poate să fie corporalizată spre a se desfășura, fiind lipsită de orice anvelopă fizică. În plus, forma sub care sunt exploatate inteligențele artificiale poate influența natura daunelor, dar nu a calificării sale. Nu întâmplător, în continuarea unei atare viziuni expresia „sistem de inteligență artificială” e preferată, consacrată de primele acte relevante de reglementare a materiei și folosită de autoritățile interguvernamentale, ceea ce induce ideea și trimite direct la statutul de obiect de drept.

O a doua cauză în favoarea unei atari poziționări ține de tehnica juridică și privește previzionarea, înainte de toate, de dificultățile de frontieră între IA aparținând lucrurilor și cea a persoanelor. Nu în ultimul rând, acordarea personalității juridice anumitor IA ar risca să bulverseze categoriile juridice existente, creând altele himerice, deopotrivă în privința raportării la reperele de obiect sau de subiect de drept. Desigur, nu există nicio îndoială că IA, într-o percepție clasică, este un obiect de drepturi, compus din elemente, corporale ori incorporale din care unele apropriabile pe calea dreptului de proprietate intelectuală. Ar rezulta deci o entitate hibridă, care ar îndeplini în mod cumulativ două calificări, ceea ce ar presupune rescrierea dreptului bunurilor și cel al drepturilor persoanelor. În fine, s-ar ridica problema atribuirii unei personalități juridice electronice care provoacă mai multe riscuri practice și dileme teoretice. În experiențele de până acum, unele drepturi umane au fost atribuite persoanelor juridice spre identificate (de exemplu dreptul la nume), altele în privința principiului specialității obiectului de activitate. Din această perspectivă, s-ar impune ca în viitorul apropiat și prin spectrul unor atari finalități, prin mimetismul drepturilor umane să atribuim IA un drept la viață privată, la existență? Nu s-ar ajunge astfel, aparent paradoxal, la deresponsabilizarea actorilor din lanțul responsabilizării IA, care, grație unei acordări a unei personalități juridice ar deveni direct responsabilă pentru daunele cauzate? O atare viziune realistă, tehnicist juridică în justificările sale, ar mai rămâne valabilă în situația transformărilor neașteptate, radicale și inovante pe care le indice revoluția IA? Întrebări rămase în așteptare de răspunsuri relevante.

^[1] M. Hunyadi, Déclaration universelle des droits de l’esprit humain. Une proposition, PUF, Paris, 2024.