ODIA- Pactul digital global (Global Digital Compact)

1. Pactul digital global (Global Digital Compact)

Noi măsuri ONU privind tehnologiile emergente

În fața oportunităților, dar mai ales a riscurilor generate de puterea tehnologiilor emergente, Adunarea Generală a ONU a adoptat la 22 septembrie 2024, Pactul digital global. Sunt stabilite principiile obiective și acțiunile generale care vor fi întreprinse pentru a asigura un viitor digital deschis și sigur, centrat pe ființa umană, aliniate cu Programele și Carta ONU.

            La 22 septembrie 2024, Adunarea Generală a ONU a adoptat, printr-o rezoluție, Pactul digital global (mondial) ca parte a Pactului pentru viitor, alături de Declarația privind generațiile viitoare.

            Obiectivul declarat al documentului este acela de a stabili un cadru mondial inclusiv pentru a putea desfășura o acțiune multipartită și a acoperi diferențele digitalului, datelor și inovației. El definește principii obiective și acțiuni generale vizând să promoveze un viitor digital deschis și sigur pentru întreaga lume, centrat pe ființa umană, ancorat în drepturile umane, universal și care permite atingerea obiectivelor dezvoltării durabile.

            Ca urmare a declarației politice adoptate cu ocazia celei de-a 75-a aniversare a Națiunilor Unite, în septembrie 2020, Secretarul general al ONU a publicat în septembrie 2021 raportul său Programul Nostru Comun. Agenda propusă în acest context cuprindea convenirea unui atare document, în cadrul Summit-ului viitorului din septembrie 2024 prin intermediul unei piste tehnice care să implice toate părțile interesate: guvernele, sistemul ONU, sectorul privat (inclusiv întreprinderile tehnologice), societatea civilă, mediul universitar și indivizii, inclusiv tinerii. Documentele pregătitoare sugerau problemele relevante ale demersului în special conectivitatea digitală, prevenirea fragmentării internetului, oferirea de opțiuni cetățenilor în privința modului în care sunt utilizate datele lor, aplicarea drepturilor omului on-line și promovarea unui internet demn de încredere introducându-se criterii de responsabilitate pentru discriminare și conținut înșelător.

            Pactul pornește de la constatarea că puterea tehnologiilor emergente și viteza cu care acestea se dezvoltă deschid noi posibilități umanității, generând în același timp și riscuri din care unele nu sunt pe deplin cunoscute, fapt pentru care e important de a le limita și atenua și a supune tehnologiile unui control uman așa încât să favorizeze dezvoltarea durabilă și exercitarea plenară a drepturilor omului.

            Ca baze juridice ale cooperării internaționale pertinente sunt indicate: dreptul internațional și, în special, Carta ONU, dreptul internațional al drepturilor omului și Programul dezvoltării durabile la orizontul 2030; se menționează și rezultatele Summit-ului mondial privind societatea informației consemnate în Declarația de principii și Planul de acțiune de la Geneva, precum și în Agenda de la Tunis pentru societatea informatică.

            Pentru atingerea scopului său, Pactul fixează mai întâi cinci obiective generale, respectiv: reducerea tuturor fracturilor digitale și avansarea mai rapidă în aplicarea obiectivelor dezvoltării durabile; a face economia digitală mai inclusivă și așa încât ca de avantajele sale să profite toți; favorizarea unui spațiu digital inclusiv, deschis, sigur și securizat, care să respecte, protejeze și promoveze drepturile umane; promovarea modelelor de guvernanță a datelor care să fie responsabile, echitabile și interoperabile și întărirea guvernanței internaționale a inteligenței artificiale pentru binele umanității.

            În viziunea documentului onusian cooperarea digitală astfel preconizată ar trebui ghidată de scopurile și principiile Cartei ONU și următoarele „principii generale și complementare”:

            – participarea deplină a tuturor statelor și a celorlalte părți interesate la o cooperare menită să reducă fracturile digitale în cadrul statelor și între acestea și să favorizeze un mediu digital echitabil pentru toți;

            – prioritatea dezvoltării și ancorării în Programul ONU 2030;

            – ancorarea Pactului în dreptul internațional și, în special, în dreptul internațional al drepturilor omului; toate drepturile umane și cu precădere cele civile, politice, economice, sociale și culturale și toate libertățile fundamentale trebuie să fie respectate, protejate și promovate on-line și off-line;

            – egalitatea de genuri și autonomizarea tuturor femeilor și fetelor, precum și participarea lor deplină, egală și reală la spațiul digital;

            – punerea tehnologiilor digitale în serviciul durabilității și minimalizarea efectelor lor negative asupra mediului;

            – repartizarea echitabilă a rezultatelor cooperării digitale, fără a agrava inegalitățile existente și fără a împiedica realizarea dezvoltării durabile;

            – asigurarea accesului tuturor la digital și favorizarea diversității lingvistice și culturale în spațiul digital;

            – permiterea progresării interoperabilității sistemelor digitale și a compatibilității modelelor de guvernanță;

            – favorizarea unei abordări responsabile, transparente și antropocentrice a ciclului de viață al tehnologiilor digitale și emergente, însoțite de obligația de a da seamă și a prevedea un veritabil control uman, în toate etapele: preconcepție, concepție, dezvoltare, evaluare, încercare, desfășurare, utilizare, vânzare, cumpărare, exploatare ș.a.;

            – favorizarea inovării prin digitalizare;

            – promovarea unei cooperări multipartite și mobilizarea contribuțiilor tuturor;

            – acordarea unui ajutor specific în domeniu țărilor în curs de dezvoltare;

            – orientată spre viitor, cooperarea trebuie să fie capabilă să identifice, anticipeze și evalueze tehnologiile emergente, de a le urmări și a se adapta în scopul perceperii și limitării riscurilor pe care le presupune.

            Spre atingerea acestor obiective se impun acțiuni concrete și măsurabile, conform următoarelor obiective:

            1. reducerea tuturor fracturilor digitale și avansarea mai rapidă în aplicarea obiectivelor dezvoltării durabile;

            2. a face economia digitală mai inclusivă și așa încât de avantajele sale să beneficieze toți;

            3. favorizarea unui spațiu digital inclusiv, deschis, sigur și securizat, care respectă, protejează și promovează drepturile umane;

            4. promovarea modelelor de guvernanță a datelor care să fie responsabile, echitabile și interoperabile;

            5. întărirea guvernanței internaționale a inteligenței artificiale pentru binele umanității.

            În această ultimă privință se consideră că guvernanța IA trebuie să fie echilibrată, inclusivă și fondată pe riscuri, impunându-se a se asigura reprezentarea deplină și egală a tuturor țărilor, în special cea a statelor în curs de dezvoltare și veritabila participare a tuturor părților interesate. Cooperarea internațională e considerată ca indispensabilă pentru a armoniza și a face compatibile dispozitivele de guvernanță ale inteligenței artificiale în curs de dezvoltare. Atenuarea riscurilor pe care le ridică presupune luarea în considerare a dreptului internațional, în special a dreptului internațional al drepturilor omului, precum și alte instrumente aplicabile în domeniu, precum Recomandarea UNESCO din 2021 privind etica inteligenței artificiale.

            O temă prioritară e considerată în acest context cea referitoare la reglementarea adecvată a inteligențelor artificiale. Denunțându-se lipsa de coordonare, colaborare și de guvernanță la nivel internațional în domeniu, se relevă o serie de chestiuni în privința cărora ar trebui să se intervină reglementar urgent, precum, de exemplu, recomandarea ca problemele „de viață și de moarte nu trebuie delegate mașinilor”, ce se înscrie în perspectiva imperativului unei interdicții universale a sistemelor de arme letale autonome. Chiar dacă în ultimii ani au fost lansate mai multe inițiative în acest sens, rămân de depășit cel puțin trei mari dificultăți: lipsa de reprezentare și inechitățile manifestate în discuțiile desfășurate la nivel mondial din partea țărilor în curs de dezvoltare, necoordonarea pe ansamblu a inițiativelor aferente spre a le face suficient de accesibile altor state, entități și ONU și necesitatea unui supliment al capacității de reprezentare care să permită sectorului public să intervină în domeniu și să asigure o guvernanță adecvată.

2. Franța: Crearea Comitetului consultativ național de etică a digitalului

Etica digitalului: evoluții

Noi surse de etică digitală apar în Franța, preocupată de crearea unui spațiu în care experții pot reflecta asupra dreptului de mâine, elaborând anteproiecte de legi în atenția unui legislator adesea prea puțin aplecat asupra și interesat de cunoașterea resorturilor și implicațiilor subiectelor științifice și tehnologice de ultimă oră. Comitetul Consultativ Național de Etică a Digitalului (CCNED), creat în 2019, a fost permanentizat printr-un decret recent, având ca atribuție emiterea de avize și recomandări în acest domeniu.

Printr-un recent decret, în Franța a fost permanentizat, pe lângă prim-ministrul guvernului, Comitetul Consultativ Național de Etică a Digitalului (CCNED), creat în 2019 pentru o perioadă de 5 ani, ca structură administrativă cu caracter consultativ, având ca atribuție emiterea de avize asupra „chestiunilor de etică ridicate de avansurile științei, tehnologiilor, folosințelor și inovațiilor, în domeniul digitalului și a potențialelor lor impacturi, în special sociale, economice, de mediu ori educative”. Pentru aceasta, el are ca misiune formularea de recomandări sau avize destinate autorităților publice pentru promovarea dezvoltării unei „etici a digitalului”, să inițieze și să organizeze evenimente publice, dezbateri ori ateliere de sensibilizare asupra problematicilor relative la respectivul subiect și de a contribui la reflecțiile internaționale în domeniu.

1. „Inteligența artificială va fi etică sau nu va fi” este deviza, după o parafrazare a unei sintagme celebre a lui A. Malraux, care însoțește dezvoltarea acesteia. Dar inițiativele de a trasa un cadru de această natură, ca de altfel și a unuia de ordin juridic, sunt numeroase și uneori contradictorii. De cele mai multe ori, etica e utilizată în acest domeniu ca o categorie generică, una care regrupează toate principiile chemate să inspire acțiunile și un drept în sensul ars boni et aequi, evitându-se a fi exprimată în texte riguros redactate și general acceptate.

În acest context, Comisia Europeană, prin intermediul unui document elaborat de un grup de experți independenți privind inteligența artificială, și publicat în 2019, a ținut să precizeze că etica ar fi un sub-câmp al filosofiei care „cuprinde patru principale domenii de cercetare: 1) meta-etica, privitor în special la semnificația și la referința unui enunț normativ și la chestiunea de a ști cum valorile lor de adevăr pot să fie determinate (eventual); 2) etica normativă, respectiv mijloacele practice de a determina o conduită morală, examinând normele aplicabile acțiunilor întreprinse și atribuindu-se o valoare demersurilor specifice; 3) etica descriptivă, vizând o analiză empirică a comportamentelor morale și credințelor de aceeași natură ale persoanelor; 4) etica aplicată, ce vizează ceea ce noi suntem obligați (ori autorizați) a face într-o situație specifică (adesea o premieră) ori într-un domeniu particular de posibilități de acțiune (de multe ori fără precedent). Și cu precizarea că se cuvine a distinge etica teoretică de cea aplicată, care «tratează situații reale în care deciziile trebuie să fie luate» în termene limitate și adesea cu puțină raționalitate”.

Etica în materie de IA e, în general, considerată ca un exemplu de etică aplicată; ea se concentrează pe problemele normative ridicate de concepția, punerea la punct, aplicarea și utilizarea inteligenței artificiale. În Franța, o altă folosire a noțiunii de etică s-a dezvoltat în practica instituțiilor publice, după crearea în 1983 a Comitetului Consultativ Național de Etică pentru științele vieții și sănătate (CCNE). În acest cadru etica e spațiul în cadrul căruia experții reflectă asupra dreptului de mâine, elaborând anteproiecte de legi în atenția unui legislator adesea prea puțin aplecat asupra și interesat de cunoașterea resorturilor și implicațiilor subiectelor științifice și tehnologice de ultimă oră. În atari situații, etica se hrănește, înainte de toate, din umanism și are vocația de a permite o dezvoltare durabilă, inclusiv din punct de vedere social și uman, precum și o bună aplicare a principiului precauției. În acest context a devenit la modă constituirea de „comitete de etică”, consultate prin avize și care produc rapoarte pentru fundamentarea poziționărilor publice.

Într-o situație marcată de rapide avansuri tehnologice și de puternice incertitudini privind atitudinea pe care colectivitatea trebuie să o adopte față de acestea, etica trebuie să fie ghidul, dar mulți se întreabă: atunci cine trebuie să fie reperul de etică?

2.Dacă etica desemnează „reflecțiile relative la conduitele umane și la valorile care le fondează, desfășurate în vederea stabilirii unei doctrine, a unei științe a moralei” (Dictionnaire de l’Académie française), aplicată la digital ea înseamnă a medita în privința conduitelor umane și a valorilor în mediul lor digital. Crearea respectivului Comitet reafirmă această nevoie de etică. Cele nouă avize emise între 2020 și 2024 în perioada funcționării sale cu caracter experimental reflectă o atare situație.

Astfel, referitor la Chatbots, CNCNED a promovat integrarea valorilor umane în procesul lor de concepție, de transparență a finalităților ori a explicabilității comportamentelor lor (avizul nr. 3 din 15 septembrie 2021). În privința sistemelor de inteligență artificială generativă, s-a evidențiat, de exemplu, necesitatea menținerii distincțiilor între om și mașină, atunci când e vorba de producție, dar și de necesitatea de a se proceda la studii prealabile înainte de utilizare lor în educație (avizul nr. 7din 30 iunie 2023). Alte avize au fost consacrate vehiculelor autonome (avizul nr. 2 din 7 aprilie 2021), retroactivității schimbării numelui în documentele științifice digitale (avizul nr. 6 din 26 iunie 2023), tehnologiilor de recunoaștere facială, posturale și comportamentale (avizul nr. 8 din 20 noiembrie 2023) și eticii Metavers-ului (avizul nr. 9 din 29 februarie 2024), în timp ce buletine de observare au fost publicate cu ocazia crizei sanitare pandemice. Unele avize au fost date împreună cu Comitetul național de etică pentru științele vieții și sănătate, precum cel consacrat platformelor de date privind sănătatea, abordându-se în special mizele etice ale consimțământului persoanelor ori ale suveranității acestora (avizul nr. 5 din 16 februarie 2023) și cel relativ la diagnosticul medical și inteligența artificială (avizul nr. 4 din 24 noiembrie 2022). Și cu mare probabilitate o atare practică va dura.

3.Multiplicarea surselor de etică digitală reprezintă o realitate în Franța și în alte state. Este vorba, de exemplu, tot în Hexagon, de lucrările Consiliului național al digitalului care are ca obiect de activitate „a studia chestiunile relative la digital și în special mizele și perspectivele tranziției digitale a societății, a economiei, a organizațiilor, autorităților publice și a teritoriilor” și de a formula avize și recomandări. Acesta a consacrat, în acest context, un raport Metavers-ului, în urma unei misiuni exploratorii privind aspectele sale economice, tehnologice dar și etice. Și acesta e menit, la rândul său, să desfășoare o misiune de „reflecție etică”, în acest sens întreprinzând o serie de lucrări privind „mizele etice ale algoritmilor și inteligenței artificiale” (decizia din 2017). Dacă toate aceste lucrări și documente sunt esențiale pentru a ghida opțiunile de politică publică și pot să fie surse de bune practici în sectorul privat, specialiștii domeniului și-au pus problema dacă nu cumva Comitetul consultativ național de etică a digitalului francez nu are vocația de a i se încredința rolul de coordonare a reflecției în această materie (Thibault Donville, Création du Comite consultatif national d’éthique du numérique, „Recueil Dalloz” nr. 35, 10 octombrie 2024). Mai mult decât atât, chiar una manifestată la scară europeană. Această din urmă propunere reprezintă și un ecou la chemarea Parlamentului European de a se stabili principiile etice care să ghideze Uniunea Europeană în materie de tranziție digitală, înainte ca aceasta să fi adoptat Declarația europeană privind drepturile și principiile digitale pentru deceniul digitalului (2023). Pot fi evocate, de asemenea, lucrările Consiliului Europei în cadrul căruia a fost adoptat, în decembrie 2018, primul text european ce enunță principiile etice relative la utilizarea inteligenței artificiale în sistemele judiciare.

În orice caz, etica are vocația să genereze încrederea actorilor și utilizatorilor de tehnologii aferente IA. În plus, etica acesteia implică o dificilă căutare de echilibru: e vorba, în acest sens, de a proteja oamenii (datele lor personale, autonomia, sănătatea, bunăstarea fizică și mentală), în raport cu producția și competitivitatea întreprinderilor. Susținerea actorilor economici și, totodată, protejarea consumatorilor reprezintă ecuația unei abordări originale și absolut necesare a eticii.

3. Baroul din Paris oferă aplicații IA membrilor săi

AI revoluționează practica Baroului din Paris

Decanul Baroului din Paris, Pierre Hoffman, promotor al digitalului și inteligenței artificiale în campania de alegere a sa în fruntea avocaților din Paris, conștientizând importanța noilor tehnologii pentru această profesie, declară: „Mai degrabă decât a face colocvii cu 300 de persoane privind inteligența artificială, mai bine ajutăm concret 14.000 avocați”.

Această declarație este generată de realitatea profesiei de avocat supusă unei presiuni concurențiale crescute dar și de necesitatea a aborda practic provocările profesiei. În fața inflației legislative ce complexifică dreptul, avocații consacră circa 40% din timpul lor documentării. Soluțiile bazate pe AI devin indispensabile pentru a aduce valoare adăugată soluțiilor juridice și a asigura un avantaj competitiv, așa cum confirmă practica baroului parizian.

Conform unei știri publicate în presa franceză la 7 octombrie a.c., Decanul Baroului din Paris, Pierre Hoffman a anunțat alocarea sumei de 1 milion de euro pentru a acorda un ajutor, constând într-o aplicație IA a editorului juridic Lefebvre Dalloz, avocaților cu o situație materială defavorizantă. „Mai degrabă decât a face colocvii cu 300 de persoane privind inteligența artificială, mai bine ajutăm concret 14.000 avocați” declara batonierul parizian, referitor la cea mai importantă acțiune din timpul mandatului său, în condițiile în care, în decurs de 18 luni, IA și-a făcut o intrare triumfală în lumea dreptului.

Cu acordul Consiliului ordinului, se va pune la dispoziția celor mai mici cabinete de avocați un abonament la GenIA-L, un instrument de inteligență artificială dezvoltat de principalul editor francez juridic Lefebvre Dalloz. Așadar, toate cabinetele individuale ori cele care cuprind maxim 2 persoane, cu excepția marilor nume ale baroului care lucrează solo (și care au întotdeauna trei sau patru colaboratori pentru a-i asista) vor beneficia de inedita inițiativă. Acest abonament, care va fi însoțit de o formare pertinentă gratuită, se va întinde pe o perioadă de 15 luni. E vorba de un parteneriat între Baroul din Paris și Editura franceză, care a lansat un atare proiect în Franța la 1 aprilie 2024 și în Spania la sfârșitul lui decembrie 2023. El va beneficia de eticheta Exclusivité du barreau de Paris și de o experimentare deosebit de lungă pentru a crea obișnuințele necesare la profesioniștii dreptului.

Efortul de marketing al editorului nu e unul neutru, întrucât o licență anuală costă, per avocat, în funcție de opțiunile făcute, între 700 și 1800 euro. Explicând demersul său, decanul P. Hoffman ținea să precizeze că digitalul și chestiunea inteligenței artificiale ocupaseră locul central în campania de alegere a sa în fruntea avocaților din Paris. Dacă cele mai mari cabinete de avocați își permit să-și constituie propriile dispozitive de inteligență artificială, deoarece dispun de fondurile bănești necesare, cele mai modeste nu se bucură de aceeași situație. Ori, în această conjunctură se poate ajunge la o fractură digitală în cadrul profesiei, ceea ce e inadmisibil. Avocatura reprezintă, alături de celelalte profesii juridice, unul dintre domeniile puternic afectate de emergența noilor tehnologii. Și aceasta în condițiile în care avocații consacră circa 40% din timpul lor documentării, nu numai din faptul inflației legislative ce complexifică dreptul, ci și din necesitatea de a aduce o valoare adăugată soluției lor, într-o lume din ce în ce mai concurențială.

Forța respectivului instrument e de a putea viza 1 milion de pagini extrase din trei baze de date reprezentative: Dalloz, Lefebvre și Editions legislatives. Apoi ceea ce conferă un mare potențial unei inteligențe artificiale e profunzimea și larghețea bazelor de date asupra cărora ea lucrează și capacitatea de a le aduce la zi. Desigur, se face justiție predictivă, dar aplicația GenIA-Le un ajutor major pentru aprofundarea legii și a doctrinei. Ea e capabilă nu numai să forjeze sinteze, ci și să propună puncte de observare juridică și chestiuni asociate spre a adânci căutarea.

În plus, formarea gratuită în materie, sporește utilitatea și eficiența proiectului.

4.Universitatea Ecologică din București – Conferința inaugurală a masterului Dreptul inteligenței artificiale: Dreptul inteligenței artificiale: provocări conceptuale și perspective de reglementare

Conferință dedicată Primului master din România pe dreptul inteligenței artificiale

Conferința inaugurală organizată pe 15 octombrie 2024 de Universitatea Ecologică, cu participare națională și internațională, pune în discuție cadrul jurisdicțional actual al inteligenței artificiale și consecințele sale asupra juridicului, înțeles ca ansamblu de reglementări dar și profesii implicate în procesul de evoluție către o nouă definiție a realității.

Temele abordate și notorietatea speakerilor pledează pentru un drept al AIcare poate deveni „O filieră de excelență academică”.

Joi, 15 octombrie 2024, la Facultatea de Drept a Universității Ecologice din București se desfășoară conferința inaugurală a cursurilor masterului de drept al inteligenței artificiale, cu tema Dreptul inteligenței artificiale: provocări conceptuale și perspective de reglementare.

Primul masterdin România privind Dreptul inteligenței artificiale (DIA) are ca obiect declarat pregătirea juriștilor interesați de cunoașterea provocărilor generate în planul dreptului și în cel al diferitelor sale ramuri de aplicațiile noilor tehnologii bazate pe utilizarea inteligenței artificiale. El se înscrie în filiera de formare universitară de excelență stabilită în cadrul Universității Ecologice din București (UEB), la cele trei niveluri de studii: licență, master și doctorat, aferentă dreptului noilor tehnologii. Prin valorificarea experiențelor europene și internaționale în materie, a bibliografiei și aplicațiilor de specialitate și cu contribuția unor reputați specialiști din țară și străinătate cursurile aferente permit inițierea și dobândirea de cunoștințe relevante în domenii de maximă actualitate.

Conferința inaugurală urmărește, din această perspectivă, prezentarea cadrului conceptual metodologic general de desfășurare a demersului academico-universitar și introducerea în diferite discipline de studiu aferente planului de învățământ pertinent.

Programul reuniunii științifice cuprinde:

– Alocuțiune introductivă: Dreptul inteligenței artificiale: imperativul reglementării și mizele unei noi discipline juridice

                        • Prof. univ. dr. Mircea Duțu, Președintele Universității Ecologice din București (UEB), Director emerit al Institutului de Cercetări Juridice „Acad. Andrei Rădulescu” al Academiei Române;

– Inteligența artificială: definiție și natura juridică

                        • Prof. univ. dr. Ovidiu Predescu, Facultatea de Drept, UEB;

– Dreptul privat în ecuația IA. Elemente introductive

                        • Conf. univ. dr. Andrei Duțu-Buzura, Facultatea de Drept, UEB;

– Inteligența artificială și dreptul penal; probleme de drept substanțial și de drept procedural

                        • Prof. univ. dr. Petre Buneci, Facultatea de Drept, UEB;

– Inteligența artificială și dreptul muncii: raporturi complexe, tensiuni diverse

                       • Prof. univ. dr. Alexandru Țiclea, Facultatea de Drept, UEB;

– Dreptul internațional și impactul IA. Convenția-cadru a Consiliului Europei privind inteligența artificială și drepturile omului, democrația și statul de drept. Probleme actuale

                        • Prof. univ. dr. Dragoș Chilea, Președintele Baroului Penal Internațional (BPI)

                        • Prof. univ. dr. David Querol, Universitatea din Barcelona (Spania);

– Reflecții asupra cadrului juridic unional-european privind inteligența artificială

                        • Conf. univ. dr. Gabriel Manu, Rector UEB;

– Inteligența artificială și dreptul fiscal: o relație reciproc avantajoasă?

                        • Prof. univ. dr. Vincenzo Carbone, Universitatea de Studii Internaționale din Roma (Italia);

– Impactul IA în organizarea și exercitarea profesiilor judiciare

                        • Nabil Kerouaz, Avocat, Baroul din Paris (Franța);

– Un nou domeniu de reglementare și reflecție etico-juridică: neurotehnologiile

                        • Dragoș-Alexandru Maior, avocat, doctorand Școala doctorală de drept a UEB;

– Concluzii. O filieră de excelență academică: dreptul IA.