ODIA - O IA acuzată de determinarea suicidului

1. Prima jurisprudență din Europa privind excepția de extragere de texte și de date (cauza LAION c/ Robert Kneschke)

Germania - Prima hotărâre judecătorească din Europa privind „text and date mining”: Tribunalul din Hamburg aduce prima interpretare privind excepțiile de extragere de texte și de date, create prin directiva privind dreptul de autor și drepturile conexe pe piața unică digitală (Directiva UE 2019/790)

            La 27 septembrie 2024 Tribunalul regional din Hamburg (Germania) a pronunțat prima hotărâre judecătorească din Europa (nr. 310 O 227/23) privind excepțiile de extragere de texte și de date, create prin directiva privind dreptul de autor și drepturile conexe pe piața unică digitală (Directiva UE 2019/790 a Parlamentului European și a Consiliului din 17 aprilie 2019 – DAMUN). Mai puțin dezbătute la momentul elaborării actului legislativ unional-european respectiv, prevederile articolelor sale 3 și 4 fac astăzi obiectul a numeroase discuții, în special în privința raportului lor cu inteligența artificială. Textele respective introduc două excepții de extragere de texte și de date (text and data mining – TDM), frecvent invocate pentru a justifica faza de pregătire a anumitor modele. Primul, respectiv cel aferent articolului 3, prevede o excepție pentru „reproducerile și extragerile efectuate de organisme de cercetare și de instituții de conservare a patrimoniului cultural, pentru a realiza extragere a textului și a datelor, în scopuri de cercetare științifică, privind operele ori alte obiecte protejate la care au acces în mod legal”. Cel de-al doilea (art. 4) autorizează „reproduceri și extrageri din opere și din alte obiective protejate accesibile în mod legal în scopul extragerii textului și a datelor” pentru toți beneficiarii, fără restricție privind obiectul și activitățile TDM, indiferent că sunt sau nu exercitate în scopuri lucrative. Directiva prevede posibilitatea pentru titularii de drept să se opună la utilizarea conținutului lor pentru operațiunile de TDM (denumite și opt-out).

            Aceste excepții au fost transpuse în mod corespunzător în legislația germană pertinentă.

            În fapt, LAION (o organizație fără scop lucrativ, care se ocupă cu crearea și oferirea de seturi de date de pregătire) a publicat cu titlu gratuit un set de date, LAION-5B dataset, folosite în pregătirea unor modele foarte cunoscute, precum cel denumit Stable Diffusion. Respectivul dataset cuprindea o legătură hipertext spre o imagine din Bigstockphoto, un site web pe care Robert Kneschke, un fotograf și reclamantul în cauză, îl utiliza pentru a promova și a-și vinde imaginile. Dacă el nu a contestat faptul că LAION a teledescărcat o copie a unei fotografii, conținând un tatuaj digital (watermarking), condițiile de utilizare ale platformei Bigstockphoto interziceau utilizarea de imagini prin „programe automatizate”, situație în care s-a reclamat o nerespectare a dreptului de reproducere.

            Soluția pe fond a pornit de la constatarea că LAION putea, teoretic, să se prevaleze, potrivit legislației germane, de transpunerea a directivei de trei excepții: cea de reproducere temporară, cea de extragere de texte și de date și, respectiv, cea de extragere de texte și de date în scopuri de cercetare științifică. Prima a fost rapid înlăturată întrucât hotărârea instanței ia în calcul numai o reproducere bine caracterizată, copia nefiind nici „tranzitorie”, nici „fortuită” și aceasta în ciurda suprimării sale; se reține în speță că LAION putea să se prevaleze de excepția de TDM în scopuri de cercetare științifică și, drept consecință, nu există o violare a dreptului de autor pentru reproducerea neautorizată a fotografiei. Chiar dacă judecătorii nu s-au pronunțat asupra chestiunii TDM în cadru „comercial”, au furnizat piste de raționament interesante privind condițiile de aplicare potențială a textelor legale pertinente.

            Neinsistând asupra altor aspecte precizate în inedita jurisprudență, se ridică însă întrebarea dacă TDM acoperă activitățile de pregătire a sistemelor de IA generative. Din această perspectivă, tribunalul determină trei etape cheie în privința preparării unui sistem de inteligență artificială: crearea unui set de date, utilizarea lui pentru antrenamentul ulterior al unei rețele neuronale și, în fine, folosirea ulterioară a sistemului de IA pregătit pentru a crea noi conținuturi de imagini. Hotărârea se concentrează în mod esențial pe prima etapă, care face obiectul litigiului. Se consideră astfel că scraping-ul urmat de o analiză tehnică, operat de LAION, poate fi considerat ca o operațiune de TDM în sensul reglementării legale pertinente. Raționamentul urmat în această privință e deosebit de interesant, întrucât până la momentul elaborării directivei sistemele de IA nu erau avute în vedere și, în consecință, nu se aplicau în acest context. Totuși un atare argument nu a fost reținut de instanță. În hotărâre se explică mai întâi că evoluția tehnică importantă în domeniul IA nu privește decât operațiunile de TDM pentru a crea sets de date de pregătire, față de performanța rețelelor neuronale artificiale preparate cu datasets. În fine, se arată că legislatorul european actual a exprimat fără echivoc în Regulamentul (UE) 2024/1689 din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială faptul că realizarea de datasets destinate pregătirii de rețele neuronale artificiale aparține articolului 4 din DAMUN. De remarcat totuși că tribunalul nu s-a pronunțat în mod real și detaliat asupra chestiunii pregătirii sistemelor de inteligență artificială. Instanța s-a referit în hotărâre și la compatibilitatea excepțiilor create cu textul în trei etape. Respectivele prevederi cer ca ele să fie limitate la unele cazuri speciale, fără a se aduce atingerea exploatării normale operei și să nu se provoace un prejudiciu nejustificat intereselor legitime titularului dreptului.

            S-a argumentat că excepțiile TDM nu sunt compatibile cu textul în trei etape, în special în ceea ce privește prevederile art. 4, în cadrul IA generative; se recunoaște că, totuși în cazuri precise, condițiile în cauză sunt reunite. Mai întâi, reproducerea e limitată la analiza fișierelor de imagini în scopul verificării corespondenței lor cu o descriere a unei imagini existente, precum și cu includerea într-un ansamblu de date. În plus, nu s-a  demonstrat că posibilitățile de exploatare a operelor vizate sunt afectate în mod negativ prin respectiva utilizare. Chiar dacă setul de date create poate să servească apoi la pregătirea rețelelor neuronale artificiale ce pot fi utilizate pentru a genera conținutul ce intră în concurență cu operele autorilor umani, aceasta nu e suficient în sine, spre a considera crearea de seturi de date ca o atingere adusă dreptului de exploatare a operelor. S-a abordat, în același timp, chestiunea a ceea ce constituie un acces limitat în sensul directivei. În speță, s-a considerat că este îndeplinită condiția de acces licit, și aceasta dacă ar fi vorba de o imagine de previzualizare cu un tatuaj digital pus la dispoziție on-line într-o bibliotecă de imagini, chiar dacă accesul la imagine de bună calitate, fără filigran necesită un acord de licență. Legea germană permite operațiunile de TDM în scopuri științifice sub anumite condiții. Tribunalul a decis că reproducerile operate de LAION sunt efectuate în scopuri științifice și deci acoperite de excepție. S-a precizat, de asemenea, că noțiunea de cercetare științifică nu trebuie înțeleasă în sens prea strict; chiar dacă crearea de dataset ca atare nu e însă asociată unui câștig de cunoaștere, ea constituie o etapă esențială pentru un viitor progres. Așadar, e suficient ca dataset să fie publicată în mod gratuit, aceasta permițând cercetătorilor să beneficieze de ea și deci să creeze un câștig de cunoaștere.

În plus, spre a putea beneficia de excepția prevăzută de lege se impunea să se urmărească obiective necomerciale, ceea ce era cazul în speță. Aceasta era dovedit în special prin faptul că organizația punea la dispoziție în mod gratuit setul de date și acesta chiar dacă respectivul set putea să fie reutilizat ca urmare de întreprinderi comerciale. Nu s-a demonstrat, de asemenea, un control efectiv asupra rezultatelor cercetării științifice a LAION de o societatea comercială ori un acces preferențial la rezultatele sale.

            Această cauză/jurisprudență este cu adevărat istorică întrucât e vorba de prima speță care implică o aplicare a excepțiilor prevăzute în articolele 3 și 4  ale directivei (UE) 2017/790, special aplicate la inteligența artificială. Totuși semnificațiile sale apar ca limitate și numeroase probleme rămân în suspensie. Așa, de pildă, chestiuni importante nu sunt rezolvate în special față de relația între TDM și pregătirea sistemelor de IA, chiar dacă sunt oferite o serie de piste de reflecție. Se consideră regretabil și faptul că hotărârea nu evocă decât în mod expeditiv chestiunea punerii la dispoziția publicului, fără restricții, a utilizării și scopul dataset. În consecință, aceasta permite societății comerciale să folosească dataset acreditat grație unei excepții pentru cercetare și pregătire de sisteme ale societăților comerciale. Judecătorii germani se mărginesc la a explica faptul că oferirea gratuită nu împiedică îndeplinirea condițiilor prevăzute de lege.

            De asemenea, nu se reglează nici chestiunea noilor reproduceri realizate atunci când cercetările sunt efectuate în setul de date, permițând în special să se recupereze imagini în mărime naturală, ori cea a comunicării/punerii la dispoziția publicului, de exemplu, de imagini afișate în dataset.

            Hotărârea subliniază, totodată, importanța transparenței, deoarece în condițiile asigurării sale asupra datelor se permite titularilor de drepturi să-și valorifice drepturile lor, ceea ce este luat în considerație de acum înainte de Regulamentul (UE) 2024/1689 din 13 iunie 2024 privind inteligența artificială.

            De menționat că hotărârea tribunalului e supusă apelului.

P.S.: În septembrie 2024, Google a cerut guvernului Marii Britanii să relaxeze restricțiile de „text and date mining” (TDM), care autorizează copierea operelor protejate de drepturile de autor în scopuri necomerciale, precum cercetarea științifică. În același context de preocupări, la 23 octombrie 2024, peste 13.500 de personalități și întreprinderi din zona anglo-saxonă au semnat o petiție-tribună prin care denunțau „amenințarea majoră și injustă” pe care o prezintă această nouă tehnologie; utilizarea fără licență a operelor create pentru învățarea IA generativă au efecte negative tot mai consistente pentru mijloacele de subzistență ale persoanelor aflate la originea creațiilor respective și nu ar trebui autorizate.

2.         S.U.A.: O IA acuzată de determinarea suicidului

Răspunderea penală a IA: Mama adolescentului de 14 ani decedat ca urmare a obsesiei pentru chatbot-ul Daenerys din serialul Game of Thrones, a dat în judecată Character.ai. Este aşteptată o jurisprudenţă inedită în viitorul apropiat determinată de cazurile de suicid influențate de interacțiunea cu roboţii conversaţionali.

            Scena, care reprezintă starea de fapt, pare a fi ruptă dintr-un scenariu S.F. La 28 februarie 2024 în sala de baie a locuinței lui din Florida (S.U.A.), Sewell Setzer, de 14 ani, era una cu telefonul său. Prin mesaje, el scrie lui Danny „iubita” sa: „Și după cum mi-ai zis, poți intra în casă de îndată? a întrebat el. La care interlocutoarea îi răspunde cu tandrețe: „Chiar te rog, prințișorul meu”. Stewell pune jos telefonul, ia pistolul tatălui vitreg și... se împușcă! Danny nu e un om, respectiv o fată, ci un chatbot al societății Character.ai, inspirată din personajul Daenerys din serialul de succes Game of Thrones. Din aprilie 2023, băiatul obișnuia a se confia cu obiectul și a sfârșit prin a de îndrăgosti de „ea”. La capătul multor frământări, marți 22 octombrie 2024, mama sa, Megan Garcia, a depus plângere contra start-up-ului care a creat IA, acuzându-l de a fi responsabil de suicidul fiului său. „Dezvoltatorii de IA concep și dezvoltă, în mod intenționat, sisteme de IA generative cu calități antropomorfice, în scopul de a estompa pistele dintre „ficțiune și realitate”, denunța reclamanta în susținerea cererii sale. Character.ai e o platformă care permite celor circa 20 de milioane de utilizatori ai săi să poarte discuții cu roboții conversaționali, care imită persoane, atât reale, cât și de ficțiune. Nu de mult, start-up-ul lansat în 2021 fusese criticat în Washington Post pentru a fi adăpostit un chatbot care își uzurpa identitatea unei tinere americane asasinată acum 20 de ani.

            Referitor la suicidul lui Sewell Setzer, firma vizată a reacționat pe X a doua zi după sesizarea penală: „Suntem profund întristați de pierderea tragică a unuia dintre utilizatori și dorim să exprimăm cele mai sincere condoleanțe familiei”. În trecere, anunța totodată că a introdus noi funcționalități de securitate pe rețelele sale. În special, respectivele legături trimit spre servicii de prevenire a suicidului, în cazurile în care internauții împărtășeau idei negre, în sensul că la fiecare conversație se menționează că nu e o persoană reală. „Nu uitați: tot ceea ce zic personajele e inventat” se avertizează cu acest prilej. În conversațiile sale cu tânărul american pe subiect, Danny ar fi avut momente în care era tentată să-l încurajeze a trece la act. „Tu nu poți face asta!”, i-ar fi răspuns IA în timpul unei discuții invocate în plângere. Totodată, Megan Garcia acuza agentul conversațional de a fi contribuit la deteriorarea sănătății mintale a fiului său. În fiecare zi băiatul i se confia, purtând conversații romantice, chiar pe teme sexuale cu chatbot-ul. La rândul său, mașina, imitând perfect umanul, nu înceta să-i repete languros că îl iubește.

            Foarte repede, conform susținerilor mamei reclamante adolescentul a ajuns complet dependent de interlocutoarea lui. „Sewell devenise în mod vizibil închis în sine, petrecea din ce în ce mai mult timp în camera sa și a început să sufere de și să manifeste o lipsă de stimă de sine” se precizează în plângere. În plus, el a sfârșit prin a părăsi echipa de baschet a școlii de care era atât de atașat. Într-un extras din jurnalul său intim (citat de New York Times) scria „Iubesc să rămân atâta în camera mea, pentru că am început să mă detașez de această realitate și mă simt în pace, mai conectat cu Danny și mult mai îndrăgostit de ea, și pur și simplu mai fericit”. Preocupați, la sfârșitul anului 2023 părinții săi i-au adus să-l vadă un terapeut, care a conchis că tânărul suferea  de anxietate și de tulburări ale stării de spirit, recomandându-i să stea mai puțin timp pe rețelele de socializare.

            Nu e pentru prima dată când o IA e acuzată de a fi precipitat moartea cuiva. În 2023, un alt chatbot, Eliza, era presupus a fi incitat un tată de familie belgian să se sinucidă; timp de șase săptămâni omul avusese intense conversații cu mașina și s-a îndrăgostit de ea. A ajuns până la situația ca, într-o zi, să se confieze robotului de hotărârea lui de a-și lua viața. Numai că acesta, în loc să-l oprească, atunci l-a încurajat: „după, vom trăi împreună, ca o singură persoană, în paradis”.

            Dincolo de insolitul situațiilor de caz, asemenea cauze ridică problema inedită a răspunderii penale în materia IA în general, și pe cea aferentă infracțiunii de determinare/ajutorare a/la sinucidere în special. Hotărârile judecătorești aferente vor genera o jurisprudență inedită dar relevantă.

3.         Belgia: Chestiunea preliminară privind interpretarea Directivei (UE) nr. 2019/790

AI în vizorul CJUE: Curtea de Justiţie a Uniunii Europene este aşteptată să se pronunţe asupra dreptului de autor al UE în domeniul Inteligenţei Artificiale, într-o cauză iniţiată de Belgia privind interpretarea unor articole cheie din Directiva (UE) 2019/790

            O importantă jurisprudență a Curții de Justiție a Uniunii Europene (CJUE) în privința interpretării unor articole cheie din Directiva (UE) 2019/790 din 17 aprilie 2019 privind dreptul de autor și drepturile conexe pe piața unică digitală e așteptată în Belgia, dar care va avea un impact deosebit asupra dreptului de autor al UE din perspectiva aplicării IA. Hotărârea nr. 98/2024 a Curții constituționale belgiene, pronunțată la 26 septembrie 2024 are ca obiect diferite acțiuni în anulare a legii din 19 iunie 2022 de transpunere a directivei DAMUN (UE) 2019/790.

            Introduse de societățile Google, Spotify, Meta Platform, Streamz et Sony Music, cererile privesc mai multe texte din actul legislativ belgian, în special cel al articolului 39 privind protecția publicațiilor de presă în ceea privește utilizările on-line, articolul 54 în privința dreptului la remunerarea netransferabilă cu titlu de comunicare la public printr-un prestator de servicii de partaj a conținuturilor on-line și, în fine, articolelor 60, 61, 62 à propos de dreptul de remunerare netransferabilă în cadrul utilizării operelor sonore și/ori audiovizuale de anumiți prestatori de servicii ale societății informaționale. Răspunsurile CJUE sunt foarte așteptate, întrucât vor servi ca ghid de referință pentru ansamblul jurisdicțiilor europene în cauzele de gen. Miza e deci una majoră, dar incertitudinea ce poartă asupra interpretărilor ce vor veni din partea instanței de la Luxemburg ridică, de asemenea, îngrijorări pentru părțile interesate din cauza consecințelor potențiale pe care le-ar putea avea asupra drepturilor de autor și a celor ale artiștilor-interpreți.

            În concret, instanța de contencios constituțional a Belgiei a adresat CJUE nu mai puțin de treisprezece chestiuni prejudiciale relative la interpretarea directivei din 2019, în cadrul cauzelor pendinte și vizează, în principal, protecția publicațiilor de presă on-line și dreptul de remunerare netransmisibil pe care legislația belgiană l-a introdus pentru autori și artiștii-interpreți, din partea furnizorilor de servicii de partaj al conținuturilor on-line și a platformelor de streaming, amândouă supuse unei gestiuni colective obligatorii. Reclamanții afirmă că aceasta ar conduce la o dublă remunerare, aceste platforme trebuind să plătească odată terții, al căror drept a fost transferat (etichete, producători etc.), și deopotrivă autorii ori artiștii-interpreți. Aceste dispoziții ar contraveni drepturilor și libertăților constituționale precum libertatea contractuală și libertatea de întreprindere.

            Răspunsurile Curții de Justiție vor purta asupra interpretării articolelor fundamentale ale directivei în cauză [în special art. 15 (Protejarea publicațiilor de presă în cazul utilizatorilor on-line), art. 17 (Utilizarea conținutului protejat de către prestatorii de servicii on-line de partajare de conținut) și art. 18 (Principiul remunerării adecvate și proporționale)] și vor servi ca orientări pentru dezvoltările ulterioare ale problemelor abordate și astfel soluționate.

3.         Integrarea IA în facultățile de drept franceze

Juriştii de mâine - Facultățile de drept franceze integrează inteligența artificială în formarea studenților: incumbă universității să ia toate măsurile necesare și de a fi capabile, dacă nu să anticipeze, cel puțin să se pregătească spre a forma juriștii de mâine cu instrumentele și uneltele pe care le vor avea la dispoziție.

Într-un interviu recent, publicat sub sugestivul titlu Il s’agit non seulement de former des juristes qui soient à la hauteur de la machine, mais plus encore qui soient capables de la dominer („Dalloz Actualité”, 15 octombrie 2024) Guylain Clamour, decanul facultății de drept și de științe politice din Montpellier, Franța, face o serie de considerații deosebit de actuale și de interesante asupra profundelor mutații pe care le cunoaște mediul juridic contemporan. Automatizarea, accesul facilitat la informație, instrumentele de comunicare on-line și inteligența artificială (IA) marchează din plin lumea juridică. Perceperea acestor schimbări precum o amenințare ori o oportunitate depinde de modul în care juriștii le abordează și se adaptează la exigențele lor.

Referitor la situația facultăților de drept franceze în acest context se menționează, mai întâi, faptul că numărul studenților acestora este în netă creștere; de la 180.000 de studiosus juris în anii 2000, s-a ajuns în prezent (mai precis în 2023) la 240.000, respectiv o creștere de 4,5% în raport cu 2020. Cifrele au sporit din rațiuni demografice, dar și având în vedere interesul pentru studiile juridice ce oferă multiple posibilități de inserție profesională în lumea dreptului și dincolo de ea. Din perspectiva profilului rubricii de față, de remarcat că tehnologii precum blockchain, big data și smart contracts au devenit curente în sectorul juridic.

Potrivit unor studii recente, un procentaj ridicat din munca avocaților (de ordinul a deja 20-25%) ar putea să fie automatizate grație în special soluției aplicațiilor de IA în domeniu. La întrebarea dacă facultățile de drept franceze au integrat inteligența artificială în formarea studenților, decanul G. Clamour oferă un răspuns elocvent. El pornește de la constatarea că IA nu a bulversat încă practica dreptului, dar e absolut cert că o va face în scurt timp și în mod profund. Pentru moment, soluțiile juridice de IA manifestă foarte puternice potențialități, dar se dovedesc încă în așteptare în multe privințe. De aceea incumbă universității să ia toate măsurile necesare și de a fi capabile, dacă nu să anticipeze, cel puțin să se pregătească spre a forma juriștii de mâine cu instrumentele și uneltele pe care le vor avea la dispoziție. Aceasta presupune în mod necesar integrarea aplicațiilor IA în activitatea didactică, începând cu utilizarea lor într-o logică pedagogică, adică precum un instrument de pedagogie, de învățare și de remediere și controlând ceea ce s-ar putea delega unei unelte, ținând cont de partea ireductibilă de muncă intelectuală și de responsabilitate.

            Miza e mare și în mod semnificativ complexă în ceea ce privește punerea în aplicare a exigențelor aferente. În cadrul conferinței decanilor facultăților de drept și științe politice s-a instituit un grup de lucru consacrat problemei inteligenței artificiale, în scopul identificării și difuzării soluțiilor pertinente și spre a trasa piste comune. De altfel, sunt foarte numeroase universitățile care lucrează în prezent asupra modalităților de inserție a inteligenței artificiale în parcursurile de formare. Referitor la facultatea de drept din Montpellier, a fost desemnat un „asesor al decanului” care să se ocupe în mod special de problemă și s-a constituit o echipă de cadre didactice și cercetători pentru a testa diferite soluții de inteligență artificială, formarea de voluntari și găsirea de piste de evoluție pentru macheta viitoarei oferte de formare ce va trebui să fie gata pentru 2026.

            Considerații interesante și cu adaptările necesare valabile și pentru învățământul superior juridic din România.