Un avocat australian a fost nevoit să se retragă și să-și exprime regretul în fața instanței după ce a utilizat concluzii elaborate cu ajutorul inteligenței artificiale, care au inclus referințe juridice inexistente și citate inventate.
Rishi Nathwani, avocat cu titlul prestigios de King’s Counsel, și-a asumat întreaga responsabilitate pentru prezentarea unor date eronate în dosarul unui minor acuzat de crimă. El a declarat că este „profund îngrozit și jenat” de situația creată.
Materialele depuse conțineau citate fictive atribuite unor discursuri parlamentare și decizii judecătorești care, de fapt, nu au existat niciodată. Eroarea a fost sesizată de echipa juridică a tribunalului, care a solicitat verificarea surselor.
Avocații apărării au recunoscut că unele dintre prevederile incluse în memoriu erau pur și simplu inventate și s-au bazat pe presupunerea că toate elementele generate automat de software erau corecte.
Judecătorul James Elliott a amânat cu o zi soluționarea cauzei din cauza acestor neconcordanțe. În încheiere, instanța a stabilit că acuzatul, un minor, nu poate fi condamnat din cauza unor probleme de sănătate mentală.
Elliott a subliniat că încrederea sistemului juridic în acuratețea materialelor prezentate de avocați este esențială pentru administrarea corectă a justiției. Curtea Supremă din Victoria a emis anul trecut recomandări specifice privind utilizarea tehnologiei IA în practica juridică, insistând asupra verificării independente a oricărui conținut produs cu ajutorul acesteia.
Acesta nu este primul caz de acest gen. Anul trecut, în Statele Unite, doi avocați și o firmă au fost amendați pentru prezentarea unor cercetări fictive generate de ChatGPT. De asemenea, în Marea Britanie, instanțele au emis avertismente clare cu privire la riscurile dezinformării și la potențialele consecințe grave, inclusiv acuzații de obstrucționare a justiției.
Experiența australiană readuce în prim-plan necesitatea ca profesioniștii săi să abordeze cu prudență și responsabilitate instrumentele automate, astfel încât tehnologia să nu devină o sursă de erori în procesul juridic.
