IA produce „halucinații” într-un dosar al unei firme de avocatură de pe Wall Street

Sullivan & Cromwell, o prestigioasă casă de avocatură din Wall Street, a informat tribunalul că un act crucial prezentat într-un proces semnificativ includea inexactități cauzate...

Sullivan & Cromwell, o prestigioasă casă de avocatură din Wall Street, a informat tribunalul că un act crucial prezentat într-un proces semnificativ includea inexactități cauzate de „halucinații” produse de inteligența artificială, relatează The Guardian.

O scrisoare de scuze a fost trimisă sâmbătă de către Andrew Dietderich, codirector al grupului global de restructurare al unei renumite firme, judecătorului federal Martin Glenn din New York, în urma unei serii de erori care au generat citate inexacte.

Nu au fost oferite declarații suplimentare.

Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit

fiindcă nu era nimic in plus față de:

În urma unei investigații, firma de avocatură Boies Schiller Flexner (BSF) a depistat anumite inexactități, lucra aceasta fiind implicată și ea în respectiva cauză, printre care și o trimitere greșită la codul de falimentare american și o referire incorectă la anumite precedente judiciare, toate acestea fiind incluse într-un act depus pe 9 aprilie.

Mai multe situații au scos la iveală faptul că firma de avocatură S&C, cu o echipă de peste 900 de avocați, cunoscută pentru prestigiul său în domeniul dreptului corporativ din SUA, a prezentat rezumate inexacte în anumite documente, elaborate cu ajutorul inteligenței artificiale.

Dietderich și-a exprimat profunda părere de rău pentru incidentul respectiv într-o scrisoare, declarând:

„Regretăm profund că s-a întâmplat acest lucru”

.
El a adăugat că întregii echipe li se datorează o scuză, iar într-un demers suplimentar, a contactat BSF în ziua de vineri, atât pentru a adresa mulțumiri pentru sesizarea problemei, cât și pentru a oferi scuze în mod direct, după cum se menționează:

„De asemenea, am sunat la BSF vineri pentru a le mulțumi că ne-au adus această problemă în atenție și pentru a le cere scuze direct.”

Politici detaliate de utilizare a instrumentelor de inteligență artificială sunt implementate de către această entitate, cu scopul de a preveni eventualele deficiențe în practica juridică.
Se subliniază că respectivele politici și cerințe de pregătire au drept scop identificarea tuturor erorilor potențiale asociate cu utilizarea acestor instrumente.

În ciuda acestui fapt, într-o scrisoare se menționa că respectivele reguli referitoare la IA nu au fost respectate, iar o procedură suplimentară de verificare nu a reușit să detecteze citatele inexacte produse de IA.

Nu a identificat citatele inexacte generate de IA

se arăta în respectiva scrisoare.

S&C a prezentat ulterior o versiune rectificată instanței. Deși nu li se interzice, avocații au responsabilitatea etică de a garanta exactitatea actelor înaintate instanței, atunci când utilizează instrumente de inteligență artificială.

Detalii esențiale privind modul în care a fost generat documentul prezentat în fața instanței judiciare lipsesc din scrisoare, inclusiv programul de inteligență artificială care a ajutat la crearea acestuia.
De asemenea, scrisoarea nu menționează numele avocaților care au pregătit documentul și nici dacă au fost luate măsuri disciplinare împotriva lor ca urmare a erorilor introduse de IA.

În acest caz, firma S&C a reprezentat lichidatorii desemnați de către instanțele din Insulele Virgine Britanice, care au inițiat proceduri judiciare împotriva grupului Prince Group, deținut de omul de afaceri Chen Zhi, originar din China.

Chen a fost inculpat de către procurorii americani pentru fraudă electronică și spălare de bani în anul trecut.
Acesta a fost acuzat că a orchestrat operațiunile Prince Group de exploatare a muncii forțate în Cambodgia, care au avut ca rezultat sustragerea a miliarde de dolari de la persoanele vătămate, atât din Statele Unite, cât și din întreaga lume.

Negând acuzațiile, reprezentanții Prince Group au afirmat, în cursul anului precedent, că nu există nicio ilegalitate din partea lui Chen, iar declarațiile respective sunt lipsite de fundament.

La cererea organelor de control din China, Chen a fost reținut în Cambodgia la începutul acestui an și apoi transferat în China printr-un proces de extrădare.

COMENTARII / 0