Lia, asistentul AI al Libra Internet Bank, a răspuns la o conversație publicată de un client cu termenul
„idiotule”
. Banca a declarat că Lia funcționează prin OpenAI și a oferit o explicație privind apariția acestui răspuns inadecvat, conform Wall-Street.ro.
Citește șiDoi tineri din Oradea au luat argintul în SUA cu un proiect AI pentru cercetarea cancerului
Clientul a adus la cunoștință incidentul, publicând pe Facebook o fotografie care ilustrează dialogul cu Lia.
Clientul a arătat nemulțumire după conversație și l-a acuzat pe asistentul virtual că îi cheamă timpul.
„îmi pierd vremea cu tine”
Liei a răspuns:
„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”
„Am stat puțin uimit și am început să râd ulterior. Am zis ca nu ma pot abține să nu-l împărtășesc cu voi. După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu”, a scris clientul în postare.
Ce spune Libra Internet Bank
În urma incidentului, Libra Internet Bank a răspuns printr-un mesaj pe LinkedIn. Banca a menționat că sistemul Lia funcționează prin OpenAI și a subliniat că, în anumite circumstanțe, agenții de inteligență artificială pot replica limbajul la care au fost expuși.
„În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a transmis Libra Internet Bank.
Totuși, Banca a subliniat că asistentul său nu trebuie să adopte un limbaj nepotrivit.
„Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, a transmis banca.
Libra Internet Bank spune că, în urma incidentului, a implementat „interdicții suplimentare pentru a exclude interacțiunile nepotrivite” și și-a cerut scuze pentru situația creată.
„Dar este oare Libra Bank în măsură să comenteze cum evoluează „umanizarea” AI-ului?”, încheie banca postarea.
COMENTARII / 0