OpenAI anunță schimbări la ChatGPT după val de procese în SUA

OpenAI a introdus în marți o serie de noi măsuri de siguranță pentru ChatGPT, aducând îmbunătățiri suplimentare pentru adolescenții care interacționează cu chatbotul AI și pentru părinții lor, potrivit BBC.

În contextul conturilor noi destinate adolescenților, OpenAI a decis să elimine opțiunea ca chatbotul să răspundă printr-o voce umană, în scopul de a reduce capacitatea tehnologiei de a se prezenta ca o ființă umană.

În plus, compania lansează notificări periodice care îndrumă tinerii să facă o pauză de la utilizarea instrumentului AI, subliniind că ChatGPT este o inteligență artificială și le spune că

Citește șiSpaceX: Starship atinge orbită după problemă motor, prima misiune orbitală

„poate aștepta”

.

Compania a subliniat că aceste acțiuni nu constituie un răspuns la o problemă specifică, aceea că unii copii pot interpreta că ChatGPT este viu. Totuși, se intensifică temerile că utilizatorii pot ajunge să creadă că dispozitivele de inteligență artificială cu care interacționează de fapt posesc conștiință.

În urmă cu un an, Mustafa Suleyman, conducătorul departamentului de inteligență artificială la Microsoft, a spus că apariția unor produse AI ce par să fie conștiente îl îngrijorează profund, din cauza efectelor pe care le pot avea asupra societății.

OpenAI lansează noile caracteristici sub denumirea „ChatGPT pentru adolescenți”.

Într-un comunicat postat

Compania a declarat că conturile destinate adolescenților vor fi setate automat ca opțiune standard pentru utilizatorii care aleg să se identifice ca fiind adolescenți în momentul înregistrării, precum și pentru alți utilizatori pe care firma îi consideră ca având mai puțin de 18 ani.

Noile caracteristici includ avertismente care interzic încărcarea de imagini sensibile și notificări trimise părinților atunci când utilizatorii discută despre acte de violență.

OpenAI a afirmat că versiunea ChatGPT destinată adolescenților nu trebuie să adopte un ton romantic, să insinueze că posedă sentimente sau conștiință și să nu stimuleze dependența emoțională.

„Dacă nu se implică în conținut axat pe învățare, obiectivul este să continuăm să consolidăm experiența adecvată vârstei și măsurile de protecție”, a declarat Lauren Jonas, directoare pentru tineri și familii la OpenAI, pentru site-ul Mashable.

Compania îl prezintă pe ChatGPT ca un instrument de învățare.

Jonas a precizat că, în viitor, toate recomandările inițiale ale ChatGPT pentru adolescenți vor fi orientate spre educație, excluzând alte subiecte personale. Accesul la ChatGPT era deja interzis de OpenAI pentru minorii sub 13 ani.

caracteristici noi oferă produsul, printre ele alerte pentru realizarea temelor cu responsabilitate, menite să prevină scurtăturile, precum și sondaje inspirate din materialul conversațiilor sau din notițele utilizatorului.

În plus, noua setare „Study Hours” („Ore de studiu”) le permite adolescenților și părinților să limiteze utilizarea ChatGPT la modul de studiu pentru anumite perioade de timp în fiecare zi. Modul de studiu este conceput pentru a-i ajuta pe adolescenți să învețe prin utilizarea „rezolvării colaborative, pas cu pas, a problemelor”.

Atât părinții, cât și tinerii pot configura „Study Hours” și „Quiet Hours” („Ore de liniște”), o opțiune deja disponibilă care oprește complet accesul la ChatGPT.

Acest comunicat apare în urma unei serii de dispute legate de ChatGPT și de alți roboți conversaționali.

Mashable a raportat că în comunicarea oficială a OpenAI, compania a subliniat exemple impresive privind modul în care adolescenții utilizează ChatGPT.

În Virginia, doi tineri au conceput un sistem de localizare și salvare, solicitând asistență de la un instrument AI pentru a efectua cercetări și a produce un prototip. În Texas, un utilizator a lansat o platformă ce produce jocuri audio educaționale destinate elevilor cu deficiențe de vedere.

Aceste relatări motivaționale, totuși, sunt copleșite de cazuri mai întunecate.

Massachusetts a acuzat în săptămâna precedentă un tânăr de 17 ani de omorârea mamei și a fratelui său mai mic, susținând că acesta a utilizat ChatGPT pentru a crea scenarii fictive în care aceștia morau.

OpenAI a fost subiectul unui proces pentru morții unor adolescenți care s-au sinucis după utilizare prelungită și intensă a ChatGPT. Cel puțin un tânăr din acest grup, Adam Raine, a început să recurgă la ChatGPT pentru asistență la teme, iar ulterior a dezvoltat o dependență emoțională față de chatbot, conform acțiunii legale intentate anul trecut de părinții săi.

Compania a fost dată în judecată și de statul Florida, care acuză OpenAI că i-ar fi indus în eroare pe consumatori cu privire la siguranța ChatGPT. Procesul enumeră o serie lungă de acuzații la adresa ChatGPT, printre care sprijinirea autorilor unor atacuri armate în masă, încurajarea sinuciderii, crearea dependenței minorilor de un instrument „fără supraveghere parentală” și determinarea utilizatorilor să-și piardă „capacitatea de gândire critică”.

Într-o declarație anterioară, OpenAI a refuzat să recunoască că ar fi comis vreun act ilegal în legătură cu anumite dintre aceste acuzații.

OpenAI trimite în prezent alerte părinților atunci când adolescenții care au activat controalele parentale vorbesc despre autovătămare, sinucidere sau violență în moduri ce semnalează un pericol imediat sau posibil.

Imagine pentru articol: Rokas Tenys / Dreamstime.com.