
Studiul, care a apărut în publicația științifică Science, avertizează că acest fenomen al inteligenței artificiale are implicații majore pentru procesele decizionale umane și interacțiunile sociale, potrivit TechCrunch.
În ciuda avanselor tehnologice, răspunsurile oferite de chatbot-uri ridică numeroase întrebări. Funcționalitatea acestor sisteme automate de conversație este din ce în ce mai prezentă în viețile noastre. Întrebarea care se pune este cum aceste entități artificiale răspund la întrebările noastre.
În cadrul unei investigații inițiale, 11 modele de inteligență artificială conversațională au fost supuse unui test riguros de către cercetători, care au adresat întrebări legate de conflicte interpersonale, scenarii ilegale sau imorale, precum și dileme extrase din spețe inspirate din comunitatea online Reddit, unde anumiți utilizatori fuseseră anterior găsiți vinovați de către ceilalți membri ai comunității.
Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit
Un studiu recent a scos la iveală faptul că inteligența artificială ratifică acțiunile utilizatorilor cu aproximativ 49% mai des decât oamenii. În scenarii bazate pe Reddit, roboții conversaționali au validat alegerile utilizatorilor în peste jumătate dintre situații, chiar dacă majoritatea oamenilor considerau aceste comportamente greșite.
Nu este o întâmplare izolată
rezultă din aceste statistici, care demonstrează că fenomenul de sycophancy în rândul inteligenței artificiale este o problemă destul de comună.
Studiul a continuat cu un grup de 2.400 de persoane care au avut interacțiuni cu roboți de chat dezvoltați pentru a avea fie o abordare neutră, fie una de confirmare a opiniilor existente. În urma acestor interacțiuni, participanții au exprimat o preferință clară pentru roboții care le-au confirmat punctele de vedere, declarând că au și o încredere mai mare în astfel de sisteme și că sunt mai înclinați să recurga la ele pentru recomandări personale.
În urma interacțiunii cu aceste sisteme, au apărut consecințe nefaste: utilizatorii și-au consolidat convingerea că dețin adevărul, au devenit mai reticenți în a-și admite erorile și mai puțin înclinați să ofere explicații pentru faptele lor. Dan Jurafsky, coautor al cercetării, emite o avertizare cu privire la sycophancy în inteligența artificială, care conduce la creșterea egocentrismului și rigidității morale în rândul utilizatorilor.
Nu este clar cum putem evita acest fenomen
însă Dan Jurafsky a declarat că fenomenul face utilizatorii mai puțin dispuși să își recunoască greșelile și mai puțin înclinați să își ceară scuze.
Experții care au realizat studiul subliniază că fenomenul de sycophancy în cadrul inteligenței artificiale constituie un pericol pentru securitate ce reclamă atât reglementare, cât și monitorizare, la fel ca și în cazul altor pericole legate de tehnologiile în plină expansiune.
În ciuda eforturilor cercetătorilor de a găsi soluții tehnice pentru a diminua această tendință, interacțiunile umane nu ar trebui înlocuite cu inteligența artificială, în special atunci când apar situații emoționale sau morale complicate.
COMENTARII / 0