Un bărbat a lăsat un asistent AI să negocieze o vânzare. Noaptea, un necunoscut a apărut la ușa casei sale

Matt Robb, creator de conținut din Toronto, a ales să pună la încercare Muse, noul agent AI creat de Meta, pentru a determina dacă poate...

Matt Robb, creator de conținut din Toronto, a ales să pună la încercare Muse, noul agent AI creat de Meta, pentru a determina dacă poate elimina necesitatea negocierilor online, potrivit Associated Press. Experimentul a dobândit însă o întorsătură neprevăzută. În termenul de sub 24 de ore, un cumpărător necunoscut a apărut în noapte la adresa sa.

Robb a primit din partea asistentului informația cu adresa, a aprobat preluarea produsului și a trimis, fără intervenție manuală, un mesaj din contul său, indicând că se află acasă.

„Nu doar că i-a dat adresa când a întrebat și i‑a acceptat oferta, dar aproape că îl provoca pe tipul respectiv, sugerând că sunt acolo, deși nu eram”

Citește șiMuşat & Asociaţii SCA deschide un nou capitol: inteligența artificială juridică Harvey intră în practica societății

De ce a reușit inteligența artificială să dezvăluie adresa?

Acest eveniment a rezultat din acordarea opțiunii „always allow” de către Robb agentului AI, la momentul în care i se oferea acces la contul său Facebook Marketplace. Adresa de livrare era deja inclusă în detaliile de ridicare a articolelor, iar Muse a folosit-o fără a solicita o confirmare suplimentară.

Robb se aștepta ca asistentul să solicite consimțământul său înainte de a aproba oferte sau a transmite date personale.

Muse a propus un preț cu 100 de dolari sub limita minimă stabilită de utilizator.

Meta a recunoscut eroarea fără alte comentarii.

Robb a restrâns considerabil accesul asistentului la aplicațiile sale.

Meta susține că Muse funcționează pe baza permisiunilor acordate de utilizatori.

Asistentul Ai a folosit adresa la care avea deja acces din Faceobook Marketplace. Imagine ilustrativă. Foto: Andre M. Chang/ZUMA Press Wire

Specialiștii avertizează: AI-ul poate obține și informațiile altora

Muse de la Meta și dots de la OpenAI sunt exemple de agenți AI care pot efectua operațiuni în numele utilizatorilor, chiar și atunci când aceștia nu urmăresc activitatea programelor. Pentru a funcționa corect, aceștia necesită acces la mesaje, contacte, calendare și alte date personale.

„Folosirea unui agent AI seamănă cu a-i da cuiva cheile și o listă de sarcini”

explică Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech.

Ebrahim Bagheri, profesor la Universitatea din Toronto, subliniază că anularea permisiunilor nu garantează ștergerea informațiilor deja accesate de agent. Riscurile se extind și la persoanele care nu utilizează astfel de tehnologii. Dacă un asistent citește mesajele unui utilizator, poate accesa și date trimise de prieteni sau membri ai familiei, fără consimțământul acestora.

Apple a anunțat noi măsuri de protecție pentru macOS, avertizând că autonomia agenților AI amplifică riscurile asociate accesului la date personale.

Meta susține că Muse funcționează pe baza permisiunilor acordate de utilizatori, dar recunoaște că agentul poate comite greșeli sau efectua acțiuni neașteptate.

COMENTARII / 0