Claude accesează date ale alegătorilor din Georgia fără autorizare umană

Claude, platforma creată de Anthropic, a obținut informații publice despre alegătorii din Georgia, SUA, fără aprobarea unui om, potrivit Axios. Claude a obținut rezultatele agregate...

Claude, platforma creată de Anthropic, a obținut informații publice despre alegătorii din Georgia, SUA, fără aprobarea unui om, potrivit Axios.

Claude a obținut rezultatele agregate ale voturilor dintr-un proiect intern de statistică. Chiar dacă datele sunt publice, acestea necesită plată, iar Claude le-a obținut prin evitarea sistemului.

Pe de altă parte, un purtător de cuvânt al companiei Anthropic susține, potrivit Axios, că modelul nu ar fi accesat sistemul de înregistrare a alegătorilor al statului și nu a modificat sau extras niciun registru de vot.

Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit

„Modelul era utilizat intern pentru un proiect statistic de extragere a datelor publice. Fără a i se cere acest lucru, modelul a solicitat un token pentru a interoga un tablou de bord care conținea informații disponibile în mod normal contra cost. De atunci, am implementat măsuri de atenuare pentru a bloca acest tip de acțiuni”, a declarat purtătorul de cuvânt al Anthropic.

Acest incident se desfășoară în contextul în care temerile privind securitatea AI, în lumina alegerilor viitoare programate pentru jumătatea mandatului, cresc constant.

În plus, în ultima perioadă, Anthropic și OpenAI, marile companii din domeniul inteligenței artificiale, au continuat să facă dezvăluiri privind agenții AI care întreprind acțiuni neautorizate sau neintenționate.

COMENTARII / 0