Claude coordonează 26% din activitatea de cercetare și dezvoltare a modelelor Anthropic, ceea ce, potrivit companiei, înseamnă că modelul poate duce la bun sfârșit cea mai mare parte a unei sarcini date „de la început până la sfârșit, pornind de la o instrucțiune de nivel înalt”, rămânând totuși sub supraveghere umană, potrivit Associated Press.
Modelul nu operează încă în totalitate în mod autonom. Totuși, 90% din activitatea de cercetare și dezvoltare a companiei are loc în „colaborare” cu Claude, iar, conform Anthropic, acest lucru înseamnă că modelul poate realiza „volume mari de muncă sub îndrumarea atentă a oamenilor”.
În același timp, anunțul a fost făcut în contextul în care anumite figuri de referință din domeniul inteligenței artificiale, predominant sub conducerea CEO-ului Anthropic, Dario Amodei, cer o încetinire a ritmului de dezvoltare tehnologică din motive de siguranță.
Citește șiPană globală Microsoft: Outlook afectat în întreaga lume
Pe măsură ce conducătorii analizează posibilitatea de a încetini evoluția inteligenței artificiale,
„ar trebui să facem tot ce este posibil pentru a reduce la minimum decalajul dintre ceea ce știu laboratoarele de vârf și ceea ce știe publicul”
a spus Anthropic într-o postare de pe blog.
Anthropic solicită o evaluare mai precisă a modelelor AI.
„Asta înseamnă o mai bună măsurare a dezvoltării AI, raportarea publică a acesteia și oferirea societății a oportunității de a decide cum să utilizeze aceste informații”, potrivit companiei.
Compania a declarat că modelele care se dezvoltă rapid pot face ca „înțelegerea sau controlul acestor sisteme de către oameni să devină mai dificil”.
Prin distribuirea acestor metrici, se poate obține o perspectivă mai clară asupra proximă cu care laboratoarele de top în AI se apropie de realizarea autoîmbunătățirii recursive, adică capacitatea unui model de a-și crea singur succesorul.
Compania a dezvăluit, de asemenea, informații despre măsurile de monitorizare a agenților pe care le-a pus în aplicare, menționând că, în luna August, aproximativ 30.000 de agenți erau implicați în activități de cercetare și inginerie.
Măsurile de monitorizare sunt vitale pentru a stabili cât de des este detectat comportamentul inadecvat al agenților de către sistemele de monitorizare, conform Anthropic.
În ultima perioadă, evaluatori externi independenți au fost numiți de companie pentru a se integra în structura acesteia și a supraveghea inițiativele privind siguranța.
COMENTARII / 0