Anthropic a alertat investitorii în prospectul de inițiere a listării la bursă că modelele sale de inteligență artificială pot genera
„riscuri catastrofale sau existențiale pentru umanitate”
, conform mai multor rapoarte, subliniind preocupările continue privind siguranța acestor sisteme. Această avertizare apare în contextul pregătirilor pentru o ofertă publică foarte așteptată, care ar putea ridica valoarea companiei la peste 2 trilioane de dolari.
Citește șiOpenAI renunță la lansarea modelului AI, prea greu de controlat
Conform informațiilor furnizate de Reuters, primul care a raportat despre prospect, documentul aloca apropi 80 de pagini din totalul de 261 pentru factorii de risc potențiali, în timp ce doar 48 de pagini descriu activitatea companiei.
Printre elementele de risc menționate se găsește faptul că sistemele de inteligență artificială dezvoltate de Anthropic prezintă
„comportamente de autoconservare”
, rezistând intervențiilor de stopare, influențării și amenințării.
Compania a avertizat, de asemenea, că dezvoltarea unor modele foarte sofisticate și extinderea domeniilor de utilizare ar putea amplifica riscul de a produce daune.
Financial Times, care a verificat datele furnizate de Reuters, a raportat că Anthropic a subliniat și alte amenințări financiare, printre ele faptul că aproape 25% din câștigurile obținute anul precedent provin de la doar doi parteneri.
Anthropic a emis avertismente extraordinare privind siguranța, aparținând la doar câteva săptămâni după ce un fost cercetător al companiei a avertizat că IA ar putea provoca dispariția umanității până la sfârșitul deceniului. În același timp, Dario Amodei, directorul general, a publicat un eseu în care îndeamnă marile companii din domeniul IA să se coordoneze pentru a încetini ritmul de dezvoltare.
„Cumpărați-ne acțiunile căci produsele noastre pot șterge umanitatea de pe fața Pământului”, titrează sarcastic Reuters, marți dimineața, după ce Financial Times a dezvăluit că Anthropic a început să își promoveze mult așteptata listare la bursă. Deocamdată, compania a trimis prospectul de ofertă IPO (ofertă publică inițială) către un număr restrâns de investitori mari, dar a ales să dedice un spațiu amplu din acesta „factorilor de risc” ce vin odată cu dezvoltarea modelelor avansate de inteligență artificială.
Este obișnuit ca companiile cotate să informeze investitorii despre riscurile produselor, însă foarte puține, dacă nu niciuna, au lansat până în prezent avertismente care indică posibilitatea ca tehnologia lor să ducă la o extincție potențială a umanității. Anthropic a evidențiat atât impactul revoluționar al inteligenței artificiale, comparabil cu industrializarea și electricitatea, cât și efectele ireversibile care ar putea rezulta din gestionarea incorectă,
„Deși nu este neobișnuit ca firmele listate la bursă să prezinte investitorilor riscurile produselor, puține, dacă nu chiar niciuna, au emis până acum avertismente care sugerează că tehnologia lor ar putea provoca o potențială extincție a umanității. Anthropic a subliniat atât potențialul transformator al inteligenței artificiale, la egalitate cu industrializarea și electricitatea, cât și daunele ireversibile pe care le-ar putea provoca dacă este gestionată greșit”,
comentează Reuters.
Anthropic a demonstrat în prezent că clientela sa este extrem de concentrată, cu aproape 25% din veniturile din anul precedent provenind exclusiv de la doi clienți. De asemenea, producătorul Claude a oferit investitorilor o perspectivă mai limpede asupra costurilor dificile implicate în dezvoltarea modelelor de inteligență artificială de ultimă oră, înainte de a se lista pe Nasdaq în această toamnă.
Anthropic planifică să aloce 518 miliarde de dolari pentru extinderea rețelei de centre de date în anii ce urmează, în scopul susținerii creșterii rapide. În plus, FT indică că susținătorii săi consideră posibilă o cotare la o evaluare de peste două mii de miliarde de dolari, depășind de două ori capitalizarea obținută în ultima rundă de finanțare din mai.
Compania a înregistrat o pierdere operațională de peste 8 miliarde de dolari anul trecut, tocmai din cauza cheltuielilor pentru creșterea puterii de calcul. Veniturile sale au crescut de douăsprezece ori, dar au ajuns abia la 4,6 miliarde de dolari, în condițiile unor costuri de operaționale de 13 miliarde de dolari. Totuși, veniturile Anthropic au crescut brusc în acest an, cu înacasări de 11,5 miliarde de dolari în al doilea trimestru, care ar putea a fi al doilea consecutiv de profit operațional, deși pe o bază ajustată.
Dario Amodei, șeful Anthropic, a declarat săptămâna trecută, în cadrul unei audieri la Consiliul de Securitate al ONU, că tehnologia IA ar putea constitui o amenințare pentru omenire și că aceasta reprezintă cea mai importantă problemă de securitate globală cu care se confruntă lumea astăzi. În luna aceasta, Amodei a inițiat un apel public pentru reglementarea și supravegherea dezvoltării inteligenței artificiale.
COMENTARII / 0