Responsabil OpenAI demisionează: Avertismentul său surprinde

David Robinson, responsabilul de securitate la OpenAI, a comunicat în această săptămână că se retrage din funcție și a emis un avertisment referitor la cultura companiei în procesul de creare a instrumentelor de inteligență artificială.

Robinson a supravegheat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT.

Într-un text amplu, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson subliniază necesitatea de reformă culturală în cadrul firmelor de vârf din domeniul inteligenței artificiale. În plus, el a atras atenția asupra faptului că recentele incidente de siguranță a agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”, scrie The Guardian. 

Citește șiCine va proteja omenirea de inteligența artificială. Răspunsul controversat al specialiștilor (Axios)

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a spus Robinson într-un material publicat în revista The Atlantic.

În textul scris de el, Robinson a solicitat două modificări în materie de siguranță: ca firmele din domeniul inteligenței artificiale să se bazeze pe expertiza în siguranță din alte domenii, precum cel nuclear și cel al aviației, și să dezvolte o „știință nouă” care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează în mod autonom.

În ultimele săptămâni, un număr crescut de colaboratori din marile companii din AI au părăsit locurile de muncă.

Perspectiva lui Robinson apare doar câteva săptămâni după ce Jacob Coxon, specialist care a activat în ultimii ani atât la OpenAI, cât și la Anthropic, a depus demisia și a anunțat retragerea din domeniul inteligenței artificiale.

El a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului” – iar acest avertisment a fost urmat de unul din partea Anthropic, conform căruia există o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu.

În săptămânile recente, OpenAI a demonstrat atenție în urma incidentului cu Hugging Face. Săptămâna aceasta, compania a comunicat că renunță la lansarea unui model de inteligență artificială de nouă generație, după ce cercetătorii au raportat probleme de siguranță în testele interne. În plus, OpenAI a suspendat antrenamentul celor mai avansate modele ale sale.