Un cercetător a demisionat de la Anthropic cu un avertisment dur privind siguranța AI
Un cercetător din domeniul inteligenței artificiale a părăsit gigantul Anthropic, avertizând că dezvoltatorii cred sincer că tehnologia ar putea distruge omenirea până la sfârșitul deceniului.
Ce s-a întâmplat?
Cercetătorul Jacob Coxon a demisionat din cadrul companiei Anthropic și a lansat un semnal de alarmă categoric privind lipsa de siguranță în dezvoltarea noilor tehnologii.
Într-un mesaj publicat la plecare, acesta a acuzat industria că joacă la ruletă viețile oamenilor și a afirmat că cei care construiesc aceste sisteme cred cu adevărat că inteligența artificială ar putea ucide întreaga omenire până la finalul acestui deceniu.
De ce contează?
Avertismentul nu vine de la critici externi sau activiști, ci direct din laboratorul unuia dintre cei mai importanți dezvoltatori de inteligență artificială din lume. Când inginerii din interior susțin că viteza lansărilor ignoră riscuri existențiale reale, presiunea publică asupra întregului sector tehnologic crește semnificativ.
Oamenii care construiesc inteligența artificială cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului.
Unghiul din Bruxelles
La Bruxelles, astfel de semnale din Silicon Valley confirmă teza funcționarilor europeni: marile companii tech nu pot fi lăsate să se autoreglementeze. Demisiile zgomotoase ale specialiștilor oferă muniție Comisiei Europene pentru a cere verificări tehnice stricte înainte de punerea pe piață a noilor modele.
Comisia Europeană și autoritățile naționale de supraveghere digitală aplică standardele europene de siguranță.
Ce înseamnă pentru România?
Efectul asupra României este indirect, dar relevant pentru întregul ecosistem digital local. Înăsprirea controalelor sau eventualele restricții impuse dezvoltatorilor globali vor stabili clar ce instrumente avansate pot fi utilizate în siguranță de companiile și instituțiile din România.
Ce urmează?
Dezbaterile privind transparența marilor modele continuă, în timp ce presiunea pe companiile de profil crește pentru a demonstra că securitatea sistemelor primează în fața vitezei de lansare.