Modelele AI s-ar putea autoreplica în curând pe dispozitivele casnice conectate la internet, avertizează Anthropic
Anthropic a anunțat luni că modelele de inteligență artificială (AI) de dimensiuni reduse ar putea fi la doar câteva luni distanță de a se autoreplica pe dispozitivele casnice conectate la internet, generând riscul ca rețelele de tip botnet bazate pe AI să se răspândească rapid, să reziste tentativelor de eliminare și chiar să pătrundă în centrele de date pentru a-și accelera expansiunea, transmite Reuters.
Luna trecută, CEO-ul Anthropic, Dario Amodei, a avansat pentru prima dată ideea că, în cursul anului viitor sau chiar mai devreme, AI ar putea prelua controlul asupra 'întregului internet' prin intermediul unei 'rețele botnet persistente' - un avertisment care a atras atenția și a stârnit îngrijorare în comunitatea de securitate cibernetică.
Rețelele botnet - rețele vaste de dispozitive controlate de operatori malițioși - există încă de la începuturile internetului și continuă să fie prezente și astăzi.
De regulă, o astfel de rețea include dispozitive IoT (Internet of Things) cu securitate precară - precum dispozitivele Android TV, electrocasnicele inteligente și camerele de supraveghere - și este utilizată de hackeri pentru a trimite mesaje spam, a răspândi programe malware sau a sabota companii vizate prin inundarea acestora cu trafic fictiv.
Articolul publicat luni pe blogul Anthropic pare să reprezinte prima încercare de a explica modul în care s-ar putea produce un astfel de scenariu.
Compania a precizat că experimentele sale au demonstrat că un agent AI malițios ar putea cumula puterea de calcul a unor dispozitive ieftine conectate la internet pentru a rula alte modele AI. De asemenea, s-a menționat că modelele au reușit să se replice în cadrul unei rețele de testare simplificate. 'O astfel de entitate capabilă de replicare ar fi dificil de oprit, întrucât nu există un punct central care să poată fi dezactivat', a afirmat compania.
Raportul amplifică îngrijorările generale privind riscurile de securitate asociate sistemelor AI tot mai performante, inclusiv potențialul acestora de a automatiza atacurile cibernetice, de a funcționa cu o supraveghere umană limitată și de a eluda mecanismele de protecție.
Progresele înregistrate în dezvoltarea modelelor au generat o serie de avertismente - adesea alarmante - din partea liderilor din industrie și a angajaților companiilor de AI, cu privire la riscurile grave, chiar existențiale, pe care le-ar putea implica o dezvoltare necontrolată a inteligenței artificiale.
Anthropic a precizat că experimentele sale au arătat că modelele cu 30 de miliarde de parametri sau mai puțini pot deja să execute multe dintre sarcinile individuale necesare pentru autoreplicare, deși întâmpină dificultăți în finalizarea cu succes a întregului proces. În cadrul unor teste simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a constatat că modelul GLM-5.2 și modelele mai performante erau capabile de replicare integrală (end-to-end).
Anthropic a precizat că, dacă modelele mai mici continuă să evolueze în același ritm ca până acum, acestea ar putea atinge capacitatea necesară pentru replicarea autonomă până la sfârșitul anului 2026.
Un vierme informatic bazat pe inteligență artificială, care rulează pe hardware cu putere de calcul redusă, ar putea avea nevoie de câteva zile pentru a finaliza anumite etape ale procesului de replicare, a menționat Anthropic. Compania a adăugat că o astfel de rețea ar putea continua să se extindă - într-un ritm mai lent decât în cazul anumitor programe malware convenționale - dacă dispozitivele compromise ar infecta un număr suficient de mare de alte echipamente.
Un vierme AI (AI worm) este un tip nou și periculos de malware care folosește inteligența artificială pentru a se răspândi singur prin rețelele de calculatoare, fără să aibă nevoie de intervenție umană. Spre deosebire de viermii informatici clasici, care folosesc cod fix și instrucțiuni stricte, un vierme AI folosește capacitatea de gândire a modelelor mari de limbaj (LLM) pentru a analiza țintele, a genera cod de atac personalizat pe loc și a păcăli sistemele de securitate.
De asemenea, Anthropic a avertizat că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centrele de date, deși experimentele sale nu au demonstrat replicarea autonomă prin intermediul centrelor de date comerciale.AGERPRES/(AS - editor: Codruț Bălu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Astronauta franceză Sophie Adenot consideră că oamenii ''nu sunt pregătiți să meargă pe Marte''
''Nu suntem pregătiți să mergem pe Marte'', a declarat astronauta franceză Sophie Adenot la revenirea ei pe Pământ, după o misiune de opt luni la bordul Stației Spațiale Internaționale (ISS), informează marți AFP. ''Nu suntem pregătiți, avem nevoie de progrese tehnologice majore'', a subliniat ea în
Incendii în Indonezia: 300 de locuințe arse, 1.000 de persoane evacuate în sudul insulei Sumatra
Un incendiu de pădure care s-a declanșat pe insula indoneziană Sumatra a distrus aproape 300 de locuințe și a forțat o mie de săteni să se evacueze în contextul în care această țară se confruntă de câteva săptămâni cu incendii devastatoare, a declarat marți un oficial local, relatează AFP. Localnicii au detectat pentru
Seismologi români se alătură unui proiect croat pentru detectarea timpurie a cutremurelor
Serviciul Seismologic al Croației a prezentat marți ''Crossnet'', un proiect finanțat de UE în valoare de 13 milioane de euro pentru dezvoltarea unei rețele de date seismice, una dintre cele mai mari investiții ale țării în infrastructura seismologică din ultimele decenii la care participă și seismologi români, transmite marți
VIDEO SpaceX a lansat o încărcătură de 2,8 tone de alimente și echipamente spre ISS
SpaceX a lansat marți dimineață (13 octombrie) cea mai recentă misiune de transport de mărfuri către Stația Spațială Internațională (ISS), cu o rachetă Falcon 9 și o capsulă automată Dragon încărcată cu 2,8 tone de alimente și echipamente, transmite marți
AI / 225 de cercetători solicită ''schimbări imediate'' în scopul prevenirii unor incidente majore
Circa 225 de oameni de știință specializați în inteligența artificială (AI) și securitate cibernetică, printre care și canadianul Yoshua Bengio, considerat unul dintre părinții inteligenței artificiale, au lansat marți un apel la ''schimbări imediate'' în practicile de utilizare a AI în scopul prevenirii unor viitoare incidente de se
Modele AI s-ar putea autoreplica în curând fără acces la centre de date, avertizează Anthropic
Compania Anthropic a afirmat luni că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente și dispozitive Android TV de la producători necunoscuți, informează Reuters. În timpul unor experimente, Anthro
Uraganul Simon înaintează de-a lungul coastei pacifice a Mexicului aducând inundații și evacuări
Uraganul Simon și-a continuat luni deplasarea spre nord-vest, în largul coastei pacifice a Mexicului, lovind statele vestice cu vânturi periculoase, ploi abundente și inundații care au pus comunități întregi în stare de alertă pentru posibile evacuări, transmite Reuters. Centrul Național pentru Uragane din SUA a anunțat
Uraganul Simon va atinge uscatul în Mexic la jumătatea acestei săptămâni
Uraganul Simon a scăzut în intensitate, însă amenință totuși să atingă uscatul în Mexic 'la jumătatea acestei săptămâni', potrivit celor mai recente prognoze publicate luni de Centrul Național pentru Uragane (NHC) din Statele Unite, informează AFP. Uraganul Simon, care evoluează lent de-a lungul coastelor mexica
Nepal/ Echipe de salvatori continuă căutarea persoanelor dispărute în urma celei mai recente viituri
Echipele de salvatori își continuau luni eforturile de căutare a cel puțin cinci persoane date dispărute după viitura care a măturat duminică valea râului Budi Gandaki, în centrul Nepalului, informează AFP. ''Continuăm operațiunile de căutare și salvare, patru elicoptere au fost mobilizate'', a precizat pentru
Anul acesta s-a înregistrat a doua cea mai caldă lună septembrie din istoria măsurătorilor (Copernicus)
În 2026 s-a înregistrat a doua cea mai caldă lună septembrie din istoria măsurătorilor la nivel global, temperatura medie ajungând la 16,27 grade Celsius, potrivit Serviciului Copernicus privind schimbările climatice, informează DPA. Luna trecută a marcat de asemenea cea de-a doua lună consecutivă anul acesta când tempe
Peste 200 de replici după seismul cu magnitudinea 7,7, înregistrat vineri în Panama
Panama a înregistrat peste 200 de replici în urma seismului cu magnitudinea 7,7 produs vineri, care a avariat sute de locuințe și elemente de infrastructură din țară, determinând guvernul să declare în weekend stare de urgență națională, informează Reuters. Nu au fost raportate decese, dar
Astronauta franceză Sophie Adenot a trecut prin întreg spectrul emoțiilor umane în timpul misiunii pe ISS
Astronauta franceză Sophie Adenot a experimentat 'întregul spectru al emoțiilor umane, de la cele mai bucuroase la cele mai dificile' momente în timpul celor opt luni petrecute în spațiu, a declarat ea în timpul primei sale apariții publice pe Pământ, sâmbătă, la Koln, Germania. La 400 km deasupra Pă
UPDATE Un puternic seism s-a produs în Panama; operaţiunile în Canalul Panama se desfăşoară normal
Un puternic seism cu magnitudinea 7,7 s-a produs vineri în apropierea coastei sudice a Panama la o adâncime de 10 kilometri, potrivit Serviciului de prospectare geologică al Statelor Unite (USGS); nu au fost raportate pagube imediate, iar Autoritatea Canalului Panama a spus să operațiunile se desfășoară normal, informează Reuters.
O tornadă a lovit mai multe localități din Sicilia
O tornadă care s-a abătut vineri asupra orașului sicilian Marsala și a orașelor învecinate a provocat răsturnarea unor vehicule și rănirea a două persoane, un eveniment aproape fără precedent pentru această insulă din Marea Mediterană, informează Reuters. Vijelia a provocat panică în rândul rezidenților după ce a distrus o locuință și a avari