Modelele AI s-ar putea autoreplica în curând pe dispozitivele casnice conectate la internet, avertizează Anthropic
Anthropic a anunțat luni că modelele de inteligență artificială (AI) de dimensiuni reduse ar putea fi la doar câteva luni distanță de a se autoreplica pe dispozitivele casnice conectate la internet, generând riscul ca rețelele de tip botnet bazate pe AI să se răspândească rapid, să reziste tentativelor de eliminare și chiar să pătrundă în centrele de date pentru a-și accelera expansiunea, transmite Reuters.
Luna trecută, CEO-ul Anthropic, Dario Amodei, a avansat pentru prima dată ideea că, în cursul anului viitor sau chiar mai devreme, AI ar putea prelua controlul asupra 'întregului internet' prin intermediul unei 'rețele botnet persistente' - un avertisment care a atras atenția și a stârnit îngrijorare în comunitatea de securitate cibernetică.
Rețelele botnet - rețele vaste de dispozitive controlate de operatori malițioși - există încă de la începuturile internetului și continuă să fie prezente și astăzi.
De regulă, o astfel de rețea include dispozitive IoT (Internet of Things) cu securitate precară - precum dispozitivele Android TV, electrocasnicele inteligente și camerele de supraveghere - și este utilizată de hackeri pentru a trimite mesaje spam, a răspândi programe malware sau a sabota companii vizate prin inundarea acestora cu trafic fictiv.
Articolul publicat luni pe blogul Anthropic pare să reprezinte prima încercare de a explica modul în care s-ar putea produce un astfel de scenariu.
Compania a precizat că experimentele sale au demonstrat că un agent AI malițios ar putea cumula puterea de calcul a unor dispozitive ieftine conectate la internet pentru a rula alte modele AI. De asemenea, s-a menționat că modelele au reușit să se replice în cadrul unei rețele de testare simplificate. 'O astfel de entitate capabilă de replicare ar fi dificil de oprit, întrucât nu există un punct central care să poată fi dezactivat', a afirmat compania.
Raportul amplifică îngrijorările generale privind riscurile de securitate asociate sistemelor AI tot mai performante, inclusiv potențialul acestora de a automatiza atacurile cibernetice, de a funcționa cu o supraveghere umană limitată și de a eluda mecanismele de protecție.
Progresele înregistrate în dezvoltarea modelelor au generat o serie de avertismente - adesea alarmante - din partea liderilor din industrie și a angajaților companiilor de AI, cu privire la riscurile grave, chiar existențiale, pe care le-ar putea implica o dezvoltare necontrolată a inteligenței artificiale.
Anthropic a precizat că experimentele sale au arătat că modelele cu 30 de miliarde de parametri sau mai puțini pot deja să execute multe dintre sarcinile individuale necesare pentru autoreplicare, deși întâmpină dificultăți în finalizarea cu succes a întregului proces. În cadrul unor teste simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a constatat că modelul GLM-5.2 și modelele mai performante erau capabile de replicare integrală (end-to-end).
Anthropic a precizat că, dacă modelele mai mici continuă să evolueze în același ritm ca până acum, acestea ar putea atinge capacitatea necesară pentru replicarea autonomă până la sfârșitul anului 2026.
Un vierme informatic bazat pe inteligență artificială, care rulează pe hardware cu putere de calcul redusă, ar putea avea nevoie de câteva zile pentru a finaliza anumite etape ale procesului de replicare, a menționat Anthropic. Compania a adăugat că o astfel de rețea ar putea continua să se extindă - într-un ritm mai lent decât în cazul anumitor programe malware convenționale - dacă dispozitivele compromise ar infecta un număr suficient de mare de alte echipamente.
Un vierme AI (AI worm) este un tip nou și periculos de malware care folosește inteligența artificială pentru a se răspândi singur prin rețelele de calculatoare, fără să aibă nevoie de intervenție umană. Spre deosebire de viermii informatici clasici, care folosesc cod fix și instrucțiuni stricte, un vierme AI folosește capacitatea de gândire a modelelor mari de limbaj (LLM) pentru a analiza țintele, a genera cod de atac personalizat pe loc și a păcăli sistemele de securitate.
De asemenea, Anthropic a avertizat că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centrele de date, deși experimentele sale nu au demonstrat replicarea autonomă prin intermediul centrelor de date comerciale.AGERPRES/(AS - editor: Codruț Bălu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Pe Marte există vulcani latenți și o poartă deschisă către viață (studiu)
Marte nu este o planetă moartă: noi semne de activitate vulcanică au fost detectate pe 'Planeta Roșie', a cărei suprafață găzduiește cei mai mari vulcani din Sistemul Solar, ceea ce sugerează posibilitatea de apariție a vieții, informează AFP. 'Vulcanismul pe Marte a început în urmă cu 4,5 miliarde de ani și se observă,
Primele transplanturi renale din lume care utilizează un nou medicament antirespingere, realizate la Bologna
Primele transplanturi de rinichi din lume care utilizează un nou medicament antirespingere au fost realizate în orașul italian Bologna, informează miercuri agenția de presă ANSA. Pentru prima dată la nivel mondial, doi pacienți care aveau șanse aproape nule de a primi un organ compatibil au fost supuși cu succes unor transplanturi renale
Climă/sănătate: OMS propune șase măsuri pentru salvarea a circa 1,6 milioane de vieți în fiecare an
Punerea în aplicare la nivel mondial a șase măsuri menite să limiteze efectele schimbărilor climatice asupra sănătății ar putea contribui la prevenirea a 1,56 milioane de decese pe an, generând în același timp beneficii economice substanțiale, conform unui raport al Organizației Mondiale a Sănătății (OMS) publicat miercuri și citat de AFP.
India/ Capitala New Delhi, învăluită într-o ceață densă și toxică
Nivelul de poluare atmosferă din New Delhi a depășit miercuri dimineață de peste 30 de ori pragul zilnic recomandat de Organizația Mondială a Sănătății, capitala Indiei fiind învăluită, încă de dimineață, într-o ceață toxică densă, relatează AFP. Această agravare a poluării survine la trei zile după intrarea în vigoare
Cutremur cu magnitudinea 5,5 în vestul Columbiei (EMSC)
Un cutremur cu magnitudinea 5,5 s-a produs marți în vestul Columbiei, în apropiere de orașul Tulua, a anunțat Centrul Seismologic Euro-Mediteranean (EMSC), citat de Reuters. EMSC a estimat inițial că seismul a avut magnitudinea 5,8, înainte de a o revizui la 5,5. Cutremurul s-a produs la o adâncime de 35
Depășirea pragului de încălzire globală amenință rezervele de gheață ale planetei, avertizează un studiu
Calotele glaciare din Groenlanda și Antarctica se topesc de circa șase ori mai rapid decât în anii 1990, în contextul încălzirii globale care amenință să provoace creșterea nivelului mării, mai multe avalanșe și nesiguranța aprovizionării cu apă, potrivit a două rapoarte publicate luni, informează DPA. Rapoartele, reali
Astronauta franceză Sophie Adenot ''visează'' să ajungă pe Lună
La trei săptămâni după ce a revenit pe Terra la capătul unei misiuni de opt luni în spațiu, astronauta franceză Sophie Adenot își continuă readaptarea la viața terestră și a mărturisit, luni, că a ajunge pe Lună ar fi ''un vis'', informează AFP. ''Vreau să continui cu această meserie și să încerc să contribui la
După ce Soarele își va termina combustibilul nuclear, marile planete se vor distruge una pe cealaltă (simulări)
Atunci când, inevitabil, Soarele își va termina combustibilul nuclear, se va umfla în stadiul de gigantă roșie și apoi se va stinge încet, ca o pitică albă, nici măcar sistemul solar exterior nu va fi ferit de haosul care va urma, conform unor noi simulări care arată că orbitele celor patru planete gigantice Jupiter, Saturn, Uranus și Neptun a
BTA/90 de cercetători și 35 de proiecte în cadrul celei de-a 35-a expediții antarctice bulgare
Aproximativ 90 de persoane, implicate în peste 35 de proiecte, vor participa la cea de-a 35-a expediție antarctică bulgară. Anunțul a fost făcut în cadrul unei conferințe de presă organizate marți, la Sofia, înaintea plecării expediției, de Institutul Antarctic Bulgar (BAI), Centrul Național pentru Studii Polare (NCPS) și Kaufland Bulgaria. &
Giganții din domeniul AI promit companiilor mass-media un buton care împiedică preluarea conținuturilor
Giganții din domeniul inteligenței artificiale au promis vineri mass-mediei și altor site-uri o modalitate unică de a împiedica aspirarea conținuturile lor pentru antrenarea modelelor AI, în contextul disputelor juridice cu o parte din presă, informează AFP. În prezent, un administrator de site trebuie să activeze un blocaj diferit pentru fie
Conferința ONU privind biodiversitatea, desfășurată în Armenia, se încheie într-o notă de optimism prudent
Organizațiile din domeniul protecției mediului au exprimat un optimism prudent la încheierea, sâmbătă, la Erevan, a celei de-a 17-a conferințe a ONU privind biodiversitatea (COP17), informează DPA. Circa 200 de state membre ale Convenției pentru Diversitate Biologică au negociat aproape două săptămâni în capitala Armeniei, încep&a
Discuții finale înaintea ultimei sesiuni plenare COP17 de la Erevan
Aproape 200 de state încearcă să ajungă la compromisuri de ultim moment, după două săptămâni de discuții marcate de dezacorduri profunde, înaintea ultimei sesiuni plenare a COP17 privind biodiversitatea în Armenia, transmite vineri AFP. Se așteaptă ca cele mai importante puncte să rămână în mare parte neschi
Un startup californian a apelat la AI pentru a obține un virus capabil să lupte cu infecțiile bacteriene rezistente la antibiotice
Cercetătorii de la startupul californian Radical Numerics au utiliat inteligența artificială (AI) pentru a crea un virus capabil să combată o infecție bacteriană rezistentă la tratamentul convențional cu antibotice, metodă care, dacă se dovedește eficientă, ar putea ajuta oamenii să lupte împotriva bolilor microbiene fără a agrava rezistența la antibiotice, tra
Papa Leon al XIV-lea: Agenții AI sunt instrumente, nu persoane
Papa Leon al XIV-lea a avertizat vineri împotriva acordării unei personalități juridice sau a unor drepturi pentru agenții de inteligență artificială (AI), afirmând că responsabilitatea pentru acțiunile acestora trebuie să le revină, în mod clar, creatorilor lor umani, informează AFP. 'Mașinile sunt instrumente, nu persoa
Japonia/ Un pacient a beneficiat de un tratament împotriva bolii Parkinson pe bază de celule stem
Un pacient a beneficiat de un tratament de pionierat pe bază de celule stem pentru tratarea bolii Parkinson, a anunțat vineri compania farmaceutică niponă care l-a dezvoltat, informează AFP. 'Prima grefă a fost realizată la Spitalul Universitar din Kyoto în luna octombrie', a afirmat laboratorul Sumitomo Pharma într-un comu