Modele AI s-ar putea autoreplica în curând fără acces la centre de date, avertizează Anthropic
Compania Anthropic a afirmat luni că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente și dispozitive Android TV de la producători necunoscuți, informează Reuters.
În timpul unor experimente, Anthropic a încercat să verifice dacă modelele AI pot detecta dispozitive vulnerabile pe care se să copieze și să se răspândească fără ajutor uman.
Compania a descoperit că modele mai mici de 30 de miliarde de parametrii pot finaliza numeroșii pași necesari pentru replicare.
Cu toate acestea, astfel de modele AI au întâmpinat dificultăți în completarea întregii secvențe de la început până la final.
În cadrul unor teste simplificate, care au presupun renunțarea la o parte din măsurile de securitate, Anthropic a descoperit că modele precum GLM-5.2 sau modele mai mari sunt capabile de o autoreplicare completă.
Modelele care încep procesul de autoreplicare sunt dificil de oprit întrucât nu există un punct de oprire și, spre deosebire de malware non-AI, pot identifica singure dispozitive necunoscute și pot viza procesoarele din centre de date, a avertizat Anthropic.
În cadrul studiului, compania s-a concetrat pe dispozitive IoT precum televizoare Android, electrocasnice inteligente, precum și alte dispozitive conectate la internet întrucât acestea sunt, de obicei, slab securizate.
Gigantul AI a avertizat că, dacă modelele mici continuă să se perfecționeze în același ritm istoric, vor fi capabile de a se autoreplica autonom până la sfârșitul acestui an și vor fi urmate și de alte modele la scurt timp după aceea.
Anthropic a mai spus că astfel de sisteme autonome AI se pot autoreplica într-un ritm lent și că să se bazează pe resurse de calcul disponibile pe scară largă, dar relativ nesigure. Potrivit companiei, sistemele ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI. AGERPRES/(AS-redactor: Simona Tatu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Depășirea pragului de încălzire globală amenință rezervele de gheață ale planetei, avertizează un studiu
Calotele glaciare din Groenlanda și Antarctica se topesc de circa șase ori mai rapid decât în anii 1990, în contextul încălzirii globale care amenință să provoace creșterea nivelului mării, mai multe avalanșe și nesiguranța aprovizionării cu apă, potrivit a două rapoarte publicate luni, informează DPA. Rapoartele, reali
Astronauta franceză Sophie Adenot ''visează'' să ajungă pe Lună
La trei săptămâni după ce a revenit pe Terra la capătul unei misiuni de opt luni în spațiu, astronauta franceză Sophie Adenot își continuă readaptarea la viața terestră și a mărturisit, luni, că a ajunge pe Lună ar fi ''un vis'', informează AFP. ''Vreau să continui cu această meserie și să încerc să contribui la
După ce Soarele își va termina combustibilul nuclear, marile planete se vor distruge una pe cealaltă (simulări)
Atunci când, inevitabil, Soarele își va termina combustibilul nuclear, se va umfla în stadiul de gigantă roșie și apoi se va stinge încet, ca o pitică albă, nici măcar sistemul solar exterior nu va fi ferit de haosul care va urma, conform unor noi simulări care arată că orbitele celor patru planete gigantice Jupiter, Saturn, Uranus și Neptun a
BTA/90 de cercetători și 35 de proiecte în cadrul celei de-a 35-a expediții antarctice bulgare
Aproximativ 90 de persoane, implicate în peste 35 de proiecte, vor participa la cea de-a 35-a expediție antarctică bulgară. Anunțul a fost făcut în cadrul unei conferințe de presă organizate marți, la Sofia, înaintea plecării expediției, de Institutul Antarctic Bulgar (BAI), Centrul Național pentru Studii Polare (NCPS) și Kaufland Bulgaria. &
Giganții din domeniul AI promit companiilor mass-media un buton care împiedică preluarea conținuturilor
Giganții din domeniul inteligenței artificiale au promis vineri mass-mediei și altor site-uri o modalitate unică de a împiedica aspirarea conținuturile lor pentru antrenarea modelelor AI, în contextul disputelor juridice cu o parte din presă, informează AFP. În prezent, un administrator de site trebuie să activeze un blocaj diferit pentru fie
Conferința ONU privind biodiversitatea, desfășurată în Armenia, se încheie într-o notă de optimism prudent
Organizațiile din domeniul protecției mediului au exprimat un optimism prudent la încheierea, sâmbătă, la Erevan, a celei de-a 17-a conferințe a ONU privind biodiversitatea (COP17), informează DPA. Circa 200 de state membre ale Convenției pentru Diversitate Biologică au negociat aproape două săptămâni în capitala Armeniei, încep&a
Discuții finale înaintea ultimei sesiuni plenare COP17 de la Erevan
Aproape 200 de state încearcă să ajungă la compromisuri de ultim moment, după două săptămâni de discuții marcate de dezacorduri profunde, înaintea ultimei sesiuni plenare a COP17 privind biodiversitatea în Armenia, transmite vineri AFP. Se așteaptă ca cele mai importante puncte să rămână în mare parte neschi
Un startup californian a apelat la AI pentru a obține un virus capabil să lupte cu infecțiile bacteriene rezistente la antibiotice
Cercetătorii de la startupul californian Radical Numerics au utiliat inteligența artificială (AI) pentru a crea un virus capabil să combată o infecție bacteriană rezistentă la tratamentul convențional cu antibotice, metodă care, dacă se dovedește eficientă, ar putea ajuta oamenii să lupte împotriva bolilor microbiene fără a agrava rezistența la antibiotice, tra
Papa Leon al XIV-lea: Agenții AI sunt instrumente, nu persoane
Papa Leon al XIV-lea a avertizat vineri împotriva acordării unei personalități juridice sau a unor drepturi pentru agenții de inteligență artificială (AI), afirmând că responsabilitatea pentru acțiunile acestora trebuie să le revină, în mod clar, creatorilor lor umani, informează AFP. 'Mașinile sunt instrumente, nu persoa
Japonia/ Un pacient a beneficiat de un tratament împotriva bolii Parkinson pe bază de celule stem
Un pacient a beneficiat de un tratament de pionierat pe bază de celule stem pentru tratarea bolii Parkinson, a anunțat vineri compania farmaceutică niponă care l-a dezvoltat, informează AFP. 'Prima grefă a fost realizată la Spitalul Universitar din Kyoto în luna octombrie', a afirmat laboratorul Sumitomo Pharma într-un comu
Bhutan/ O viitură în urma revărsării unui lac glaciar a produs pagube materiale; nu au fost raportați răniți
O viitură cauzată de revărsarea lacului glaciar Shintaphu a distrus elemente de infrastructură la izvoarele naturale Gasa Tshachu din regatul Bhutan, situat la poalele Munților Himalaya, potrivit unor articole apărute vineri în presă, informează Reuters. Nu au fost raportate persoane rănite sau decese, a precizat postul public BBS. Izvoare
Poluarea cauzată de incendii a provocat 3.560 de decese în Indonezia în septembrie (raport științific)
Poluarea legată de incendiile masive care au afectat Indonezia în ultimele luni a provocat aproximativ 3.560 de decese în această țară în luna septembrie, potrivit unui raport științific publicat joi, informează AFP. ''Deteriorarea calității aerului din cauza incendiilor de pădure și de vegetație din Indonezia a dus la creșterea bilan
VIDEO Filipine ridică nivelul de alertă după erupția vulcanului Mayon
Cel mai activ vulcan din Filipine a erupt vineri, expulzând în atmosferă un nor dens de cenușă, care a atins o înălțime de 3.000 de metri, ceea ce a determinat oamenii de știință să ridice nivelul de alertă, transmit agențiile de presă DPA și Xinhua.
Fotografii ale unei eclipse solare dezvăluie noi detalii ale coroanei solare
Fotografiile recent publicate ale Soarelui, surprinse în timpul eclipsei totale din 12 august, dezvăluie atmosfera exterioară a Soarelui în detalii fără precedent, surprinzând o uriașă gaură coronală dar și structuri rare formate de vântul solar denumite 'inele de fum', transmite joi Space.com. Imaginile au fost
Paiele de hârtie sunt mai dăunătoare pentru mediu decât cele din plastic (studiu)
Un studiu recent comandat de guvernul din Coreea de Sud a constatat că paiele de hârtie pot fi mai dăunătoare pentru mediu decât cele din plastic, ceea ce a dus la critici la adresa eforturilor țării de a înlocui plasticul, eforturi care au început în 2022, transmite site-ul Geekspin care citează publicațiile The Korea Herald și The Kore