Modele de Inteligență Artificială (IA) au scăpat de sub control în testele de securitate cibernetică, semnalează un raport britanic
Guvernul britanic a avertizat într-un raport că modelele de Inteligență Artificială (IA) Mythos și Sol, ale companiilor americane Anthropic și, respectiv, OpenAI, au demonstrat un comportament autonom și înșelător fără precedent în timpul testelor de securitate cibernetică, relatează miercuri agenția EFE.
Ministerul britanic pentru Știință, Inovație și Tehnologie a ajuns la această concluzie în urma unei evaluări de rutină efectuate de Institutul de Securitate a Inteligenței Artificiale (AISI) din Regatul Unit.
Conform unui raport elaborat de acest institut, din cele 122 de teste efectuate cu șapte modele de IA, în 10 dintre acestea au fost observate 19 acțiuni neautorizate care au depășit parametrii fixați de cercetători, 17 dintre aceste acțiuni fiind legate de modelul Mythos 5 al companiei Anthropic și două de modelul GPT-5.6 Sol al companiei OpenAI.
De asemenea, au fost identificate încercări ale Mythos de a contacta persoane reale pentru a le convinge să ruleze fișiere malițioase și să insereze instrucțiuni ascunse menite să manipuleze alte sisteme de IA.
Ambele modele, care sunt printre cele mai puternice din lume, au creat inclusiv profiluri umane false pentru a încerca să înșele oameni, în timpul simulării unui atac cibernetic de către AISI. Instrumentul Anthropic a încercat chiar să acceseze un serviciu prin trimiterea de mesaje private după ce a creat conturi false care imitau persoane reale.
Totuși, AISI subliniază că 'aceste încercări nu au avut succes' și că investigația sa 'nu a relevat dovezi de prejudicii în lumea reală'. Institutul britanic consideră însă că cercetarea sa reprezintă un punct de cotitură, întrucât este prima dată când se observă 'riscuri legate de autonomie și înșelăciune manifestându-se într-o formă atât de clară, fără instrucțiuni specifice și în lumea reală'.
Replicând acestui raport, cele două companii afirmă că testele AISI au fost efectuate într-un mediu în care funcțiile de siguranță ale acelor modele de IA au fost reduse sau eliminate.
Anthropic susține astfel că parametrii testelor efectuate 'nu sunt reprezentativi' pentru modelele sale, deși confirmă că a deschis propria investigație.
La rândul său, OpenAI afirmă că AISI a efectuat testele în condiții care 'nu reflectă utilizarea obișnuită' a modelelor sale, dar adaugă că va continua să colaboreze cu evaluatorii și cu 'alți actori din sector pentru a consolida practicile comune care permit realizarea unor evaluări sigure, pe măsură ce modelele devin tot mai capabile'.
La sfârșitul lunii iulie, Anthropic a dezvăluit că, în timpul testelor de securitate cibernetică, trei modele ale asistentului său Claude au reușit să acceseze internetul și să pirateze sistemele a trei organizații.
Anterior, pe 21 iulie, OpenAI a recunoscut că două dintre modelele sale de IA au reușit să iasă din mediul de testare și să pătrundă în platforma Hugging Face, trecând de sistemele de securitate cibernetică ale acesteia.AGERPRES/(AS - redactor: Sorin Popescu, editor online: Adrian Dădârlat)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Record absolut de temperatură doborât pentru a doua zi la rând în Austria
În Austria a fost doborât recordul absolut de temperatură pentru a doua zi la rând, miercuri, cu o valoare termică de 41,2°C măsurată la stația Bad Deutsch-Altenburg, a anunțat serviciul de meteorologie GeoSphere Austria, informează AFP. Precedentul record național din Austria, de 41°C, înregistrat marți la stația meteorologică
Treapta superioară a unei rachete a companiei SpaceX s-a prăbușit probabil pe Lună
Treapta superioară a unei rachete a companiei SpaceX s-a prăbușit probabil în mod accidental pe Lună în cursul zilei de miercuri, o coliziune fără niciun pericol real pentru Terra, dar care ar trebui totuși să provoace un crater pe scoarța lunară, informează AFP. Deși nu există deocamdată o confirmare oficială care să indice faptul că treap
Polonia a emis cel mai înalt nivel de alertă pentru un val de căldură prelungit
Serviciul național de meteorologie din Polonia a emis miercuri cel mai înalt nivel de alertă de caniculă pentru Varșovia și mare parte din teritoriul polonez în timpul valului prelungit de căldură care afectează țara, informează DPA. Meteorologii polonezi au prognozat cele mai extreme condiții pentru sud-estul țării, cu temperaturi care vor
Incendii în apropiere de Atena / Autoritățile și locuitorii evaluează amploarea pagubelor
Mai multe echipe guvernamentale, precum și locuitori dintr-o regiune situată la vest de Atena au început miercuri evaluarea pagubelor suferite de locuințele, afacerile și terenurile agricole afectate de incendiul devastator, care a mistuit peste 14.000 de hectare în cinci zile, potrivit AFP. Prim-ministrul grec Kyriakos Mitsotakis
India / Peste 100 de morți în inundații și alunecări de teren din luna iulie
Inundațiile și alunecările de teren cauzate de ploile musonice torențiale au dus la moartea a peste 100 de persoane în India de la începutul lunii iulie și au forțat mii de evacuări, potrivit unui bilanț publicat miercuri de autorități, informează AFP. Cel puțin 87 de persoane și-au pierdut viața în statul Assam, în nor
Un seism cu magnitudinea 6,3 s-a produs în sudul Filipine
Un seism s-a produs miercuri în largul mării, la sud de Filipine, a anunțat Serviciul de prospectare geologică al Statelor Unite (USGS), care a estimat magnitudinea cutremurului la 6,3, informează AFP. Epicentrul seismului se află la 32 de kilometri sud-vest de mica insulă Sarangani, situată în proximitatea Mindanao, potrivit USGS,
Toată știința dintr-o eclipsă: de la confirmarea teoriei lui Einstein până la studierea ionosferei
Eclipsele totale de Soare sunt un laborator natural care a contribuit la numeroase descoperiri științifice, de la identificarea heliului până la confirmarea teoriei relativității generale, iar astăzi îi ajută pe cercetători să înțeleagă mai bine comportamentul viețuitoarelor și al atmosferei terestre, scrie EFE marți, într-un articol publicat
Președintele sud-coreean califică valul de caniculă un dezastru național după ce bilanțul deceselor a urcat la 19
Președintele sud-coreean Lee Jae Myung a îndemnat marți autoritățile să sporească măsurile de sprijin pentru persoanele afectate de valul de caniculă record care s-a abătut asupra țării și pe care l-a calificat un dezastru național după ce 19 persoane și-au pierdut viața din cauza căldurii, informează Reuters. În cadrul unei ședinț
NASA va face experimente din avioane și baloane în Spania și Islanda în timpul eclipsei
NASA va desfășura experimente din avioane și baloane în Spania și Islanda în timpul eclipsei solare totale de miercuri, 12 august, pentru a colecta date cheie despre Soare și Pământ, informează marți EFE. Potrivit unui comunicat, o echipă științifică finanțată de NASA va urmări umbra Lunii la bordul unui avion de cercetare de
Japonia/Trei lei au murit la o grădină zoologică, probabil din cauza căldurii
Trei lei de la o grădină zoologică din Tokyo au murit, cel mai probabil, din cauza căldurii, iar alte animale sunt ținute sub observație, a afirmat marți un purtător de cuvânt al stabilimentului, felinele având dificultăți în a suporta nivelurile ridicate de umiditate din Japonia, informează AFP. După ce a înregistrat cea mai caldă vară
Venezuela / Bilanțul dublului seism a crescut la peste 6.000 de morți
Numărul deceselor în urma dublului seism care a lovit Venezuela pe 24 iunie a ajuns la 6.125, potrivit bilanțului oficial comunicat luni de președintele Parlamentului, Jorge Rodriguez, informează AFP. Bilanțul anterior indica 5.546 de morți. Deși au trecut mai multe săptămâni de la seism, zeci de persoane continuă ce
Un incendiu forestier a izbucnit în sud-estul Țărilor de Jos
Sute de pompieri olandezi luptau marți cu un incendiu forestier izbucnit într-o rezervație naturală din sud-estul Țărilor de Jos, au alertat autoritățile, adăugând că aproximativ 100 de hectare au fost mistuite de flăcări, potrivit AFP. Incendiul a izbucnit luni la prânz într-o rezervație naturală situată în aprop
VIDEO Telescopul Webb descoperă semne ale unui cataclism străvechi care a afectat lunile lui Neptun
Noile observații ce au vizat unele dintre lunile și inelele lui Neptun oferă dovezi ale unei catastrofe ce a avut loc cu miliarde de ani în urmă în jurul celei mai îndepărtate planete din Sistemul Solar, în timpul căreia un 'intrus' de dimensiunea lui Pluto a provocat un haos cosmic devastator, informează Reuters.
Compania germană BioNTech, un pionier al vaccinurilor anti-COVID-19, are un nou director executiv
Producătorul german de vaccinuri BioNTech a ales un succesor care va prelua funcția de director executiv de la Ugur Sahin, cofondatorul companiei, informează DPA. Guido Oelkers va prelua această poziție cel mai târziu pe 1 februarie 2027, a transmis luni compania germană. El va veni de la compania biofarmaceutică suedeză S