Modele de Inteligență Artificială (IA) au scăpat de sub control în testele de securitate cibernetică, semnalează un raport britanic
Guvernul britanic a avertizat într-un raport că modelele de Inteligență Artificială (IA) Mythos și Sol, ale companiilor americane Anthropic și, respectiv, OpenAI, au demonstrat un comportament autonom și înșelător fără precedent în timpul testelor de securitate cibernetică, relatează miercuri agenția EFE.
Ministerul britanic pentru Știință, Inovație și Tehnologie a ajuns la această concluzie în urma unei evaluări de rutină efectuate de Institutul de Securitate a Inteligenței Artificiale (AISI) din Regatul Unit.
Conform unui raport elaborat de acest institut, din cele 122 de teste efectuate cu șapte modele de IA, în 10 dintre acestea au fost observate 19 acțiuni neautorizate care au depășit parametrii fixați de cercetători, 17 dintre aceste acțiuni fiind legate de modelul Mythos 5 al companiei Anthropic și două de modelul GPT-5.6 Sol al companiei OpenAI.
De asemenea, au fost identificate încercări ale Mythos de a contacta persoane reale pentru a le convinge să ruleze fișiere malițioase și să insereze instrucțiuni ascunse menite să manipuleze alte sisteme de IA.
Ambele modele, care sunt printre cele mai puternice din lume, au creat inclusiv profiluri umane false pentru a încerca să înșele oameni, în timpul simulării unui atac cibernetic de către AISI. Instrumentul Anthropic a încercat chiar să acceseze un serviciu prin trimiterea de mesaje private după ce a creat conturi false care imitau persoane reale.
Totuși, AISI subliniază că 'aceste încercări nu au avut succes' și că investigația sa 'nu a relevat dovezi de prejudicii în lumea reală'. Institutul britanic consideră însă că cercetarea sa reprezintă un punct de cotitură, întrucât este prima dată când se observă 'riscuri legate de autonomie și înșelăciune manifestându-se într-o formă atât de clară, fără instrucțiuni specifice și în lumea reală'.
Replicând acestui raport, cele două companii afirmă că testele AISI au fost efectuate într-un mediu în care funcțiile de siguranță ale acelor modele de IA au fost reduse sau eliminate.
Anthropic susține astfel că parametrii testelor efectuate 'nu sunt reprezentativi' pentru modelele sale, deși confirmă că a deschis propria investigație.
La rândul său, OpenAI afirmă că AISI a efectuat testele în condiții care 'nu reflectă utilizarea obișnuită' a modelelor sale, dar adaugă că va continua să colaboreze cu evaluatorii și cu 'alți actori din sector pentru a consolida practicile comune care permit realizarea unor evaluări sigure, pe măsură ce modelele devin tot mai capabile'.
La sfârșitul lunii iulie, Anthropic a dezvăluit că, în timpul testelor de securitate cibernetică, trei modele ale asistentului său Claude au reușit să acceseze internetul și să pirateze sistemele a trei organizații.
Anterior, pe 21 iulie, OpenAI a recunoscut că două dintre modelele sale de IA au reușit să iasă din mediul de testare și să pătrundă în platforma Hugging Face, trecând de sistemele de securitate cibernetică ale acesteia.AGERPRES/(AS - redactor: Sorin Popescu, editor online: Adrian Dădârlat)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
VIDEO Viitură la granița dintre Nepal și Tibet: Cel puțin 160 de morți și sute de dispăruți
O viitură devastatoare însoțită de o alunecare de teren survenită la granița dintre Nepal și Tibet - un teritoriu autonom controlat de China - a ucis miercuri cel puțin 160 de oameni, iar mai multe sute de persoane sunt încă date dispărute, inclusiv numeroși turiști străini, informează AFP. Poliția nepaleză a precizat miercuri sear
Seism cu magnitudinea 5,1 înregistrat în Columbia, la două săptămâni după un cutremur devastator
Un seism cu magnitudinea 5,1 a zguduit miercuri Bogota și alte orașe din Columbia, fără să facă victime potrivit primelor constatări, dar stârnind panică în rândul locuitorilor, la doar două săptămâni după un cutremur devastator care s-a produs în vestul țării, informează AFP. Seismul de miercuri a avut loc la adâncimea de 1
Bill Gates avertizează în privința AI, propunând o taxă și rezervarea unor locuri de muncă pentru oameni
Bill Gates, cofondator și fost CEO al companiei Microsoft, a lansat miercuri un apel pentru gestionarea schimbărilor generate de inteligența artificială (AI), propunând o taxă pe AI, crearea unui organism internațional și desemnarea unor locuri de muncă rezervate oamenilor, informează AFP. 'Nu-mi place să le dau vești proaste oamenilor sau să spun că
China anunță cel puțin 3 morți și 265 de dispăruți în urma viiturii produse între Tibet și Nepal
Cel puțin trei persoane au murit în China, iar alte 265 sunt date dispărute în urma unei alunecări de noroi care s-a produs miercuri în Gyirong, principalul punct de trecere terestră între Tibet și Nepal, a anunțat postul public de televiziune CCTV, citând un bilanț preliminar al autorităților chineze, informează Reuters. Numărul
Inundații în Nepal: UE a activat Copernicus, sistemul său de monitorizare prin satelit
Uniunea Europeană a anunțat miercuri că a activat sistemul său de monitorizare prin satelit, Copernicus, pentru a sprijini astfel echipele de salvare în urma inundațiilor masive din Nepal și a precizat că este pregătită să ofere asistență suplimentară, informează AFP. 'Sistemul Copernicus a fost activat pentru a contribui la cartogra
Schimbări climatice: Japonia intenționează să își extindă prognozele meteorologice la două săptămâni
Agenția Meteorologică Japoneză (JMA) a anunțat miercuri că intenționează să emită prognoze pentru o perioadă de două săptămâni - față de intervalul actual de șapte zile - pentru a pregăti mai bine populația în cazul unor evenimente meteorologice extreme, informează AFP. La fel ca în restul lumii, oamenii de știință estimează că schimbările cl
Cel puțin 384 de călători, dintre care 291 de cetățeni străini, dispăruți în inundațiile din Nepal
Cel puțin 384 de călători, dintre care 291 de cetățeni străini au fost dați dispăruți după inundațiile produse în regiunea graniței dintre Nepal și Tibet, conform consiliului de turism al țării, transmite miercuri Reuters. Dintre cetățenii străini dispăruți, 105 sunt de naționalitate indiană. Cel puțin 9 persoane au murit în
Opt morți în inundațiile din Nepal
Armata nepaleză a intervenit miercuri cu elicoptere după ce o viitură fulgerătoare masivă a măturat satele aflate de-a lungul albiei unui râu din națiunea himalayană, ucigând opt persoane și paralizând infrastructura rutieră și energetică în zonele din apropierea Tibetului, transmite Reuters. Dincolo de graniță, Tibetul
Nepalul în alertă după inundațiile grave produse în nordul țării
Autoritățile nepaleze au anunțat miercuri desfășurarea de resurse de salvare de urgență în urma inundațiilor masive din nordul țării, pentru care nu a fost disponibilă o evaluare imediată a pagubelor, transmite AFP. 'Nu avem încă o evaluare precisă a pagubelor, dar inundațiile sunt masive și probabil au afectat multe zone locui
El Salvador: Alertă maximă din cauza secetei asociate cu fenomenul El Nino
El Salvador a declarat marți alertă maximă din cauza unei secete asociate cu fenomenul El Nino, care a provocat pierderi de culturi, a anunțat Protecția civilă, notează AFP. El Nino este un fenomen natural care apare la fiecare doi până la șapte ani. Apele de suprafață din centrul și estul Oceanului Pacific ecuatorial se încălzesc,
Zeci de noi incendii de vegetație au izbucnit în Grecia
Treizeci și nouă de incendii de vegetație au izbucnit marți în Grecia în decurs de doar câteva ore, a relatat serviciul de pompieri din această țară, informează DPA. Cel mai sever focar se află pe insula Salamis, situată în largul coastelor Atenei, potrivit pompierilor eleni. Insula Salamis găzduiește cea mai mare bază a
SpaceX va construi un complex pentru lansarea rachetelor Starship în Louisiana
SpaceX intenționează să construiască un centru de lansare a rachetelor Starship în sudul Louisianei, potrivit unui anunț făcut marți împreună cu guvernatorul acestui stat american, compania vizând începerea construcției celui de-al patrulea port spațial al său în decursul anului viitor, informează Reuters. Acel amplasament cu o su
Roboții au doborât recorduri umane în cursele de 100 de metri și 400 de metri în cadrul Jocurilor Roboților Umanoizi
Roboții umanoizi au doborât recorduri umane în cursele de 100 de metri și 400 de metri în cadrul Jocurilor Roboților Umanoizi, care se desfășoară la Beijing între 22 și 26 august, transmite marți Xinhua. Acest lucru marchează un uriaș salt înainte față de ediția inaugurală de anul trecut, care a produs o pletoră d
Case inundate, zeci de mii de persoane evacuate în sudul Chinei, pe măsură ce inundațiile se intensifică
Inundațiile pe scară largă declanșate de ploile abundente provocate de taifunul Narra s-au intensificat marți în sudul Chinei, case și magazine fiind inundate, iar mii de oameni fiind evacuați, în timp ce un alt sistem de furtuni se îndrepta spre Japonia și Taiwan, transmite Reuters. Autoritățile din Chongzuo, în regiun
Astronauta franceză Sophie Adenot va realiza o a doua ieșire extravehiculară pe orbită
La o săptămână după prima sa ieșire în spațiu istorică pentru Franța, astronauta franceză Sophie Adenot se va aventura marți în afara Stației Spațiale Internaționale (ISS) pentru a doua oară, pentru a-și finaliza misiunea, transmite AFP. Astronauta franceză în vârstă de 44 de ani și-a petrecut ziua de duminică pre