Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală', relatează AFP și dpa.
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.
Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.
'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.
În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele 'pentru a înțelege cum putem menține izolat spațiul nostru de testare'.
Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la 'încetinirea' lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că 's-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități'.AGERPRES/(AS - redactor: Mihaela Toth, editor: Mariana Ionescu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
#Ucraina recuperează teritoriu în est printr-o contraofensivă (analiză AFP după ISW)
Armata ucraineană a recuperat teren în regiunea Donețk (est) în septembrie, în urma unei contraofensive vizând să îndepărteze linia frontului de orașele-cheie pentru apărarea sa Sloviansk și Kramatorsk, potrivit unei analize a AFP în baza datelor Institutului pentru Studiul Războiului (ISW). Denumită 'Vi
Iranul neagă acuzațiile premierului britanic de implicare într-un presupus atac terorist dejucat la o bază militară
Ministrul iranian de externe Abbas Araqchi i-a transmis joi prim-ministrului britanic Andy Burnham că 'latră la copacul greșit', după ce acesta a afirmat că există 'indicii solide' privind implicarea Iranului în presupusul atac terorist dejucat în apropierea bazei militare britanice de la Fairford, informează EFE. &
Miniștrii de interne europeni au adoptat noile reguli privind returnarea persoanelor fără drept de ședere în UE
Consiliul Uniunii Europene, reunit la Luxemburg la nivelul miniștrilor de interne, a dat joi undă verde finală noilor reguli ce permit returnarea mai eficientă a persoanelor fără drept de ședere în UE prin intermediul unei cooperări consolidate în materie de readmisie cu țările prioritare din afara Uniunii, indică un comunicat difuzat pe website-ul consil
Comisia Europeană condamnă 'retorica nucleară iresponsabilă' a Rusiei
Comisia Europeană a condamnat joi 'retorica nucleară iresponsabilă' a Rusiei, după ce NATO a confirmat că Moscova i-a transmis un mesaj în care avertiza cu privire la posibila utilizare împotriva aliaților a forței militare, inclusiv a armelor nucleare, în cazul în care aceștia amenință teritoriul rus, transmite EFE.
#Ucraina: Un important pod din Kiev, lovit de două drone rusești
Două drone au lovit joi un important pod din Kiev, care traversează fluviul Nipru și leagă estul de vestul orașului, a anunțat primarul Vitali Kliciko, într-un context al intensificării loviturilor Moscovei asupra capitalei ucrainene, informează AFP. 'Două atacuri cu drone au lovit zona de susținere a podului Sud. Traficul transportu
Fostul președinte mexican Lopez Obrador pregătește o carte pentru 'a ajuta SUA'
Fostul președinte mexican Andres Manuel Lopez Obrador (2018-2024) a anunțat miercuri că pregătește o carte cu propuneri pentru 'a ajuta' Statele Unite, argumentând că țara vecină se confruntă cu un 'declin' care nu s-ar rezolva nici măcar 'dacă fentanilul ar fi eradicat', pe fondul presiunilor în creștere din partea Washingtonului
Franța: Universitățile se alătură liceelor la proteste
Mai multe universități s-au alăturat joi liceelor care, în întreaga Franța, organizează blocaje pentru a cere mai mulți profesori și resurse didactice suplimentare, în ceea ce ar putea deveni 'actul al doilea' al acestei mobilizări sociale a tinerilor, relatează AFP. Potrivit Uniunii studențești, circa treizeci de cam
Regatul Unit anunță un nou pachet de sancțiuni care vizează fondurile de război ale Kremlinului
Regatul Unit a anunțat un nou pachet de sancțiuni care vizează resursele financiare ale Kremlinului destinate războiului, 'propagandiști' și persoane acuzate de implicare în torturarea civililor ucraineni, relatează joi dpa. Circa 23 de persoane și entități vor fi vizate de măsuri precum înghețarea activelor și interdicții
Rusia anunță expulzarea unor diplomați ungari ca măsură de reciprocitate
Rusia va expulza un număr neprecizat de diplomați ungari ca măsură de reciprocitate după expulzarea a zece angajați diplomatici ai ambasadei ruse la Budapesta, a informat joi Ministerul de Externe de la Moscova, transmit Reuters și AFP. Însărcinatul cu afaceri ad interim al Ungariei a fost convocat joi la Ministerul de Externe rus, unde a fost informat d
Irakul amână până la 30 iunie 2027 termenul-limită pentru dezarmarea facțiunilor pro-Iran
Prim-ministrul irakian Ali al-Zaidi a anunțat joi prelungirea până la 30 iunie 2027 a datei limită pentru dezarmarea facțiunilor proiraniene prezente pe teritoriul țării, a doua zi după retragerea coaliției anti-jihadiste conduse de SUA, relatează AFP. O plecare calificată drept 'victorie istorică' de Gardienii Revoluției, puternica forță armată
De pe linia frontului, Zelenski îi felicită pe soldați, de Ziua Apărătorilor Ucrainei
Președintele ucrainean Volodimir Zelenski i-a felicitat pe toți soldații care luptă împotriva forțelor ruse invadatoare într-un videoclip înregistrat joi de pe linia frontului, pentru a marca Ziua Apărătorilor Ucrainei, informează EFE. 'Linia frontului. Aici se câștigă independența. Și aici duce calea spre pace, prin aceste labirint
Premierul Republicii Moldova a lansat un proiect de reorganizare administrativ-teritorială a țării
Chișinău - Trimisul special al AGERPRES, Cristian Lupașcu, transmite: Premierul Republicii Moldova, Vasile Tofan, a lansat, joi, în dezbatere publică, un proiect de reorganizare administrativ-teritorială a țării. El a propus ca actualele 32 de raioane să fie împărțite în trei regiuni.
Israelul afirmă că a avertizat Londra înainte de incidentul din apropierea unei baze militare din Anglia
Israelul a avertizat autoritățile britanice că Iranul plănuiește un atac asupra unei baze militare britanice, a declarat premierul israelian Benjamin Netanyahu, exprimându-și indignarea că Londra a impus totuși sancțiuni asupra coloniilor israeliene, relatează AFP.
MAE de la Chișinău l-a convocat pe ambasadorul rus, după ce o dronă s-a prăbușit în raionul Orhei
Chișinău - Trimisul special al AGERPRES, Cristian Lupașcu, transmite: Ministerul Afacerilor Externe (MAE) al Republicii Moldova l-a convocat pe ambasadorul agreat al Federației Ruse la Chișinău, Oleg Ozerov, după ce o dronă cu explozibil a căzut, miercuri seară, în apropierea localității Brănești din raionul Orhei. Potrivit unui comunicat de
Statele Unite consideră puțin probabilă o invazie a Chinei în Taiwan anul viitor (surse)
Oficialii americani consideră că o invazie a Chinei în Taiwan înainte de 2028 este tot mai puțin probabilă, în pofida ordinelor președintelui chinez Xi Jinping ca armata să fie pregătită până în 2027 să preia prin forță, dacă va fi necesar, insula guvernată democratic, au declarat surse americane familiarizate cu situația, sub rezerva anonimatul
