Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală', relatează AFP și dpa.
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.
Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.
'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.
În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele 'pentru a înțelege cum putem menține izolat spațiul nostru de testare'.
Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la 'încetinirea' lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că 's-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități'.AGERPRES/(AS - redactor: Mihaela Toth, editor: Mariana Ionescu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Alegerile de duminică din Suedia i-ar putea aduce extremei drepte un loc în centrul guvernării (Reuters)
Suedezii merg la urne duminică în cadrul unor alegeri extrem de disputate, care au devenit, în fapt, un referendum privind cu privire la intrarea la guvernare a partidului de extremă-dreapta Democrații Suedezi, care și-ar consolida astfel parcursul de la statutul de paria la cel de partener de încredere într-o țară considerată cândva una dintre
Opozantul rus din exil Ilia Iașin cere mobilizarea la alegeri împotriva președintelui Vladimir Putin
Opozantul rus Ilia Iașin, care trăiește în exil la Berlin, le cere tuturor rușilor care se opun războiului din Ucraina să voteze împotriva partidului președintelui Vladimir Putin la alegerile parlamentare din 20 septembrie, transmite joi AFP. Inițiativa lui Iașin, numită 'Amiaza pentru pace', urmărește să îi determine
Liderii din BRICS se reunesc în India, pe fondul tensiunilor internaționale
India găzduiește în acest weekend lideri importanți din blocul diplomatic BRICS - inclusiv pe cei din Rusia și Iran - la un summit ce are loc în pline turbulențe geopolitice globale, de la conflictul din Orientul Mijlociu până la războiul din Ucraina, relatează joi AFP. Președintele rus Vladimir Putin și omologul său iranian,
NATO a dejucat un plan rusesc de sabotare a cablurilor submarine
NATO a detectat în primăvara aceasta submarine rusești care încercau să desfășoare o armă secretă pentru dezafectarea unor cabluri maritime vitale de mare adâncime în apropiere de arhipelagul norvegian Svalbard, informează joi agenția Reuters pe baza a două surse oficiale care au solicitat să nu li se dezvăluie identitatea.
Comisia de afaceri externe a Parlamentului European a aprobat o serie de acorduri între UE și Elveția
Comisia pentru afaceri externe a Parlamentului European (AFET) a aprobat joi o serie de acorduri semnate în martie de Uniunea Europeană și Elveția, ce ar urma să contribuie la consolidarea cooperării și la extinderea acesteia la noi domenii, transmite AFP. Raportorul acestui text, eurodeputatul Christophe Grudler (Renew), a afirmat mierc
#11septembrie/ NATO organizează o ceremonie solemnă în memoria victimelor atacurilor teroriste din 2001
Secretarul general adjunct al NATO, Radmila Shekerinska, va participa vineri, alături de însărcinatul cu afaceri al Misiunii SUA la NATO, Scott Oudkirk, și de reprezentantul militar al SUA în Comitetul militar al NATO, generalul-locotenent William D. Taylor, la o ceremonie solemnă organizată la cartierul general al NATO în memoria victimelor atacurilor tero
Columbia: Șeful statului, obligat să ascundă filmări oficiale în care apăreau cadavre
Justiția columbiană i-a ordonat noului președinte al țării, Abelardo De la Espriella, să ascundă de pe conturile de socializare ale președinției înregistrările video în care acesta apare mergând printre cadavrele unor presupuși infractori uciși de forțele de securitate, indică un document judiciar consultat miercuri de AFP. C
Președintele Volodimir Zelenski vizitează Canada pentru a consolida cooperarea în domeniile apărării și energiei
Prim-ministrul canadian Mark Carney se va întâlni joi cu președintele ucrainean Volodimir Zelenski în orașul canadian Calgary, în cadrul unei vizite a liderului ucrainean care va dura până vineri și care se concentrează pe consolidarea cooperării bilaterale în domeniul apărării, economiei și energiei, transmite EFE.
#11septembrie/Trump va absenta de la evenimentele de comemorare a atentatelor din 2001 din New York
Comemorarea unui sfert de veac de la atacurile teroriste din 11 septembrie din New York va aduce un număr mare de reprezentanți instituționali în acest mare oraș american, însă iese în evidență, pe de-o parte, prezența primarului metropolei, Zohran Mamdani, controversat pentru mulți din cauza credinței sale musulmane și pozițiilor pro-palestiniene,
Finanțarea americană pentru grupările europene aliniate cu MAGA exclude Franța, unde vor fi alegeri (Reuters)
Un program de finanțare al Statelor Unite pentru organizațiile europene care urmăresc prioritățile președinției Trump va exclude grupurile franceze, din cauza sensibilităților legate de amestecul extern în alegerile prezidențiale din Franța, de anul viitor, transmite joi în exclusivitate agenția Reuters, citând două surse confidențiale.
RPDC: Liderul Kim Jong Un a mulțumit trupelor nord-coreene desfășurate în Rusia
Liderul nord-coreean Kim Jong Un a mulțumit trupelor țării sale desfășurate în Rusia cu ocazia sărbătoririi a 78 de ani de la fondarea Coreei de Nord în contextul îngrijorărilor exprimate de Coreea de Sud și Ucraina referitor la o posibilă trimitere suplimentară de soldați nord-coreeni pentru a participa la războiul dus de Rusia împotriva Ucra
Coreea de Sud: Președintele Lee Jae Myung exclude orice posibilitate de prelungire a mandatului său
Președintele sud-coreean Lee Jae Myung a exclus orice posibilitate de prelungire a mandatului său unic, limitat de Constituție, a anunțat joi un purtător de cuvânt, după ce liderul și unii dintre aliații săi politici au evocat o reformă în această privință, transmite France Presse. Opozanții lui Lee au subliniat că un al doilea man
Columbia: Guvernul autorizează regiunile să folosească bani din fondul de pensii pentru a face față consecințelor seismului
Guvernul columbian a autorizat în mod excepțional ca departamentele și municipalitățile afectate de puternicul cutremur din 10 august să apeleze la Fondul Național de Pensii al Entităților Teritoriale (FONPET) pentru a face față situației de urgență, transmite joi EFE. Măsura a fost anunțată de președintele Columbiei, Abelardo de la Espr
Ecuador: Fostul președinte Abdala Bucaram, condamnat la peste nouă ani de închisoare pentru infracționalitate organizată
O instanță din Ecuador l-a condamnat miercuri pe fostul președinte Abdala Bucaram (1996-1997) și pe fiul său Jacobo la nouă ani și patru luni de închisoare pentru infracționalitate organizată ca urmare a vânzării ilegale de teste pentru depistarea COVID-19 și alte echipamente medicale în 2020, informează joi EFE. Pe lân
#Ucraina: Opt persoane, rănite într-un atac cu drone marine în stațiunea rusă Soci
Drone marine au cauzat miercuri seară rănirea a opt persoane în stațiunea rusă Soci, de pe litoralul nord-estic al Mării Negre, au anunțat autoritățile din regiunea Krasnodar pe aplicația Telegram, transmit agențiile de presă Reuters și Xinhua. În incident au fost avariate parțial o secțiune a digului Primorskaia și infrastructura
