Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală', relatează AFP și dpa.
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.
Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.
'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.
În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele 'pentru a înțelege cum putem menține izolat spațiul nostru de testare'.
Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la 'încetinirea' lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că 's-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități'.AGERPRES/(AS - redactor: Mihaela Toth, editor: Mariana Ionescu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Marea Britanie reia fabricarea de armament de calibru mare după 20 de ani
Marea Britanie a anunțat joi că a început fabricarea de armament de calibru mare pentru prima dată în ultimele două decenii, ca parte a unui plan de consolidare rapidă a capacității interne de apărare în fața unei amenințări de securitate în creștere, transmite Reuters. Rheinmetall UK, filiala britanică a concernului german de armament,
Alegeri intermediare în SUA: Majoritatea informațiilor false de pe platforma X rămân necorectate (studiu)
Sistemul de verificare participativă utilizat de rețeaua de socializare X a lui Elon Musk nu a reușit să semnaleze marea majoritate a afirmațiilor false legate de alegerile intermediare din SUA, inclusiv cele distribuite de miliardar, a dezvăluit un studiu publicat miercuri, conform AFP. Denumită 'note comunitare', această funcție le permite utilizator
Ungaria marchează 70 de ani de la Revoluția din 1956 împotriva dominației sovietice
Ungaria marchează vineri 70 de ani de la Revoluția din 1956 împotriva dominației sovietice, revoltă populară națională care a început cu proteste studențești și s-a încheiat cu înăbușirea brutală a acesteia de către Armata Roșie, cu mii de morți și aproximativ 200.000 de exilați, informează EFE. Printre numeroasele evenimente care au lo
UPDATE Germania/Arestarea unui cetățean ucrainean suspectat de spionaj în favoarea Rusiei
Un cetățean ucrainean suspectat că a strâns 'informații de interes militar' pentru Rusia a fost arestat în nord-estul Germaniei, au anunțat joi procurorii, relatează dpa și AFP. Bărbatul a fost reținut în landul Brandenburg, în apropiere de Berlin, și va compărea vineri în fața unui judecător. El ar fi folos
Merz promite sprijin pentru aderarea statelor din Balcanii de Vest la UE
Cancelarul german Friedrich Merz a cerut joi ca statele din Balcanii de Vest să beneficieze de o aderare rapidă la Uniunea Europeană, relatează dpa. 'Aderarea dumneavoastră la UE este ceea ce ne dorim', a declarat Merz în Muntenegru, la începutul unui summit cu liderii din Albania, Bosnia-Herțegovina, Kosovo, Muntenegru, Macedonia de Nord ș
Austria/Mii de studenți urmează să participe la un protest la Viena față de bugetul insuficient alocat universităților
Mii de studenți sunt așteptați să iasă în stradă la Viena joi după-amiază pentru a protesta împotriva bugetului alocat universităților, considerat insuficient pentru a ține pasul cu inflația și creșterea costurilor, relatează AFP. 'Ne așteptăm la o prezență numeroasă și așteptam de asemenea studenți, profesori și angajați din alte regiuni',
Șeful Meta, Mark Zuckerberg, a amenințat că va părăsi California dacă statul adoptă o taxă pe avere
Șeful Meta, Mark Zuckerberg, a amenințat că va părăsi California dacă statul va adopta o taxă pe avere aflată deocamdată în stadiul de proiect, relatează joi dpa. Taxa propusă ar impune o contribuție unică de 5% asupra activelor miliardarilor și va fi supusă votului cetățenilor din California în luna noiembrie. Într-un document
Președinta CPI spune că Premiul Saharov vine într-un moment de 'provocări fără precedent' pentru instanță
Premiul Saharov, acordat joi Curții Penale Internaționale (CPI), vine într-un moment în care instanța se confruntă cu 'provocări fără precedent', a declarat președinta ace
Președintele Emmanuel Macron declară că protestele 'ilegitime' vor fi interzise în zilele următoare
Președintele francez Emmanuel Macron a declarat joi că protestele 'ilegitime' vor fi interzise în zilele următoare, în timp ce celor ale grupurilor organizate precum sindicatele li se vor oferi trasee alternative pentru marșuri pentru a proteja afacerile, relatează Reuters. Macron a făcut o declarație în acest sens după o î
Rusia analizează invitația adresată președintelui Putin de a participa la summitul G20 de la Miami în decembrie
Rusia va analiza o invitație venită din partea SUA pentru ca președintele Vladimir Putin să participe la summitul G20 de la Miami în decembrie, dar încă nu a fost luată nicio decizie, a declarat joi purtătorul de cuvânt al Kremlinului, Dmitri Peskov, informează Reuters. În septembrie, secretarul de stat american Marco Rubio a spus că pr
Strategia UE pentru Arctica: China critică o 'mentalitate de Război Rece'
China a criticat joi o 'mentalitate de Război Rece' după prezentarea de către Uniunea Europeană a noii sale strategii pentru Arctica, scena unei competiții strategice între marile puteri, relatează AFP. 'Crearea de blocuri și suscitarea confruntărilor geopolitice cu o mentalitate de Război Rece nu favorizează o dezvoltare paș
UPDATE/Premiul Saharov pentru libertatea de gândire al Parlamentului European a fost acordat în 2026 Curții Penale Internaționale
Strasbourg - Trimisul special al AGERPRES, Florin Ștefan, transmite: Premiul Saharov pentru libertatea de gândire a fost acordat în 2026 Curții Penale Internaționale și funcționarilor săi, a anunțat joi, în plenul Parlamentului European reunit la Strasbourg, președinta Roberta Metsola. Decizia a fost luată joi dimineață
Miniștrii de externe din șapte țări se întâlnesc în Turcia pentru a discuta conflictele regionale
Ministrul turc de externe Hakan Fidan va fi gazda omologilor săi din Egipt, Pakistan, Arabia Saudită, Regatul Unit, Franța și Germania vineri, la Istanbul, a dezvăluit joi o sursă diplomatică din Turcia a agenției Reuters. Formatul de șapte respectiv constituie o premieră a cărei inițiativă a avut-o Ankara, a afirmat sursa citată.
Reînarmarea în Europa și 'constelația' Iris2 au crescut comenzile Thales
Grupul francez de înaltă tehnologie Thales a obținut comenzi în valoare de 6,7 miliarde de euro în al treilea trimestru al anului în curs, pe fondul procesului continuu de reînarmare din Europa și al participării sale la viitoarea constelație europeană de telecomunicații securizate, Iris2, informează joi AFP. Cifr
Iranul amenință cu extinderea războiului dacă Washingtonul continuă să escorteze navele în Strâmtoarea Ormuz
Corpul Gardienilor Revoluției Islamice (IRGC) a amenințat joi cu extinderea conflictului care opune Teheranul Washingtonului dacă forțele americane vor continua să ajute navele să treacă prin Strâmtoarea strategică Ormuz, relatează AFP. Iranul revendică controlul acestei rute maritime, pe unde tranzita o cincime din hidrocarburile mondia
