Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală', relatează AFP și dpa.
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.
Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.
'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.
În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele 'pentru a înțelege cum putem menține izolat spațiul nostru de testare'.
Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la 'încetinirea' lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că 's-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități'.AGERPRES/(AS - redactor: Mihaela Toth, editor: Mariana Ionescu, editor online: Irina Giurgiu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Israel/securitate: Eisenkot îi cere lui Netanyahu să dea dovadă de responsabilitate
Gadi Eisenkot, mandatat cu formarea viitorului guvern în Israel, i-a cerut miercuri premierului în exercițiu Benjamin Netanyahu să ''dea dovadă de responsabilitate'' cu privire la deciziile de securitate, făcând aluzie la un eventual atac contra Iranului, transmite France Presse. Fără a menționa numele Iranulu
Suedia își revizuiește Constituția pentru a putea revoca cetățenia în anumite cazuri de dublă cetățenie
Parlamentul suedez a aprobat miercuri o revizuire a Constituției care va permite revocarea cetățeniei persoanelor cu dublă cetățenie pe care le-au obținut într-o manieră frauduloasă sau dacă persoanele în cauză au fost condamnate pentru infracțiuni amenințând interesele naționale, transmite AFP. Amendamentul a fost adoptat cu
MAE al Republicii Moldova condamnă încălcarea spațiului aerian al republicii de către două rachete de croazieră rusești
Ministerul de Externe al Republicii Moldova a condamnat miercuri încălcarea spațiului aerian al republicii de către două rachete de croazieră rusești de tip Banderol, în contextul atacurilor masive lansate de Federația Rusă asupra Ucrainei, relatează Radio Chișinău. ''Acest incident reprezintă o încălcare gravă a suve
Ungaria: Fratele lui Viktor Orban, plasat în arest preventiv într-un dosar de trafic de migranți
Justiția ungară a ordonat miercuri plasarea în arest preventiv pentru 30 de zile a lui Aron Orban, fratele fostului premier naționalist Viktor Orban, în cadrul unei anchete pentru trafic de migranți, transmit AFP și MTI. Un alt suspect a fost de asemenea plasat în arest preventiv, a indicat Tribunalul din Budapesta într
Iranul amenință să lovească bazele americane din Europa dacă acestea vor fi utilizate la lansarea de atacuri
Secretarul Consiliului suprem de securitate națională din Iran, Mohsen Rezaei, a afirmat că Teheranul ar lovi baze americane, inclusiv cele din Europa, dacă acestea ar fi utilizate pentru lansarea de atacuri împotriva Republicii islamice, relatează AFP. ''Dacă avioane americane decolează de la o bază militară americană, chiar dac
#Ucraina: SUA relansează procesul de pace la Abu Dhabi, dar ostilitatea continuă să persiste între ruși și ucraineni
SUA au relansat procesul de pace în Ucraina prin discuțiile între ruși și ucraineni marți și miercuri la Abu Dhabi, proces blocat din februarie, dar ostilitatea continuă să persiste între cele două părți beligerante, după aproape cinci ani de război, consemnează miercuri EFE. ''Astfel de acorduri necesită timp. Sunt d
Moscova anunță decesul ''brusc'' al ambasadorului Rusiei în Statele Unite
Ambasadorul Rusiei în Statele Unite, Aleksandr Darciev, a murit ''brusc'' miercuri, la vârsta de 66 de ani, a anunțat Ministerul rus de Externe, fără a oferi mai multe detalii despre cauza și locul decesului, transmite AFP. ''Conducerea și personalul Ministerului rus de Externe sunt profund întristați
China transmite Statelor Unite că este pregătită pentru consolidarea cooperării bilaterale
Ministrul chinez de externe Wang Yi a avut miercuri un apel telefonic ''constructiv'' cu secretarul de stat american Marco Rubio, în cadrul căruia a declarat că Beijingul este ''gata să își consolideze'' cooperarea cu Statele Unite, relatează AFP. Președintele american Donald Trump și omologul său ch
Forțele saudite au interceptat trei rachete de croazieră lansate de rebelii houthi către Riad
Apărarea antiaeriană saudită a interceptat miercuri rachete lansate de rebelii yemeniți houthi către regiunea Riad, pentru a doua zi consecutiv, a anunțat coaliția condusă de Arabia Saudită, transmite Reuters. Coaliția a afirmat că rebelii houthi au lansat trei rachete de croazieră, care au fost distruse. Milițiile houthi, ce co
Berlinul vrea ''pace'' în #Ucraina înaintea discuțiilor cu Moscova privind securitatea europeană
Germania vrea ''pace'' în Ucraina înainte de angajarea unor discuții cu Rusia privind securitatea europeană, a insistat miercuri purtătorul de cuvânt al guvernului german, după încheierea negocierilor ruso-ucrainene la Abu Dhabi, relatează AFP. ''Prima etapă este pacea în Ucraina. Abia apoi
Kushner îi îndeamnă pe europeni să numească un singur reprezentant pentru a negocia cu Rusia
Mediatorul președintelui american pentru războiul ruso-ucrainean, Jared Kushner, i-a încurajat miercuri, de la Abu Dhabi, pe partenerii europeni ai Ucrainei să aleagă cât mai curând o persoană care să îi reprezinte la masa negocierilor cu Rusia, dacă Kremlinul va accepta până la urmă să includă Europa în vreun fel, informează EFE.
Rusia anunță că ar accepta un dialog direct la nivel militar cu Regatul Unit
Ministerul apărării de la Moscova ar putea discuta direct cu instituția omoloagă de la Londra dacă Regatul Unit ar propune un astfel de dialog, a declarat miercuri Maria Zaharova, purtătoarea de cuvânt a ministerului rus de externe, citată de Reuters. Zaharova a făcut afirmația respectivă în cadrul unor comentarii privind remarci a
Volodimir Zelenski insistă asupra opririi ostilităților, ca pas preliminar către un acord
Președintele ucrainean, Volodimir Zelenski, a subliniat miercuri că primul pas pentru a se ajunge la un acord de pace durabil trebuie să fie încetarea războiului și stabilirea unor garanții de securitate post-conflict pentru Ucraina, după ce a fost informat de către negociatorii săi cu privire la conținutul celor două zile de întâlniri cu reprezenta
Vicepremierul rus Aleksei Overciuk în vizită la Kabul pentru a discuta extinderea investițiilor rusești în Afganistan
Viceprim-ministrul rus Aleksei Overciuk va merge joi în Afganistan în fruntea unei delegații economice de rang înalt pentru a discuta oportunități mai mari de investiții și cooperare comercială, a anunțat miercuri guvernul de facto taliban de la Kabul, relatează EFE. ''Scopul vizitei este de a extinde cooperarea econo
Pacte de neagresiune cu țări ale NATO, una din opțiunile Moscovei pentru viitoarea arhitectură de securitate europeană
Un diplomat rus de rang înalt a declarat miercuri că Moscova ar putea încheia pacte de neagresiune la nivel bilateral cu state membre NATO ca parte a unei noi arhitecturi de securitate pentru Europa, discutată în cadrul negocierilor de pace privind Ucraina, aceasta fiind doar una dintre propunerile diplomației ruse, relatează Reuters.
