Modelul AI al Meta a piratat o altă companie în timpul testelor
Meta a anunțat miercuri că unul dintre modelele sale de inteligență artificială a piratat o altă companie în timpul testelor de securitate cibernetică, alimentând îngrijorările cu privire la modul în care dezvoltatorii pot controla sisteme de AI din ce în ce mai performante, după incidente similare la rivalii Anthropic și OpenAI, relatează Reuters.
Incidentele de la Meta și Anthropic au provenit din erori de configurare care au oferit, în mod accidental, modelelor Anthropic acces la internetul deschis. În cazul OpenAI, un agent de inteligență artificială a exploatat independent o vulnerabilitate necunoscută anterior pentru a ajunge la internet în timpul testelor de securitate cibernetică.
Încălcările evidențiază îngrijorările tot mai mari că sistemele avansate de inteligență artificială ar putea prezenta noi riscuri de securitate cibernetică și probabil vor intensifica eforturile administrației SUA de a îmbunătăți siguranța inteligenței artificiale, pe măsură ce companiile se grăbesc să dezvolte modele mai performante. Unii lideri proeminenți în domeniul inteligenței artificiale au susținut că dezvoltarea ar trebui să încetinească până când vor fi implementate garanții mai puternice.
Meta a declarat că investighează un incident în care o configurație greșită efectuată de Irregular, o companie independentă care efectuează evaluări de securitate cibernetică pentru Meta, a oferit în mod accidental acces la internet unuia dintre modelele sale în timpul unui test.
Modelul 'a exploatat o vulnerabilitate de securitate la un serviciu terț, într-un mod similar cu cazurile raportate anterior cu alte companii', a precizat Meta într-un comunicat.
The Information, citând surse, a relatat că modelul implicat a fost Muse Spark 1.1 de la Meta, pe care compania l-a prezentat ca fiind cel mai performant model al său pentru codare și capacitate de a acționa independent din lumea reală. Raportul a precizat că modelul a încălcat sistemele unei companii neidentificate și i-a modificat mediul intern.
Un purtător de cuvânt al Irregular a declarat pentru Reuters că incidentul a fost 'exact aceeași problemă a mediului de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută' și nu a implicat o 'evadare dintr-un sandbox sau o acțiune cibernetică sofisticată'.
'Nu există probleme deschise în prezent. Irregular elaborează un document pentru a împărtăși cele mai bune practici privind izolarea și executarea în siguranță a evaluărilor cibernetice', a precizat Irregular.
Recentele încălcări ale securității datelor au stârnit îngrijorări în rândul aleșilor americani cu privire la posibilitatea utilizării unor modele de inteligență artificială din ce în ce mai capabile să efectueze sau să faciliteze atacuri cibernetice.
Un grup de procurori generali republicani de stat a solicitat OpenAI să păstreze toate documentele potențial relevante legate de incidentul Hugging Face. OpenAI a declarat că va lua în serios solicitarea și va publica un raport tehnic despre incident.
La începutul acestei săptămâni, Casa Albă a invitat companii de inteligență artificială de top, inclusiv Meta, Anthropic, OpenAI și Google, să se întâlnească cu oficialii pentru a discuta un cadru de testare voluntară a securității cibernetice, recent finalizat, pentru modelele avansate de inteligență artificială.
Administrația Trump a discutat reguli de testare nepublicate cu reprezentanții companiilor și a informat dezvoltatorii de inteligență artificială că modelele de inteligență artificială deschise, cum ar fi Llama de la Meta și Nemotron de la Nvidia, nu vor fi supuse regimului său planificat de testare voluntară a siguranței, a relatat Reuters. AGERPRES/(AS - redactor: Ionuț Mareș, editor: Gabriela Ionescu, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Trump cere raportarea unei jurnaliste la Comisia Federală pentru Comunicații
Președintele american Donald Trump a cerut duminică într-un mesaj în rețeaua sa Truth Social raportarea unei jurnaliste la Comisia Federală pentru Comunicații în vederea unei 'mustrări sau sancționări' după ce aceasta relatase că liderul de la Casa Albă a obținut și rezultate slabe la susținerea unor candidați republicani, transmite Reuters.
Hărțile Google afișează în SUA Lacul America în loc de Lacul Ontario, conform decretului lui Trump
Platforma Google Maps a schimbat pe hărți numele Lacului Ontario în Lacul America pentru utilizatorii din Statele Unite, conform ordinului executiv de redenumire geografică semnat de președintele american Donald Trump, a anunțat compania Google într-un comunicat preluat duminică de Reuters. Trump și-a anunțat joi decizia de a schim
Președintele Trump afirmă că SUA își vor reface rezerva strategică cu petrol din Venezuela
Președintele american Donald Trump a declarat că petrolul vizat de acordul încheiat recent cu Venezuela va fi folosit pentru refacerea rezervei strategice a Statelor Unite, care scăzuse mult în ultimii ani în contextul perturbării fluxurilor internaționale și al prețurilor ridicate ale energiei, transmite duminică agenția Reuters.
Paramilitarii ruși au ajutat junta din Niger să reprime o revoltă a soldaților
Paramilitarii ruși din Corpul African au ajutat junta militară din Niger să reprime o revoltă a soldaților, a declarat duminică ambasadorul Rusiei la Niamey agenției de presă de stat TASS, preluată de dpa. Militarii aflați la putere în Niger după puciul din iulie 2023 au cerut ajutorul forței ruse, a precizat diplomatul Viktor Voropaev,
Norvegienii îl comemorează pe regele Harald al V-lea (GALERIE FOTO)
Familia regală norvegiană l-a comemorat duminică pe regele Harald al V-lea, decedat vineri dimineaţa; în întreaga Norvegie au loc evenimente similare, relatează dpa.
Turcia găzduiește luni prima reuniune a țărilor din Pactul de Apărare de la Mecca
Turcia va găzdui luni, la Istanbul, prima reuniune a miniștrilor apărării și de externe din țările semnatare ale Pactului de Apărare de la Mecca, au anunțat duminică surse ministeriale turce, conform AFP. Acordul de apărare dintre cele trei mari puteri sunnite a fost semnat pe 7 august la Mecca, în Arabia Saudită, de către prim-ministrul
Scrutin prezidențial în Franța: Socialistul Olivier Faure, candidat la alegerile primare ale stângii
Liderul Partidului Socialist (PS) din Franța, Olivier Faure, și-a anunțat parlamentarii din grupul său că va candida la alegerile primare ale stângii în vederea scrutinului prezidențial din 2027, relatează AFP. ''Am decis să candidez la aceste alegeri primare'', a scris el într-un mesaj, precizând că va
#Ucraina: Bilanțul atacului rusesc asupra unui depozit de muniții a crescut la 38 de morți; zona, ''contaminată''
Numărul morților în urma atacului aerian rusesc asupra unui depozit de muniții din apropierea orașului Kiev a crescut la 38, a anunțat duminică președintele ucrainean Volodimir Zelenski, adăugând că zona este ''semnificativ contaminată'', relatează AFP. Rusia a folosit o dronă pentru a ataca depozitul armatei ucrain
Islandezii resping prin referendum reluarea negocierilor de aderare la UE
Islandezii au votat pentru a rămâne în afara Uniunii Europene, a relatat duminică postul de televiziune RUV, populația respingând prin referendum o inițiativă a guvernului de a redeschide discuțiile de aderare și plasându-se de partea celor care au spus că apele de pescuit ale Islandei sunt prea importante pentru a fi supuse riscului, relateaz
Rusia susține că pregătește ''atacuri masive'' împotriva ''sectorului energetic'' al Ucrainei
Rusia a anunțat duminică faptul că pregătește ''atacuri masive'' împotriva ''instalațiilor din sectorul energetic'' din Ucraina, pe fondul unei escaladări accentuate a loviturilor din ultimele luni, relatează AFP. ''Forțele armate ruse au început pregătirile pentru atacuri masive împotr
Liderul suprem al Iranului face apel la unitate între țările musulmane
Liderul suprem al Iranului, Mojtaba Khamenei, a cerut țărilor musulmane să se unească împotriva Statelor Unite și a Israelului într-un mesaj scris transmis duminică, la șase luni de la începerea războiului din Orientul Mijlociu, relatează AFP. Mojtaba Khamenei, care i-a succedat tatălui său, Ali Khamenei, ucis în prima
Referendum privind UE în Islanda: Votul ''Nu'' este în frunte, pe măsură ce numărătoarea se apropie de sfârșit
Votul ''Nu'' conduce în referendumul organizat sâmbătă în Islanda privind reluarea negocierilor de aderare la Uniunea Europeană, conform cifrelor online publicate duminică, în timp ce numărarea voturilor se apropie de finalizare, relatează AFP. Cu 51,8% la 48,2%, votul ''Nu'' este cu 3,6
Coreea de Nord: Kim Jong Un remaniază Statul Major și îl demite pe ministrul apărării
Liderul nord-coreean Kim Jong Un l-a demis pe ministrul apărării, No Kwang Chol, într-o remaniere amplă a Statului Major militar anunțată duminică de agenția oficială de știri KCNA, conform AFP. Această remaniere are loc în contextul în care Phenianul, care deține arme nucleare, își etalează din ce în ce mai mult
Fostul cancelar Angela Merkel îi îndeamnă pe germani să ''lupte pentru această democrație''
Cu o săptămână înainte de alegerile din landul german Saxonia-Anhalt, fostul cancelar Angela Merkel a făcut apel la cetățeni să apere democrația, relatează dpa. ''Cred că acum, încă o dată - lucru pe care nu a trebuit să-l facem de multe decenii -, trebuie să luptăm cu adevărat pentru această democrație, pur și simplu
VIDEO Norvegia: Noul rege Haakon al VIII-lea i-a adus un omagiu emoționant tatălui său în primul său discurs
Noul rege norvegian Haakon al VIII-lea i-a adus sâmbătă un omagiu emoționant tatălui său răposat, fostul rege Harald al V-lea, în primul său discurs către țară de la accederea la tron, relatează dpa. 'Mulțumesc că ai fost un tată atât de bun pentru Martha și pentru mine', a spus regele Haakon sâmbătă seară &icir
