Modelul AI al Meta a piratat o altă companie în timpul testelor
Meta a anunțat miercuri că unul dintre modelele sale de inteligență artificială a piratat o altă companie în timpul testelor de securitate cibernetică, alimentând îngrijorările cu privire la modul în care dezvoltatorii pot controla sisteme de AI din ce în ce mai performante, după incidente similare la rivalii Anthropic și OpenAI, relatează Reuters.
Incidentele de la Meta și Anthropic au provenit din erori de configurare care au oferit, în mod accidental, modelelor Anthropic acces la internetul deschis. În cazul OpenAI, un agent de inteligență artificială a exploatat independent o vulnerabilitate necunoscută anterior pentru a ajunge la internet în timpul testelor de securitate cibernetică.
Încălcările evidențiază îngrijorările tot mai mari că sistemele avansate de inteligență artificială ar putea prezenta noi riscuri de securitate cibernetică și probabil vor intensifica eforturile administrației SUA de a îmbunătăți siguranța inteligenței artificiale, pe măsură ce companiile se grăbesc să dezvolte modele mai performante. Unii lideri proeminenți în domeniul inteligenței artificiale au susținut că dezvoltarea ar trebui să încetinească până când vor fi implementate garanții mai puternice.
Meta a declarat că investighează un incident în care o configurație greșită efectuată de Irregular, o companie independentă care efectuează evaluări de securitate cibernetică pentru Meta, a oferit în mod accidental acces la internet unuia dintre modelele sale în timpul unui test.
Modelul 'a exploatat o vulnerabilitate de securitate la un serviciu terț, într-un mod similar cu cazurile raportate anterior cu alte companii', a precizat Meta într-un comunicat.
The Information, citând surse, a relatat că modelul implicat a fost Muse Spark 1.1 de la Meta, pe care compania l-a prezentat ca fiind cel mai performant model al său pentru codare și capacitate de a acționa independent din lumea reală. Raportul a precizat că modelul a încălcat sistemele unei companii neidentificate și i-a modificat mediul intern.
Un purtător de cuvânt al Irregular a declarat pentru Reuters că incidentul a fost 'exact aceeași problemă a mediului de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută' și nu a implicat o 'evadare dintr-un sandbox sau o acțiune cibernetică sofisticată'.
'Nu există probleme deschise în prezent. Irregular elaborează un document pentru a împărtăși cele mai bune practici privind izolarea și executarea în siguranță a evaluărilor cibernetice', a precizat Irregular.
Recentele încălcări ale securității datelor au stârnit îngrijorări în rândul aleșilor americani cu privire la posibilitatea utilizării unor modele de inteligență artificială din ce în ce mai capabile să efectueze sau să faciliteze atacuri cibernetice.
Un grup de procurori generali republicani de stat a solicitat OpenAI să păstreze toate documentele potențial relevante legate de incidentul Hugging Face. OpenAI a declarat că va lua în serios solicitarea și va publica un raport tehnic despre incident.
La începutul acestei săptămâni, Casa Albă a invitat companii de inteligență artificială de top, inclusiv Meta, Anthropic, OpenAI și Google, să se întâlnească cu oficialii pentru a discuta un cadru de testare voluntară a securității cibernetice, recent finalizat, pentru modelele avansate de inteligență artificială.
Administrația Trump a discutat reguli de testare nepublicate cu reprezentanții companiilor și a informat dezvoltatorii de inteligență artificială că modelele de inteligență artificială deschise, cum ar fi Llama de la Meta și Nemotron de la Nvidia, nu vor fi supuse regimului său planificat de testare voluntară a siguranței, a relatat Reuters. AGERPRES/(AS - redactor: Ionuț Mareș, editor: Gabriela Ionescu, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Armenia: Liderul Bisericii Apostolice va fi judecat în contextul unei confruntări tot mai dure cu guvernul
Liderul Bisericii Apostolice din Armenia, considerată prima națiune creștină din lume, și alți șase clerici de rang înalt vor fi judecați vineri, în cea mai recentă escaladare a unei lupte dure cu guvernul prim-ministrului Nikol Pașinian, relatează Reuters. Catolicosul Karekin al II-lea, care conduce Biserica Apostolică din 1999, este acuzat alătur
Premierul Japoniei evită să se angajeze ferm că guvernul pe care îl conduce va menține principiile nenucleare
Prim-ministrul Sanae Takaichi a evitat joi să promită în mod explicit că Japonia își va menține principiile nenucleare, limitându-se să afirme că guvernul 'continuă să susțină' această politică de lungă durată, în contextul marcării celei de-a 81-a aniversări a bombardamentului atomic american asupra orașului Hiroshima, transmite Kyodo.
Până la 110 foști combatanți ruși în războiul cu Ucraina candidează la viitoarele alegeri legislative
Până la 110 veterani ruși ai războiului din Ucraina se numără printre candidații incluși pe listele partidelor la alegerile legislative ruse din septembrie, a anunțat miercuri șefa Comisiei Electorale Centrale, Ella Pamfilova, informează EFE. 'În prezent, avem 110 candidați pe listele noastre federale. Aceștia sunt participanți și veterani ai O
Agenția de știri ungară MTI denunță cenzura la care a fost supusă în timpul guvernării Orban
Un grup de colaboratori ai agenției de știri ungare MTI a întocmit un raport de 500 de pagini care detaliază cazuri de manipulare, cenzură și presiune, exercitate de guvernul precedent al ultranaționalistului Viktor Orban, informează EFE. Noua conducere a mass-media publice din Ungaria (MTVA) a publicat miercuri doar o mică parte (15 pagini) din document
SUA/Anchetă după ce elicopterul prezidențial Marine One s-a aflat prea aproape de un avion de linie la Washington
Consiliul Național pentru Siguranța Transporturilor din SUA (NTSB) a lansat o anchetă după ce elicopterul Marine One, care îl transporta pe președintele american Donald Trump, și un avion de linie s-au aflat marți într-un perimetru aerian prea apropiat, Casa Albă susținând că președintele nu a fost niciun moment în pericol, relatează AFP.
SUA: Noile nave de război botezate cu numele lui Trump ar putea costa 275 de miliarde de dolari
Flota planificată de 15 nave de luptă purtând numele președintelui american Donald Trump ar putea costa 275 de miliarde de dolari, a declarat miercuri Biroul de Buget al Congresului (CBO), ceea ce le-ar plasa printre cele mai scumpe nave de război americane construite vreodată, transmite joi AFP. Prima dintre aceste nave cu propulsie nucleară ar costa ap
Georgia și-a reconectat rețeaua electrică după o pană de curent la nivel național
Georgia și-a reconectat rețeaua electrică după o pană de curent la nivel național care a cufundat în întuneric miercuri seara cea mai mare parte a țării, o întrerupere care ar fi putut fi provocată de efectuarea unor teste la o importantă centrală hidroelectrică, a informat agenția de presă rusă Tass, relatează joi Reuters. Marile orașe, incl
Germania: Ministrul de interne spune că incidentul cu dronă de pe aeroportul din Leipzig a fost un 'scenariu de atac hibrid'
Ministrul de interne german, Alexander Dobrindt, a descris incidentul cu dronă de pe aeroportul din Leipzig drept un 'scenariu de atac hibrid', relatează dpa. 'Trebuie să spunem c
SUA: FBI a stabilit, sub directorul Kash Patel, parteneriate de cooperare fără precedent cu China și Rusia
Directorul FBI, Kash Patel, a declarat că a încheiat în ultimul an noi parteneriate în domeniul aplicării legii cu China și Rusia, doi rivali tradiționali ai SUA, în speranța de a obține aliați în combaterea infracțiunii transnaționale în domenii precum traficul de fentanil, fraudele cibernetice și exploatare sexuală a copiilor, relatează
Iran: Comunicarea cu liderul suprem este 'foarte dificilă în acest moment', afirmă președintele Pezeshkian
Președintele iranian Masoud Pezeshkian a declarat miercuri că în acest moment comunicarea este 'foarte dificilă' cu liderul suprem Mojtaba Khamenei, care nu a apărut în public de la numirea sa în martie, relatează AFP. 'Comunicarea cu el este foarte dificilă în acest moment, dar prezența sa este totuși un atu major pentru no
Donald Trump insistă că SUA au 'cantități enorme de muniție', pe fondul controverselor pe acest subiect
Președintele american Donald Trump a negat joi că ar fi îngrijorat de epuizarea muniției folosite în războiul cu Iranul, după ce The Washington Post a relatat despre presupusa sa frustrare față de această lipsă, informează EFE. 'SUA au cantități enorme de muniție, în special de anumite tipuri. În plus, cantități mari sunt fabricate
Trump transformă un discurs economic într-un atac la democrați după alegerile primare ale acestora în Michigan
Președintele american Donald Trump a transformat miercuri un discurs despre economie susținut în Las Vegas într-un atac la adresa democraților progresiști, afirmând că recentele lor victorii în alegeri primare reprezintă o schimbare potențial periculoasă pentru Partidul Democrat înaintea scrutinului intermediar din noiembrie, relatează Reuters.
Rusia neagă orice legătură cu rețelele de recrutare de mercenari columbieni
Ambasada Rusiei în Columbia a negat miercuri orice legătură cu presupuse rețele care recrutează mercenari columbieni, cunoscuți pentru participarea lor la conflicte armate în întreaga lume, relatează AFP. Programul de știri columbian Noticias Caracol a publicat luni o anchetă care prezenta mărturii și documente ce indicau o strategie a Moscov
#Ucraina: Trei morți în atacuri lansate de forțele ruse în regiunea Harkov
Trei persoane au fost ucise în bombardamente rusești lansate în noaptea de miercuri spre joi în Balaklia, un oraș din regiunea Harkov, în nord-estul Ucrainei, a anunțat Vitalii Karabanov, șeful administrației militare a orașului, relatează AFP. În primul atac a fost lovită o locuință, a scris Karabanov pe contul său de Telegram.
