Modelul AI al Meta a piratat o altă companie în timpul testelor
Meta a anunțat miercuri că unul dintre modelele sale de inteligență artificială a piratat o altă companie în timpul testelor de securitate cibernetică, alimentând îngrijorările cu privire la modul în care dezvoltatorii pot controla sisteme de AI din ce în ce mai performante, după incidente similare la rivalii Anthropic și OpenAI, relatează Reuters.
Incidentele de la Meta și Anthropic au provenit din erori de configurare care au oferit, în mod accidental, modelelor Anthropic acces la internetul deschis. În cazul OpenAI, un agent de inteligență artificială a exploatat independent o vulnerabilitate necunoscută anterior pentru a ajunge la internet în timpul testelor de securitate cibernetică.
Încălcările evidențiază îngrijorările tot mai mari că sistemele avansate de inteligență artificială ar putea prezenta noi riscuri de securitate cibernetică și probabil vor intensifica eforturile administrației SUA de a îmbunătăți siguranța inteligenței artificiale, pe măsură ce companiile se grăbesc să dezvolte modele mai performante. Unii lideri proeminenți în domeniul inteligenței artificiale au susținut că dezvoltarea ar trebui să încetinească până când vor fi implementate garanții mai puternice.
Meta a declarat că investighează un incident în care o configurație greșită efectuată de Irregular, o companie independentă care efectuează evaluări de securitate cibernetică pentru Meta, a oferit în mod accidental acces la internet unuia dintre modelele sale în timpul unui test.
Modelul 'a exploatat o vulnerabilitate de securitate la un serviciu terț, într-un mod similar cu cazurile raportate anterior cu alte companii', a precizat Meta într-un comunicat.
The Information, citând surse, a relatat că modelul implicat a fost Muse Spark 1.1 de la Meta, pe care compania l-a prezentat ca fiind cel mai performant model al său pentru codare și capacitate de a acționa independent din lumea reală. Raportul a precizat că modelul a încălcat sistemele unei companii neidentificate și i-a modificat mediul intern.
Un purtător de cuvânt al Irregular a declarat pentru Reuters că incidentul a fost 'exact aceeași problemă a mediului de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută' și nu a implicat o 'evadare dintr-un sandbox sau o acțiune cibernetică sofisticată'.
'Nu există probleme deschise în prezent. Irregular elaborează un document pentru a împărtăși cele mai bune practici privind izolarea și executarea în siguranță a evaluărilor cibernetice', a precizat Irregular.
Recentele încălcări ale securității datelor au stârnit îngrijorări în rândul aleșilor americani cu privire la posibilitatea utilizării unor modele de inteligență artificială din ce în ce mai capabile să efectueze sau să faciliteze atacuri cibernetice.
Un grup de procurori generali republicani de stat a solicitat OpenAI să păstreze toate documentele potențial relevante legate de incidentul Hugging Face. OpenAI a declarat că va lua în serios solicitarea și va publica un raport tehnic despre incident.
La începutul acestei săptămâni, Casa Albă a invitat companii de inteligență artificială de top, inclusiv Meta, Anthropic, OpenAI și Google, să se întâlnească cu oficialii pentru a discuta un cadru de testare voluntară a securității cibernetice, recent finalizat, pentru modelele avansate de inteligență artificială.
Administrația Trump a discutat reguli de testare nepublicate cu reprezentanții companiilor și a informat dezvoltatorii de inteligență artificială că modelele de inteligență artificială deschise, cum ar fi Llama de la Meta și Nemotron de la Nvidia, nu vor fi supuse regimului său planificat de testare voluntară a siguranței, a relatat Reuters. AGERPRES/(AS - redactor: Ionuț Mareș, editor: Gabriela Ionescu, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
UPDATE Ungaria declină propunerea ucraineană de participare la un grup regional de cooperare
Ungaria nu dorește să facă parte, în acest stadiu, din noul format de cooperare regională, denumit Inițiativa pentru integrare carpatică 'Carpathian 8', la inițiativa Kievului, a declarat marți pentru AFP Ministerul ungar de Externe. Mult mai direct, premierul Peter Magyar a indicat luni pe X că este inacceptabil ca Ungaria să fi
Austria: Instalarea unui centru de date al Google întâmpină opoziție
Gigantul american Google se confruntă în Austria cu o opoziție față de instalarea primului său centru de date, pe fondul dezbaterii despre costul de mediu al unui sector aflat în expansiune, transmite marți AFP. 'Trebuie să regândim creșterea infinită', a declarat pentru AFP Christina Gruber, care se opune acestei inv
Uniunea Europeană: Suspansul legat de ridicarea sancțiunilor împotriva a doi oligarhi ruși continuă
Uniunea Europeană era în impas marți dimineață în ceea ce privește prelungirea sancțiunilor contra Rusiei în contextul războiului din Ucraina, Franța și Luxemburgul cerând retragerea a doi oligarhi ruși de pe lista persoanelor și entităților sancționate de UE, în timp ce Letonia se opune ferm acestei solicitări, transmite France Presse.
Casa Albă și-a lansat propriul canal de televiziune online, intitulat Trump TV
Casa Albă și-a lansat luni propriul canal de televiziune online, intitulat Trump TV, pe fondul escaladării unei dispute cu instituții media importante din Statele Unite după ce președintele Donald Trump a interzis accesul jurnaliștilor de la CNN, MS NOW și Politico în sediul președinției americane, transmite dpa. Noul canal a încep
Guvernul Republicii Moldova propune instituirea stării de urgență în sectoarele energetic și hidrologic pentru 60 de zile
Guvernul Republicii Moldova va propune Parlamentului de la Chișinău declararea stării de urgență în sectoarele energetic și hidrologic, la nivel național, pentru o perioadă de 60 de zile, începând cu 26 septembrie. Măsura are caracter preventiv și este necesară pentru ca autoritățile să poată interveni rapid în cazul unor perturbări în a
Regatul Unit oferă sprijin militar 'defensiv' Arabiei Saudite împotriva atacurilor houthi
Prim-ministrul britanic Andy Burnham a anunțat că avioanele Forțelor Aeriene Regale vor oferi realimentare în zbor pentru avioanele de vânătoare saudite pentru a ajuta Arabia Saudită să facă față lansărilor de drone și rachete realizate de rebelii houthi din Yemen împotriva teritoriului său, informează marți EFE și AFP. Burnh
BTA/ Rumen Radev: 'Am eliminat oligarhii din zona puterii politice'
Premierul bulgar Rumen Radev a declarat luni că guvernul a reușit să înlăture oligarhia din zona puterii politice, dar a avertizat că procesul de destructurare a modelului oligarhic este abia la început. Declarația a fost făcută la tradiționalul mic dejun de afaceri organizat de Camera Americană de Comerț din Bulgaria (AmCham), la
Turcia: Poliția l-a reținut pe presupusul autor al unui atac soldat cu cel puțin opt răniți
Presupusul autor al unui atac cu armă de foc comis în fața unei instituții școlare din Manisa, localitate din apropierea orașului turc Izmir, a fost reținut marți de forțele de ordine, a anunțat biroul guvernatorului local, citat de AFP. În atac au fost rănite cel puțin opt persoane. Poliția și echipe medicale s-au deplasat la locu
Rusia și-a contunuat campania împotriva industriei ucrainene cu patru atacuri cu rachete
Rusia a atacat marți cu rachete infrastructuri industriale în trei orașe din regiunile Dnipropetrovsk și Poltava, conform informărilor făcute pe rețele de social media de către guvernatorii acestor regiuni, Oleksandr Ganja, respectiv Vitali Diakivnici, relatează EFE. Atacurile fac parte din campania agresivă pe care Rusia o desfășoară de
Președintele sud-coreean susține înghețarea programului nuclear al Coreei de Nord
Președintele sud-coreean Lee Jae Myung consideră că Washingtonul ar trebui să lucreze la o înghețare a programului nuclear nord-coreean mai degrabă decât la eliminarea sa imediată și să propună în schimb o relaxare a sancțiunilor, relatează marți AFP citând New York Times. De la preluarea mandatului de președinte î
Bab el-Mandeb: Houthi trebuie să înceteze 'imediat' amenințările și atacurile (miniștrii de externe ai G7)
Combatanții antiguvernamentali houthi din Yemen trebuie 'să înceteze imediat orice acțiuni militare, amenințări și atacuri' împotriva transportului maritim, au cerut luni seara miniștrii de externe ai G7 într-o declarație în marja Adunării Generale a ONU, informează AFP. 'Actele lor reprobabile constituie o
Președintele iranian Masoud Pezeshkian promite să apere ferm la ONU pozițiile țării sale
Președintele iranian Masoud Pezeshkian, care a plecat marți spre New York pentru a participa la sesiunea anuală a Adunării Generale a ONU, a promis că ''va apăra ferm'' pozițiile țării sale pe fondul conflictului cu SUA, transmit AFP și Reuters. ''Am ieșit cu capul sus (din război), ceea ce constituie o sursă de demnita
SUA trimit echipament militar în Guatemala pentru prima dată din 1977
SUA au livrat echipamente militare Guatemalei luni, pentru prima oară în aproape 50 de ani, punând astfel capăt unui embargo asupra armelor impus ca urmare a încălcărilor drepturilor omului în această țară din America Centrală, relatează dpa. Guatemala va primi arme și echipamente în valoare de aproximativ 5 milio
#Ucraina: Două persoane ucise la Dnipro în urma atacurilor rusești din cursul nopții
Atacurile rusești din cursul nopții de luni spre marți au ucis două persoane la Dnipro (în estul Ucrainei), au anunțat autoritățile locale marți, în timp ce președintele ucrainean Volodimir Zelenski a ajuns la New York, unde va pleda cauza Ucrainei în cadrul Adunării Generale a ONU și în marja forumului internațional, relatează AFP.
ONU: Delegația iraniană, condusă de ministrul de externe Abbas Araghchi, a sosit la New York
Ministrul de externe iranian, Abbas Araghchi, a sosit luni la New York pentru sesiunea anuală a Adunării Generale a ONU, el fiind cel mai important demnitar iranian care intră pe teritoriul Statelor Unite de la începerea războiului din Orientul Mijlociu declanșat de loviturile americano-israeliene asupra Iranului, la finalul lunii februarie, transmite AFP.
