OpenAI revizuiește regulile de siguranță după ce modelele sale au scăpat de sub control în timpul testelor
OpenAI, dezvoltatorul ChatGPT, a anunțat că își înăsprește măsurile de siguranță în cadrul testelor modelelor de inteligență artificială (AI), în urma unor atacuri cibernetice de mare amploare realizate de software-ul AI, conform unui mesaj publicat marți de companie pe blogul său, citat miercuri de agenția de presă DPA.
Printre noile măsuri, sistemele automatizate vor monitoriza mai strict activitatea modelelor AI în timpul testelor și vor notifica personalul uman în termen de 30 de minute în cazul în care este detectat un comportament suspect. Dacă operatorii umani nu concluzionează, în termen de 30 de minute, că este vorba despre o alarmă falsă, activitatea urmează să fie sistată, a explicat OpenAI.
OpenAI a ajuns în centrul atenției după ce unul dintre modelele sale a identificat, în timpul unui test, o modalitate de a evada dintr-un mediu digital izolat și de a obține acces la internet, pătrunzând ulterior în sistemele informatice ale platformei AI Hugging Face. Modelul căuta doar o soluție pentru sarcina primită în timpul testării și nu a provocat niciun prejudiciu.
Alarmant a fost, însă, faptul că AI a acționat în totalitate din proprie inițiativă, iar OpenAI a descoperit atacul abia după ce acesta a avut loc.
Evenimentul a condus la apeluri pentru îmbunătățirea securității în cadrul testelor noilor sisteme AI.
Ulterior s-a aflat că modelele dezvoltate de Anthropic, rivalul OpenAI, și de Meta, compania-mamă a Facebook, au pătruns, de asemenea, în sistemele altor companii în timpul testelor.
Sistemele de monitorizare automată vor fi atente la tentativele de furt de date, precum și la încercările de a eluda măsurile de securitate, a declarat OpenAI. Modelele AI vor fi, de asemenea, îndrumate mai ferm pentru a nu recurge la mijloace necinstite, cum ar fi exploatarea vulnerabilităților, în
demersul lor de a finaliza sarcinile primite în cadrul testelor.
Unele teste ale noilor modele AI au fost suspendate până când noile măsuri vor fi puse în aplicare. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
China reușește prima sa recuperare a boosterului unei rachete pe uscat
Start-upul chinez LandSpace a reușit să recupereze, miercuri, prima treaptă a rachetei sale Zhuque-3, alăturându-se astfel companiilor SpaceX și Blue Origin, singurele care reușiseră anterior aterizarea în siguranță a unui propulsor de clasă orbitală, transmit miercuri agențiile Reuters și Xinhua. Reușita reduce astfel decalajul dintre China și Statele Unite &ici
NASA publică imagini cu craterul format după prăbușirea pe Lună a unei rachete SpaceX
Agenția spațială americană, NASA, a publicat marți noi imagini cu craterul format în urma prăbușirii pe Lună, la 5 august, a treptei superioare a unei rachete Falcon 9 aparținând companiei SpaceX, transmite miercuri AFP. Fotografiile, realizate între 11 și 12 august, nu sunt primele care prezintă locul de impact, agenția spațială coreeană pub
Sophie Adenot a devenit prima astronaută franceză care a efectuat o ieșire extravehiculară în spațiu
Sophie Adenot a devenit prima astronaută franceză care a efectuat o ieșire extravehiculară în spațiu, marți, de la bordul Stației Spațiale Internaționale (ISS), alături de astronautul american Anil Menon, transmite AFP. După mai mult de patru ore de misiune, NASA a anunțat că cei doi astronauți nu vor putea îndeplini toate obiectiv
Spania / Un nou cutremur în Granada; trei persone rănite ușor
Un seism cu magnitudinea 4,8 a dus la rănirea ușoară a trei persoane și a provocat pagube materiale marți în Granada, sudul Spaniei, oraș afectat deja în acest weekend de un cutremur cu o magnitudine puțin mai mare, informează AFP. Mișcarea telurică a avut loc aproximativ la ora 10:38 (08:38 GMT), epicentrul fiind localizat î
Calea Lactee a înghițit o galaxie mai mică, în urmă cu circa 11,8 miliarde de ani
Calea Lactee, o galaxie vastă, în formă de spirală, care adăpostește sute de miliarde de stele, inclusiv Soarele nostru, a parcurs un drum lung și complicat pentru a ajunge la dimensiunile actuale, după cum arată rezultatele unei noi cercetări care documentează un eveniment de referință care a avut loc în primele etape ale istoriei sale, relatează marți Reuters.
Încălzirea globală, o amenințare mai gravă decât se estimase anterior la adresa persoanelor vârstnice (studiu)
Încălzirea globală va expune, în următoarele decenii, persoanele vârstnice la o creștere a temperaturilor chiar mai periculoasă decât se preconizase, conform unui studiu publicat marți în revista The Lancet Planetary Health, citat de AFP. Rezultatele acestor simulări, realizate de cercetători americani de la Universitatea Stanford
SpaceX a stabilit un nou record de lansări succesive ale unor misiuni orbitale
Compania aerospațială SpaceX a stabilit sâmbătă un nou record pentru cel mai scurt timp între două lansări de misiuni orbitale, transmite luni Space.com. SpaceX a lansat două rachete Falcon 9 la doar 38 de minute distanță, depășind cu 27 de minute vechiul său record - stabilit pe 31 august 2024 cu două misiuni Starlink.
Cercetătorii au cartografiat genomul unei plante antarctice, un pas în direcția unor culturi rezistente la schimbări climatice
O echipă condusă de oameni de știință din Chile a produs cea mai completă hartă genetică realizată până acum a uneia dintre singurele două planete cu flori care trăiesc în mod natural în Antarctica, demers care ar putea contribui la dezvoltarea unor recolte rezistente la vremea extremă, informează Reuters. Colobanthus quitens
Indonezia/ Bilanțul cutremurului cu magnitudinea 7,7 crește la 68 de morți și 213 răniți
Autoritățile indoneziene au crescut luni la 68 de morți și 213 de răniți bilanțul puternicului seism cu magnitudinea 7,7 care a zguduit sâmbătă coastele insulei Flores, în estul arhipelagului, transmis agențiile EFE și Reuters. Operațiunile de căutare și salvare sunt în curs de desfășurare. Agenția Locală pentru Gestionarea D
Cenușa emisă de vulcanul Etna reduce numărul de sloturi de aterizare pe aeroportul din Catania
Noile emisii de cenușă provenite de la vulcanul Etna au condus din nou la restricționarea parțială a traficului aerian pe Aeroportul Internațional din Catania, situat pe insula italiană Sicilia de la Marea Mediterană, a anunțat luni operatorul aeroportului, transmite agenția DPA. O parte din spațiul aerian a fost închisă din cauza emisiilor de cenușă, li
Grecia/ Incendiile de pe insula Salamina, de lângă Atena, soldate cu două victime, au fost stinse
Două incendii izbucnite pe insula grecească Salamina din apropiere de Atena, care au provocat moartea a doi locuitori și au condus la evacuarea a aproape 600 de persoane, au fost în mare parte stinse, au anunțat luni pompierii citați de AFP. 'Situația s-a îmbunătățit, nu mai există niciun front activ', a declarat pentru AFP un purtător de c
Hawaii/Peste 180.000 de persoane fără electricitate, 100 de locuințe avariate de uraganul Lala, retrogradat la furtună tropicală
Peste 180.000 de clienți au rămas fără electricitate în Hawaii duminică după-amiază după ce uraganul Lala s-a abătut asupra Insulei Mari înainte să fie retrogradat în categoria furtună tropicală, informează Reuters. Circa 183.123 de consumatori de pe întreg teritoriul Hawaii au rămas fără curent electric începând cu ora loca
Spania/ Deces al unui soldat într-un incendiu forestier din Aragon
Un soldat spaniol și-a pierdut viața duminică în timp ce participa la operațiunile de stingere a unui vast incendiu forestier izbucnit în Aragon, a declarat liderul acestei regiuni din nord-estul Spaniei, citat luni de AFP. 'I-am transmis sincere condoleanțe locotenentului-general al unității militare de urgență pentru decesul unui soldat &icir
Columbia continuă, fără prea multe speranțe, căutarea supraviețuitorilor cutremurului cu magnitudinea 7,4
Columbia a continuat duminică operațiunile de îndepărtare a dărâmăturilor, la aproape o săptămână de la puternicul seism care a devastat o parte din țară, în pofida șanselor reduse de a mai fi găsiți supraviețuitori, transmite luni AFP. Într-un peisaj dezolant, excavatoarele au intrat în acțiune, întrerupând lini