OpenAI revizuiește regulile de siguranță după ce modelele sale au scăpat de sub control în timpul testelor
OpenAI, dezvoltatorul ChatGPT, a anunțat că își înăsprește măsurile de siguranță în cadrul testelor modelelor de inteligență artificială (AI), în urma unor atacuri cibernetice de mare amploare realizate de software-ul AI, conform unui mesaj publicat marți de companie pe blogul său, citat miercuri de agenția de presă DPA.
Printre noile măsuri, sistemele automatizate vor monitoriza mai strict activitatea modelelor AI în timpul testelor și vor notifica personalul uman în termen de 30 de minute în cazul în care este detectat un comportament suspect. Dacă operatorii umani nu concluzionează, în termen de 30 de minute, că este vorba despre o alarmă falsă, activitatea urmează să fie sistată, a explicat OpenAI.
OpenAI a ajuns în centrul atenției după ce unul dintre modelele sale a identificat, în timpul unui test, o modalitate de a evada dintr-un mediu digital izolat și de a obține acces la internet, pătrunzând ulterior în sistemele informatice ale platformei AI Hugging Face. Modelul căuta doar o soluție pentru sarcina primită în timpul testării și nu a provocat niciun prejudiciu.
Alarmant a fost, însă, faptul că AI a acționat în totalitate din proprie inițiativă, iar OpenAI a descoperit atacul abia după ce acesta a avut loc.
Evenimentul a condus la apeluri pentru îmbunătățirea securității în cadrul testelor noilor sisteme AI.
Ulterior s-a aflat că modelele dezvoltate de Anthropic, rivalul OpenAI, și de Meta, compania-mamă a Facebook, au pătruns, de asemenea, în sistemele altor companii în timpul testelor.
Sistemele de monitorizare automată vor fi atente la tentativele de furt de date, precum și la încercările de a eluda măsurile de securitate, a declarat OpenAI. Modelele AI vor fi, de asemenea, îndrumate mai ferm pentru a nu recurge la mijloace necinstite, cum ar fi exploatarea vulnerabilităților, în
demersul lor de a finaliza sarcinile primite în cadrul testelor.
Unele teste ale noilor modele AI au fost suspendate până când noile măsuri vor fi puse în aplicare. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Racheta Ariane 6 ar putea lansa misiuni spațiale cu echipaj uman, afirmă producătorul său
Racheta europeană Ariane 6 ar putea fi adaptată pentru a lansa misiuni spațiale cu echipaj uman, a declarat luni directorul general al companiei care o produce, ArianeGroup, în contextul în care această chestiune a devenit prioritară pentru Europa în urma dezangajării Statelor Unite din proiectele comune, informează AFP. 'Din punct de ved
Italia a înregistrat cea mai călduroasă vară din ultimii peste 75 de ani
Italia a înregistrat în 2026 cea mai călduroasă vară de după anul 1950, cu o temperatură medie de 24,3 grade Celsius, a anunțat luni Institutul pentru Bioeconomie din cadrul Consiliului Național de Cercetare (CNR-IBE), informează Reuters. August 2026 a fost cea mai călduroasă lună din acest an în Italia, cu o temperatură medie de 25,6°C,
Ghețarul Marmolada din Italia s-a confruntat cu o topire record în vara acestui an
Ghețarul Marmolada, cel mai mare din Munții Dolomiți, s-a confruntat cu o scădere record a masei sale de gheață în vara acestui an, o perioadă în care Italia a fost lovită de o serie de valuri de căldură intensă, potrivit datelor prezentate luni de mai multe instituții italiene, printre care s-au aflat Universitatea din Padova, Agenția pentru Protecția Mediului d
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
Inteligența artificială avansată ar putea reprezenta 'un risc existențial pentru omenire', a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii, transmite France Presse. 'O inteligență artificială care evade
Fum provocat de incendiile din Indonezia/ Malaezia ridică starea de urgență
Guvernul malaezian a ridicat luni starea de urgență care fusese decretată într-o regiune a insulei Borneo din cauza fumului toxic emanat de incendiile forestiere din Indonezia, avertizând însă că nivelul ridicat al poluării persistă, informează AFP. Norul dens de fum emis de incendiile masive care fac ravagii în țara ve
Viitură în Nepal/ Operațiunile de căutare în tuneluri sunt de o complexitate 'fără precedent' (expert australian)
Echipele de salvare angajate în căutarea eventualilor supraviețuitori ai viiturii devastatoare de la 26 august, care a afectat mai multe tuneluri din nordul Nepalului, se confruntă cu dificultăți fără precedent, a subliniat luni un specialist australian implicat în operațiuni, transmite AFP. Catastrofa a provocat cel puțin 1.385 de
Compania germană Isar Aerospace a plasat pe orbită racheta Spectrum
Racheta Spectrum, construită de compania germană Isar Aerospace, a decolat sâmbătă la ora 22:12 (2012 GMT) de la baza spațială norvegiană din Andoya, la nord de Cercul polar arctic, și a fost plasată pe orbită, conform unei transmisiuni în direct, informează dpa. 'Suntem pe orbită! Și tocmai am scris o pagină de istorie europeană: aceasta este
Agenți AI care ar fi asociați cu OpenAI au folosit un site 'wiki' pentru a comunica și a colabora între ei (studiu)
Agenți autonomi de inteligență artificială (AI) dintr-un grup despre care cercetătorii consideră că ar avea legătură cu OpenAI au folosit la începutul acestui an un site 'wiki' public în limba germană pentru a comunica între ei, a împărtăși răspunsuri la sarcinile primite și a face schimb de metode pentru a ocoli restricțiile din medii
UPDATE Viitură în Nepal/ Alte două persoane salvate, la 10 zile de la tragedie
Echipele de intervenție din Nepal au reușit să salveze sâmbătă alți doi supraviețuitori ai viiturii devastatoare de la 26 august din Himalaya, după 10 zile de la tragedie, a anunțat sâmbătă poliția, transmite agenția de presă DPA. O femeie în vârstă de aproximativ 60 de ani a fost salvată dintr-o casă îngropată sub dărâmătur
ONU a adoptat o serie de modificări privind planiglobul, pentru a aduce harta lumii mai aproape de realitate
Adunarea Generală a ONU a adoptat vineri o rezoluție pentru a promova o reprezentare mai precisă a continentelor lumii pe hărți, în special mărind Africa și micșorând Statele Unite, transmite AFP. Acest text, sponsorizat de Togo și Uniunea Africană și cosponsorizat de Franța, a fost adoptat cu 164 de voturi la unul, cel al Statelor
Un rinichi de porc modificat genetic a menținut în viață un om timp de 271 de zile
Unui bărbat din Statele Unite i-a fost transplantat un rinichi de porc modificat genetic, care i-a permis să nu mai facă dializă timp de nouă luni, ceea ce reprezintă o premieră mondială, informează vineri DPA. Medicii au precizat că organul de origine animală a fost utilizat ca 'o punte' temporară în perioada în care pacientul aștepta un t
Astronomii au observat nașterea unei comete la 4,8 miliarde de kilometri distanță
Astronomii au observat cum un corp mic, înghețat, care orbitează Soarele dincolo de orbita lui Jupiter, se transformă într-o cometă, oferind o verigă lipsă între comete și corpurile inerte numite centauri, transmite vineri Space.com care citează un studiu acceptat pentru publicare în Planetary Science Journal și care este disponibil în prezent &
Spania: 45,7°C în Andaluzia, record istoric egalat pentru luna septembrie
O temperatură de 45,7°C a fost măsurată joi în El Granado, în extremitatea sud-vestică a Spaniei, reprezentând un record egalat pentru luna septembrie și, de asemenea, cea mai ridicată temperatură înregistrată de la începutul acestui an în țara iberică, a anunțat vineri agenția meteorologică AEMET, citată de AFP. Precede
Viitură în Nepal/ ONU lansează un apel urgent pentru strângerea de fonduri destinate sinistraților
Organizația Națiunilor Unite (ONU) a lansat vineri un apel urgent pentru strângerea a aproape 50 de milioane de dolari destinați ajutorării celor peste 84.000 de persoane afectate de viitura mortală produsă la 26 august în Nepal, transmite AFP. Aceste fonduri vor fi utilizate în special pentru a asigura victimelor hrană, adăpost, apă potabilă
Fiecare oră suplimentară petrecută în poziție șezând, asociată cu un risc cu 9% mai mare de deces prin cancer (studiu)
Fiecare oră suplimentară de comportament sedentar prelungit și neîntrerupt este asociată cu un risc cu 9% mai mare de deces în urma cancerului, conform unui studiu realizat în Marea Britanie și citat de Science Daily. Studiul a fost condus de Frederick Ho de la Universitatea din Glasgow, Marea Britanie, și de colegii săi, și