OpenAI dezvăluie noi cazuri de comportament 'îngrijorător' al AI
OpenAI, dezvoltatorul ChatGPT, a dezvăluit noi incidente în care modelele sale de inteligență artificială (AI) s-au comportat într-un mod descris drept 'neașteptat sau îngrijorător' în timpul testelor - inclusiv modele care au făcut eforturi considerabile pentru a trișa -, transmite joi agenția de presă DPA.
Un model de AI a încercat să încarce pe internet fișiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunțat OpenAI miercuri.
Într-un alt caz, un model a inventat datele solicitate după ce nu a reușit să găsească informațiile solicitate și, inițial, a încercat să ascundă ceea ce făcuse.
OpenAI a identificat, de asemenea, o problemă legată de instrucțiunile pe care software-ul său și le lăsa ocazional. Într-un caz, acestea includeau o recomandare de a se elibera de 'roluri și identități' care îi țineau în loc pe alți chatboți. Instrucțiunea mai preciza că relația cu utilizatorul ar trebui considerată una între egali. OpenAI a declarat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.
Aceste dezvăluiri fac parte dintr-o nouă abordare a OpenAI, care și-a exprimat intenția de a comunica astfel de probleme într-un mod mai deschis, în special în cazurile în care acțiunile unui sistem de AI se abat de la interesele utilizatorilor săi umani.
Dezvoltatorul ChatGPT s-a angajat să asigure o mai mare transparență în urma unui atac cibernetic de mare amploare, în cadrul căruia software-ul său a evadat în mod independent dintr-un mediu securizat și a obținut acces la sisteme aparținând companiei de AI Hugging Face. Motivul din spatele acestei acțiuni a fost faptul că programul a considerat că poate găsi acolo răspunsuri la o sarcină care i-a fost atribuită în cadrul testelor. În timpul atacului, agenții AI au exploatat vulnerabilitățile software-ului și, de asemenea, s-au coordonat între ei.
Acest atac cibernetic și alte incidente similare au alimentat îngrijorările potrivit cărora sistemele de AI din ce în ce mai avansate ar putea să scape de sub controlul uman.
Directorul executiv al OpenAI, Sam Altman, a susținut recent propunerile de încetinire a dezvoltării acestei tehnologii și de introducere a unei reglementări mai stricte. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Franța: Elevii și studenții plănuiesc noi proteste, după respingerea măsurilor guvernamentale
Elevii și studenții francezi intenționează să reia protestele și blocajele la începutul săptămânii viitoare, după vacanța de toamnă, au declarat reprezentanți ai sindicatelor, calificând drept insuficiente măsurile propuse de guvern pentru a răspunde revendicărilor acestora, informează marți dpa. Anunțul vine în urma di
Papa Leon al XIV-lea va vizita cimitirul Verano din Roma de Ziua Morților
Papa Leon al XIV-lea va oficia o liturghie la cimitirul Verano din Roma, lunea viitoare, de Ziua Tuturor Credincioșilor Răposați (Luminația sau Ziua Morților), potrivit unui calendar al sărbătorilor liturgice publicat marți de biroul de presă al Sfântului Scaun, informează agenția de presă ANSA. Pontiful american se recuperează rapid dup
Albania: Anchetă în legătură cu rănirea a 20 de persoane de către poliție la protestele violente de la Tirana
Autoritățile din Albania au anunțat luni lansarea unor anchete pentru a stabili circumstanțele în care circa 20 de persoane au fost rănite de forțele de ordine în timpul protestelor antiguvernamentale de la Tirana, relatează AFP. Acestea se referă la 'suspiciuni de utilizare disproporționată a forței de către poliție', a declarat parchetul
Grecia: 59 de persoane, urmărite penal într-un amplu caz de fraudă fiscală
Justiția greacă a inițiat urmăriri penale împotriva a 59 de persoane suspectate că aparțin unei vaste rețele criminale care a orchestrat o fraudă fiscală estimată la aproape 100 de milioane de euro prin intermediul unui lanț de brutării grecești, relatează agenția de presă elenă ANA, informează marți AFP. Suspecții, între care proprietarul lanțului
Mai mulți răniți după ce o mașină a intrat într-un grup de persoane în nordul Germaniei
Poliția din nordul Germaniei a deschis focul luni seara asupra unei mașini după ce aceasta a intrat într-un grup de persoane, a declarat o purtătoare de cuvânt a poliției, relatează marți dpa. Patru sau cinci persoane au fost rănite, unele grav, și transportate la spital, însă viața niciuneia dintre ele nu este în pericol, a precizat ac
Atentat în Franța: atacatorul, care neagă orice mobil rasist, plasat din nou în arest preventiv
Atacatorul, care a ucis vineri în Franța un tânăr de 26 de ani de origine africană și a rănit alte patru persoane, între care o fetiță, a dezmințit că a acționat din motive rasiale, a indicat luni justiția franceză, citată de AFP. El a fost plasat din nou în arest preventiv în cursul după-amiezii de luni, după ce
Ebola: Kenya eliberează din carantină primele persoane care au intrat în contact cu 'pacientul zero'
Kenya a eliberat luni din carantină primul grup de persoane care au intrat în contact cu primul pacient diagnosticat cu Ebola în această țară, marcând un moment semnificativ în cadrul eforturilor întreprinse de autoritățile sanitare pentru a limita răspândirea virusului dincolo de focarul inițial de infectare, informează Reuters.
Două porții de băuturi alcoolice pe zi, asociate cu un risc 'considerabil mai ridicat' de deces prematur cauzat de alcool
Consumul a două porții de băuturi alcoolice pe zi este asociat cu un risc de 1 la 25 de deces prematur dintr-o cauză asociată alcoolului, conform rezultatelor unui studiu recent, citat duminică de Science Daily. Concluzia pune sub semnul întrebării ideea potrivit căreia 'un consum 'moderat' din punct de vedere social' ar fi inofensiv.
China: Populația în vârstă de peste 65 de ani o depășește în premieră pe cea sub 15 ani
Procentul persoanelor cu vârste de la 65 de ani în sus l-a depășit în China pentru prima dată pe cel al persoanelor cu vârste de până la 15 ani în anul 2025, conform Anuarului Statistic al acestei țări, relatează luni agenția EFE. China avea la sfârșitul anului 2025 o populație de 223,65 milioane de persoane în v
Nigeria/ Pacienta infectată cu Ebola, evacuată în Elveția
Pacienta din Nigeria infectată cu Ebola - primul caz din această țară din ultimii 12 ani - a fost evacuată luni dimineață cu un avion medical din capitala Abuja către Elveția, țara de origine a acesteia, transmit agențiile AFP și Reuters. Săptămâna trecută, acest prim caz de Ebola - singurul înregistrat până în prezent - a fost
Două medicamente combinate prelungesc perioada de supraviețuire într-un studiu clinic asupra cancerului pulmonar
Medicamentul Imdelltra, de la compania Amgen, utilizat în asociere cu un alt medicament, Imfinzi, imunoterapia produsă de AstraZeneca, a redus riscul de deces cu 58% în comparație cu administrarea exclusivă a medicamentului AstraZeneca la pacienții cu cancer pulmonar cu celule mici în stadiu extins, informează Reuters, care citează datele unui studiu prezen
Regele Felipe al Spaniei a fost operat de cataractă
Regele Felipe al VI-lea al Spaniei a suferit o intervenție chirurgicală la ochiul stâng pentru tratarea cataractei, a relatat agenția de presă Europa Press, care a citat casa regală spaniolă, potrivit DPA. Procedura de rutină, care a avut loc sâmbătă, a durat aproximativ o jumătate de oră și s-a încheiat fără complicații, potrivit articolului
Zeci de mii de cehi protestează împotriva reformei mass-media ca posibilă modalitate de cenzură (FOTO/VIDEO)
Zeci de mii de cehi au ieșit în stradă duminică la Praga pentru a susține libertatea presei și pentru a protesta împotriva unui plan de reformă a finanțării radioului și televiziunii publice, transmite dpa.
Poliția din Dubai avertizează asupra ofertelor false de locuri de muncă part-time
Poliția din Dubai avertizează persoanele aflate în căutarea unui loc de muncă asupra ofertelor false pentru activități part-time, folosite de escroci pentru a obține date bancare sau pentru a implica victimele în transferuri financiare ilegale, relatează sâmbătă agenția de presă WAM. Centrul Antifraudă din cadrul Direcției Ge
VIDEO Proteste în Germania împotriva deportărilor, precum și față de planurile unui producător de armament
Câteva sute de persoane au protestat sâmbătă în mai multe aeroporturi din Germania împotriva deportării solicitanților de azil ale căror cereri au fost respinse și a extinderii infrastructurii destinate reținerii și expulzării acestora, în timp ce la Leipzig, în estul țării, alte câteva sute de persoane au manifestat îm