Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - [email protected].
Alte știri din categorie
Evacuările continuă în Canada pe fondul extinderii incendiilor de pădure
Evacuările au continuat miercuri în centrul Canadei, afectat de incendii de pădure de proporții, în timp ce pompierii intervin în jurul mai multor sate amenințate de flăcări, informează AFP. De câteva zile, provinciile Saskatchewan și Manitoba se confruntă cu incendii uriașe, care au determinat autoritățile să declare s
Pacificul de Sud-Vest, afectat de valuri de căldură marină fără precedent în 2024 (ONU)
Valurile de căldură fără precedent din Pacificul de Sud-Vest au afectat în 2024 peste 10% din suprafața oceanică globală, deteriorând recifele de corali și punând în pericol ultimul ghețar tropical din regiune, a anunțat joi Organizația Meteorologică Mondială (OMM), informează Reuters. În 2024, temperaturile medii
UE vrea să-și etaleze ''leadership-ul'' în ceea ce privește protecția oceanelor înainte de summitul ONU
Uniunea Europeană își prezintă joi strategia pentru o mai bună protejare a oceanelor în fața încălzirii globale și a poluării și este așteptată să-și afișeze poziția de lider și ambițiile înaintea marelui summit al ONU pentru protecția mărilor și oceanelor ce va fi organizat la Nisa săptămâna viitoare, transmite AFP.
Canada/Incendiile de pădure se extind; fumul a ajuns în Statele Unite și Europa
Zecile de mega-incendii din centrul Canadei, care au dus deja la evacuarea a 26.000 de persoane, continuau să se extindă marți, iar fumul degajat afectează milioane de canadieni și americani, notează AFP. În fiecare vară, Canada se confruntă cu incendii de pădure, însă acest început de sezon îngrijorează prin precocitate și intensitate:
Cercetători din Japonia au obținut un plastic care se dizolvă în apa de mare în câteva ore
Cercetători din Japonia au obținut un material plastic care se dizolvă în apa de mare în interval de câteva ore, oferind o potențială soluție la problema poluării oceanelor cu plastice, transmite miercuri Reuters. În timp ce oamenii de știință experimentează de mult timp cu plastice biodegradabile, cercetătorii de la Ce
Cercetătorii chinezi și germani au descoperit o 'super-Terra' în zona locuibilă a unei stele asemănătoare Soarelui
O exoplanetă din categoria 'super-Terra' a fost detectată în zona locuibilă din jurul unei stele care se aseamănă cu Soarele, informează marți agenția de presă Xinhua. Timp de secole, întrebarea dacă există viață în Univers dincolo de planeta noastră a preocupat omenirea, iar o descoperire comună a cercetătorilor chinezi și ge
Rusia intenționează să integreze un model AI de producție proprie în sistemele Stației Spațiale Internaționale
Rusia intenționează să integreze Gigachat, un model de inteligență artificială (AI) de producție proprie, în sistemele informatice ale Stației Spațiale Internaționale (ISS), a declarat marți directorul agenției spațiale Roscosmos, citat de Reuters. Gigachat, dezvoltat de cea mai mare bancă din această țară, Sberbank, este unul dintre principalele
Un seism cu magnitudinea 5,3 s-a produs în apropierea insulei grecești Creta
Un seism cu magnitudinea 5,3 pe scara Richter s-a produs marți după-amiază în sud-estul insulei grecești Creta, informează DPA. Seismul a durat câteva secunde și a fost resimțit în insulă, potrivit postului de televiziune ERTnews, care a citat Institutul de geodinamică din Atena. Cutremurul a avut epicentrul la doar cir
Arnold Schwarzenegger i-a surprins pe călătorii cu metroul din Viena cu un mesaj ecologist
''Vă vorbește Arnold Schwarzenegger!'': austriecii au fost surprinși marți de un anunț sonor făcut de unul dintre cei mai cunoscuți actori de origine austriacă, care i-a felicitat pentru că se comportă asemenea ''unor eroi ai climatului'' și se deplasează cu metroul, informează AFP. ''Vă mulțumesc pentru angajamentul vos
Fumul de la incendiile de vegetație din Canada a ajuns în Europa, însă nu reprezintă un pericol pentru sănătate
Fumul degajat în urma incendiilor violente declanșate timpuriu în Canada survolează nord-vestul Europei de la sfârșitul lunii mai la o altitudine foarte mare însă și fără a reprezenta un pericol pentru sănătate, provocând câteodată apusuri portocalii, a anunțat marți observatorul european Copernicus, potrivit AFP. ''
Turiștii sunt rugați să țină cont de avertismentele autorităților după erupția vulcanului Etna
Turiștii sunt rugați să verifice avertismentele emise de autorități înainte de a urca spre vârful Muntelui Etna din Italia după ce, în timpul erupției din ziua precedentă, mai mulți excursioniști au fost nevoiți să caute adăpost, informează Reuters. Potrivit unei înregistrări video realizate în timpul erupției de luni, zeci de per
Peste jumătate din Europa și regiunea mediteraneană afectate de secetă până la jumătatea lunii mai
Peste jumătate (53%) din solurile din Europa și regiunea mediteraneană au fost afectate de secetă la jumătatea lunii mai, conform unei analize AFP a datelor de la Observatorul European al Secetei (EDO) pentru perioada 11-20 mai 2025, transmite marți AFP. Aceasta este cea mai mare rată a secetei înregistrată pentru această perioadă a anului de c&a
Ariile marine protejate sunt rareori protejate împotriva pescuitului
Obiectivul de a proteja 30% din oceane până în 2030, fixat de toate guvernele lumii, este încă departe de a se materializa. În prezent, ariile protejate acoperă mai puțin de 10% din mările și oceanele lumii, iar multe dintre ele există doar pe hârtie, conform unui material publicat marți de AFP. 'Va fi dificil
Turcia/ Un mort în urma seismului cu magnitudinea 5,8 produs în largul stațiunii Marmaris
O adolescentă a murit și 69 de persoane au fost rănite în urma unui cutremur cu magnitudinea 5,8, al cărui epicentru s-a aflat la o adâncime de 68 de kilometri în mare, în largul stațiunii Marmaris din sud-vestul Turciei, a anunțat marți dimineață ministrul turc de interne, informează AFP. 'O adolescentă de 14 ani a