Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Canada intenționează să permită lansări spațiale comerciale și să-și reducă dependența de SUA
Autoritățile din Canada au anunțat marți că intenționează să permită lansări spațiale comerciale, invocând necesitatea de a valorifica o piață profitabilă și de a dezvolta o industrie de profil, precum și de a-și reduce dependența de Statele Unite, informează Reuters. Oficialii guvernamentali de la Ottawa au dezvăluit un proiect de lege care i-ar permite
O mumie de 700 de ani, descoperită în Bolivia, prezintă prima dovadă confirmată a infecțiilor streptococice de grupa A în America
Folosind analiza ADN-ului străvechi, cercetătorii au identificat prezența Streptococcus pyogenes, sau streptococul de grupa A, la o mumie veche de 700 de ani din Bolivia, confirmând că infecțiile cu streptococ erau prezente în cele două Americi înainte de explorările europene, transmite marți Live Science care citează un studiu publicat la 13 aprilie î
Roverul NASA completează lista compușilor organici detectați pe Marte
Lista compușilor organici detectați pe Marte a fost completată de roverul Curiosity al NASA în cadrul unui experiment care nu a mai fost încercat niciodată în afara Pământului, în contextul în care oamenii de știință încearcă să afle dacă Planeta Roșie a găzduit vreodată forme de viață, informează marți Reuters.
Cutremur cu magnitudinea 7,7 în Japonia/ Bilanțul indică cel puțin 6 răniți
Puternicul seism care a lovit luni nordul Japoniei s-a soldat cu cel puțin șase răniți, însă nu au fost semnalate pagube grave, au anunțat marți autoritățile nipone, care au avertizat, totodată, asupra riscului producerii unui mega-cutremur, informează AFP. La ora locală 08:00 (23:00 GMT, luni), bilanțul indica șase persoane rănite, dint
Roboții umanoizi i-au întrecut pe oameni într-un semimaraton desfășurat la Beijing
Roboții umanoizi au doborât duminică, la finalul unui semimaraton desfășurat la Beijing, recordul mondial uman înregistrat la această probă, ilustrând spectaculoasele progrese tehnologice chineze înregistrate în acest domeniu, informează AFP. Spectatorii s-au reunit de o parte și de alta a traseului pentru a vedea roboții, unii di
Noua Zeelandă/ Evacuări în capitala Wellington din cauza riscului crescut de inundații
Locuitorii din regiunile joase ale orașului Wellington, capitala Noii Zeelande, au fost îndemnați să evacueze zona, luni, în contextul ploilor torențiale care au continuat să afecteze localitatea, unde pe timpul nopții au fost înregistrate viituri, transmite Reuters. Primarul Andrew Little a declarat pentru postul național de
UPDATE Cutremur cu magnitudinea 7,4 în largul Japoniei; au fost înregistrate valuri seismice de până la 80 cm
Un seism cu magnitudinea 7,4 s-a produs luni după-amiază (ora locală) în largul coastei de nord-est a Japoniei, transmit luni agențiile Reuters și AFP care citează Agenția Japoneză de Meteorologie (JMA). Un tsunami de 80 de centimetri a lovit un port din nordul Japoniei la scurt timp după cutremur, a indicat JMA. Tsunamiul
Artemis 2: Scutul termic al capsulei Orion, considerat de mulți punctul nevralgic al misiunii, s-a comportat excelent
Rezistența scutului termic al capsulei Orion, ce a încheiat cu succes misiunea Artemis 2, a fost subiectul unor discuții aprinse în perioada premergătoare amerizării misiunii din 10 aprilie - de fapt, timp de câțiva ani înainte de aceasta, unii experți considerându-l punctul nevralgic al misiunii, transmite Space.com.
Racheta New Glenn a companiei Blue Origin plasează un satelit pe o orbită greșită
Racheta de mare capacitate New Glenn a companiei Blue Origin a plasat un satelit pe o orbită greșită în timpul celei de-a treia lansări, a anunțat compania spațială fondată de Jeff Bezos, informează luni agenția DPA. Compania a precizat că circumstanțele sunt încă în curs de investigare. 'În prezent evaluăm situația
VIDEO Compania spațială Blue Origin lansează pentru prima dată o rachetă echipată cu un motor reutilizabil
Blue Origin, compania spațială americană a fondatorului Amazon Jeff Bezos, a reușit pentru prima dată duminică lansarea marii sale rachete New Glenn cu un propulsor deja utilizat, precum și recuperarea acestuia, o practică de reciclare care permite accelerarea ritmului lansărilor și intensificarea rivalității cu SpaceX, transmite France Presse.
BTA / Vulturii negri se reproduc din nou în Munții Rodopi după 33 de ani
Trei perechi de vulturi negri au scos pui, marcând astfel revenirea speciei ca pasăre reproducătoare în partea bulgară a Munților Rodopi după mai bine de trei decenii, a anunțat miercuri Societatea bulgară pentru protecția păsărilor (BSPB). Ultima cuibărire confirmată a vulturului negru în această regiune datează din anul 1993.
Furtunile au provocat inundații în capitala Noii Zeelande, Wellington
Wellington, capitala Noii Zeelande, a fost lovită de inundații sâmbătă după ce furtunile au adus precipitații însemnate în anumite regiuni din Insula de Nord, au precizat autoritățile, potrivit Reuters. ''Vremea severă produce inundații în tot orașul'', a anunțat consiliul municipal Hutt, o autoritate guvernamentală din
Cel mai mic ou de dinozaur non-aviar din lume, descoperit în estul Chinei, stabilește un record Guinness
Un minuscul ou fosilizat de dinozaur, descoperit în provincia Jiangxi din estul Chinei, a fost certificat în mod oficial de Guinness World Records drept cel mai mic ou de dinozaur non-aviar descoperit vreodată, a anunțat vineri Institutul Provincial de Cercetare și Explorare Geologică din Jiangxi, informează Xinhua. Fosila care a s
Țigările electronice pot introduce metale nocive în plămâni (studiu)
Utilizarea țigărilor electronice (vaping) poate introduce metale toxice direct în țesutul pulmonar, conform unui studiu australian recent, care pune sub semnul întrebării ipoteza conform căreia aceste dispozitive ar fi o alternativă mai sigură la fumat, transmite vineri agenția Xinhua. Chiar și utilizarea pe termen scurt a țigărilo
Oamenii de știință au descoperit un hormon natural care inversează obezitatea
Un hormon numit FGF21 poate combate obezitatea la șoareci prin activarea unui circuit cerebral recent identificat, legat de metabolism. În mod surprinzător, acesta acționează în mezencefal - aceeași regiune vizată de medicamentele GLP-1, precum Ozempic și Wegovy -, însă printr-un mecanism complet diferit: în loc să suprime pofta de mâncare, FGF2