Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
China a lansat patru misiuni spațiale diferite în interval de 45 de ore
Săptămâna trecută China și-a demonstrat capacitatea în creștere a sectorului lansărilor spațiale, reușind să ridice pe orbită patru misiuni diferite în interval de doar 45 de ore, între 15 septembrie și 17 septembrie, de la trei porturi spațiale diferite, transmite Space.com. Două dintre aceste misiuni au fost private ș
Noi scanări susțin ipoteza existenței cel puțin a unei camere ascunse în mormântul lui Tutankhamon
La mai bine de un secol de la descoperirea mormântului lui Tutankhamon, noi investigații indică existența unei structuri mai mari dincolo de pereții acestui mormânt din Valea Regilor, concluzii ce susțin teoria privind mormântul lui Nefertiti, mama sa vitregă, transmite miercuri Archaeology Online. Mormântul, cunoscut s
Gimnaziul în care Alexandru cel Mare primea învățăturile lui Aristotel, descoperit în nordul Greciei
Noile săpături arheologice de la Gimnaziul Regal din antica Mieza, din nordul Greciei, scot la iveală detalii suplimentare despre modul în care se făcea educația în Macedonia secolului al IV-lea î.Hr, situl gimnaziului fiind considerat de arheologi și istorici drept școala unde Alexandru Macedon, cel ce avea să devină cel mai mare cuceritor al Antichității,
Uraganul Polo, aflat în largul coastei Mexicului la Oceanul Pacific, s-a intensificat la categoria 5
Uraganul Polo a crescut în intensitate și s-a transformat într-un uragan de categoria 5, nivelul maxim, în largul coastei Mexicului la Oceanul Pacific, existând riscul producerii unor inundații periculoase, a anunțat marți Centrul Național pentru Uragane din Statele Unite, într-unul din buletinele sale, potrivit Reuters. În
El Nino reprezintă o ''amenințare importantă'' pentru sănătate, avertizează ONU
Organizația Națiunilor Unite a avertizat marți în legătură cu numeroasele potențiale efecte ale El Nino asupra sănătății, subliniind că acest fenomen climatic natural reprezintă o ''amenințare importantă'', potrivit AFP. Riscurile sanitare sunt multiple, potrivit Organizației Mondiale a Sănătății (OMS): călduri intense care pot agrava anu
O amuletă veche de 1 mileniu, care îmbină o reprezentare creștină cu una păgână, descoperită lângă Moscova
Arheologii care efectuează săpături într-o așezare medievală din nord-vestul Rusiei au descoperit un pandantiv neobișnuit din secolul al XI-lea, care îmbină motive creștine și păgâne, fiind cea mai veche amuletă de acest tip descoperită în regiune, transmite marți Live Science. Pandantivul din aliaj de cupru, prevăzut cu reprezentări pe
Racheta Super Heavy a navetei Starship a fost transportată la rampa de lansare pentru prima misiune orbitală
SpaceX se pregătește pentru primul zbor orbital al mega-navetei sale Starship, eveniment programat peste doar o săptămână, iar racheta portantă cunoscută sub numele de Super Heavy a fost transportată la platforma de lansare de la baza Starbase a SpaceX din sudul statului Texas, a anunțat compania luni într-o postare pe platforma X, transmite Space.com.
VIDEO California declară starea de urgență în contextul fenomenului El Nino
Guvernatorul Californiei a declarat luni stare de urgență înaintea manifestării fenomenului climatic El Nino pe coasta vestică americană, care ar putea avea consecințe devastatoare, informează AFP. Potrivit prognozelor, în regiune s-ar putea produce furtuni violente și devastatoare, existând riscul formării unor valuri uriașe
Taifunul Dujuan se apropie de estul Japoniei; au fost emise alerte de inundații și alunecări de teren
Un taifun puternic se apropia luni de coastele Japoniei de la Oceanul Pacific, însoțit de ploi torențiale, vânturi violente și risc crescut de alunecări de teren în Kanto și alte regiuni din estul țării, a anunțat agenția națională de meteorologie, transmite Reuters. Agenția de Meteorologie a Japoniei (JMA) a avertizat că vre
Rechinul care a omorât un înotător pe plaja Sorrento din Australia este căutat pentru a fi ucis
Un rechin care a atacat mortal, vineri, un înotător pe o plajă din statul Australia de Vest (WA) va fi prins și ucis, a declarat sâmbătă ministrul pescuitului din acest stat australian, Jackie Jarvis, transmite Xinhua. Un bărbat în vârstă de 63 de ani înota pe plaja Sorrento, în suburbiile nordice ale capitalei WA, Perth, vi
Ecuador/ Pompierii luptă cu mai multe incendii forestiere în capitală
Pompierii din Ecuador luptau vineri cu mai multe incendii forestiere care fac ravagii în zonele împădurite din capitala țării, Quito, unde autoritățile au anunțat că au evacuat zeci de persoane, transmite AFP. Vânturile puternice și vegetația uscată pe fondul secetei au alimentat incendiul care a izbucnit pe Casitagua, un v&a
Viitură în Marele Canion/ A fost găsită a treia victimă
La mai bine de două săptămâni de la viitura care a surprins zeci de turiști în Marele Canion, în sud-vestul Statelor Unite, a fost găsit și identificat un al treilea cadavru, a anunțat joi soția victimei, informează AFP. Este vorba de Timothy Allen Smith, un american în vârstă de 53 de ani, dat dispărut după dezas
Regele Charles al III-lea îi avertizează pe liderii din domeniul AI cu privire la 'pericolul existențial' al acestei tehnologii
Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenței artificiale (AI) cu privire la 'pericolele existențiale' ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite, spunând că sunt necesare măsuri de siguranță înainte de a fi prea târziu, transmite joi Reuters.
Balenele cu cocoașă prezintă o formă de 'comportament asociat doliului' (studiu)
Un 'comportament asociat doliului' a fost observat la o balenă cu cocoașă, potrivit unui studiu publicat joi în Australia și citat de AFP. O femelă a rămas în preajma trupului lipsit de viață al puiului său, care zăcea pe fundul mării, conform imaginilor video surprinse anul trecut în largul coastei de est a Australiei.
O sondă a NASA a permis descoperirea unui crater format recent pe Lună
Un cercetător american a descoperit, cu ajutorul imaginilor transmise de o sondă a agenției spațiale americane, NASA, un crater de dimensiuni semnificative, format recent pe suprafața Lunii, un eveniment care, potrivit oamenilor de știință, se întâmplă 'o dată la un secol', relatează joi AFP. Denumit 'McGetchin' - în onoarea u