Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Cea mai puternică inteligență artificială creată de Anthropic devine publică, însă cu anumite limitări, din motive de securitate
Compania Anthropic, creatoarea modelelor de inteligență artificială (AI) Claude, a pus la dispoziția publicului, marți, versiunea cea mai puternică a tehnologiei sale, însă a decis să limiteze totuși accesul pentru anumite domenii sensibile, precum securitatea cibernetică și - o noutate - riscurile de atacuri biologice și chimice, informează AFP.
Artemis 3: NASA a dezvăluit echipajul misiunii
NASA a anunțat marți echipajul misiunii Artemis 3, despre care agenția spațială americană susține că va fi una dintre cele mai complexe misiuni spațiale din istorie, transmite Live Science. Cei patru membri ai echipajului sunt comandantul misiunii Randy 'Komrade' Bresnik (NASA), pilotul Luca Parmitano (ESA, Italia) și specialiștii misi
Turcia dezvăluie prioritatea sa pentru COP31: electrificarea
Președinția turcă a următoarei conferințe globale pentru climă (COP31) a îndemnat marți țările lumii să își ia angajamentul de a dezvolta utilizarea electricității, dar într-un mod voluntar și neobligatoriu, informează AFP. Cu cinci luni înainte de COP31, care se va desfășura în orașul Antalya în perioada 9-
SpaceX și-a doborât din nou propriul record de reutilizare, lansând un booster pentru a 35-a oară
SpaceX și-a doborât din nou propriul record de reutilizare a rachetelor, lansând un booster de primă treaptă a unei rachete Falcon 9 pentru a 35-a oară, transmite marți Space.com. Racheta Falcon 9, care a transportat pe orbita joasă a Pământului (LEO) 29 de sateliți Starlink, a fost lansată luni (8 iunie). Vehiculul a fost la
O echipă de oameni de știință propune diseminarea de substanțe chimice pe orbită pentru protecție împotriva furtunilor solare
O echipă de oameni de știință de la Universitatea din Boston propune o metodă de a întări în mod activ magnetosfera terestră pentru a face față furtunilor solare, folosind o flotă de sateliți meniți să preia impactul major al furtunilor solare, înainte ca acestea să lovească Terra, transmite marți Space.com care citează un material știinșțific publi
Afganistan/ 301 morți și 385 de răniți în urma dezastrelor naturale din ultimele săptămâni
Cel puțin 301 persoane și-au pierdut viața, iar alte 385 au fost rănite în urma viiturilor sezoniere și a dezastrelor naturale asociate care au lovit Afganistanul în ultimele zece săptămâni, au anunțat marți autoritățile, transmite agenția Xinhua. Dezastrele au provocat, de asemenea, distrugeri pe scară largă la nivelul infrastructurii și al
Brazilia suspendă administrarea unui vaccin în doză unică împotriva dengue după decese suspecte
Guvernul brazilian a anunțat luni suspendarea temporară a utilizării primului vaccin din lume în doză unică împotriva dengue, după identificarea a două decese suspecte, transmite AFP. Peste jumătate de milion de persoane, în special lucrători din domeniul sanitar, au primit de la începutul anului o doză din acest vaccin dezvoltat î
Bilanțul cutremurului din Filipine urcă la 37 de morți și aproape 500 de răniți
Bilanțul seismului cu magnitudinea 7,8 care a lovit luni sudul Filipinelor a crescut la 37 de morți, aproape 500 de răniți și cel puțin patru dispăruți, a anunțat marți agenția pentru situații de urgență a țării, transmite DPA.
Cuba: Cutremur cu magnitudinea 6,1 în largul coastelor de vest
Un cutremur puternic a avut loc luni în largul coastelor de vest a Cubei, corespondenți ai AFP la Havana raportând că mișcările seismice care au durat aproximativ 20 de secunde au obligat locuitorii să iasă din clădiri pentru a se refugia în stradă. Seismul a atins o magnitudine de 6,1 și s-a produs la aproximativ 100 de kilo
Franța adoptă noi măsuri pentru protecția mărilor și oceanelor
Guvernul francez a anunțat luni înființarea unor noi arii marine protejate, împreună cu un plan de acțiune împotriva deșeurilor de plastic de pe mare, la o conferință organizată la Paris, la un an după Conferința ONU privind Oceanele de la Nisa, transmite AFP. Aceste anunțuri vin în contextul în care ONU își
SUA înregistrează a doua cea mai călduroasă primăvară din istorie
Statele Unite, al doilea mare emițător de gaze cu efect de seră din lume, au înregistrat a doua cea mai călduroasă primăvară din istoria măsurătorilor meteorologice și se confruntă cu o secetă amplă, a anunțat luni o agenție americană de referință, informează AFP. Între lunile martie și mai, Statele Unite continentale (care nu incl
JWST a detectat cea mai îndepărtată gaură neagră supermasivă adormită cunoscută până în prezent
Telescopul Spațial James Webb (JWST) a observat cea mai îndepărtată gaură neagră inactivă din Universul cunoscut, ascunsă într-o galaxie aflată la peste 10 miliarde de ani-lumină de Pământ, transmite luni
Inteligența artificială poate consuma 3% din energia electrică a întregii planete, avertizează ONU
Un nou raport ONU cu privire la costurile de mediu ale tehnologiei inteligenței artificiale (AI) estimează că, până în 2030, consumul de energie al AI s-ar putea dubla, ajungând la 3% din electricitatea mondială, producând emisii egale cu cele ale Regatului Unit și epuizând mai multă apă pentru răcire decât necesarul anual de apă p
Genele rezistenței la antibiotice, descoperite în toate oceanele lumii, potrivit unui studiu italian
Genele asociate cu rezistența la antibiotice sunt prezente în mai multe bazine oceanice, inclusiv în apele îndepărtate, potrivit concluziilor publicate luni în cadrul unui proiect de cercetare coordonat de Italia, care a analizat eșantioane de apă marină prelevate din lumea întreagă, informează Reuters. Proiectul
Trei aeronave parcate pe un aeroport din India, avariate în timpul rafalelor puternice de vânt
Vântul puternic, însoțit de ploi, a condus la avarierea a trei aeronave cu fuselaj îngust aparținând companiei aeriene private Air India, a confirmat luni o sursă oficială, citată de agenția Xinhua. Incidentul a avut loc duminică, în dreptul Terminalului 2 al Aeroportului Internațional Indira Gandhi din Delhi, und