Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Mai multe state europene presează Comisia să adopte mai rapid legea de restricționare a 'poluanților eterni'
Mai multe state membre ale UE intenționează să îndemne Comisia să adopte mai rapid proiectul de lege care restricționează utilizarea 'poluanților eterni' sau PFAS, aflat în prezent în curs de elaborare, conform unui document de lucru consultat de AFP. 'Îndemnăm Comisia să asigure eficiența etapelor finale ale procesului de r
Mâncarea nesănătoasă, asociată cu o sănătate mintală și funcții cognitive mai slabe (studiu)
Alimentația nesănătoasă, bogată în mâncare de tip 'junk food' și băuturi îndulcite cu zahăr, poate să afecteze sănătatea mintală, fiind asociată cu performanțe cognitive și rezultate școlare mai slabe în rândul copiilor și adolescenților, conform unui studiu realizat în Australia, informează miercuri agenția de presă Xinhua.
Sonda Voyager 1 a ajuns la o distanță de o zi-lumină de Pământ
Sonda Voyager 1 a agenției spațiale americane, NASA, care călătorește de aproape 50 de ani în spațiu, a atins miercuri distanța simbolică de o zi-lumină față de Pământ, informează AFP. Sonda Voyager 1, obiectul creat de om care a realizat cea mai îndepărtată călătorie în spațiu de planeta noastră, se află la aproximativ
Seismul din România, resimțit în mai multe țări, printre care și Republica Moldova
Cutremurul produs în zona seismică Vrancea în noaptea de marți spre miercuri, la ora 02:48, a fost resimțit în mai multe țări, printre care și Republica Moldova, conform Moldpress.
Prințesa Kate salută ''schimbarea radicală'' pe care o vor genera câștigătorii premiului pentru mediu Earthshot
Prințesa Kate a Marii Britanii a vorbit despre ''schimbarea radicală'' pe care o vor genera câștigătorii Earthshot Prize la gala decernării acestui premiu pentru protecția mediului, desfășurată în Mumbai, India, informează DPA și PA Media. Prințesa de Wales a ținut un discurs la gala de decernare a acestor premii fondate de soțul ei
China / Un cercetător a fost demis după moartea unei fetițe care a urmat o terapie genică experimentală
Un om de știință chinez care a ascuns moartea unei fetițe de șase ani survenită în timpul unei experiment de editare genică, a fost demis în urma unei anchete realizată de autoritățile din Shanghai, potrivit presei de stat, informează AFP. Copilul a decedat anul trecut după ce a urmat o terapie genică experimentală în scopul tratării unei afe
O genă moștenită de la neanderthalieni modelează creierul oamenilor moderni și influențează riscul de schizofrenie
O mică porțiune de ADN neanderthalian este asociată cu o diferență măsurabilă în dimensiunea lobilor occipitali - regiunea care ocupă partea din spate a creierului și, în mod neobișnuit, aceeași variantă genetică este, de asemenea, legată de un risc ușor mai mic de schizofrenie, dar fără o asociere cu capacitatea cognitivă generală, transmite marți Science Alert
Schimbare de obiectiv pentru sonda japoneză Hayabusa-2 din cauza uzurii motoarelor
Sonda japoneză Hayabusa-2, care a adus pe Pământ praf de asteroid, în 2020, și-a schimbat traiectoria în cadrul misiunii sale prelungite, ca urmare a uzurii echipamentelor, informează marți AFP. La 12 ani de la lansare, 'deteriorarea echipamentelor de la bord (...) devine din ce în ce mai evidentă', a declarat jurnaliștilor, mar
În uter se află un microbiom care influențează dezvoltarea sarcinii (studiu)
Timp de peste un secol biologii au considerat că uterul este un mediu relativ steril, lipsit de majoritatea microbilor, dar, conform unui studiu recent, publicat în în revista Human Reproduction, cercetători irlandezi de la Trinity College din Dublin sugerează că microbii ne-ar putea modela viitorul încă dinainte de naștere, transmite Science Alert.
Supercomputerul chinez LineShine se menține în fruntea topului celor mai puternice sisteme informatice din lume
Supercomputerul chinez LineShine și-a menținut poziția fruntașă în clasamentul celor mai puternice supercomputere din lume, TOP500, publicat luni în cadrul Conferinței internaționale pentru calcul de înaltă performanță, rețele, stocare și analiză (SC26) din Chicago, Statele Unite, transmite marți agenția de presă Xinhua. Inst
Modelele de AI ignoră datele științifice legate de climă la primul semn de reacție negativă din partea utilizatorilor (UNESCO)
Modelele de inteligență artificială (AI) pot răspunde corect la aproximativ 90% dintre întrebările legate de știința climei, însă au tendința de a ignora faptele științifice consacrate atunci când utilizatorii le contestă răspunsurile, conform unui raport publicat luni de UNESCO, citat de agenția de presă Xinhua. Cercetătorii
Starship va deveni mai mare și mai puternică odată cu trecerea la motoarele V4
Trecerea la modelul V4 al Starship va însemna că megaracheta construită de SpaceX va deveni chiar și mai mare și va dispune de o capacitate de stocare a combustibilului cu peste 60% mai ridicată, conform unui anunț făcut de Elon Musk duminică seară pe contul său de X, platforma socială pe care o deține, transmite marți Space.com. Sâ
Modelele AI sunt puțin fiabile pe subiecte legate de schimbările climatice când sunt contrazise de utilizatori (raport)
Cele mai performante modele de inteligență artificială (AI) se dovedesc rapid puțin fiabile pe subiecte legate de schimbările climatice, mai ales atunci când sunt contrazise de utilizatorii lor, potrivit unui raport UNESCO dat publicității luni în Antalya (Turcia), în cadrul Conferinței ONU privind Schimbările Climatice (COP31), informează AFP.
Supercalculatorul emblematic al Japoniei, Fugaku, a fost accesat fără autorizație și există temeri privind o scurgere de date
Sistemul de operare al supercalculatorului Fugaku, emblematic pentru Japonia, a fost accesat fără autorizație, existând temeri că datele utilizatorilor ar fi putut fi divulgate, au anunțat luni institutul de cercetare Riken și ministerul de resort, relatează Kyodo. Funcționarea Fugaku a fost suspendată, în timp ce institutul invest
SpaceX recuperează treapta superioară a mega-rachetei sale Starship, o premieră
Compania SpaceX a lui Elon Musk a reușit să recupereze sâmbătă impunătoarea treaptă superioară a mega-rachetei sale Starship după mai bine de 22 de ore de zbor, o realizare fără precedent, crucială pentru ambițiile spațiale ale Statelor Unite, transmite AFP. După ce a efectuat aproximativ 14 rotații în jurul Pământului, rache












