Oamenii de știință vor să creeze o inteligență artificială pentru a controla agenții AI
Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI, informează AFP.
De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit 'Nobelul pentru informatică', avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.
'Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare', a explicat Yoshua Bengio într-un comunicat publicat marți. 'Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește', a adăugat el.
Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește 'un răspuns la aceste provocări'.
Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.
LawZero și-a fixat misiunea de 'a propune un mod de supraveghere a agenților AI', noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.
'Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect', a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
'AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine așa într-un mod autonom', a adăugat el.
LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.
Această organizație a angajat deja peste 15 cercetători și a primit mai multe contribuții financiare, inclusiv de la Schmidt Sciences, o organizație de caritate înființată de un fost director de la Google, Eric Schmidt, și de soția sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), creat în 1993 de Yoshua Bengio. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Adrian Dădârlat)
Sursa foto: yoshuabengio.org
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Japonia/ Evacuări și 500 de zboruri anulate înaintea taifunului Dolphin
Sute de mii de locuitori din sud-vestul Japoniei au primit ordin de evacuare, iar peste 500 de zboruri au fost anulate, vineri, în contextul apropierii taifunului Dolphin, care înainta lent către această regiune, însoțit de vânturi violente, ploi torențiale și valuri înalte, informează Reuters. Taifunul de categoria 1, &ic
O nouă activitate eruptivă a vulcanului Etna provoacă restricții pe aeroportul din Catania
O nouă activitate eruptivă a vulcanului Etna, cel mai înalt vulcan activ din Europa, cu o altitudine de aproximativ 3.350 de metri și situat pe insula italiană Sicilia, a condus vineri la introducerea unor restricții pe aeroportul din Catania, mai multe zboruri fiind deviate, informează agenția de presă EFE. Noi erupții de lavă au fost înregistrate
Cutremur cu magnitudinea 5,8 produs în largul Filipinelor, resimțit în capitală
Un cutremur cu magnitudinea 5,8 s-a produs vineri în largul provinciei Occidental Mindoro din vestul Filipinelor, conform potrivit Institutului Filipinez de Vulcanologie și Seismologie (PHIVOLCS). Seismul a fost resimțit în capitala Manila, conform martorilor Reuters. Cutremurul, înregistrat la ora locală 10:38, a avut epicentrul la aproximat
Autoritățile din Mallorca anunță o temperatură record a apei mării: 33 de grade Celsius
Autoritățile din Mallorca, o insulă din arhipelagul spaniol Baleare, au înregistrat o temperatură record de 33,02 grade Celsius în apele din largul coastelor acesteia în timpul actualului val de căldură, informează joi DPA. Această măsurătoare a fost transmisă de o baliză din Marea Mediterană, potrivit Serviciului Național de
Slovacia înregistrează un nou record absolut de căldură: 42,2 grade Celsius
Slovacia a înregistrat joi un nou record absolut de temperatură, de 42,2°C, a anunțat agenția națională de meteorologie, pe fundalul valului de căldură extremă care afectează Europa Centrală, informează AFP. Această măsurătoare, realizată la Dolne Plachtince, un sat din sudul țării, a depășit precedentul record de 41,4°C, stabili
Taifunul Dolphin va atinge uscatul în estul Chinei peste câteva zile
Centrul Național de Meteorologie din China a emis joi seară o alertă galbenă de vreme nefavorabilă în contextul în care se preconizează că taifunul Dolphin va atinge uscatul pe coastele estice ale Chinei, între Shanghai și Fuqing, un oraș din provincia Fujian, între zilele de duminică și luni, informează Xinhua. Dolphin
Peștera Vjetrenica din Bosnia, inclusă în patrimoniul UNESCO, oferă răcoare în timpul valului de căldură (FOTO/VIDEO)
Într-o perioadă în care sudul Bosniei se confruntă cu o căldură sufocantă de 40 de grade Celsius, turiștii au căutat adăpost în peștera Vjetrenica, inclusă în patrimoniul UNESCO, unde temperatura rămâne constantă, informează Reuters.
Pompierii, mobilizați în continuare împotriva incendiilor în Balcani
Pompierii erau în continuare mobilizați joi împotriva incendiilor de pădure din Balcani, unde un val de caniculă urmează să ajungă la apogeu cu temperaturi care pot atinge 40 de grade Celsius în anumite regiuni, informează AFP. După mai multe zile de temperaturi ridicate și de secetă, incendiile continuă să se propage î
Intemperii violente în Filipine; cel puțin patru morți
Alunecările de teren provocate de o depresiune tropicală au ucis patru persoane în nordul statului Filipine, au anunțat joi autoritățile din această țară, informează AFP. Insula principală a arhipelagului filipinez, Luzon, se confruntă de patru zile cu ploi torențiale, care au dus la închiderea administrațiilor publice și a unități
Cercetătorii chinezi confirmă existența particulei 'glueball', o nouă formă de materie
Cercetătorii chinezi au confirmat în premieră existența particulei 'glueball', o formă cu totul nouă de materie, conform Institutului pentru Fizica Energiilor Înalte (IHEP) din cadrul Academiei Chineze de Științe (CAS). Această descoperire vine după 15 ani de cercetări experimentale, informează joi agenția de presă Xinhua. Rezultatul a fost obținut î
Italia emite cod roșu de caniculă pentru toate cele 27 de orașe mari din țară
Guvernul italian a emis joi cel mai înalt nivel de alertă de caniculă - codul roșu - pentru toate cele 27 de orașe mari ale țării monitorizate de Ministerul Sănătății din Italia, în contextul în care temperaturile de peste 35 de grade Celsius persistă, transmite agenția de presă DPA. Un cod roșu este emis de guvernul de la Roma în condi
Japonia/ Peste 5.000 de persoane vizate de un ordin de evacuare în contextul apropierii taifunului Dolphin
Autoritățile nipone au emis joi un ordin de evacuare care vizează peste 5.000 de locuitori din prefectura Kagoshima, situată în sudul țării, în contextul apropierii taifunului Dolphin. Acesta se deplasează spre Marea Chinei de Est și a determinat anularea a sute de zboruri, informează agenția de presă EFE. Taifunul a înregistrat vânturi
Oamenii de știință confirmă prăbușirea pe Lună a treptei superioare a unei rachete
Treapta superioară a unei rachete a companiei SpaceX s-a prăbușit pe Lună, au confirmat miercuri oamenii de știință, pe baza observațiilor efectuate cu un telescop din Chile, care a detectat dovezi ale existenței unui nor de resturi, informează joi AFP. Coliziunea, care nu a fost intenționată, ar fi creat un crater pe suprafața selenară, pe care agențiile spaț
VIDEO Guatemala/ Erupția vulcanului Fuego s-a încheiat; persoanele evacuate revin la casele lor
Erupția vulcanului Fuego din Guatemala, care a condus inițial la evacuarea a peste 1.700 de locuitori din satele situate la poalele acestuia, s-a încheiat miercuri, iar persoanele evacuate au început să se întoarcă la casele lor, informează joi AFP.
Modele de Inteligență Artificială (IA) au scăpat de sub control în testele de securitate cibernetică, semnalează un raport britanic
Guvernul britanic a avertizat într-un raport că modelele de Inteligență Artificială (IA) Mythos și Sol, ale companiilor americane Anthropic și, respectiv, OpenAI, au demonstrat un comportament autonom și înșelător fără precedent în timpul testelor de securitate cibernetică, relatează miercuri agenția EFE. Ministerul britanic pentru Știință, I