Musk şi un grup de experţi cer o pauză în dezvoltarea de sisteme de IA mai puternice decât modelul GPT-4
Magnatul Elon Musk şi un grup de experţi în inteligenţă artificială şi responsabili din industria IT au făcut apel la o pauză de şase luni în pregătirea de sisteme mai puternice decât modelul GPT-4 recent lansat de laboratoarele OpenAI, avertizând într-o scrisoare deschisă asupra potenţialelor riscuri la adresa societăţii şi omenirii, relatează miercuri Reuters.
Scrisoarea publicată de institutul non-profit Future of Life şi semnată de peste 1000 de persoane - între care Elon Musk, şeful companiei Stability AI Emad Mostaque, cercetători de la laboratorul DeepMind al grupului Alphabet şi informaticieni de prestigiu ca Yoshua Bengio şi Stuart Russell - cere o pauză în dezvoltarea IA avansate până când nu vor fi create, implementate şi verificate de experţi independenţi protocoale de securitate comune pentru astfel de modele.
"Nu ar trebui dezvoltate sisteme IA puternice decât după ce vom putea avea încredere că efectele lor sunt pozitive şi putem gestiona riscurile", se arată în scrisoare.
Aceasta explică de asemenea că sistemele de IA ce intră în competiţie cu inteligenţa umană generează potenţiale riscuri pentru societate şi civilizaţie sub forma tulburărilor economice şi politice şi îi îndeamnă pe dezvoltatorii de astfel de sisteme să conlucreze cu factorii de decizie politică şi autorităţile de reglementare.
Musk, a cărui companie Tesla foloseşte IA pentru sistemul de autopilotare al maşinilor autonome, şi-a exprimat în mod repetat preocuparea în legătură cu inteligenţa artificială. Luni, forţa de poliţie a UE Europol s-a alăturat la rândul ei corului de preocupări etice şi juridice cu privire la sistemele avansate de IA cum este ChatGPT, avertizând împotriva unor potenţiale utilizări abuzive ale acestora sub forma tentativelor de phishing, a dezinformării şi criminalităţii informatice.
După ce anul trecut OpenAI, cu sprijinul Microsoft, a lansat ChatGPT, concurenţa a accelerat dezvoltarea de modele similare ce integrează inteligenţa artificială generativă.
Sam Altman, CEO al OpenAI, nu a semnat scrisoarea, menţionează Reuters, citând un purtător de cuvânt de la Future of Life.
"Scrisoarea nu este perfectă, dar este corectă: trebuie să scădem ritmul până când vom înţelege mai bine ramificaţiile", a notat Gary Marcus, profesor la Universitatea New York şi unul dintre semnatari. Sisteme puternice de IA "pot provoca daune grave (...), marii jucători sunt din ce în ce mai secretoşi în legătură cu ceea ce fac, iar societăţii îi va fi mai greu să se apere de problemele care se pot materializa", a adăugat acesta. AGERPRES/(AS - autor: Mihaela Toth, editor: Gabriela Ionescu, editor online: Simona Aruştei)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - [email protected].
Alte știri din categorie
Cercetătorii australieni anunță al șaselea episod de albire masivă care afectează Marea Barieră de Corali
Oamenii de știință australieni au raportat cel de-al șaselea episod de albire masivă la Marea Barieră de Corali petrecut după 2016, informează Xinhua. Într-un raport publicat miercuri seară, cercetători din mai multe agenții ale guvernului federal a anunțat că celebrul recif a fost afectat de ''un eveniment extins de albire'&
Trafic perturbat și risc de inundații și avalanșă în nordul Italiei și în sudul Elveției
Mai multe râuri din nordul Italiei au ieșit din matcă în urma ploilor abundente din regiune, autoritățile suspendând circulația în unele zone din apropierea cursurilor de apă, transmit joi agențiile DPA și AFP. Regiunea Piemont din nord-vest, cu capitala la Torino, a fost grav afectată, fiind lansate apeluri către popul
Indicii ale unei 'posibile activități biologice', detectate pe o exoplanetă
O echipă de astronomi a anunțat joi că au fost detectate cele mai promițătoare 'indicii ale unei posibile' vieți pe o planetă aflată în afara sistemului nostru solar. Alți oameni de știință au îndemnat, însă, la prudență, transmite AFP. Situată la 124 de ani-lumină de Terra, în constelația Leului, planeta K2-18b se află de mulți
Prima femeie germană care a ajuns în spațiu speră că realizarea sa îi va inspira pe alții
Specialista în robotică Rabea Rogge, devenită recent prima femeie germană care a ajuns în spațiul cosmic, și-a exprimat speranța că misiunea sa va inspira tinerii și în special femeile să studieze știința și tehnologia, transmite joi agenția DPA. Pornind de la propria experiență, tânăra de 29 de ani a subliniat importanța unui model de
Europa s-a confruntat cu inundații istorice în 2024, spun oamenii de știință
Europa s-a confruntat anul trecut cu cele mai extinse inundații din 2013, 30% din rețeaua hidrografică a continentului fiind afectată de inundații semnificative pe fundalul schimbărilor climatice cauzate de arderea combustibililor fosili, care au continuat să determine ploi torențiale și alte evenimente meteo extreme, au precizat marți oamenii de știință, informează Reuters.
Chat GPT-4.5 este primul model AI care a trecut cu brio testul Turing (studiu)
Modelele mari de limbaj (LLM) devin din ce în ce mai bune la a pretinde că sunt oameni, versiunea Chat GPT-4.5 reușind să treacă cu brio testul Turing, conform unui studiu publicat la 31 martie în baza de date preprint arXiv, dar care nu a fost încă revizuit în regim peer review, transmite luni Live Science. Cercetători
Cancerul de col uterin va fi eradicat în Danemarca până în 2040 (studiu)
Danemarca va eradica cancerul de col uterin până în 2040, grație adeziunii la programul de vaccinare anti HPV și a testelor de depistare, a anunțat luni Liga daneză pentru luptă împotriva cancerului, potrivit AFP. ''Chiar înainte de 2040, un număr atât de mic de femei vor fi afectate de această maladie, &i
'Trezirea' unei găuri negre în constelația Fecioarei îi intrigă pe astronomi (studiu)
Gaura neagră masivă aflată în centrul unei galaxii din constelația Fecioarei s-a 'trezit', producând jeturi de raze X la intervale aproape regulate, care îi intrigă pe astronomi, potrivit unui studiu publicat vineri, informează AFP. Situată la 300 de milioane de ani-lumină de Terra, galaxia îndepărtată SDSS1335+0728 a făcut p&ac
O specie de furnică agresivă se răspândește în nordul Germaniei
O specie de furnică agresivă se răspândește din ce în ce mai mult în nordul Germaniei și amenință să distrugă liniile de curent electric și conexiunile la internet, informează DPA. Furnicile din specia invazivă Tapinoma magnum, originară din regiunea mediteraneană, se răspândesc până în nordul Germaniei, la Köln și Hano
O mandibulă fosilă descoperită în largul coastelor Taiwanului confirmă răspândirea omului de Denisova în Asia
Un fragment de mandibulă descoperit în largul coastelor Taiwanului nu aparține omului de Neandertthal, așa cum se credea inițial, ci unei alte specii de hominizi dispăruți, omul de Denisova și confirmă răspândirea acestei specii de hominizi pe întreg teritoriul Asiei, conform unui studiu publicat joi în jurnalul Science, transmite vineri Live Science.
În Japonia, o gară imprimată 3D a fost finalizată într-o săptămână
Companii japoneze au creat ceea ce susțin că este prima gară de cale ferată imprimată 3D din lume: o structură compactă, albă, instalată luna trecută într-o zonă rurală din vestul țării, transmite vineri AFP. Potrivit Serendix, o companie care lucrează cu West Japan Railway Company (JR West), a fost nevoie de doar șapte zile pentru a con
BTA: Ministrul Turismului și Președinta Consiliului Mondial pentru Călătorii și Turism discută modalități de parteneriat strategic
Ministrul Turismului Miroslav Borshosh s-s întâlnit joi cu Julia Simpson, președinta și CEO al Consiliului Mondial pentru Călătorii și Turism (WTTC). WTTC este cea mai mare organizație internațională reprezentând sectorul privat al turismului, cu peste 200 de lideri la nivel mondial de companii între membrii săi. C
Eșantioanele aduse de misiunea Chang'e 6 susțin ipoteza impactului ca origine a Lunii
Există mai puțină apă în mantaua de pe partea îndepărtată a Lunii decât se află în cea de pe partea mereu îndreptată spre Pământ, conform unor analize ale eșantioanelor de regolit și roci selenare culese de misiunea chineză Chang'e 6, transmite joi
Imensul deșert al Arabiei a fost odată un ținut luxuriant (studiu)
Unul dintre cele mai mari deșerturi din lume a găzduit cândva un lac vast și un sistem de râuri, a dezvăluit o echipă internațională de cercetători într-un studiu publicat miercuri, transmite agenția DPA. Cercetări recente au sugerat că Rub al-Khali (''Pătrimea goală''), vastul deșert al Peninsulei Arabice, ex
Indonezia/ Cutremur cu magnitudinea 5,9 în sudul provinciei Papua de Vest (GFZ)
Un cutremur cu magnitudinea 5,9 s-a produs joi în zona coastei sudice a provinciei Papua de Vest din Indonezia, a anunțat Centrul German de Cercetare în Geoștiințe (GFZ), transmite Reuters. Seismul s-a produs la o adâncime de 10 kilometri, a precizat GFZ. Arhipelagul indonezian este situat pe așa-numitul '&