Directorul companiei Anthropic lansează un apel la încetinirea ritmului de dezvoltare a inteligenței artificiale
Directorul companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel la încetinirea vitezei de dezvoltare a inteligenței artificiale (AI), invocând necesitatea unui control mai strict al evoluțiilor sale, precum și incidentul survenit în iulie la OpenAI, informează AFP.
Mesajul publicat sâmbătă pe pagina personală a CEO-ului survine la câteva zile după ce un cercetător din cadrul Anthropic, Jacob Coxon, și-a anunțat demisia din start-up-ul californian, pe care l-a acuzat de minimizarea riscului existențial pe care AI-ul îl reprezintă pentru umanitate.
Apelul lui Dario Amodei este similar cu un altul, lansat la începutul lunii iunie de Anthropic, și care solicita ca marii actori din domeniul AI să aibă posibilitatea de a ''încetini sau suspenda temporar dezvoltarea'' acestei tehnologii.
La sfârșitul lunii iulie, Sam Altman, șeful companiei rivale OpenAI, a vorbit, la rândul lui, despre o încetinire ''pentru a oferi suficient timp societății să se adapteze acestor noi capacități''.
Ulterior, peste o mie de angajați ai unor companii din domeniul AI, inclusiv Dario Amodei și personal de conducere din Open AI, au cerut guvernului american să ajute la ''temporizarea'' lansării modelelor celor mai avansate.
Aceste îndemnuri au fost formulate în urma unui incident în care modele OpenAI au ieșit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet și atacând platforma AI Hugging Face.
De atunci, alte evenimente în care sisteme AI ale OpenAI și Anthropic au ajuns pe internet fără știrea supraveghetorilor lor au fost raportate de cele două companii.
De fiecare dată a fost vorba despre agenți AI, programe construite pe un model specific și dotate cu cunoștințe și obiective proprii.
Acțiunile și metodele acestor agenți au stârnit cu atât mai multă îngrijorare cu cât au demonstrat o tendință de a se coordona, a stabili o ierarhie între eele, a trișa și a șterge apoi urmele faptelor lor.
Având în vedere actuala viteză de dezvoltare a AI, ''mă tem că în următoarele 6 până la 12 luni un grup de (agenți) va fi capabil să preia controlul întregului internet'', a avertizat Dario Amodei, iar asta ''ar putea atrage după sine pagube de sute de miliarde de dolari''. AGERPRES/(AS-redactor: Simona Tatu, editor online: Andreea Preda)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Telescopul spațial Euclid pune bazele unei hărți a Universului
900 de milioane de galaxii dintr-o singură privire: telescopul spațial Euclid a dezvăluit joi, după 13 luni de colectare, un prim set de date pentru cartografierea Universului și care urmează să alimenteze cercetarea muți ani de acum încolo, informează AFP. ''Dacă am vrea să parcurgem una câte una imaginile galaxiilor pe ca
Doi 'poluanți eterni', asociați cu o formă agresivă de cancer de sân (studiu)
Un studiu realizat de Institutul Național de Sănătate (NIH) din Statele Unite a constatat că femeile cu niveluri ridicate a doi 'poluanți eterni' prezentau un risc cu până la 93% mai mare de a dezvolta o formă agresivă de cancer de sân. Descoperirea suscită îngrijorări cu privire la potențialele efecte asupra sănătății ale substanțelor chimice persi
Lumea se confruntă cu o 'depășire ireversibilă' a limitelor în ceea ce privește încălzirea globală, avertizează un raport
Lumea se îndreaptă către o 'depășire ireversibilă' a pragului de încălzire globală periculoasă, cu excepția cazului în care guvernele renunță la combustibilii fosili și încep să reducă rapid emisiile, avertizează un raport citat joi de DPA/PA Media. Cea mai recentă
India/ Capitala New Delhi, sufocată de ceață toxică
Capitala Indiei, New Delhi, a continuat să fie, joi, învăluită într-un nor dens și toxic, calitatea aerului fiind de peste o săptămână neîntreruptă 'foarte slabă', o criză de mediu care sufocă orașul încă de la 2 noiembrie, transmite agenția de presă EFE. Indicele oficial al calității aerului era situat în jurul valo
Compania germană Helsing a prezentat o platformă militară de IA concurentă celei furnizate de compania americană Palantir
Compania germană din sectorul apărării Helsing a prezentat o platformă de Inteligență Artificială (IA) proiectată pentru analiza amenințărilor militare și organizarea planificării de apărare, poziționându-se astfel ca un competitor european al companiei americane de tehnologie informatică Palantir, relatează joi agenția dpa. Potrivit societății Helsing,
Analiză de sânge pentru depistarea cancerului de sân în stadiu incipient și prezicerea riscului de recidivă, dezvoltată de cercetători
O echipă internațională de cercetători a dezvoltat o analiză de sânge capabilă să detecteze cancerul de sân în stadiu incipient și să contribuie la prezicerea riscului de recidivă după tratament, a anunțat miercuri Institutul Weizmann de Știință din Israel într-un comunicat citat de agenția de presă Xinhua. Descoperirile,
Un nou studiu susține că obezitatea nu înseamnă în mod automat o sănătate precară
Doar între 25% și 33% dintre persoanele diagnosticate în prezent cu obezitate ar trebui considerate ca având o stare de sănătate precară, potrivit unui studiu publicat miercuri în revista Nature, care se alătură apelurilor pentru o reformare a modului în care este diagnosticată această afecțiune, transmite miercuri Reuters.
COP31: Conflictele nu trebuie să distragă atenția de la acțiunile climatice, avertizează lideri internaționali
Războaiele și disputele comerciale nu ar trebui să distragă atenția lumii de la eforturile de combatere a încălzirii globale, au declarat lideri prezenți miercuri în Antalya, la conferința climatică COP31, în timp ce negociatorii se pregăteau să elaboreze un nou acord menit să limiteze schimbările climatice, transmite Reuters.
Furtuna Charles a ajuns în Portugalia: Peste 200 de curse aeriene anulate, școlile au fost închise (GALERIE FOTO)
Companiile aeriene au anulat peste 200 de curse spre și dinspre Portugalia, unde școlile și sute de supermarketuri și magazine au fost închise miercuri în contextul în care furtuna Charles a atins uscatul în această țară, aducând cu sine ploi abundente și vânturi extrem de puternice, informează Reuters. Deși
Un nou test sangvin detectează riscul precoce de cancer ovarian
Oamenii de știință au descoperit că un semnal molecular din sânge contribuie la identificarea unor modificări microscopice care preced apariția cancerului ovarian, ceea ce reprezintă o posibilă descoperire revoluționară în diagnosticarea unei boli care, adeseori, este depistată abia după ce s-a răspândit deja în organism, informează Reuters.
NASA pregătește o nouă misiune a unui telescop spațial pentru a studia evenimentele violente din Univers
Un nou telescop spațial al NASA va studia Universul în lumină ultravioletă, pentru a scoate la iveală evenimentele violente și turbulente cum ar fi coliziunile dintre stelele neutronice și exploziile de supernove, transmite miercuri
COP31: Secretarul general al ONU a cerut eliminarea combustibililor fosili
Secretarul general al ONU a cerut miercuri la COP31 din Turcia ''dispariția'' combustibililor fosili, ''la fel ca dinozaurii'', și a îndemnat oamenii să-și deschidă ochii cu privire la grupurile de lobby care protejează acești carburanți, în timpul unei sesiuni a summitului internațional privind clima, dedicată șefilor de s
Bilanțul incendiilor din Indonezia se ridică la 2,9 milioane de hectare distruse, potrivit unei organizații independente
Incendiile care devastează Indonezia de câteva luni, alimentate de un fenomen El Nino puternic, au distrus 2,88 milioane de hectare de teren de la începutul anului 2026, a declarat miercuri pentru AFP o organizație de monitorizare prin satelit. Bilanțul anterior furnizat de organizația de monitorizare Nusantara Atlas indica 1,9 mil
Un tip comun de cancer de piele, mai frecvent în rândul femeilor (studiu)
Incidența carcinomului cu celule scuamoase (SCC), o formă frecventă de cancer de piele, a crescut constant de-a lungul generațiilor în Australia și Europa, această tendință fiind, în general, mai pregnantă în rândul femeilor decât al bărbaților, conform unui nou studiu citat miercuri de agenția de presă Xinhua. Studiul, condus de
Unul dintre ultimele ecosisteme oceanice nealterate, descoperit de cercetători în Insulele Marshall
Doi atoli de corali izolați, situați în Insulele Marshall, la nord-est de Australia, în Oceanul Pacific, se numără printre 'ultimele ecosisteme sălbatice și sănătoase' ale oceanului, neafectate de activitatea umană, conform cercetătorilor, informează miercuri agenția de presă Xinhua. Bikar și Bokak, cei mai nordici atoli din Insulele Marsha