Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
Inteligența artificială avansată ar putea reprezenta 'un risc existențial pentru omenire', a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii, transmite France Presse.
'O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică', a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Oficialul a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale 'înainte să fie prea târziu'. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească 'linii roșii' comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului. În opinia sa, deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete.
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.AGERPRES/(AS - redactor: Mariana Ionescu, editor online: Adrian Dădârlat)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Astronauta franceză Sophie Adenot a trecut prin întreg spectrul emoțiilor umane în timpul misiunii pe ISS
Astronauta franceză Sophie Adenot a experimentat 'întregul spectru al emoțiilor umane, de la cele mai bucuroase la cele mai dificile' momente în timpul celor opt luni petrecute în spațiu, a declarat ea în timpul primei sale apariții publice pe Pământ, sâmbătă, la Koln, Germania. La 400 km deasupra Pă
UPDATE Un puternic seism s-a produs în Panama; operaţiunile în Canalul Panama se desfăşoară normal
Un puternic seism cu magnitudinea 7,7 s-a produs vineri în apropierea coastei sudice a Panama la o adâncime de 10 kilometri, potrivit Serviciului de prospectare geologică al Statelor Unite (USGS); nu au fost raportate pagube imediate, iar Autoritatea Canalului Panama a spus să operațiunile se desfășoară normal, informează Reuters.
O tornadă a lovit mai multe localități din Sicilia
O tornadă care s-a abătut vineri asupra orașului sicilian Marsala și a orașelor învecinate a provocat răsturnarea unor vehicule și rănirea a două persoane, un eveniment aproape fără precedent pentru această insulă din Marea Mediterană, informează Reuters. Vijelia a provocat panică în rândul rezidenților după ce a distrus o locuință și a avari
Uraganul Simon se intensifică rapid în largul coastei pacifice a Mexicului
Uraganul Simon se intensifică rapid în largul coastei pacifice a Mexicului, cu viteze maxime ale vântului de aproape 150 km/h, a anunțat vineri Centrul Național pentru Uragane din SUA, transmite Reuters. Meteorologii preconizează că Simon va deveni un uragan periculos de categoria 4 până sâmbătă, când se așteaptă
O creatură asemănătoare cu vidra înota în lacuri și râuri în vremea dinozaurilor
Cu aproximativ 165 de milioane de ani în urmă, o creatură cu blană, care înota ca un ornitorinc, vâna ca o vidră și avea o coadă asemănătoare cu cea a unui castor, trăia în lacurile și râurile din regiunea care este în prezent China, hrănindu-se cu pești și salamandre. Acesta este cel mai vechi exemplu cunoscut de stil de viață sem
Uraganul Isaias se intensifică și amenință sudul SUA
Uraganul Isaias, o furtună de categoria 2, s-a intensificat vineri, în timp ce își continua drumul spre sudul Statelor Unite, determinând evacuări inițiale în zonele de coastă și provocând perturbări semnificative în sectorul petrolului și gazelor din Golful Mexic, transmite AFP. Se aștepta ca acesta să atin
NASA caută o peșteră pe Lună pentru o viitoare bază
NASA are în derulare un nou proiect de cercetare selenară cu obiectivul de a identifica o peșteră suficient de mare, sau un tub cavernos sculptat de lavă antică, un adăpost natural în care să poată fi amenajată o viitoare bază selenară în cadrul programului Artemis, transmite vineri Space.com. NASA a selectat un proiect cunos
Isaias devine uragan, primul din Oceanul Atlantic în acest sezon
Furtuna tropicală Isaias, care s-a format miercuri în Golful Mexic, a devenit joi primul uragan din Oceanul Atlantic al acestui sezon, un fenomen care se produce destul de târziu în acest an, informează AFP. Potrivit buletinului Centrului național al uraganelor (NHC) de la ora 12:00 GMT, uraganul a fost însoțit de vânturi cu vitez
SpaceX se pregătește să lanseze Starship din Florida pentru prima oară
Prima lansare a navei spațiale Starship din Florida ar putea fi la doar câteva luni distanță, în contextul în care compania SpaceX lucrează din greu pentru a pregăti trei platforme de pe Coasta Spațială din Florida pentru Starship, transmite joi Space.com. Toate cele 14 zboruri de testare ale megarachetei SpaceX de până acum au decolat
Seism cu magnitudinea 6,3 în estul Vanuatu
Un cutremur cu magnitudinea 6,3 a zguduit joi insula Pentecost din estul Vanuatu, stat insular din Pacificul de Sud. Autoritățile nu au raportat pagube imediat după producerea seismului și nici nu a fost declanșată o alertă de tsunami, informează agenția de presă EFE. Seismul s-a produs la ora locală 20:00 (09:00 GMT), potrivit Serviciului Geo
Astronauții Crew-12 revin pe Pământ după aproape 8 luni pe stația spațială
Cei patru astronauți ai misiunii Crew-12 a SpaceX se întorc pe Pământ joi (8 octombrie) după aproape opt luni în spațiu la bordul Stației Spațiale Internaționale (ISS), transmite Space.com.
Cutremur cu magnitudinea 5,7 în zona insulei Mindanao din Filipine (GFZ)
Un cutremur cu magnitudinea 5,7 s-a produs joi pe insula Mindanao din Filipine, a anunțat Centrul German de Cercetare în Geoștiințe (GFZ), transmite Reuters. Seismul s-a produs la o adâncime de 10 kilometri, conform GFZ. Agenția de seismologie din Filipine, Phivolcs, a declarat într-un comunicat că nu se aștept
Climă/ Fenomenul El Nino continuă să se intensifice, atingând apogeul în decembrie (OMM)
Puternicul fenomen meteorologic El Nino, în curs de desfășurare, se va intensifica și mai mult în următoarele luni, până când va atinge apogeul în decembrie, urmând să persiste până în februarie, a anunțat joi Organizația Meteorologică Mondială (OMM), o agenție a ONU, transmit agențiile AFP și Reuters.
Astronomii au detectat cel mai îndepărtat blazar alimentat de o gaură neagră de până acum
Astronomii au descoperit cel mai îndepărtat și implicit mai vechi blazar, compus dintr-o gaură neagră supermasivă în erupție, care își țintește jeturile de plasmă direct spre Pământ, transmite joi
Margaret Hamilton, pionieră americană în domeniul informaticii și figură marcantă a programului Apollo, a murit la 90 de ani
Cercetătoarea americană Margaret Hamilton, care a condus dezvoltarea sistemului informatic utilizat în cadrul programului selenar Apollo, a încetat din viață la vârsta de 90 de ani, a anunțat miercuri Institutul de Tehnologie din Massachusetts (MIT), unde a lucrat aproape 20 de ani, transmite joi AFP. ''Margaret Hamil