Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
Inteligența artificială avansată ar putea reprezenta 'un risc existențial pentru omenire', a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii, transmite France Presse.
'O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică', a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Oficialul a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale 'înainte să fie prea târziu'. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească 'linii roșii' comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului. În opinia sa, deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete.
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.AGERPRES/(AS - redactor: Mariana Ionescu, editor online: Adrian Dădârlat)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
BTA/ O companie bulgară a dezvoltat un prototip de spectrometru gamma portabil pentru intervențiile chirurgicale oncologice
Compania bulgară Bultraf a dezvoltat un prototip de spectrometru gamma portabil destinat să îi ajute pe chirurgi să localizeze ganglionii limfatici santinelă în timpul intervențiilor pentru cancer, a declarat luni directorul general al Bultraf, Mihail Cenkov, în cadrul unei conferințe de presă organizate la Clubul Național de Presă al BTA din Sofia.
Starship a eliberat pe orbită primii sateliți Starlink V3
Megaracheta Starship, dezvoltată de compania americană SpaceX a lui Elon Musk pentru a călători pe Lună și Marte și a trimite centre de date în spațiu, a lansat luni primii sateliți operaționali Starlink V3 pe orbită, transmit AFP și Reuters. Treapta superioară a rachetei, denumită Ship 41, a început să elibereze în spațiu sa
Un bogat mormânt etrusc vechi de 2.700 de ani, descoperit la Vulci, la nord de Roma
Arheologii au descoperit un mormânt monumental vechi de 2.700 de ani la Vulci, un important oraș etrusc antic situat la nord de Roma, transmite luni Live Science. În ciuda &
Lansare cu succes a megarachetei Starship, a SpaceX, în prima sa misiune pe orbită
Imensul vehicul Starship al SpaceX, cea mai mare și mai puternică rachetă din lume, a fost lansat cu succes de la baza spațială Starbase din Texas în prima sa misiune orbitală care are drept obiectiv plasarea pe orbita joasă a Pământului (LEO) a unui lot de 26 de sateliți de internet de mare viteză Starlink V3, conform imaginilor live difuzate pe canalul
Microbii pot supraviețui pe Enceladus, luna lui Saturn (studiu/simulare)
O serie de noi dovezi, prezentate în două lucrări științifice recente, publicate în revista Science Advances, sugerează că forme de viață microscopice ar putea supraviețui în oceanul de pe Enceladus și că jeturile acestui satelit al lui Saturn ''reorganizează'', practic, compușii și mineralele din interiorul acestuia, transmite luni
Uraganul Polo va atinge luni zona de coastă a Mexicului de la Oceanul Pacific
Meteorologii au anunțat că uraganul Polo, care a scăzut din intensitate până la categoria a 3-a, va atinge luni seara (ora locală) zona de uscat în statul Baja California Sur, pe coasta mexicană de la Oceanul Pacific, urmând să aducă în această populară destinație turistică vânturi susținute de 100-130 km/h și ploi abundente, transmite R
Cercetătorii din China au testat cu succes panouri solare la 10 metri sub apă
O echipă de oameni de știință a testat cu succes panouri solare la 10 metri sub apă, informează luni agenția de presă WAM. Concepute pentru a capta lungimile de undă ale luminii solare care pot traversa apa de mare, panourile au generat energie din lumina soarelui la o adâncime de 10 metri în timpul unui test de două ore desfășurat în apropie
Un studiu asociază densitatea osoasă scăzută cu declinul cognitiv
Densitatea osoasă scăzută ar putea fi asociată cu declinul cognitiv, conform unui studiu realizat de o echipă de cercetători de la Universitatea Johns Hopkins din Statele Unite, citat luni de agenția de presă WAM. Cercetătorii au constatat că o densitate minerală osoasă mai scăzută la nivelul coloanei vertebrale a fost asociată cu un declin cognitiv mai rapid
Inundațiile și alunecările de teren au făcut 56 de morți în India și 14 în Nepal
Ploile torențiale și furtunile au declanșat inundații și alunecări de teren care au dus la moartea a 56 de persoane în India și a 14 în Nepal, unde alți 11 rezidenți sunt dați dispăruți, autoritățile din aceste țări avertizând duminică în legătură cu riscul producerii unor viituri suplimentare, potrivit Reuters. Statul Uttar Pradesh din
NASA anunță componența echipajului misiunii SpaceX Crew-14 către ISS
Agenția spațială americană, NASA, a anunțat componența echipajului alcătuit din patru membri al misiunii SpaceX Crew-14 către Stația Spațială Internațională (ISS), transmite agenția de presă Xinhua. Astronauții din Statele Unite, Japonia și Rusia urmează să fie lansați către ISS nu mai devreme de primăvara anului 2027, pentru o misiune științifică de lungă durată.
Inteligența artificială ar putea provoca ''un miliard de decese'' dacă nu este reglementată, afirmă Bill Gates
Bill Gates, cofondatorul Microsoft, crede că inteligența artificială ar putea fi responsabilă de ''un miliard de decese'', a spus el într-un interviu transmis vineri, în care a lansat un apel pentru reglementarea acestei tehnologii, informează DPA. ''AI este cu siguranță suficient de puternică pentru a declanșa evenimente ca
Nord-estul SUA se pregătește pentru o furtună neobișnuită pentru această perioadă a anului
Peste 40 de milioane de persoane de pe coasta de nord-vest a Statelor Unite urmează să fie afectate de vineri după-amiază până luni de o furtună timpurie pentru această perioadă a anului și care va aduce vânturi puternice și ploi torențiale, informează AFP. ''Inundații în zonele de coastă, vânturi violente, curenți periculoși, v
O descoperire genetică oferă indicii privind reversibilitatea leziunilor cerebrale cauzate de Alzheimer
Oamenii de știință care studiază cel mai puternic factor genetic al maladiei Alzheimer au declarat că au descoperit noi indicii privind modul în care acesta acționează și modul în care efectele sale nocive asupra creierului ar putea fi, în cele din urmă, inversate, informează Reuters. Medicii știau deja de multă vreme că vasele de sânge
Google plănuiește prima testare a unor cipuri AI în spațiu în cadrul Proiectului Suncatcher
Compania Google, deținută de grupul Alphabet, a anunțat joi că va lansa săptămâna viitoare un satelit-prototip, care va marca prima testare pe orbita Pământului a Proiectului Suncatcher, o inițiativă de cercetare menită să determine dacă spațiul ar putea găzdui o infrastructură de calcul bazată pe inteligența artificială (AI) și implementată la scară mare, inform
Inteligența artificială: Anthropic dezvăluie un prim rezultat obținut de laboratorul său de biologie moleculară
Anthropic, un start-up american de inteligență artificială (AI), a dezvăluit miercuri primul rezultat al noului său laborator de biologie moleculară, un sistem de enzime necunoscut până acum și identificat de modelul său Claude, pe care compania l-a prezentat ca pe o demonstrație a faptului că AI poate accelera cercetarea fundamentală, informează AFP. Po