Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
Inteligența artificială avansată ar putea reprezenta 'un risc existențial pentru omenire', a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii, transmite France Presse.
'O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică', a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Oficialul a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale 'înainte să fie prea târziu'. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească 'linii roșii' comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului. În opinia sa, deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete.
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.AGERPRES/(AS - redactor: Mariana Ionescu, editor online: Adrian Dădârlat)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Misiunea japoneză MMX de colectare a unor mostre de pe sateliții lui Marte este pregătită de lansare
Misiunea japoneză Martian Moons eXploration (MMX), care are drept obiectiv studierea originii sateliților lui Marte Phobos și Deimos și colectarea de mostre de la suprafața lui Phobos, este pregătită de lansarea anunțată pentru luni, la ora 19:41 GMT (marți, 04:41 ora locală), transmite Space.com. Misiunea MMX va fi lansată cu o rachetă H3 de
VIDEO Spania: Inundații și ploi torențiale, un mort lângă Barcelona
Spania se pregătește să înfrunte luni apogeul unei furtuni mediteraneene puternice care a provocat deja inundații în weekend, inundând străzi și perturbând transporturile duminică, după ce a provocat moartea unei femei lângă Barcelona și a blocat mai multe persoane, relatează AFP. În fața unui 'pericol e
VIDEO Uraganul Trudy amenință vestul Mexicului cu ploi abundente și inundații în zonele costiere
Uraganul Trudy și-a menținut intensitatea în timp ce se deplasa, sâmbătă, spre coasta de vest a Mexicului, iar meteorologii avertizează că acesta s-ar putea intensifica și mai mult în orele următoare înainte de a începe să slăbească în intensitate pe parcursul zilei de duminică, informează Reuters. Centrul N
Prima hartă cuprinzătoare a solurilor de pe Marte, creată de cercetătorii australieni (studiu)
Un studiu australian a elaborat primul sistem cuprinzător de clasificare și prima hartă a solurilor marțiene, oferind un cadru care să îi ajute pe oamenii de știință să identifice locuri potențiale pentru viitoare activități de explorare, locuire și producție de alimente pe 'Planeta Roșie', informează sâmbătă agenția de presă Xinhua.
Roadster, mașina zburătoare concepută de compania Tesla, nu este o 'aeronavă', afirmă o agenție americană de reglementare
Administrația Federală a Aviației (FAA) din Statele Unite a precizat vineri că noua mașină dezvoltată de compania Tesla - Roadster, un model futurist și electric, echipat cu propulsoare care îi permit să se deplaseze prin aer - nu poate fi considerată o aeronavă, informează AFP. 'Vehiculul Tesla nu răspunde definiției FAA pentru o aeronavă', a ră
Mii de persoane evacuate și mai multe locuințe distruse de incendii de vegetație în California
Pompierii din California au anunțat că cel puțin șase locuințe au fost distruse de incendii de vegetație în partea sudică a acestui stat american, informează sâmbătă DPA și AFP. Focarul de incendiu de lângă San Clemente, la aproximativ 90 de kilometri sud de Los Angeles - denumit Norte Fire - s-a extins și a ajuns să acopere o suprafață de ap
Defrișările din Amazonia braziliană, la cel mai scăzut nivel din ultimii aproape 40 de ani
Defrișările din Amazonia braziliană au atins, în ultimul an, cel mai scăzut nivel de la începutul măsurătorilor din 1988, potrivit datelor oficiale prezentate vineri de Guvernul Braziliei, informează AFP. Această informație reprezintă o veste bună pentru președintele de stânga al țării, Luiz Inacio Lula da Silva, întrucât îi
Fum toxic: Nivel maxim de alertă declanșat în unele zone din Asia de Sud-Est
Fumul toxic provenit de la incendiile de vegetație din Indonezia, care s-a răspândit în Asia de Sud-Est, a determinat declanșarea nivelului maxim de alertă cu privire la calitatea aerului în mai multe zone din această regiune, a anunțat centrul meteorologic al ASEAN, citat sâmbătă de ASEAN. O ceață toxică, ce persistă de mai multe luni,
O stea verde, identificată recent, îi uimește pe astronomi (studiu)
Astronomii au identificat pentru prima dată o stea verde, documentând o rămășiță stelară densă - cunoscută sub numele de 'pitică albă' - care a căpătat o nuanță spectrală de verde-gălbui (chartreuse) după ce a absorbit resturi telurice provenite de la planete care, odinioară, pluteau pe orbita ei, informează Reuters. Culoarea une
Elveția: Record istoric validat pentru avionul solar-electric SolarStratos
SolarStratos a fost recunoscut în mod oficial de Federația Aeronautică Internațională (FAI) drept avionul solar-electric cu echipaj care a zburat la cea mai mare altitudine din istorie, la peste un an după un zbor efectuat în 2025, informează vineri AFP. Recordul, omologat miercuri de FAI în cadrul Adunării Generale ''
Uraganul Trudy continuă să se intensifice pe măsură ce se apropie de coasta pacifică a Mexicului
Uraganul Trudy s-a intensificat rapid într-un uragan major vineri dimineață, însoțit de vânturi cu viteze de până la 195 de kilometri pe oră și rafale încă și mai puternice pe măsură ce se apropia de coasta pacifică a Mexicului, informează Reuters. Se preconizează o nouă intensificare înainte ca Trudy să se
Spania a înregistrat cea mai caldă lună septembrie din istoria măsurătorilor (agenție meteo)
Spania a înregistrat cel mai cald septembrie de la începutul măsurătorilor meteorologice în această țară, în 1961, temperaturile excepționale prelungind vara cu încă o lună, a precizat vineri Agenția meteorologică spaniolă AEMET, potrivit AFP. Temperatura medie înregistrată a fost de 22,5 grade Celsius, cu 3,4 grade
Indonezia / Patru persoane și-au pierdut viața luptând cu incendiile într-un parc național
Patru bărbați au murit joi luptând cu incendiile de pădure într-un parc național situat în insula Java, Indonezia, a anunțat vineri Ministerul Pădurilor din această țară, potrivit AFP. Aceștia au fost surprinși de flăcări în timp ce luptau cu incendiu care devastează parcul național Bromo Tengger Semeru, în estul Java, potrivit un
CERN și Mistral au încheiat un parteneriat pentru a crea Flare, un nou model de inteligență artificială destinat fizicii
Organizația Europeană pentru Cercetare Nucleară (CERN) și compania Mistral AI au încheiat un parteneriat strategic pe termen lung pentru a dezvolta un model fundamental destinat descoperirilor științifice, au anunțat joi cele două organizații, informează Reuters. Această declarație de intenție îi oferă companiei franceze de intelig
Doi morți, sute de persoane evacuate în urma ploilor torențiale dezlănțuite asupra Istanbulului
Echipe de salvatori au fost în alertă pe timpul nopții în Istanbul după ce inundațiile severe au dus la moartea a două persoane și au forțat evacuarea a peste 2.000 de rezidenți, au spus autoritățile, potrivit DPA. Potrivit Agenției oficiale de presă Anadolu, persoanele decedate sunt o femeie de 34 de ani, care a murit la spital, ș