Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Astronauții misiunii SpaceX Crew-13 sunt pregătiți de lansarea spre stația orbitală
SpaceX va lansa spre Stația Spațială Internațională (ISS) următorul echipaj de astronauți pentru NASA - misiunea Crew-13 - joi, 1 octombrie, după ora 15:10 GMT, ultimele prognoze meteorologice indicând o probabilitate de lansare de 60%, transmite Space.com. Cei patru astronauți ai misiunii Crew-13 vor decola spre ISS la bordul capsulei C
Modelele de pe aripile fluturilor pot induce în eroare prădătorii prin iluzii de mișcare
Modelele de pe aripile fluturilor au rolul de protecție împotriva unor prădători naturali, precum păsările, inducând în eroare o pasăre care atacă în zbor cu privire la poziția exactă în care se află fluturele, conform unui nou studiu publicat în revista Nature, transmite miercuri Reuters. Cercetătorii care
Astronomii au descoperit o exoplanetă telurică acoperită de lavă, care ar putea fi similară Pământului timpuriu
Oamenii de știință au descoperit o nouă planetă care sfidează toate așteptările, fiind o lume acoperită de lavă care este, în același timp, neașteptat de rece. De fapt, este cea mai rece lume acoperită de lavă dotată cu atmosferă observată vreodată, conform unui studiu publicat în The Astrophysical Journal Letters și citat de Space.com.
Ziduri defensive vechi de 4 milenii, cele mai vechi din Africa în afara Egiptului, descoperite în Maroc
Arheologii au descoperit în Maroc ziduri defensive vechi de 4.000 de ani, acestea fiind cele mai vechi structuri de acest gen din Africa de Nord, în afara Văii Nilului, transmite miercuri Live Science care citează un studiu publicat pe 7 septembrie în revista Libyan Studies. Descoperirea extinde cunoștințele despre evoluția u
Un rechin blocat într-un canal din Coreea de Sud a atras 600.000 de vizitatori
Un rechin care a rămas blocat într-un canal din orașul-port Busan, Coreea de Sud, a devenit recent o atracție neobișnuită după ce, potrivit municipalității, 600.000 de persoane au venit să-l vadă în ultimele două săptămâni, informează miercuri Reuters. Rechinul, cu o lungime de 3,5 metri, a fost zărit pentru prima dată î
Încălzirea oceanelor polare amenință infrastructura și biodiversitatea (raport)
Schimbările climatice transformă rapid oceanele polare, amenințând infrastructurile umane expuse eroziunii marine, precum și speciile a căror supraviețuire depinde de banchize, avertizează un raport publicat miercuri și citat de AFP. Cel de-al 10-lea raport anual privind oceanele, realizat de serviciul european Copernicus Marine, descrie
O genă care ajută bacteriile intestinale dăunătoare să reziste la antibiotice și dezinfectanți, descoperită de cercetători australieni
O echipă de oameni de știință din Australia a identificat o genă-cheie care ajută bacteriile intestinale periculoase să reziste chiar și la dezinfectanții de uz spitalicesc meniți să le distrugă, transmite miercuri agenția de presă Xinhua. Bacteria Clostridioides difficile a dobândit o genă-cheie care conferă sporilor săi latenți o prote
VIDEO Timnit Gebru, cercetătoare în domeniul eticii AI, recompensată cu premiul Right Livelihood 2026
Cercetătoarea în domeniul inteligenței artificiale (AI) Timnit Gebru, cunoscută pentru activitatea sa în favoarea unei AI mai etice și fostă angajată a Google, a fost recompensată miercuri cu premiul Right Livelihood, supranumit 'Nobelul alternativ', transmite AFP. Fundația care acordă premiul Right Livelihood a premiat, de
OpenAI lansează un model de inteligență artificială mai ieftin, după ce a respins un altul considerat insuficient de sigur
Compania OpenAI, creatoarea ChatGPT, a lansat marți un nou model de inteligență artificială (AI) de gamă medie, prezentat ca fiind aproape la fel de puternic ca modelul său emblematic, dar la o fracțiune din preț, la o zi după ce a abandonat o nouă versiune a acestuia din urmă, considerată nesigură, transmite marți AFP. Denumit GPT-6.1 Sol, ac
Inteligența artificială stimulează investițiile în inovare, conform ONU
Inteligența artificială (AI) alimentează o revenire a investițiilor în inovare, cheltuielile corporative în cercetare și dezvoltare atingând niveluri record, conform unui comunicat dat publicității marți de Organizația Națiunilor Unite (ONU), transmite AFP. Organizația Mondială a Proprietății Intelectuale (OMPI) a ONU a indic
Uraganul Polo se îndreaptă spre statul mexican Sonora, după ce a adus ploi abundente în Baja California Sur
Uraganul Polo a adus ploi abundente în jumătatea sudică a peninsulei mexicane Baja California în cursul dimineții de marți, iar meteorologii estimează că acesta va atinge uscatul în statul Sonora în orele următoare, informează Reuters. Polo, un uragan de categoria 1, ar urma să lovească orașul costier Guaymas din statul
Problema apărută la unul dintre motoarele Starship ar putea avea un impact asupra obiectivelor NASA de aselenizare
Defecțiunea unuia dintre motoarele Raptor ale navei spațiale Starship, care a fost aproape să pună capăt prematur primului zbor orbital de încercare al navei spațiale construită de SpaceX, ar putea complica capacitatea NASA de a respecta termenele stabilite pentru misiunile astronauților pe Lună, transmite marți Reuters. Starship, concep
Tokyo se confruntă cu cea mai lungă serie de zile ploioase din istoria înregistrărilor sale
Tokyo a înregistrat marți cea de-a 34-a zi consecutivă cu ploaie, care marchează cea mai lungă serie observată vreodată de la începutul din 1886 al statisticilor sale comparabile, a anunțat Agenția Meteorologică din Japonia (JMA), citată de AFP. Deși sezonul ploilor se încheie în mod normal în luna iulie la Tokyo,
Nepal: Căutări suspendate după o avalanșă care a acoperit 16 persoane sub un strat gros de zăpadă
Autoritățile din Nepal au suspendat marți, din cauza vremii nefavorabile, operațiunile de căutare a 12 persoane date dispărute după o avalanșă produsă în Himalaya, care a ucis deja patru oameni și care ar putea fi considerată cea mai gravă catastrofă ce a lovit o expediție montană în această țară în ultimii zece ani, informează AFP.
Înregistrarea domeniilor de internet cu extensia Sloveniei, impulsionată de dorința lui Trump de a înlocui termenul IA cu ''super-inteligență''
Anunțul recent al președintelui american Donald Trump de a înlocui expresia ''inteligență artificială'' (IA) cu ''super-inteligență'' (SI) a declanșat o creștere a cererilor de înregistrare a unor domenii cu extensia de internet rezervată Sloveniei - ''.si'' -, au indicat marți autorități locale, potrivit AF