Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Emmanuel Macron lansează un apel pentru o Europă spațială 'puternică', de la zboruri cu echipaj uman până la comunicații
Președintele Franței, Emmanuel Macron, a lansat joi un apel pentru ca Europa să devină unul dintre 'primii actori mondiali' din sectorul spațial, cu primele zboruri spațiale europene cu echipaj uman 'în decurs de zece ani' și cu dezvoltarea unor capacități proprii de comunicații prin satelit, informează AFP. 'Europa trebuie să se afle
Consumului de băuturi 'foarte fierbinți' ar putea tripla riscul de cancer esofagian (studiu)
Consumul de băuturi 'foarte fierbinți' ar tripla riscul de apariție a tumorilor esofagiene, conform concluziilor celui mai amplu studiu internațional asupra legăturii dintre acest obicei și cancer. Rezultatele studiului demonstrează că oamenii ar trebui să lase ceștile cu ceai sau cu cafea foarte fierbinți să se răcească până c&a
Impactul schimbărilor climatice se intensifică în marile orașe europene, însă măsurile de adaptare întârzie (studiu)
Numeroase orașe mari din Europa, expuse la impactul schimbărilor climatice asupra sănătății, iau diverse inițiative în încercarea de a se adapta, cum ar fi ecologizarea sau mobilitatea sustenabilă, însă ritmul este prea lent, a concluzionat joi un studiu publicat în revista științifică The Lancet, care face apel la intensificarea eforturilor,
Cea mai caldă vară pentru 1,3 miliarde de persoane de pe glob (analiză AFP pe baza datelor Copernicus)
Valuri de căldură în Europa, fum toxic în Indonezia, culturi uscate în Sudan: 1,3 miliarde de oameni de pe Pământ au trăit, între iunie și august, cea mai caldă vară boreală, conform unei analize realizate de AFP pe baza datelor programului european Copernicus. Analiza detaliată a miliardelor de date din modelul c
August 2026 a fost cea mai caldă lună înregistrată vreodată la nivel mondial (Copernicus)
Căldura a atins niveluri fără precedent în luna august la nivel mondial, a constatat joi serviciul meteorologic european Copernicus, aceasta fiind cea mai caldă lună înregistrată vreodată la scară globală și cea mai dificilă vară pentru Europa de Vest, transmite AFP. 'Luna august 2026 a fost o lună remarcabilă în istoria
Summitul Spațial de la Paris: Amazon Leo contractează șase lansări suplimentare cu racheta europeană Ariane 6
Amazon Leo, principalul client comercial al rachetei Ariane 6, a încredințat miercuri șase lansări suplimentare de sateliți acestui lansator greu european, care ridică la 24 numărul total al misiunilor sale de acest tip, relatează AFP. Grupul Arianespace a anunțat noile lansări pentru Amazon Leo, filiala grupului înființat de milia
Summitul Spațial de la Paris: Astronauți din Grecia, Cehia și Franța, într-o misiune privată spre ISS
Un astronaut grec și un astronaut ceh îl vor însoți pe experimentatul astronaut francez Thomas Pesquet în următoarea sa misiune spre Stația Spațială Internațională (ISS) în anul 2027, au anunțat miercuri liderii politici din cele trei țări în cadrul Summitului Spațial de la Paris, informează AFP. Adrianos Golemis, în vâ
Emmanuel Mignot și Masashi Yanagisawa, recompensați cu premiul Albert Lasker, pentru cercetări asupra somnului
Prin episoadele sale bruște și incontrolabile de somn, narcolepsia a fost mult timp considerată o enigmă indescifrabilă - până când doi cercetători, unul francez și celălalt japonez, au dezvăluit mecanismele care stau la baza acesteia, o descoperire recompensată miercuri cu prestigiosul premiu Albert Lasker, informează AFP. Adeseori considerat un p
Summitul spațial: Europa își caută locul între SUA și China în domeniul explorării spațiului
Plasată între Statele Unite și China, Europa intenționează să-și apere locul în explorarea spațială la primul summit internațional care se deschide miercuri la Paris, boicotat de giganții americani SpaceX și Blue Origin și în absența cancelarului german, copreședinte al evenimentului, transmite AFP. Industriașii speră să semneze numeroase con
Ce este bine de știut despre algoritmii din spatele rețelelor sociale (AFP)
Aflați în centrul strategiei comerciale a rețelelor sociale, algoritmii responsabili de personalizarea conținutului online oferit utilizatorilor și de încurajarea acestora să petreacă mai mult timp conectați, reprezintă noua țintă a Guvernului laburist australian. Un nou proiect de lege privind securitatea online, al doilea î
Luna s-ar fi format în interval de doar câteva ore după impactul dintre Pământ și un planetoid gigantic
Luna s-ar fi putut forma în câteva ore în urma impactului gigantic dintre Pământ și o protoplanetă de dimensiunea lui Marte, la începutul istoriei Sistemului Solar, conform unei lucrări științifice susținută de derularea unor simulări pe calculator, ce a fost publicată la 1 septembrie în The Astrophysical Journal Letters, transmite
VIDEO Erupție vulcanică în Indonezia: Redeschiderea aeroportului internațional din Jakarta (guvern)
Mai multe aeroporturi indoneziene, inclusiv cel din Jakarta - principalul aeroport al țării -, s-au redeschis marți, după ce au fost închise două zile din cauza căderilor de cenușă provocate de o erupție vulcanică, a anunțat Ministerul Transporturilor, citat de AFP. Ministerul a indicat pe Instagram că aeroportul din Jakarta și alte patr
Racheta Ariane 6 ar putea lansa misiuni spațiale cu echipaj uman, afirmă producătorul său
Racheta europeană Ariane 6 ar putea fi adaptată pentru a lansa misiuni spațiale cu echipaj uman, a declarat luni directorul general al companiei care o produce, ArianeGroup, în contextul în care această chestiune a devenit prioritară pentru Europa în urma dezangajării Statelor Unite din proiectele comune, informează AFP. 'Din punct de ved
Italia a înregistrat cea mai călduroasă vară din ultimii peste 75 de ani
Italia a înregistrat în 2026 cea mai călduroasă vară de după anul 1950, cu o temperatură medie de 24,3 grade Celsius, a anunțat luni Institutul pentru Bioeconomie din cadrul Consiliului Național de Cercetare (CNR-IBE), informează Reuters. August 2026 a fost cea mai călduroasă lună din acest an în Italia, cu o temperatură medie de 25,6°C,
Ghețarul Marmolada din Italia s-a confruntat cu o topire record în vara acestui an
Ghețarul Marmolada, cel mai mare din Munții Dolomiți, s-a confruntat cu o scădere record a masei sale de gheață în vara acestui an, o perioadă în care Italia a fost lovită de o serie de valuri de căldură intensă, potrivit datelor prezentate luni de mai multe instituții italiene, printre care s-au aflat Universitatea din Padova, Agenția pentru Protecția Mediului d