Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Furtunile au provocat inundații în capitala Noii Zeelande, Wellington
Wellington, capitala Noii Zeelande, a fost lovită de inundații sâmbătă după ce furtunile au adus precipitații însemnate în anumite regiuni din Insula de Nord, au precizat autoritățile, potrivit Reuters. ''Vremea severă produce inundații în tot orașul'', a anunțat consiliul municipal Hutt, o autoritate guvernamentală din
Cel mai mic ou de dinozaur non-aviar din lume, descoperit în estul Chinei, stabilește un record Guinness
Un minuscul ou fosilizat de dinozaur, descoperit în provincia Jiangxi din estul Chinei, a fost certificat în mod oficial de Guinness World Records drept cel mai mic ou de dinozaur non-aviar descoperit vreodată, a anunțat vineri Institutul Provincial de Cercetare și Explorare Geologică din Jiangxi, informează Xinhua. Fosila care a s
Țigările electronice pot introduce metale nocive în plămâni (studiu)
Utilizarea țigărilor electronice (vaping) poate introduce metale toxice direct în țesutul pulmonar, conform unui studiu australian recent, care pune sub semnul întrebării ipoteza conform căreia aceste dispozitive ar fi o alternativă mai sigură la fumat, transmite vineri agenția Xinhua. Chiar și utilizarea pe termen scurt a țigărilo
Oamenii de știință au descoperit un hormon natural care inversează obezitatea
Un hormon numit FGF21 poate combate obezitatea la șoareci prin activarea unui circuit cerebral recent identificat, legat de metabolism. În mod surprinzător, acesta acționează în mezencefal - aceeași regiune vizată de medicamentele GLP-1, precum Ozempic și Wegovy -, însă printr-un mecanism complet diferit: în loc să suprime pofta de mâncare, FGF2
Astronauții misiunii chineze Shenzhou-21 vor mai rămâne în spațiu încă o lună
Echipa de astronauți ai misiunii chineze Shenzhou-21 va mai rămâne în spațiu încă o lună după o analiză atentă a Biroului chinez pentru inginerie spațială cu echipaj uman, a relatat vineri postul de televiziune de stat din această țară, informează Reuters. Nava spațială Shenzhou-21 și echipajul său a fost lansată în spa
VIDEO UPDATE Artemis 2: Astronauții misiunii au vorbit despre impactul emoțional al observării Pământului din spațiul îndepărtat
Astronauții misiunii Artemis 2 au descris, într-o conferință de presă organizată joi, impactul emoțional pe care l-au resimțit observând Pământul din spațiul îndepărtat și au făcut comentarii pe marginea dificultăților tehnice minore cu care s-au confruntat în misiune, printre care și problemele de funcționare ale toaletei din dotarea ca
Cercetătorii americani realizează cea mai mare hartă 3D a universului creată vreodată
Instrumentul Spectroscopic pentru Energie Întunecată (DESI) al Statelor Unite și-a încheiat misiunea de cinci ani de a realiza cea mai mare hartă 3D de înaltă rezoluție a universului creată vreodată, în vederea studierii expansiunii acestuia și a energiei întunecate, informează joi agenția Xinhua. Instrumentul, operat de Laborator
Medicamentele împotriva bolii Alzheimer 'nu le aduc pacienților nicio îmbunătățire semnificativă' (analiză)
Medicamentele promovate drept soluție pentru încetinirea evoluției bolii Alzheimer 'nu le aduc pacienților nicio îmbunătățire semnificativă', crescând în același timp, conform unei analize, riscul de edem și de hemoragie cerebrală, informează joi DPA/PA Media. Efectele acestor medicamente asupra persoanelor aflate în stadi
Artemis 2: Misiunea Artemis 2 este doar 'preludiul' revenirii americane pe Lună (Isaacman)
Șeful NASA, Jared Isaacman, a declarat marți că misiunea istorică Artemis 2, care i-a trimis pe astronauții americani într-o călătorie în jurul Lunii, reprezintă doar începutul unei noi 'curse de ștafetă' ce-i va purta în cele din urmă pe astronauții NASA până pe Lună unde vor amenaja o bază permanentă în anii următori, tra
Substanțele antiseptice, care rămân pe suprafețe, favorizează apariția bacteriilor tolerante sau chiar rezistente (studiu)
O substanță antiseptică obișnuită, folosită pentru a curăța pielea pacienților în spitale, poate rămâne pe diverse suprafețe timp de mai multe ore, facilitând apariția unor generații de bacterii tolerante față de respectiva substanță sau chiar rezistente la acțiunea acesteia, conform unui nou studiu publicat la 2 aprilie în jurnalul Environmen
Indonezia / Șase persoane, arestate pentru trafic cu dragoni de Komodo
Șase persoane au fost arestate în Indonezia pentru implicarea lor în traficul către Thailanda de dragoni de Komodo, o specie amenințată endemică în arhipelag, au anunțat miercuri autoritățile, potrivit AFP. Doi suspecți au fost arestați în februarie la Surabaya, pe coasta de est a insulei Java, în timp ce debarcau
Sistemele AI judecă oamenii și creează un fel de 'încredere' (studiu)
O echipă de cercetători israelieni a descoperit că sistemele de inteligență artificială (AI) moderne pot judeca persoanele din viața reală și pot dezvolta un tip de 'încredere', deși într-un mod diferit de cel observat în cazul oamenilor, a anunțat Universitatea Ebraică din Ierusalim într-un comunicat emis marți, citat de agenția Xinhu
Papua Noua Guinee/ Bilanțul ciclonului Maila urcă la 23 de morți
Alte 12 persoane și-au pierdut viața după ce regiunile estice din Papua Noua Guinee au fost lovite de puternicul ciclon tropical Maila, au anunțat miercuri autoritățile, bilanțul urcând astfel la 23 de victime, informează agenția Xinhua. Jelta Wong, membru al Parlamentului pentru districtul Gazelle, situat în provincia East New Britain din Papua No
Cutremur cu magnitudinea 5,9 în Costa Rica (GFZ)
Un seism cu magnitudinea 5,9 s-a produs miercuri dimineață în largul coastelor Republicii Costa Rica, a anunțat Centrul German de Cercetare în Geoștiințe (GFZ), informează Reuters. Cutremurul s-a produs la ora 06:56 GMT, la o adâncime de 18 kilometri, a precizat GFZ. Serviciul geologic al Statelor Unite (USGS), citat de agenția
Astronauții misiunii Artemis 2 au profitat la maximum de instruirea în domeniul fotografiei profesionale
Cei doi instructori profesioniști de fotografie care i-au pregătit pe astronauții misiunii Artemis 2 pentru a fotografia Luna și Pământul în timpul zborului lor istoric în jurul satelitului natural al planetei noastre s-au declarat la fel de impresionați ca și restul publicului de imaginile uimitoare surprinse de aparatul de fotografiat, relatează miercuri