Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Franța activează un nou plan de urgență împotriva caniculei
Guvernul francez a pus în aplicare un plan de urgență fără precedent în contextul unui val de căldură sever, având în vedere că meteorologii se așteaptă ca temperaturile să urce până la 40 de grade Celsius în zilele următoare, informează DPA. Noul plan, elaborat ca răspuns la valurile de căldură anterioare,
Incendii mortale în Andaluzia: Regele și regina Spaniei au ținut un minut de reculegere în timpul unei ceremonii
Regele Felipe al VI-lea al Spaniei, regina Letizia și prințesele Leonor și Sofia au ținut un minut de reculegere, vineri, în memoria victimelor incendiului de vegetație care a ucis cel puțin 11 persoane în Andaluzia, informează AFP. 'Din acest oraș situat la aproximativ 150 de kilometri de locul în care s-a produs tragedi
Cutremure în Venezuela/ Bilanțul a crescut la 3.889 de morți
Bilanțul dublului cutremur din 24 iunie din Venezuela a fost revizuit în creștere și se ridică în prezent la 3.889 de morți, potrivit unui comunicat publicat joi de guvernul de la Caracas, notează AFP. 'Bilanț oficial din 9 iulie: 3.889 de morți', potrivit comunicatului. Numărul răniților rămâne identic, la 16.740.
Astronomii analizează în detaliu o exoplanetă care a supraviețuit morții stelei sale
Peste aproximativ 5 miliarde de ani, Soarele nostru va intra în faza finală a existenței sale, mărindu-și dimensiunile și înghițind planetele cele mai apropiate de el - printre care s-ar putea număra și Pământul - înainte de a-și expulza straturile exterioare și de a forma o rămășiță stelară denumită pitică albă. Planetele exterioare, în
În timpul caniculei din iunie, europenii au fost expuși în masă la niveluri periculoase de ozon
Aproximativ două treimi dintre locuitorii din Uniunea Europeană (UE) au respirat un aer cu concentrații periculoase de ozon în timpul caniculei excepționale din luna iunie 2026, potrivit concluziilor raportului unui ONG, care avertizează cu privire la riscuri medicale ce variază de la astm până la leziuni pulmonare, informează AFP.
O nouă tehnologie detectează semne ale bolii Alzheimer înainte de apariția simptomelor
O tehnologie de imagistică moleculară dezvoltată de universitatea israeliană Bar-Ilan din orașul Ramat Gan permite identificarea unor mici agregate de proteine asociate cu stadiile incipiente ale bolii Alzheimer, care până în prezent rămâneau ascunse instrumentelor obișnuite de diagnosticare, informează joi agenția de presă EFE. Cercetarea s-
Cele mai eficiente tratamente împotriva obezității au și cele mai multe efecte adverse (analiză)
Cele mai eficiente tratamente GLP-1 împotriva obezității provoacă și cele mai multe efecte adverse, aceste medicamente neavând, în ansamblu, un efect dovedit asupra calității vieții, conform unei ample sinteze a studiilor disponibile, publicată joi și citată de AFP. 'Beneficiile cele mai importante sunt, în general, asociate cu mai
Cutremure în Venezuela/ Bilanțul urcă la 3.811 morți
Bilanțul dublului seism din 24 iunie din Venezuela a fost revizuit în creștere și se ridică în prezent la 3.811 morți, a anunțat miercuri președintele Adunării Naționale, Jorge Rodriguez, în cursul unei intervenții televizate, notează AFP. 'Putem spune că până astăzi, 8 iulie 2026, 3.811 surori și frați au murit, di
Sporirea luminozității norilor ar putea atenua fenomenul El Nino, însă cu anumite riscuri (studiu)
Fenomenul climatologic El Nino, aflat în prezent în etapa de formare, ar urma să doboare recordurile sale de intensitate în lunile următoare. Însă un studiu publicat miercuri în revista Science Advances propune o modalitate de a 'opri' aparițiile viitoare ale fenomenului, înainte ca acesta să se formeze, prin sporirea lumin
Record absolut de temperatură înregistrat la Barcelona: 40,5°C
Barcelona a înregistrat miercuri un record absolut de temperatură, de 40,5°C, în zonele mai înalte ale orașului, doborând precedentul record de 40°C, stabilit în iulie 2024, au anunțat serviciile meteorologice regionale din Spania, informează AFP. La Barcelona, un oraș foarte popular în rândul
Compania ispace oferă servicii de transport către Lună cu ajutorul rachetei Starship de la SpaceX
Compania japoneză ispace a anunțat miercuri că va lansa un nou serviciu de transport de marfă către Lună, la costuri reduse, cu ajutorul rachetei grele Starship și a modulului de aselenizare dezvoltate de SpaceX, compania lui Elon Musk, informează Reuters. Compania ispace, cu sediul la Tokyo, a achiziționat, în schimbul a 50 de milioane de dolari, o capa
Ploi diluviene în China/ Cel puțin 130.000 de persoane au fost evacuate
Echipele de salvatori au distribuit miercuri alimente și apă locuitorilor rămași blocați în urma inundațiilor din sudul Chinei, declanșate de ploile și furtunile devastatoare care au provocat 17 morți în întreaga țară și au dus la ruperea unui baraj, informează AFP. În regiunea Guangxi (sud), grav afectată, șase persoane au murit, 11 su
Apa a modelat Pământul încă de acum 3,1 miliarde de ani, conform unor noi dovezi
Geologii au anunțat descoperirea, pe baza analizei unora dintre cele mai vechi roci vulcanice de pe planetă, a unor noi dovezi conform cărora apa influența deja interiorul Pământului și activitatea vulcanică în urmă cu peste 3 miliarde de ani, transmite miercuri agenția de presă Xinhua. Studiul condus de cercetători australieni s-a bazat pe analiza
Cercetătorii au descoperit un element surprinzător care combate cancerul, ascuns în interiorul tumorilor (studiu)
Cercetătorii de la Universitatea din Chicago (UIC), Statele Unite, au creat un tratament experimental împotriva cancerului bazat pe bacterii care trăiesc în mod natural în interiorul tumorilor, relatează Science Daily. În studiile preclinice asupra cancerului de prostată, terapia a dat rezultate remarcabile atunci când a fost comb
Alunecare de teren în nord-vestul Chinei: Bilanțul urcă la 21 de morți
Bilanțul unui alunecări de teren din provincia Gansu, în nord-vestul Chinei, care îngropase 33 de persoane, se ridică la 21 de morți, a raportat miercuri postul național de televiziune CCTV, transmite AFP. Echipele de salvare s-au deplasat în număr mare la locul alunecării de teren, care a avut loc marți dimineață în ju