Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Universul pare să fie blocat în loc de un fenomen cuantic, ceea ce ar explica stabilitatea sa (studiu)
Universul pare să fie blocat într-o variantă care favorizează viața deși, conform teoriei, nu ar trebui să fie atât de stabil, iar această constanță a Universului este asigurată de câmpuri cuantice blocate în starea lor actuală, conform unui nou studiu publicat în Journal of Cosmology and Astroparticle Physics, transmite marți Yahoo News
Luna se micșorează în urma răcirii interiorului său, conform unei analize a faliilor de la suprafața sa
Luna se micșorează, iar oamenii de știință sunt tot mai aproape de a determina cu exactitate cât de mult s-a redus diametrul satelitului nostru natural de-a lungul timpului, conform unui studiu publicat pe 14 octombrie în revista The Planetary Science Journal, transmite Space.com. Se consideră că Luna s-a format în urma unei
Japonia lansează cu succes o sondă spațială către lunile planetei Marte pentru o misiune inedită
Agenția Japoneză de Explorare Aerospatială (JAXA) a anunțat marți că a lansat cu succes o sondă spațială în cadrul unei misiuni desfășurată în 'premieră mondială' având drept obiectiv colectarea de probe, inclusiv roci și nisip, de pe una dintre lunile planetei Marte, transmit agențiile Kyodo și AFP. Sonda, transporta
Un instrument AI chinezesc, folosit într-o serie de atacuri asupra unor afaceri japoneze
Un instrument chinezesc de securitate cibernetică bazat pe inteligență artificială, numit Artex, a fost utilizat într-o serie de atacuri cibernetice recente care au vizat companii japoneze, a anunțat marți o filială a unui important grup de internet cu sediul la Tokyo, transmite AFP. Zeci de companii japoneze, de la lanțuri de restaurant
Rezidenți salvați cu elicopterele de pe acoperișuri după ce ploile au făcut ravagii în estul Spaniei
Persoane rămase blocate pe acoperișuri au fost salvate cu ajutorul elicopterelor în urma ploilor torențiale care au făcut luni ravagii în estul Spaniei, inundațiile și furtunile provocând moartea a cel puțin trei persoane în timp ce peste 80.000 de rezidenți erau vizați de un ordin de rămânere în locuințe, potrivit Reuters.
Indonezia / Aproape două milioane de hectare de pădure au ars în perioada ianuarie-septembrie 2026
Indonezia a anunțat luni că a acceptat ajutorul Malaysiei și al Singapore pentru a lupta împotriva incendiilor care au mistuit aproape două milioane de hectare de pădure anul acesta în perioada ianuarie - sfârșitul lunii septembrie, potrivit unui raport publicat în aceeași zi, informează AFP. Suprafața arsă, de 12 ori cât suprafaț
Statele participante la COP17, chemate să-și revizuiască angajamentele față de natură
Acțiuni mai eficiente împotriva factorilor care distrug natura, împotriva poluării, defrișărilor: aproape 200 de țări se reunesc în Armenia începând de luni pentru a recupera decalajul în realizarea obiectivelor legate de protejarea biodiversității, precum și pentru a găsi finanțările necesare, informează AFP. Sarcina partic
Oamenii de știință au cartografiat atmosfera exoplanetei WASP-17b, observată cu Telescopul Spațial James Webb
Astronomii au descifrat câteva dintre secretele atmosferice ale unei lumi bizare, exoplaneta WASP-17b, de tipul 'Jupiter fierbinte', folosind date obținute de Telescopul Spațial James Webb (JWST), iar analiza acestor date a indicat existența unei atmosfere care nu are o formă circulară perfectă și în care se formează nori din nanocristale de cuarț, confor
Aproape jumătate dintre coralii care formează recife sunt expuși riscului de dispariție (studiu)
Aproximativ 44% dintre speciile de corali constructori de recife se confruntă cu un risc crescut de dispariție, stresul termic asociat schimbărilor climatice reprezentând principalul factor care determină declinul lor, conform unui nou studiu realizat în Australia și citat luni de agenția de presă Xinhua. O echipă de cercetători di
Misiunea japoneză MMX de colectare a unor mostre de pe sateliții lui Marte este pregătită de lansare
Misiunea japoneză Martian Moons eXploration (MMX), care are drept obiectiv studierea originii sateliților lui Marte Phobos și Deimos și colectarea de mostre de la suprafața lui Phobos, este pregătită de lansarea anunțată pentru luni, la ora 19:41 GMT (marți, 04:41 ora locală), transmite Space.com. Misiunea MMX va fi lansată cu o rachetă H3 de
VIDEO Spania: Inundații și ploi torențiale, un mort lângă Barcelona
Spania se pregătește să înfrunte luni apogeul unei furtuni mediteraneene puternice care a provocat deja inundații în weekend, inundând străzi și perturbând transporturile duminică, după ce a provocat moartea unei femei lângă Barcelona și a blocat mai multe persoane, relatează AFP. În fața unui 'pericol e
VIDEO Uraganul Trudy amenință vestul Mexicului cu ploi abundente și inundații în zonele costiere
Uraganul Trudy și-a menținut intensitatea în timp ce se deplasa, sâmbătă, spre coasta de vest a Mexicului, iar meteorologii avertizează că acesta s-ar putea intensifica și mai mult în orele următoare înainte de a începe să slăbească în intensitate pe parcursul zilei de duminică, informează Reuters. Centrul N
Prima hartă cuprinzătoare a solurilor de pe Marte, creată de cercetătorii australieni (studiu)
Un studiu australian a elaborat primul sistem cuprinzător de clasificare și prima hartă a solurilor marțiene, oferind un cadru care să îi ajute pe oamenii de știință să identifice locuri potențiale pentru viitoare activități de explorare, locuire și producție de alimente pe 'Planeta Roșie', informează sâmbătă agenția de presă Xinhua.
Roadster, mașina zburătoare concepută de compania Tesla, nu este o 'aeronavă', afirmă o agenție americană de reglementare
Administrația Federală a Aviației (FAA) din Statele Unite a precizat vineri că noua mașină dezvoltată de compania Tesla - Roadster, un model futurist și electric, echipat cu propulsoare care îi permit să se deplaseze prin aer - nu poate fi considerată o aeronavă, informează AFP. 'Vehiculul Tesla nu răspunde definiției FAA pentru o aeronavă', a ră
Mii de persoane evacuate și mai multe locuințe distruse de incendii de vegetație în California
Pompierii din California au anunțat că cel puțin șase locuințe au fost distruse de incendii de vegetație în partea sudică a acestui stat american, informează sâmbătă DPA și AFP. Focarul de incendiu de lângă San Clemente, la aproximativ 90 de kilometri sud de Los Angeles - denumit Norte Fire - s-a extins și a ajuns să acopere o suprafață de ap