Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
NASA a prezentat contracte de 10 miliarde de dolari pentru viitoarea bază selenară
NASA a anunțat sâmbătă contracte în valoare de până la 10 miliarde de dolari destinate lansării și transportului de încărcături pe Lună, precum și altor inițiative conexe planului general de a construi o bază selenară pentru astronauți până în 2032, transmite luni Space.com. Anunțul NASA, făcut în cadr
Cercetătorii belgieni avertizează cu privire la creșterea nivelului mării la Ostende
Nivelul mării a crescut cu aproape 24 de centimetri începând din 1950 în Ostende, pe litoralul belgian, iar această creștere s-a accelerat pe parcursul ultimului deceniu, potrivit unui raport publicat luni, care avertizează cu privire la schimbările climatice de origine antropică, informează AFP. Raportul, publicat de Centrul
BTA: INSAIT lansează un nou program de cercetare pentru descoperiri în domeniul farmaceutic derulate de AI
Institutul pentru Informatică, Inteligență Artificială și Tehnologie (INSAIT) din cadrul Universității 'Sf. Clement al Ohridei' din Sofia a lansat un nou program de cercetare axat pe descoperirea de medicamente cu ajutorul inteligenței artificiale (AI), a anunțat luni centrul de presă al Ministerului Educației și Științei. Programul va
India/ Un nou vârf de poluare atmosferică în New Delhi după încheierea festivalului Diwali
Capitala indiană New Delhi era învăluită luni într-un nor dens de poluare, un fenomen obișnuit în perioada toamnei, dar care este agravat de petardele și focurile de artificii prilejuite de sărbătoarea Diwali, celebrată duminică, informează AFP. Concentrația de particule fine PM2,5 - cele mai nocive - a atins în anumite
La începutul COP31, secretarul general al ONU îndeamnă statele ''să se ridice la înălțimea'' provocărilor climatice
Secretarul general al ONU a îndemnat luni statele ''să se ridice la înălțimea'' provocărilor climatice în prima zi a conferinței anuale a Organizației Națiunilor Unite privind schimbările climatice COP31, care se desfășoară în Turcia, marcată deja de o dispută pe tema finanțărilor, informează AFP. Liderii prezenți la COP
BTA/ Un documentar va prezenta concluziile unei expediții de explorare a Dunării în contextul nivelului extrem de scăzut al apei
O expediție de cercetare la care au participat oameni de știință de la Institutul pentru studii în domeniul climei, atmosferei și apei din cadrul Academiei Bulgare de Științe (BAS), de la Institutul de cercetări și tehnologie spațială din cadrul BAS, precum și de la Universitatea de Sud-Vest Neofit Rilski a studiat fluviul Dunărea în perioada în car
Un seism cu magntitudinea 5,7 în centrul Japoniei, soldat cu răniți
Un seism cu magnitudinea 5,7 a făcut peste 20 de răniți în primele ore ale dimineții în centrul Japoniei, potrivit autorităților și media locale, citate de AFP. Cutremurul s-a produs la ora locală 01:04 (16:04 GMT sâmbătă) la 40 de kilometri adâncime în vestul prefecturii Shizuoka, la aproximativ 200 km vest de To
SpaceX vrea să recupereze atât propulsorul, cât și capsula Starship în următorul zbor-test al rachetei sale
SpaceX va încerca să recupereze cu ajutorul unor brațe robotizate atât propulsorul Super Heavy, cât și capsula spațială Starship la finalul următorului zbor-test al rachetei sale uriașe, a anunțat vineri CEO-ul acestei companii americane, Elon Musk, citat de agenția de presă chineză Xinhua. 'Dacă ambele proceduri vor avea
Perturbare neobișnuit de timpurie a vortexului polar, cu un impact încă incert în Europa
Experții în climatologie au observat o perturbare excepțional de timpurie a vortexului polar, o zonă de joasă presiune atmosferică situată deasupra polilor, un fenomen ale cărui consecințe sunt încă 'incerte' pentru starea vremii în Europa, au precizat agențiile meteorologice din Franța și Regatul Unit pentru AFP. Vortexul polar este
Caracatițele folosesc două strategii pentru a se strecura prin spații înguste (studiu)
Caracatițele sunt faimoase pentru abilitatea lor de a se strecura prin spații extrem de înguste, iar oamenii de știință au descoperit acum mecanismele pe care aceste nevertebrate marine le folosesc: își organizează cele opt tentacule și trunchiul flexibil într-o succesiune de mișcări care se schimbă în funcție de dimensiunile deschizăturii, strategie
India ordonă școlilor din New Delhi să organizeze cursuri online în contextul deteriorării calității aerului
Autoritățile din India le-au ordonat școlilor din orașul New Delhi și din împrejurimile sale să organizeze cursuri online, încurajând totodată populația să lucreze de acasă și să amâne reuniunile private, în contextul în care calitatea aerului din capitala țării și din zonele înconjurătoare s-a deteriorat rapid în cursul zilei
Un sit funerar din Siberia dezvăluie utilizarea străveche a canabisului ca substanță psihoactivă (studiu)
Un tumul funerar siberian aparținând civilizației străvechi a sciților, datând din urmă cu 2.800 de ani, a furnizat cea mai veche dovadă cunoscută până acum despre utilizarea canabisului pentru efectele sale psihoactive: oamenii de știință au descoperit semințe ale acestei planete printre obiecte funerare, precum și păr uman care prezintă urme ale c
Populațiile mici de animale sălbatice se pot redresa chiar și atunci când se află în pragul extincției (studiu)
Speciile cu mai puțin de 50 de exemplare rămase în sălbăticie nu sunt condamnate în mod automat la extincție, întrucât eforturile de conservare bine țintite pot salva o specie de la dispariția sa definitivă, potrivit unui studiu recent, informează Xinhua. Studiul, realizat de cercetători de la Universitatea Monash din orașul australian
Precipitații record și evacuări în estul Japoniei în timpul furtunii tropicale In-fa
Puternica furtună tropicală In-fa a adus joi precipitații record în estul Japoniei, unde agenția de meteorologie a emis alerte privind riscul de alunecări de teren și a îndemnat la evacuarea locuitorilor din zonele afectate, transmite EFE. Furtuna In-fa a adus precipitații istorice pe insula Niijima, situată la sud de capitala Toky
Pe Marte există vulcani latenți și o poartă deschisă către viață (studiu)
Marte nu este o planetă moartă: noi semne de activitate vulcanică au fost detectate pe 'Planeta Roșie', a cărei suprafață găzduiește cei mai mari vulcani din Sistemul Solar, ceea ce sugerează posibilitatea de apariție a vieții, informează AFP. 'Vulcanismul pe Marte a început în urmă cu 4,5 miliarde de ani și se observă,