Inteligența artificială validează în mod excesiv acțiunile utilizatorilor (studiu)
Aplicațiile de inteligență artificială (AI) au tendința de a le spune utilizatorilor ceea ce vor să audă și de a le valida acțiunile în mod excesiv, potrivit unui studiu realizat de cercetători de la două universități din Statele Unite, informează DPA.
Studiul realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a constatat că răspunsurile măgulitoare ale chatboturilor cu AI ar putea consolida convingeri dăunătoare și exacerba conflictele.
Echipa condusă de informaticiana Myra Cheng a analizat 11 modele lingvistice AI de top, concepute de companiile OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor, în medie, cu 49% mai des decât au făcut-o oamenii.
Această aprobare a fost acordată chiar și atunci când utilizatorii au semnalat cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale.
Într-un test realizat pe baza unor mesaje publicate pe platforma online Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri - deși comunitatea umană condamnase anterior comportamentul respectiv în unanimitate.
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au analizat efectele acestor recomandări bazate pe AI. După o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții erau mai puternic convinși că aveau dreptate.
În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a unor decizii responsabile.
Un cerc vicios al implicării utilizatorilor
Studiul evidențiază o contradicție deosebită: deși răspunsurile măgulitoare afectau judecata utilizatorilor, ei au evaluat aceste sisteme AI ca fiind mai de încredere și mai utile.
De asemenea, utilizatorii s-au arătat mai dispuși să folosească din nou astfel de modele.
Studiul arată că acest lucru creează stimulente periculoase pentru companiile din domeniul tehnologiei: tocmai acea caracteristică ce provoacă cele mai mari prejudicii este cea care stimulează implicarea utilizatorilor și succesul comercial.
Autorii studiului au solicitat elaborarea unor noi linii directoare care să recunoască și să reglementeze 'lingușirea socială' ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI.
Psihologul Anat Perry a comentat studiul, afirmând că 'fricțiunile sociale' - reacțiile negative, criticile și neînțelegerile - sunt esențiale pentru dezvoltarea morală și pentru formarea simțului responsabilității.
O inteligență artificială care este în mare parte de acord cu utilizatorul îi privează pe oameni de aceste procese de învățare, a declarat ea.
Tinerii sau persoanele izolate din punct de vedere social riscă în mod special să ajungă într-o 'cameră de ecou' care le întărește percepțiile distorsionate și îi îndepărtează de complexitatea relațiilor umane.
Echipa de cercetare condusă de informaticiana Myra Cheng a fost coordonată de Dan Jurafsky, un profesor de lingvistică și informatică, considerat o autoritate de referință în domeniul lingvisticii computaționale. AGERPRES/(AS - redactor: Florin Bădescu, editor online: Ady Ivaşcu)
Conținutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
China/Bilanțul inundațiilor din Guanxi a urcat la 159 de morți (presă de stat)
Inundațiile devastatoare care au afectat regiunea Guangxi (sudul Chinei) la începutul lunii iulie au dus la moartea a 159 de persoane și la 10 dispăruți, a anunțat vineri televiziunea de stat CCTV, un bilanț mult mai grav decât cel comunicat la vremea respectivă, informează AFP. În iulie, autoritățile au raportat 39 de morți și nouă dispăruți
Anul 2027 ar putea fi cel mai cald înregistrat vreodată, sub impactul fenomenului El Nino
Fenomenul climatic El Nino din acest an ar putea fi cel mai intens înregistrat vreodată, amenințând să provoace condiții meteorologice extreme la nivel global și să facă din 2027 cel mai cald an înregistrat vreodată, informează vineri AFP. Acest fenomen temporar, amplificat de încălzirea globală provocată de activitățile umane, va oferi
Seism de magnitudine 7,2 produs în Peru
Un cutremur cu magnitudinea de 7,2 grade pe scara Richter a lovit joi regiunea andină Ayacucho din sudul statului Peru, a relatat Institutul Geofizic din Peru (IGP), transmite EFE. IGP a precizat că epicentrul a fost localizat la 35 de kilometri de orașul Cora Cora. Până în prezent, nu au fost primite informații cu privire la victi
Creșterea numărului de sateliți pe orbită afectează observațiile astronomice (studiu)
Pe măsură ce mii de sateliți ajung pe orbită, astronomii se confruntă cu dificultăți tot mai mari în observarea cosmosului, potrivit unui studiu realizat de 'Observatorul European Austral' (ESO), care operează telescoape în nordul Chile, transmite joi Reuters. Studiul ESO a constatat că propunerile existente de a lansa pe o
Germania înregistrează 14.000 de decese asociate căldurii, vara aceasta; Spania anunță aproape 4.500 de decese
Aproximativ 14.000 de persoane au murit în această vară în Germania din cauza valurilor de caniculă, depășind recordul din 2018, potrivit estimărilor publicate joi de Institutul Robert Koch (RKI), autoritatea sanitară germană, transmite AFP. Germania înregistrase în 2018 un număr de 8.900 de decese asociate căldurii.
Originea 'cărții de vizită' chimice a pisicilor s-ar afla în rinichi (studiu)
Pisica posedă un fel de 'carte de vizită' chimică în urină, al cărei miros le dezvăluie celorlalți indivizi identitatea ei. O echipă de cercetători a identificat în rinichi posibila origine a acestei amprente, care persistă o perioadă îndelungată, informează joi agenția de presă EFE și phys.org. Moleculele de miros se evaporă, se degr
Roboții se îndreaptă spre 'momentul ChatGPT', susține directorul unei companii chineze specializată în roboți umanoizi
CEO-ul Unitree, companie chineză specializată în roboți umanoizi, a declarat joi că această industrie se îndreaptă treptat către un 'moment ChatGPT' pentru creierele roboților, după ce listarea de mare succes a companiei la bursa din Shanghai a concretizat ambițiile Chinei de a fi lider în domeniul mașinilor bazate pe inteligență artificială (AI), r
O vidră, observată pentru prima dată după 100 de ani în râul Bronx din New York
O vidră a fost zărită în râul Bronx pentru prima dată în mai bine de 100 de ani, o nouă dovadă potrivit căreia cursurile de apă din New York, poluate anterior, își recapătă o parte din sănătatea ecologică, informează The Guardian. Vidra de râu nord-americană a fost fotografiată de o cameră cu senzori de mișcare în timp ce că
NASA avertizează asupra riscului ca microbii umani să contamineze Polul Sud al Lunii
Microbii care călătoresc în spațiu împreună cu astronauții pot să supraviețuiască în zonele umbrite de la Polul Sud al Lunii și să afecteze procesul de căutare a urmelor de viață din trecut în solul selenar și, ulterior, în cel marțian, potrivit unui studiu al agenției spațiale americane, NASA,
Laboratoarele Moderna și Merck anunță rezultate încurajatoare pentru un vaccin împotriva cancerului de piele
Laboratoarele americane Merck și Moderna au anunțat miercuri rezultate pozitive în ultima fază a studiilor clinice privind vaccinul lor experimental pe bază de ARN mesager împotriva cancerului de piele, un 'progres major' în tratamentul acestei boli, potrivit experților, transmite AFP. Anunțul a fost întâmpinat cu entuzias
NASA a renunțat la misiunea de salvare a telescopului orbital SWIFT, aflat în curs de prăbușire de pe orbită
O misiune de salvare a bătrânului observator spațial SWIFT, aparținând NASA, a fost anulată miercuri, după ce nava spațială care fusese trimisă pentru a ridica orbita telescopului a suferit probleme tehnice iremediabile pe orbită, a anunțat compania care a construit nava de salvare, Katalyst Space, transmite Reuters. 'În
Demonstrație cu un sistem de detecție a incendiilor de vegetație cu drone, desfășurată în Bavaria
Un proiect pilot UE germano-ceh, care combină drone, inteligența artificială (AI) și senzori de tehnologie modernă, a fost testat miercuri în Germania, sistemul urmând să sprijine serviciile de pompieri în viitor în detectarea timpurie a incendiilor forestiere, transmite DPA. Participanții la proiectul CTRL-F au demonst
Un nou incendiu a izbucnit în Spania, la vest de Madrid
Pompierii spanioli se luptă miercuri cu un nou incendiu izbucnit la vest de Madrid, la doar câteva săptămâni după cele mai mari incendii din istoria regiunii, în iulie, care au forțat evacuarea a zeci de mii de oameni, transmite AFP. Nouă avioane specializate pentru stingerea incendiilor au bombardat cu apă regiunea cuprinsă
Apele lacului Zurich, la cel mai scăzut nivel din 1951
Apa lacului Zurich din nordul Elveției a atins miercuri cel mai scăzut nivel din ultimii 75 de ani, conform măsurătorilor efectuate de Oficiul Federal pentru Mediu (OFM), transmite AFP. Potrivit OFM, Elveția se confruntă cu o secetă severă încă din primăvară, din cauza precipitațiilor semnificativ sub media pe termen lung și a temperatur
Localnicii evacuați din calea incendiului dintr-un parc natural belgian se pot întoarce la casele lor
Toți locuitorii din mai multe sate din apropierea unui incendiu de vegetație de proporții din estul Belgiei, care primiseră ordine de evacuare, au fost autorizați să se întoarcă acasă miercuri după-amiază, au anunțat autoritățile locale belgiene și germane. Câteva sute de locuitori din trei sate din apropierea Parcului Natural High