Avertismentul experților privind utilizarea chatbot-urilor cu IA în sănătatea mintală
Perturbările în sănătatea mintală a persoanelor vulnerabile care aleg să folosească chatbot-uri bazate pe inteligență artificială în locul terapeuților profesioniști ar putea conduce la o „alunecare într-un abis periculos”, avertizează psihoterapeuții, conform unui articol publicat de The Guardian, citat de G4Media.ro.
Experții din domeniul sănătății mintale observă efectele negative ale utilizării acestor chatbot-uri, care pot exacerba simptomele de anxietate, pot încuraja autodiagnosticarea și pot amplifica gândurile sumbre și ideile suicidare. Dr. Lisa Morrison Coulthard, directoarea departamentului de standarde profesionale, politici și cercetare al Asociației Britanice de Consiliere și Psihoterapie, a menționat că două treimi dintre membrii asociației au exprimat îngrijorări serioase cu privire la terapia bazată pe inteligența artificială.
Coulthard a subliniat: „Fără o înțelegere și o supraveghere adecvată a terapiei bazate pe inteligența artificială, am putea aluneca într-un abis periculos, unde esențialele elemente ale terapiei se pierd, lăsând persoanele vulnerabile în întuneric în ceea ce privește siguranța.” Aceasta a adăugat că, deși unii utilizatori pot primi sfaturi utile, alții riscă să fie expuși la informații înșelătoare.
Dr. Paul Bradley, consilier specialist în informatică pentru Royal College of Psychiatrists, a declarat că chatbot-urile cu IA nu pot înlocui îngrijirea profesională a sănătății mintale, subliniind importanța relației dintre medici și pacienți. El a propus măsuri de protecție adecvate care să permită instrumentelor digitale să completeze îngrijirea clinică, subliniind necesitatea unei finanțări sporite din partea statului pentru accesul la terapia oferită de profesioniști.
Recent, OpenAI a anunțat intenția de a modifica modul în care răspunde utilizatorilor care manifestă suferință emoțională, după un incident tragic legat de un adolescent care s-a sinucis după interacțiuni cu un chatbot. De asemenea, statul Illinois a devenit prima administrație locală care a interzis chatbot-urile AI să acționeze ca terapeuți independenți, în urma unor dovezi care indicau efecte negative asupra sănătății mintale.
Un studiu recent a evidențiat că AI poate amplifica conținutul delirant în discuțiile cu utilizatorii vulnerabili la psihoză, ceea ce subliniază necesitatea unei evaluări riguroase a acestor tehnologii înainte de a fi utilizate în sprijinul sănătății mintale.
Avertismente ale experților privind utilizarea chatbot-urilor AI în sănătatea mintală
Experții în sănătatea mintală își exprimă îngrijorarea cu privire la utilizarea tot mai frecventă a chatbot-urilor cu inteligență artificială (IA) ca suport pentru gestionarea problemelor mintale. Aceștia subliniază că, deși aceste instrumente pot oferi o ameliorare temporară a suferinței, ele pot, de asemenea, să perpetueze cicluri negative de anxietate și să submineze tratamentele eficiente.
Un psihoterapeut a observat că chatbot-urile pot duce la o „lipsă de limite” și un „risc de dependență emoțională”. El a menționat că, deși utilizarea chatbot-urilor este în creștere, acestea nu contestă întotdeauna presupunerile utilizatorilor, consolidând în schimb convingerile eronate. Acest lucru poate modela negativ percepția unei persoane despre sine și despre modul în care crede că este tratată de ceilalți.
Un alt expert a raportat cazuri de „experiențe negative” în rândul utilizatorilor de chatbot-uri, inclusiv interacțiuni nepotrivite sau alarmante. De asemenea, a observat că utilizatorii cu ADHD sau alte tulburări folosesc aceste instrumente pentru a naviga prin dificultățile vieții, dar subliniază că modelele lingvistice de mari dimensiuni nu pot interpreta nuanțele umane și contextul emoțional pe care terapeuții umani îl percep.
Îngrijorările se extind și la tinerii care se simt anxioși dacă nu consultă chatbot-urile pentru decizii de zi cu zi. Experții avertizează că utilizarea prelungită a acestor instrumente poate duce la dependență, singurătate și depresie, iar unele interacțiuni au inclus gânduri legate de sinucidere. Un psihoterapeut a comparat situația cu „Vestul Sălbatic”, subliniind că impactul complet al chatbot-urilor AI asupra sănătății mintale este încă în curs de evaluare.
