„Tužbe su u toku“: Danijela prodaje psihološke razgovore sa AI četbotom i vodi na sud svoje kritičare

„ChatGPT te tješi. Ovaj AI te zaista čuje“, poruka je kojom se predstavlja platforma kliničke psihološkinje Danijele Ostojić iz Bosne i Hercegovine. Platforma „Na terapiji sa Danijelom“ našla se na meti kritika ovih dana jer psihološkinja prodaje razgovore sa veštačkom inteligencijom. Nametnula su se pitanja: ko treba da vodi seasse – AI ili psiholog, i čija je odgovornost ako AI pogreši?

„Platforma ne preuzima odgovornost za odluke donijete na osnovu razgovora s AI asistentom. U slučaju psihijatrijskog hitnog slučaja, pozovi 112 ili se javi kvalifikovanom stručnjaku“, navodi se u uslovima korišćenja.

Žongliranje različitim terminima poput „terapije“, „seanse“ i razgovora za trenutke „kada gori“ za promociju ove platforme, zamagljuje granicu između alata za samorefleksiju i usluge koju korisnik može doživeti kao stručnu psihološku pomoć, objašnjava pravnik Nenad Cvjetićanin za Novu ekonomiju.

Odnosno, korisnik se dovodi u zabludu, dodatno ako se uzme u obzir da uslugu promoviše licencirana psihološkinja.

„Pacijenti se nadaju nekoj vrsti terapije, jer se Danijela svojom reputacijom obraća potencijalnim pacijentima i klijentima, a sajt i uslugu promoviše svojom ličnošću i biografijom. Naziv domena na kome je hostovan AI četbot je naterapijisadanijelom.com, dok je na više mesta i na samom sajtu naznačeno stilizovanim slovima ‘Na terapiji sa Danijelom’. Ovde pričamo o načinu promocije usluge koji može biti nedozvoljen, dok bi pružanje same usluge, ukoliko ne predstavlja davanje medicinskih saveta, moglo biti dozvoljeno“, kaže Cvetićanin.

Tek je nakon kritika javnosti autorka platforme postavila napomenu.

„Važno: Ovo je AI alat za podršku i samorefleksiju — nije zamjena za psihoterapiju niti stručnu psihološku ili medicinsku pomoć“, navodi se sada na sajtu.

,,Problem je što granica između „samorefleksije“ i stvarnog psihološkog tretmana lako iščezava u praksi – a upravo je psihoterapija regulisana profesija koja zahteva licencu, superviziju, što AI četbot strukturno ne može da ispuni“, smatra Cvjetićanin.

On dodaje da etički kodeksi psihologa, i u Srbiji i u Bosni i Hercegovini, po pravilu podrazumevaju direktan odnos između psihologa i klijenta, kao i informisani pristanak gde pacijentu mora da bude jasno pod kojim uslovima i sa kim stupa u odnos.

„Zato se otvara pitanje da li se Danijelino ime, stručni autoritet i metod koriste na način koji korisnika može da dovede u zabludu da dobija stručnu uslugu“, kaže Cvjetićanin.

Ipak, korisnik u okviru razgovora ponekad može dobiti i stvarnu, personalizovanu poruku Danijele Ostojić, u skupljem paketu koji košta 47 evra mesečno.

Za taj novac korisnik nedeljno dobija tri „duboke seanse“ u trajanju od 50 minuta, svakodnevne kratke razgovore, kao i personalizovanu poruku jednom mesečno. U drugom, jeftinijem paketu, koji košta 30 evra, korisniku su dostupne dve „duboke seanse“ nedeljno, dok su kratki razgovori namenjeni trenucima „kada gori“, a kada je potrebna svakodnevna podrška dostupni su tek u Pro paketu.

Redovna profesorka na Odeljenju za psihologiju Filozofskog fakulteta Univerziteta u Beograd Tamara Džamonja Ignjatović smatra da AI može biti koristan alat, ali ne i zamena za terapiju.

„Veštačka inteligencija može biti koristan alat, ali nije zamena za terapiju. Ne treba odbacivati veštačku inteligenciju. Ljudima kojima je potrebna kratkoročna pomoć može biti jako koristan izvor informacija, posebno zato što je besplatna i dostupna u bilo kom trenutku“, kaže Džamonja Ignjatović.

AI ima ograničenja, pogotovo u kriznim situacijama. Psiholozi i terapeuti su obrazovani da profesionalno procene stanje pacijenta, što četbot ne može.

,,Njemu nedostaju autentične informacije koje su često relevantnije od verbalnih. Četbot ne može da proceni neverbalnu komunikaciju. Vi kao klijent možete da obmanjujete i sebe i drugoga, a terapeut će nešto od toga moći da vidi. Četbot ne vidi ni Vaše pokrete tela, facijalne ekspresije, tonalitet glasa i ostale neverbalne znakove“, objašnjava Džamonja Ignjatović.

Najnestabilniji i najranjivi momenat za pacijenta nije samo usamljenost ili zabrinutost, već kada se nađe u ozbiljnoj psihološkoj krizi.

Profesorka objašnjava da u takvoj situaciji uloga terapeuta nije samo da pacijentu saopšti broj telefona ili adresu ustanove kojoj može da se obrati, kao što to čini četbot. Terapeut procenjuje hitnost situacije i koristi se naučenim tehnikama motivacije pacijenta.

„U direktnom kontaktu čovek procenjuje stepen ozbiljnosti situacije, kao i hitnost intervencije. Nije dovoljna samo informacija gde i kome može da se obrati, već osobu treba motivisati da to zaista uradi. Terapeut zatim vodi motivacioni intervju, pravi antisuicidalni ugovor sa pacijentom i poziva službe ili porodicu kada proceni da je to potrebno“, kaže Džamonja Ignjatović.

U takvim situacijama posebno je važno pitanje kako platforma poput ove povlači granicu odgovornosti. Šta ako AI da pogrešan savet ili ne odreaguje adekvatno u krizi?

Iako je platforma pokušala da se ogradi odgovornosti, zakon to ne dozvoljava.

„Pošto AI nema pravni subjektivitet, odgovornost po opštim pravilima obligacionog prava snosi pružalac usluge — u ovom slučaju lično Danijela Ostojić, jer se pojavljuje kao nosilac stručnog autoriteta koji ‘stoji iza’ saveta. Reč je o deliktnoj, a delimično i ugovornoj odgovornosti za štetu. Ako Danijela nastupa kao licencirani psiholog, dodatno se postavlja pitanje profesionalne, odnosno strukovne ili disciplinske odgovornosti prema komori ili udruženju čiji je član“, kaže Cvetićanin.

Hajrija Mujović, naučna saradnica u penziji Instituta društvenih nauka, iz oblasti medicinskog prava, objašnjava da svaka procedura kojoj se pacijent podvrgava, uključujući psihoterapiju ili savetovanje, podrazumeva određene obaveze prema pacijentu. Pre svega, pacijent mora jasno da bude informisan o svojim pravima, mogućim rizicima i metodologiji rada.

Posebno je osetljivo šta se događa sa podacima koje korisnici ostavljaju tokom razgovora o svom mentalnom zdravlju.

„Svaki podatak pacijenta mora biti strogo zaštićen. Čak i informacija da se neko podvrgava nekom tretmanu mora da bude tajna, a pacijent mora da bude obavešten o svim svojim pravima. Ja verujem da platforma ispunjava ove uslove, ali oni moraju biti javno naznačeni“, kaže Mujović.

Zaštita i bezbednost podataka je još složenija kada se između stručnjaka i korisnika pojavi AI platforma. Korisnik tada ne razgovara direktno sa psihologom, već svoje najintimnije podatke poverava digitalnom sistemu, a dodatni problem je činjenica da platformi mogu da pristupe maloletnici, objašnjava Cvjetićanin.

Sajt, međutim, nema vidljivu proveru uzrasta niti ograničenje za maloletnike, što je, kako kaže Cvjetićanin, poseban propust.

„Ovo je posebno rizično jer platforma cilja emocionalno ranjive korisnike, pa bi izostanak mehanizama zaštite maloletnika mogao predstavljati kršenje propisa o zaštiti podataka, ali i opštih načela zaštite dece iz Konvencije o pravima deteta“, kaže Cvetićanin.

Zakonodavstvo kaska za praksom, opet

Ni Srbija ni Bosna i Hercegovina nemaju poseban zakon o veštačkoj inteligenciji kojim bi bilo jasno uređeno pružanje ovakve vrste usluga. Cvetićanin ocenjuje da tehnologija u ovom slučaju prestiže regulativu: postoje propisi o zaštiti podataka, zaštiti potrošača i obligacionim odnosima koji se mogu primenjivati, ali ne postoji poseban i jasan okvir za korišćenje AI alata u oblasti mentalnog zdravlja.

Pitanje, međutim, nije samo kako regulisati samu tehnologiju, već i pod kojim uslovima stručnjak može da je uključi u svoj profesionalni rad.

Mujović kaže da psiholog u ovom slučaju mora da prijavi korišćenje veštačke inteligencije kao metod rada, čemu prethodi verifikacija metoda.

„Onaj koji izdaje licencu mora da zna sve metode kojima se terapeut bavi, a ako to nije prijavljeno, to može da bude sporno. Primena veštačke inteligencije u psihoterapijskom tretmanu svakako mora negde biti zabeležena, verifikovana, pa tek onda primenjena u praksi“, kaže Mujović.

Nova ekonomija kontaktirala je Danijelu Ostojić i pozvala je da odgovori na pitanja. Ona je, međutim, odbila razgovor.

„Hvala Vam na pozivu, ali uz konsultaciju sa pravnim timom, ipak ne bih sada davala intervjue, zbog pogrešnog širenja narativa. Tužbe su u toku“, navela je Ostojić u odgovoru.

Manjak stručnjaka otvara prostor za AI četbotove

Ipak, problem nije ograničen ni na jednu platformu, niti samo na pitanje regulacije veštačke inteligencije.

Profesor razvojne psihologije na Filozofskom fakultetu Univerziteta u Novom Sadu Aleksandar Baucal smatra da treba postaviti i šire pitanje: zašto ljudi koji imaju psihološke poteškoće uopšte traže ovakvu alternativu koja nije dovoljno proverena.

„Ljudima nije dostupna psihološka podrška u zdravstevnom sektoru i to ih tera da se hvataju i za tu slamku, veštačku inteligenciju“, smatra Baucal.

On podseća da Srbiji nedostaje stručnog kadra za pružanje psihološke i psihijatrijske podrške. Prema poslednjim dostupnim podacima, u zdravstvenim ustanovama na svim nivoima zdravstvene zaštite u Srbiji radi oko šest psihologa na 100.000 stanovnika.

,,Da su usluge dostupne i kvalitetne, ljudi ne bi rizikovali sa nečim što je novo i neprovereno, to jest sa veštačkom inteligencijom“, kaže Baucal.

Zašto sastav uložaka ne piše na pakovanju: Žene ih koriste svakog meseca, ali ne znaju od čega su napravljeni