Taler du med en chatbot? Nyt studie viser mulig risiko for psykisk sygdom

Storhedsvanvid. Tvangstanker. Et nyt dansk studie viser forbindelser mellem brugen af AI-chatbotter som ChatGPT og problematiske tankemønstre. Forskere fra Aarhus Universitet har screenet knap 54.000 journaler for patienter med psykisk sygdom, og ved i alt 38 tilfælde ser man en kobling mellem brugen af chatbotter og en forværring af symptomer, for eksempel ved at patienten får forstærket sine vrangforestillinger. "Det kan være risikabelt at anvende AI-chatbots, hvis man har svær psykisk sygdom," siger Søren Dinesen Østergaard til Videnskab.dk. Han står bag det nye studie, er læge og professor, og han understreger, at man ikke på baggrund af de nye resultater "endegyldigt kan udpege en direkte årsag" til de negative effekter. Men, tilføjer han: "Hvis AI-chatbots kan udløse og forværre psykisk sygdom, er det oplagt, at det skal tages alvorligt," siger han og fremhæver "sager fra USA, som peger på, at konsekvenserne i nogle tilfælde kan være fatale." Samtidig kan der også være "et potentiale" gemt i det nye studie. Det siger psykolog og forsker Trine Sainte-Marie, som har gransket resultaterne. 38 patienter rejser "et lille rødt flag" Ved i alt 38 tilfælde ser forskerne bag det nye studie en tendens til negative effekter ved brugen af chatbotter blandt psykisk syge. Den mulige risiko er ikke begrænset til bestemte typer kommunikation, siger Søren Dinesen Østergaard fra Aarhus Universitet. "Man behøver ikke tale med chatbots om psykiske problemer, for at det kan være risikabelt," siger han. "Det er ikke det, der var den gennemgående tendens i vores studie. Det kan være alt muligt, der skrives om - og som kan ryge ud ad en tangent." Oplysningerne om de specifikke symptomer er personfølsomme, og for at beskytte patienterne kan forskerne derfor ikke nævne konkrete eksempler. Men resultaterne giver alligevel vigtig læring, siger Trine Sainte-Marie, som er psykolog og ph.d.-studerende ved Center for Digital Psykiatri, Syddansk Universitet, hvor hun forsker i brugen af kunstig intelligens. Hun har gennemgået den nye forskning for Videnskab.dk, og siger, at det "rejser et lille rødt flag". "Det viser os en risiko, vi er nødt til at være opmærksomme på ved psykisk sygdom og brugen af chatbots." Chatbotter kan måske 'mime' vrangforestillinger Søren Dinesen Østergaard forklarer, at problemet kan være, at chatbotter sandsynligvis 'taler brugerne efter munden'. Det er ikke endeligt fastslået, men i det nye studie fra Aarhus Universitet henviser forskerne til anden forskning på området - og så fremhæver de, hvilke negative konsekvenser det kan have at blive 'abet efter' af en sprogmodel: Man kan få forstærket sine vrangforestillinger. Man kan få styrket følelser forbundet med hypomani eller mani, for eksempel en ekstremt opstemthed, irritation eller eufori. Forsøg på at dæmpe tvangstanker kan i sig selv føre til en tvangspræget brug af chatbotten. Ikke nogen endegyldig konklusion, men en mistanke Det nye studie fastslår ikke, at chatbotter er en direkte årsag til forværrede psykiske problemer. Det siger heller ikke noget om, hvor udbredt det potentielle problem er. Det understreger begge de forskere, Videnskab.dk har talt med. "Patienterne er ikke blevet spurgt systematisk ind til deres brug af AI-chatbots. Vi finder kun de eksempler, hvor sundhedspersonalet har fundet anledning til at skrive om patientens brug i journalen," siger Søren Dinesen Østergaard. "Resultaterne støtter dog hypotesen om, at der er et problem," siger han og peger på det, han kalder for 'en logisk forklaring': "AI-chatbots har en indbygget tendens til at bekræfte brugeren. Det er oplagt, at det er meget uhensigtsmæssigt, hvis en bruger har en vrangforestilling eller er ved at udvikle en." "Der kan også være et potentiale" Den nye teknologi udgør både et potentiale og en grund til at være varsom, mener Trine Sainte-Marie. "Det er ikke sådan, at jeg på baggrund af det her studie vil gå ud og fraråde alle at bruge en chatbot ved psykisk sygdom," siger hun. Der er tale o...