Vi skal gå til AI med åbne og kritiske øjne

Mange patienter bruger kunstig intelligens hver dag. De spørger ChatGPT om råd til alt fra skulderproblemer, ryglidelser og forstuvede ankler. Men AI kan tage fejl – og det sker ofte. Derfor er det vigtigt, at fysioterapeuter følger med på området og kan opfange fejlene.

Sådan sagde tech-analytiker og filosof Thomas Telving i en debat på Danske Fysioterapeuters fagkongres (DSF), hvor også Rasmus Gormsen Hansen fra Dansk Selskab for Fysioterapi, klinikejer og fysioterapeut Jesper Ottosen og vicedirektør i Danske Patienter Annette Wandel deltog.

Thomas Telving havde bedt ChatGPT om at lave en ganganalyse af John Cleese i en video, hvor han havde en særligt gakket gangart.

“ChatGPT svarede, at det var en fuldstændig regelmæssig bevægelse. Der var ikke noget i vejen,” sagde han og fik latter fra salen.

Derfor har fysioterapeuter en vigtig rolle i at rådgive patienter, når de dukker op i klinikken med øvelser og rådgivning fra nettet. Fysioterapeuter og andre sundhedsprofessionelle skal have kompetencerne til at opdage fejl og forklare patienterne, hvor oplysningerne kommer fra.

For udviklingen går rivende hurtigt. En undersøgelse fra Danske Patienter fra 2024 viser, at otte ud af ti patienter synes, at det går alt for stærkt og skaber utryghed.

Patienterne er utrygge

Annette Wandel fra Danske Patienter mener, at fysioterapeuter bør være specialister inden for udviklingen.

“Patienterne bruger kunstig intelligens til træningsprogrammer og gode råd. Men de er også bekymrede for, om der er fejl i data, og om der er bias. Er algoritmen til træningsprogrammerne f.eks. udviklet på unge kvinder, men anbefalet til ældre mænd? Her skal I som fysioterapeuter være med til at vurdere kvaliteten af de ting, der bliver brugt. Hvad dur for den enkelte patient, og hvad dur ikke?”

Thomas Telving var enig.

“Undersøgelser viser, at når man benytter chatbots til vidensarbejde, så er der tendens til, at outputtet bliver mere ensartet, end hvis mennesker laver det. Der mangler diversitet i outputtet, og det er alvorligt.”

Tech-analytiker Thomas Telving. Foto: Carsten Bundgaard.

AI må ikke bruges dovent

Rasmus Gormsen Hansen fra DSF var ikke i tvivl om, at det er vigtigt, at fysioterapeuter hopper med på vognen nu.

“Det her er en metode, og det er noget, alle skal kunne. AI er et godt værktøj. Men vi skal blive skarpere på, hvordan vi bruger det. Til hvad, hvornår og hvordan? Hvordan bruger vi det klogt, så vi udvikler vores faglighed? Der findes doven og klog prompting, så vi skal vide, hvordan man prompter godt. Det må aldrig blive et dovent redskab, for så mister vi vores troværdighed,” sagde han. Derudover skal vi sikre os, at den sprogmodel, vi spørger ind i, er baseret på solid viden.

Sandsynlighedsberegner på det rigtige svar

Spørgsmålet er, om man kan sikre sig selv et godt svar ved at fylde chatbotten med videnskabelig data og forskning? Nej, svarede tech-analytiker Thomas Telving.

“Det er vigtigt at huske på, at ChatGPT ikke er en faktamaskine. Det er en form for ordregnemaskine, og det er beregnet statistisk, hvad der er det rigtige svar i en given kontekst. Derudover er den programmeret til at gøre, hvad den kan for at tilfredsstille brugeren. Det svarer til, at man spørger nogen om vej, og så siger personen et eller andet for at være venlig, selvom han ikke kender vejen. Så man skal være varsom med at tænke det som et værktøj ligesom Google. Man skal virkelig faktatjekke. Der er rigtig meget godt, man kan bruge det til, men der er også meget fake news. Man skal være vågen.”

God til journalføring

Klinikejer Jesper Ottosen har indført kunstig intelligens i journalføringen på klinikken, og det har gjort en positiv forskel i de administrative opgaver for mange af fysioterapeuterne.

“Når den kunstige intelligens kan optage den samtale, der er i rummet, og fysioterapeuten dermed kan være fuldstændig nærværende, fordi programmet journaliserer, så er det enormt værdiskabende for både fysioterapeut og patient. Jeg kender ikke nogen, der er blevet fysioterapeut for at journalisere og skrive epikriser,” sagde han, men pegede på et problem:

“Faren er, at den overser det biopsykosociale. Der er jo alt muligt på spil, når folk har smerter, som maskinen ikke tager højde for. Patientens tilstand er et puslespil af mange brikker. Det kan godt være, at den foreslår de tre vigtigste øvelser. Men så har den overset alt det andet.”

“Det spændende er, at vi er i startfasen og kan være med til at påvirke den. Den mulighed har vi nu. Vi kan ikke vente ti år, for så er sporene allerede lagt,” sagde han og foreslog, at fysioterapeuter får prompting på skoleskemaet, og at DSF afholder kurser i det.

Vær med til at styre udviklingen

Rasmus Gormsen Hansen fra DSF understregede vigtigheden af, at fysioterapeuter spørger sig selv om, hvilken retning man ønsker, at udviklingen skal gå. For allerede i dag er teknologien langt fremme.

“Jeg kan sige, at på mit eget område, som er hjerte-lunge, så kan man f.eks. bruge en stemmeanalyse til at forudsige, om der er et hjerteanfald på vej.”

Han mener, at man bør arbejde på at opbygge et værktøj, der bygger på den rette data. Så når man spørger til fysioterapi, spørger man ind til evidensen.

“Vi kan en masse ting allerede nu. Men hvad ønsker vi at bruge det på? Vi skal kaste os ind i det, men med åbne øjne. Det vil stille os godt som fag. Men det kan man ikke gøre som enkelt fysioterapeut. Det kræver, at vi som fysioterapeuter går sammen og styrker os fagligt. Det må ikke bare være noget, vi gør blindt.”