AI skulle lette lægernes arbejde – i stedet bruger de timer på at rette fejl

Når AI flytter ind i sundhedsvæsenet, følger der uforudset ekstraarbejde med, som tager tid og ressourcer fra sundhedspersonalets kerneopgaver.

Det viser ny forskning af forsker i informationsvidenskab Silja Vase, der i forbindelse med sin ph.d.-afhandling har undersøgt, hvordan talegenkendelse bruges i hverdagen på et dansk hospital. I to år fulgte hun læger, sekretærer og it‑personale i deres brug af automatiseret talegenkendelse, som skal spare tid ved at transskribere lægernes diktater direkte ind i patientjournalen.

Men i praksis fejloversætter talegenkendelsen lægerne så ofte, at de ender med at bruge timer af deres dyrebare tid på at rette ord, sætningsendelser og fagtermer. De ord, lægerne retter, fungerer som træningsdata til systemets sprogmodel.

- AI er ikke plug and play. Hvis teknologien skal fungere med den nødvendige præcision, kræver det løbende vedligeholdelse og kvalitetssikring af data – og det arbejde ender hos sundhedspersonalet, som allerede har mange andre opgaver, siger Silja Vase.

Det betyder med andre ord, at lægerne ikke bare retter fejl i deres egne journaler. Hver gang de retter et ord eller en formulering, fungerer det som træningsdata til systemets sprogmodel. På den måde er de med til løbende at forbedre algoritmen.

– Hospitalerne leverer således data tilbage til leverandøren, så modellen kan justeres og tilpasses. Det arbejde ender i høj grad hos det kliniske personale. Og det tager tid fra patientbehandlingen, uddyber Silja Vase.

Ifølge Silja Vases beregninger af dokumentationsarbejdet blev lægerne afbrudt omkring 602 gange om måneden på grund af rettelser. Det betyder, at hver læge i gennemsnit oplevede over 40 afbrydelser per vagt, fordi de skulle stoppe op og rette fejl i teksten. 

Arbejder i blinde

Et andet problem er det, Silja Vase kalder ”pseudo-dataarbejde”. Sundhedspersonalet bruger meget tid på at rette og kvalitetssikre systemets forslag for at forbedre algoritmen.

– Problemet er, at de ikke kan se, om deres rettelser faktisk gør en forskel. Systemets statistiske data er ikke tilgængelige for dem, og derfor risikerer de at arbejde i blinde, siger hun.

I et særligt grelt tilfælde blev en afdelings rettelser slet ikke sendt videre til leverandøren i et helt år på grund af en teknisk fejl – uden at nogen opdagede det.

AI skal tilpasses arbejdet på hospitalerne – ikke omvendt

Ifølge Silja Vase er der brug for større gennemsigtighed og støtte, når AI-systemer bliver implementeret i sygehusvæsnet. Ellers bliver det vanskeligt for medarbejderne at forstå og engagere sig i teknologien.

- Pointen er, at talegenkendelsen ikke kun er et system, som letter arbejdet med dokumentation – det påvirker grundlæggende personalets måde at arbejde på og skaber uformelle samarbejdsrelationer, hvor læger og andet sundhedspersonale påtager sig nye roller og bruger mere tid på meget andet end deres kernefunktion. Det betyder også, at den økonomiske besparelse nogle gange ikke bliver så stor, som man regner med, siger Silja Vase og slutter:

- Når AI som fx talegenkendelse skal indføres i sundhedssektoren, er det afgørende, at den bliver tilpasset de eksisterende praksisser og arbejdsgange – ikke omvendt. Teknologien skal tjene medarbejderne, som ikke bør tvinges til at tilpasse sig teknologiens krav, hvilket ofte sker uden at der bliver allokeret mere tid til sådanne opgaver. Og det stiller krav til, hvordan systemerne helt grundlæggende designes.