I første del så vi, hvad sprogmodeller kan hjælpe med i klinikken. Her handler det om, hvor du skal være kritisk, og hvordan du kommer i gang.
Støtte, ikke erstatning
Resultaterne betyder ikke, at modellerne kan overtage lægens arbejde. I klinikken består opgaven også i at indsamle oplysninger, vælge undersøgelser og vurdere næste skridt, efterhånden som sygdomsforløbet udvikler sig. Kvaliteten afhænger af de oplysninger, modellerne får. Andreas Pihl vurderer, at teknologien har et betydeligt potentiale som støtte, men at den fortsat kræver kritisk kontrol og lægefagligt ansvar.
Tre forbehold
1. Fejlene er svære at opdage
Sprogmodeller gætter på det næste mest sandsynlige ord, og hvis de vælger et forkert, kan svaret ende et helt forkert sted. Risikoen vokser, når værktøjet har været pålideligt mange gange i træk. Den, der har godkendt et notat hundrede gange, læser det ikke nødvendigvis lige grundigt gang nummer hundrede og én.
“Men det lyder super overbevisende, og den aner ikke, at den tager fejl”.
2. Skævheder er indbygget
Modellerne er trænet på tekster skrevet af mennesker og arver deres fordomme. I et studie fra The Lancet fik en chatbot en sygehistorie om en mand, og diagnosen blev en blodprop i lungerne. Da kønnet blev ændret til kvinde, og alt andet var uændret, lød diagnosen i stedet på panikangst.
3. Færdigheder kan gå tabt
Mange har oplevet, at GPS’en har svækket evnen til at finde vej. Noget tilsvarende er målt hos læger, der lavede kikkertundersøgelser af tarmen med AI som vejleder. Da hjælpen blev fjernet efter tre måneder, var deres præcision faldet med seks procentpoint.
AI bliver en del af systemerne
Fremover bliver AI formentlig så ubemærket integreret i vores værktøjer, at vi ikke tænker over, at vi bruger den, for eksempel som relevante advarsler og vejledninger i FMK. Det samme sker allerede på smartphones. Hvis man som læge vil undgå teknologien helt, kræver det formentlig papirjournaler og gammeldags telefoni, måske endda fax.
Sådan kommer du i gang
Det er nemt at komme i gang. Start med at tale med din it-leverandør og høre, hvilke værktøjer de tilbyder. Du kan også selv prøve nogle af de mange muligheder på hjemmesiderne og få erfaring med dem
