Rolf Magnus Grung

Vernepleier og førstelektor ved OsloMet

Kunstig intelligens (KI) har ikke tatt utdanningssektoren med storm, men den har utvilsomt skapt begeistring. Mange har omfavnet teknologien, men mange har også uttrykt en skepsis.

Selv var jeg relativt tidlig ute med å utforske KI i undervisning på vernepleierutdanninga og i forbindelse med min forskning. Jeg fikk KI til å hjelpe meg med å lage presentasjoner, jeg deltok i debatter, arrangerte seminarer for forskerstudenter, skrev kronikker, og bidro i faggrupper som skulle gi råd om KI-bruk. I en periode tenkte jeg at vi sto overfor et paradigmeskifte – et tydelig «før KI» og «etter KI». Jeg var definitivt blant de som viste stor entusiasme for KI. 

Men etter noen år med aktiv bruk, har min entusiasme for KI innen høyere helse- og sosialfaglig profesjonsutdanning og forskning blitt mer lunken. Dette selv om jeg fremdeles bruker teknologien, og har glede av den. 

Språkmodeller og vitenskapsfilosofi

Det er min oppfatning at det først og fremst er språkmodellene – som ChatGPT og lignende – vi sikter til når vi snakker om KI i helse- og sosialfaglig sammenheng (jeg har vansker med å se for meg at vi bruker andre former for KI). Disse modellene er kraftige verktøy, men de er også forankret på i en bestemt vitenskapelig tradisjon: logisk positivisme. 

Logisk positivisme bygger på ideen om at 'sannhet' kan avdekkes gjennom logisk resonnering og empiriske data. Rasjonalismen, derimot, vektlegger refleksjon og indre forståelse som kilder til 'sannhet'.

Dette skillet er relevant når vi vurderer KI i profesjonsfaglig sammenheng. Årsaken er at språkmodellene gir svar basert på statistiske sannsynligheter for ordkombinasjoner (derfor henvisningen til logisk positivisme), ikke gjennom refleksjon eller skjønn.

Resultatet er ofte et svar som virker troverdig – fordi språket er overbevisende. Men troverdighet er ikke det samme som 'sannhet'.

Refleksjon som metode

I helse- og sosialfaglige sammenheng er det ikke troverdighet som er målet – det er 'sannhet'. Og 'sannhet' i helse- og sosialfaglige sammenhenger er ofte subjektivt og kontekstavhengig. Dermed er refleksjon en helt sentral metode for å nærme seg det som er 'sant' eller riktig.

Det sentrale i helse- og sosialfaglige sammenhenger er at man tilpasser et komplekst kunnskapsgrunnlag til individuelle behov (som filosofen Harald Grimens begrep praktiske synteser). Det finnes ikke én objektiv løsning – «one size fits none». Refleksjon er derfor ikke bare ønskelig, men helt grunnleggende for faglig forsvarlig praksis i helse- og sosialfaglige sammenhenger.

Når KI bommer

Selv har jeg opplevd at KI vurderte et tiltak beskrevet i en eksamensoppgave som faglig forsvarlig, til tross for at jeg som faglærer mente tiltaket var både ulovlig og uetisk.

I oppgaven sto det at «Tiltaket vurderes som etisk forsvarlig på grunn av […]» (noe omskrevet). Det som skjedde, var at modellen tolket formuleringen «etisk forsvarlig» som en bekreftelse på at tiltaket var forsvarlig, snarere enn å gjøre en reell vurdering. Den resonnerte ikke over individuelle behov, etiske dilemmaer eller kontekst – den gjenkjente bare mønstre i språket.

Dette illustrerer et viktig poeng: KI reflekterer ikke. Den simulerer språk. Og i helse- og sosialfaglige sammenhenger, der etisk skjønn og faglig refleksjon er avgjørende, kan dette være direkte problematisk.

KI har et potensial, men …

KI har utvilsomt et potensial, også innen en helse- og sosialfaglig kontekst. Men vi må også stille de kritiske spørsmålene. Ikke bare om hva KI kan gjøre, men også om hvor den ikke strekker til. I høyere utdanning må vi verne om refleksjonen som metode, og ikke la oss blende av et plettfritt og troverdig språk.

Men vi bør definitivt ikke være tidlig ute.

[For ordens skyld: Copilot har bidratt til struktureringen av denne kronikken]