AI og kritisk tenkning: hva skjer med ferdighetene?
Kort fortalt
- Å sette bort tankearbeid til en maskin er ikke nytt, men mengden som kan settes bort på én gang er det: en språkmodell overtar ikke bare hukommelsen, den overtar også resonnementet.
- Ferdighetstap skjer på tre ulike måter, ifølge forskningen: eksperter mister gradvis det de en gang kunne, nykommere rekker aldri å bygge ferdigheten, og arbeidsoppgaver forenkles med vilje slik at billigere arbeidskraft kan overta dem.
- En av Storbritannias ledende barnenevrokirurger trekker en tydelig grense ved tillit og ansvar: foreldre stoler på legen, ikke på verktøyet, og den delen kan ikke settes bort.
- Bekymringen som går igjen, gjelder de som lærer nå: klarer du å kjenne igjen et galt AI-svar hvis du aldri har jobbet uten hjelpen?
- Praktiske grep finnes, og de handler mest om egne regler for når du går til AI-en, ikke om å la være å bruke den.
Spørsmålet om AI og kritisk tenkning har én praktisk kjerne: klarer du fortsatt oppgaven den dagen du ikke har maskinen tilgjengelig? Forskere kaller vanen med å sette bort tankearbeidet kognitiv avlastning (cognitive offloading), og i episoden «Are we losing our minds to AI?» av BBC-programmet AI Decoded møtes tre fagfolk som svarer ganske ulikt på hva det gjør med oss. Owase Jeelani, en av Storbritannias ledende barnenevrokirurger, mener AI brukt riktig kan forbedre tenkningen vår «eksponentielt». Tapani Rinta-Kahila, som forsker på hvordan digitale teknologier endrer arbeid, ekspertise og beslutninger, beskriver ferdighetstap som en utilsiktet bivirkning å holde øye med. Stephanie Hare, forfatter av boka «Technology Is Not Neutral», er den mest bekymrede, særlig for avhengighet og for barn som vokser opp med hjelpen alltid tilgjengelig.
Programleder er Marc Cieslak, AI-korrespondent i BBC, og han rammer inn saken slik: hver eneste uke hevder teknologiselskaper at nok en oppgave som før krevde ekspertise og mange års erfaring, nå kan løses med en godt formulert prompt. Blir vi mindre dyktige av det? Panelet lander ikke på ett svar.
Kognitiv avlastning: å sette bort tenkningen til en maskin
Kognitiv avlastning betyr rett og slett at du lar noe utenfor hodet ditt gjøre en del av tankearbeidet. Det er ikke nytt, og det er ikke i seg selv farlig. Handlelister, kalendere og kalkulatorer er alle former for avlastning, og de fleste av oss ville hatt et dårligere liv uten dem.
Det nye er hvor mye av jobben som kan settes bort på én gang. En handleliste husker for deg, men den skriver ikke rapporten. En språkmodell kan skrive utkastet, oppsummere forskningen, foreslå strukturen og forklare hvorfor forslaget er godt. Da flyttes ikke bare hukommelsen ut av hodet, men også resonnementet.
Cieslak stiller spørsmålet i sin skarpeste form: styrker AI den menneskelige intelligensen, eller tærer den stille på den? Ordet «stille» er nøkkelen. Ferdigheter forsvinner sjelden med et smell. De blir bare litt vanskeligere å hente fram hver gang du lar være å bruke dem.
Deskilling har tre ulike betydninger i forskningen
Cieslak påpeker at ordet deskilling høres dramatisk ut, og spør hva forskere egentlig mener med det. Svaret fra Rinta-Kahila er at det ligger flere ulike betydninger i ordet.
Den første betydningen er den han selv kaller ferdighetserosjon. Du er ekspert, du lener deg for tungt på automatikk og AI, og over tid mister du ferdigheter du en gang hadde. Den andre gjelder de som ennå ikke er eksperter, men er under opplæring. I dagens opplæring har du ofte mange automatiserte verktøy tilgjengelig, og da risikerer du å aldri ta ordentlig tak i den kjedelige, detaljerte kjernen av arbeidet. Resultatet er ikke at du mister ferdigheter, men at du aldri får dem.
Den tredje betydningen er noe helt annet, og den kommer fra forskning på hvordan arbeid organiseres. Der betyr deskilling at arbeidsoppgaven med vilje forenkles ved hjelp av automatisering, slik at mindre kvalifiserte arbeidere kan utføre den. Poenget er ikke pedagogisk, det er økonomisk: mindre kvalifisert arbeidskraft er som regel billigere.
Skillet betyr noe i praksis, for de tre krever helt ulike svar. Den første handler om vedlikehold av kompetanse. Den andre handler om hvordan vi utdanner folk. Den tredje handler om arbeidsmarked og lønn, og den er ingen tilfeldighet.
Rinta-Kahila trekker også fram et beslektet begrep fra forskningen på samspillet mellom menneske og maskin, «automation complacency»: at vi slutter å følge med og slutter å øve fordi systemet nesten alltid virker. Eksempelet hans er luftfart. Systemene i et moderne fly virker så godt at pilotene venner seg til at de virker. Så skjer det noe: teknologien svikter, eller situasjonen er av en type systemet aldri ble designet for. Da er spørsmålet om du har trent den muskelen, enten den er kognitiv eller fysisk, godt nok til å reagere.
Owase Jeelani vil bytte ut «kunstig intelligens» med «augmentativ intelligens»
Jeelani åpner med å si at AI-assistanse er svært viktig, og at han vet at det er et tydelig standpunkt. Begrunnelsen hans snur premisset i debatten. Vi vier mye oppmerksomhet til skaden AI kan påføre mennesker, sier han, og den muligheten er reell. Men vi bruker altfor lite tid på skaden den menneskelige tenkemåten påfører oss, og har påført oss lenge.
Brukes den riktig, kan AI forbedre tenkningen vår eksponentielt, mener han. Trikset er å finne balansen: bruke den på riktig nivå, på riktig måte, til å svare på de spørsmålene den passer for, uten å lene seg for tungt på den.
Det er her han foreslår et navneskifte. Han mener «kunstig intelligens» er en misvisende betegnelse, fordi det ikke er noe kunstig ved den. Han vil heller kalle det augmentativ intelligens, altså intelligens som forsterker vår egen. Dette er hans eget begrep, ikke en etablert fagterm, og innvendingen fra panelet kommer kontant: det toget har gått. Men begrepet sier noe om hvordan han vil at folk skal bruke verktøyet: som noe som legger seg oppå din egen tenkning, ikke som noe som erstatter den.
Cieslak vender samtalen mot risikoen: hva skjer hvis leger blir svært gode til å tolke AI-anbefalinger, men mindre trygge på å utfordre dem? Jeelani åpner svaret med en spøk om at Moses ikke kom ned fra fjellet med AI, og at De ti bud ikke nevner noe om prompting. Alvoret bak vitsen er også det som ligger under navneforslaget: mye av det AI bygger på, er menneskeskapt kunnskap, eller kunnskap tolket av mennesker: hvordan vi ser verden, og hva vi mener virkeligheten er. Den menneskelige tenkemåten er full av skjevheter og fordommer, og AI-agentene som bygges nå, arver de svakhetene. Derfor kan de ikke tas for god fisk. De er gode assistenter, men de kan gjøre alle feilene mennesker gjør.
Han bruker også en lengre analogi, tilbake til oppdagelsen av ilden. Da mennesker lærte å bruke ild, endret ikke bare levemåten seg, men også fysiologien vår. Vi tilpasset oss teknologien. AI vil gjøre noe lignende, mener han, og det virkelige spørsmålet er ikke om endringen kommer, men om vi følger med på den og styrer den. Både retningen og farten har vi faktisk kontroll over.
Slik brukte kirurgene AI under en tvillingoperasjon
Det abstrakte blir konkret når Jeelani forteller om sin egen jobb. Programmet har fulgt arbeidet hans med å skille tvillinger som er vokst sammen i hodet, det som kalles kraniopagus. Operasjonen lyktes, og den hadde ikke vært mulig uten avansert teknologi. Men den hadde heller ikke vært mulig uten enorme mengder menneskelig ferdighet.
Under den siste tvillingseparasjonen var det én bestemt oppgave han trengte hjelp til. Han måtte forstå hvor mye han kunne oppnå i løpet av noen uker hvis han satte inn distraktorer mellom to knokler. En distraktor er en liten mekanisk innretning som trekker to beinflater sakte fra hverandre, slik at nytt bein får vokse inn i mellomrommet. Teknikken heter distraksjonsosteogenese.
Teamet hadde bygget en AI-modell nettopp for å svare på hvor mye avstand de kunne regne med å få. De brukte modellen, og den var ganske treffsikker. På akkurat det spørsmålet var AI-en utmerket, sier han. Men helheten, hvordan alt settes sammen til en operasjon, er fortsatt legens domene.
Den samme grensen ligger i svaret hans om risikoen ved AI-anbefalinger. AI overgår menneskelig kapasitet på enkeltoppgaver, og det er vist gang på gang. Derfor må framtidas leger lære å jobbe med den på den måten. Men stiller du spørsmålet «hvordan skiller du et tvillingpar?» og lener deg på AI-en alene, går det ikke.
Der grensen går: tillit og ansvar mellom mennesker
Rinta-Kahila får spørsmålet om hvem som skal ha siste ord når AI og menneskelig vurdering spriker. Svaret er at det kommer an på sammenhengen, men at det i de aller fleste tilfeller bør være mennesket. AI er et kraftig forsterkende verktøy, særlig for dem som allerede er eksperter og som vet hvordan de skal bruke det bevisst og ansvarlig.
Jeelani vil svare, og han gjør det med et motspørsmål til programlederen og til Hare12:06: når er dere klare til å gå til en AI-agent, be den fjerne galleblæren deres fordi dere har hørt at den er veldig god, og legge dere i hendene på den? Begge svarer «aldri», uten å nøle.
Det er poenget hans. All menneskelig samhandling bunner i tillit, eller i mangel på tillit, sier han, og i medisinen er det ekstremt tydelig. Som barnenevrokirurg møter han hver eneste uke foreldre som overlater ham det mest dyrebare de har. De har kanskje lest om ham på forhånd, men det avgjørende er at de ser ham, snakker med ham og bestemmer seg for å stole på ham. Derfor ligger ansvaret hos ham.
Han gjør det håndfast med et eksempel som ikke lar seg bortforklare: du kan aldri gå tilbake til foreldrene etterpå og si at operasjonen gikk fint, men at AI-agenten ikke samarbeidet så godt i dag, og så be om unnskyldning. Det svaret gir ingen mening. Du bærer det endelige ansvaret. AI kan forsterke deg i arbeidet, men den kan ikke overta den rollen.
Grensen han trekker er ikke teknologifiendtlig, og det viser svaret hans på et annet spørsmål: ville han satt seg i en selvkjørende bil? Ja, sier han, det har han tenkt på etter sene vakter når han ikke orker å kjøre hjem selv. Kjøring er en langt mer repetitiv oppgave, og statistikken vil over tid vise at selvkjørende biler er tryggere, mener han. Den viser det allerede, legger han til. Kirurgi, som krever en helt annen grad av omhu og presisjon, er en annen sak.
Hare legger til en dimensjon fra en annen kant: kirurgi utført av roboter fungerer godt for mange inngrep, og mange kirurger har fryktet å bli erstattet. Likevel erstatter vi dem ikke. Vi holder menneskelige kirurger på et nivå der de kunne gått rett inn på operasjonsstua i dag hvis en akutt situasjon krevde det. Du vil ikke at ferdighetene, erfaringen og selvtilliten skal forvitre. Så stiller hun spørsmålet som gjelder alle: hvem er jeg med alle verktøyene mine, og hvem er jeg uten dem, med bare min egen kompetanse?
Når presentasjonen er bedre enn forståelsen bak
Kan noen framstå dyktigere enn de er fordi de jobber sammen med AI? Jeelani svarer at det skjer hele tiden. Folk kommer til ham med flotte presentasjoner, ofte studentene hans, og så stiller han det første spørsmålet, og da rakner det. Det de presenterer, er fantastisk. Men graver du litt i det som ligger bak presentasjonen, er det tynt.
Dette er den andre formen for deskilling i praksis, den som gjelder folk under opplæring. Ferdigheten som ikke ble bygget, er usynlig helt til noen stiller et oppfølgingsspørsmål.
For den som veileder eller vurderer andres arbeid, ligger poenget i hvordan det kommer fram: ikke i selve leveransen, men i det første spørsmålet om den. Presentasjonen kan være fantastisk. Samtalen om den viser hva som ligger bak.
Jeelani oppsummerer det med et bilde han henter fra Rinta-Kahila: hjernen er en muskel, og det du ikke bruker, mister du. Valget er ditt, sier han.
Bør barn og studenter lære den gamle måten først?
Dette er Hares anliggende i sendingen, og hun kommer tilbake til det med egne ord mot slutten. Argumentrekken begynner med at vi tåler ulik risiko i ulike sammenhenger. Vi godtar trolig mer risiko hos konsulenten som lager en PowerPoint-presentasjon, enn hos legen vår, der vi vil ha null risiko. Nøyaktighetskravet og ansvarsforholdene varierer med oppgaven, og det bør styre hvor mye vi overlater til maskinen.
Så vendes spørsmålet mot læring. Trenger barn å jobbe med AI akkurat nå, eller trenger de å lese bøker, når leseferdighetene allerede er svake? Vil vi at barn skal lære matematikk på gamlemåten først, og så gå over til AI senere? Det samme gjelder på universitetet, og for nyutdannede leger som så vidt har begynt.
Argumentet er ikke nostalgi. Det er at den møysommelige, harde måten å lære på er det som gir deg en følelse for stoffet, en indre målestokk som gjør at du kjenner igjen et galt AI-svar når du ser det. Da blir spørsmålet stående: hvordan utvikler du den evnen hvis du aldri har jobbet uten AI-en?
Senere i samtalen tar Hare det opp igjen og blir konkret: kanskje vi ikke vil ha AI inn i skolen med en gang, kanskje ikke for seksåringer. Kanskje det passer bedre når du er 16 eller litt eldre, eller først på universitetet. Ja, vi skal forberede unge på arbeidslivet, men de trenger å bygge kjerneferdighetene sine først: lesing, regning, kreativitet, konstruktiv tenkning og kritisk tenkning. Og, legger hun til, det gjelder oss voksne også.
Organisk intelligens: hjernen som prediksjonsmaskin
Jeelani har en observasjon fra forelesningssalene sine som sier mye om skjevheten i oppmerksomheten vår. Han spør en sal full av medisinstudenter og leger hvor mange som har hørt om kunstig intelligens, og så godt som alle hender går opp. Så spør han hvor mange som har hørt om organisk intelligens, altså den menneskelige hjernens egen intelligens, og det går opp en håndfull hender18:16.
Han finner det slående. AI har vært i offentlighetens søkelys i kanskje 15 til 20 år, mens organisk intelligens har vært under utvikling i oss langt lenger. Poenget hans er at mange av spørsmålene vi nå stiller om AI, hvor den er nyttig og hvor vi må følge med, egentlig har svar som kommer fra det vi har lært om organisk intelligens.
Han gir et eksempel på hva han mener. Vi har rundt 86 milliarder nevroner i hjernen, og vi trenger bare en håndfull av dem for å puste, spise og gå rundt. Hva gjør resten? Svaret hans, i én setning: hjernen er et redskap for prediksjon. En prediksjonsmaskin. Det er det den holder på med hele tiden.
Derfra tar han en liten avstikker. De som er litt bedre til å forutsi framtiden, kaller vi heldige, sier han. Det er ikke noe overnaturlig ved flaks. Algoritmene deres er bare litt bedre finjustert, så de ser ett eller to skritt lenger enn resten av oss.
Konklusjonen hans er en programidé, halvt på spøk og halvt på alvor: BBC ville gjort verden en stor tjeneste med et program som heter OI Decoded, organic intelligence decoded. Under vitsen ligger en reell påstand. Vi bruker mye energi på å forstå den nye intelligensen og påfallende lite på å forstå den vi allerede har.
Gillette-modellen: gratis verktøy, dyr avhengighet
Et publikumsspørsmål fra Ohio flytter samtalen over på forretningsmodell: bruker AI-selskapene Gillettes gamle strategi, der barberhøvelen er nesten gratis og pengene tjenes på bladene?19:53
Hare mener det treffer ganske godt. Hun bruker også en mindre pen sammenligning: den første dosen er gratis, du blir hektet, og så må du komme tilbake. Målet når du bygger et verktøy, er det hun kaller stickiness, altså at folk blir sittende fast i det. Du gir det bort, lar folk leke med det og se hvor mye bedre livet blir. Truer du så med å ta det bort, håper du at de protesterer høylytt. Da kan du si at det går fint, for vi har jo denne fine abonnementsmodellen.
Det du egentlig vil ha, sier hun, er at verktøyet er vevd inn i livene deres slik at de ikke klarer seg uten. Og det er nettopp der hun setter grensen for hva som er greit. Hvis du begynner å bli avhengig av AI og ikke får gjort jobben uten, ikke får gjort skolearbeidet uten, ikke vet hvordan du skal håndtere følelsene dine uten fordi den er terapeuten din, kjæresten din og følgesvennen din, da begynner det å bli ganske farlig.
Jeelani svarer med å justere ordvalget hennes. Den store risikoen, mener han, er at vi setter bort kreativiteten vår. Kreativitet er et grunnleggende menneskelig trekk, noe vi lærer fra vi er små. Der Hare bruker ordet farlig, ville han brukt ordet trist. Det er da vi begynner å miste det menneskelige ved oss. Alle vi åtte milliarder er spesielle på hver vår måte, sier han, og det må vi holde fast på.
Kan AI faktisk gjøre oss skarpere?
Spørsmålet stilles direkte til Jeelani: kan AI styrke kritisk tenkning i stedet for å erstatte den? Svaret er et tydelig ja, men han tar med hele bildet. AI har enormt potensial i mange retninger, sier han, inkludert potensialet til å påføre oss stor skade. Han forstår godt dem som vil stanse det hele, men mener vi må være pragmatiske: AI er her, og den blir her enten vi liker det eller ikke.
Vår beste sjanse er da å forstå den, jobbe trinnvis med den og forsøke å holde tritt eller ligge litt foran. De oppgavene AI faktisk er god på, særlig de repetitive, bør vi bruke den til, for å forsterke måten vi tenker på. Formuleringen hans sier det meste: planen er vår, og AI bidrar til den. Ikke omvendt.
Rinta-Kahila gir det kanskje mest praktiske eksempelet i hele samtalen, og det er hentet fra hans eget liv. Han er forsker på informasjonssystemer, ikke på skatterett. Når han må forstå noe om skatt eller fradrag, er regelverket på skattemyndighetenes nettsider vanskelig å tolke. Der har han merket at AI hjelper. Han kan faktisk lære mer om skatt ved å snakke med en AI som gjør stoffet mer forståelig, og så gå tilbake til kilden og sjekke om det AI-en sa, faktisk stemmer.
Det siste leddet er hele forskjellen. Han bruker AI-en som en inngangsport til et fagfelt han ikke behersker, ikke som en fasit. Kontrollen mot originalkilden er det som gjør ham skarpere i stedet for bare mer selvsikker.
Vaner som beskytter kritisk tenkning i hverdagen
Cieslak avslutter med det praktiske spørsmålet: hvilke vaner kan bevare kritisk tenkning for folk som bruker AI hver dag?
Hare svarer med å peke på noe som er lett å overse, nemlig hvor inngangspunktet ditt er. Selv prøver hun å bare bruke AI på datamaskinen, og hun har strenge regler for seg selv. Hun sier samtidig at hun kan si det fordi hun har studert dette lenge, og at hun også blir sliten og lat. Hun forsøker å ikke gå til AI-en først.
Kontrasten hun tegner opp, er den passive bruken. Noen møter AI gjennom en Amazon Echo i huset, kanskje flere av dem, og da ligger den bare der i lufta i hjemmet. Barna snakker med den, alle snakker med den, og når du er litt lat spør du bare: hva er været, hva skal jeg lage til middag, hva skal jeg ha på meg i selskapet, hva er den raskeste veien tvers gjennom London. Etter hvert slutter du å legge merke til at du kunne ha gjort det tankearbeidet selv.
Hun er samtidig mild i dommen over dem det gjelder. Det ligger ingen fordømmelse i dette, sier hun. Alt dette ble sluppet løs på oss veldig fort. Alle eksperimenterer, og ingen hadde noen etablert god praksis å følge. Men nå som studier som Rinta-Kahilas begynner å komme, mener hun rådet er å være svært varsom med hvordan du bruker AI.
Samtalen gir tre praktiske grep som holder uansett yrke:
- Ha en regel for inngangspunktet. Bestem hvor og når du bruker AI, i stedet for å la den ligge tilgjengelig i alle kanaler hele døgnet. Hares egen regel er at AI-en bor på datamaskinen, ikke i lufta rundt henne.
- Ikke gå dit først. Prøv å tenke selv før du spør. Det er forskjellen mellom å bruke AI-en som forsterker og som erstatning.
- Kontroller mot kilden når du er utenfor eget fagfelt. Rinta-Kahilas skatteeksempel virker bare fordi han går tilbake og sjekker.
Rinta-Kahila legger til en observasjon som setter dagens situasjon i perspektiv. Hvor mye risiko vi godtar ved å overlate noe til en maskin, henger tett sammen med kulturen og samfunnet rundt oss. Blir AI-systemene gode nok til at statistikken viser at de gjør færre feil enn menneskelige kirurger, kan holdningene endre seg. Det samme gjelder om maskiner en dag skulle framstå som mer pålitelige barnehagelærere enn feilbarlige mennesker. Akkurat nå, sier han, er vi heldigvis ikke der.
Det er den nøkterne posisjonen i panelet, og den er verdt å ta med seg. Ingen av de tre mener at vi bør slutte å bruke AI. Uenigheten handler om hvor fort vi bør slippe den inn, hvem vi bør slippe den inn hos, og hva vi skal passe på at vi fortsatt kan gjøre selv.
Les også: