Mer informasjon gjør ikke AI-agenten flinkere

IBM Technology·Martin Keen·15. oktober 2026·Se videoen

AI-modeller kan nå holde enorme mengder tekst i arbeidsminnet, men i en video fra IBM Technology forklarer Martin Keen hvorfor det ikke automatisk gjør AI-agenter flinkere. Hovedpoenget hans er at en agent ofte blir bedre til lange oppgaver når den har mindre informasjon å holde styr på. Du får forklart hva kontekstvinduet og kontekststyring er, de fire feilene som kan oppstå i arbeidsminnet (forgiftning, distraksjon, forvirring og motsigelser), og hvordan hver feil løses ved å sjekke konklusjoner før de lagres, korte ned historikken, velge ut færre verktøy eller rydde bort utdatert informasjon.

1. Kontekstvinduet: AI-ens arbeidsminne

Kontekstvinduet, på engelsk «context window», er all teksten en AI-modell kan ta hensyn til samtidig, omtrent som et arbeidsminne. 0:00 En AI-agent er et AI-program som ikke bare svarer på ett spørsmål, men som selv utfører mange oppgaver etter hverandre for å nå et mål, for eksempel å lese filer, kjøre tester og endre kode. Kode er instruksjonene som forteller en datamaskin hva den skal gjøre. En test er et lite program som sjekker at koden virker som den skal. Agenten både henter fra og legger til i vinduet.

Størrelsen måles i token. Et token er en liten tekstbit, ofte et ord eller en del av et ord. Ifølge Keen har kontekstvinduene vokst fra noen få tusen token til en million eller mer. Da får agenten plass til mye mer, som instruksjoner, dokumenter og resultater fra verktøy. Verktøy er her programmer agenten kan bruke for å gjøre noe utenfor seg selv, for eksempel å søke på nettet, åpne en nettside i en nettleser som Chrome eller kjøre testene i koden.

Det høres ut som det burde gjøre agentene bedre til lange oppgaver. Keen viser likevel til en nylig studie av 18 ledende AI-modeller. Ifølge ham ble alle mindre pålitelige jo større kontekstvinduet ble. Forskere kaller dette «context rot», altså kontekstråte. Jo flere token som ligger i vinduet, desto dårligere klarer modellen å bruke hver del av informasjonen. Keen navngir ikke studien i videoen.

2. Hva er kontekststyring?

Keen kaller temaet «context engineering». 1:01 Her oversetter vi det med kontekststyring. Det betyr å bestemme hva som faktisk skal ligge i kontekstvinduet ved hvert steg mens agenten jobber.

Nedenfor forklarer vi fire typiske feil og hvordan hver av dem kan løses. Alle løsningene går ut på å fjerne informasjon med vilje.

3. Hva fyller opp vinduet?

For å vise hvordan vinduet fylles, bruker Keen et eksempel. 1:47 En AI-agent skal endre en gammel kodebase slik at kodebasen bruker en ny databasedriver i stedet for den gamle. En kodebase er all koden i et program. En databasedriver er den delen av programmet som snakker med databasen der dataene lagres. Keen kaller agenten «migration AI agent». Migrering betyr her å flytte programmet over til en ny løsning.

Ifølge Keen består vinduet av seks deler.

1. De faste instruksene (system prompt). Dette er regler som alltid gjelder for agenten, uansett oppgave. Det er de som har lagd agenten, som har skrevet dem. Et tenkt eksempel: «Du er en hjelpsom kodeassistent. Svar kort.»
2. Oppgaven (prompt). Beskjeden fra personen som bruker agenten, om hva den skal gjøre. Den er ofte bare et par linjer. Et tenkt eksempel: «Flytt koden over til den nye databasedriveren.»
3. Prosjektinstrukser (project instructions). Mange agentsystemer henter inn filer som forklarer hvordan akkurat dette prosjektet er bygd og fungerer, og hvordan agenten skal jobbe i det, for eksempel en fil som heter AGENTS.md. Et tenkt eksempel er en linje i AGENTS.md: «Kjør alle testene før du sier at du er ferdig.» Du kan lese mer om AGENTS.md her.
4. Verktøybeskrivelser (tool definitions). En beskrivelse av hvert verktøy agenten kan bruke. Beskrivelsen forteller agenten hva verktøyet gjør, slik at den vet når den skal bruke det. Et tenkt eksempel, der run_tests er navnet på verktøyet: «run_tests: kjører testene og viser hvilke som feiler.»
5. Meldingshistorikken (message history). En logg over hvert steg agenten har tatt. Etter en time med arbeid kan den bli svært lang. Et tenkt eksempel: «Steg 12: Åpnet filen database.py og endret tilkoblingen.»
6. Resultater fra verktøy (tool results). Det verktøyene sender tilbake når agenten har brukt dem, for eksempel innholdet i en fil den har åpnet, resultatet av testene, feilmeldinger eller en oversikt over hvordan databasen er bygd opp. Ifølge Keen er dette trolig den største delen. Et tenkt eksempel er en feilmelding som «Tilkoblingen til databasen feilet.»

Poenget hans er at selve oppgaven bare er noen få linjer i starten av vinduet, mens nesten alt det andre er ting agenten samler opp underveis.

Et notat agenten har skrevet til seg selv

Underveis har agenten også skrevet et kort notat til seg selv, slik at den skal huske noe den har funnet ut. 3:33 Notatet ligger i vinduet, og der står det «no retry code», altså at det ikke trengs kode som prøver på nytt. I notatet har agenten skrevet ned at den nye driveren selv prøver å koble til databasen på nytt når tilkoblingen feiler, og at den gamle koden som gjorde dette, derfor kan slettes. Notatet blir viktig senere i artikkelen.

4. Oppmerksomheten er begrenset

Hvorfor er et fullt vindu et problem? 4:02 Keen forklarer at en AI-modell ikke slår opp i vinduet slik en database finner en bestemt rad i en tabell. En database henter akkurat det du spør etter, uansett hvor mye annet som er lagret. En AI-modell må i stedet fordele oppmerksomheten sin på alt som ligger i vinduet. Med oppmerksomhet menes her hvor mye vekt modellen legger på hver del av teksten når den bestemmer hva den skal gjøre. Keen sammenligner oppmerksomheten med et budsjett. Modellen har bare så mye oppmerksomhet å fordele, og jo mer som ligger i vinduet, desto mindre oppmerksomhet får hver del. Han kaller dette «attention budget», altså oppmerksomhetsbudsjett.

Ifølge Keen er dette kjernen i problemet. Vinduet kan ha plass til en million token, men oppmerksomheten modellen fordeler på dem, er begrenset.

5. Fire feil som kan oppstå i vinduet

1. Forgiftning

Den første feilen kaller Keen «context poisoning», altså forgiftning. 4:35 Det viser seg at notatet «no retry code» fra del 3 er feil. Agenten leste bare raskt gjennom beskrivelsen av den nye driveren, misforsto den og skrev ned en feil konklusjon. Ifølge Keen er det nettopp dette som er forgiftning. En feil kommer inn i vinduet, og agenten tror på den, fordi AI-modellen ser på sine egne notater som sannheten. I eksemplet har agenten derfor slettet koden som prøver tilkoblingen på nytt, i flere filer i prosjektet. Den koden fungerte og trengtes fortsatt.

2. Distraksjon

Den andre feilen er distraksjon, på engelsk «context distraction». 5:18 Da er det den store mengden historikk som begynner å styre agenten. AI-modellen som agenten bygger på, er en språkmodell. Det er den typen AI som står bak tjenester som ChatGPT, og som har lært språk fra enorme mengder tekst. Keen forklarer at en språkmodell i bunn og grunn fortsetter mønstrene den ser i teksten.

Når vinduet inneholder en hel time med agentens egne handlinger, blir den historikken det sterkeste mønsteret. Ifølge Keen kan det bli sterkere enn det modellen lærte da den ble lagd. I stedet for å spørre hva oppgaven trenger nå, gjør modellen mer av det den allerede har gjort. Agenten kan da gjenta de samme stegene og ikke komme videre.

3. Forvirring

Den tredje feilen, «context confusion», altså forvirring, handler om verktøyene. 6:00 Agenten i eksemplet er koblet til mange verktøy og systemer. Den er trolig koblet til versjonskontroll, kanskje til en database og kanskje også til et system der den registrerer saker og oppgaver. Versjonskontroll er et system som holder oversikt over alle endringer i koden.

Hver verktøybeskrivelse ligger i vinduet enten verktøyet brukes eller ikke. Jo flere verktøy, desto vanskeligere blir det å velge riktig. Keen viser til en standardisert test av AI-modeller der en modell feilet en oppgave da den kunne velge mellom 46 verktøy, men klarte den samme oppgaven med 19 verktøy. Han kaller det «tool sprawl», altså at antallet verktøy vokser ut av kontroll. Han sier ikke hvilken test det var.

4. Motsigelser

Den fjerde feilen kaller han «context clash», som her kan oversettes med motsigelser. 6:53 Da inneholder vinduet informasjon som motsier seg selv. På et tidspunkt oppdager agenten at tilkoblingene ikke prøves på nytt, og forstår at notatet var feil. Den vil trolig skrive dette inn i historikken. Nå ligger både det feilaktige notatet og rettelsen i vinduet, og de sier forskjellige ting.

6. Fire løsninger som alle fjerner noe

Hver av de fire feilene har sin egen løsning.

Sjekk før du skriver det ned

Løsningen på forgiftning er å sjekke, på engelsk «validate». 7:35 Før en konklusjon skrives inn i vinduet, bør agenten sjekke at den stemmer i virkeligheten. Ifølge Keen ville én rask test av tilkoblingen ha hindret agenten i å skrive notatet «no retry code».

Kort ned historikken

Løsningen på distraksjon er å korte ned historikken, på engelsk «compact». 7:56 Når historikken blir veldig lang, kan agenten lage et sammendrag av den, slette hele historikken og fortsette ut fra sammendraget.

Keen advarer om at noe informasjon alltid går tapt når historikken kortes ned. Et sammendrag av et sammendrag kan bli stadig mindre nøyaktig, omtrent som en kopi av en kopi blir utydeligere. Han foreslår derfor å flytte mest mulig av informasjonen ut av vinduet og over i egne filer. Der kan detaljene ligge trygt og hentes inn i vinduet bare når de trengs.

Velg ut verktøyene

Løsningen på forvirring er å velge ut, på engelsk «curate». 8:46 Agenten trenger ikke 46 verktøy for å endre kodebasen slik at den bruker den nye databasedriveren. Den bør bare få de verktøyene oppgaven krever, og kan hente flere senere hvis den trenger dem.

Rydd bort det som er utdatert

Løsningen på motsigelser er å rydde, på engelsk «prune». 9:06 Når informasjon blir erstattet, bør den gamle versjonen slettes i stedet for at begge blir liggende. I eksemplet betyr det at det feilaktige notatet slettes når agenten har oppdaget feilen. Ifølge Keen kan agenten gå enda lenger og starte på nytt i et nytt kontekstvindu. Der får den bare en kort, rettet beskrivelse av hvor langt oppgaven har kommet. Den feilaktige informasjonen blir liggende igjen i det gamle vinduet.

Det viktigste å ta med seg

• Et større arbeidsminne gjør ikke AI-agenten flinkere av seg selv. Den kan bli mindre pålitelig når det fylles opp.
• Grunnen er at modellen har begrenset oppmerksomhet. Jo mer som ligger i vinduet, desto mindre oppmerksomhet får hver del.
• Selve oppgaven er bare en liten del av det agenten har i minnet. Det meste er ting den samler opp underveis.
• Feil kan oppstå når agenten stoler på egne feilaktige notater, følger sin egen historikk, har for mange verktøy eller får selvmotsigende informasjon.
• Løsningene er å sjekke konklusjoner før de lagres, korte ned historikken, velge ut færre verktøy og rydde bort utdatert informasjon. Alle går ut på å fjerne noe, og derfor kan agenten bli bedre til lange oppgaver når den har mindre i arbeidsminnet.

Kilder og videre lesning