Bakgrunn og innsikt
MIT Technology Review beskriver en risiko i virksomheter som bruker flere AI-agenter i arbeidsflyter. En agent kan hente kundepriser fra ulike kilder, blant annet systemer med tilgangsbegrensninger, interne meldinger og eldre tilbud. En annen agent kan deretter bruke svaret til å utforme et forslag, uten at noen kontrollerer overleveringen. Resultatet kan se troverdig ut selv om datagrunnlaget er feil, utdatert eller ikke ment for deling.
Dataproveniens, eller data lineage, handler om å kunne spore hvor data kommer fra, hvem som har endret dem, hvilke regler som gjelder, og hvilke systemer som har brukt dem. Det gjør det mulig å undersøke en feil bakover i kjeden og sette tydelige grenser for agentenes tilgang. Teknologien erstatter ikke menneskelig ansvar, men kan gjøre kontroll mer systematisk.
Hva betyr dette for din hverdag?
For ansatte kan AI-agenter spare tid på rutinearbeid, men en feil kan også påvirke kundeløfter, konfidensialitet og tillit. Klare kontrollpunkter beskytter både arbeidstakere og kunder: brukeren bør vite hvilke opplysninger agenten støtter seg på, og hvem som må godkjenne beslutninger med konsekvenser.
💡 Slik kan du bruke denne kunnskapen
- Før du bruker AI i en jobboppgave, avklar hvilke datakilder den har tilgang til, og om kundedata eller interne dokumenter kan inngå i svaret.
- Be om kildehenvisning eller sporbarhet for viktige tall, priser og påstander. Kontroller dem mot det autoritative systemet før du sender noe videre.
- Lag et obligatorisk menneskelig godkjenningspunkt for tilbud, økonomiske beslutninger og deling av sensitiv informasjon; loggfør hvem som godkjente resultatet.