Få tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd?
Få tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd? Organisasjoner som etablerer kontrollrammeverk for KI-agenter tidlig, vil ha et betydelig fortrinn fremfor dem som tar tak i det etter at noe har gått galt, skriver Marius Sandbu i Sopra Steria.
Virtuelle agenter kommer i mange former – fra enkle spørsmål/svar-agenter til autonome systemer som kjører lokalt på brukerens maskin eller i dedikerte rammeverk. Fellesnevneren er at de opererer på ulike plattformer med svært varierende grad av innsyn og kontroll. Jo flere agenter, jo tydeligere blir det: Du kan ikke stole på noe du ikke forstår. Du kan ikke forstå noe du ikke kan se.
Og du kan ikke handle uten klare policyer og grenser. Governance, eller styring, handler om å etablere retningslinjer for hvem som kan opprette agenter, hva de kan gjøre og hvem som er ansvarlig når noe går galt. Hver agent bør ha en definert eier, en dokumentert hensikt og et avgrenset tillatelsessett. Prinsippet om minste privilegium gjelder like mye her som i tradisjonelle rammeverk som sikrer at riktige personer har tilgang til IT-ressurser.
Markedet fylles raskt med ferdige agenter og plugins. Disse må vurderes med samme kritiske blikk som annen tredjepartsprogramvare. Virtuelle agenter introduserer en ny trusselkategori som mange sikkerhetsteam ennå ikke har innarbeidet i rammeverkene sine. Den mest undervurderte trusselen er såkalte «prompt injection».
Dette er skjulte instruksjoner dataagenten håndterer som en e-post, et dokument eller en nettside som kan manipulere agentens atferd. Disse er vanskelige å oppdage. API-nøkler og tokens som brukes, skal aldri ligge i klartekst i konfigurasjon eller kode. Sikkerhet for agenter er ikke en engangsjobb.
Det er en kontinuerlig prosess som krever tett samarbeid mellom sikkerhetsteamet og dem som bygger og drifter agentene. Observerbarhet handler om fullt innsyn i hva agentene faktisk gjør både i sanntid og historisk. En agent som oppfører seg unormalt, sender sjelden en alarm. Uten logging og sporing kan det gå lang tid før et avvik oppdages – og enda lenger før årsaken er identifisert.
Målet er ikke å logge alt for loggings skyld, men å ha nok innsyn til at du faktisk kan oppdage og respondere på avvik, både sikkerhetsmessige og operasjonelle. Neste steg er å forstå hvilke styringsmuligheter som finnes i verktøyene man allerede bruker, og det varierer betydelig. GitHub Copilot gir et relativt modent sett med organisatoriske kontroller. Claude Code gir per i dag færre innebygde kontroller, og styring må i større grad ivaretas gjennom kjøremiljøet og brukspolicyer.
Det viktigste er ikke å finne ett økosystem som løser alt, men å kartlegge hva som er i bruk og hvilke kontrollmuligheter som faktisk finnes i hvert verktøy. Noen gir mye ut av boksen, andre krever at du bygger kontrollaget selv. Agenter er her for å bli, og de blir flere, mer autonome og mer integrert i kjernesystemer.
Organisasjoner som etablerer kontrollrammeverket tidlig, vil ha et betydelig fortrinn fremfor dem som tar tak i det etter at noe har gått galt. Du må være innlogget hos Ifrågasätt for å kommentere. Bruk BankID for automatisk oppretting av brukerkonto. Du kan kommentere under fullt navn eller med kallenavn.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Altfor få vet hvordan virtuelle agenter må styresFå tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd?
Read more »
Altfor få vet hvordan virtuelle agenter må styresFå tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd?
Read more »
Altfor få vet hvordan virtuelle agenter må styresFå tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd?
Read more »
Altfor få vet hvordan virtuelle agenter må styresFå tar opp den viktigste utfordringen med kunstig intelligens: Hvordan får organisasjoner kontroll på alle de virtuelle agentene som kommer på løpende bånd?
Read more »