KI-agenter
KI-agenter gir nye muligheter for automatisering, beslutningsstøtte og effektiv bruk av data. Samtidig stiller teknologien nye krav til sikkerhet, kvalitet og kontroll. Ved Norsk Regnesentral (NR) utvikler vi agentløsninger, analyserer sikkerhetsutfordringer og undersøker hvordan teknologien kan brukes sikkert og effektivt på tvers av fag- og bruksområder.
Hva er en KI-agent?
En KI-agent er programvare basert på kunstig intelligens som kan planlegge og utføre oppgaver på vegne av brukeren. I motsetning til tradisjonelle chatboter kan agenten bruke verktøy, hente informasjon fra ulike kilder og samhandle med andre systemer for å løse oppgaver. Den kan også kombinere flere handlinger for å løse mer komplekse oppgaver og nå et definert mål.
Sikkerhet må bygges inn fra starten
KI-agenter skiller seg fra tradisjonell programvare ved at de kan ta beslutninger og utføre handlinger på egen hånd. Det gjør dem nyttige, men også mer krevende å kontrollere.
Når en KI-agent får tilgang til systemer, dokumenter og verktøy, må man kunne stole på at den handler innenfor riktige rammer og ikke utsetter data, systemer eller prosesser for unødig risiko.
En agent med for vide rettigheter kan for eksempel slette filer, dele sensitiv informasjon eller utføre handlinger den ikke burde. I tillegg kan agenter påvirkes av informasjonen de leser eller instruksjonene de mottar, og oppføre seg på måter som er vanskelige å forutsi.
Hva vi kan hjelpe med
Vi bistår organisasjoner som ønsker å utvikle, ta i bruk eller vurdere KI-agenter. Gjennom forskning, utvikling og sikkerhetsanalyse hjelper vi samarbeidspartnere med å forstå muligheter, redusere risiko og utvikle løsninger som fungerer i praksis.
Vi kan blant annet hjelpe med:
- utvikling av agentbaserte løsninger
- vurdering av hvordan KI-agenter kan brukes i konkrete arbeidsprosesser
- risiko- og sikkerhetsanalyser
- testing og evaluering
- metoder for trygg bruk av agenter på sensitive data
Nedenfor beskriver vi noen av områdene vi arbeider med innen KI-agenter.
Sikre kjøreregler for KI-agenter
KI-agenter kan få tilgang til data, systemer og verktøy. Det gjør dem nyttige, men også sårbare for feilbruk og målrettede angrep.
Vi undersøker hvordan KI-agenter kan brukes trygt på data med ulik grad av sensitivitet. Arbeidet omfatter blant annet utvikling av tydelige kjøreregler, analyse av mulige angrep og evaluering av ulike beskyttelsestiltak. Målet er å gjøre det mulig å ta i bruk agentteknologi også i miljøer med strenge krav til sikkerhet, kontroll og databeskyttelse.
En viktig strategi er flerlagsbeskyttelse, der sikkerhet bygges inn på flere nivåer slik at ett svakt punkt ikke alene kan føre til alvorlig skade.
Testing av kode-agenter
KI-agenter kan allerede generere, oversette og videreutvikle kode. Dette kan endre hvordan programvare utvikles, og flytte utviklerrollen fra detaljert koding til problemløsning, design og kvalitetssikring.
Vi undersøker hvordan kode-agenter fungerer i praksis, blant annet ved oversetting mellom programmeringsspråk og utvikling av brukergrensesnitt (GUI-prototyper). Målet er å forstå når slike verktøy gir økt effektivitet, og hvordan kvalitet, pålitelighet og menneskelig kontroll kan ivaretas.
Egenutviklede agentsystemer med høy sikkerhet
For å oppnå høy grad av kontroll, sikkerhet og fleksibilitet utvikler vi også egne agentsystemer.
Et konkret bruksområde er automatisk lesing av håndskrevet og trykt tekst. Agenten kan identifisere relevant innhold i dokumenter, etablere maler for lignende skjemaer og kombinere spesialiserte KI-modeller for å tolke og strukturere informasjon. Dette kan effektivisere behandling av store mengder dokumenter samtidig som brukeren beholder kontroll over prosessen.
KI-agenter for forskning og kunnskapsarbeid
Vi utvikler også agentløsninger for forskning og kunnskapsarbeid i samarbeid med NTNU.
Innen materialvitenskap undersøker vi blant annet hvordan generative KI-agenter kan hente ut strukturerte data fra vitenskapelige artikler. Slike artikler inneholder ofte tekst, tabeller, diagrammer, mikroskopbilder og illustrasjoner. KI-agenter kan bidra til å lese, tolke og standardisere dette innholdet, slik at forskere raskere kan finne, analysere og sammenstille relevant informasjon.
Enten dere er i startfasen med KI-agenter, ønsker å utvikle en ny løsning eller vil vurdere sikkerheten i eksisterende systemer, tar vi gjerne en prat om hvordan vi kan bistå. Ta kontakt.
