Norsk senter for kunnskapsdrevet maskinlæring

Om senteret

Integreat er et Senter for fremragende forskning (SFF), finansiert av Norges forskningsråd. Senteret har som mål å utvikle kunnskapsdrevet maskinlæring, der data kombineres med statistikk, logikk og domenekunnskap, for å gjøre kunstig intelligens (KI) mer presis, etisk og bærekraftig.

Maskinlæring (ML) kan forstås som kjernen i kunstig intelligens og det brukes i dag i en rekke samfunnskritiske systemer. Samtidig er det flere utfordringer knyttet til ML, inkludert forklarbarhet, rettferdighet og håndtering av usikkerhet. Integreat utvikler nye metodiske rammeverk som skal bidra til å løse disse utfordringene.

NR bidrar særlig med metodisk utvikling innen forklarbarhet og avviksdeteksjon. Felles for arbeidet er en sterk forankring i statistisk modellering kombinert med moderne maskinlæringsmetoder.

Forklarbar kunstig intelligens

Mange maskinlæringsmodeller fungerer som «svarte bokser», der det er vanskelig å forstå hvorfor modellen gir et bestemt resultat. Dyp læring er effektiv til å identifisere komplekse mønstre i data, men gir ofte begrenset innsyn i hvordan beslutninger tas. Statistiske modeller er gjerne mer forklarbare, men kan være mindre fleksible i møte med svært komplekse datastrukturer.

På NR utvikler vi metoder som kombinerer styrkene i disse tilnærmingene. Vi legger særlig vekt på å modellere samspillet mellom variabler og å utvikle forklaringer som er både metodisk solide og praktisk anvendelige. Målet er modeller som ikke bare gir gode prediksjoner, men som også kan begrunnes og etterprøves.

Avviksdeteksjon

Mange maskinlæringsmodeller bygger på antagelsen at dataene er relativt stabile over tid. Når datagrunnlaget endrer seg, kan modellens presisjon og stabilitet svekkes. For å sikre pålitelig drift er det avgjørende å kunne oppdage avvik raskt og presist.

Vi driver grunnforskning på avviksdeteksjon og utvikler statistiske og maskinlæringsbaserte metoder for å identifisere endringer i datastrømmer. Arbeidet fokuserer på pålitelige og tilpasningsdyktige algoritmer som kan håndtere skiftende datamønstre og samtidig gir tydelige kriterier for hva som faktisk utgjør et avvik.

Metodene har et bredt anvendelsespotensiel, fra overvåking av KI-basert systemer til andre områder der det er behov for å oppdage endringer eller uventede mønstre i data. Målet er både å styrke kvalitet og pålitelighet i datadrevne systemer og å bidra til teoretisk og metodisk utvikling innen avviksdeteksjon.

Utforsk fokusområdene våre

Vil du vite mer om Integreat?

Ta kontakt.