Norsk senter for kunnskapsdrevet maskinlæring

Om senteret

Integreat er et Senter for fremragende forskning (SFF), finansiert av Norges forskningsråd. Senteret har som mål å utvikle kunnskapsdrevet maskinlæring, der data kombineres med statistikk, logikk og domenekunnskap, for å gjøre kunstig intelligens (KI) mer presis, etisk og bærekraftig.

Maskinlæring (ML) kan forstås som kjernen i kunstig intelligens og det brukes i dag i en rekke samfunnskritiske systemer. Samtidig er det flere utfordringer knyttet til ML, inkludert forklarbarhet, rettferdighet og håndtering av usikkerhet. Integreat utvikler nye metodiske rammeverk som skal bidra til å løse disse utfordringene.

NR bidrar særlig med metodisk utvikling innen forklarbarhet, avviksdeteksjon og rettferdige beslutninger under usikkerhet. Felles for arbeidet er en sterk forankring i statistisk modellering kombinert med moderne maskinlæringsmetoder.

Forklarbar kunstig intelligens

Mange maskinlæringsmodeller fungerer som «svarte bokser», der det er vanskelig å forstå hvorfor modellen gir et bestemt resultat. Dyp læring er effektiv til å identifisere komplekse mønstre i data, men gir ofte begrenset innsyn i hvordan beslutninger tas. Statistiske modeller er gjerne mer forklarbare, men kan være mindre fleksible i møte med svært komplekse datastrukturer.

På NR utvikler vi metoder som kombinerer styrkene i disse tilnærmingene. Vi legger særlig vekt på å modellere samspillet mellom variabler og å utvikle forklaringer som er både metodisk solide og praktisk anvendelige. Målet er modeller som ikke bare gir gode prediksjoner, men som også kan begrunnes og etterprøves.

Avviksdeteksjon

Mange maskinlæringsmodeller bygger på antagelsen at dataene er relativt stabile over tid. Når datagrunnlaget endrer seg, kan modellens presisjon og stabilitet svekkes. For å sikre pålitelig drift er det avgjørende å kunne oppdage avvik raskt og presist.

Vi utvikler statistiske og maskinlæringsbaserte metoder for å oppdage avvik i datastrømmer i sanntid. Arbeidet fokuserer på pålitelige og tilpasningsdyktige algoritmer som kan håndtere endrede datamønstre og samtidig gi tydelige kriterier for når noe faktisk avviker.

Målet er at metodene kan bli brukt i reelle anvendelser for å overvåke KI-baserte systemer og for å styrke og kvalitetssikre slike systemer.

Rettferdighet og usikkerhet

Når maskinlæringsmodeller brukes til beslutninger som berører mennesker, må hensynet til rettferdighet ivaretas. Uten bevisst metodisk håndtering kan eksisterende skjevheter videreføres eller forsterkes.

Vi utvikler metoder for å avdekke og kvantifisere bias i modeller, blant annet ved å analysere hvordan endringer i beskyttede kjennetegn, som kjønn eller alder, påvirker resultatene. Vi undersøker også hvordan skjevheter utvikler seg over tid og hvilke langsiktige konsekvenser ulike tiltak kan ha.

En annen del av forskningen vår handler om hvordan vi kan ta rettferdige beslutninger når vi ikke kjenner de berørte aktørenes preferanser fullt ut. I praksis innebærer dette å utvikle metoder som hindrer at enkelte grupper systematisk kommer dårligere ut, også når beslutninger må tas på grunnlag av ufullstendig informasjon.

Vil du vite mer om Integreat?

Ta kontakt.

Utforsk fokusområdene våre