En dansk offentlig myndighet jobber med noen av Danmarks mest sensitive offentlige data. Derfor var løsninger som ChatGPT og Gemini ikke et alternativ fra starten.
Prosjektet begynte som et internt forskningsprosjekt som skulle undersøke hvordan AI kunne brukes i større skala hos myndigheten.
Organisasjonen hadde allerede sterk intern utviklingskompetanse og hadde investert i egen infrastruktur, blant annet nyere GPU-er for å kjøre AI-modeller internt. Spørsmålet var derfor ikke om AI kunne brukes, men hvordan man kunne skape løsninger som var både brukbare, skalerbare og sikre – uten å bli avhengig av kommersielle AI-API-er.
Prosjektet omfattet blant annet:
Arkitekturen ble bygget ut fra ett enkelt prinsipp:
Rådata blir internt. Bare de nødvendige vektorrepresentasjonene kan brukes utenfor.
Interne modeller på myndighetens egen infrastruktur står for anonymisering og vektorisering av data. Eksterne AI-modeller jobber bare med disse representasjonene og får aldri tilgang til de underliggende rådataene.
Det skaper en hybrid løsning som kombinerer sikkerheten fra et lukket miljø med fleksibiliteten og kapasiteten fra eksterne AI-modeller.
Som en del av løsningen bygde BCT også et internt chatverktøy basert på en stor åpen kildekode-modell. Det ga de ansatte mulighet til å jobbe med sensitive data gjennom naturlig språk i et sikkert miljø.
I tillegg etablerte vi en MCP-server rundt myndighetens offentlige API. Det gjør det mulig for eksterne AI-agenter å hente strukturerte data direkte fra API-et i stedet for å skrape nettstedet.
Resultatet ble ikke bare nye AI-verktøy, men et mer skalerbart fundament for myndighetens videre arbeid med AI.
Vi designet en arkitektur der interne modeller håndterer anonymisering og vektorisering på myndighetens egen infrastruktur.
Eksterne modeller jobber bare med vektorrepresentasjonene. På den måten forblir rådata beskyttet, samtidig som organisasjonen kan bruke moderne AI-modeller der det gir mening.
Myndighetens datatabeller er store og komplekse og kan være vanskelige å navigere i.
Vi gjorde dataene søkbare gjennom embeddings og vektordatabaser, slik at brukerne i større grad kan søke etter betydning og sammenheng framfor å måtte kjenne den presise strukturen eller formuleringen på forhånd.
Eksterne AI-agenter kunne tidligere skape unødvendig belastning ved å skrape nettstedet.
Derfor bygde vi en MCP-server oppå det eksisterende API-et, slik at AI-agenter i stedet kan få strukturert tilgang til offentlige data direkte fra backend.
Det gir en mer stabil tilgang til data og reduserer belastningen på den brukerrettede delen av nettstedet.
Vi bygde et sikkert internt chatmiljø basert på en åpen kildekode-modell med 120 milliarder parametere, som kjører på myndighetens egen infrastruktur.
Her kan de ansatte jobbe med vektoriserte, sensitive data gjennom naturlig språk. Løsningen er samtidig utviklet med mulighet for dynamiske visualiseringer.
Teknologien var bare den ene delen av prosjektet.
Over seks måneder gjennomførte vi derfor et opplæringsløp med fokus på blant annet AI-observability, automatiseringsverktøy, integrasjon i utviklingsmiljøer og compliance.
Målet var at myndigheten ikke bare skulle ha en løsning, men også den interne kompetansen til selv å jobbe videre med AI.
Sensitive data kunne nå vektoriseres, søkes i og brukes i AI-baserte arbeidsflyter uten å forlate den interne infrastrukturen.
Samtidig kunne eksterne modeller brukes når det var behov for større kapasitet – uten at de fikk tilgang til de underliggende rådataene.
Det gjorde det mulig å:
Mer overordnet viste prosjektet hvordan organisasjoner med høye krav til sikkerhet og compliance kan jobbe med AI uten å gi avkall på verken kontroll eller muligheter.
HelseGovernance og sikkerhet for helsedata i nasjonal skala
Les casen →
Intern AI-assistentÉn AI-assistent for ansatte på tvers av land og lokasjoner
Les casen →
HelseAI som gjør komplekse medisinske data enklere å bruke i hjerte- og karsdiagnostikk.
Les casen →
