En offentlig myndighed arbejder med nogle af Danmarks mest følsomme offentlige data. Derfor var løsninger som ChatGPT og Gemini ikke en mulighed fra starten.
Projektet begyndte som et internt researchprojekt, der skulle undersøge, hvordan AI kunne bruges i større skala hos myndigheden.
Organisationen havde allerede stærke interne udviklingskompetencer og havde investeret i egen infrastruktur, blandt andet nyere GPU'er til at køre AI-modeller internt. Spørgsmålet var derfor ikke, om AI kunne bruges, men hvordan man kunne skabe løsninger, der både var brugbare, skalerbare og sikre – uden at blive afhængig af kommercielle AI-API'er.
Projektet omfattede blandt andet:
Arkitekturen blev bygget ud fra et enkelt princip:
Rådata bliver internt. Kun de nødvendige vektorrepræsentationer kan bruges udenfor.
Interne modeller på myndighedens egen infrastruktur står for anonymisering og vektorisering af data. Eksterne AI-modeller arbejder kun med disse repræsentationer og får aldrig adgang til de underliggende rådata.
Det skaber en hybrid løsning, der kombinerer sikkerheden fra et lukket miljø med fleksibiliteten og kapaciteten fra eksterne AI-modeller.
Som en del af løsningen byggede BCT også et internt chatværktøj baseret på en stor open source-model. Det gav medarbejderne mulighed for at arbejde med følsomme data gennem naturligt sprog i et sikkert miljø.
Derudover etablerede vi en MCP-server omkring myndighedens offentlige API. Det gør det muligt for eksterne AI-agenter at hente strukturerede data direkte fra API'et i stedet for at scrape websitet.
Resultatet blev ikke bare nye AI-værktøjer, men et mere skalerbart fundament for myndighedens videre arbejde med AI.
Vi designede en arkitektur, hvor interne modeller håndterer anonymisering og vektorisering på myndighedens egen infrastruktur.
Eksterne modeller arbejder kun med vektorrepræsentationerne. På den måde forbliver rådata beskyttet, samtidig med at organisationen kan bruge moderne AI-modeller, hvor det giver mening.
Myndighedens datatabeller er store og komplekse og kan være svære at navigere i.
Vi gjorde data søgbare gennem embeddings og vektordatabaser, så brugerne i højere grad kan søge efter betydning og sammenhæng frem for at skulle kende den præcise struktur eller formulering på forhånd.
Eksterne AI-agenter kunne tidligere skabe unødvendig belastning ved at scrape websitet.
Derfor byggede vi en MCP-server oven på det eksisterende API, så AI-agenter i stedet kan få struktureret adgang til offentlige data direkte fra backend.
Det giver en mere stabil adgang til data og reducerer belastningen på den brugerrettede del af websitet.
Vi byggede et sikkert internt chatmiljø baseret på en open source-model med 120 milliarder parametre, som kører på myndighedens egen infrastruktur.
Her kan medarbejderne arbejde med vektoriserede, følsomme data gennem naturligt sprog. Løsningen er samtidig udviklet med mulighed for dynamiske visualiseringer.
Teknologien var kun den ene del af projektet.
Over seks måneder gennemførte vi derfor et træningsforløb med fokus på blandt andet AI-observability, automatiseringsværktøjer, integration i udviklingsmiljøer og compliance.
Målet var, at myndigheden ikke bare skulle have en løsning, men også de interne kompetencer til selv at arbejde videre med AI.
Følsomme data kunne nu vektoriseres, søges i og bruges i AI-baserede arbejdsgange uden at forlade den interne infrastruktur.
Samtidig kunne eksterne modeller bruges, når der var behov for større kapacitet – uden at de fik adgang til de underliggende rådata.
Det gjorde det muligt at:
Mere overordnet viste projektet, hvordan organisationer med høje krav til sikkerhed og compliance kan arbejde med AI uden at give afkald på hverken kontrol eller muligheder.
SundhedGovernance og sikkerhed til sundhedsdata i national skala
Læs casen →
Intern AI-assistentÉn AI-assistent til medarbejdere på tværs af lande og lokationer
Læs casen →
SundhedAI, der gør kompleks medicinsk data lettere at bruge i hjerte-kar-diagnostik.
Læs casen →
