Når maskinen snakker med AI-en: Hvem bestemmer?

Se for dere en produksjonshall der maskinene sender data hele døgnet: temperatur, vibrasjoner, trykk og driftstimer. En AI-assistent leser med og hjelper driftslederen med å forstå hva som skjer. En dag melder en maskin om kraftige vibrasjoner, og AI-en anbefaler å stoppe den med en gang.

Det høres ut som akkurat det AI skal kunne. Men hva om tallene var feil? En defekt sensor, en feil i en oppdatering eller i verste fall noen som bevisst har sendt inn falske data. AI-en kan ikke se forskjell. Den leser det den får, og svarer så godt den kan.

Dette er ikke et argument mot AI i produksjonen. Det er et argument for å tenke over hvem som bestemmer når maskinen snakker med AI-en.

Data er ikke sant bare fordi det kommer fra en maskin

Mange virksomheter stoler på data fordi det kommer fra egne systemer. Det er forståelig, men det er ikke nok. En AI behandler alt den leser som noe den skal forholde seg til, også en kommentar i et felt eller en verdi som ligger langt utenfor det normale.

Derfor må data sjekkes før AI-en får det. Kommer det fra maskinen det sier det kommer fra? Ligger verdiene innenfor det som er fysisk mulig? Stemmer det med de andre sensorene? Det er enkle kontroller, men de fanger mange feil før de blir til beslutninger.

Gi AI-en det den trenger, og ikke mer

Jo mer data en AI får, jo flere steder kan noe gå galt. Når en ansatt stiller et spørsmål, skal AI-en bare ha tilgang til dataene som er nødvendige for svaret, og bare dem den ansatte selv har lov til å se.

Det høres teknisk ut, men det er egentlig et ledelsesvalg: Hvem får se hva, og hva får AI-en bruke? Det må bestemmes før løsningen bygges, ikke etterpå.

AI-en anbefaler. Mennesker bestemmer.

Det viktigste prinsippet er enkelt: AI-en kan gjerne foreslå å stoppe en maskin, men den skal ikke selv trykke på knappen. En anbefaling må kunne forklares med dataene den bygger på, og den må sjekkes mot de faste grensene og sikkerhetsreglene dere allerede har.

Deretter er det en ansatt med ansvaret som bestemmer. AI-en er god til å skape oversikt og peke på det uvanlige. Mennesker og de eksisterende sikkerhetssystemene er gode til å ta ansvar for det som skal skje.

AI-en skal gjøre folkene deres klokere, ikke ta beslutningene fra dem.

Planlegg for dagen AI-en ikke virker

Alle systemer går ned innimellom. Nettverket faller ut, en leverandør endrer noe, eller AI-en gir et svar som ikke gir mening. Derfor må produksjonen kunne gå videre uten AI-en, med alarmene og sikkerhetsreglene dere har i dag.

Det må også være enkelt å slå av AI-en uten å stoppe driften, og alt må logges: hvilke data AI-en så, hva den anbefalte, og hvem som godkjente. Da kan dere alltid finne ut hva som skjedde, og lære av det.

Fire spørsmål til ledelsen

• Vet vi hvilke data AI-løsningene våre leser, og hvor de kommer fra?
• Er det alltid et menneske som godkjenner beslutningene som betyr noe?
• Kan produksjonen gå videre hvis AI-en er nede i en uke?
• Kan vi bytte leverandør eller modell uten å bygge alt på nytt?

Slik går vi fram i BCT

Når vi bygger AI for industrien, starter vi med en Shadow Walk, der vi følger arbeidet slik det faktisk foregår. Da vet vi hvilke beslutninger AI-en skal hjelpe med, og hvilke som skal bli hos folkene deres. Vi bygger løsningen slik at data blir sjekket, mennesker har det siste ordet, og driften kan fortsette uten AI-en. Det skjer til fast pris, og dere eier koden, så dere beholder kontrollen, også over leverandørene.

Vil dere høre mer om hvordan AI kan brukes trygt i produksjonen deres, så kontakt oss på info@blackcapitaltechnology.com eller (+45) 39 39 42 43.