Når maskinen taler med AI’en: Hvem bestemmer?

Forestil jer en produktionshal, hvor maskinerne sender data hele døgnet: temperatur, vibrationer, tryk og driftstimer. En AI-assistent læser med og hjælper driftslederen med at forstå, hvad der sker. En dag melder en maskine om kraftige vibrationer, og AI’en anbefaler at stoppe den med det samme.

Det lyder som præcis det, AI skal kunne. Men hvad nu, hvis tallene var forkerte? En defekt sensor, en fejl i en opdatering eller i værste fald nogen, der bevidst har sendt falske data ind. AI’en kan ikke se forskel. Den læser det, den får, og svarer så godt den kan.

Det er ikke et argument imod AI i produktionen. Det er et argument for at tænke over, hvem der bestemmer, når maskinen taler med AI’en.

Data er ikke sandt, bare fordi det kommer fra en maskine

Mange virksomheder stoler på data, fordi det kommer fra deres egne systemer. Det er forståeligt, men det er ikke nok. En AI behandler alt, den læser, som noget, den skal forholde sig til, også en kommentar i et felt eller en værdi, der ligger langt uden for det normale.

Derfor skal data tjekkes, før AI’en får det. Kommer det fra den maskine, det siger, det kommer fra? Ligger værdierne inden for det, der er fysisk muligt? Passer det med de andre sensorer? Det er simple kontroller, men de fanger mange fejl, før de bliver til beslutninger.

Giv AI’en det, den skal bruge, og ikke mere

Jo mere data en AI får, jo flere steder kan noget gå galt. Når en medarbejder stiller et spørgsmål, skal AI’en kun have adgang til de data, der er nødvendige for svaret, og kun dem, medarbejderen selv må se.

Det lyder teknisk, men det er i virkeligheden et ledelsesvalg: Hvem må se hvad, og hvad må AI’en bruge? Det skal besluttes, før løsningen bygges, ikke bagefter.

AI’en anbefaler. Mennesker beslutter.

Det vigtigste princip er enkelt: AI’en må gerne foreslå at stoppe en maskine, men den må ikke selv trykke på knappen. En anbefaling skal kunne forklares med de data, den bygger på, og den skal tjekkes mod de faste grænser og sikkerhedsregler, I allerede har.

Derefter er det en medarbejder med ansvaret, der beslutter. AI’en er god til at skabe overblik og pege på det usædvanlige. Mennesker og de eksisterende sikkerhedssystemer er gode til at tage ansvar for det, der skal ske.

AI’en skal gøre jeres folk klogere, ikke tage beslutningerne fra dem.

Planlæg for den dag, AI’en ikke virker

Alle systemer går ned en gang imellem. Netværket falder ud, en leverandør ændrer noget, eller AI’en giver et svar, der ikke giver mening. Derfor skal produktionen kunne køre videre uden AI’en, med de alarmer og sikkerhedsregler, I har i dag.

Det skal også være let at slå AI’en fra uden at stoppe driften, og alt skal logges: hvilke data AI’en så, hvad den anbefalede, og hvem der godkendte. Så kan I altid finde ud af, hvad der skete, og lære af det.

Fire spørgsmål til ledelsen

• Ved vi, hvilke data vores AI-løsninger læser, og hvor de kommer fra?
• Er det altid et menneske, der godkender de beslutninger, der betyder noget?
• Kan produktionen køre videre, hvis AI’en er nede i en uge?
• Kan vi skifte leverandør eller model uden at bygge alt om?

Sådan griber vi det an hos BCT

Når vi bygger AI til industrien, starter vi med en Shadow Walk, hvor vi følger arbejdet, som det faktisk foregår. Så ved vi, hvilke beslutninger AI’en skal hjælpe med, og hvilke der skal blive hos jeres folk. Vi bygger løsningen, så data bliver tjekket, mennesker har det sidste ord, og driften kan fortsætte uden AI’en. Det sker til fast pris, og I ejer koden, så I bevarer kontrollen, også over leverandørerne.

Vil I høre mere om, hvordan AI kan bruges sikkert i jeres produktion, så kontakt os på info@blackcapitaltechnology.com eller (+45) 39 39 42 43.