Vedholdende mistro sat i system

I CE-arbejde ligger problemet i sporbarheden mellem dokumenterne.

Kan man følge en konkret fare fra risikovurderingen til den tekniske fil, videre til verifikationen og ud i brugermanualens advarsel?

Hvis svaret er uklart, har man et review-problem.

Til Bowiteks Safexpert Brugerdag talte jeg for erfarne safety engineers, der arbejder med maskinsikkerhed, misuse-scenarier, tekniske filer og product compliance.

Jeg kom med et AI-arkitektperspektiv: LLM-agenter kan stille de kritiske spørgsmål tidligere i udviklingen.

Specialister ejer vurderingen. Agenten skærper blikket.

Et utrætteligt reviewlag

Når man bygger AI-værktøjer til compliance, er forskellen på klassisk software og sprogmodeller afgørende.

Klassisk risikovurderingssoftware er deterministisk. Den følger regler, felter, checklister og workflows. Samme input giver samme output.

En sprogmodel fungerer statistisk i et stort og delvist uforudsigeligt tilstandsrum. Den bør derfor designes som reviewlag. Specialist, auditor og ansvarlig underskriver ejer juridisk godkendelse og endelig konklusion.

Agentens styrke ligger i friktionen. Den kan læse utrætteligt, sammenholde store mængder tekst og pege på steder, hvor dokumenterne hævder sammenhæng, men evidensen ser tynd ud.

Mennesker bliver trætte. Efter 400 siders dokumentation begynder hjernen at genkende mønstre og udfylde huller. Den antager let, at sporbarheden holder, fordi teksten ligner noget, der hænger sammen.

En LLM-agent læser side 399 med samme kolde distance som side 1. Den spørger igen: Hvor står det? Hvad bygger det på? Hvilket bilag beviser det? Hvilken advarsel når frem til brugeren?

Det er vedholdende mistro sat i system.

Demoen: Agenten der krævede evidens

Til brugerdagen byggede jeg en lokal agent-platform i OpenAI Codex.

Formålet var at vise, hvordan en agent kan gennemgå et teknisk dossier, holde det op mod formelle krav og markere stærkt, svagt og uafklaret grundlag.

For at beskytte produktmaterialet lå filerne i en kontrolleret lokal arbejdskontekst, mens modelkald og databehandling fulgte den valgte API-opsætning. Agenten arbejdede i et afgrænset workflow med tre faste outputtyper:

1. Lokal evidens: Hvad står direkte i materialet, gerne med sidetal eller dokumentreference?

2. Inference: Hvad kan udledes, men mangler konkret dokumentation?

3. Åbne spørgsmål: Hvad skal en fagspecialist undersøge nærmere?

Den opdeling holder sproget ærligt.

Den reducerer AI-plapren: glatte formuleringer, falsk sikkerhed og compliance-sprog, der skaber svagt beslutningsgrundlag.

Agentens opgave var at pege på diskrepanser mellem regelsæt, dossier og dokumenteret evidens. Konklusioner om sikkerhed, ansvar og godkendelse blev holdt hos mennesket.

Det giver specialisten et bedre reviewgrundlag end "AI-godkendelse".

Case 1: Bosch EasyHedgeCut

Som test brugte vi en almindelig Bosch EasyHedgeCut.

Produktet er genkendeligt: en hækkeklipper i hænderne på en almindelig bruger.

Agenten gennemgik brugermanualen og overensstemmelseserklæringen. Den fandt hurtigt de eksplicitte sikkerhedselementer: tohåndsbetjening, afstandsregler og instruktioner om at fjerne batteriet ved vedligeholdelse eller blokering.

Da materialet blev holdt op mod de underliggende krav, pegede agenten på et hul i sporbarheden.

Outputtet var et review-spørgsmål:

Manualen instruerer brugeren i at fjerne batteriet ved blokering. Men i det fremlagte dossier mangler det tekniske verifikationsbilag, der viser, hvordan kniven mekanisk eller elektronisk er sikret mod genstart i netop dette scenarie.

Det er værdifuldt output i compliance-arbejde.

En fagspecialist får et konkret sted at undersøge: Hvilken dokumentation findes? Hvor ligger den? Hvilket krav dækker den? Hvilken restfare kommunikeres til brugeren?

Gode spørgsmål gør reviewarbejdet skarpere.

Case 2: Når hækkeklipperen får vinger

Derefter pressede vi agenten med et ekstremt kontrast-scenarie.

Hvad sker der, hvis man monterer hækkeklipperen på en autonom payload-drone med optisk styring?

Opgaven lyder simpel:

Klip høje hække hurtigere.

Risikorummet ændrer sig fundamentalt.

Brugeren styrer maskinen på afstand. Tohåndsbetjeningen mister sin oprindelige funktion. Et nødstop kræver en ny sikkerhedslogik.

Personer i nærheden risikerer kontakt med knivene og skade fra et tungt objekt, hvis dronen mister strøm, datalink eller stabilitet.

Den juridiske ramme bliver samtidig mere kompleks. Produktet kan stadig være relevant under maskinreglerne og samtidig blive trukket ind i et ekstra lag af drone- og luftfartsregler.

Agenten pegede hurtigt på, at standardreferencer for håndførte maskiner næppe kunne stå alene.

Den stillede nye spørgsmål:

• Hvad sker der ved tab af datalink midt i et klip?

• Hvordan valideres afstanden til personer, dyr og skjulte objekter?

• Hvad er den sikre tilstand ved strømsvigt?

• Hvem er operatør, når maskinen handler autonomt?

• Hvilke krav flytter sig fra maskinsikkerhed til luftfartssikkerhed?

Agenten udvidede spørgsmålsrummet.

Det er præcis den rolle, der skaber værdi tidligt i udviklingen.

Scenariefantasi som ingeniørværktøj

Under demoen genererede vi også en AI-video af den autonome drone, der fløj ind i en hæk og aktiverede knivene.

Videoen var fysisk upræcis.

Som scenarieværktøj virkede den.

Den fik safety engineers til straks at diskutere krav, som manglede formulering:

Hvordan ved systemet, at der sidder et dyr i hækken?

Hvordan håndterer den et skjult hegn?

Hvordan opdager den, at hækken er del af et miljø med mennesker, glas, kabler eller andre uforudsete objekter?

Her bliver AI interessant i videnstunge processer.

Den kan fremkalde scenarier, der tvinger eksperterne til at tænke tidligere, bredere og mere konkret.

Human Gates skal være eksplicitte

AI i compliance kræver klare grænser.

Derfor arbejder jeg med absolutte Human Gates:

• AI foreslår farer. Mennesket vurderer dem.

• AI peger på inkonsistens i sporbarhed. Mennesket afgør, om der reelt er et problem.

• AI indekserer dokumentation. Mennesket bærer det juridiske ansvar.

• AI formulerer åbne spørgsmål. Mennesket beslutter, hvad der skal undersøges, dokumenteres eller afvises.

Det er forudsætningen for seriøs brug af AI i et domæne, hvor fejl kan få juridiske, økonomiske og sikkerhedsmæssige konsekvenser.

Specialisten bliver i processen og får et bedre reviewlag.

Værdien ligger tidligere end auditoren

Et sent fund i en risikovurdering er dyrt.

Det betyder omarbejde, forsinkelser, nye tests, ny dokumentation og ofte dårlige lappeløsninger, fordi produktet allerede er for langt i udviklingen.

Derfor ligger værdien af agent-workflows i compliance tidligt i processen.

Før designet låser sig.

Før manualen bliver færdig.

Før den tekniske fil bliver en historisk øvelse i at forklare beslutninger, der allerede er taget.

Hvis en agent stiller ti kritiske spørgsmål i uge tre, som ellers først var dukket op hos auditoren i måned ni, skaber den mere end en produktivitetsgevinst.

Den forbedrer ingeniørarbejdet.

Få kontrol over egne data

Hos Frimer-Rasmussen Consulting hjælper jeg virksomheder med at bygge denne type kontrollerede AI-systemer.

Systemerne tilpasses jeres data, jeres dokumentation, jeres faglige standarder og jeres domæneekspertise.

Det er især vigtigt i compliance og produktudvikling, hvor materialet ofte er fortroligt og forretningskritisk.

AI styrker compliance-processen, når den stiller spørgsmålene længe før jeres auditor gør.

Kilde- og præcisionsnote

Artiklen bruger regelområderne som praktisk kontekst. Juridisk rådgivning kræver fagspecialistens vurdering.

I EU's Machinery Regulation (EU) 2023/1230 er de væsentlige sikkerheds- og sundhedskrav placeret i Annex III, mens teknisk dokumentation for maskiner og relaterede produkter er beskrevet i Annex IV. Droneområdet er reguleret særskilt, bl.a. gennem Implementing Regulation (EU) 2019/947 om UAS-operationer og Delegated Regulation (EU) 2019/945 om design- og produktkrav til UAS.

Den konkrete klassificering af et kombineret maskin- og dronesystem kræver altid fagspecialistens vurdering.