Indkøbs-, drifts- og skalering
2/3

Sæt produktet i drift, overvåg produktet

Handlinger

1. Vær opmærksom på følgende, inden produktet sættes i drift

  • Behov for udvidelse: I forbindelse med den prospektive validering er produktet allerede implementeret i det lokale IT-setup. Der kan dog være behov for at udvide serverkapacitet mv.

  • Implementering: Hvis der ikke har været en prospektiv validering af produktet på lokale data, skal det implementeres i den lokale IT-infrastruktur. Kravspecifikationen bør have punkter, der letter implementeringen.

  • Databehandleraftale: Inden produktet tages i drift, skal der være indgået en databehandleraftale og DPIA og evt. FRIA skal være godkendt.

2. Planlæg, hvordan brug og performance monitoreres

  • Monitorering: Der skal tages stilling til, hvordan brug og performance af produktet monitoreres. Det er ikke alle leverandører, som har en løsning, der monitorerer brugen.

  • Løbende validering: Et AI-produkt bør løbende valideres under brug for at sikre, at der ikke sker ændringer i performance, fx ved brug i nye afsnit, i scannere eller ved opdatering mv. Implementer en plan for kontinuerlig overvågning af produktets præstation gennem hele driftsfasen i henhold til AI-forordningen.

  • Sikring af brug: Det bør monitoreres, hvordan produkt anvendes, så det sikres, at det ikke anvendes på systemer eller i afdelinger, hvor det ikke er valideret.

  • Evaluering: Det bør løbende evalueres, hvorvidt produktet lever op til den forventede business case.

  • Intended use: Vær opmærksom på at brugen af produktet kun sker efter ”intended use”. Der kan være begrænsninger i, hvad produktet er godkendt til, fx kan et produkt, som er godkendt til beslutningsstøtte, ikke erstatte en radiologs beskrivelse af et røntgenbillede.

3. Opgradering og gentræning af AI-produktet

  • Opgradering: Ved opdateringer eller nye versioner af algoritmen gennemføres en ny validering for at sikre fortsat effektivitet og sikkerhed.

  • Metoder til gentræning: Gentræning kan ikke ske direkte under drift; overvej alternative metoder som:

    • Indhentning af samtykke fra brugere.

    • Udførelse af forskningsprojekter.

    • Gennemførelse af kvalitetsprojekter der følger de relevante retningslinjer.