Færdigt produkt

Når en offentlig part ønsker at indkøbe et færdigudviklet eller kommercielt AI-produkt, er det afgørende først at identificere behovet og de forventede effekter af produktet. Dette trin inkluderer en vurdering af eventuelle risici, som kan være forbundet med anskaffelsen. Den offentlige part bør henvende sig til den lokale indkøbsafdeling for at påbegynde processen, eventuelt efter at have modtaget en henvendelse fra en virksomhed.

Denne fase afdækker markedet for eksisterende produkter, der kan opfylde de definerede behov, jf. tjeklisten.  Aktører eller producenter, som arbejder med produkter, produkttyper eller på anden måde er inden for det felt, produktet vil falde indenfor, identificeres.

I alle offentlige udbud indgår en kravspecifikation. Denne indeholder målbare kvalitative og kvantitative krav til produktet.

Denne fase omfatter de indledende overvejelser for sin business case, herunder: Behovsafdækning, formål med løsning, målgruppe (bred/snæver), impact eller effekt (lille/stor), forretningsmodel, krav til MDR-klassificering og CE-mærkning. Business casen vil blive justeret og præciseret, efterhånden som projektet skrider frem, og mere information bliver tilgængelig.

Inden indkøb og idriftsættelse af et AI-produkt er det vigtigt at afklare, hvordan produktet skal finansieres. Finansieringen inkluderer også den løbende drift. Derudover er det vigtigt at afklare ressourceforbruget for det involverede personale.

Inden et indkøb og idriftsættelse af et AI-produkt er det vigtigt at afprøve produktet i det kliniske miljø, hvor det skal anvendes. Dette gøres vha. af en valideringsproces. Forud for denne skal der indgås en aftale, som udarbejdes i samarbejde med medicoteknisk funktion. Aftalen beskriver rammen for afprøvningen, key performance indicators (KPI’er), evt. økonomi, hvilke ressourcer hver part stiller til rådighed, service og support.

Implementering og drift af et AI-produkt, uanset om det er selvudviklet eller indkøbt som en færdig løsning, kræver, at der foretages juridiske vurderinger af produktets setup og dataflow for at afdække, om produktet kan anvendes lovligt til det tiltænkte formål. Det er vigtigt at gøre sig en række overvejelser, når man ønsker at indkøbe eller idriftsætte AI-værktøjer, herunder om de personoplysninger, som AI-produktet skal behandle, kan behandles til formålet med løsningen.

Såfremt et færdigudviklet AI-produkt implementeres i driften hos enten udvikleren selv eller hos andre parter, vil man som udgangspunkt blive “bruger”, der skal opfylde en række af AI-forordningens krav. Her skal man være opmærksom på de krav, der følger af AI-forordningen.

Det er vigtigt at få valideret produktet på lokale kliniske data i større eller mindre omfang. Det afhænger af, hvor produktet er udviklet, og hvilket behov det skal dække. Valideringen udføres i første omgang på et retrospektivt datasæt, som efterfølges af en validering på et prospektivt datasæt. Det fordrer, at der indhentes de korrekte godkendelser til valideringerne, og at IT-infrastrukturen er på plads til den prospektive validering.

Inden indkøb af et produkt skal der foretages en retrospektiv validering for at teste performance af produktet på egne data. Det er vigtigt at indsamle et relevant datasæt, der afspejler den kliniske brug og sammensætningen af patienter. Det gør det muligt at sammenligne forskellige produkter og evt. udvælge produkter til videre prospektiv evaluering.

Ved den prospektive validering bliver AI produktet integreret i en IT-infrastruktur og implementeret i klinisk praksis. Dette forudsætter, at man har et indgående kendskab til hvilke informationer, der anvendes i modellen.

Ved den prospektive validering bliver AI-produktet afprøvet i et klinisk realtids-setup vha. systematiske forskningsmetoder. Den prospektive validering inkluderer: Klinisk effektmåling, sundhedsøkonomiske analyser, organisatorisk tilpasning af arbejdsgange, bruger-accept samt etisk ansvarlighed.

I denne fase forfines business casen vha. resultaterne fra både den retrospektive og prospektive validering. Den opdaterede business case skal hjælpe med at vurdere, om produktet har den ønskede værdi, og om det kan have værdi for andre afdelinger og hospitaler. Business casen kan også vise, at den ønskede værdi ikke opnås, hvilket kan være et argument for at opsige kontrakten.

Resultater fra den retrospektive og evt. prospektive validering samt resultater fra kravspecifikationen og business case samles. Disse evalueres i brugergruppen, hvorefter det besluttes, hvem der er den bedste leverandør. Der gives herefter tilsagn om indkøb, og der arbejdes mod at skrive kontrakt.

Enhver anskaffelse af udstyr skal ske gennem regionens indkøbsafdeling. Hvis den samlede værdi af kontrakten overstiger ca. 1,6 mio. kr., skal der foretages et udbud. Hvis beløbet er under 1,6 mio. kr., kan regionen købe udstyret på en almindelig, forhandlet kontrakt, hvilket ofte sker gennem indkøbsfunktionen. Der gælder særlige regler for køb under tærskelværdien, som er beskrevet i udbudslovens afsnit 5.

Når der er indgået en kontrakt med en leverandør, er produktet klar til at blive implementeret i det lokale IT-setup. Denne fase fokuserer på handlinger, der skal sikre idriftsættelsen af AI-produktet, herunder korrekt brug. Løbende overvågning af produktets præstation er afgørende. Ved opgraderinger kræves ny validering. Gentræning af modellen planlægges gennem samtykke, forskning eller kvalitetsprojekter for at sikre løbende forbedringer.

AI-produktet kan have et bredere potentiale end til en enkelt afdeling eller et enkelt afsnit. Denne fase fokuserer på skalering af AI-produktet efter idriftsættelse.