Ny idé

Enhver innovativ løsning starter med en undren. Fasen identificerer det kliniske behov og undersøger, om det kan dækkes af et nyt AI-produkt.  Undren kan opstå hos en virksomhed eller en offentlig part. Opstår den hos en virksomhed, er det vigtigt, at behovet kvalificeres hos relevant offentlig part.

Denne fase kvalificerer behovet gennem en litteratursøgning. Det undersøges også, om der eksisterer viden ift. det identificerede behov: Er lignende AI-modeller beskrevet i litteraturen? Kan eksisterende viden bidrage til opbygningen af et nyt produkt?

Denne fase undersøger markedet for de eksisterende produkter, der kan opfylde de identificerede behov, og kortlægger, hvilke aktører, der arbejder med relevante produkter. Processen gennemføres i tæt samarbejde med indkøbsfunktionen. Hvis der allerede findes en løsning, stopper processen for ny-udvikling her.

Når en partnerkreds skal dannes, skal man overveje, hvem der er med i den løbende udvikling, og hvilke kompetencer der skal bidrage på udvalgte tidspunkter i processen. Relevante spørgsmål: Hvilke kompetencer er nødvendige for at nå i mål med projektet? Hvor finder vi disse kompetencer?

Denne fase omfatter de indledende overvejelser om business casen, herunder: Afdækning af behov, Formål med AI-produktet, Målgruppe (bred/snæver), Effekt (lille/stor), Forretningsmodel og Krav til MDR-klassificering og CE-mærkning. Business casen vil blive justeret og præciseret, efterhånden som projektet skrider frem, og mere information bliver tilgængelig.

Projektbeskrivelsen er indgangsporten til det samlede projekt. Den er et vigtigt redskab i alle forberedende trin og bruges både som styringsredskab gennem hele processen, herunder udvikling af protokoller til fx modeludvikling, algoritmevalidering, fondsansøgninger og Videnskabsetisk Komité. Projektbeskrivelsen vil i mange tilfælde blive tilpasset undervejs i projektets levetid.

Udvikling af AI-produkter indebærer typisk store datasæt. Hvis et datasæt indeholder personoplysninger, skal det afklares, om oplysningerne kan og må anvendes til formålet. Selvom personoplysningerne er pseudonymiserede, er der stadig tale om oplysninger, der kun må anvendes inden for lovgivningens rammer.  Derfor er det vigtigt at gennemføre en række juridiske vurderinger.

Udviklingen af et AI-produkt har store omkostninger og vil i de fleste tilfælde forudsætte betydelige fondsmidler. Da det tager lang tid at skrive en god ansøgning, er det en god idé at gå tidligt i gang. Fondene har ofte få årlige opslag og lange svartider (op til 6 måneder). Fundraising vil typisk foregå på flere forskellige tidspunkter i AI-rejsen.

I forlængelse af projektbeskrivelsen er det vigtigt, at offentlige og private parter udarbejder en samarbejdsaftale – typisk i form af en offentlig-privat innovationsaftale (OPI-kontrakt). Aftalen beskriver væsentlige elementer som tidsplan, rettigheder til det udviklede, omkostninger ved de respektive opgaver og beskrivelse af aktiviteter og tidslinje.

Udvikling af AI-produktet sker på historiske data. Der er forinden indhentet juridisk tilladelse til at anvende data til det beskrevne formål. Derudover er der givet adgang til data, så udviklingen af AI-produktet kan igangsættes.

AI-forordningen stiller krav til dokumentation og foranstaltninger for AI-produkter, der bringes i anvendelse og drift. Dokumentation og foranstaltninger varierer afhængigt af den risikogruppe under forordningen, som et AI-produkt falder under. AI-forordningen finder ikke anvendelse på forsknings-, test- og udviklingsaktiviteter vedrørende AI-produkter eller modeller, som finder sted før idriftsættelse. Imidlertid vil kravene skulle opfyldes i det øjeblik et udviklet AI-produkt sættes i drift eller afprøves under faktiske forhold. Derfor skal dokumentationen af AI-produkt have opmærksomhed allerede i udviklingsfasen. Læs om AI-forordningen her: https://digst.dk/sikkerhed/digitale-tilsyn/tilsyn-med-kunstig-intelligens/eu-s-regler-om-kunstig-intelligens/

Frontend- og backend udviklingen giver form og brugergrænseflade til AI-algoritmen og er dermed et afgørende skridt mod et endeligt AI-produkt, der kan anvendes i praksis. Der er tale om en veldokumenteret udviklingsproces, hvor arbejdet følger en struktureret proces.

I denne fase genbesøges den oprindelige business case, da man via sin modeludvikling er mere afklaret om AI-produktets forventede anvendelse og effekt. Formålet med denne fase er at tilpasse den business case, som blev skitseret i idéfasen.

Inden idriftsættelse af et AI-produkt er det vigtigt at få valideret produktet på lokale kliniske data. Det fordrer, at der indhentes de korrekte godkendelser til valideringsprocessen.

Ved den prospektive validering bliver AI produktet integreret i en IT-infrastruktur og implementeret i klinisk praksis. Dette forudsætter, at man har et indgående kendskab til hvilke informationer, der anvendes i modellen. Modellen afprøves nu i realistiske miljøer, fx som prøvehandlinger.

For at kunne lave den prospektive validering af AI-produktet, skal der indgås en aftale ("afprøvningskontrakt"), som skal udarbejdes i samarbejde med medicoteknisk funktion. Aftalen beskriver rammen for afprøvningen, key performance indicators (KPI’er), eventuelt økonomi, hvilke ressourcer hver part stiller til rådighed, service og support.

Ved den prospektive validering bliver det nyudviklede AI- produkt testet i et klinisk realtids-setup vha. systematiske forskningsmetoder. Den prospektive validering inkluderer: Klinisk effektmåling, sundhedsøkonomiske analyser, organisatorisk tilpasning af arbejdsgange, Bruger-accept samt etisk ansvarlighed.

Den prospektive validering har givet en række konkrete inputs til yderligere forfinelse af business casen.

Inden indkøb og implementering i klinisk drift skal AI-produktet CE-mærkes. Det skyldes, at AI-produktet ofte betragtes som medicinsk udstyr. Vær opmærksom på, at CE-mærkning kræver en vurdering fra et eksternt bemyndiget organ, hvilket kan være en langvarig og dyr proces. Definitionen for medicinsk udstyr kan findes i artikel 2 i MDR-forordningen.

Implementering og drift af et AI-produkt (uanset om det er selvudviklet eller indkøbt som en færdig løsning) kræver, at der foretages juridiske vurderinger af produktets setup og dataflow for at afdække, om produktet kan anvendes lovligt til det tiltænkte formål. Det er vigtigt at gøre sig en række overvejelser, når man ønsker at indkøbe eller idriftsætte AI-værktøjer, herunder om de personoplysninger, som AI-produktet skal behandle, kan behandles til formålet med løsningen.

Enhver anskaffelse af udstyr skal ske gennem regionens indkøbsafdeling. Hvis den samlede værdi af kontrakten overstiger ca. 1,6 mio. kr., skal der foretages et udbud. Hvis beløbet er under 1,6 mio. kr., kan regionen købe udstyret på en almindelig, forhandlet kontrakt, hvilket ofte sker gennem indkøbsfunktionen. Der gælder særlige regler for køb under tærskelværdien, hvilket er beskrevet i udbudslovens afsnit 5.

Når en kontrakt er indgået med en leverandør, er produktet klar til at blive implementeret lokalt.. Denne fase fokuserer på handlinger, der skal sikre idriftsættelsen af AI-produktet, herunder korrekt brug. Løbende overvågning af produktets præstation er afgørende. Ved opgraderinger kræves ny validering. Gentræning af modellen planlægges gennem samtykke, forskning eller kvalitetsprojekter for at sikre løbende forbedringer.

AI-produktet kan have et bredere potentiale end til en enkelt afdeling eller et enkelt afsnit. Denne fase fokuserer på skalering af AI-produktet efter idriftsættelse.