Nieuwe AI-richtlijn gepubliceerd voor testen risico bias in algoritme

De richtlijn ‘PROBAST+AI-richtlijn en checklist’ kan worden gebruikt voor het beoordelen van de betrouwbaarheid, eerlijkheid en toepasbaarheid van algoritmen in de zorg, meldt het UMC Utrecht.

Met de set vragen in de richtlijn kunnen zorgverleners testen of een algoritme een hoog, laag of geen risico heeft op bias, aldus de onderzoekers, die waarschuwen voor een groot gevaar dat niet de juiste data(sets) zijn gebruikt om het algoritme te trainen en te testen. Dat kan leiden tot algoritmen die bepaalde groepen bevoordelen of benadelen, of gewoonweg niet toegepast zouden moeten worden.

Europese Unie

De checklist is het resultaat van uitgebreid wetenschappelijk onderzoek door een groot internationaal consortium en geeft zorgprofessionals en beleidsmedewerkers handvatten om verantwoord met AI in de zorg om te gaan, aldus het UMC Utrecht.

Met behulp van de nieuwe richtlijn kan Nederland ten aanzien van de zorg voldoen aan de nieuwe AI Act van de Europese Unie, waar alle zorgverleners over iets meer dan een jaar aan moeten voldoen.

Voorspellende algoritmen

Volgens de onderzoekers worden in de zorg al heel lang, ver voor de algemene bekendheid van AI, voorspellende algoritmen gebruikt, zoals algoritmen voor het opsporen of voorspellen van het beloop van dementie, kanker of hart- en vaatziekten.

Voorspellende modellen in de zorg zijn gebaseerd op data uit het verleden van bestaande patiënten, maar tot nu toe was vaak niet goed vastgelegd waar bijvoorbeeld zo’n dataset aan moet voldoen.

Soms zijn de algoritmen niet afkomstig van data uit vooropgezette studies, of zijn ze zelfs gebaseerd op data die gewoon van het internet zijn gehaald zonder dat men de herkomst van de data en dus van het algoritme precies kent, aldus de onderzoekers.