Al te menselijk
Claudia Rijcken, apotheker en expert op het gebied van digitalisering van farmaceutische zorg, liet zien hoe zelflerende, kunstmatig intelligente systemen een revolutie ontketenen in de gezondheidszorg.
Op je navigatiesysteem van A naar B rijden voelt toch anders dan in een zelfsturende auto stappen. Waarom? “Machines are natural psychopaths and they are primed for manipulation.”
Mark Zuckerberg gaf vorige week toe “een enorme fout” te hebben gemaakt door niet direct openheid te geven over privacyschendingen. Onlangs ging Facebook in gesprek met ziekenhuizen over het delen van gegevens. Farmaceutische bedrijven en ziekenhuizen stallen hun data massaal bij Amazon. Werner Vogels van Amazon Web Services: “We proberen onze klanten ook te motiveren hun data te versleutelen. Op die manier kunnen wij er ook niets mee, ook al zouden wij dat willen.”
Geruststellend? Vertrouwen is een menselijke ervaring en betrouwbaarheid en zorgvuldigheid zijn kernwaarden van apothekers. Stel, ik heb vragen over de veilige opslag van patiëntdata uit mijn AIS, hoe gegevensmakelaars als Vektis apotheekdata gebruiken of de beweegredenen van de ontwerpers van die superhandige therapietrouw-app.
Ik stuur een e-mail aan mijn Functionaris Gegevensbescherming met de vraag uit te zoeken hoe die algoritmen werken. Krijg ik dan per omgaande als antwoord: “I’m sorry Wilma, I’m afraid I can’t do that!”?
Wilma, het is een recht.
Het recht met betrekking tot geautomatiseerde besluitvorming en profilering. Oftewel: het recht op een menselijke blik bij besluiten.
Bovenstaande komt van de Autoriteit Pensoonsgegevens.
https://autoriteitpersoonsgegevens.nl/nl/onderwerpen/avg-nieuwe-europese-privacywetgeving/rechten-van-betrokkenen
Johan Kortekaas