De balans tussen kansen en risico’s
Wanneer wordt gezichtsherkenning spionage? Leidt profilering van klanten tot discriminatie? Ethiek en data vormen een complexe combinatie door verschillende maatschappelijke perspectieven en waarden, zoals privacy versus veiligheid. Organisaties kunnen alleen verantwoorde keuzes maken door een duidelijke visie te ontwikkelen op wat goed is voor het individu, de organisatie en de samenleving. In het eerste deel van dit tweeluik bespreken we wat data-ethiek is, waarom daar verschillende opvattingen over zijn en hoe ethische normen en waarden als basis kunnen dienen.
Data kunnen voor organisaties in alle sectoren veel voordelen en kansen bieden. Data helpen ons bij het oplossen van problemen, zoals de energieopgave, de woningnood en de stikstofaanpak. De technologische ontwikkelingen van de laatste jaren hebben geleid tot de automatisering van processen, verbeterde communicatie- en samenwerkingstools en geavanceerde analysetechnieken. Het gebruik en verzamelen van data heeft daar een belangrijke rol in gespeeld. Dat biedt veel kansen, maar als het wordt ingezet zonder zorgvuldige afweging, kan het ook risico’s met zich meebrengen.
Voorbeelden van risico’s bij het gebruik en verzamelen van data zijn privacyschending, datalekken, het vergroten van de kloof in digitale ongelijkheid, cybersecurity-risico’s en function creep (waarbij data zonder toestemming (on)bewust voor een ander doel worden hergebruikt dan vooraf is afgesproken). Zelfs de meest innovatieve datamodellen kunnen onbewust vooringenomenheid of ongelijkheid veroorzaken of beslissingen verkeerd beïnvloeden. Een bekend Nederlands voorbeeld is te toeslagenaffaire, waarbij duizenden gezinnen in financiële problemen raakten vanwege een onterechte beslissing van een AI-tool.
Wat is data-ethiek?
Wat is ethisch goed gedrag? Die vraag is voor veel organisaties moeilijk te beantwoorden. Verantwoord ethisch gedrag met betrekking tot data is vaak een grijs gebied en afhankelijk van verschillende percepties, normen en waarden in de samenleving. Bijvoorbeeld, kiezen we veiligheid boven privacy, of juist andersom? Daarbij gaat het niet alleen om AI en datagedreven algoritmen; het is juist de gangbare informatieverwerking die tal van ethische uitdagingen met zich meebrengt.
Data-ethiek is een manier om als organisatie controleerbaar, transparant en open, kwalitatief beter, en inclusief te zijn. Omdat je wilt aansluiten op de wensen en behoeften en waarden wilt beschermen van de gebruikers en de mensen die er het meest door worden geraakt.
Ethiek gaat verder dan de wet
Veel discussies over het ethisch verantwoord gebruik van data zijn juridisch en gaan over compliance. Compliance en ethiek zijn echter twee verschillende concepten, al zijn ze wel vaak met elkaar verbonden in organisaties. Onder compliance verstaan we het naleven van wetten, regels, voorschriften en interne beleidslijnen. Het is bedoeld om een organisatie in overeenstemming te brengen met externe eisen en interne richtlijnen.
Ethiek heeft in tegenstelling tot compliance betrekking op de morele principes, waarden en normen die bepalen wat als verantwoord of onverantwoord wordt beschouwd. Ethiek gaat verder dan de wet en richt zich op wat juist en rechtvaardig voelt. Vaak met aandacht voor de intenties en gevolgen van handelingen en mogelijke impact op de maatschappij waarbij je je deze vraag kunt stellen: ‘Is dit wenselijk?’
Voor iedereen anders
Wat wenselijk is en wat niet, dat is in de praktijk een discussie met veel nuance. Daardoor is het niet altijd direct duidelijk is wat het juiste is om te doen. Dit zijn enkele praktijkvoorbeelden waaruit blijkt dat het ethisch handelen met data niet altijd duidelijk is voor de verschillende belanghebbenden.
- In 2016 werden 70.000 profielen van het datingplatform OkCupid met persoonlijke data gedeeld op een openbaar platform. Onderzoekers verdedigden dit omdat de informatie al openbaar was, maar het publiek vond het onethisch dat identificeerbare persoonlijke data zonder toestemming werden gedeeld.
- SCOMPAS beoordeelt recidiverisico’s bij criminelen. Analyse van 10.000 zaken toonde aan dat het algoritme mensen van kleur onterecht hogere risicoscores gaf, terwijl witte criminelen te lage scores kregen. Het bedrijf ontkent de bias, maar zorgen blijven bestaan.
- De Amerikaanse retailer Target analyseerde winkeldata om kooptrends te voorspellen. Ze ontdekten de zwangerschap van een tienermeisje voordat haar vader dit wist, door haar kortingsbonnen voor babyproducten te sturen. Hoewel het legaal was, vond het publiek deze voorspellende marketing een inbreuk op de privacy.
Ethische normen en waarden als basis
De vraag wat ethisch gedrag is, mag lastig te beantwoorden zijn, we kunnen wel een definitie geven. Onder ethisch gedrag verstaan we het maken van verantwoorde keuzes op basis van onze individuele normen en waarden, het juiste doen, anderen juist behandelen en moraal tonen in iemands persoonlijke leven.
Ethische waarden zijn principes die bepalen wat als goed of slecht wordt beschouwd in een bepaalde samenleving of context. Deze principes zijn bijvoorbeeld eerlijkheid, respect voor autonomie en rechtvaardigheid. Iedereen heeft andere ethische principes die ons gedrag en onze ethische waarden beïnvloeden.
Daarnaast zijn deze waarden ook afhankelijk van culturele, religieuze of individuele perspectieven, maar ze vormen de basis van veel ethische overwegingen in samenlevingen en organisatie. Ons gedrag is niet alleen afhankelijk van waarden, maar ook van normen. Ethische normen zijn de gedragsregels die voortkomen uit onze waarden. Normen en waarden dienen als een gemeenschappelijke basis die mensen in een organisatie kunnen delen. Wanneer individuen vergelijkbare normen en waarden hebben, is er een grotere kans dat ze elkaars gedrag en beslissingen begrijpen, respecteren en volgen. Dit gemeenschappelijke begrip vormt de basis voor het vertrouwen in de organisatie. Maar het is ook belangrijk voor een organisatie om dit vertrouwen naar de samenleving uit te stralen.
Hoe je als organisatie bijdraagt bij aan zo’n open samenleving door data-ethiek goed te managen? In deze serie over data-ethiek kijken we naar wat de morele pijlers van een organisatie zijn, wat de verantwoordelijkheden zijn en hoe organisaties een ethisch programma kunnen opbouwen. Je kunt het tweede artikel in onze serie over gegevensethiek hier lezen.
