Wat is Demographic Parity?

Wat is Demographic Parity eigenlijk?

Stel je voor: een bedrijf gebruikt AI om te bepalen wie een sollicitatiegesprek krijgt. Demographic Parity betekent dan: van elke 100 vrouwelijke sollicitanten moeten er evenveel uitgenodigd worden als van elke 100 mannelijke sollicitanten. Of je nu kijkt naar geslacht, leeftijd, etniciteit of een andere groepering — het percentage positieve beslissingen moet voor iedereen hetzelfde zijn.

Het klinkt logisch: niemand wil dat een algoritme een hele groep structureel benadeelt. Maar hier zit een belangrijk addertje onder het gras: Demographic Parity kijkt alleen naar de uitkomst, niet naar of die uitkomst ook terecht is. Als 60% van groep A een baan aangeboden krijgt en 60% van groep B ook, dan is er sprake van Demographic Parity — zelfs als bij groep A veel foute keuzes zitten en bij groep B juist hele goede.

Hoe werkt het in de praktijk?

Je meet het zo: neem het totaal aantal positieve beslissingen (zoals 'goedgekeurd', 'uitgenodigd', 'geaccepteerd') en deel dat door het totaal aantal mensen in een groep. Doe je dat voor alle groepen die je wilt vergelijken, dan krijg je percentages. Als die percentages (ongeveer) gelijk zijn, voldoe je aan Demographic Parity.

Een voorbeeld: een zorgverzekeraar gebruikt AI om te bepalen wie extra medische check-ups krijgt. Van de 1000 jongeren krijgen er 200 een uitnodiging (20%). Van de 1000 ouderen ook 200 (20%). Dat is Demographic Parity. Maar stel dat ouderen gemiddeld méér gezondheidsproblemen hebben — dan missen veel ouderen die wél een check-up nodig hebben, terwijl jongeren er onnodig eentje krijgen. Het percentage klopt, maar de zorg niet.

Waarom is dit überhaupt een thema?

AI-systemen leren van historische data. Als die data vol zit met ongelijke behandeling uit het verleden (bijvoorbeeld: vrouwen kregen minder vaak een lening), dan gaat een model dat patroon vaak kopiëren. Demographic Parity is één manier om dat te checken en te corrigeren.

Maar hier komen verschillende definities van 'eerlijkheid' met elkaar in conflict. Sommige mensen vinden: iedereen moet dezelfde kans krijgen (dat is Demographic Parity). Anderen zeggen: het gaat erom dat de voorspellingen kloppen — als een groep gemiddeld een hoger risico heeft, mag een model dat best weerspiegelen, zolang het maar accuraat is voor individuen (dat heet dan weer Equalized Odds of Predictive Parity).

In de wetenschappelijke literatuur over AI-fairness is aangetoond dat je niet alle definities tegelijk kunt halen — je moet een keuze maken op basis van wat je rechtvaardig vindt in jouw situatie.

Waar kom je het tegen?

• Recruitment-tools: systemen die CV's screenen of sollicitanten ranken, worden vaak getest op Demographic Parity om te checken of ze niet structureel een groep uitsluiten

• Kredietbeoordeling: banken en fintechs gebruiken het soms als ijkpunt om te kijken of hun algoritme even vaak 'ja' zegt tegen verschillende demografische groepen

• Gezondheidszorg-AI: tools die patiënten selecteren voor behandelingen of onderzoeken worden vaak geëvalueerd op deze maatstaf

• Rechtspraak-algoritmes: in sommige landen wordt gekeken of risicotaxatie-systemen (zoals COMPAS in de VS) voldoen aan Demographic Parity — al is dat omstreden

• Tech-audits: onafhankelijke onderzoekers en toezichthouders gebruiken Demographic Parity als één van de checkpunten bij het beoordelen van AI-systemen

Demographic Parity is géén officiële standaard die overal verplicht is — maar het is wel een veelgebruikte vuistregel in discussies over verantwoorde AI.

Wat kun je er zelf mee?

Als je een AI-systeem bouwt, inkoopt of beoordeelt, is het slim om te vragen: "Levert dit systeem voor alle relevante groepen ongeveer evenveel positieve beslissingen?" Dat is een snelle eerste check. Maar stop daar niet: vraag ook of die beslissingen kloppen, of er misschien andere definities van eerlijkheid zijn die beter passen, en wat de trade-offs zijn.

Demographic Parity is niet de heilige graal van eerlijkheid — het is één meetlat, en die heeft blinde vlekken. Maar het helpt je wel om bewust na te denken over wie er baat heeft bij een systeem, en wie er mogelijk buiten de boot valt. En dát gesprek voeren — met data erbij — is vaak al de helft van de oplossing.