From f1e9c9d3c13eb1f95cf7677d78b2543b00d1c6de Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 09:50:02 +0200 Subject: [PATCH 01/22] Create handreiking-non-discriminatie Opzetje voor nieuw instrument. Wordt nog verder gevuld. --- .../handreiking-non-discriminatie | 41 +++++++++++++++++++ 1 file changed, 41 insertions(+) create mode 100644 docs/instrumenten/handreiking-non-discriminatie diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie new file mode 100644 index 0000000000..512b9eace2 --- /dev/null +++ b/docs/instrumenten/handreiking-non-discriminatie @@ -0,0 +1,41 @@ +--- +title: Handreiking Non-discriminatie +toelichting: Hier komt een toelichting +levenscyclus: +- probleemanalyse +- ontwerp +- dataverkenning-en-datapreparatie +- verificatie-en-validatie +onderwerp: +- bias-en-non-discriminatie +- fundamentele-rechten +rollen: +- projectleider +vereiste: +- non_discriminatie +--- + + + +## Instrument + +volgt nog + +## Relevantie + +volgt + + +## Bijbehorende vereisten + + + +## Bronnen + +| Bron | +|-----------------------------| +|[Modelbepalingen voor gemeenten voor verantwoord gebruik van Algoritmische toepassingen](https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen-ai/contractvoorwaarden-algoritmen/)| + +## Voorbeeld + +Heb jij een goed voorbeeld van het gebruik van de Handreiking Non-discriminatie op het gebied van algoritmen? Laat het ons weten! From 7ccd328378eeb29fdd262ea551f241fc46364b41 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 09:51:22 +0200 Subject: [PATCH 02/22] Update handreiking-non-discriminatie --- docs/instrumenten/handreiking-non-discriminatie | 6 +++--- 1 file changed, 3 insertions(+), 3 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie index 512b9eace2..ac39cd8a24 100644 --- a/docs/instrumenten/handreiking-non-discriminatie +++ b/docs/instrumenten/handreiking-non-discriminatie @@ -1,5 +1,5 @@ --- -title: Handreiking Non-discriminatie +title: Handreiking non-discriminatie by design toelichting: Hier komt een toelichting levenscyclus: - probleemanalyse @@ -34,8 +34,8 @@ volgt | Bron | |-----------------------------| -|[Modelbepalingen voor gemeenten voor verantwoord gebruik van Algoritmische toepassingen](https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen-ai/contractvoorwaarden-algoritmen/)| +|[Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design)| ## Voorbeeld -Heb jij een goed voorbeeld van het gebruik van de Handreiking Non-discriminatie op het gebied van algoritmen? Laat het ons weten! +Heb jij een goed voorbeeld van het gebruik van de Handreiking non-discriminatie by design op het gebied van algoritmen? Laat het ons weten! From b41849ae89c5755e3ae204276a37ce2ac87205ed Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 09:52:18 +0200 Subject: [PATCH 03/22] Update handreiking-non-discriminatie button toegevoegd --- docs/instrumenten/handreiking-non-discriminatie | 1 + 1 file changed, 1 insertion(+) diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie index ac39cd8a24..cfe8057201 100644 --- a/docs/instrumenten/handreiking-non-discriminatie +++ b/docs/instrumenten/handreiking-non-discriminatie @@ -17,6 +17,7 @@ vereiste: +[Direct naar de Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design){ .md-button } ## Instrument volgt nog From b596479be2566fb0e0ca96f171079e2d93d9e29f Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 10:17:23 +0200 Subject: [PATCH 04/22] Update handreiking-non-discriminatie Tekst aanvullingen --- docs/instrumenten/handreiking-non-discriminatie | 16 ++++++++++++++-- 1 file changed, 14 insertions(+), 2 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie index cfe8057201..95839bffac 100644 --- a/docs/instrumenten/handreiking-non-discriminatie +++ b/docs/instrumenten/handreiking-non-discriminatie @@ -20,13 +20,24 @@ vereiste: [Direct naar de Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design){ .md-button } ## Instrument -volgt nog +Deze handreiking legt uit welke vragen en principes leidend zijn bij het ontwikkelen en implementeren van een AI-systeem met het oog op het discriminatieverbod, vanuit zowel juridisch, technisch, als organisatorisch perspectief. +De handreiking is een praktisch toepasbaar ontwerpkader dat ontwikkelaars helpt om al in de ontwikkelfase van een AI-systeem discriminerende patronen zoveel mogelijk te identificeren, te voorkomen en te bestrijden. +Er zijn 4 uitgangspunten die leidend zijn in de handreiking: +1. Diversiteit +2. Context +3. Controleerbaarheid +4. Evaluatie. + ## Relevantie -volgt +Stuk over relevantie voor het AK volgt nog. +Net als bij het IAMA, is dit document een manier om een multidisciplinaire discussie te faciliteren en stimuleren. Hierbij kunnen verschillende rollen betrokken worden door de projectleider: data-scientists, juristen, de functionaris gegevensbescherming (FG), aangevuld met domeinspecialisten. +## Bevindingen rapport 'Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"' +volgt nog + ## Bijbehorende vereisten @@ -36,6 +47,7 @@ volgt | Bron | |-----------------------------| |[Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design)| +|[Onderzoeksrapport Bekendheid, toepasbaarheid en toegevoegde waarde handreiking 'non-discriminatie by design'](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file)| ## Voorbeeld From ef1e5816cf91d7c70cdb1c57158349985177ca36 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 10:19:16 +0200 Subject: [PATCH 05/22] Update handreiking-non-discriminatie MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Wil niet aan té veel fases van de levenscyclus koppelen, en aangezien het over non-discriminatie *by design* gaat, heb ik het voor nu aan de Probleemanalyse en de Ontwerp fase gekoppeld. --- docs/instrumenten/handreiking-non-discriminatie | 4 +--- 1 file changed, 1 insertion(+), 3 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie index 95839bffac..97ca367c45 100644 --- a/docs/instrumenten/handreiking-non-discriminatie +++ b/docs/instrumenten/handreiking-non-discriminatie @@ -1,11 +1,9 @@ --- title: Handreiking non-discriminatie by design -toelichting: Hier komt een toelichting +toelichting: Deze handreiking legt uit welke vragen en principes leidend zijn bij het ontwikkelen en implementeren van een AI-systeem met het oog op het discriminatieverbod, vanuit zowel juridisch, technisch, als organisatorisch perspectief. levenscyclus: - probleemanalyse - ontwerp -- dataverkenning-en-datapreparatie -- verificatie-en-validatie onderwerp: - bias-en-non-discriminatie - fundamentele-rechten From 12d9532ff1f32c14c039cd4fac0dd9257f90a477 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 10:24:15 +0200 Subject: [PATCH 06/22] Rename handreiking-non-discriminatie to handreiking-non-discriminatie.md --- ...reiking-non-discriminatie => handreiking-non-discriminatie.md} | 0 1 file changed, 0 insertions(+), 0 deletions(-) rename docs/instrumenten/{handreiking-non-discriminatie => handreiking-non-discriminatie.md} (100%) diff --git a/docs/instrumenten/handreiking-non-discriminatie b/docs/instrumenten/handreiking-non-discriminatie.md similarity index 100% rename from docs/instrumenten/handreiking-non-discriminatie rename to docs/instrumenten/handreiking-non-discriminatie.md From 7f0f7be4bb9dfa089935e45d4b89010950ed6343 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 10:28:20 +0200 Subject: [PATCH 07/22] Update handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 1 + 1 file changed, 1 insertion(+) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 97ca367c45..7601e3c38a 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -21,6 +21,7 @@ vereiste: Deze handreiking legt uit welke vragen en principes leidend zijn bij het ontwikkelen en implementeren van een AI-systeem met het oog op het discriminatieverbod, vanuit zowel juridisch, technisch, als organisatorisch perspectief. De handreiking is een praktisch toepasbaar ontwerpkader dat ontwikkelaars helpt om al in de ontwikkelfase van een AI-systeem discriminerende patronen zoveel mogelijk te identificeren, te voorkomen en te bestrijden. Er zijn 4 uitgangspunten die leidend zijn in de handreiking: + 1. Diversiteit 2. Context 3. Controleerbaarheid From c1922ac7cdfe8105bb4606649b40daa9ff5775da Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 10:30:09 +0200 Subject: [PATCH 08/22] Update handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 1 + 1 file changed, 1 insertion(+) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 7601e3c38a..f57eed467d 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -20,6 +20,7 @@ vereiste: Deze handreiking legt uit welke vragen en principes leidend zijn bij het ontwikkelen en implementeren van een AI-systeem met het oog op het discriminatieverbod, vanuit zowel juridisch, technisch, als organisatorisch perspectief. De handreiking is een praktisch toepasbaar ontwerpkader dat ontwikkelaars helpt om al in de ontwikkelfase van een AI-systeem discriminerende patronen zoveel mogelijk te identificeren, te voorkomen en te bestrijden. + Er zijn 4 uitgangspunten die leidend zijn in de handreiking: 1. Diversiteit From f9635774eac2152e60cd44b926ba714c75f0702e Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 11:00:18 +0200 Subject: [PATCH 09/22] Update handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 3 +++ 1 file changed, 3 insertions(+) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index f57eed467d..371a26eff5 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -34,6 +34,9 @@ Er zijn 4 uitgangspunten die leidend zijn in de handreiking: Stuk over relevantie voor het AK volgt nog. Net als bij het IAMA, is dit document een manier om een multidisciplinaire discussie te faciliteren en stimuleren. Hierbij kunnen verschillende rollen betrokken worden door de projectleider: data-scientists, juristen, de functionaris gegevensbescherming (FG), aangevuld met domeinspecialisten. +## Wanneer toepassen? +De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het gaat in op verschillende fases van ontwikkeling: [probleemanalyse](), dataverkenning en datapreparatie, ontwikkeling, implementatie en evaluatie. +Daarnaast kan deze handreiking dienen voor opdrachtgevers van AI-systemen, ofwel om vooraf offrerende partijen te vragen aan te geven hoe zij rekening zullen houden met de diverse punten uit de handreiking, ofwel om tijdens het proces mee te kijken en op relevante punten aanwijzingen te geven, ofwel om achteraf te controleren of een opgeleverd product aan alle relevante voorwaarden voldoet. ## Bevindingen rapport 'Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"' volgt nog From 4ddea7197014ba819a0747aa1a401584a35e6958 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:30:43 +0200 Subject: [PATCH 10/22] Update handreiking-non-discriminatie.md Relatie tot IAMA (obv bevindingen vanuit ADR rapport bruikbaarheid van de handreiking) erin verwerkt. --- docs/instrumenten/handreiking-non-discriminatie.md | 10 ++++++---- 1 file changed, 6 insertions(+), 4 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 371a26eff5..238e92dcee 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -32,14 +32,16 @@ Er zijn 4 uitgangspunten die leidend zijn in de handreiking: ## Relevantie Stuk over relevantie voor het AK volgt nog. -Net als bij het IAMA, is dit document een manier om een multidisciplinaire discussie te faciliteren en stimuleren. Hierbij kunnen verschillende rollen betrokken worden door de projectleider: data-scientists, juristen, de functionaris gegevensbescherming (FG), aangevuld met domeinspecialisten. +Net als bij het [IAMA](IAMA.md), is dit document een manier om een multidisciplinaire discussie te faciliteren en stimuleren. Hierbij kunnen verschillende rollen betrokken worden door de projectleider: data-scientists, juristen, de functionaris gegevensbescherming (FG), aangevuld met domeinspecialisten. ## Wanneer toepassen? -De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het gaat in op verschillende fases van ontwikkeling: [probleemanalyse](), dataverkenning en datapreparatie, ontwikkeling, implementatie en evaluatie. +De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het gaat in op verschillende fases van ontwikkeling: [probleemanalyse](../levenscyclus/probleemanalyse.md), dataverkenning en datapreparatie, ontwikkeling, implementatie en evaluatie. Daarnaast kan deze handreiking dienen voor opdrachtgevers van AI-systemen, ofwel om vooraf offrerende partijen te vragen aan te geven hoe zij rekening zullen houden met de diverse punten uit de handreiking, ofwel om tijdens het proces mee te kijken en op relevante punten aanwijzingen te geven, ofwel om achteraf te controleren of een opgeleverd product aan alle relevante voorwaarden voldoet. -## Bevindingen rapport 'Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"' -volgt nog +### Relatie tot IAMA +Gebruikers van zowel de handreiking non-discriminatie by design als het IAMA geven enkele verschillen tussen de twee instrumenten. Deze bevindingen zijn te vinden in het rapport 'Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"' van de Auditdienst Rijk. + +Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de impact van grondrechten in algemenere zin, waar de handreiking zich specifiek richt op discriminatie. De handreiking bevat dan weer meer praktische voorbeelden die kunnen helpen bij begrip en afwegingen, waar de IAMA wat abstracter is. ## Bijbehorende vereisten From fba5bdd16ddd87f6d41e6b40d8239d77b56e4cf6 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:34:33 +0200 Subject: [PATCH 11/22] Update handreiking-non-discriminatie.md Ook de relatie tot Handbook Fairness verwerkt. --- docs/instrumenten/handreiking-non-discriminatie.md | 7 +++++-- 1 file changed, 5 insertions(+), 2 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 238e92dcee..a25f5d7964 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -39,9 +39,12 @@ De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het Daarnaast kan deze handreiking dienen voor opdrachtgevers van AI-systemen, ofwel om vooraf offrerende partijen te vragen aan te geven hoe zij rekening zullen houden met de diverse punten uit de handreiking, ofwel om tijdens het proces mee te kijken en op relevante punten aanwijzingen te geven, ofwel om achteraf te controleren of een opgeleverd product aan alle relevante voorwaarden voldoet. ### Relatie tot IAMA -Gebruikers van zowel de handreiking non-discriminatie by design als het IAMA geven enkele verschillen tussen de twee instrumenten. Deze bevindingen zijn te vinden in het rapport 'Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"' van de Auditdienst Rijk. +Gebruikers van zowel de Handreiking non-discriminatie by design als het IAMA geven enkele verschillen tussen de twee instrumenten. Deze bevindingen zijn te vinden in het rapport ['Bekendheid, toepasbaarheid en toegevoegde waarde handreiking “non-discriminatie by design"'](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file) van de Auditdienst Rijk. -Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de impact van grondrechten in algemenere zin, waar de handreiking zich specifiek richt op discriminatie. De handreiking bevat dan weer meer praktische voorbeelden die kunnen helpen bij begrip en afwegingen, waar de IAMA wat abstracter is. +Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de impact van grondrechten in algemenere zin, waar de Handreiking zich specifiek richt op discriminatie. De handreiking bevat dan weer meer praktische voorbeelden die kunnen helpen bij begrip en afwegingen, waar de IAMA wat abstracter is. + +### Relatie tot Handbook Fairness +Over het Handbook fairness werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. ## Bijbehorende vereisten From a9bee81ca4dfda9b8c2c167ad32878159a8b62f5 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:36:32 +0200 Subject: [PATCH 12/22] Create handbook-fairness.md Placeholder voor Handbook Fairness toegevoegd --- docs/instrumenten/handbook-fairness.md | 1 + 1 file changed, 1 insertion(+) create mode 100644 docs/instrumenten/handbook-fairness.md diff --git a/docs/instrumenten/handbook-fairness.md b/docs/instrumenten/handbook-fairness.md new file mode 100644 index 0000000000..8b13789179 --- /dev/null +++ b/docs/instrumenten/handbook-fairness.md @@ -0,0 +1 @@ + From 6a560072a7ae2b42525e09219b5a9d0dfbcec7a6 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:36:54 +0200 Subject: [PATCH 13/22] Update handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index a25f5d7964..d4d479efa9 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -44,7 +44,7 @@ Gebruikers van zowel de Handreiking non-discriminatie by design als het IAMA gev Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de impact van grondrechten in algemenere zin, waar de Handreiking zich specifiek richt op discriminatie. De handreiking bevat dan weer meer praktische voorbeelden die kunnen helpen bij begrip en afwegingen, waar de IAMA wat abstracter is. ### Relatie tot Handbook Fairness -Over het Handbook fairness werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. +Over het [Handbook fairness](handbook-fairness.md) werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. ## Bijbehorende vereisten From 6cfce59f8a03db754319445c9bc0026a1bd4ea0b Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:40:37 +0200 Subject: [PATCH 14/22] Update handbook-fairness.md --- docs/instrumenten/handbook-fairness.md | 36 ++++++++++++++++++++++++++ 1 file changed, 36 insertions(+) diff --git a/docs/instrumenten/handbook-fairness.md b/docs/instrumenten/handbook-fairness.md index 8b13789179..114eb8ada1 100644 --- a/docs/instrumenten/handbook-fairness.md +++ b/docs/instrumenten/handbook-fairness.md @@ -1 +1,37 @@ +--- +title: The Fairness Handbook +toelichting: toelichting volgt +levenscyclus: +- probleemanalyse +- ontwerp +onderwerp: +- bias-en-non-discriminatie +- fundamentele-rechten +rollen: +- projectleider +vereiste: +- non_discriminatie +--- + + +[Direct naar het Fairness Handbook]([https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design](https://openresearch.amsterdam/en/page/87589/the-fairness-handbook)){ .md-button } +## Instrument +Informatie volgt + +## Relevantie +Informatie volgt + +## Bijbehorende vereisten + + + +## Bronnen + +| Bron | +|-----------------------------| +|[The Fairness Handbook]([https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design](https://openresearch.amsterdam/en/page/87589/the-fairness-handbook))| + +## Voorbeeld + +Heb jij een goed voorbeeld van het gebruik van het Fairness Handbook op het gebied van algoritmen? Laat het ons weten! From 83ad3e70b8b208bd076e5cbc3ec464a1e010a935 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:41:33 +0200 Subject: [PATCH 15/22] Update handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index d4d479efa9..c706dc19aa 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -43,8 +43,8 @@ Gebruikers van zowel de Handreiking non-discriminatie by design als het IAMA gev Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de impact van grondrechten in algemenere zin, waar de Handreiking zich specifiek richt op discriminatie. De handreiking bevat dan weer meer praktische voorbeelden die kunnen helpen bij begrip en afwegingen, waar de IAMA wat abstracter is. -### Relatie tot Handbook Fairness -Over het [Handbook fairness](handbook-fairness.md) werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. +### Relatie tot het Fairness Handbook +Over het [Fairness Handbook](fairness-handbook.md) werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. ## Bijbehorende vereisten From 476d679416f7cf900232cc5aacd79370eb5e3957 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Thu, 19 Sep 2024 14:42:16 +0200 Subject: [PATCH 16/22] Update and rename handbook-fairness.md to fairness-handbook.md --- .../{handbook-fairness.md => fairness-handbook.md} | 8 ++++---- 1 file changed, 4 insertions(+), 4 deletions(-) rename docs/instrumenten/{handbook-fairness.md => fairness-handbook.md} (86%) diff --git a/docs/instrumenten/handbook-fairness.md b/docs/instrumenten/fairness-handbook.md similarity index 86% rename from docs/instrumenten/handbook-fairness.md rename to docs/instrumenten/fairness-handbook.md index 114eb8ada1..3bb67974a2 100644 --- a/docs/instrumenten/handbook-fairness.md +++ b/docs/instrumenten/fairness-handbook.md @@ -1,15 +1,15 @@ ---- +--- title: The Fairness Handbook toelichting: toelichting volgt -levenscyclus: +levenscyclus: - probleemanalyse - ontwerp onderwerp: - bias-en-non-discriminatie - fundamentele-rechten -rollen: +rollen: - projectleider -vereiste: +vereiste: - non_discriminatie --- From bc8720536802a47e9575d722cfa26c8360fb6bff Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Mon, 23 Sep 2024 17:04:02 +0200 Subject: [PATCH 17/22] Update docs/instrumenten/handreiking-non-discriminatie.md Co-authored-by: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> --- docs/instrumenten/handreiking-non-discriminatie.md | 6 ++---- 1 file changed, 2 insertions(+), 4 deletions(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index c706dc19aa..7e1502f17d 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -52,10 +52,8 @@ Over het [Fairness Handbook](fairness-handbook.md) werd in het rapport aangegeve ## Bronnen -| Bron | -|-----------------------------| -|[Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design)| -|[Onderzoeksrapport Bekendheid, toepasbaarheid en toegevoegde waarde handreiking 'non-discriminatie by design'](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file)| +- [Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design) +- [Onderzoeksrapport Bekendheid, toepasbaarheid en toegevoegde waarde handreiking 'non-discriminatie by design'](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file) ## Voorbeeld From 39d83ea1411f5c12d46a79c67f714b66a5ec8425 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Wed, 25 Sep 2024 09:21:29 +0200 Subject: [PATCH 18/22] Update docs/instrumenten/handreiking-non-discriminatie.md extra linkjes --- docs/instrumenten/handreiking-non-discriminatie.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 7e1502f17d..9a6c0743e4 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -35,7 +35,7 @@ Stuk over relevantie voor het AK volgt nog. Net als bij het [IAMA](IAMA.md), is dit document een manier om een multidisciplinaire discussie te faciliteren en stimuleren. Hierbij kunnen verschillende rollen betrokken worden door de projectleider: data-scientists, juristen, de functionaris gegevensbescherming (FG), aangevuld met domeinspecialisten. ## Wanneer toepassen? -De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het gaat in op verschillende fases van ontwikkeling: [probleemanalyse](../levenscyclus/probleemanalyse.md), dataverkenning en datapreparatie, ontwikkeling, implementatie en evaluatie. +De handreiking is primair geschreven voor teams die zelf AI-systemen bouwen. Het gaat in op verschillende fases van ontwikkeling: [probleemanalyse](../levenscyclus/probleemanalyse.md), [dataverkenning en datapreparatie](../levenscyclus/dataverkenning-en-datapreparatie.md), [ontwikkeling](ontwikkelen.md), [implementatie](implementatie.md) en [evaluatie](verificatie-en-validatie.md). Daarnaast kan deze handreiking dienen voor opdrachtgevers van AI-systemen, ofwel om vooraf offrerende partijen te vragen aan te geven hoe zij rekening zullen houden met de diverse punten uit de handreiking, ofwel om tijdens het proces mee te kijken en op relevante punten aanwijzingen te geven, ofwel om achteraf te controleren of een opgeleverd product aan alle relevante voorwaarden voldoet. ### Relatie tot IAMA From c02ebac3796f5c9cc1e5763998fb7f90a3e0e5b3 Mon Sep 17 00:00:00 2001 From: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com> Date: Wed, 25 Sep 2024 09:28:38 +0200 Subject: [PATCH 19/22] Update handreiking-non-discriminatie.md relatie tot toetsingskader College voor de Rechten van de Mens toegevoegd. --- docs/instrumenten/handreiking-non-discriminatie.md | 4 ++++ 1 file changed, 4 insertions(+) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index 9a6c0743e4..a40e495dce 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -46,6 +46,9 @@ Zij geven aan dat het IAMA wordt gezien als instrument voor het nagaan van de im ### Relatie tot het Fairness Handbook Over het [Fairness Handbook](fairness-handbook.md) werd in het rapport aangegeven dat het een technischere uitwerking bevat dan de Handreiking. Het Handbook biedt wellicht meer houvast voor iemand die analyses maakt om inzicht te geven in de prestaties van het algoritme met het oog op ‘fairness’ en ‘bias’. Dit komt doordat het Handbook meer details geeft over de technische stappen die nodig zijn om te komen tot bepaalde analyses. +### Relatie tot Toetsingskader Risicoprofielen van College voor de Rechten van de Mens +Ook het [toetsingskader voor discriminatie door risicoprofielen van het College voor de Rechten van de Mens](https://publicaties.mensenrechten.nl/publicatie/61a734e65d726f72c45f9dce) kan worden gebruikt om te bepalen of er discriminatie plaatsvindt. Dit kader is afkomstig uit 2021 en er wordt gewerkt aan een nieuwe versie, die waarschijnlijk eind 2024 zal verschijnen. De verschillende stappen die daarin gebruikt worden om te bepalen of een risicoprofiel tot discriminatie leidt op grond van ras of nationaliteit, zijn zeer relevant. Daarvoor hebben zij [een beslisboom ontwikkeld](https://publicaties.mensenrechten.nl/file/6ac9f9ec-c837-23b1-0032-5c2e684db188.pdf). + ## Bijbehorende vereisten @@ -54,6 +57,7 @@ Over het [Fairness Handbook](fairness-handbook.md) werd in het rapport aangegeve - [Handreiking non-discriminatie by design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design) - [Onderzoeksrapport Bekendheid, toepasbaarheid en toegevoegde waarde handreiking 'non-discriminatie by design'](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file) +- [Toetsingskader voor discriminatie door risicoprofielen van het College voor de Rechten van de Mens (2021)](https://publicaties.mensenrechten.nl/publicatie/61a734e65d726f72c45f9dce) ## Voorbeeld From c4fbb33c50dee4e6fb33729a620128f49d47d20d Mon Sep 17 00:00:00 2001 From: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Date: Wed, 25 Sep 2024 09:56:20 +0200 Subject: [PATCH 20/22] Update docs/instrumenten/fairness-handbook.md --- docs/instrumenten/fairness-handbook.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/instrumenten/fairness-handbook.md b/docs/instrumenten/fairness-handbook.md index 3bb67974a2..74d3b332ab 100644 --- a/docs/instrumenten/fairness-handbook.md +++ b/docs/instrumenten/fairness-handbook.md @@ -10,7 +10,7 @@ onderwerp: rollen: - projectleider vereiste: -- non_discriminatie +- grw-02-non-discriminatie --- From 6066aa245934751817c7743d23cfa485a7a1e8b4 Mon Sep 17 00:00:00 2001 From: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Date: Wed, 25 Sep 2024 09:56:39 +0200 Subject: [PATCH 21/22] Update docs/instrumenten/handreiking-non-discriminatie.md --- docs/instrumenten/handreiking-non-discriminatie.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/instrumenten/handreiking-non-discriminatie.md b/docs/instrumenten/handreiking-non-discriminatie.md index a40e495dce..31f1432b7b 100644 --- a/docs/instrumenten/handreiking-non-discriminatie.md +++ b/docs/instrumenten/handreiking-non-discriminatie.md @@ -10,7 +10,7 @@ onderwerp: rollen: - projectleider vereiste: -- non_discriminatie +- grw-02-non-discriminatie --- From 453ed2834d69516120239333dc7dd3055dea6780 Mon Sep 17 00:00:00 2001 From: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Date: Wed, 25 Sep 2024 09:59:24 +0200 Subject: [PATCH 22/22] Update docs/instrumenten/fairness-handbook.md --- docs/instrumenten/fairness-handbook.md | 3 ++- 1 file changed, 2 insertions(+), 1 deletion(-) diff --git a/docs/instrumenten/fairness-handbook.md b/docs/instrumenten/fairness-handbook.md index 74d3b332ab..cb66d8f4d7 100644 --- a/docs/instrumenten/fairness-handbook.md +++ b/docs/instrumenten/fairness-handbook.md @@ -1,4 +1,5 @@ ---- +--- + title: The Fairness Handbook toelichting: toelichting volgt levenscyclus: