Datawerkplaats

De Ethische Data Assistant (DEDA)

Doelgroep: Data-analisten, projectmanagers en beleidsmakers die datapraktijken willen evalueren op ethische kwesties.  

NB: Dit instrument is ontwikkeld en getest bij overheidsorganisaties. Echter, de workshop kan ook worden gebruikt en waardevol zijn buiten de context van het openbaar bestuur.

Wat: DEDA is een toolkit die helpt bij het in kaart brengen van ethische kwesties bij datapraktijken; het documenteren van het beraadslagingsproces; en bij de bevordering van de verantwoording aan de diverse stakeholders en het publiek. De toolkit bestaat uit een workshop van ca. 3 uur, waarin aan de hand van brainstormsessies en een interactieve vragenlijst tussentijds wordt geëvalueerd op de data-ethiek van een aangedragen datapraktijk.

Doelstelling:

  • Het in kaart brengen van ethische kwesties bij datapraktijken.
  • Het documenteren van het beraadslagingsproces.
  • Het bevorderen van de verantwoording aan de diverse stakeholders en het publiek.

Resultaten:

  • Inzicht in de belangrijkste ethische knelpunten van de datapraktijk.
  • Vastgestelde voorwaarden voor het wel of niet doorgaan van de datapraktijk.
  • Concrete actiepunten met betrekking tot de ethische aspecten van de datapraktijk.
  • Kennis over het constructief oplossen van praktische zaken met behulp van de ethische theorie.
  • Het kunnen afleggen van verantwoording over de datapraktijk.

Voorbeeld: Een datapraktijk die met behulp van DEDA geëvalueerd kan worden op ethische kwesties is het (deels) fictieve algoritme Voorspelmodel Recidiverisico onder Jongeren (het VRJ). Het VRJ is ontwikkeld voor jongeren van 12 tot en met 17 jaar die met politie en justitie in aanraking zijn gekomen. Op basis van de uitkomsten wordt bepaald welke strafrechtelijke aanpak en eventuele zorg de jongere nodig heeft. Het doel van het VRJ is om het recidiverisico onder jongeren (12 t/m 17) te voorspellen, om zo voor de jongere díe aanpak te kiezen die recidive voorkomt. De raadsonderzoeker vult de resultaten van de afgenomen vragenlijsten in in het computersysteem. Het algoritme berekent vervolgens – in combinatie met de andere datapunten – het recidiverisico. Het algoritme bevat machine learning, dat wil zeggen dat het algoritme van de verwerkte data kan leren of data gebruikt om beter te presteren.

NB: DEDA is ontwikkeld door de Data School van de Universiteit Utrecht. De Universiteit Utrecht is niet aansprakelijk voor mogelijke schade in verband met, of voortkomend uit, het gebruik van materiaal of inhoud van DEDA.

Heeft u vragen of opmerkingen? Laat het ons weten! Contact NL
Sending