Kennis delen en bouwen aan moresprudentie

“Ik ken verschillende ethische commissies en elke commissie is anders. De fout die vaak wordt gemaakt is dat iemand roept ‘er moet een ethische commissie komen’, maar dat er niet goed wordt nagedacht over het mandaat van die commissie en wie daarin moeten zitten. Dat is een groot afbreukrisico,” zegt Willy Tadema, AI-ethics lead bij het Rijks ICT Gilde en adviseur AI-standaarden bij het ministerie van Binnenlandse Zaken.  

Ethische waarden vertalen in technische specs

Tadema heeft in haar 25-jarige loopbaan bij de overheid in verschillende bestuurslagen gewerkt. Als consultant bij het Rijks ICT Gilde ondersteunt ze momenteel overheden om wettelijke en ethische kaders te vertalen naar de praktijk rondom het gebruik van algoritmes en AI. Ook zit ze in de ethische commissie die het college van de gemeente Groningen adviseert over digitaliseringszaken en in de NEN-commissie AI en Big Data.
“De Europese Commissie heeft de normalisatie-organisaties in de lidstaten gevraagd om de AI Act te vertalen in technische specificaties die organisaties kunnen implementeren. Zodat organisaties zeker weten dat ze voldoen aan de wet. We zijn dus bezig om juridische eisen en ethische waarden te vertalen in technische specificaties. Dat is moeilijk, maar heel relevant, want de AI Act gaat over het beschermen van de gezondheid, veiligheid en fundamentele rechten van burgers.” 

Onderzoeksethiek: Do no harm

Paulette Flore is methodoloog en voorzitter van de ethische commissie van het Sociaal Cultureel Planbureau (SCP). “We gebruiken bij het SCP steeds complexere onderzoeksmethoden met veel data. Als ethische commissie richten wij ons op onderzoeksethiek. We toetsen de gevolgen van onze onderzoeken op onze deelnemers en de gemeenschappen waar zij deel van uitmaken. En we gaan na of de onderzoeken de veiligheid van onze onderzoekers raken.” De commissie hanteert daarbij het principe ‘do no harm’, vertelt ze. En werkt met de richtlijnen van het Nethics, het Nationaal Ethiek Overleg Sociale en Gedragswetenschappen.

Hoe pakken ze dat aan? “We gebruiken een checklist om onze projecten te toetsen. Voor de zwaardere projecten gaan we in gesprek met de onderzoekers over de ethische uitdagingen van hun project en hoe ze hier zo goed mogelijk mee om kunnen gaan.” In het uiterste geval kan de ethische commissie bepalen dat een onderzoek anders opgezet moet worden, vertelt ze. “Maar in de praktijk blijkt het heel vaak in nuances te zitten. En kun je met een kleine aanpassing in een onderzoek al veel problemen voorkomen.” 

Ethiek is situationeel

Ethiek bestaat niet uit een vaste set regels; de toepassing is sterk situationeel. De vragen en antwoorden zijn per project of onderzoek anders en daarom is het zo belangrijk om hierover het gesprek te voeren. Flore: “Wij geloven in de slogan ‘ethiek is van ons allemaal’. Wij zijn als ethische commissie niet de baas over ethiek. We willen juist dat alle medewerkers zich met ethiek bezighouden.” Tadema vult aan: “Je kunt als organisatie niet stellen ‘we hebben een ethische commissie, dus we zijn ethisch verantwoord bezig’. De ethische commissie is er om te toetsen en te adviseren. Voordat je als organisatie iets bij je ethische commissie kunt neerleggen, moet je zelf hard werken aan het verankeren van ethiek in je werkwijze.” 

Beiden noemen ethiek een krachtig hulpmiddel om meer gewogen beslissingen en betere keuzes te maken. Daarbij kunnen overheden meer van elkaar leren, benadrukken ze. Tadema: “Het helpt als we beslissingen die zijn genomen met elkaar delen. Zo kunnen we ethiek binnen de overheid beter borgen.”

Op de website van de IBDS is daarvoor een samenwerkgroep Data & Ethiek ingericht. Groepsleden kunnen er kennis en prakijkervaringen delen. 

Moresprudentie

Moresprudentie, voorbeelden van eerder gemaakte ethische afwegingen, helpt organisaties om afgewogen, ethische beslissingen te nemen. Tadema: “De ethische commissie van de gemeente Groningen heeft een advies uitgebracht over het gebruik van gegevens bij het handhaven op uitkeringen. Andere gemeenten hebben hier ook al ervaring mee en daar is ook onderzocht wat wel en niet verantwoord is. We kunnen van elkaar leren.”

Ethiek is complexe materie en ethische commissies hebben doorgaans niet veel tijd, zegt ze. “Dan is het heel fijn als je kunt werken met een vorm van infrastructuur die je verder helpt.” Het gaat dan niet alleen om het delen van praktijkvoorbeelden, maar ook om informatie over welke soorten ethische commissies er zijn en hoe je die het beste vormgeeft, zegt ze.  

Flore: “De discussie rond ethiek lijkt vaak te ontaarden in een ‘oh ik mag iets niet’. Maar je kunt ethiek beter benaderen vanuit een houding van ‘hoe gaan we dit zo goed mogelijk vormgeven?’. Ethische kaders zijn er namelijk niet om meteen dingen uit te sluiten, maar om te onderzoeken hoe je iets zo goed mogelijk kunt doen.” Met een netwerk en een kennisbank met moresprudentie versterk je de borging van ethiek. En je maakt het concreet, zegt Flore: “Mensen vinden ethiek vaak nog abstract. We kunnen het duidelijker maken als we voorbeelden delen.” 

Goud ligt voor het oprapen

Is er interbestuurlijk actie nodig om ethiek te verankeren binnen de overheid? Tadema heeft daar wel ideeën over: “Ik zie dat veel organisaties bottom-up bezig zijn met ethiek, op heel verschillende manieren. En ik zie dat er top-down het nodige gebeurt, onder meer vanuit Europese regelgeving. Het zou goed zijn als die twee bij elkaar worden gebracht.” Misschien kunnen we leren van hoe het stelsel van basisregistraties destijds is neergezet, met operatie NUP, zegt ze. De bestuurslagen hebben toen samen vastgesteld welke wettelijke kaders en bouwstenen nodig waren om het stelsel werkend te krijgen. “Er is van alles aan te merken op hoe het toen is gegaan, maar het leidde wel tot opschaling. Dat hebben we nu ook nodig. Er ligt goud voor het oprapen, dat denk ik echt. Er zijn zoveel initiatieven, instrumenten en losse voorzieningen, zoals het algoritmeregister. Het is nu zaak om deze samen te brengen en met elkaar te verbinden.”