Op 9 oktober vond in Amersfoort de “Expeditie Algoritmes” plaats, een evenement georganiseerd door het Ministerie van Binnenlandse Zaken. De middag begon met een gemeenschappelijke lunch en werd geopend door wethouder Johnas van Lammeren van de gemeente Amersfoort en Staatssecretaris Alexandra van Huffelen. Hun boodschap was helder en gericht op actie: “ga er mee aan de slag, maar denk goed na over waarom en welke algoritmes je inzet.”
In de loop van de middag werden diverse lezingen gegeven. Het programma van de dag was gelukkig niet bepaald door een algoritme. Het programma liep uiteen van praktische voorbeelden tot aan AI tot aan ethische verantwoording en transparantie.
Oproep van de staatssecretaris
De overheid wil transparant zijn over het gebruik van algoritmes. Burgers moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en wettelijke normen en dat er uitleg is over hoe ze werken. Het centrale algoritmeregister levert een belangrijke bijdrage aan het transparant en uitlegbaar maken van de toepassing en uitkomst van algoritmes. De boodschap van staatssecretaris Van Huffelen was duidelijk: “er is nog veel werk te doen! Het is belangrijk dat iedereen meedoet. Juist dan krijg je het overzicht en heb je transparantie.”
Momenteel is de registratie van algoritmes op vrijwillige basis, maar in de toekomst kan dit wettelijk verplicht worden. In 2022 werd aangekondigd dat er wetgeving wordt ontwikkeld voor het gebruik van algoritmes. Deze wetgeving zal in samenhang worden bekeken met de ontwikkelingen rondom de AI-verordening. De Europese concept AI-verordening streeft ernaar om documentatie verplicht te stellen voor hoog-risico AI-algoritmes, die uiteindelijk in het algoritmeregister worden opgenomen. Het algoritmeregister is niet beperkt tot alleen hoog-risico algoritmes, maar staat open voor alle soorten algoritmes.
Telengy adviseurs Wouter Le Febre en Roel Ottens hebben een artikel geschreven over hoe uw organisatie zich kan voorbereiden op het algoritmeregister: Het algoritmeregister wordt opgezet in 2023, maar wat kunnen we nu al doen?
IAMA in je Pyjama
In het verleden hebben algoritmes helaas geleid tot discriminatie, zoals aangetoond in de toeslagenaffaire. Dit onderstreept het cruciale belang van een ethische beoordeling van algoritmes. Een bruikbare methodologie hiervoor is de Impact Assessment Mensenrechten en Algoritmes (IAMA).
Tijdens de Expeditie Algoritmes vond de sessie “IAMA in je pyjama” plaats, waar de IAMA-methode werd toegelicht. IAMA is een instrument voor discussie en besluitvorming binnen de overheid. Het bevordert een interdisciplinaire dialoog tussen degenen die verantwoordelijk zijn voor de ontwikkeling en/of implementatie van systemen. De opdrachtgever is primair verantwoordelijk voor het (laten) uitvoeren van IAMA.
IAMA omvat tal van vragen waarover discussie moet plaatsvinden en waarop antwoorden moeten worden geformuleerd in alle gevallen waarin een overheidsorgaan overweegt een algoritme in te zetten. Zelfs wanneer een algoritme al in gebruik is, kan IAMA dienen als een instrument voor reflectie.
De kernboodschap
- Vul het algoritmeregister.
- Schending van rechten kan worden voorkomen door het uitvoeren van een IAMA.
- We moeten voorzichtig zijn met blind vertrouwen in algoritmes en kunstmatige intelligentie.
- Menselijke controle blijft van vitaal belang.
Voor meer informatie over de presentaties tijdens de “Expeditie Algoritmes” verwijzen we u naar de volgende link: Algoritmes Expeditie (pleio.nl)
U kunt ook de ontwikkelingen op het gebied van algoritmes volgen via de volgende website: Algoritmes (pleio.nl)
Meer weten?
Voor meer informatie kunt u contact met opnemen met Thor Berns, 06 11 48 35 23, t.berns@telengy.nl of Marleen van Dongen, 06 39 67 84 61 of m.v.dongen@telengy.nl.
