De gemeenteraadsverkiezingen zijn voorbij en colleges vormen zich. Tijd om één van de belangrijkste vraagstukken uit de samenleving op de agenda te zetten: ons digitaal bestuur. Digitalisering heeft een ingrijpende consequentie voor onze publieke waarden. We kunnen hier alleen collectief op reageren en er bestaat hiervoor geen beter orgaan als de gemeenteraad.
Nog weinig aandacht
De taak van gemeenteraadsleden is (ethische) kaders stellen en kritische vragen stellen bij de uitvoering van het digitaliseringsbeleid. Nu hebben raadsleden het vaak druk, wachten op landelijke wet- en regelgeving en beschouwen digitalisering als een ambtelijke verantwoordelijkheid. Het Rathenau Instituut (2020) stelt de volgende redenen vast waarom er weinig aandacht is voor digitalisering:
- Raadsleden zien digitalisering vaak als een ingewikkeld en technisch thema en krijgen er moeilijk vat op. Hun primaire interesse ligt bij maatschappelijke thema’s.
- Wethouders vinden de betrokkenheid van raadsleden belangrijk, maar willen niet dat raadsleden op de stoel van de wethouder gaan zitten. Vaak zien zij digitalisering als beleidsuitvoering, en daar gaan zij over.
- Raadsleden zijn zich weinig bewust van de impact van digitalisering. Het ontbreekt hen aan inzicht in de mogelijke effecten.
Kortom, raadsleden zijn nog niet voldoende toegerust om met deze nieuwe vragen om te gaan.
Digitale technologie in de praktijk 
Gemeenten hebben te maken met de opkomst aan een cluster van technologieën zoals robotica, kunstmatige intelligentie, algoritmen en big data, digitale platformen, biometrie, persuasieve technologie, augmented reality en virtual reality. Inwoners en ondernemers maken gebruik van deze digitale technologieën. Uit analyse van Rathenau Instituut blijkt dat de onderlinge beïnvloeding van technologie en onze leefwereld zorgt voor bedreiging van onze publieke waarden en mensenrechten.
Enkele voorbeelden om dit te demonstreren:
Slimme apparaten versus privacy
Slimme apparaten komen onze gemeente binnen. Deze apparaten, ook wel smart connected devices of internet of things (IoT) genoemd leggen gewoontes vast en voorspellen gedrag van inwoners. De gemeente Enschede besloot in 2017 om via sensoren de drukte in de binnenstad te gaan meten, met het zogeheten wifitracking. Meetkastjes in de winkelstraten vingen de wifisignalen op van de mobiele telefoons van passerende mensen. Elke telefoon werd apart geregistreerd, met een unieke code. Door te tellen hoeveel telefoons er op een bepaald moment rond een meetkastje zijn, weet je hoe druk het is. Houd je over een langere periode bij welke telefoon langs welk meetkastje komt, dan verandert dit ‘tellen’ in het volgen van mensen. Uit onderzoek van de Autoriteit Persoonsgevens (AP) bij de gemeente Enschede blijkt dat dit aan de hand was. De privacy van burgers was dus niet goed gewaarborgd, omdat zij konden worden gevolgd zonder dat dit noodzakelijk was. Gemeente Enschede kreeg een boete van € 600.000,-.
Robots in het sociaal domein versus autonomie & menselijke waardigheid
Er zijn grote tekorten in het sociaal domein, er wordt hard gewerkt aan een oplossing en daarvoor wordt ook naar digitale innovaties gekeken, zoals robots en software.
De urgente vraag is wat we aan robots willen overlaten en wat de minimale menselijke betrokkenheid is. Mag een robot bijvoorbeeld zelf bepalen wanneer er zorg nodig is of moet er altijd toestemming zijn van een zorgverlener of patiënt? In welke omstandigheden en in hoeverre mag de persoonlijke autonomie van mensen aangetast worden? Waar blijft de ruimte voor eigen beslissingen?
Een ander effect van het inzetten van digitale technologie is emotionele en daardoor ook morele afstand tussen de actie en de ethische implicaties van die actie. Wanneer robots worden ingezet ter vervanging van de verzorger om bijvoorbeeld kosten te besparen, bestaat het risico dat zorg gedehumaniseerd wordt. In het geval dat robots taken zoals voeden en optillen overnemen, kunnen patiënten zich als objecten voelen. Het ethische bezwaar kan ‘objectivering’ zijn.
Raadsleden kunnen kaders bedenken welke rol digitale technologie mag spelen in de zorg binnen het sociaal domein en het perspectief van de inwoner centraal zetten.
Datacenters versus machtsverhoudingen
De meeste grote computerberekeningen vinden plaats in datacenters. Nederland is door zijn infrastructuur een interessant land voor de bouw van deze datacenters. In 2020 meldde gemeente Zeewolde vol trots dat zij een datacentrum ging bouwen binnen de gemeentegrenzen. Meta, het moederbedrijf van Facebook, had het contact gelegd met de gemeente. De raadsleden stonden daarmee opeens voor enorme vraagstukken:
Om een goed maatschappelijk bedrijf te zijn maken multinationals graag gebruik van groene stroom, omdat zij een enorme afnemer zijn betalen zij vaak minder en betalen zij geen, opslag op hun energierekening voor duurzame energie, zoals de Nederlandse burger. Hierdoor ontstaat een scheve verhouding tussen de inwoners en de multinationals.
Daarnaast heeft deze technologie invloed op de energiestrategie van een gemeente, een groot datacentrum gebruikt ongeveer 1% van het totaal van energie dat heel Nederland verbruikt inclusief alle havens, huishoudens, industrie, etc. Daardoor ontstaan er vraagstukken over wie als eerst gebruik mag maken van energie wanneer er schaarste ontstaat. In de huidige afspraken zijn dat nu de datacenters. Dit is een vraagstuk waar u direct of indirect mee instemt als raadslid.
Tot slot is nog te vermelden dat de CO2-voetafdruk van de infrastructuur van computerberekeningen gelijk is aan de luchtvaartindustrie. De inzet van technologie die veel gebruik maakt van computerberekening moet verantwoord gebeuren en heeft invloed op de energiestrategie en daarmee op de fysieke wereld.
Efficiency versus discriminatie
“Zeker 25 gemeenten maken gebruik van voorspellende systemen en algoritmes om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen. Specifiek bij deze 25 gemeenten worden burgers en gebieden ingedeeld op profielen, soms om ze sneller te kunnen helpen, maar ook om bijvoorbeeld de kans dat ze fraude plegen te bepalen. In sommige gevallen gaat het nog om experimenten en pilots.”
NOS, J. Schelvis
Wanneer uw gemeente gebruikt maakt van algoritmes wordt u gewaarschuwd door critici voor het risico van discriminatie. Slimme algoritmes worden ontwikkeld, ingericht en getraind met observaties van mensen van vlees en bloed. De vooroordelen van de mensen en de mensen die de systemen ontwikkelen komen terug in de algoritmes. Hierdoor kan onbedoeld gediscrimineerd worden.
Raadsleden moeten zich goed laten informeren over welke data wordt gebruikt, wat de toepassing is van het algoritme en wat de mogelijke effecten zijn op burgers.
Tijd voor verandering
Raadsleden dienen zich te oriënteren op de vraag, hoe zij op hun terrein praktisch vanuit hun huidige mandaat invulling kunnen geven aan nieuwe ethische en maatschappelijke digitaliseringsvraagstukken. Het is tijd om de gemeenteraad richting te geven door:
- Raadsleden te informeren over het effect van digitaliseringsprojecten/technologieën en het belang van het afwegen van publieke waarden.
- Raadsleden te ondersteunen met instrumenten, methodieken, waardensets en zienswijzen.
- Het borgen van kennis, afspraken en verantwoordelijkheden.
De eerste stap: een kennissessie
Graag laten wij u kennis maken met de vraagstukken van digitalisering binnen uw gemeente. Dit doen wij door u te informeren over de laatste ontwikkelingen in de digitale ethiek en dit te vertalen naar de praktijk van uw gemeente.
Het verkrijgen van politiek draagvlak begint met het meenemen van de raad in de ‘waarom-vraag’.
Na onze eerste kennissessie zijn raadsleden op de hoogte van:
- hun taken en verantwoordelijkheden om digitale grondrechten en publieke waarden te beschermen en transparant te maken;
- de bestuurlijke inrichting die nodig is voor goed digitaal openbaar bestuur;
- de technologische ontwikkelingen die de komende jaren invloed hebben op gemeenten;
- de functie van een ethisch kader en hoe deze toegepast wordt;
- concrete vragen die zij kunnen stellen en uitzoeken;
- de betekenis van data en ethiek rond kunstmatige intelligentie en waar de focus van raadsleden zou moeten liggen in het evalueren van digitaliseringsprojecten in termen van data en ethiek rond kunstmatige intelligentie;
- de belangrijkste ondersteunende methodieken en instrumenten, bijvoorbeeld de waardenset Code Goed Digitaal Openbaar Bestuur, de DataWijzer, dialoogmodellen en ethische toetsen zoals de Impact Assessment Mensenrechten en Algoritmes.
Wie zijn wij?
Vanuit drie organisaties, rollen en perspectieven herkennen wij de urgentie om aandacht te geven aan dit vraagstuk. Wij zijn overtuigd dat we vanuit onze samenwerking u een goed beeld kunnen geven van de vraagstukken die digitale technologie met zich meebrengt.
Liesbeth Hazebroek is ethicus in het gebruik van technologie en specifiek het gebruik van kunstmatige intelligentie bij organisaties. Haar achtergrond stelt haar in staat op een heldere manier uit te leggen wat het effect is van digitale technologie op publieke waarden.
Linda van Duiven is informatiemanager bij gemeenten. Zij kent de interne processen van de ambtelijke organisatie en weet hoe beleid vertaald wordt naar de praktijk. Linda ziet de kansen van digitale technologie, maar weet ook waar de knelpunten zitten bij de organisatie daarvan.
Roel Ottens richt zich als adviseur op digitaliseringsvraagstukken. Hij kan theorie en wetgeving goed vertalen naar de digitale praktijk van gemeenten.
Meer weten?
Graag ondersteunen wij u bij dit maatschappelijk thema. Neem voor meer informatie vrijblijvend contact op met Roel Ottens, 06 50 43 15 77, r.ottens@telengy.nl.
