“Wanneer is het keerpunt dat deze software niet alleen maar interpreteert maar ook vertelt wat de mens moet doen?”

Gemeenten gaan voor maatschappelijk verantwoord ondernemen (MVO), dit gaat om verantwoord omgaan met milieu, mensen en maatschappij. Het gebruik van kunstmatige intelligentie, zelfstandig of via diensten en producten van andere bedrijven kan haaks op maatschappelijke verantwoord ondernemen staan. Werken met data, kunstmatige intelligentie en algoritme vraagt ontzettend veel energie en grondstoffen. Daarnaast heeft het naast privacy ook veel gevolgen voor mensen en de maatschappij.

In een drieluik wordt kunstmatige intelligentie belicht in relatie tot de thema’s milieu, mens en maatschappij. Wat zijn de risico’s en welke maatregelen kan een gemeente treffen om wel maatschappelijk verantwoord te ondernemen?

In dit artikel: kunstmatige intelligentie en de mens.

Wie is de baas?

Bestaande technologieën worden steeds vaker gecombineerd met kunstmatig intelligente oplossingen. Dit kan bijdragen aan het menselijk welzijn, maar kan ook tot dehumaniserende situaties leiden. Het gaat om het gevaar van objectivering of instrumentalisering van mensen.

Langzaam begint iedere medewerker en ambtenaar het te merken; alle werkzaamheden moeten geïnterpreteerd kunnen worden door software en systemen. Ambtenaren administreren en registreren meer dan ooit in talloze applicaties. Wanneer is het keerpunt dat software niet alleen maar informeert maar ook vertelt wat de mens moet doen?

Een toekomstscenario? Nee, het gebeurt al. Er zijn bedrijven die zoveel mogelijk handelingen van hun medewerkers meten. Ze werken met tijdklokken, getimede pauzes en geanalyseerde werkprestaties. Het gaat zelfs verder. De algoritmes bepalen welke werkzaamheden de medewerker uitvoert, geeft de richting en het tempo van de handelingen aan. De technologie ziet de mens als een instrument, een hybride situatie tussen instrument en mens.

De medewerker heeft hier nauwelijks een keuze in, het bedrijf beslist immers of er gewerkt wordt met een systeem. Ambtenaren en medewerkers moeten maar nieuwe vaardigheden leren en de nieuwste ontwikkelingen bijbenen. Waarbij de alziende toezichthouder, een kunstmatig intelligente oplossing, controleert op productiviteit, nauwkeurigheid, snelheid en/of kwaliteit.

Een parallelle ontwikkeling binnen het sociale domein van gemeenten is snel gemaakt. Er is een hoge druk om innovaties met kunstmatige intelligentie toe te passen om kosten te besparen en zorg te verbeteren. Voorbeelden zijn oplossingen in het sociaal domein waarbij kennissystemen die medische diagnoses stellen aan de hand van een grote hoeveelheid informatie of zorgrobots die taken zoals voeden en optillen overnemen. Hierdoor kunnen de zorgvragers zich als objecten behandeld voelen.

Arbeidsomstandigheden

De kunstmatig intelligente oplossingen waar gemeenten gebruik van maken kunnen worden ontwikkeld door bedrijven ver over onze landsgrenzen. Uit onderzoek blijkt dat hierbij regelmatig onderbetaalde medewerkers voor worden ingezet die als machines worden behandeld. Deze medewerkers onderhouden en testen de systemen, dit gaat om repetitief werk waar bijvoorbeeld data wordt ‘ingeklopt’, klikwerk of het nalopen van gewelddadige of seksuele content op sociale media. Ook worden medewerkers ingezet om kunstmatig intelligente systemen te ondersteunen en boodschappen en e-mail aan te passen en te versturen. Dit heet ook wel ‘fauxtomation’ waar systemen verkocht worden als geautomatiseerd en ‘kunstmatig intelligent’ terwijl er in werkelijkheid op de achtergrond mensen het werk uitvoeren. Binnen de BAG en BGT zijn er bedrijven die gemeenten ontzorgen met al dan niet verkapte fauxtomation, waarbij medewerkers in lageloonlanden beoordelingen van algoritmes op mutaties in het landschap nalopen of zelfs beeld voor beeld de beoordeling zelf doen.

Naast dit werk moet er ook een link gelegd worden met de activiteiten in het milieu, de medewerkers die grondstoffen en mineralen mijnen onder erbarmelijke omstandigheden. Het is vaak ondoorzichtig waar deze elementen werkelijk vandaan komen en wat de werkomstandigheden zijn, de reden hiervoor zijn de vele tussenpersonen en bedrijven in verschillende landen die meewerken in deze keten.

Maatregelen

Een aantal tips op welke wijze gemeenten hiermee om kunnen gaan:

• Maak gebruik van de aanpak begeleidingsethiek voordat je gaat werken met een nieuwe digitale technologie als kunstmatige intelligentie. Deze methode biedt concrete handvatten om technologie op een ethisch verantwoorde manier toe te passen op milieu, mens en maatschappij.
• Zorg dat kunstmatig intelligente oplossingen die toegepast wordt op mensen, bijvoorbeeld in het sociaal domein, slechts wordt ingezet voor ‘routinematige klussen’. Het gaat dan om taken waarbij geen emotionele, intieme, persoonlijke betrokkenheid vereist is en zet mensen extra nadrukkelijk in op de relatie met de cliëntgroep.
• Vraag bij de aanschaf van producten en diensten met kunstmatige intelligentie altijd naar de gehele leveringsketen van het bedrijf (al is het waarschijnlijk onmogelijk om dit helemaal inzichtelijk te krijgen).

De volgende keer

Kunstmatige intelligentie heeft invloed op onze publieke waarden. Op welke waarden en op welke wijze kunnen we dit goed begeleiden?

Bronnen

• Datavakbond. Data-Lokaal
• Gemeente Enschede. Maatschappelijk Verantwoord Ondernemen (MVO)
• ECP Platform voor de Informatiesamenleving. Aanpak Begeleidingsethiek
• Kate Crawford. De atlas van AI, 2021
• Kool, L., J. Timmer, L. Royakkers en R. van Est, Opwaarderen – Borgen van publieke waarden in de digitale samenleving. Den Haag, Rathenau Instituut 2017
• MIT Technology Review. Karen Hao. Training a single AI model can emit as much carbon as five cars in their lifetimes
• NOS. Fraude opsporen of gevaar van discriminatie? Gemeenten gebruiken ‘slimme’ algoritmes
• Sophie Doove en Daniëlle Otten, CBS, Verkennend onderzoek naar het gebruik van algoritmen binnen overheidsorganisaties, 2018.