De digitale samenleving vraagt om een ingebedde overheid

Publieke waarden verankerd in digitale systemen. Amerikaans of Chinees moreel imperialisme aan banden.

Intelligente systemen zijn niet waardenvrij maar worden geprogrammeerd door  bedrijven, overheden en personen. Daarom moet de samenleving een aantal harde democratische en rechtsstatelijke principes benoemen die ze verankerd wil zien in nieuwe technologie. Een ‘ingebedde overheid’, als het ware, die overal zit ‘ingebakken’ in de broncode van systemen en algoritmes en op basis waarvan deze systemen beslissingen nemen en keuzes maken. Zo zouden belangrijke publieke waarden als solidariteit, inclusiviteit, gelijkheid en toegankelijkheid geborgd kunnen worden.

Dit artikel maakt onderdeel uit van de reeks ‘Overheid als platform‘ en verscheen bij Publiek Denken, een netwerkplatform voor professionals in de publieke sector.

De apparaten die we gebruiken en de omgeving om ons heen worden steeds intelligenter. Zo kunnen we tegenwoordig praten tegen onze smartphone en wordt het verkeer in de stad efficiënt geregeld met intelligente verkeerslichten. In de toekomst zullen zelfrijdende auto’s, drones en robots steeds normaler worden in het straatbeeld. Waar systemen, apparaten en voertuigen in eerste instantie alleen gegevens verzamelden, gaan ze steeds meer zelf gegevens interpreteren en op basis daarvan informatie filteren, keuzes maken, beslissingen nemen en ernaar handelen. Met dank aan kunstmatige intelligentie.

Hiermee wordt de vraag steeds dringender volgens welke principes en met welke ‘overtuigingen’ [technisch ‘belief systems’ genoemd] deze systemen hun beslissingen nemen. Een bekend dilemma is dat van de zelfrijdende auto die op het punt staat om te botsen met enkele overstekende voetgangers. Waar mensen meestal in paniek het stuur omgooien of een voorkeur voor links of rechts hebben, kan de zelfrijdende auto een ‘bewuste’ afweging maken hoe hij de botsing in gaat. Wie ‘offert’ de auto op: de bestuurder, het oude omaatje, het jonge maar zieke kindje of de skater met helm die hem misschien beschermt?

Voorgeprogrammeerd

De afgelopen jaren is steeds duidelijker geworden dat digitale producten en diensten niet waardenvrij zijn maar voorgeprogrammeerd door de bedrijven, overheden en personen erachter. De vorm en positie van knoppen op de website, de volgorde van zoekresultaten, de berichten in onze tijdlijnen worden al bepaald door algoritmes van Booking.com, Google en Facebook. Zij bepalen welke beelden en teksten ‘kuis’ en netjes zijn en welke niet zijn toegestaan. Onder druk van overheden gaan deze bedrijven zich steeds meer bezighouden met filteren om zo vermeend nepnieuws en haat zaaien uit te bannen. Lees hier mijn serie artikelen over nepnieuws.

De platformeconomie heeft laten zien hoe producten en diensten steeds meer met elkaar verweven raken en onlosmakelijk verbonden zijn met verdienmodellen. Met deze door Silicon Valley gedomineerde platformeconomie hebben we een echte survival of the fittest-mentaliteit geïmporteerd: iedere individuele maker of dienstverlener moet zichzelf bewijzen als een individuele ondernemer, en wordt beloond of afgerekend
op zijn individuele prestaties en reputaties die door wederzijdse beoordelingen worden opgebouwd. Relaties worden vooral gezien als transacties waarvan het platform als intermediair telkens profiteert.

Vol afgrijzen kijken velen van ons in het Westen naar het Chinese kredietsysteem waarbij het te vaak door rood licht oversteken als voetganger je je huwelijksakte of bouwvergunning kan kosten. In ieder geval trekt de Chinese overheid de controle over de technologie naar zich toe en lijken de intenties transparanter dan die van grote tech-bedrijven in het Westen.

Bewust of onbewust importeren we met onze producten en diensten waarden en normen uit andere samenlevingen en van ideologieën zoals de markteconomie of bedrijfsmatigheid en efficiëntie. Nu lijken het misschien nog een handjevol bedrijven of overheden te zijn die onze blik op de wereld bepalen en keuzes voor ons maken, zodat we die kunnen aanspreken en publiekelijk kunnen bekritiseren. Nu het aantal apparaten en systemen dat voorgeprogrammeerd is en over enige mate van kunstmatige intelligentie beschikt explodeert, zal dit al snel onmogelijk worden. Hiermee komt de vraag op welke waarden, overtuigingen en welk moreel kompas deze intelligente systemen zullen hebben. En hoe we die als samenleving nog kunnen controleren of beheersen. Google heeft inmiddels een ‘onafhankelijk’ instituut opgericht voor het ontwikkelen van ethische richtlijnen voor kunstmatige intelligentie. Ook het befaamde onderzoeksinstituut MIT ontwikkelt dergelijke richtlijnen.

Laten we de ontwikkeling van kunstmatige intelligentie en morele codes over aan deze Amerikaanse bedrijven en instituten zoals zij ook het voortouw namen in de platformeconomie? En hoe gaan we al deze systemen en algoritmes controleren en toetsen? Vóórdat ze op de markt worden toegelaten of achteraf als ze eenmaal op de markt zijn en er klachten komen of ongewenste uitwassen ontstaan zoals het nepnieuws op Facebook en de overlast door Airbnb?

Overheid als softwarecode

In plaats van af te wachten waar bedrijven en buitenlandse kennisinstituten mee komen, zouden we als samenleving het voortouw kunnen nemen in het benoemen van enkele harde democratische en rechtsstatelijke principes die we verankerd willen zien in de technologie. Net zoals we deze al verankerd hebben in onze instituties, waaronder de overheid als beschermer van het collectieve en het publieke. Een ‘ingebedde overheid’, net zoals het Intel inside-logo dat jarenlang op computers te vinden was en verwees naar de producent van de computerchip, die overal ‘ingebakken’ zit in de broncode van systemen en algoritmes en op basis waarvan deze systemen beslissingen nemen en keuzes maken.

We zouden als samenleving het voortouw moeten nemen in het benoemen van enkele harde democratische en rechtsstatelijke principes die we verankerd willen zien in de technologie.

Hiermee zouden belangrijke publieke waarden als solidariteit, inclusiviteit, gelijkheid en toegankelijkheid geborgd kunnen worden. Solidariteit, bijvoorbeeld, kan betekenen dat bij iedere transactie een deel wordt afgedragen voor een collectief vangnet; gelijkheid kan ingevuld worden door in bepaalde gevallen geen gebruik te maken van profilering maar door het te laten lot bepalen welke persoon de zelfrijdende auto aanrijdt; nieuws zou zo min mogelijk gefilterd of gecensureerd moeten worden maar de herkomst duidelijker aangegeven zodat het maatschappelijke debat zo open mogelijk kan blijven.

De zelfrijdende auto moet niet kiezen wie hij bij een aanrijding beschermt. Laat het lot beslissen: de dobbelsteen.

Door op deze manier bouwstenen te ontwikkelen vanuit onze bestaande rechtsstaat, die bovendien democratisch gelegitimeerd is, kan de technologie zich verder gaan ontwikkelen langs deze paden en langs de lijnen van wat we sociaal en maatschappelijk hebben opgebouwd. Zo kan de samenleving een belangrijke rol spelen bij het ‘programmeren’ van de toekomst. De gedigitaliseerde samenleving van de toekomst met daarin intelligente systemen die beoordelen en filteren, heeft een ‘ingebedde overheid’ nodig om ervoor zorgen dat alle burgers onder gelijke voorwaarden kunnen participeren en dat de overheid haar taken kan uitvoeren en (effectief en efficiënt) haar doelen kan realiseren.

Dus wie binnen de overheid gaat het voortouw nemen en lukt het om dit op Europees niveau aan te pakken? Of willen we wachten op nog meer invloed van Amerikaans of Chinees moreel imperialisme?

Afbeelding brood met ingebakken overheid: Dimitri de Bruin, uit: Publiek Denken, editie 14.