De intelligente omgeving: aanjager van gewenst gedrag?

Dankzij wifi en 3G, 4G en binnenkort 5G, smartphones en tablets zijn we tegenwoordig altijd online en laten we overal digitale sporen achter. Mede daardoor weten overheden en bedrijven meer van ons dan ooit, zoals pijnlijk werd geïllustreerd door de recente onthullingen over het PRISM-programma van de Amerikaanse National Security Agency.

In veel toekomstvisies over ‘big data’ en internet lijkt het erop dat de intelligente omgeving steeds meer een dwangbuis wordt die ons stuurt in ons gedrag en controleert of we ons gedragen. Diezelfde omgeving kan echter ook zo vormgegeven worden dat deze de dialoog tussen burgers en tussen burger en overheid stimuleert (‘nudging’), ons verrast en ons laat verwonderen. Tijd voor een discussie hierover.

Dit artikel schreef ik voor ‘Duwtjes in de goede richting‘, het nieuwste themanummer (2013) van De Idee, het tijdschrift van de Mr. Hans van Mierlo Stichting, het wetenschappelijk bureau van D66.

Gevaar of kans?

Internet en sociale media zijn niet meer weg te denken uit ons dagelijks leven. De afgelopen decennia is vrijwel alles wat we doen gedigitaliseerd: de dingen die ons bezighouden, wat ons interesseert, waar we ons bevinden, met wie we in contact staan. Deze ontwikkelingen hebben gemak en talloze nieuwe mogelijkheden opgeleverd: toegang tot een vrijwel onuitputtelijke bron van informatie en kennis, de mogelijkheid om direct onze mening te geven en onze belevenissen met anderen te delen, en samenwerking op een grotere schaal en met een grotere snelheid en flexibiliteit dan ooit tevoren. Tegelijkertijd kan de overheid hiermee meer te weten komen over ons privéleven en over onze overtuigingen, en kan ze
ons gedrag meer sturen in een gewenste richting. Maar wie bepaalt wat gewenst is?

Smart city: de intelligente omgeving

Onze leefomgeving steeds intelligenter. Binnen enkele jaren beschikken we in het Westen vrijwel allemaal over een smartphone met toegang tot internet; we zijn dan altijd en overal met internet verbonden. De online en offline wereld gaan steeds meer door elkaar heen lopen: op onze smartphone of Google Glass zien we aanvullende informatie over degene die we op ons af zien lopen of het gebouw waar we bij stil staan. En onze handelingen en uitingen worden digitaal opgeslagen of gedeeld met anderen. Mobiele apps houden bij waar we op klikken en waar we mee bezig zijn om ons zo nog beter te kunnen adviseren en reclame te kunnen tonen. Gemak dient de mens. Smartphones detecteren onze beweging, de richting waarin we kijken, de kwaliteit van de omgeving om ons heen, het geluidsniveau en via de camera kijken andere mensen mee. En in de omgeving komen steeds meer sensoren die de luchtkwaliteit meten of de verkeersdrukte, of de sterkte van een gebouw of dijk.

Door intelligente dataverwerking kan uit al deze informatie uit verschillende bronnen nieuwe kennis worden gedestilleerd: over ons gedrag, over het verband tussen onze levensstijl en gezondheid, ons aankoopgedrag en onze voorkeuren. Alles wordt data. De stad wordt een intelligente omgeving die zich bewust is van wat zich afspeelt binnen haar grenzen, door het voortdurend interpreteren van de signalen die het verwerkt. Welkom in de smart city. Met slimme analysetechnieken worden de videobeelden van camera’s overal in de stad geïnterpreteerd. Gezichtsuitdrukkingen, de intonatie van onze stem en de formulering van onze e-mails verraden onze emoties. Begripvol doet een sympathieke vrouwenstem ons een suggestie om iets te kopen of te eten. En bij alleen suggesties blijft het niet. Psychologische principes worden gebruikt om ons te verleiden om meer te kopen, meer te gaan bewegen en energiezuiniger te gaan rijden en ons op een voorspelbare manier door de stad te laten bewegen. Als we al keuzes krijgen voorgelegd, dan gebeurt ook dat op een slimme manier, zodat we een gunstiger abonnement nemen op kranten of een hypotheek afsluiten waarmee we ons financieel niet in de problemen brengen. Voortdurend worden we geholpen, geadviseerd, gestuurd, krijgen we een duwtje in de ‘goede’ richting en worden we, netjes gezegd, digitaal gecoacht.

Hierbij wordt wel gesproken van ‘nudging’ (het steunen en een duwtje in de goede richting geven), ‘persuasive technologies’ (overtuigen met bewezen psychologische beïnvloedingstechnieken) en ‘behavioral economics’ (gedragseconomie). Beleid dat aanzet tot goed en verantwoord gedrag wordt ook ‘paternalistic policymaking’ genoemd.

De belofte van een betere samenleving

Deze zogenaamde ‘Big Data’-revolutie brengt grote beloften met zich mee. Producten en diensten kunnen individueel op maat worden aangeboden: op het juiste moment, op de juiste plaats en aansluitend bij de behoeften van dat moment. Stromen van verkeer en goederen kunnen efficiënt worden afgehandeld, het gebruik van grondstoffen efficiënter gemaakt, de opbrengst van onze landbouw vergroot, en onze omgeving kan schoner worden, de mensen die er werken gezonder en gelukkiger.

‘Alles wordt data. De stad wordt een intelligente omgeving die zich bewust is van wat zich afspeelt binnen haar grenzen, door het voortdurend interpreteren van de signalen die het verwerkt’

Op basis van de ontwikkelde kennis kan de slimme planeet ook anticiperen op naderend onheil. Vroege detectie en signalering van een naderende file, van een opkomende tsunami of epidemie of van dreigende rellen kan helpen om tijdig in te grijpen. Onze planeet wordt niet alleen slimmer maar ook veiliger, zo is de belofte. De Amerikaanse CIA ontwikkelt onder andere in samenwerking met Google een systeem waarmee geanticipeerd kan worden op rellen en terroristische aanslagen. Deze ontwikkeling sluit nauw aan bij de film Minority Report waarin misdadigers opgepakt konden worden nog voordat ze een misdaad begaan hadden die voorzien werd door een drietal helderzienden. Het ideaal van ‘precrime’: een misdaadvrije samenleving. De recente onthullingen over het vergaande aftap- en afluisterprogramma van de Amerikaanse overheid (PRISM) laten een andere kant zien van de ‘Big Data’-revolutie. We ‘betalen’ voor veiligheid en gemak met onze privacy. Ook de Nederlandse overheid laat zich niet onbetuigd. Sociale media monitoring groeit snel en heeft na de rellen in Haren een extra impuls gekregen.

Het staat inmiddels hoog op het lijstje van politie en justitie. Daarbij worden nauwkeurig sociale netwerkstructuren in kaart gebracht: wie staat
in verbinding met wie, wie zijn de belangrijke spelers in het netwerk – de gangmakers en beïnvloeders. Meer dan ooit beschikken overheden over mogelijkheden om achter onze voordeur te kijken, in ons privéleven. Meer dan ooit geven we overheden een kijkje in ons privéleven en onze persoonlijke overtuigingen door de berichten die we via bijvoorbeeld Twitter versturen.

Ruimte voor ongehoorzaamheid?

Alle nieuwe mogelijkheden om te meten en te beïnvloeden sluiten aan bij het utopisch wensbeeld van een maakbare samenleving waarin risico’s worden uitgebannen. Effectiever beleid en een gezonde en veilige samenleving, wie kan daarop tegen zijn?

Voortdurende monitoring heeft weliswaar enkele aanslagen kunnen voorkomen, maar niet volledig uitgebannen: denk aan de aanslagen van 9/11, Project X in Haren, de bomaanslagen bij de marathon van Boston. Risicoprofielen voor kans op bijvoorbeeld borstkanker geven altijd een kans aan, maar nemen onzekerheid niet weg. Zelfs een kleine kans is psychologisch een groot risico.

Toch valt er op dit beeld heel wat af te dingen. Doordat we vrijwel alles kunnen meten lijkt het alsof we alles weten. Computers vertellen echter geen waarheid, maar geven de waarschijnlijkheden aan en verbanden tussen gemeten data. Data die voor meerdere interpretaties vatbaar zijn. Met alle risico’s van dien. Facebook experimenteert al met nieuwe vormen van gerichte reclame en liet als ‘gimmick’ zien dat op basis van sociale netwerkanalyses te ‘bepalen’ is wat iemands religieuze of seksuele voorkeur is. Bij benadering dan, want het blijven statistieken die een waarschijnlijkheid aangeven.

Doordat we heel veel kunnen meten lijkt het alsof we alles weten. Computers vertellen echter geen waarheid, maar geven de waarschijnlijkheden aan en verbanden tussen gemeten data’. Statistieken zijn geen aboslute waarheden.

Statistieken die het risico in zich hebben te worden gebruikt als waarheden: wat waarschijnlijk is, is vast waar en waar rook is, is vuur. We worden al beoordeeld en veroordeeld (door de overheid? of door elkaar op sociale media) voor we iets gedaan hebben. Als het om het tonen van reclames voor producten gaat, is het niet zo erg dat de computer ons ‘veroordeelt’, maar wat als het de overheid is die ons van een misdrijf beschuldigt of van ongewenst gedrag (pedofilie, incest, belastingfraude)? En dan moet je van goeden huize komen om dat te weerleggen. Niet voor niets staat de film Minority Report geheel in het teken van deze moeilijke strijd tegen het systeem om de eigen onschuld te bewijzen.

Uiteindelijk bleek in de film dat de data van het systeem gemanipuleerd waren. En wel zodanig dat de hoofdpersoon ten oprechte beschuldigd werd van een moord die door het systeem was voorspeld. De sleutel naar de waarheid was een zogenaamd ‘minority report’, een melding van het systeem dat de data (in dit geval visioenen van ‘helderzienden’) niet eenduidig waren.

En de invloed van het systeem gaat verder dan het beoordelen en veroordelen. De inzet van persuasieve technieken beperkt de vrijheid van het eigen handelen. De overheid stuurt ons gedrag in de gewenste richting (bijvoorbeeld gezonder leven, veiliger rijden). Maar wat als we niet aan deze norm willen of kunnen voldoen? Als we ongezond willen leven, onszelf in gevaarlijke situaties brengen tijdens avontuurlijke vakanties en ‘s nachts het gaspedaal wat harder intrappen? Zijn er dan sancties te verwachten? Gaat de verzekeringspremie dan omhoog? Wordt onze zorg duurder of krijgen we geen uitkering meer? Ons onttrekken aan de normen die de technologie ons oplegt lijkt vrijwel onmogelijk te worden. Waar is de ruimte voor burgerlijke ongehoorzaamheid en de vrije keuze voor een alternatieve levensovertuiging?

En wie heeft er nog overzicht over de complexe computersystemen die alle data verwerken en interpreteren? Wie controleert de verwerking en waar wordt de discussie gevoerd over de aanna- mes die er in de software zitten, op basis waarvan het beslissingen neemt en ons gedrag stuurt? Wie bepaalt wat gewenst is? Zaken die tot nu toe altijd onderworpen zijn geweest aan een voortdurend en uitgebreid maatschappelijk en politiek debat. Zal dit zo blijven als steeds meer van deze handelingen door computersystemen worden verricht?

Dialoog in plaats van determineren

Door de technologische ontwikkelingen die nu al aan de gang zijn lijkt onze vrijheid steeds verder te worden ingeperkt door bedrijven (denk aan de automatisch gekuiste foto’s bij Facebook) en overheden. De keuze om niets te doen met alle nieuwe informatie kan steeds meer gezien gaan worden als een keuze tegen een veiligere en gezondere samenleving. Welke politicus durft bewust te kiezen voor mogelijk meer doden door een ongezonde levensstijl en terroristische aanslagen in ruil voor meer privacy en ruimte voor eigenwijs en afwijkend gedrag?

Genoeg voer voor discussie. En die is nodig om vanuit de maatschappij mede richting te geven aan het ontwerp en het gebruik van nieuwe technologie. Want technologie kan ook anders worden ingezet. Zo zijn er projecten waarin een spelsituatie wordt gecreëerd die mensen spontaan met onbekende medebewoners in contact brengt. Bijvoorbeeld doordat er iets omvalt, van kleur verandert, geluid maakt of tevoorschijn schiet.
Of doordat de ene persoon een tekstberichtje ontvangt op zijn telefoon dat vragen oproept en waar de buurman een antwoord op blijkt te hebben. Een reeks van gebeurtenissen die mensen uitdaagt om samen een ‘spel’ te spelen waarvan de spelregels en uitkomst nog niet vastliggen.

In een ander project is een instrument gemaakt waarmee meerdere mensen samen muziek kunnen maken door interactief samen te werken. De deelnemers zijn met elkaar verbonden doordat ze allemaal een deel van hetzelfde ‘instrument’ vasthouden. Er dus is directe terugkoppeling: de actie van de één heeft direct invloed op de ander. Door samen te werken en het gedrag op elkaar af te stemmen kan uiteindelijk muziek gemaakt worden. Een voorbeeld van hoe wederkerigheid gemedieerd kan worden.

Kortom, niet nog meer technologie die determineert en profileert en ons in een hokje duwt of een stempel geeft (of een ‘tag’), maar technologie die ons verwondert, ons spontaan iets nieuws laat ontdekken, ons uitnodigt om met anderen in contact te treden of gezamenlijk iets aan te pakken, die ons laat nadenken, het goede in ons aanmoedigt. Niet zozeer om een zogenaamd voorspelbare uitkomst of resultaat te krijgen, maar gewoon om te voeden met andere impulsen.

Ruimte voor positieve prikkels met onvoorspelbare uitkomsten, gekke uitspattingen, iedereen zijn eigen fetisj, alternatieve zienswijzen en wellicht een beetje burgerlijke ongehoorzaamheid. Uiteindelijk is dat wat het leven en onze samenleving als geheel de moeite waard maakt. Het zou goed zijn als er bij het ontwikkelen en toepassen van nieuwe technologie meer ruimte gegeven wordt aan de meer emotionele en empathische kant in plaats van de rationele, deterministische.

Lees meer over de genoemde projecten en hoe de intelligente omgeving burgers in staat stelt om beter beslissingen te nemen en samen te werken (met elkaar en overheden) in hoofdstuk 5 van mijn boek ‘Samen slimmer’.

Afbeelding: MIT SENSEable City Lab