“Technologie dwingt ons weer principieel te worden”

Interview

Eduard van Brakel van ManagementImpact interviewde mij deze zomer over mijn visie op de huidige ontwikkelingen en mijn verwachtingen voor de toekomst. Hieronder zijn verslag met in steeds in quotes mijn uitspraken.

Digitalisering en kunstmatige intelligentie zijn de meest disruptieve ontwikkelingen waar we de komende decennia mee te maken krijgen. Zowel op de goede als op de slechte manier. Want al die nieuwe ontwikkelingen, zetten onze oude ethische normen en waarden onder druk. Futuroloog en auteur Maurits Kreijveld zegt het als volgt: “Bij elke grote nieuwe technologische vooruitgang hebben we een nieuw geloof nodig.” Een interview over internet, onze data, robots als hondjes en onsterfelijk leven, met ethiek als rode draad.

“Nu digitalisering en andere technieken onze wereld bijna volledig programmeerbaar maken, komt des te meer de vraag op: volgens welke principes en op welke manier gaan we onze samenleving en leefomgeving vormgeven? Daar moeten we heel verantwoordelijk mee omgaan. “

“Mensen houden graag alles onder controle. En digitalisering past daar uitstekend in, zegt Kreijveld op een terrasje in de historische binnenstad van Delft: “Het digitaliseren heeft iets universeels in zich, het manifesteert zich in alle bedrijfstakken en steeds meer technologieën worden erdoor geraakt, denk aan de biologie, waar we nu met genen knippen en plakken alsof het letters uit het alfabet zijn. Dat maakt dat zelfs de koffie steeds meer digitaal wordt. En daar zit ons menselijke streven om alles naar onze hand te willen zetten in. En dat is ook wat digitalisering is: alles wordt meetbaar en alles wordt programmeerbaar. De afgelopen decennia zijn vooral in de ICT grote doorbraken geweest: rekenkracht, data-opslag, miniaturisering gingen exponentieel. En dat heeft geresulteerd in o.a. de smartphone en de cloud en het feit dat informatieopslag bijna gratis is. Alles wat we digitaliseren kunnen we verwerken met ditzelfde systeem dat we al gebouwd hebben. Dat maakt digitalisering zo krachtig en alles absorberend. Daardoor hebben we wel een soort monster met waterhoofd gebouwd, want we hebben wel ‘ons’ IQ vergroot maar niet ons EQ: de menselijke maat, het sociale en ethische. Er dreigt nu een disbalans te ontstaan.”

“Monster is misschien niet het goede woord als we het hebben over technologie waarmee we goede dingen doen, zoals het optimaliseren van de opbrengst van het land, of bij het beter maken van patiënten. Maar aan de andere kant is het wel een soort monster, omdat het wat onbeheersbaar wordt en vervreemdend kan zijn: de menselijke maat raakt zoekt. We kunnen het niet meer alleen (in ons eentje) overzien, terwijl we dat wel veel gebruiken in onze beslissingen en handelingen. Want sinds we internet hebben hadden we een gevoel van zelfbeschikking gekregen: dat zoek ik zelf wel even uit, dat google ik wel even, ik kijk zelf wel even uit wat die ziekte is en of mijn arts gelijk heeft. Daar zit dus een spanning in. Die is enigszins op te lossen als we het collectief geleerde individueel kunnen hanteren. Misschien gaat kunstmatige intelligentie ons daarbij helpen.”

Internet geen vrijplaats meer

“De reden om onderzoek te gaan doen naar de opkomst van de platformeconomie is omdat ik al vroeg zag dat er steeds meer machtsopbouw op internet aan het ontstaan was. “Internet is al lang niet meer de vrijplaats waar alles kan, of waar je even kon ontsnappen, of waar iedereen gelijk was, die het leek te zijn.”

“Want je ziet steeds meer dat landen zeggen: “We willen onze wetten ook op internet toepassen. Dus content die ons niet bevalt, willen we er niet ophebben en moet gefilterd worden”. In Nederland beperken we dat tot kinderporno en extreem gewelddadige beelden of haat zaaien. Er zijn genoeg, met name niet-Westerse landen die hierin een stuk verder gaan, zoals China. Toch dreigt ook in het Westen, onder druk van de bestrijding van nepnieuws, een sluipende censuur. Zoekmachines, sociale media tijdlijnen: informatie wordt automatisch gerangschikt en schadelijk of nepnieuws kan dan lager op de lijst staan zodat de meeste mensen het niet meer opmerken.”

De macht van platformen als Uber

“Tegelijk hebben grote, vaak nieuwe organisaties de macht op internet gegrepen en ‘kanalen’ gecreëerd en verdienmodellen ontwikkeld, terwijl dat helemaal niet zou hoeven als ondernemers meer samenwerken”, denkt de auteur van De kracht van Platformen: “Waarom moet een Amerikaans Platform als Uber of Airbnb bij mij in de buurt leveren? Waarom gebruiken we een landelijk platform als Thuisbezorgd, dat gebruik maakt van lokale bezorgers die producten van lokale leveranciers bezorgen? Alle ondernemers van Delft zouden samen een lokaal platform voor het bezorgen van eten of voor een taxidienst kunnen maken. Maar zo worden op dit moment de meeste platformen nog niet opgezet. Het zijn de internationaal opererende spelers die met hun centrale platformen komen. Deze internationale spelers proberen gevoel te krijgen voor wat er in mijn wijk speelt terwijl ze weinig of niets bijdragen aan de lokale gemeenschap of lokale economie, sterker nog je zou ze als parasieten kunnen beschouwen die waarde onttrekken. Je zou willen dat wij als Delftenaren slimmer en wijzer worden in onze eigen stad van de platformen die er actief zijn. Er wordt nog niet zoveel nagedacht over hoe je lokaal meer synergie kan creëren. Het lijkt erop alsof men te weinig urgentie ervaart, en ondertussen grijpt een internationaal opererend bedrijf als Facebook, Google, Amazon of Thuisbezorgd zijn kans en slaat een slaatje uit het feit dat er lokaal geen samenwerking is die concurrent zou kunnen zijn van het internationale platform of deze overbodig zou maken.”

Toets het algoritme

De gebruikte algoritmes, platformen en systemen zijn dus niet neutraal, maar sturen en geven richting. Het is de missie van Maurits Kreijveld om te inspireren, maar ook om mensen bewust te maken van de gevaren en kansen die de digitalisering biedt. Omdat algoritmes steeds complexer worden zeker in combinatie met de data waarvan ze leren, kunnen we deze amper nog controleren. “Je ziet dat de enige manier om grip op de technologie te houden, is door terug gaan naar onze principes die we willen borgen in de samenleving en die moeten verankerd worden in de technologie.”

“En dan kunnen we de algoritmes toetsten en kijken of ze zich aan bepaalde regels en normen en waarden houden en geen dingen doet die we niet willen. Een toets voor algoritmes is iets wat in Denemarken al is ingevoerd, dus dat is iets waar we zeker naar moeten kijken . De technologie dwingt ons terug te gaan naar ethiek, die dwingt ons weer principieel te worden. Als we alles kunnen programmeren en niets meer waardevrij is, en software zo intelligent is dat hij zelf kan programmeren, dan moeten we terug naar de basis en nadenken wat voor samenleving we met elkaar willen hebben, wat we eerlijk, rechtvaardig en beschaafd vinden.”

Nieuwe dilemma’s door vooruitgang

“Want we krijgen er door technologische vooruitgang nieuwe dilemma’s bij ook. Zelfrijdende auto’s moeten ineens de keuze maken hoe ze een botsing ingaan. Je ziet het ook in discussies over het eigen beheer van data door burgers zelf. Opeens krijg ik er verantwoordelijkheid voor mijn data bij. En als akkoord geef, dan zeg ik dan ook dat het de goede data zijn, en dan kan ik in discussies terecht komen over het delen van die data die normaal door artsen worden gevoerd (met bijvoorbeeld zorgverzekeraars). Je zou bij data ook kunnen inbouwen dat ze by default niet gedeeld worden. En dat je de keuze hebt om al je data te laten wissen en dat die dan ook uit alle databases verwijderd moeten worden. Dat zijn hele robuuste maatregelen waarmee je als burger en consument sterker komt te staan.”

Veel mensen en organisaties die met technologie en innovatie bezig zijn, zien vooral voordelen van digitalisering maar Kreijveld is ook kritisch: “Niet alle technologische ontwikkelingen zijn per definitie vooruitgang ook al worden ze zo altijd wel geframed en bedoeld. Soms is het is de vraag de proportionaliteit niet zoek is en of de vooruitgang alle inbreuken op privacy en grote investeringen rechtvaardigen, investeringen die in andere zaken gedaan hadden kunnen worden. Inderdaad, het ICT-monster zoekt als het ware voortdurend nieuwe voedingsbodems en wil groeien, en dat hoeft niet iets te zijn dat we vanzelfsprekend vinden of waar we aan mee doen als samenlevingen. Maar door de dominantie van de IT-industrie is dat haast onmogelijk.”

Robots en programmeerbaar leven

Een andere belangrijke ontwikkeling die ons leven flink de komende decennia flink zal gaan beïnvloeden is robotica met kunstmatige intelligentie. Er verdwijnen al banen door de verregaande robotisering. En tegelijk worden er ook weer nieuwe banen die voorheen niet bestonden gecreëerd. Daarbij worden robots ook steeds slimmer: er zijn robots die andere robots ontwerpen die effectiever zijn dan hun voorganger. De grote angst in de samenleving is dan ook dat robots op een geven moment de mens verstoten. Kreijveld: “We kunnen dat niet uitsluiten, al is het een echt doemscenario. Maar juist daarom moeten we belangrijke controlemechanismes en een ‘uit’-knop inbouwen en belangrijke maatschappelijke zaken hard regelen. Want het programmeren stopt niet bij alleen computers en robots, de volgende stap – die in laboratoria al aan de gang is – is programmeerbaar leven, waarmee je bijvoorbeeld virussen kunt maken.”

“Een veiligheidsmaatregel is dat de code van een synthetisch gemaakt virus altijd openbaar gemaakt moet worden, zodat er altijd en ook door anderen een tegengif gemaakt kan worden. Een bedrijf dat voorop loopt in het maken van synthetische virussen en organismen (van Graig Venter) doet dat ook.”

Kreijveld ging zich bezighouden met nieuwe ontwikkelingen omdat de toekomst hem fascineerde. De ontwikkelingen stoppen nooit: elke keer zijn er weer nieuwe toepassingen die hij kan bestuderen en die hij wil begrijpen. “Na de consumentenelektronica – toen ik jong was – en de smartphone, zie ik nu het tijdperk voor robots aanbreken. Je ziet, daar waar ze worden ingezet, dat robots heel snel onze buddy’s gaan worden. Net als bij huisdieren projecteren wij mensen daar onszelf of soortgenoten op. En robots worden zo vertrouwd, je kunt erop wachten tot mensen zeggen: ‘je kunt ze toch niet zomaar afmaken, of uitzetten? Ze moeten ook rechten krijgen.’ In Japan is dat zelfs al zo, en steeds meer landen wordt daarvoor gepleit.”

Eeuwig leven?

AI brengt ook de stap van een ‘eeuwig leven’ dichterbij. We kunnen organen 3D-printen. We zijn op weg om van kanker geen dodelijke maar een chronische ziekte te maken. Gaan we op weg naar eeuwig leven? Kreijveld: “Het zou goed kunnen dat we op een of andere manier ‘voortleven’. We zijn al in bijna in staat om ons brein digitaal na te bootsen. Een computer zou dan een ‘kopie’ van ons brein kunnen bevatten en op dezelfde manier kunnen reageren als de betreffende persoon zou doen: het onderscheid tussen origineel en kloon is dan weg. Hiermee kun je een overleden echtgenoot laten voortleven.”

Daar komt nog bij dat we ook een avatar kunnen maken van een persoon waarbij je iemand alles kunt laten zeggen wat je intypt met zijn eigen gezicht en stem. Kreijveld vertelt: “De nieuwste iPhones hebben al gezichtsherkenning aan boord waarmee dit zou kunnen. Adobe demonstreerde een softwarepakket waarmee geluid bewerkt kon worden: iemands stem kon perfect nagebootst worden door enkele minuten gesproken tekst te analyseren. Ook zouden we ons brein langer werkend kunnen houden door het te stimuleren. Maar misschien denken we veel te gemakkelijk over het scheiden van lichaam en geest en over het overzetten van het brein.”

“Eigenlijk heeft elke golf van technologie daarom een nieuw geloof nodig: geloof om zin te geven, houvast te geven en richting te geven, die de technologie en wetenschap ons nooit volledig kunnen geven.”

Ethiek: hoe ontwerpen we onze samenleving?

“De technologische vooruitgang zorgt ervoor dat we steeds meer gaan geloven in maakbaarheid. Mijn opa en oma hadden geleerd om te berusten in bepaalde zaken en de dingen veel meer te nemen zoals ze komen. Maar zelfs het weer willen we niet meer aan het toeval overlaten en proberen we naar alles naar onze hand zetten. In China hebben ze dit ingezet rond de Olympische Spelen. Er zijn hele ideeën ontwikkeld over hoe we het weer zouden kunnen beïnvloeden en er zijn zelfs ideeën om daar systemen voor te bouwen, onder de noemer climate engineering en geo enigineering. Maar ook op kleine schaal willen we alles manipuleren, terwijl we vaak niet eens weten wat we nu echt willen. Maar in dat denken past het niet willen sterven, zodat we niet met dat verlies hoeven om te gaan.”

“Toch moeten we niet te snel denken dat we alles kunnen verklaren en alles kunnen ‘maken’. Tijdens de Verlichting hebben we ons logische denkvermogen (de ratio) op een voetstuk gezet en een einde gemaakt aan het oude geloof dat steeds meer bijgeloof leek te zijn nu ‘alles’ wetenschappelijk te verklaren viel’. Technologische vooruitgang blijft ons geestelijk uitdagen. Eigenlijk heeft elke golf van technologie daarom een nieuw geloof nodig: geloof om zin te geven, houvast te geven en richting te geven, die de technologie en wetenschap ons nooit volledig kunnen geven. Een computer kan omgaan met 82% zekerheid maar een mens eigenlijk niet. De godsdienstige boeken staan vol ethiek, ethiek die met nieuwe technologie voortdurend wordt beproefd. Oude kaders en heilige huisjes worden omver gehaald, de romantiek verdwijnt steeds meer omdat de nieuwe technologie de oude regels doorkruist en de wereld steeds weer een beetje maakbaarder en programmeerbaarder lijkt te worden. Daar moet weer iets voor in de plaats komen, dat hebben we als mens nodig.”

Maurits Kreijveld is futuroloog, spreker en adviseur. Ook schreef hij de boeken De plug&play-organisatie, Samen slimmer en De kracht van platformen, alle uitgegeven door ManagementImpact Uitgevers (voorheen Kluwer Management, Vakmedianet Management). Alle drie de boeken werden genomineerd. 

Door: Eduard van Brakel

Dit artikel werd gepubliceerd bij ManagementImpact