Technologie is niet waarde-neutraal
DANIEL SCHMACHTENBERGER*
De wijdverbreide toepassing van nieuwe technologieën heeft altijd onbedoelde gevolgen. Innovatie verloopt gewoonlijk op zo’n manier dat veel technologieën zich gezamenlijk tot afzonderlijke technologische ecosystemen* ontwikkelen, met emergente en uiterst complexe gevolgen. Zo had de opkomst van de auto een diepgaande invloed op onze perceptie van tijd en ruimte. Lastige en tijdrovende verplaatsingen werden door auto’s veel gemakkelijker gemaakt, waardoor er zowel voor individuen als voor markten nieuwe mogelijkheden ontstonden. Dit beïnvloedde hoe we denken, hoe we plannen maken voor de toekomst en wat we belangrijk vinden in het leven.
De auto bepaalde hoe we onze steden bouwden en dus welke plaatsen gewaardeerd werden en welke niet. Gemotoriseerde voertuigen drukten hun stempel op hoe we voedsel, sociale interactie en werkgelegenheid distribueerden en toegankelijk maakten, waardoor onze relaties, gezinnen en bestaansmiddelen veranderden. Tegelijkertijd koppelden ze mensen los van de lokale economie en gemeenschap, veroorzaakten ze schadelijke emissies en hadden ze een grote invloed op onze gezondheid en ons welzijn. Er zijn weinig aspecten van het moderne westerse leven die niet door de auto zijn beïnvloed.
In dit artikel stellen we dat technologieën onvermijdelijke en onverwachte effecten hebben, zowel op de menselijke geest als op de samenleving als geheel. Tijdens het overgrote deel van de geschiedenis is er bij het ontwerpen van technologie van uitgegaan dat dergelijke tweede- en derde-orde-effecten niet optreden of dat technologische innovatie per saldo positief is. Deze benadering wordt ‘technologische orthodoxie’ genoemd en gaat ervan uit dat technologie neutraal staat ten opzichte van menselijke waarden. Deze invalshoek moet veranderen wil de mensheid kunnen overleven in een wereld waarin technologie zich almaar meer opdringt en complexer wordt. Op dit moment in de geschiedenis is het essentieel dat we voor een ontwerpbenadering kiezen die rekening houdt met hoe technologie van invloed is op de manier waarop mensen denken en zich gedragen. Zo’n benadering heet axiologisch ontwerp. Axiologie is de filosofische bestudering van waarden, met inbegrip van ethiek en de filosofie van de geest. Axiologisch ontwerp is de toepassing van waarde-oordelen op het ontwerp van technologie. Het focust zich niet op één aspect, maar vormt een algemeen ontwerpmodel dat zich richt op hoe technologie onlosmakelijk verbonden is met onze kijk op de wereld en onze activiteiten daarin. Technologie beïnvloedt de machtsdynamiek in de samenleving, vormt ecologieën en habitats, en drukt een stempel op de gedachten, de waarden en de relaties van degenen die er gebruik van maken.
Het is de hoogste tijd om technologie serieus te nemen, voordat ze onze wereld verandert op manieren die zich niet meer ongedaan laten maken.
De onmiskenbare impact van ‘Big Tech’ op de mensheid in de afgelopen decennia zou ons ertoe moeten aansporen om fundamentele vragen te gaan stellen over technologie.* De exponentiële snelheid van de technologische verandering plaatst de geavanceerde technologie in het hart van de dagelijkse ervaring. In plaats van voornamelijk op de achtergrond dienst te doen voor de verhoging van de arbeidsproductiviteit of de uitbouw van de infrastructuur, staat de technologische opmars nu op de voorgrond – letterlijk in de palm van onze hand – en vormt ze een centraal onderdeel van de vertrouwdste en belangrijkste aspecten van ons leven, waaronder onderwijs, communicatie, relaties en politiek. In de afgelopen decennia zijn samenlevingen fundamenteel veranderd door de innovaties van een relatief klein aantal technologen. De producten en diensten van de moderne digitale economie drijven de technologie steeds dichter naar de kern van de menselijke ervaring – en het ‘digitale tijdperk’ is nog maar net begonnen.
Het is duidelijk dat deze veranderingen vrijwel alle aspecten hebben beïnvloed van de materiële goederen die we gebruiken, de industriële productie, toeleveringsketens, energieopwekking en markttransacties – technologie betekent dat de wereld nu anders werkt. Het is voor velen misschien minder duidelijk dat deze veranderingen ook gevolgen hebben gehad voor de meeste aspecten van onze cultuur, identiteit, gemeenschap, taal, betekenisgeving en emotionele patronen – technologie betekent dat wereldbeelden, persoonlijkheden en waarden nu anders zijn. Technologieën zorgen ervoor dat nieuwe praktijken en waarden ingebed raken in de samenlevingen die deze technologieën toepassen. Dit gebeurt op vaak onvoorspelbare en onbedoelde manieren in de vorm van tweede- en derde-orde-effecten.
Technologieën die vandaag de dag gebruikt worden, veranderen nu, op dit moment, onze praktijken en waarden, en creëren daarmee de toekomst van de mensheid en haar leefomgeving. Tientallen jaren van lobbyen en onderwijs op milieugebied hebben ertoe geleid dat er steeds meer bezorgdheid is ontstaan over de materiële en milieugevolgen van technologie. Dergelijke gevolgen worden gewoonlijk externaliteiten genoemd. Hoe moeilijk het ook was om het besef van deze fysieke externaliteiten van technologie te vergroten, veel lastiger is het nog om de ethische, culturele en psychologische gevolgen – wat we psychosociale externaliteiten zouden kunnen noemen – onder de aandacht te brengen. Onze beschaving hangt nu af van ons vermogen om beide soorten zorgen effectief onder controle te krijgen. Ook al doen veranderingen in het menselijk gedrag en waardesystemen zich vaak pas op de lange termijn voor in de vorm van tweede- of derde-orde-effecten, toch moeten die effecten van meet af aan in het ontwerp worden overdacht en meegenomen.
Ontwerpen met het oog op deze effecten is een van de grote uitdagingen van onze tijd. Het zijn deze uitdagingen die het onderwerp vormen van dit artikel.
Neem nu de smartphone en alle technologieën die ermee verbonden en meegeëvolueerd zijn. Intussen vereist de smartphone niet alleen de basiscapaciteiten van een pc, maar ook internet, datacenters, toeleveringsketens voor microchips, Wi-Fi, camera’s, lenzen, microfoons, luidsprekers, software-apps en communicatiesatellieten. Verder worden de meeste smartphones aangevuld met draagbare biometrische sensoren en headsets, en kunnen ze aan van alles en nog wat – van je auto tot je wasmachine – worden gekoppeld. Een almaar groeiend assortiment van gerelateerde innovaties vergroot de kracht en de aanwezigheid van de smartphone in ons leven.
Je zou kunnen stellen dat de ecologie van technologieën rond de smartphone – het smartphone-technologie-ecosysteem – een verschuiving naar een nieuw tijdperk inluidt in de manier waarop hoe mensen zich tot elkaar en de wereld om hen heen verhouden. Deze nieuwe ecologie heeft het menselijk gedrag en de menselijke psyche in slechts twee decennia diepgaander veranderd dan wellicht enige andere technologie (religie, culturele beweging of imperium) in een vergelijkbaar tijdsbestek ooit gedaan heeft. De omvang van de invloed op de menselijke samenleving is lastig in te schatten vanwege de verstrekkende en intieme invloed ervan op de aard van onze communicatie, ons denken en onze sociale organisatie.
Denk aan alle manieren waarop onze geest, relaties en cultuur zijn veranderd door de wijdverspreide invoering van het smartphone-technologie-ecosysteem. Hoe het onze geheugen- en navigatievermogens beïnvloed heeft, of de aandachtsspanne, of de persoonlijke reflectie. Hoe het heeft ingewerkt op de waarden rond de eettafel van een gezin, of de normen van sociale interacties in het algemeen. Hoe het ons besef van tijd en ruimte heeft veranderd, en onze verwachtingen van relaties en onze communicatie. Was dit allemaal bedoeld of overdacht door de oorspronkelijke uitvinders en vroege gebruikers ervan? Zeker niet. Hooguit een paar van deze effecten zijn doelbewust geïmplementeerd, maar over de overgrote meerderheid van de gevolgen is niet eens nagedacht.
De meeste mensen hebben nu hun leven opgebouwd rond de keuzes die de smartphone mogelijk maakt. Als gevolg daarvan zijn hun waarden op talloze subtiele en minder subtiele manieren veranderd. De manier waarop apps van invloed zijn op het zelfbegrip, de geestelijke gezondheid, de ethiek en tal van andere psychosociale dynamieken is goed gedocumenteerd, vooral bij jongeren.* Op dit punt zijn de psychologische en culturele effecten van het wijdverbreide, diep ingesleten en vrijwel non-stop gebruik van deze apparaten duidelijk aan het licht gekomen. Filosofen en publieke intellectuelen gaan er in hun theorieën over het smartphone-technologie-ecosysteem vaak voetstoots vanuit dat zijn rol als uitbreiding op en verdieping van de menselijke geest verder toe zal nemen, zonder daarbij veel oog te hebben voor zijn tweede- en derde-orde-effecten.*
Uiteindelijk zijn de veranderingen in de menselijke psyche en de sociale realiteit, die voortvloeien uit de smartphone-technologie-ecosystemen, eigen aan de mogelijkheden die er van meet af aan in zijn ingebouwd. Technologieën creëren altijd het potentieel voor nieuwe vormen van gedrag, waarden en denken, zelfs als de technologie daar niet expliciet voor gemaakt is. Smartphones zijn ontworpen met het oog op waarden als communicatie en toegang tot informatie. De smartphone staat centraal in het menselijk leven omdat mensen communicatie en informatie nu eenmaal hogelijk waarderen. Maar een onvermijdelijk gevolg van het mogelijk maken van communicatie op afstand is een verandering in de manier waarop mensen rechtstreekse interactie zijn gaan waarderen. ‘Instant messaging’ en ‘facetime’ hebben persoonlijk contact vervangen als de standaardmethode van communicatie. De gemakkelijke toegang tot bijna onbeperkte informatie verandert onvermijdelijk ook de waarde die we hechten aan vaardigheden als memoriseren, informatie onthouden en het vermogen om te studeren en uit boeken te leren. Dat geldt ook voor iets ogenschijnlijk banaals als het ontwikkelen van een goed richtingsgevoel. Want als iedereen een GPS-app op de telefoon heeft, wat voor waarde heeft het dan nog om iemand de weg te kunnen wijzen of locaties te kunnen onthouden?
Een GPS-app op je telefoon is ontworpen om je daarheen te brengen waar je zijn moet, en dat doet ze ook. Het is niet ontworpen om je richtingsgevoel te ondermijnen en je ervan afhankelijk te maken. Toch doet ze dat ook.
Ook technologieën die veel minder complex zijn dan de smartphone hebben soortgelijke verstrekkende gevolgen voor de menselijke geest en cultuur. Elk nieuw door de mens ontworpen hulpmiddel heeft het potentieel om een nieuwe invulling te geven aan wat als waardevol wordt beschouwd en waarom. Neem zoiets eenvoudigs als een weegschaal, die we bijna allemaal wel in huis hebben om ons lichaamsgewicht mee te meten. Vanuit het perspectief van de geschiedenis van gestandaardiseerde meettechnologieën was dit een opmerkelijke innovatie – een betrouwbaar instrument voor het wegen van mensen, dat klein genoeg is om naast je wc te passen.
Als product voorzag de weegschaal duidelijk in een behoefte, aanvankelijk vooral van medische professionals en later van vrijwel iedereen. Maar de weegschaal maakte het lichaamsgewicht ook tot een van de meest overgewaardeerde gezondheidsindicatoren, vooral in Amerika. Een technologie op een van de meest intieme plaatsen van ons huis geeft ons een objectieve, numerieke kijk op onszelf. Het levert een getal op dat allesbepalend lijkt. De door de technologie mogelijk gemaakte kwantificering leidt dan al snel tot zelfobjectivering.* Hierdoor is het lichaamsgewicht sterk overgewaardeerd geraakt en wordt er veel meer waarde gehecht aan deze indicator dan vanuit diagnostisch oogpunt verantwoord is.
Het is al tientallen jaren bekend dat de BMI (body mass index), bloedwaarden, bloeddruk, cardiovasculair vermogen, et cetera, betere gezondheidsindicatoren zijn. Het lichaamsgewicht is ongetwijfeld belangrijk, maar op zichzelf genomen is het geen nauwkeurige maatstaf voor de kwaliteit van je voeding, je lichaamsbeweging of enig ander zinvolle aspect van je welzijn. Toch blijft gewichtsverlies een van de hoogst gewaardeerde gezondheidsresultaten, met complete industrieën die zich hierop richten. Bovendien bestaat er een duidelijke correlatie tussen de beschikbaarheid van weegschalen en de toename van anorexia.* Het punt is niet dat regelmatig op een weegschaal staan slecht voor je is, maar dat het gemak – dankzij een relatief simpele technologische innovatie – waarmee je dat kunt doen, het mogelijk heeft gemaakt om een waarde te hechten aan je lichaamsgewicht op een manier die voorheen niet mogelijk was. De weegschaal verhoogde de zichtbaarheid van het lichaamsgewicht en veranderde de manier waarop we er waarde aan hechten, over nadenken of ons er anderszins psychisch toe verhouden.
En de gevolgen hiervan waren volkomen onvoorzien.
Technologieën worden gecreëerd met het oog op waarden en materiële resultaten. Zodra technologieën in de wereld geïntroduceerd worden, geven ze vorm aan de toekomst: materieel, sociaal, psychisch en cultureel. Deze toekomst ontsnapt onvermijdelijk aan de controle van de uitvinders, de implementeerders en de vroege gebruikers.
Zelfs een simpele technologie als de ploeg werd gecreëerd vanuit waarden, zoals gemak, arbeidsproductiviteit en een wens om een gevoel van veiligheid te creëren door de voedseloverschotten te vergroten. Ze diende deze waarden door de materiële uitkomsten te beïnvloeden, bijvoorbeeld door de bodem sneller en makkelijker geschikt te maken voor het verbouwen van voedsel. Maar de ploeg zou uiteindelijk ook leiden tot vestingwerken voor het opslaan en beschermen van de voedseloverschotten en zo de aard veranderen van de menselijke leefomgeving, de architectuur en zelfs de oorlogsvoering. Verder bevoordeelde de ploeg mannen als landbouwers boven vrouwen, omdat het gebruik ervan een krachtiger bovenlichaam vereist, wat van invloed was op het ontstaan van nieuwe ideologieën omtrent de waarde van de seksen. Ook leidde de ploeg tot de domesticatie van trekdieren, wat tot een fundamentele wijziging leidde in de relatie tussen de mens en de natuurlijke wereld, waardoor de religieuze opvattingen verschoven van animistisch naar theocentrisch.
Het grootschalig gebruik van trekdieren voor het ploegen van de grond maakte het voor mensen lastig om dieren als heilig of gelijkwaardig of zelfs als waardevoller dan hen zelf te blijven zien. Het valt niet mee om de heiligheid van een dier te vereren wanneer dat de hele dag geslagen moet worden om een ploeg te trekken. Deze heerschappij over dieren werd gerechtvaardigd door de verspreiding van een cultureel narratief, waarin de rol van de mensheid gericht is op het beheersen van de natuur – in plaats van er deel van uit te maken –, wat de basis legde voor een mentaliteit die uiteindelijk in de industriële revolutie uitmondde. Dit is maar een greep uit alle andere veranderingen in onze geest, gedrag en cultuur die op de uitvinding van de ploeg zouden volgen.
Uiteraard was de ploeg niet uitgevonden met het oog op deze gevolgen, ook hadden die onmogelijk voorspeld kunnen worden door degenen die voor het eerst een ploeg ter hand namen. Technologieën evolueren tezamen met waardesystemen – geen van beide bepaalt de ander, ook al zijn ze nauw met elkaar verweven.
Zoals we zullen zien, worden hele tijdperken van de beschaving – als manieren van leven en cultuur – afgebakend door bepaalde sets van technologieën en infrastructuren.
Ideologieën die de verspreiding (en het idee van de goedheid) van technologie ondersteunden, kregen rond het begin van de negentiende eeuw de overhand boven de conservatieve (meestal religieuze) morele weerstand. In die tijd verschoof de tijdgeest naar een geloof in technologie, waarvan de uitkomsten positief of op zijn minst neutraal waren. Hedendaagse techno-optimisten* bestendigen deze ideologie van de inherent gunstige effecten van technologie, wat nog eens wordt versterkt door een postmodern perspectief dat sceptisch staat tegenover universele waarden in het algemeen. Hun argument luidt dat technologieën zo goed of slecht zijn als de mensen die ze gebruiken. Bovendien zijn interculturele standaarden inzake normen en waarden (goed versus slecht) in het postmodernisme toch al verdacht, zodat het beoordelen van technologie in termen van waarden op zich al twijfelachtig is. Volgens deze opvatting gaat technologie over wat werkt voor iedereen – universele functionaliteit – en niet over wat goed is voor iedereen – universele moraal.
Facebooks benadering kan redelijkerwijs worden samengevat als: ‘Onze technologie verbindt mensen; wat ze er daarna mee doen is aan hen.’* Dit is een weigering om rekenschap af te leggen voor de gevolgen van haar technologie. Het is een ideologie die de verantwoordelijkheid voor het juist handelen bij de ‘gebruikers’ legt in plaats van bij de ontwerpers. Maar dit soort denken is begrijpelijk en kan onder bepaalde omstandigheden zeer overtuigend zijn. Wanneer een technologie ontworpen is om een reëel en dringend probleem op te lossen en ze doet wat ze geacht wordt te doen, dan zal ze snel door veel gebruikers omarmd worden. Hierdoor krijgen mensen begrijpelijkerwijs de indruk dat technologie een goede zaak is. Deze ‘goedheid’ lijkt voor zich te spreken, vooral wanneer de tweede- en derde-orde-effecten die sommige gebruikers ondervinden pas later of op andere terreinen optreden. De conclusie ligt dus voor de hand dat technologie zelf geen probleem is – het is gewoon aan ons, de gebruikers, om er verantwoordelijk mee om te gaan.
Tijdens de technologische versnelling van de twintigste eeuw begonnen een paar filosofen en ontwerpers vraagtekens te plaatsen bij hoe er gedacht werd over het raakvlak tussen mens en technologie. Vanuit het besef dat technologieën niet waarde-neutraal zijn, zocht een kleine groep theoretici en vernieuwers naar nieuwe manieren om technologieën te ontwerpen en te gebruiken. Technologiefilosofen zoals Lewis Mumford en Langdon Winner waren zich zeer bewust van de noodzaak om de tweede- en derde-orde-effecten van technologieën op individuen, culturen en waardesystemen voor het voetlicht te brengen.* Zoals bij de meeste belangrijke veranderingen in het wereldbeeld vonden deze ideeën aanvankelijk nauwelijks ingang. Maar de trends die we vandaag de dag om ons heen zien, maken het belang van deze alternatieve kijk op het ontwerp van technologie met de dag groter.
Deze denkers belichtten ook het cruciale idee dat technologieën niet op zichzelf staan. Technologieën worden geco-creëerd en evolueren tezamen tot complete beschavingen (zie kader 1 in de volgende aflevering). Mensen leven nu in enorme netwerken van operationeel gerelateerde technologieën die complete ecologieën en infrastructuren zijn gaan vormen, die elk aspect van de bewuste ervaring kleuren.
Uiteindelijk luidt deze nieuwe menselijke werkelijkheid een technologisch tijdperk in met eigen materiële kenmerken en sociale dynamieken.
Toen de ontwikkeling van moderne technologieën op stoom begon te komen, ging dat gepaard met een evolutie in het denken over het innovatieproces – in het bijzonder over hoe technologie gefabriceerd moet worden, wat de impact ervan is en de algemene doelstellingen en dynamiek van de creatie ervan. In Kader 1 opperen we enkele brede categorieën voor de verschillende standpunten en wereldbeelden die in de loop van de evolutie van het moderne wereldsysteem zijn ingenomen. Deze categorieën sluiten elkaar niet uit en moeten niet worden opgevat als empirisch gefundeerde sociologische constructen – ze worden slechts aangereikt als een middel om de complexe dynamiek van de hedendaagse cultuur te verduidelijken.
Kader 1: De lagen van de gestapelde technologieën van de beschaving.
Vroegmoderne technologen werkten vanuit wat men een naïef optimistisch ontwerpmodel zou kunnen noemen: design dat ervan uitgaat dat alle technologie-mens-interfaces intrinsiek over positieve waarden beschikken. Dit resulteerde in ongekende technologische innovaties en een volledige herstructurering van het menselijk leven rond een groeiende opeenstapeling van almaar ingewikkelder technologieën. De explosieve vooruitgang die hiervan het gevolg was, leidde ertoe dat het idee van techno-wetenschappelijke vooruitgang tot de standaardreligie van de moderne wereld uitgroeide. Maar dit naïef optimistisch ontwerpmodel heeft ons ook met een reeks catastrofale risico’s opgezadeld, vanwege zijn elementaire blinde vlek voor mogelijke negatieve tweede- en derde-orde-effecten, zowel op fysiek als op psychosociaal vlak.
In reactie hierop ontstond iets wat je als luddistisch ontwerp zou kunnen omschrijven: design dat de technologische vooruitgang ongedaan wil maken of terugdraaien, gebaseerd op de aanname dat in alle technologie-mens-interfaces per definitie negatieve waarden ingebed zitten. Dergelijke luddistische benaderingen waren vaak op het verleden georiënteerd en probeerden manieren van leven in ere te herstellen die door de technologische opmars naar de zijlijn van de geschiedenis waren gedirigeerd. In zekere zin gaat een luddistisch perspectief minder over ontwerp en meer over technologie in het algemeen, waarin verandering zoveel mogelijk wordt geweerd, minder meer is en ecologische kosten een belangrijke prioriteit vormen. Uiteraard bleek deze benadering na verloop van tijd een volstrekt ontoereikend antwoord op het techno-optimisme, om de simpele reden dat nieuwe technologieën macht verlenen aan de gebruikers ervan. Elk wereldbeeld dat er bewust voor kiest om geen nieuwe technologieën te incorporeren, verliest almaar meer invloed. Om die reden heeft de technologische opmars zich onverminderd doorgezet en blijft ze de aarde en de mensheid herscheppen.
Naast het naïef optimistische ontwerpmode en luddistisch ontwerp zijn er ook nihilistisch ontwerp en axiologisch ontwerp. Meer over die laatste twee in de volgen de aflevering.
Naarmate de moderniteit voortschreed, de wetenschap aan macht won en de stroom aan technologische innovaties aanzwelde, kreeg een vorm van nihilistisch ontwerp de overhand: design dat simpelweg ontkent dat er waarde vervat zit in de technologie-mens-interfaces. Deze benadering zou ook waarde-agnostisch ontwerp genoemd kunnen worden. Deze vorm van ontwerpen domineert tegenwoordig de meeste technologische innovatie, aangestuurd door de breed gedragen culturele aanname dat waarden nooit in iets fysieks ingebed kunnen zitten. Waarden zijn sociale realiteiten, ze zijn per definitie niet iets fysieks, met als logisch gevolg dat de waarde van een fysieke entiteit, de technologie incluis, uitsluitend bepaald door wat we ermee doen. Het idee is dat onze waarden voortkomen uit kerken, scholen, gezinnen, en dat deze instellingen en sociale processen vervolgens bepalen hoe technologieën gebruikt worden. Zo kan je een hooivork als oorlogswapen gebruiken, maar omgekeerd ook zwaarden tot ploegscharen omsmeden. Op het eerste gezicht lijkt het voor zich te spreken dat technologie alleen de waarden heeft die wij eraan toekennen. En dit is dan ook een eeuw lang de dominante benadering geweest van het denken over technologie.
Kader 2: De basisprincipes van Winners ‘Technologische Orthodoxie’.*De technologiefilosoof Langdon Winner heeft de kenmerken van deze opvatting opgesomd in wat hij de ‘technologische orthodoxie’ heeft gedoopt (zie kader 2). Uit zijn overzicht van de geschiedenis van het ontwerpdenken destilleerde hij het fundamentele systeem van veronderstellingen dat ten grondslag ligt aan de moderne technologische ontwikkeling. De wortels van dit paradigma zijn terug te herleiden tot de nasleep van de wetenschappelijke revolutie, maar leven ook in het digitale tijdperk onverminderd voort. Het was redelijkerwijs te verwachten dat deze opvatting algemeen ingang zou vinden, gezien de snelle veranderingen, de verbeterde levenskwaliteit, de onomstotelijke materiële overvloed en andere duidelijke voordelen van veel moderne technologie.
De technologische orthodoxie is gebaseerd op een strikte scheiding tussen waarden en technologie. Voor een deel hangt dit samen met de opvatting dat waarde zelf in de eerste plaats een sociaal construct is. Dit idee nam een aanvang met het moderne wetenschappelijk materialisme. De aanname dat alles uitsluitend uit fysieke materie bestaat, laat geen ruimte voor ‘subjectieve kwaliteiten’ zoals waarde. Dit idee – dat waarde louter subjectief is – bereikte zijn hoogtepunt in de postmoderne scepsis jegens elk universeel waardekader. Het resultaat was een geleidelijke verdieping van de scheiding tussen technologieontwerp en het denken over waarde. Deze designopvatting bracht technologen ertoe om zich te richten op ‘disruptieve’ technologieën en ‘to move fast and break things‘.
Waar naïef optimistisch design ervan uitging dat technologie ‘heilige’ waarden kon bevorderen, heeft de nihilistisch ontwerpbenadering technologische innovatie losgekoppeld van alle denken over waarde. De gevolgen van deze benadering zijn verstrekkend en laten zich niet volledig doorgronden.
Als uitweg uit deze impasse stellen wij hier het idee van axiologisch ontwerp voor: design dat de intrinsieke waarden meeweegt en benut die onvermijdelijk in alle technologie-mens-interfaces besloten liggen. Dit is een vorm van ontwerp dat erkent dat het niet alleen fysieke effecten heeft, maar ook van invloed is op het gedrag en dus de psychologie van de mensen die het gebruiken (en met de verspreiding ervan, de samenleving als geheel). Als zodanig moet het ontwerpproces van technologische innovaties gepaard gaan met ontwerpdoelstellingen en -beperkingen die terdege rekening houden met de psychologische en sociologische effecten.
In plaats van de aanname dat technologie per definitie goed of slecht is, moet technologie worden gezien als intrinsiek waarde-geladen en waarde-scheppend. Alle technologieën worden gecreëerd met de verwezenlijking van bepaalde waarden in het achterhoofd; ze zijn van meet af aan met waarden verweven. Zodra technologieën breed ingang vinden, zijn ze ook in staat om nieuwe, onbekende en onvoorspelbare waarden te vormen. In technologieën zitten niet alleen menselijke waarden ingebed, ze bedden zelf op hun beurt – ten goede en ten kwade – ook potentiële en op voorhand onkenbare nieuwe menselijke waarden in. Nihilistisch ontwerp holt het belang van dergelijke waarden uit, door net te doen alsof ze ze zo flexibel en subjectief zijn dat ze als externaliteiten genegeerd kunnen worden. Toch is het zo dat de psychologische en culturele impact van technologie – hoe de technologie menselijke waarden verandert – minstens even belangrijk is voor de toekomst van het leven op aarde als het economische of technische ‘succes’ van de technologie.
Natuurlijk zijn wij niet de eersten die een dergelijke richting voor de ontwerpwetenschap voorstellen. Ontwerpethiek is een relevant onderwerp sinds de moderne wereld technologie als formerend en essentieel is gaan beschouwen, en ontwerpbenaderingen waarin waarden, psychologie en ethiek een rol spelen, geven de laatste jaren een opleving te zien. Verschillende technologiefilosofen hebben een reeks overlappende benaderingen gepromoot, waaronder gebruikersgericht ontwerp, bruikbaar ontwerp, mensgericht ontwerp, waarde-gevoelig ontwerp, waarde-gericht ontwerp, ontologisch ontwerp, et cetera.*
Hun inzichten en conclusies zijn samengevat in de vijf stellingen over technologie die in de volgende drie afleveringen behandeld worden.
1. Technologie komt tot stand vanuit het nastreven van waarden en resulteert in de creatie en transformatie van waarden.
2. Technologie vereist de creatie van meer en andere technologie; meerdere nieuwe technologieën ontwikkelen zich tezamen als functioneel verbonden combinaties en vormen evoluerende ecologieën van technologieën.
3. Technologie vormt ons lichaam en onze bewegingen als een door de mens gecreëerde habitat en is dus sterk gewoontevormend, zowel op het niveau van het individu als van de samenleving.
4. Technologie verandert de aard van de machtsdynamiek op onvoorspelbare manieren en creëert een omgeving die sommige mensen bevoordeelt ten opzichte van anderen, waardoor er een selectiedruk ontstaat die mensen dwingt nieuwe technologieën over te nemen en zich eraan aan te passen.
5. Technologie beïnvloedt het soort ideeën dat we waarderen, de kwaliteit van onze aandacht en onze opvattingen over onszelf en de wereld.
De eerste stelling verklaart dat waarden niet alleen ingebakken zitten in technologieën, maar ook voortvloeien uit het gebruik ervan. Technologie is waarde-geladen: in een technologie zitten altijd waarden ingebouwd. Technologieën veranderen ook waarden: ze veranderen en versterken bestaande waardesystemen. Deze twee dynamieken hangen samen, maar zijn niet deterministisch. We zagen dit eerder (zie aflevering 3 en 5) bij het voorbeeld van de smartphone en de ploeg. Het komt vaak voor dat de waarden die ten grondslag liggen aan het ontwerp van een technologie sterk verschillen van de veranderingen in het waardesysteem die voortvloeien uit het wijdverbreide gebruik ervan. Zo is de bedoeling van sociale media (naast het verdienen van geld) om mensen dichter bij elkaar te brengen. Toch blijkt uit onderzoek dat intensieve gebruikers van sociale media zich juist geïsoleerder en meer afgesloten voelen van anderen, en minder waarde hechten aan menselijke relaties dan niet-gebruikers. En denk nog even terug aan de eerste aflevering, waarin duidelijk werd dat het ecosysteem van de smartphone-technologie de individuele psyche, gezinnen, regeringen, markten en culturen op vele manieren blijkt te ondermijnen – allemaal als gevolg van zijn effecten op de menselijke geest en het menselijk gedrag. Toch was niets van dat al de bedoeling.
Onze tweede stelling betoogt dat technologieën nooit alleen ontstaan. Zoals het voorbeeld van de smartphone laat zien, komen meerdere onderling verbonden technologieën gezamenlijk tot ontwikkeling en vormen ze een ecologie van technologieën. Technologie-ecologieën hoeven echter niet per se hightech te zijn. Denk aan het ecosysteem van vuur/speer/pot/spatel/bord/tafel dat de mensheid al van voor de bronstijd begeleidt. Vervolgens evolueert deze ecologie doordat er almaar nieuwe technologieën worden samengevoegd tot een steeds ingewikkeldere en functioneler verbonden structuur. Op zeker moment konden onze gebruiksvoorwerpen niet meer zonder smederijen, groeiden onze vuren uit tot ovens, werden onze tafels gemaakt met elektrisch gereedschap en van hout van bomen die duizenden kilometers verderop zijn gekapt. Hoe verder een technologie zich ontwikkelt, hoe meer andere technologieën er in haar kielzog ontstaan.
Wat er uiteindelijk gebeurt, is dat er een breed scala aan verwante technologieën ontstaat die uiteindelijk uitgroeien tot een ruggengraat van een samenleving – haar meest fundamentele infrastructuren – die gezamenlijk een technologisch tijdperk vormen, of een geheel nieuwe door de mens gecreëerde habitat.*
Het onderwerp van de derde stelling is dat technologie op den duur een ‘tweede natuur’ vormt. Het aanpassingsvermogen van de Homo sapiens is het resultaat van miljoenen jaren aan biologische evolutie die het menselijk lichaam en zenuwstelsel hebben toegerust om zich, veel meer dan andere dieren, zowel aan niches aan te passen als zelf niches te creëren. Dit betekent dat de mens zich kan aanpassen aan unieke en uitdagende omgevingsomstandigheden, terwijl we tegelijkertijd in staat zijn om unieke omgevingsomstandigheden te creëren die bij onze behoeften en waarden passen. Ons aanpassingsvermogen is niet gestopt omdat we tegenwoordig voornamelijk in door de mens gecreëerde (technologische) omgevingen leven, in plaats van in een overwegend natuurlijke omgeving. Eenentwintigste-eeuwse steden en huizen vormen een fundamenteel nieuw soort omgeving waarbinnen de mens zich voortdurend aanpast. Dus worden we door onze omgeving gevormd terwijl we zelf tegelijk onze omgeving vormen.
De vierde stelling maakt duidelijk dat technologieën de machtsdynamiek op onvoorspelbare wijze fundamenteel veranderen. Dit creëert nieuwe sociale realiteiten en fysieke landschappen die aanpassing vereisen van de kant van individuen en groepen. Een nieuwe technologie beïnvloedt bestaande praktijken van menselijke concurrentie en samenwerking, en zorgt voor een nieuwe selectiedruk die de vroege gebruikers van de technologie een voordeel oplevert. Het gebruik van de nieuwe technologie wordt daardoor in feite verplicht, omdat het afzien ervan resulteert in het verlies van concurrentievoordeel. Culturele en persoonlijke waardesystemen veranderen om zich beter aan deze nieuwe selectiedruk aan te kunnen passen.
Aanvankelijk was het ecosysteem van de smartphone-technologie vooral bedoeld voor communicatie tussen kleine aantallen mensen. Dit verschilde niet heel veel van de goede, oude analoge telefoon, waarmee mensen al een eeuw bekend waren. Je kon dus zonder enig nadeel van aanschaf afzien. Maar naarmate deze technologie de sociale werkelijkheid almaar meer doordrenkte en de omvang en impact ervan exponentieel toenamen, werd het bijzonder nadelig om geen smartphone te hebben. Dit is het hellende vlak van zelfversterkende technologie-aanvaarding, en dit is een kenmerk dat bijna alle technologieën gemeen hebben. Naarmate een technologie dieper ingang vindt, ontstaat er een cascade van sociale druk die ervoor zorgt dat persoonlijkheden, wereldbeelden en waardesystemen zich aan de nieuwe realiteit aanpassen. In sommige gevallen wordt het overnemen van de nieuwe technologie in feite onontkoombaar. Technologie creëert een behoefte aan zichzelf; ze maakt zichzelf waardevol.
Technologieën met de meeste impact zijn technologieën die de facto verplicht zijn.
Afhankelijk van hoe ze gebruikt en geïmplementeerd wordt, kan dezelfde technologie macht zowel centraliseren als decentraliseren. Technologieën verlenen macht aan degenen die ze toepassen, wat de machtsdynamiek verandert en nieuwe vormen van machtsconcentratie mogelijk maakt. In sommige gevallen kan het beheersen van één technologie je in staat stellen om ook andere te beheersen. Dit kan een sneeuwbaleffect van machtsconcentratie teweegbrengen.
Bepaalde technologieën worden beschouwd als intrinsiek (de)centraliserend. Dit betekent dat sommige technologieën door hun ontwerp sterk neigen naar de centralisatie of decentralisatie van macht. Maar dat klopt niet. Van digitale technologie – het internet zoals we dat kennen – werd gedacht dat het van nature decentraliserend zou werken. Toch is China erin geslaagd om een gecentraliseerd systeem te creëren dat een hoge mate van sociale coördinatie mogelijk maakt. Je kan dit simpelweg opvatten als een alternatieve versie van Amerika’s centralisatie van deze zelfde technologieën, waarbij een handvol Big Tech-spelers alle data-aggregatie, surveillance en cloud computing naar zich toe heeft getrokken. Alleen wordt de gecentraliseerde macht in het Amerikaanse geval gebruikt voor het maximaliseren van de winst in plaats van voor het maximaliseren van de sociale controle. Waar China op een strakke politieke controle afstevent, stevent Amerika af op chaos.*
Dit brengt ons bij de vijfde stelling die betrekking heeft op de manier waarop technologieën onze geest – onze ideeën, aandacht en realiteitszin – vormen. Dit geldt voor alle technologieën, niet alleen voor informatietechnologieën.* Met een hamer ben je gefocust op alles wat een spijker kan zijn. Met een kettingzaag en een zagerij bij de hand begint een bos meer op timmerhout te lijken dan op een complex ecosysteem van levende bomen.
Ook worden onze prominentste technologieën vaak gebruikt om de metaforen te construeren aan de hand waarvan we de wereld verklaren. Aan het begin van de twintigste eeuw paste Freud de metafoor van de stoommachine toe om de werking van de geest te verduidelijken; tegenwoordig gebruiken psychologen daar computermetaforen voor. De beschikbaarheid van een transporttechnologie als het vliegtuig heeft onze perceptie van tijd en ruimte letterlijk veranderd – een fenomeen dat bekend staat als tijd-ruimtecompressie.* Mensen trekken vaker weg uit de gebieden waar ze zijn opgegroeid, om vervolgens met iemand van ‘ver weg’ te trouwen, wat diepgaande veranderingen in de structuur van het gezins- en gemeenschapsleven tot gevolg heeft. Ook zijn onze verwachtingen, toekomstplannen, gevoel van eigenwaarde en diverse andere aspecten van de identiteitsvorming sterk verbonden met technologie, zoals blijkt uit het ecosysteem van de smartphone-technologie. Zo heeft de ‘selfie’ – en de daarmee samenhangende fotobewerking en filtering, mogelijk gemaakt door de smartphone – niet alleen ons zelfbeeld veranderd, maar ook ons gevoel van wat aantrekkelijk en op het gebied van zelfexpressie gepast is.
Wij vormen de technologie, terwijl de technologie ons vormt.
Willen we onze huidige technologie achter ons laten en een humane toekomst ontwerpen, dan moeten we technologieën gaan creëren met deze vijf stellingen als kernprincipes in het achterhoofd. Dan moeten tweede- en derde-orde-effecten op waarden, cultuur, macht en persoonlijkheid volop onze aandacht krijgen. Dan mogen we ons niet langer beperken tot het nadenken over potentiële gevolgen voor de materiële economie, de financiële wereld en het milieu. De vraag hoe dit opgeschaald kan worden, is nu nog onderwerp van onderzoek.
Wanneer je erkent dat de vijf stellingen voor axiologisch ontwerp waar zijn, leidt dat automatisch tot het besef dat de mensheid zich momenteel in een gevaarlijke situatie bevindt. Technologie is inherent aan wie we zijn en wie we worden, op individueel niveau en als sociaal systeem. De snelle opkomst en verspreiding van digitale technologieën – grotendeels gebaseerd op een ondoordacht nihilistisch design – heeft geleid tot wat je een onbedoelde planetaire opeenstapeling van tech-lagen zou kunnen noemen.* Dit betekent dat de technologische omgevingen waarin we ons nu bevinden, met hun zichtbare en onzichtbare effecten op onze lichamen, geesten, culturen, samenlevingen en ecosystemen, niet het resultaat zijn van doelbewust ontwerp. In plaats daarvan zijn de omgevingen waarin we nu leven geëmergeerd uit talloze plaatselijke ontwikkelingen, grotendeels gedreven door marktkrachten met een kortetermijnperspectief, met nauwelijks oog voor de gevolgen op langere termijn. Door de overheid geïnstigeerde technologische innovatie is afgenomen ten gunste van de particuliere industrie. Daarnaast speelt financiële deregulering een belangrijke rol, evenals de opkomst van risicokapitaal als de drijvende kracht achter de ontwikkeling van nieuwe technologie.
We treden een nieuw technologisch tijdperk binnen, waarin we een krachtige digitale wereld tot onze beschikking hebben. De mensheid staat aan de vooravond van een reeks mogelijke toekomsten. De technologieën van de nabije toekomst hebben het potentieel om ons te bevrijden en te verbinden, zelfs om ons te verlossen van arbeid en tirannie. Maar de lessen van de vorige eeuw hebben ons geleerd dat zonder een verandering van onze fundamentele benadering, technologie onze geest, onze relaties en onze culturen zal blijven ondermijnen.
De toepassing van VR (virtual reality) kan de sociale problemen met verslaving verergeren en ons ongevoelig maken voor de rijkdom van de natuur en het offline leven, óf ze kan een hulpmiddel zijn voor immersief leren,* waardoor we ons op manieren in de ervaringen van anderen kunnen inleven die voorheen niet mogelijk waren. Robotisering kan leiden tot werkloosheid en een massale onderklasse, óf het kan de mensheid bevrijden van sleur en onze economische systemen ten goede veranderen. Generatieve AI kan leiden tot alomtegenwoordige deepfakes en de vernietiging van gedeelde kennis, óf ze kan samenvattingen van alle informatie ter wereld mogelijk maken, die specifiek zijn toegesneden op onze context en behoeften.
Welke toekomst we krijgen, zal zowel afhangen van de wettelijke regulering van het gebruik en de verspreiding van technologie als van de culturele invloeden op de toepassing ervan. Een positieve toekomst is echter vooral afhankelijk van die elementen die inherent zijn aan het ontwerp van de technologieën zelf.
Zonder het soort axiologisch ontwerp dat hier beschreven wordt, zal de technologie de mens steeds machtelozer blijven maken.
Willen we nihilistisch ontwerp uitbannen, dan zullen we onze kaders, benaderingen en methoden op een fundamenteel nieuwe leest moeten schoeien. Dit houdt noodzakelijkerwijs in dat we techniek niet langer als primair zien, en waarden en ethiek als secundair. In plaats daarvan moeten technologen ethiek en waarden als een fundamentele prioriteit van het ontwerpproces voor ogen houden, waarna de techniek op gepaste afstand volgt. Bestaande benaderingen van waarde-gericht ontwerpen vormen een goed startpunt.* Deze benaderingen komen vooral voort uit een principieel verzet tegen de postmoderne ontkenning van universele waarden en pleiten voor een weloverwogen inbedding van ethiek en waarden in alle ontwerpbeslissingen. Axiologisch ontwerp moet waarden dusdanig serieus nemen dat ze manieren weet uit te werken om constructief om te gaan met ethische tegenstrijdigheden, waarbij ze erin slaagt om de impasses die uit het waardenrelativisme voortkomen te overwinnen.
Ook moeten we ons niet langer blindstaren op de impact van een enkele technologie, maar ons richten op de gevolgen van ecologieën van technologieën. Verzamelingen van functioneel verweven technologieën moeten de basiseenheid worden voor het analyseren van de tweede- en derde-orde-effecten op alle terreinen van het menselijk leven. We moeten de omgevingen onderzoeken die uit de opeenstapeling van de vele verschillende ecologieën van technologie geëmergeerd zijn en die ons tot mens maken en onze gewoontes en waarden vormen. Want is er ergens één technologie, dan zijn er ook vele andere. Overeenkomstige veranderingen op het terrein van machtsstructuren en wettelijke regelingen vloeien voort uit ons systeem van elkaar overlappende technologieaccumulaties, die samen een tweede natuur vormen waaraan de mens zich noodgedwongen moet aanpassen.
Willen we deze benadering van de effecten van ecologieën van technologieën serieus van de grond krijgen, dan moeten we het ontwerp van technologieën op alle mogelijke schalen in ogenschouw nemen. Ecologieën van technologieën ontstaan in de context van bestaande sociale dynamieken, zoals ongelijkheid, conflicten en de gebruikelijke dans om macht, geld en status. Op het eerste gezicht lijken bepaalde technologieën zowel een eerlijke verdeling van de macht als de vrijheid van gebruikers te bevorderen, maar bij nadere inspectie blijkt dat diezelfde technologieën juist diegenen onevenredig bevoordelen die al over de middelen en de intelligentie beschikken om er het meest van te profiteren. Hoewel iedereen via de cloud toegang kan hebben tot supercomputers, begunstigd deze ‘gedecentraliseerde’ dienst in werkelijkheid diegenen die al het meest in het voordeel zijn. Multinationals en regeringen kunnen de mogelijkheden van de cloud gebruiken om enorme resultaten te bereiken – zoals een alomtegenwoordige surveillance of de grootschalige verwerking van big data – terwijl gewone mensen de cloud gebruiken om er hun foto’s en muziek op te slaan.
Tot slot moeten we proberen om de grondslagen van de menselijke waardesystemen expliciet te maken. Het is van vitaal belang dat we rekening houden met hoe technologie op psychologische processen inwerkt om de menselijke betekenisgeving en waardebepaling te veranderen. Op weg naar een wenselijke toekomst moeten we ons opnieuw over de menselijke aard en conditionering buigen, en bestuderen hoe die twee op elkaar inwerken om het menselijk gedrag en dus de ervaring van het mens-zijn te beïnvloeden. De dynamiek van wat ons tot mens maakt is een onvermijdelijk onderdeel van de gevolgen die uit alle innovaties voortvloeien. Terwijl we buitengewone nieuwe capaciteiten hebben ontwikkeld, heeft onze geschiedenis van naïef en nu nihilistisch ontwerp de beschaving een hoek in gedreven, met mogelijk existentiële gevolgen. Bestaande ecologieën van technologieën en infrastructuren moeten worden beoordeeld op hun impact op lichamen, geesten, gezinnen, culturen en het milieu. Toekomstige technologieën moeten worden ontworpen volgens methoden die menselijke waarden dusdanig serieus nemen dat ze door hun grenzen – denk aan gezond verstand, waardigheid en rechtvaardigheid – ingeperkt worden.
De gevaarlijke heerschappij van het nihilistisch ontwerp moet uitgerangeerd worden, want anders wordt onze beschaving dat wel.
