​Hoe groot moet het morele kompas van een designer zijn?

Zijn pushnotificaties in een nieuwsapp voor kinderen wenselijk? Moet AirBNB niet user-centric maar community-centric worden ingericht? Zou je ooit een platform ontwerpen dat een bijdrage levert aan de deportatie van miljoenen immigranten?

Tijdens de Digital Design Ethics Conference op 26 november, georganiseerd door de opleiding Communication and Multimedia Design, stond de morele verantwoordelijkheid van de digitale designer centraal. Hoe groot is die? Als het aan keynote speaker Mike Monteiro ligt, is het makkelijk: een designer heeft een enorme ethische verantwoordelijkheid. De verantwoordelijkheid van het ene mens tot het andere.

Studenten, docenten en onderzoekers van de Hogeschool van Amsterdam, ontwerpers en developers kwamen samen in het Amsterdamse Eye Filmmuseum om te luisteren naar de bevlogen pleidooien van Amber Case, Mike Monteiro en Cennydd Bowles. Of de studenten er wat van opstaken? “Het is goed om je bewust te zijn of dat wat je maakt écht nuttig is”, aldus Denise (21) student Communication and Multimedia Design.

Volgens Amerikaanse cyberantropologe Amber Case is dat precies waar het om gaat. Om de toegevoegde waarde. Digitale techniek gaat volgens haar steeds vaker gepaard met toeters en bellen. Letterlijk. We leven in een maatschappij waarin er constant een beroep wordt gedaan op onze aandacht. Een piepje, een belletje, een alarm. “Zo zonde”, zegt Case. “We overweldigen onszelf met technische uitingen die opdringerig zijn en niet altijd in echte behoeften voorzien. Ze halen ons weg uit de emotionele werkelijkheid die er écht toe doet.” Het is volgens Case de taak van de designer om menselijke normen te hanteren. Waarom een ijskast ontwerpen die piept als je banaan aan het bederven is, terwijl die banaan prima in staat is je dat zelf te laten zien? “Just because you can, doesn’t mean you should.”

De digitale atoombom

Mike Monteiro is de tweede keynote speaker van de conferentie en trekt de rol van de designer nog extremer door: wie niet kritisch is, draagt bij aan een ondemocratische samenleving. ‘A digital atomic bomb’. Monteiro formuleert tien regels waaraan een designer zich kan toetsen. Eén van zijn belangrijke uitgangspunten is: je bent verantwoordelijk voor je eigen werk. Kijk niet gek op als je in de bak belandt nadat je frauduleuze software voor Volkswagen hebt ontworpen.

“En als je ooit je ziel verkoopt om een platform te ontwerpen dat immigranten deporteert, gebruik je je kunde juist om de meest kwetsbaren te raken.” Hiermee doelend op het softwarebedrijf Palantir, dat samenwerkt met de Trump-regering. Monteiro drukt zijn toehoorders ook op het hart om open te staan voor kritiek. Alleen degene die echt luistert naar z’n omgeving weet welke problemen hij aan het oplossen is.

De onvoorziene gevolgen van tech

Na verschillende workshops sluit Cennydd Bowles – auteur van Future Ethics – de conferentie iets genuanceerder af. Bowles beschrijft de ongewenste en onvoorziene gevolgen die technologie altijd in zich draagt. Neem AirBNB. Een platform waar eigenlijk maar twee groepen van profiteren: de huurders en de verhuurders. Dat hele buurten erdoor ontwricht raken en huizenprijzen worden opgedreven, is de ongewilde uitkomst van de feitelijk mooie dienst.

Bowles pleit voor het implementeren van een ethische werkwijze in tech bedrijven. Dat betekent in de praktijk dat onder andere designers langer moeten stilstaan bij wat ze teweegbrengen. “Ook al vertraagt dat het proces”, zegt Bowles. Dat kan ook door het inhuren van ethici die technische oplossingen tegen het licht houden, maar ook door het inzetten van diversere teams. Of zoals Monteiro het zegt: door niet alleen ‘privileged white boys’ te laten designen voor andere ‘privileged white boys’, maar door de focus van de user naar de community te verleggen.

Dave (25) vindt het iets te heftig geformuleerd, maar hij herkent de problematiek wel. Als startende front-end developer loopt hij soms ook tegen morele dillema’s aan. “Veel klanten willen overal pushnotificaties voor. Soms vind ik het moeilijk mijn mond open te trekken, juist omdat ik een van de jongsten bent, dan helpen dit soort inspirerende sprekers.”

De Digital Design Ethics Conference werd georganiseerd door de opleiding Communication and Multimedia Design uit naam van de Faculteit Digitale Media en Creatieve Industrie.

Meer lezen over het thema van de conferentie? Check https://did.amsterdam en www.cmd-amsterdam.nl.