Wat doen tech bedrijven met onze data en kunnen we misbruik tegengaan?

Wat doen tech bedrijven met onze data en kunnen we misbruik tegengaan?

Vorig artikel Volgend artikel

Sinds de opkomst van sociale netwerken, smartphones en online adverteren monitoren veel bedrijven ons dagelijks. Gedrag, bewegingen, sociale relaties, interesses, zwakheden en privémomenten worden realtime vastgelegd, geëvalueerd en geanalyseerd. Eerder schreef ik over de technieken die techbedrijven gebruiken om gebruikers verslaafd te maken aan hun programma’s.

De relatie tussen databedrijven en individuen wordt nogal eens vergeleken met een pokerspel waarbij een van de spelers zijn hand open heeft en de ander zijn kaarten tegen de borst houdt. De meeste gebruikers proberen hun data te beschermen met privacy-instellingen. Maar geeft dit voldoende garantie? Want wat gebeurt er achter de schermen bij techbedrijven? Een voorbeeld: de iPhone X kan met zijn TrueDepth-camera zowel gezichten als uitdrukkingen herkennen. Apple wil app-ontwikkelaars nu beperkte toegang geven tot die gezichtsdata. Zou jij, als gebruiker, hiervoor ook toestemming geven als je deze ontwikkeling had voorzien? Misschien niet. Het punt is dat wij tools als WhatsApp, Telegram, Facebook Messenger gebruiken zonder na te denken over wie er allemaal aan de haal kan gaan met de data die wij genereren.

Meer data

Ook steeds meer andere apparaatjes, zoals smartwatches voor lichaamsfuncties, monitoren ons continu. En thuis luisteren de digitale praatpalen van Google Home en Amazon Echo mee met privégesprekken. Wanneer we slapen, wanneer we wakker worden, waar we naar toe gaan, wat we kopen. In de afgelopen jaren zijn Visa en MasterCard begonnen met het beschikbaar maken van gegevens over de aankopen van hun klanten voor het digitale volg- en profileeruniversum.

Google verklaarde dat het ‘ongeveer 70 procent van de credit- en debetkaarttransacties in de VS’ monitort via ‘externe partnerships’. Ook in Nederland zijn er voorbeelden hiervan. Incassobureaus overtreden de privacywet bij massale verkoop van gegevens over schuldenaren. Databedrijven hebben de afgelopen jaren profielen aangelegd van vrijwel alle Nederlandse huishoudens zonder dat die daarover zijn geïnformeerd.

Virtual Reality

Het wordt alleen maar meer. “Facebook investeert nu in Virtual Reality, de volgende stap, dat mensen zich met hun zintuigen compleet onderdompelen in een door een techbedrijf gecreëerde wereld. Misschien dat sommige mensen het gevaar niet inzien van zo’n innige verstrengeling met machines. Maar besef wel: je versmelt niet alleen met die machines, maar ook met de bedrijven die die machines beheren.” (Franklin Foer, Ontzielde Wereld, de existentiële dreiging van Big Tech).

De Britse journalist John Lanchester noemt Facebook ‘de grootste op surveillance gebaseerde onderneming in de geschiedenis van de mensheid’. Een heel creepy artikel over Facebook is laatst geschreven door Kashmir Hill van Gizmodo: “Achter het Facebook-profiel dat je zelf hebt gebouwd, is een ander profiel, een schaduwprofiel, opgebouwd uit de inboxen en smartphones van andere Facebook-gebruikers”. Ze somt een reeks voorbeelden van mensen die de meest onverwachte, niet gewenste vriend suggesties krijgen.

Niet alleen via apparaten in de buurt van je lichaam of thuis maar ook in de openbare ruimte word je in de gaten gehouden. Er is een enorme groei van het aantal sensoren in de openbare ruimte. Camera’s, bewegingsmelders en geluidsmeters zijn in steeds grotere aantallen aanwezig in de winkelstraat. Dat constateert Geonovum, een organisatie die geografische informatie toegankelijk maakt voor overheden.

Weapons of Math Destruction

Volgens Cathy O’Neil, auteur van de bestseller Weapons of Math Destruction, worden hele groepen door algoritmen gediscrimineerd.In de afgelopen jaren hebben geautomatiseerde programma’s op basis van vooringenomen datasets tal van schandalen veroorzaakt. In 2016, toen een studente naar Google-afbeeldingen zocht naar ‘onprofessionele kapsels voor werk’, toonden de resultaten vooral foto’s van zwarte mensen; toen de student de eerste zoekterm veranderde in ‘professioneel’, plaatste Google voornamelijk afbeeldingen van witten. Maar dit was niet het gevolg van vooringenomenheid van de programmeurs van Google; het weerspiegelde eerder hoe mensen afbeeldingen op het internet hadden gelabeld.

Andrew Reece van Harvard en Chris Danforth van de Universiteit van Vermont ontwikkelden een algoritme dat van foto’s op Instagram kan zien of iemand lijdt aan depressiviteit. Zoiets wil je toch niet aan de grote klok hangen? Tieners gebruiken Finstagram – Fake Instagram – een tweede Instagram-account waar ze, ondanks die naam, zichzelf kunnen zijn. Op deze besloten accounts, alleen toegankelijk voor een paar goede vrienden, worden ook de niet-selfiewaardige momenten gedeeld.

The dark side

“Technologie is overgestoken naar de donkere kant. Het komt voor jou; het komt voor ons allemaal, en we kunnen zijn opmars misschien niet overleven.” Een angstaanjagende zin geschreven door Farhad Manjoo in de New York Times. Een recent voorbeeld hiervan is wat China wenst te gaan implementeren. De Chinese regering is van plan haar (Social Credit System)-kredietsysteem in 2020 te lanceren. China wil hiermee de betrouwbaarheid beoordelen van zijn 1,3 miljard inwoners.

In de Financial Times een recent artikel uit de hand van Rana Foroohar: “Waarom we de technische platforms moeten reguleren. Bedrijven moeten de zwarte doos van hun algoritmen openen.” Hierin grijpt Foroohar terug op de voorbeeld van de 19de-eeuwse spoorwegbaronnen. Zij domineerden ook de economie en samenleving. Ze konden prijzen hoog houden, concurrenten opkopen en belastingen en regelgeving vermijden. Dit alles werd teniet gedaan door het in het leven roepen van de Interstate Commerce Commission.

Foroohar adviseert nu om een Internet Commerce Commission op te richten. In het Financieel Dagblad pleit Bas Boorsma van Cisco Noord –Europa een soortgelijke strategie “Zonder modern ethisch kader gaat digitalisering met ons op de loop” Boorsma vervolgt met “we hebben te maken met twee kampen: technologie-evangelisten en technologie-doemdenkers. Hun standpunten liggen mijlenver uit elkaar, terwijl we juist een synthese van deze denkwerelden nodig hebben”. Boorsma houdt een pleidooi voor een ‘New Digital Deal” waarin ethiek en digitalisering samenkomen.

Overheid

Ook overheden hebben moeite met wat ze met data aan moeten. Het is zelfs zo dat sommige data bewust wordt weggelaten of niet meer zichtbaar is. “Wil je gedetailleerde informatie over arrestaties, moorden en bende-moorden in 2016? Wat te denken van smeltend poolijs? Je kunt ze niet meer goed vinden. Alle gegevens met zelfs maar een vleugje potentiële tegenspraak gaan rechtstreeks uit het raam” suggereert een artikel in the Wired.

Dit staat haaks op de open data movement die steeds meer terrein wint, waardoor vooral overheden data beschikbaar stellen.

In een hoofdartikel van Der Spiegel hoopt Armin Mahler (Hoofdredacteur Wetenschap) dat de Duitse regering die zich ten doel heeft gesteld om de digitalisering in Duitsland te bevorderen het volgende: “Dat is correct en het is belangrijk. Maar het is net zo belangrijk om tegelijkertijd de problemen in verband met digitaal kapitalisme aan te pakken. Anders zullen slechts enkele bedrijven onze toekomstige economie domineren.” “Vormen sociale media een bedreiging voor de democratie?” Kopte The Economist een paar dagen geleden. Ook hierin een betoog richting tech bedrijven om toch meer effort in de juiste berichtgeving te geven om fake news en manipulaties van gebruikers tegen te gaan.

Machine learning

De meest spectaculaire ontwikkelingen in AI komen uit een data-intensieve techniek die bekend staat als machine learning. Machine learning vereist veel gegevens om de AI te maken, te testen en te "trainen". Data en AI zijn onlosmakelijk met elkaar verbonden.

Volgens AI-Ontwikkelaar Nick Bostrom en schrijver van het boek ‘Superintelligence’: “We staan we op het punt een zelflerend systeem te ontwikkelen dat het menselijk denken ver overstijgt. We hebben maar een kans om het goed te doen”.

Volgens Holger Hoos, Leiden hoogleraar Machine Learning, is “een menselijk niveau van kunstmatige intelligentie, hoewel intellectueel boeiend, niet wenselijk. In plaats daarvan moeten we ons erop concentreren dat kunstmatige intelligentie onze capaciteiten aanvult en onze zwakke punten compenseert.” "Big Data kan alleen kwantificeren en niets kwalificeren. Alle informatie die eruit komt, verdient een menselijk oordeel” aldus journalist en onderzoeker Timandra Harkness.

Het is een feit dat techniek en technologische ontwikkelingen niet tegen gehouden kunnen worden. “De kunst is om technologie niet te zien als een soort grote demon die zich tegenover ons plaatst en ons wil wegdrukken, maar als iets dat ons vormt tot wie we zijn.” zegt filosoof Peter-Paul Verbeek.

Arianna Huffington, CEO of Thrive Global, zegt: "We moeten de technologie omarmen om ons te bevrijden van diezelfde technologie, zodat we ons weer kunnen verbinden met de mensen om ons heen."

Conclusie

Zolang wij, de consumenten, de individuen weten wat er met onze data kan gebeuren, kunnen wij ons hiertegen ook in bescherming nemen, tot op een zekere hoogte. Er zijn al jaren bedrijven die beweren dat ze niets doen met onze data, of dat echt zo is... Misschien toch maar met zijn allen overstappen naar Signal (i.p.v. Whatsapp), Duckduckgo, WolframAlpha (i.p.v. Google) etc.

Meer content

Erdinç Saçan

Senior Docent ICT & Business, Coördinator Minor Digital Marketing @ Fontys Hogescholen Eindhoven. Voorheen gewerkt bij Corendon, TradeDoubler en Prijs...

Reageren is uitgeschakeld omdat er geen cookies opgeslagen worden.

Cookies toestaan Meer informatie over cookies