Erdinç Saçan
Senior Docent en Onderzoeker bij Fontys ICT in Eindhoven. Voorheen gewerkt bij Corendon, TradeDoubler en Prijsvrij.nl.
Sinds de opkomst van sociale netwerken, smartphones en online adverteren monitoren veel bedrijven ons dagelijks. Gedrag, bewegingen, sociale relaties, interesses, zwakheden en privémomenten worden realtime vastgelegd, geëvalueerd en geanalyseerd. Eerder schreef ik over de technieken die techbedrijven gebruiken om gebruikers verslaafd te maken aan hun programma’s.
De relatie tussen databedrijven en individuen wordt nogal eens vergeleken met een pokerspel waarbij een van de spelers zijn hand open heeft en de ander zijn kaarten tegen de borst houdt. De meeste gebruikers proberen hun data te beschermen met privacy-instellingen. Maar geeft dit voldoende garantie? Want wat gebeurt er achter de schermen bij techbedrijven? Een voorbeeld: de iPhone X kan met zijn TrueDepth-camera zowel gezichten als uitdrukkingen herkennen. Apple wil app-ontwikkelaars nu beperkte toegang geven tot die gezichtsdata. Zou jij, als gebruiker, hiervoor ook toestemming geven als je deze ontwikkeling had voorzien? Misschien niet. Het punt is dat wij tools als WhatsApp, Telegram, Facebook Messenger gebruiken zonder na te denken over wie er allemaal aan de haal kan gaan met de data die wij genereren.
Meer data
Ook steeds meer andere apparaatjes, zoals smartwatches voor lichaamsfuncties, monitoren ons continu. En thuis luisteren de digitale praatpalen van Google Home en Amazon Echo mee met privégesprekken. Wanneer we slapen, wanneer we wakker worden, waar we naar toe gaan, wat we kopen. In de afgelopen jaren zijn Visa en MasterCard begonnen met het beschikbaar maken van gegevens over de aankopen van hun klanten voor het digitale volg- en profileeruniversum.
Google verklaarde dat het ‘ongeveer 70 procent van de credit- en debetkaarttransacties in de VS’ monitort via ‘externe partnerships’. Ook in Nederland zijn er voorbeelden hiervan. Incassobureaus overtreden de privacywet bij massale verkoop van gegevens over schuldenaren. Databedrijven hebben de afgelopen jaren profielen aangelegd van vrijwel alle Nederlandse huishoudens zonder dat die daarover zijn geïnformeerd.
Virtual Reality
Het wordt alleen maar meer. “Facebook investeert nu in Virtual Reality, de volgende stap, dat mensen zich met hun zintuigen compleet onderdompelen in een door een techbedrijf gecreëerde wereld. Misschien dat sommige mensen het gevaar niet inzien van zo’n innige verstrengeling met machines. Maar besef wel: je versmelt niet alleen met die machines, maar ook met de bedrijven die die machines beheren.” (Franklin Foer, Ontzielde Wereld, de existentiële dreiging van Big Tech).
De Britse journalist John Lanchester noemt Facebook ‘de grootste op surveillance gebaseerde onderneming in de geschiedenis van de mensheid’. Een heel creepy artikel over Facebook is laatst geschreven door Kashmir Hill van Gizmodo: “Achter het Facebook-profiel dat je zelf hebt gebouwd, is een ander profiel, een schaduwprofiel, opgebouwd uit de inboxen en smartphones van andere Facebook-gebruikers”. Ze somt een reeks voorbeelden van mensen die de meest onverwachte, niet gewenste vriend suggesties krijgen.
Niet alleen via apparaten in de buurt van je lichaam of thuis maar ook in de openbare ruimte word je in de gaten gehouden. Er is een enorme groei van het aantal sensoren in de openbare ruimte. Camera’s, bewegingsmelders en geluidsmeters zijn in steeds grotere aantallen aanwezig in de winkelstraat. Dat constateert Geonovum, een organisatie die geografische informatie toegankelijk maakt voor overheden.
Weapons of Math Destruction
Volgens Cathy O’Neil, auteur van de bestseller Weapons of Math Destruction, worden hele groepen door algoritmen gediscrimineerd.In de afgelopen jaren hebben geautomatiseerde programma’s op basis van vooringenomen datasets tal van schandalen veroorzaakt. In 2016, toen een studente naar Google-afbeeldingen zocht naar ‘onprofessionele kapsels voor werk’, toonden de resultaten vooral foto’s van zwarte mensen; toen de student de eerste zoekterm veranderde in ‘professioneel’, plaatste Google voornamelijk afbeeldingen van witten. Maar dit was niet het gevolg van vooringenomenheid van de programmeurs van Google; het weerspiegelde eerder hoe mensen afbeeldingen op het internet hadden gelabeld.
Andrew Reece van Harvard en Chris Danforth van de Universiteit van Vermont ontwikkelden een algoritme dat van foto’s op Instagram kan zien of iemand lijdt aan depressiviteit. Zoiets wil je toch niet aan de grote klok hangen? Tieners gebruiken Finstagram – Fake Instagram – een tweede Instagram-account waar ze, ondanks die naam, zichzelf kunnen zijn. Op deze besloten accounts, alleen toegankelijk voor een paar goede vrienden, worden ook de niet-selfiewaardige momenten gedeeld.
The dark side
“Technologie is overgestoken naar de donkere kant. Het komt voor jou; het komt voor ons allemaal, en we kunnen zijn opmars misschien niet overleven.” Een angstaanjagende zin geschreven door Farhad Manjoo in de New York Times. Een recent voorbeeld hiervan is wat China wenst te gaan implementeren. De Chinese regering is van plan haar (Social Credit System)-kredietsysteem in 2020 te lanceren. China wil hiermee de betrouwbaarheid beoordelen van zijn 1,3 miljard inwoners.
In de Financial Times een recent artikel uit de hand van Rana Foroohar: “Waarom we de technische platforms moeten reguleren. Bedrijven moeten de zwarte doos van hun algoritmen openen.” Hierin grijpt Foroohar terug op de voorbeeld van de 19de-eeuwse spoorwegbaronnen. Zij domineerden ook de economie en samenleving. Ze konden prijzen hoog houden, concurrenten opkopen en belastingen en regelgeving vermijden. Dit alles werd teniet gedaan door het in het leven roepen van de Interstate Commerce Commission.
Foroohar adviseert nu om een Internet Commerce Commission op te richten. In het Financieel Dagblad pleit Bas Boorsma van Cisco Noord –Europa een soortgelijke strategie “Zonder modern ethisch kader gaat digitalisering met ons op de loop” Boorsma vervolgt met “we hebben te maken met twee kampen: technologie-evangelisten en technologie-doemdenkers. Hun standpunten liggen mijlenver uit elkaar, terwijl we juist een synthese van deze denkwerelden nodig hebben”. Boorsma houdt een pleidooi voor een ‘New Digital Deal” waarin ethiek en digitalisering samenkomen.
Overheid
Ook overheden hebben moeite met wat ze met data aan moeten. Het is zelfs zo dat sommige data bewust wordt weggelaten of niet meer zichtbaar is. “Wil je gedetailleerde informatie over arrestaties, moorden en bende-moorden in 2016? Wat te denken van smeltend poolijs? Je kunt ze niet meer goed vinden. Alle gegevens met zelfs maar een vleugje potentiële tegenspraak gaan rechtstreeks uit het raam” suggereert een artikel in the Wired.
Dit staat haaks op de open data movement die steeds meer terrein wint, waardoor vooral overheden data beschikbaar stellen.
In een hoofdartikel van Der Spiegel hoopt Armin Mahler (Hoofdredacteur Wetenschap) dat de Duitse regering die zich ten doel heeft gesteld om de digitalisering in Duitsland te bevorderen het volgende: “Dat is correct en het is belangrijk. Maar het is net zo belangrijk om tegelijkertijd de problemen in verband met digitaal kapitalisme aan te pakken. Anders zullen slechts enkele bedrijven onze toekomstige economie domineren.” “Vormen sociale media een bedreiging voor de democratie?” Kopte The Economist een paar dagen geleden. Ook hierin een betoog richting tech bedrijven om toch meer effort in de juiste berichtgeving te geven om fake news en manipulaties van gebruikers tegen te gaan.
Machine learning
De meest spectaculaire ontwikkelingen in AI komen uit een data-intensieve techniek die bekend staat als machine learning. Machine learning vereist veel gegevens om de AI te maken, te testen en te “trainen”. Data en AI zijn onlosmakelijk met elkaar verbonden.
Volgens AI-Ontwikkelaar Nick Bostrom en schrijver van het boek ‘Superintelligence’: “We staan we op het punt een zelflerend systeem te ontwikkelen dat het menselijk denken ver overstijgt. We hebben maar een kans om het goed te doen”.
Volgens Holger Hoos, Leiden hoogleraar Machine Learning, is “een menselijk niveau van kunstmatige intelligentie, hoewel intellectueel boeiend, niet wenselijk. In plaats daarvan moeten we ons erop concentreren dat kunstmatige intelligentie onze capaciteiten aanvult en onze zwakke punten compenseert.” “Big Data kan alleen kwantificeren en niets kwalificeren. Alle informatie die eruit komt, verdient een menselijk oordeel” aldus journalist en onderzoeker Timandra Harkness.
Het is een feit dat techniek en technologische ontwikkelingen niet tegen gehouden kunnen worden. “De kunst is om technologie niet te zien als een soort grote demon die zich tegenover ons plaatst en ons wil wegdrukken, maar als iets dat ons vormt tot wie we zijn.” zegt filosoof Peter-Paul Verbeek.
Arianna Huffington, CEO of Thrive Global, zegt: “We moeten de technologie omarmen om ons te bevrijden van diezelfde technologie, zodat we ons weer kunnen verbinden met de mensen om ons heen.”
Conclusie
Zolang wij, de consumenten, de individuen weten wat er met onze data kan gebeuren, kunnen wij ons hiertegen ook in bescherming nemen, tot op een zekere hoogte. Er zijn al jaren bedrijven die beweren dat ze niets doen met onze data, of dat echt zo is… Misschien toch maar met zijn allen overstappen naar Signal (i.p.v. Whatsapp), Duckduckgo, WolframAlpha (i.p.v. Google) etc.
Verder lezen over Bedrijven
Social Media16.04.2024
Dit zijn volgens LinkedIn de beste bedrijven voor carrièreontwikkeling in 2024
DC Business09.04.2024
Waar moet je op letten bij het inrichten van jouw kapsalon?
Technology28.03.2024
Hoe gepersonaliseerde software innovatie aandrijft
Gadgets07.03.2024
Nieuwe webcams van Logitech: MX Brio & MX Brio 705 for Business
DC Business29.02.2024
Expatfile vereenvoudigt FBAR-aangiftes voor Amerikanen
DC Business25.02.2024
Dit is waarom jij als ondernemer een kredietverzekering moet hebben
Online13.02.2024
Waarom een Kanban-training voor veel beroepen werkt
DC Business31.01.2024
Van zzp naar zmp: denk aan de verplichte RI&E!
Verder lezen over Consument
Media06.03.2024
RTL & Buienradar komen met het energieweerbericht op tv
Cybercrime05.02.2024
Consumenten bezuinigen op kosten, maar helaas ook op privacy en security
Marketing01.02.2024
Onderzoek: veel consumenten bezorgd over het geven van persoonlijke gegevens aan retailers
Automotive24.01.2024
Lexus is volgens de consumentenbond het meest betrouwbare merk
scoort gemiddeld een 9,6 in betrouwbaarheidsonderzoek
Gadgets22.12.2023
Massaclaim: Je krijgt mogelijk geld als je een tv hebt gekocht
Met vriendelijke groet, Samsung?
Mobile01.11.2023
ACM en Apple komen er maar niet uit met datingapps
Nieuws19.10.2023
Amazon moet naar de rechter voor schending privacy Nederlandse consumenten
Nieuws02.10.2023
Apple en ACM lijnrecht tegenover elkaar rondom datingapps
Verder lezen over Data
Online31.10.2023
Zoveel datacenters: wat zijn de voors en tegens?
Technology20.09.2023
Doek valt definitief voor een datacenter in Zeewolde
Online25.08.2023
Er komen beperkingen op de cloudopslag van Dropbox
Online11.07.2023
Europa en Amerika gaan datadelen weer toestaan
Komt Threads dan nu wel naar Europa?
Cybercrime28.06.2023
Nieuw onderzoek: datalekken in de zorgsector nemen nog steeds toe
41% van de gezondheidszorgorganisaties sinds 2021 te maken heeft gehad met een datalek
Cybercrime26.05.2023
Autoriteit Persoonsgegevens onderzoekt mogelijk datalek bij Tesla
DC Business03.05.2023
Data recovery als snelle reactie bij gegevensverlies
Mobile12.04.2023
We bellen en sms’en weer veel minder
Voorraad 06-nummers nog steeds schaarsVerder lezen over Privacy
Online24.04.2024
Dating-app Grindr aangeklaagd om delen HIV-status met anderen
Cybercrime15.04.2024
Bescherm jij je online identiteit wel genoeg?
Online18.03.2024
Digitaal mijmeren: Zullen AI’s op het internet op enig moment ontwaken?
Mogelijk ontwikkelen AI's een vorm van gedecentraliseerd interactiviteitsbewustzijn
Online15.02.2024
Je AI-geliefde is onbetrouwbaar: onveilig en uit op geld
Doe het veilig
Cybercrime05.02.2024
Consumenten bezuinigen op kosten, maar helaas ook op privacy en security
Online23.01.2024
Erotische datingsites: oplichting als premium verdienmodel
Waarom grijpt de Autoriteit Consument & Markt niet in?
Nieuws15.01.2024
Dilan Yesilgoz grootste privacyschender van 2023
Demissionair minister krijgt de Big Brother Award; X en Meta ontvangen expertprijs
Advertising10.01.2024