image

"Big data en surveillance leiden tot totalitaire samenleving"

maandag 22 augustus 2016, 12:21 door Redactie, 26 reacties

Big data en grootschalige surveillance door overheden leiden tot een nieuw soort totalitaire samenleving, zo stelt Dirk Helbing, hoogleraar computationele sociologie aan de TU Delft en de Zwitserse ETH in Zürich. "Ik ben zeer bezorgd. We komen steeds meer in een grote systeemcrisis terecht. Ik vrees op korte termijn misschien zelfs oorlog als bedrijven en overheden zo doorgaan als nu", aldus Helbing tegenover NRC.

Volgens de hoogleraar hebben bedrijven en overheden de laatste jaren "als gekken" data verzameld, vanuit het idee dat de wereld kan worden geoptimaliseerd door mensen van bovenaf in de gaten te houden. "Maar door mondialisering en digitalisering is de wereld zó complex geworden dat dat helemaal niet kan", zo laat hij weten. "We kunnen niet eens de verkeerslichten in een stad volledig optimaliseren, omdat die systemen al te complex zijn. Laat staan dat dat voor een hele maatschappij kan."

Hij waarschuwt ook voor het idee achter massasurveillance en big data, namelijk dat als je genoeg data hebt de waarheid vanzelf verschijnt. "Topmanagers en politici moeten doen wat de data ze vertellen. Dat is de ideologie die is verspreid door technologiebedrijven. We bouwen een soort supercomputer die ons vertelt wat we moeten doen. Een nieuw totalitair systeem. Een dictatuur van data", gaat hij verder.

De hoogleraar stelt dat er een grote stap gezet moet worden, anders zal het weer fout gaan. Het zijn echter sommige overheden en grote banken die van het oude systeem profiteren en de verandering tegenwerken. Helbing vindt dat het democratische kapitalisme dan ook opnieuw moet worden uitgevonden om te voorkomen dat we in een oorlog of een totalitaire maatschappij terechtkomen. "Systemen moeten met behulp van digitale technologie juist zo ontworpen worden dat ze zelforganiserend worden, zonder dat grote bedrijven of overheden daarin een centrale rol spelen."

Reacties (26)
22-08-2016, 12:37 door Anoniem
Geef deze man een medaille.
22-08-2016, 13:18 door Anoniem
Hiep hoi iemand die het begrijpt, maar helaas de rest niet, het gaat vooral om veel geld te verdienen, zie google.
22-08-2016, 13:34 door Anoniem
Ik ga dit artikel uitprinten en inlijsten.
22-08-2016, 13:49 door Anoniem
Door Anoniem: Geef deze man een medaille.

Doe maar meteen een nobelprijs :)
22-08-2016, 14:07 door Anoniem
Ja, werkelijk?
Het zorgt er tevens voor dat mensen steeds minder en minder geven om de mogelijke consequenties van hun handelen.
Waarom zou je je zorgen maken over detentie, wanneer je stiekem meer privacy hebt binnen gevangenismuren?
(het vrije Internet is dood. Je betaalt veel geld om gevolgd en uitgeperst te mogen worden)
22-08-2016, 17:52 door Anoniem
Niet veel aan toe te voegen. We zijn zo druk bezig een systeem te bouwen (omdat we er allemaal op de een of andere manier geld aan verdienen), dat we niet inzien dat we ons als samenleving straks onmogelijk los kunnen maken als het uit de hand begint te lopen. Het systeem bepaald dan of we ergens voor mogen stemmen en of er dan iets mee gedaan wordt. Het systeem zal demonstraties in de kiem smoren en individuen die aanzetten tot verandering de mond snoeren. En omdat het systeem steeds een stapje verder gaat in het controleren van alles, zullen uiteindelijk ook bankdirecteuren en politici en hun nazaten hier het slachtoffer van worden.

Net de mensen die dat niet niet omdat ze alleen maar bezig zijn met meer macht en meer geld, zijn de enige die er nog iets aan kunnen doen.

Dit wetende is het ineens niet gek dat er op deze planeet al vele beschavingen ten onder zijn gegaan aan zichzelf. De geschiedenis blijft zich maar herhalen en de mensheid komt nog steeds niet verder dan telkens overnieuw opgebouwde beschavingen ten onder laten gaan.

Misschien moet het eens anders en moeten we politici vervangen door supercomputers die geprogrammeerd zijn op levenskwaliteit van iedereen en het verder helpen van het menselijk ras.

Wat het is als directeur misschien geweldig om een berg slapend kapitaal op je bank te hebben, maar het is veel mooier om de geschiedenis in te gaan als de sponsor van een baanbrekende uitvinding of bijdrage die heel veel voor de mensheid betekende, dan de zoveelste rat die alleen aan zichzelf dacht.
22-08-2016, 17:56 door karma4
Het artikel in de NRC is veel genuanceerder dan het redactieartikel. Overigens wel heel uitstekend een aantal kernpunten er uit gehaald. Jammer genoeg toont Dirk Hellbling geen geen constante verhalen als je Google. De boodschap is wel consistent.

Big data tegenhouden, dat gaat je niet lukken. De overgang is een vervolgstap zoals eerder naar de kandbou (feodaal) en de indidustralusatie (commercie liberaal). Het is de vraag hoe we die stap invullen. Grappig dat se welvaartsverdeling bij hem net zoals bij piketty en anderen gezien wordt. We moeren dat beter doen.

Big data is een hulpmiddel ter verbetering van wat we kunnen in de engineering onze leefomgeving. Het kan een hulpmiddel zijn voor onze gezondheid en levenswijze.
Het is zeker niet zo dat als je alles weet je de toekomst kan voorspellen. Dat geloof dat alles voorbestemd is en je geen eigen invloed hebt is een filosofie die je ethisch niet moet willen.
22-08-2016, 17:56 door karma4
[Verwijderd]
22-08-2016, 17:59 door Anoniem
Ja ik ben het helemaal eens met die hoogleeraar.
Dit kan zo niet,vandaar dat ik ook tegen big data ben,ook mede daarom gebruik ik vpn met mijn netwerk,met de hoogste coderingsgraad.
Misschien dat dat heel veel helpt om bedrijven buiten de deur te houden met hun verzameldrift,ook gebruik ik addblockers en dergelijke om onnodige trackers tegen te gaan.
22-08-2016, 19:15 door Anoniem
Kijk eens hier wat we aan het doen zijn. Ja want de meesten doen er willens en wetens aan mee.

Dat neo-feodale krachten ons daarbij in een soort van digitale slavernij willen lokken, laten we gebeuren.

Van achter de laptop of met twee duimen op het Smartphone toetsenbord weten we dat we voor een karretje gespannen worden.

We thuisbankieren en doen het werk van de bank, die ons hiervoor beloond met negatieve rente. Steeds meer wordt het model een maand vooruitbetalen, en teken dat men niet eens de betalende klant vertrouwd (telefoon, OV traject, belasting vanaf de tweede maand van het lopende belastingjaar en ga zo maar door).

En vaak werkt het niet, de webwinkel kan geen goederen leveren en stort mijn tegoed voor het niet geleverde niet terug.
De schappenvoorraad moet automatisch bijgehouden worden en ik grijptoch weer elke keer ergens mis.

En dan moeten we daar met ons data geslurp een model mee opzetten, dat ons collectief gedrag moet gaan programmeren. Dat dat fout gaat of leidt to conflicten hoeft geen verbazing te wekken.

Een eenvoudige website is nog niet eens vrij van kwetsbaarheid te houden.

Wel snel gegaan, van de hoofd rekenkunstenaar met het potlood achter het oor aan de deur (uit de thans verdwenen middenstand) naar de online bestel app met gedwongen reclame beleving. Niet beter wel anders en het geld gaat gecentraliseerd naar de grote spelers.

We hebben ons alles laten afnemen en uit handen laten spelen op een zeer sluwe en geleidelijke manier.

Dit alles is niet het ergste. Het ergste is dat het grootsete deel van de mensheid niet meer participeren zal en bezig gehouden moet worden. Alleen formulier invullers en dgenen die de machinerie aan de gang moeten houden zijn nog nodig.

Oorspronkelijke talentvolle geesten die ons kunnen leiden naar een neo-Verlichtingstijd kan men missen als de spreekwoordelijke kiespijn.

Leuk gaat dit allemaal worden.
22-08-2016, 21:43 door Anoniem
Ze denken dat big data systemen perfect zullen worden.
Dat zullen ze nooit worden. Zulke systemen kennen geen gevoel.
Een computersysteem vergeeft niet.....
23-08-2016, 00:02 door Anoniem
Mensen hebben de computer uitgevonden. Mensen stoppen van alles in de computer, goed en kwaad. Mensen maken fouten die ook in de computer sluipen, kan niet anders. Ik ben gestopt met de smartphone, had een 24-maanden contract, staat nu op non-actief, maar mijn abonnement loopt nog en kan er volgens hun procedure niet van afwijken. Tja ..., wat doe je er aan. Er is zo'n onderhuidse dreiging lijkt wel als je het contract wilt verbreken, dat je het wel laat uit domme angst. Echter wat er echt gebeurt als ik het contact zou gebeuren weet ik niet. Boete? Zo ja, hoe hoog dan? Kom ik niet aan de weet. Wie hun baas is en zijn/haar telefoonnummer. Of ze willen het niet zeggen of ze weten niet eens wie hun baas is. Ik ben klaar met de smartpone. Één keer nooit meer. Lijkt mooier dan het is. Je kan gesprekken opnemen, foto's maken. En waarvoor eigenlijk? Hebben we dat echt nodig? Wat moeten we er eigenlijk mee? De beste plek voor een smartphone is in de doos, simkaart eruit en niet meer gebruiken. 't Werkt ook nog eens verslavend als je niet oppast.

Het zijn sterke benen die de weelde kunnen dragen. Liever een klein mobieltje waar je alleen mee kan bellen en sms'en dan een smartphone. Het liefst zou ik die smartphone direct terugsturen naar de provider en alles in één keer betalen. Dan ben ik er tenminste echt vanaf. Ik voel me nu min of meer een gevangene een provider (ik zal geen naam noemen).

WAARSCHUWING:
De harde samenleving is een feit en pas op voordat je een contract tekent, want je komt er zeer moeilijk of niet vanaf. De procedure een bepaalde provider (..., onderdeel van .-......) laat dat niet toe. Raadt zelf maar over welke provider ik het heb.
23-08-2016, 00:21 door Anoniem
Het nadeel van computer is vaak dat je als je vragen hebt je ze niet meteen en gewoon kan stellen.
Bijvoorbeeld als er een blokje verschijnt, waarmee je geen raad weet, wel doen of niet doen.
Voorbeeld: Vierkant blokje verschijnt met mededeling dat je iets kunt 'UPGRADEN' of 'nu niet' ja en dat laatste ook nog met kleine letter. Echter ik wil dit helemaal niet, maar ik mis het rode kruisje rechtsboven, waarmee je de meeste blokjes kan wegklikken. Erg totalitair, vind ik. Want voor de hand ligt nu dat je op 'nu niet' klikt, maar dat impliceert eigenlijk al dat je het later wellicht een keer zal moeten(?) 'UPGRADEN', of zie ik dat verkeerd?

Computertaal, je raakt er soms wel verstrikt in. Maar misschien ben ik zelf een apart geval. Maar af en toe sta je wel voor verrassingen. Leer mij de computer kennen, ik heb nu al de indruk dat er in feite minder mogelijk is dan een paar jaar geleden. Op de een of andere manier maken ze het je moeilijk. Tenminste, dat vind ik. Een ander kan er anders over denken.

Inderdaad computersystemen hebben geen gevoel en begrijpen niet dat je soms met vragen kan zitten, laat staan dat ze je vraag meteen zouden kunnen snappen. Ik snap zelf eigenlijk nog steeds niet hoe ze zo'n ding hebben kunnen uitvinden. Knap staaltje werk of is het eerder een vorm van magie? Het feit dat het verslavingsgevoelig is bewijst alleen dat dit ding, waar ik nu op zit te typen, een magische aantrekkingskracht kan uitoefenen, want er is immers alles op te vinden, wat je maar leuk, mooi en interessant vindt, maar slechte dingen (.....) kun je er helaas ook op vinden.
23-08-2016, 00:59 door Anoniem
Door Anoniem: Kijk eens hier wat we aan het doen zijn. Ja want de meesten doen er willens en wetens aan mee.
Helaas komt het niveau van "de meesten" niet verder dan passief consumeren en "je moet toch met de tijd meegaan". Wie willens en wetens meedoet is de enkeling die niet of zo weinig mogelijk meedoet.
Leuke wereld ja.
23-08-2016, 08:19 door Anoniem
Bij zulke berichten denk ik als eerste direct aan George Orwell - 1984. Het begint er aardig op te lijken.
23-08-2016, 08:44 door Anoniem
Veel goede punten in het artikel. Zoals @Karma4 aangeeft, je kan Big Data niet on-uitvinden. Ik ben het niet helemaal met hem eens dat het niet tegengehouden kan worden, het gebruik van kernwapens en gifgas hebben we (met enkele uitzonderingen) inmiddels min of meer onder controle, en ook het gebruik van sommige vormen van milieuvervuiling (CFK's bijvoorbeeld) hebben we min of meer onder controle.

Mijn grootste kopzorg is wat je een inquisitiestaat zou kunnen noemen. De inquisitie begon met het gemakkelijker maken van vervolging door het deels afschaffen, deels omzeilen van rechtsbescherming. Naar we intussen weten waren de daaropvolgende veroordelingen ook volgens de toen geldende regels van goed en fout zin en onzin door elkaar. Datzelfde effect zie je met de huidige situatie, het heeft alleen nog niet lang genoeg geduurd voor de gevolgen enerzijds om ten volle te ontstaan en anderzijds om door het gesteente van geheimhouding heen te sijpelen en zichtbaar te worden. Maar wie TheIntercept, het Buro Jansen en Janssen, Schneiers blog en andere bronnen volgt, ziet de misstanden. Vaak gedeeltelijk onopzettelijk (althans als begin, ik tel het instandhouden van de misstand uit botte onwil een fout toe te geven even niet mee), maar daarom niet minder pijnlijk. Er is alle reden om aan te nemen dat de bekende incidenten met een aanzienlijke correctiefactor voor geheimhouding (of gemiste kansen tot ontdekking) vermenigvuldigd moeten worden. Vervolgens moet daar de Wet van Heinrich op toegepast worden. Wat je dan overhoudt is een kans op verlies van kwaliteit van leven die ontelbaar groter is dan bijvoorbeeld betrokken raken in een aanslag.

De uitgangspunten voor de eindsituatie zijn duidelijk. De reactie op de inquisitie is uiteindelijk de opkomende rechtsstaat geweest, waarbij de fail-safes in ere hersteld werden en in veel opzichten versterkt. In zekere zin heeft Jefferson de kern samengevat in twee zinnen: "Of liberty I would say that, in the whole plenitude of its extent, it is unobstructed action according to our will. But rightful liberty is unobstructed action according to our will within limits drawn around us by the equal rights of others. I do not add "within the limits of the law" because law is often but the tyrant's will, and always so when it violates the rights of the individual."

Echter, hoe daar te komen? Ik denk dat een eerste stap is om in veel sterkere mate dan nu het geval is mechanismen op te werpen waarmee besluitvormers aansprakelijk kunnen worden gehouden als hun systemen tot gevolg hebben dat de kwaliteit van leven onderuit gaat. Voor overheden en grote schaal hebben we al een mechanisme: we hebben voor het nageslacht vastgelegd dat onder bepaalde omstandigheden bij schendingen van mensenrechten door overheden het principe nullum crimen, nulla poena, sine praevia lege poenali (geen straf zonder wet) niet opgaat (vergelijk de werkwijze van het internationaal strafhof). Andere vormen die ik me kan voorstellen zijn de mogelijkheid schadeherstel in plaats van schadevergoeding te kunnen krijgen (een stap in deze richting is het recht vergeten te worden). De dreiging om daadwerkelijk zelf de rotzooi op te moeten ruimen is, zelfs al is het goedkoper dan een cheque uitschrijven, vermoedelijk een stuk doeltreffender. En we zullen een serie contragewichten nodig hebben om de machtsbalans tussen overheid en burger en in veel sterkere mate tussen bedrijven en burger weer in evenwicht te trekken, met andere woorden, de burger mogelijkheden geven zich te verweren en de schade beperkt te houden die niet (zoals bijvoorbeeld uit het paspoortproces is gebleken) alleen maar op papier bestaan (geen zinnig mens noemt een juridische strijd van jaren en tonnen en intussen met allerlei beperkingen in kwaliteit van leven een redelijke manier van recht).

Tot slot een optimistische noot. Tegelijk met Big Data is er een ontwikkeling aan de gang die misschien op zichzelf al een tegenwicht kan gaan bieden tegen de meest kapitalistische uitwassen van de ontwikkelingen. Ik heb het over de combinatie van 3D printing en hernieuwbare energiebronnen. Want wie is in een eventuele toekomst nog afhankelijk van op winstbejag gegronde bedrijven als die alles wat nodig is met zonnekracht uit afval kan printen?
23-08-2016, 08:56 door Anoniem
Op de een of andere manier maken ze het je moeilijk. Tenminste, dat vind ik.Een ander kan er anders over denken.
Ik zie het iets als de handboeien om doen, ze maken mensen afhankelijk van een systeem
wat je helemaal niet nodig hebt.

Faceboek, ik heb 1000 frienden, ó wat ben ik gelukig, maar die ene echte friend die mij helpt als het nodig is, of
als ik iemand echt nodig heb om te mee te praten, die mij begrijpt en voor mij klaar staat is veel belangrijker dan die 1000 frienden op faceboek.
Als je minder of geen social media gebruikt hebben ze ook minder gegevens van je, je hebt het zelf wel
een beetje in de hand.
23-08-2016, 09:01 door SPlid
Natuurlijk kunnen we iets doen aan big data, alle elektronica in de shredder en dan weer terug naar de goede oude mail.

Maar dat willen we met ons allen niet
23-08-2016, 11:05 door superglitched - Bijgewerkt: 23-08-2016, 11:05
We kunnen natuurlijk allemaal de hoogste graad aan security nemen, uit protest. Maar aangezien jullie niets te verbergen hebben, ga ik er vanuit dat u daar mee geen deuk in een pakje boter slaat. Niet alles hoeft een doel te hebben, maar zodra men zich beter erbij voelt kan het toch een doel serveren. Enige nadeel is dat de wereld er niet vanzelf beter op wordt. Als u echt een protest wil aftekenen, kan dat ook via effectievere methoden. Voornamelijk bedenken hoe surveillance en sleepnetten niet meer nodig zouden worden. Of misschien zijn ze allang niet meer nodig? Misschien is het hele terrorisme verhaal wel een opgeblazen stukje.
23-08-2016, 11:44 door Anoniem
Twitter, Facebook, Windows 10 en Google Chrome, allemaal gehad, maar weer hersteld naar eerdere staat. In principe heb je het niet nodig. Zelfs e-mailen werkt niet zoals ik me had voorgesteld. De NO-REPLY-reacties zijn er teveel van bedrijven, waardoor ze het je onmogelijk maken via een normale weg vragen te stellen in plaats van steeds op hun website te moeten inloggen en daar van alles in te vullen via contactformulieren. Het vergt enorm veel tijd. Je moet wachtwoorden verzinnen, je wordt er simpel van. Een e-mailtje is veel gemakkelijker. En bedrijven hoeven niet in te loggen bij particulieren en komen zo weer op je e-mail binnen. Ik word er ziek van.

Inmiddels zou ik graag back to normal life willen...., zonder computer het leven door. Maar kun je een mobiel telefoontje nog krijgen zonder je te hoeven aan te sluiten aan het Internetgebeuren? Een mobile telefoon, puur en alleen om te bellen en evt. te sms'en. Dat laatste is handig als de desbetreffende persoon niet opneemt, dan kun je toch een berichtje sturen.

Al met al zijn de berichten van diverse kanten op you tube niet rooskleurig als het om een totalitaire staat gaat. Er is veel meer aan de hand, dan velen vermoeden. Die chips die we nu al wereldwijd gebruiken op bankpassen en paspoorten zijn niet zo onschuldig als we denken. Er zijn mensen in de U.S.A., die dat dan ook weigeren uit principe en/of geloofsovertuiging. Ik vind het echt eng worden.
23-08-2016, 16:20 door Anoniem
Door SPlid: Natuurlijk kunnen we iets doen aan big data, alle elektronica in de shredder en dan weer terug naar de goede oude mail.
Maar dat willen we met ons allen niet

Hoezo? Er is niets dat ik liever zou willen. Niet eens terug naar de mail, maar naar de post, 6 x per week graag, en bedankt!
23-08-2016, 21:02 door Anoniem
Post is uiteindelijk veel leuker en persoonlijker. Vakantiekaarten behoren bijna geheel tot het verleden. Ik krijg er nog maar zelden eentje. Dat TNT-Post, nu Post-NL (vroeger de PTT) meer reclame rondbrengt dan echte post, zegt meer iets over de teloorgang van onze samenleving. Reclame overal, televisie, internet, wil je wat gaan kijken en dan altijd weer die reclame ervoor en er soms zelfs tussen. :-( Vast tot frustratie van vele mensen. Reclame voedt de hebzucht en dat begon al bij het televisieprogramma 'Een van de Acht' van Mies Bouwman. Niet te vergeten de vele loterijen met ik weet niet wat voor prijzen (een vliegreisje met een dure Jumbojet bijvoorbeeld) of een idioot hoge som geld. Het kan wel wat minder toch?
23-08-2016, 21:27 door karma4
Door Anoniem:
Door SPlid: Natuurlijk kunnen we iets doen aan big data, alle elektronica in de shredder en dan weer terug naar de goede oude mail.
Maar dat willen we met ons allen niet

Hoezo? Er is niets dat ik liever zou willen. Niet eens terug naar de mail, maar naar de post, 6 x per week graag, en bedankt!
Natuurlijk gaan we niet terug. De industrialisatie kunnen we ook niet terugdraaien. De tijd dat 80% en meer van de mensen moesten zien te overleven als dagloner landbouwhulp is gelukkig over. Net zoals de tijd dat je zelf achter je eten in de natuur aan moest gaan. Je kunt de verandering niet tegenhouden alleen de wijze waarop daar kun je wat aan doen.
24-08-2016, 10:02 door Anoniem
Door karma4:
Door Anoniem:
Door SPlid: Natuurlijk kunnen we iets doen aan big data, alle elektronica in de shredder en dan weer terug naar de goede oude mail.
Maar dat willen we met ons allen niet

Hoezo? Er is niets dat ik liever zou willen. Niet eens terug naar de mail, maar naar de post, 6 x per week graag, en bedankt!
Natuurlijk gaan we niet terug. De industrialisatie kunnen we ook niet terugdraaien. De tijd dat 80% en meer van de mensen moesten zien te overleven als dagloner landbouwhulp is gelukkig over. Net zoals de tijd dat je zelf achter je eten in de natuur aan moest gaan. Je kunt de verandering niet tegenhouden alleen de wijze waarop daar kun je wat aan doen.

U bent veel te jong om te begrijpen. Post is niet iets uit de geschiedenisboeken, maar integendeel een levende herinnering van levende mensen die nog een aantal decennia teloorgang tegemoet zien.
24-08-2016, 11:20 door Anoniem
Door Anoniem:
Door Anoniem: Geef deze man een medaille.

Doe maar meteen een nobelprijs :)

Niet eens zo'n gek idee, daarmee zou de koning van Zweden er meteen voor zorgen dat ie meer serieus genomen gaat worden.
24-08-2016, 15:30 door Anoniem
Door Anoniem: Bij zulke berichten denk ik als eerste direct aan George Orwell - 1984. Het begint er aardig op te lijken.

Het lijkt eerder op Brave New World - namelijk allemaal "voor ons bestwil". Niet gelukkig zijn wordt dan ondermijnend gedrag; er is immers een instant remedie? Toen was het een pilletje, nu is het dr Google.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.