Een maand geleden werd bericht dat Facebook zelf geen overzicht heeft over waar ze persoonlijke gegevens opslaan:
https://www.security.nl/posting/767285/
Dit betekent dat ze ook geen inzicht hebben in de processen die die gegevens opslaan en gebruiken, want als ze dat inzicht hadden hadden ze ook inzicht in de data die die processen gebruiken. En dat impliceert weer dat het aanpassen van de algoritmes, wat Amnesty volkomen terecht als noodzakelijk ziet, Facebook niet op afzienbare termijn zou lukken als ze het zouden willen, want om dat te kunnen heb je overzicht nodig over wat je eigenlijk aanpakt, en dat hebben ze nou net niet.

Facebook heeft jarenlang ontwikkeld met als motto "move fast and break things". Steeds meer complexiteit toevoegen zonder erbij stil te staan dat je dat doet, en dus zonder je te bekommeren over de vraag hoe je dat straks nog kan beheersen, is een garantie om op een gegeven moment met een gedrocht te zitten waarvan geen mens nog in staat is om het ooit nog te overzien. Dat wil niet zeggen dat er niet uit te komen is, maar op een redelijke termijn eruit komen zonder de stekker eruit te trekken is onbegonnen werk, en de stekker eruit trekken is een vorm van "move fast and break things" waar Facebook zelf echt niet voor gaat kiezen.

Een van de dingen die ik me van de Rohingya-crisis, toen die jaren geleden losbarstte, herinner is dat de centra van Facebook waar mensen de hele dag gruwelijke content moeten beoordelen (gekmakend voor die mensen en volstrekt onvoldoende als maatregel) er voor kleinere niet-westerse taalgebieden domweg niet waren. Dat liet toen al zien dat Facebook niet in staat is om wat ze gecreëerd hebben te beheersen, en ook dat het ze niet voldoende interesseert dat het levens kost.

De weerstand tegen ingrijpen in hoe via Facebook wordt gecommuniceerd komt niet alleen van Facebook zelf. Menigeen ziet ingrijpen daarin als ingrijpen in vrije meningsuiting en vrije expressie. Maar de mensen die dat vinden zien iets belangrijks over het hoofd, namelijk dat Facebook allang actief ingrijpt in vrije meningsuiting en vrije expressie. Facebook filtert en selecteert namelijk volop content op basis van hun algoritmes. Dat heeft weliswaar geen politiek doel, het dient de winstgevendheid, maar het effect is wel degelijk dat schokkende en opruiende content benadrukt wordt en dat bedachtzame en verstandige content juist minder aandacht krijgt. Zo'n platform is niet neutraal wat vrije meningsuiting en vrije expressie betreft, effectief censureert het verstandige bedachtzaamheid. En dat kan ongelofelijk schadelijk uitpakken, zoals onder meer de toestand met de Rohingya's laat zien.

Dat los je niet op met compenserende maatregelen. Dat los je op door de enorme winstgevendheid als motivatie voor het maken en onderhouden voor zo'n platform los te laten, door als motor voor wat mensen te zien krijgen te hanteren wat mensen zelf opzoeken en zelf onder de aandacht brengen, en dat niet te beïnvloeden op basis van wat de meeste opwinding oplevert. Om de mogelijkheid voor het ontstaan en het handhaven van doorgeslagen winstbejag te doorbreken is het nodig om platform-lock-in te doorbreken. Dat doe je door uitwisselbaarheid over meerdere platforms te verplichten, wat gestandaardiseerde formaten en protocollen vergt, net als bij e-mail. En daar gaan de Facebooks van deze wereld echt niet vrijwillig aan meedoen. De EU is gelukkig bezig met het optuigen van dit soort verplichtingen.