delong250_smratboy10Getty Images_digitalsociety smartboy10/Getty Images

De algoritmenmaatschappij en haar ontevredenen

BERKELEY – Naar mijn mening was het meest diepgaande en inzichtelijke werk op het gebied van de politieke economie van het afgelopen decennium noch een tijdschriftartikel, noch een monografie, noch een boek in de traditionele zin. Het was een online symposium. In Red Plenty: A Crooked Timber Book Event gebruikten wetenschappers en intellectuelen, bijeengeroepen door politicoloog Henry Farrell, een nieuwe vorm van print-communicatie om te reageren op het zeer interessante boek Red Plenty van Francis Spufford.

Spufford analyseerde de spectaculair mislukte poging van de Sovjet-Unie om via bureaucratie en wiskunde een betere samenleving op te bouwen dan met behulp van markten mogelijk was. Maar elke keer als ik terugdenk aan Red Plenty: A Crooked Timber Book Event word ik getroffen door de inzichten van de deelnemers in de onoverkomelijke dilemma’s die de moderne markteconomie zelf veroorzaakt. Ik ben ook nog steeds verbaasd over het succes van het ‘book event’ bij het gebruik van nieuwe technologieën om een kwalitatieve verschuiving teweeg te brengen in de manier waarop we communiceren en samen de wereld begrijpen.

Ik heb over deze kwesties nagedacht omdat Farrell onlangs een nieuw artikel heeft gepubliceerd, ‘The Moral Economy of High-Tech Modernism.’ Hij en de sociologe Marion Fourcade betogen dat het internet en zijn nakomelingen (wat zij ‘hightech-modernisme’ noemen) de wereld nu even ingrijpend veranderen als de opkomst van de markteconomie en de bureaucratisering van de samenleving onder de moderne staat dat ooit hebben gedaan.

Dit betoog heeft betrekking op de fundamenten van de menselijke samenleving. Als individuen zijn wij mensen zwak en hulpeloos. Alleen met de kennis die we opdoen in een cultuur kunnen we overleven. Maar om een cultuur te hebben of iets te produceren, moeten we ons organiseren en coördineren in een collectieve intelligentie en gedistribueerde eenheid. Gedurende duizenden jaren hebben we in het algemeen drie verschillende manieren gehad om een dergelijke organisatie in stand te houden.

De eerste is herverdeling: informatie, middelen en nuttige producten stromen naar een gecentraliseerde pool en stromen dan weer naar buiten in de vorm van toegewezen taken, hulpmiddelen, beloningen of sociale steun. De tweede manier is wederkerigheid: elk huishouden is verbonden met enkele andere in langdurige relaties van de uitwisseling van giften, die neigen naar een basaal evenwicht. En omdat er in de meeste menselijke samenlevingen slechts zes ‘degrees of separation’ zijn, zullen de behoeften van één eenheid de acties van vele anderen beïnvloeden. Ten slotte is er de democratie: mensen gebruiken debat en discussie om een ruwe consensus te bereiken en brede steun te verwerven voor een overeengekomen plan.

Natuurlijk brengt elke wijze van organisatie een wijze van verdeling en autorisatie met zich mee, teneinde de vraag te kunnen beantwoorden wie meer van de goede dingen moet krijgen (wie ‘gelijker’ moet zijn dan de anderen). Bij herverdeling komt de macht toe aan degene die zich in het centrum van het systeem bevindt; bij wederkerigheid aan degenen met de meeste middelen en vrienden; en bij democratie aan degenen met de zilveren tong.

Introductory Offer: Save 30% on PS Digital
PS_Digital_1333x1000_Intro-Offer1

Introductory Offer: Save 30% on PS Digital

Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.

Subscribe Now

Met de komst van de moderniteit kwamen daar nog twee modi bij: de markteconomie, zoals die is opgezet door de zakenklasse, en de bureaucratie, zoals die is opgezet door de moderne staat. De markt is ongeëvenaard als instrument voor het vinden van oplossingen voor problemen. Maar in de praktijk is de reikwijdte ervan beperkt tot het voldoen aan de eisen van de rijken, door te zorgen voor een efficiënt gebruik van die dingen die toevallig een marktprijs hebben.

Evenzo is de bureaucratie uniek in haar vermogen om dingen te classificeren en te standaardiseren, waardoor zij het grotere geheel kan overzien op manieren die een systeem van wederkerigheid of herverdeling niet kan. Maar bureaucratie kan natuurlijk ook leiden tot veel ondoelmatigheden.

Onze machtige, maar zeer gebrekkige en ongelijke beschaving werd opgebouwd door markten en bureaucratie toe te voegen aan onze drie oorspronkelijke organisatievormen. Maar nu waarschuwen Farrell en Fourcade dat we een zesde modus aan het toevoegen zijn: die van het algoritme.

Volgens techno-optimisten is een samenleving gebaseerd op algoritmen veel beter dan alles wat we met markten en bureaucratie tot stand kunnen brengen. In tegenstelling tot een markt is een algoritme niet beperkt tot het zien van louter de geldvorderingen van de rijken en de geldkosten die worden opgelegd door degenen die erin zijn geslaagd eigendomsrechten op te eisen. En in tegenstelling tot een bureaucratie zal een algoritmische samenleving jou, een vierkante pin, niet in een rond gat dwingen.

Niet langer zullen ‘deskundigen’ beslissen in welke categorie je moet vallen. In plaats daarvan ontstaan affiniteitsgroepen spontaan uit de voorkeuren van mensen, geopenbaard in hun woorden en daden. Middelen zullen worden gemobiliseerd om elk individu te dienen door gebruik te maken van de unieke kracht van schaalvoordelen.

Is dit een hoop die we allemaal moeten delen? Toen de bureaucratie zijn intrede deed als een nieuwe organisatievorm, wiste zij stilzwijgende vormen van kennis uit, ontwrichtte zij de rommeligheid van het leven van mensen en dwong zij mensen in categorieën die het nuttigst waren voor degenen die de machtsmiddelen in handen hadden. Evenzo introduceerden markten enorme, kostbare nieuwe externaliteiten door voorrang te geven aan de behoeften van de rijken. Maar zijn er goede redenen om te denken dat een algoritmische samenleving deze gebreken zou kunnen verhelpen, of dat zij zelf geen nieuwe, enorme problemen zou kunnen introduceren?

Het concept van ‘snel’ en ‘langzaam’ denken van Nobelprijswinnaar voor de economie Daniel Kahneman kan ons helpen om te begrijpen wat hier op het spel staat. Een algoritmische samenleving zou alleen onze ‘snel denkende’ kant dienen, en voortdurend op zoek zijn naar ‘betrokkenheid’ – dat wil zeggen angst en woede. Net zoals markten de rijken bedienen, voeden algoritmen onze naarste impulsen.

Een clickbait-maatschappij is niemands beeld van Utopia. Toch vrees ik dat de huidige trends ons daarheen leiden.

Vertaling: Menno Grootveld

https://prosyn.org/pgvD1DUnl