Harari als de doemprofeet van AI
Yuval Noah Harari, ‘Nexus: van het stenen tijdperk tot AI: een beknopte geschiedenis van informatienetwerken’ 
Voor het eerst in haar geschiedenis heeft de mensheid met AI iets tot stand gebracht dat buiten haar eigen controle dreigt te vallen, zo stelt de immens populaire historicus, futuroloog en succesauteur Yuval Noah Harari in ‘Nexus’. Ook na lectuur van zijn nieuwe, goed vierhonderd pagina’s tellende boek blijft het echter koffiedik kijken voor het leven in ‘algoritmische tijden‘.
Lange aanloop
Harari, in oorsprong een universitair docent Middeleeuwse (oorlogs)geschiedenis, presenteert ‘Nexus‘ – de opvolger van een reeks bestsellers zoals ‘Sapiens’, ‘Homo deus’ en ’21 lessen’, als een beknopte geschiedenis van informatienetwerken. Dat ‘beknopte’ valt wel wat te relativeren. Zo krijgt de lezer in een eerste deel een best lange aanloop van dik tweehonderd bladzijden voor de kiezen waarin de futuroloog/historicus het achtereenvolgens heeft over onder meer de opkomst van het schrift, de boekdrukkunst, de canonisering van de Bijbel, de vroegmoderne heksenjachten en stalinistische collectivismecampagnes om zo te stranden bij de notie van een ‘digitaal gordijn’.
Over geschiedenis stelt de immens populaire schrijver dat die niet zozeer de studie is van het verleden, dan wel die van verandering. Geschiedenis houdt begrip in van de achterliggende mechanismen die (politieke) ideeën, maatschappijen, culturen en mensen doorheen de tijd doet veranderen en wat dat met zich meebrengt. Net zoals de hele opkomst van AI een lange voorgeschiedenis kent.
De naïeve blik op informatie en de ontwikkeling van informatienetwerken
Een van de meest wezenlijke elementen in ‘Nexus’ is wat Harari beschrijft als de ‘naïeve blik op informatie’. Die stelt onder meer dat “het probleem opgelost kan worden door het tegendeel van een kerk op te richten, namelijk een vrije informatiemarkt. De naïeve kijk verwacht dat het wegnemen van alle restricties op de vrije omloop van informatie er automatisch toe zal leiden dat fouten worden blootgelegd en vervangen door waarheid (..) dit is wishful thinking”.
Harari maakt zich niet enkel zorgen over de valkuilen van de ‘naïeve kijk. Ook maakt hij zich duidelijk zorgen over de manier waarop het wegwerken van eventuele feilbaarheid bij informatiesystemen niet langer onder menselijke controle valt. Algoritmes kunnen immers potentieel eigen keuzes maken die het aspect van de menselijke controle volledig negeert.
Voor wat de opkomst van AI betreft richt hij zich overigens veel sterker op de gevaren eerder dan op de mogelijke baten. Regelmatig voegt hij nuances toe aan zijn stellingnames, al valt ook wel op dat hij opvallend vaak zélf twijfelachtig lijkt ten overstaan van zijn eigen revolutionaire inzichten. Evenwel tracht hij AI in een geschiedkundige context te plaatsen, waarbij hij wederom probeert te komen tot een veelomvattend, caleidoscopisch big history–verhaal waar hij in de opkomst van AI een revolutionair fundament ziet.
Gekende concepten met ‘revolutionair’ karakter
Deels plooit Harari terug op ideëen rond de relatie tussen ‘sapiens’, technologie en democratie die eerder al in ‘Homo deus’ en ’21 lessen’ uitvoerig aan bod kwamen. Waarbij ook dient gezegd dat vele van de nieuwe inzichten die Harari de lezer in ‘Nexus’ presenteert natuurlijk al veel langer bekend zijn. Denk daarbij gerust aan concepten zoals ‘desinformatie’ of ‘fake news’. Net zoals ook het hele idee dat technologie weleens de controle over de mensheid zou kunnen nemen zeker niet nieuw is. Al in de jaren twintig (!) schreef Karel Čapek met ‘R.U.R.‘ al over de opkomst van robots met daarbij het gevaar dat de menselijke controle op technologie weleens in het gedrang zou kunnen komen.
We leven dezer dagen ook in een ‘post-truth en ‘post-privacy’ wereld. Daarbij wijst de auteur ook op het gevaar van ‘superveillance kapitalisme‘, zoals die eerder al door de Amerikaanse filosofe Susanna Zuboff naar voren gebracht werd. Prikkelend is ook hoe Harari stelt dat in de jaren tweeduizendtwintig intimiteit (en niet aandacht) wellicht veel sterker aan belang zal winnen.
Daarnaast wijst Harari ook op het onaantrekkelijke idee van menselijke data als handelswaar. Momenteel wel degelijk een realiteit. Denk maar aan smartphones die letterlijk bij elke klik informatie levert. Dat soort ideëen verbindt hij ook aan democratie. Zo verwijst hij in het tweede deel van ‘Nexus’ onder meer naar de dystopische tech-serie ‘Black Mirror‘, meer specifiek naar de ‘Nosedive’ aflevering waar mensen elkaars ‘score’ kunnen beïnvloeden en het ook diezelfde sociale kredietscore is die de pikorde in de mensheid bepaalt. Dat illustreert erg treffend hoe Harari de opkomst van AI in een maatschappelijk-democratische context plaatst.
Speculatief
Hoewel er in ‘Nexus’ zeker interessante bespiegelingen te lezen vallen, zoals onder meer verwijzingen naar het Bostrom gedachte-experiment of die naar zet 37 kan je niet anders dan vaststellen dat veel van wat Harari in ‘Nexus’ schrijft ofwel zeer speculatief blijft ofwel, ook al zitten we slechts aan het prille begin van die immens grote AI omwenteling, intussen al in enige mate achterhaald is.
Dat maakt ook dat het als lezer best moeilijk is om, zoals Harari doet, echt ver in de toekomst proberen te kijken. Het noopt in elk geval bij uitstek tot een kritische reflectie op de huidige gang van zaken.
