De aanstaande „banen-apocalyps”. De „superintelligentie” die om de hoek staat. De onvermijdelijke „AI-revolutie” waar je maar beter vroeg bij kunt zijn omdat je anders de boot mist. Cory Doctorow gelooft er he-le-maal niets van. „Ik denk dat dit op een bittere teleurstelling uitloopt, en dat het zomaar de wereldeconomie kan verwoesten”, zegt hij tijdens een video-interview vanuit de VS.
De Canadees-Britse Doctorow (1971), groot zwart montuur op zijn neus, is sinds de jaren negentig techblogger, activist en auteur. Hij schreef tientallen boeken, fictie en non-fictie door elkaar. Hij publiceert vrijwel dagelijks op Pluralistic.net. Wereldfaam verwierf hij omdat hij de term enshittification bedacht en groot maakte. Daarmee beschrijft hij hoe eigenlijk alles op het internet „shitter” is geworden, van sociale media en zoekmachines tot de kwaliteit van spullen op Amazon. En vooral beschreef hij: hoe dat kan. Hij verwoordde iets wat veel mensen blijkbaar ervaren; enshittification werd in de VS uitgeroepen tot woord van het jaar. In zijn nieuwe boek, The Reverse Centaur’s Guide to Life After AI, bekritiseert hij de economische dynamiek achter alle grote AI-beloftes.
„Vergeet niet: al die hypes richten zich niet op jou, maar op de aandeelhouders van AI-bedrijven. Díé moeten geloven dat AI eindeloos blijft groeien en eindeloos veel geld zal opbrengen. En waar kunnen hun belangrijkste klanten, grote bedrijven, het meeste geld op besparen? Mensen! Banen! Vandaar alle verhalen, actief versterkt en verspreid door de AI-bedrijven zélf, over de komende banen-apocalyps door AI. Als je beleggers wijs wil maken dat je de verliezen die je met hun geld hebt gemaakt in winst kunt omzetten, moet je ze ervan overtuigen dat jij bazen zover krijgt om massaal werknemers te ontslaan en te vervangen door AI. Dan worden al die investeringen ineens winstgevend.”
Doctorow schrijft en praat als een mitrailleur, en niet altijd even subtiel: „AI is wat je gebruikt als het je niet uitmaakt of het werk goed gedaan wordt.” En: „AI is eigenlijk gewoon een synoniem voor een slechter product. Mijn tienerdochter en haar vriendinnen noemen slechte dingen ‘AI’. Als iets er niet uitziet, slechte muziek of een slechte film: ‘Dat is zó AI’.”
Je zou het zo misschien niet direct zeggen, maar Doctorow is bepaald niet anti-technologie. Hij is hacker en techpionier van het vroege internet, en gebruikt zelf ook echt wel eens AI-toepassingen, vertelt hij, bijvoorbeeld om automatische transcripten te maken van interviews en om spelfouten in zijn blogs te vinden. Maar dat is een heel ander AI-gebruik dan wat de techbedrijven de laatste tijd pushen, vindt hij. Zijn mantra: „Het belangrijkste aan technologie is is niet wát ze doet, maar voor wie, en tegen wie.”
De titel van zijn laatste boek komt uit de automatiseringstheorie. Daar heet een mens die door een machine wordt geholpen een centaur, naar het mythische beest dat half mens-half paard is: het mensenhoofd stuurt, het machinelijf doet het zware werk. De schaker die met een computer zijn partijen analyseert is een centaur, net als de schrijver met een goede spellingscontrole. Een reverse centaur is het omgekeerde, en een aanzienlijk treuriger beest: een machine met een mens eraan als hulpstuk. De machine bepaalt tempo en taken, de mens vult de gaten op die de machine nog niet aankan, en draagt intussen alle risico. Doctorows voorbeelden: de magazijnmedewerker van Amazon die door algoritmes wordt opgejaagd, of de pakketbezorger die door een AI-camera in zijn bus permanent wordt beoordeeld en door het algoritme zoveel haast moet maken dat hij niet eens mag plassen tijdens zijn diensten.
Om de belofte van groei en winst aan hun beleggers en investeerders waar te maken, móéten AI-bedrijven wel inzetten op de omgekeerde centaur, is zijn punt. Niet op de mens die AI als gereedschap gebruikt, maar op de mens als slaaf van de machine.
„In een functionerende markt wel, maar dat is hier niet zo. OpenAI en Microsoft zijn met elkaar vervlochten, alle grote AI-bedrijven hebben belangen in elkaar. Bovendien werken de schaalvoordelen van de AI-economie zó dat er vanzelf monopolies en monopsonies ontstaan, waarbij niet alleen klanten, maar ook aanbieders van goederen en diensten niets te kiezen hebben – behalve één bedrijf, zoals Amazon. Deze bedrijven zijn niet too big to fail maar too big to care, te groot om zich er iets van aan te trekken.
„We hebben allerlei ideeën over hoe geweldig vrije markten zijn, ideeën die soms een beetje kloppen zolang er concurrentie is: bedrijven die hun producten slechter maken, verliezen dan klanten. Maar deze bedrijven profiteren van die misvatting – die breed leeft. Iets wat iedereen gebruikt, zal wel goed zijn, klinkt het dan. Of, in het geval van AI: ze zouden toch geen 2,5 biljoen dollar uitgeven als ze niet dachten dat daar iets goeds uit komt? Nou, wel dus, en dat komt door de extreme verstoring die monopolies veroorzaken, en de enorme belangen van investeerders in die bedrijven om te doen alsof de muziek van eindeloze groei altijd kan blijven spelen.”
„Ten eerste: die cijfers voldoen niet aan internationale accountingstandaarden, en verdienen dus scepsis. En ten tweede: een groei van tachtig keer is nog steeds slecht nieuws als je briefjes van honderd verkoopt voor één dollar. Toen ze een paar weken geleden vijf dollar voor die briefjes van honderd gingen vragen, omdat ze hun balans wilden opschonen voor de beursgang, zeiden alle managers die ze voor één dollar hadden gekocht: wacht eens even, die briefjes van honderd zijn geen vijf dollar waard.”
Doctorow wijst erop dat veel bedrijven, waaronder Amazon, Walmart en Uber, de laatste tijd hun begrotingen voor AI-diensten drastisch moesten bijstellen, omdat de opbrengsten vooralsnog achterblijven bij de kosten.
„Bazen dromen er al sinds de Industriële Revolutie van om werknemers te vervangen door automatisering. Niet vanwege efficiëntie, maar om de reden die Sartre ons leerde: ‘De hel, dat zijn de anderen’. Werknemers zijn maar lastig, ze willen je soms uitleggen dat het illegaal is wat jij als manager met je bedrijf doet, dat je ongelijk hebt, dat je iets anders moet doen dan wat jij eigenlijk wil.
„Elke baas wordt achtervolgd door het besef dat alles gewoon doordraait als híj niet komt opdagen, en dat, als de werknemers niet komen opdagen, alles stilvalt. Misschien voelt hij wel dat hij op de achterbank zit met een speelgoedstuurtje van Fisher-Price in zijn handen. Wat AI belooft, is: misschien kunnen we dat stuurtje eindelijk aansluiten op de aandrijving.”
De mens die in zo’n geautomatiseerd bedrijf overblijft als controleur, de human in the loop, heeft in Doctorows analyse nog een tweede functie. Hij leent daarvoor een begrip van de Britse schrijver Dan Davies dat in techkringen inmiddels is ingeburgerd: de accountability sink, het afvoerputje van de verantwoordelijkheid. Organisaties richten zichzelf zo in dat de schuld voor fouten altijd kan worden doorgesluisd naar een plek waar niemand met echte macht er last van heeft. AI kan zo worden ingezet, bijvoorbeeld bij klantenservices die met chatbots slechte antwoorden geven en vervolgens onbereikbaar zijn voor echt contact. De manager kan dan altijd de AI, of die ene sukkel die nog wel verantwoordelijkheid heeft, de schuld geven. In het boek en zijn essays gebruikt Doctorow als voorbeeld vaak de safety driver in zelfrijdende auto’s: de mens die urenlang niets doet, maar binnen een seconde moet ingrijpen. Als het dan misgaat, wordt die vervolgd, terwijl het techbedrijf dat de zelfrijdende auto aanstuurt buiten schot blijft. Dat is bij hem eigenlijk het oervoorbeeld van de omgekeerde centaur.
„Of neem wat er met radiologen gebeurt.” Doctorow schetst een fictief verkoopgesprek van een AI-bedrijf bij een ziekenhuisdirecteur: „Nu geef je 3 miljoen dollar uit aan radiologen. Ontsla er negen, dan bespaar je 2,7 miljoen. De helft geef je aan mijn baas Sam Altman, de andere helft mag je houden. Die ene overgebleven radioloog laten we het huiswerk van de AI nakijken, op bovenmenselijke snelheid, in bovenmenselijk lange dagen. Zijn handtekening staat onder elke röntgenfoto. En als iemand aan kanker overlijdt, geven we hém de schuld. Hij is het afvoerputje van de verantwoordelijkheid.”
Wat kunnen mensen doen om tegenwicht te bieden? Doctorow gelooft niet in de wat hem betreft „oppervlakkige” oproepen die sommige opiniemakers onlangs deden over een consumentenboycot van bedrijven als OpenAI. „Echte boycots gaan veel dieper dan de keuze waar je winkelt. Winkelen is geen politiek.”
Doctorow beschreef in een recent blog de busboycot in Montgomery, Alabama, waarmee zwarte passagiers zich in de jaren vijftig sterk maakten voor gelijke rechten. Die actie duurde 381 dagen. De organisatoren regelden met buspassagiers, taxichauffeurs, vakbond en kerkgemeenschappen zaken als carpools, rechtsbijstand en acties tegen politici. De boycot werkte, omdat die politiek was: georganiseerd, collectief, met een tegenstander en een doel. Wie vandaag zijn koffie, boeken en sociale media zorgvuldig uitkiest en denkt daarmee Amazon, OpenAI of Starbucks te raken, houdt zichzelf volgens Doctorow voor de gek. „Boycots werken, maar ze zijn het sluitstuk van organisatie, geen vervanging ervan.”
Burgers en werknemers moeten zich volgens hem dus vooral politiek en maatschappelijk organiseren: om de monopolies te laten opbreken met streng mededingingsbeleid. Om zogeheten „interoperabiliteit” af te dwingen met regelgeving, zodat gebruikers en bedrijven kunnen overstappen en technologie naar hun hand kunnen zetten in plaats van andersom. „De enige manier om duurzame macht voor werknemers op te bouwen, is niet door mee te gaan in de schaarste die AI-bedrijven willens en wetens creëren, maar door solidariteit. Je moet vakbonden, politieke bewegingen vormen, om een tegenmacht op te bouwen.”
Eén lichtpuntje: die strijd is volgens hem makkelijker te organiseren dan ooit, omdat de tegenstander overal dezelfde is. „Elke sector heeft nu dezelfde gemeenschappelijke vijand. Het gedrag is hetzelfde, de producten zijn hetzelfde, het verkooppraatje is hetzelfde, en het zijn overal dezelfde paar bedrijven die een gemeenschappelijke vijand vormen.”
Daar hoort wat hem betreft ook bij dat landen zich losmaken van de Amerikaanse techmonopolies, onderwerp van het volgende boek waar hij aan werkt, The Post-American Internet. Hoe afhankelijk de wereld – en vooral Europa – is geworden, illustreert hij met een gedachte-experiment: „Als Donald Trump morgen alle chatbots in Europa uitzet, gebeurt er niets ergs. Elk ministerie draait door. Elk bedrijf draait door. Een paar kinderen moeten hun huiswerk zelf maken. Nou en? Maar als Donald Trump morgen Office 365 uitzet, ligt elk ministerie in Europa plat en elk bedrijf ook.” Zijn punt: de afhankelijkheid van Amerikaanse technologie is reëel, maar AI is daarin niet het grootste probleem.
Hij grapt dat hij in president Trump een bondgenoot ziet: „Ik noem hem kameraad Trump, want hij heeft meer mensen ervan overtuigd dat ze niet op Amerikaanse technologie kunnen vertrouwen dan wie dan ook.” En wie denkt dat gewone burgers machteloos staan tegenover biljoenenbedrijven, wijst hij op de radicaal-conservatieve ouderbeweging Moms for Liberty, die de laatste jaren schoolbesturen in de VS in haar greep kreeg en ingrijpende beleidswijzigingen doorvoerde, zoals een verbod op boeken over onderwerpen als gender in schoolbibliotheken. „De domste mensen op aarde hebben laten zien dat je de meest onbeduidende lokale bestuursfuncties kunt overnemen en daarmee enorme, tastbare veranderingen in mensenlevens kunt aanrichten. Als de domste mensen die we kennen het kunnen, wat kunnen wíj dan wel niet?”
Source: NRC — This article was automatically imported from the source. Read full article at original source →
