«Sigueu mecànics, sigueu luddites»: així es resisteix al capitalisme tecnològic.

Giuditta Mosca entrevista a Jathan Sadowski

 

Viure les tecnologies com si fossin alguna cosa que ens ve imposat des de dalt ens torna passius i ens limita a considerar «què fan» sense centrar-nos en «per què ho fan». Aquest és el tema central del llibre The Mechanic and the Luddite – A Ruthless Criticism of Technology and Capitalism, escrit per l'investigador estatunidenc Jathan Sadowski, els estudis del qual se centren en les dinàmiques de poder i benefici relacionades amb la innovació tecnològica.

 

L'era del capitalisme tecnològic

Jathan Sadowski parteix d'una sèrie de premisses. La primera és que la tecnologia i el capitalisme no són forces separades, sinó que es reforcen mútuament, amb les persones relegades al paper d'observadors passius, sense avaluar les seves repercussions polítiques, econòmiques i socials.

La segona premissa és que les tecnologies són com una forma de legislació que crea normes, defineix drets, estableix el que està permès i, en última instància, perfila el tipus de societat en la qual vivim. Amb un impacte també en el món físic. Els magatzems automatitzats són entorns construïts per a robots i no per a humans, les carreteres per les quals circulen els cotxes autònoms estan dissenyades per a aquesta mena de vehicles i, a més, qualsevol tecnologia futura necessitarà un entorn físic adequat i nou.

Per a definir el capitalisme tecnològic, Sadowski es refereix a una idea àmplia que se centra en els algoritmes discriminatoris, en les plataformes que tracten les dades dels usuaris, fins i tot les més sensibles, i en les grans empreses tecnològiques que signen lucratius contractes amb els cossos militars. Tot això trau a la llum les connexions entre la tecnologia i el poder, al mateix temps que posa en relleu la naturalesa política i les repercussions econòmiques i socials de les tecnologies.

El que cal observar, i aquest és un punt central en la narrativa de Sadowski, és el context en el qual s'incentiven algunes innovacions i es descarten unes altres.

 

El paper dels inversors de capital de risc en la innovació capitalista

Els inversors de capital de risc, inversors privats que financen empreses a canvi de participacions socials, defineixen la innovació en funció del que s'adapta a les seves respectives carteres d'inversió i alineen el progrés amb els seus objectius de benefici.

Un model —critica l'autor— recolzat per subvencions governamentals i avantatges fiscals i centrat en l'hipercreixement, seleccionant startups i tecnologies que poden escalar i dominar el mercat de manera exponencial en poc temps.

Per a Sadowski, Silicon Valley s'asseu a la taula de la ruleta, decideix en quin número es detindrà la bola i decideix quan i quant apostar. Pot ocórrer que la mà no sigui guanyadora, però, a llarg termini i quant a la quantitat de mans jugades, el saldo per als capitalistes de risc sempre és positiu.

Fins i tot quan el mercat s'esfondra, els capitalistes de risc en el cim són en gran manera immunes als riscos i, de totes maneres, obtenen beneficis significatius. Aquest procés crea un «realisme de la innovació», en el qual el capital de risc sembla l'única via viable per a donar suport a la innovació.

 

Les dades com a capital i la política de la datificació

L'autor sosté que metàfores populars com «les dades són el nou petroli» oculten la veritable naturalesa de les dades, que no són un recurs natural, sinó sempre artificials. Les empreses consideren les dades com un recurs valuós, disponible universalment i subjecte a les dinàmiques del mercat, però això només és vàlid per a aquelles empreses que posseeixen les tecnologies especials per a descobrir-les, extraure-les, processar-les i capitalitzar-les.

Les dades són una forma de capital essencial per a la producció, extracció i circulació de valor en els sistemes digitals. Això espenta a les empreses a crear i capturar tantes dades com sigui possible, de totes les fonts i per tots els mitjans.

Les adquisicions empresarials, com la compra de DoubleClick per part de Google, Linkedin per part de Microsoft, WhatsApp per part de Facebook (ara Meta) i OneMedical per part d'Amazon, són sovint fusions de dades.

Una obsessió per la datificació que converteix a les persones en dades. Segons l'autor, això es confirma, per exemple, en la investigació sobre la visió artificial, que tendeix a categoritzar als éssers humans com a objectes que s'han de detectar, identificar i rastrejar, despullant-los així del seu context social i la seva humanitat.

Una abstracció que fa caure qualsevol resistència ètica en els qui implementen tecnologies de vigilància i justifica, encara que sigui indirectament, la creació d'oligopolis que prenen forma en les Big Tech, organitzacions que basen el seu poder en les dades, en la capacitat computacional i en el seu pes geopolític, la qual cosa els permet presentar les tecnologies produïdes com a actius estratègics nacionals.

 

El paper dels «mecànics» i els «luddites»

Per al professor Sadowski, les paraules «mecànic» i «luddita» han d'entendre's en un context crític. Totes dues, en sentit metafòric, encarnen una manera de viure el capitalisme tecnològic. Els «mecànics» són persones que senten curiositat per saber com funciona el món, mentre que els «luddites» tenen una visió més conscient de les funcions intrínseques de la tecnologia.

El terme luddita té el seu origen en el moviment que va sorgir al Regne Unit a principis del segle XIX, que, preocupat per l'impacte de la maquinària industrial en el treball dels artesans, va emprendre una lluita contra les fàbriques, acusant-les d'empitjorar les condicions de vida.

Tant en aquella època com en l'actualitat, els luddites no s'oposen a les tecnologies en si mateixes, sinó a les seves implicacions. El ludisme actual és un moviment molt més complex que el que, en el segle XIX, el Govern britànic va reprimir amb violència i amb lleis ad hoc.

En resum, el mecànic comprèn com funciona un sistema, mentre que el luddita sap per què s'ha construït, per a què serveix i quan s'hauria de desmantellar o de destruir. Tots dos models, sosté Sadowski, són crucials per a una crítica precisa del tecnocapitalisme.

* * * * *

 

Hem aprofundit en aquestes posicions amb l'autor del llibre.

 

En el llibre es perfila un panorama en el qual les tecnologies són cada vegada més opaques (el fenomen de la «caixa negra»), complexes i dominades per interessos empresarials i estatals que limiten l'acció humana. Es tracta d'un desenvolupament contemporani o d'un model recurrent?

«La idea de les tecnologies com una «caixa negra» existeix des de fa temps i ha sigut rellevant durant molt de temps. És un model recurrent en la forma en què es dissenyen i utilitzen les tecnologies. Una caixa negra en la qual podem veure les entrades i sortides d'una tecnologia, un sistema o una organització, però no podem veure ni comprendre com funciona realment. En tot cas, la caixa s'ha tornat simplement més opaca amb el pas del temps. Ja es tracti d'intel·ligència artificial o d'instruments financers, els mecanismes interns d'aquests sistemes, que tenen un enorme poder en la societat, estan protegits per capes d'opacitat. Per descomptat, aquests sistemes abstractes són complexos, però també estan mistificats per disseny. Se'ns diu que només uns pocs escollits saben com es van crear i encara menys gent saben com funcionen realment. El resultat és que a la gran majoria de les persones se'ls impedeix conquistar l'amenaçadora posició de saber com funcionen les coses, dir no a la forma en què funcionen ara i després exigir que funcionin de manera diferent.

Considerem un model d'aprenentatge automàtic que sustenta un sistema d'IA. Ara ni tan sols podem veure o comprendre les entrades que s'introdueixen en el model perquè es tracta d'enormes conjunts de dades recopilades mitjançant el rastreig automàtic de la web i altres formes de recopilació de dades. Cap ésser humà ha examinat mai aquests conjunts de dades íntegrament. Potser algú ha vist només parts de les dades, o només té una idea general del tipus de dades que s'inclouen en el conjunt. Però, funcionalment, el conjunt de dades (o entrada en el sistema) és també una caixa negra. Les operacions del model d'aprenentatge automàtic també són «caixes negres», ja que aquests sistemes computacionals tenen capes ocultes de càlculs probabilístics en els quals ni tan sols el creador de la tecnologia sap exactament el que està succeint. Encara més, fins i tot els resultats d'aquests sistemes són ara caixes negres: les decisions preses per aquests sistemes d'IA i les seves conseqüències en la vida de les persones estan ocultes a la vista del públic.

Fa una dècada (en 2016), el jurista Frank Pasquale va escriure un excel·lent llibre titulat The Black Box Society, en el qual explicava com les caixes negres s'estan multiplicant en les nostres vides gràcies a mitjans tècnics, legals, polítics i socials. Les caixes negres mantenen ocultes les operacions d'aquests sistemes.

Per tant, encara que el fenomen de les tecnologies de caixa negra és un model recurrent, cada vegada veiem més com aquestes caixes s'estan fent encara més grans, incorporant més parts del sistema».

 

Parlem dels capitalistes de risc que donen forma al capitalisme tecnològic, fins i tot inflant artificialment els actius especulatius. Com podem trencar aquest cicle d'exageració? Què es necessitaria per a orientar la innovació cap al benestar social en lloc de cap a l'acumulació de capital?

«Les nostres expectatives sobre el futur són molt importants per a influir en l'assignació de recursos i per a modelar com i per què construïm les tecnologies. Les expectatives també són performatives del futur. S'haurien de considerar com a assajos generals de futurs potencials que encara no han arribat. Les nostres expectatives creen anticipació sobre el futur i poden ajudar a motivar l'acció en el present. Per això Silicon Valley dedica tant de temps i diners a intentar modelar les nostres expectatives de formes molt específiques que s'alineen amb els seus desitjos i afavoreixen els seus interessos. Això és el que són els cicles de hype: el negoci de la gestió de les expectatives.

Les inversions especulatives, com les que són l'especialitat dels capitalistes de risc i els empresaris tecnològics, depenen del hype, de crear expectatives i motivar l'acció. Aquesta especulació és una manera d'obtenir valor i beneficis de coses que encara no han succeït i que potser mai succeeixen. Pot ser que el futur mai es materialitzi tal com l'imagina Silicon Valley, però precisament aquesta incertesa és un element crucial del rendiment. Significa que la participació del públic és necessària. En el meu llibre el denomino l'«efecte Campaneta»: les tecnologies especulatives només existeixen si creiem prou en elles i aplaudim amb suficient força. Si deixem de creure en elles i deixem d'aplaudir, llavors poden començar a esvair-se, tornant-se cada vegada més immaterials fins a desaparèixer. Fins i tot invertir milers de milions de dòlars no garanteix la realització d'un somni si la gent deixa d'alimentar-lo amb la seva energia psíquica. Hi ha exemples, es diuen Metaverso (un record llunyà), Web3 o Google Glass (que en realitat mai s'han vist realment en el mercat).

Aquesta naturalesa efímera del hype és també un punt clau d'intervenció. Actualment, molts dels beneficis de la tecnologia es produeixen de manera accidental i «en cascada». El seu objectiu principal és capturar mercats i generar beneficis per a les grans empreses. Se'ns diu que aquesta és l'única forma possible i que no hem d'esperar res diferent o millor. Però podríem avançar molt per a orientar la innovació en direccions diferents simplement tenint expectatives més altes sobre com es creen les tecnologies i per a què serveixen».

 

Les dades tendeixen a reduir a les persones a objectes. Aquest procés, intrínsec als sistemes d'intel·ligència artificial, és avui dia extremadament rellevant. Quines intervencions polítiques i socials considera necessàries per a garantir que les tecnologies basades en dades es desenvolupin de manera que respectin la dignitat humana? Segons la seva opinió, quins aspectes del capital humà haurien de quedar fora de l'abast de la datificació?

«Les noves tecnologies poden capturar quantitats de dades tan grans que resulten incomprensibles, però aquestes dades sobre el món sempre seran incompletes. Cap sensor o sistema de scraping pot absorbir i registrar dades sobre totes les coses. En canvi, cada sensor està dissenyat per a recopilar dades sobre aspectes hiperespecífics. Això pot semblar trivial, com un termòmetre que pot donar un número sobre la temperatura, però no pot dir-te com et fa sentir realment el grau de temperatura que es té. O pot ser més significatiu, com un algoritme de reconeixement facial que pot identificar la geometria d'un rostre, però no pot captar la humanitat subjectiva i el context social de la persona. Les dades mai podran representar cada fibra de l'ésser d'un individu, ni donar compte de cada matís de la seva complexa vida.

Però aquest no és el propòsit ni el valor de les dades. L'objectiu és transformar subjectes humans integrats en objectes de dades fragmentades. De fet, hi ha sistemes que tenen com a objectiu conèixer-nos d'una manera inquietant i invasiva, recopilar aquestes dades i utilitzar-les per a alimentar algoritmes de segmentació hiperpersonalitzats. Si aquests sistemes no estan tractant de crear un perfil el més complet i precís possible de nosaltres, llavors, quin és el seu propòsit?

No obstant això, hi ha un punt important: els qui extrauen dades no s'interessen per nosaltres com a individus aïllats, sinó com a col·lectius relacionals. La nostra manera de pensar sobre la recopilació i l'anàlisi de dades tendeix a basar-se en idees molt directes i individualistes de vigilància i informació.

Però avui dia hem d'actualitzar la nostra manera de pensar sobre la datificació —i les possibles formes d'intervenció sociopolítica en aquests sistemes guiats per dades— per a incloure el que la jurista Salomé Viljoen denomina «relacions horitzontals», que no se situen en l'àmbit individual, sinó a escala de població. Es tracta de fluxos de dades que connecten a moltes persones i circulen per les xarxes de tal manera que les fonts, els recopiladors, els usuaris i les conseqüències de les dades es mesclen de formes impossibles de rastrejar si continuem raonant en termes de relacions més directes i individualistes.

En el llibre explico que aquesta realitat de les xarxes de dades horitzontals afebleix l'eficàcia de les intervencions que se centren massa en l'escala dels drets individuals, en lloc d'en la justícia col·lectiva. Si volem salvaguardar la dignitat humana enfront de la deshumanitzant datificació, només podrem fer-ho reconeixent com els drets i la seguretat de tots els grups estan interconnectats a través d'aquestes xarxes guiades per les dades. En altres paraules, la dignitat i la seguretat d'un grup de persones afectades per la vigilància i l'automatització està lligada a la dignitat i la seguretat de totes les persones dins d'aquests grans sistemes sociotécnics que literalment ens connecten a cadascun de nosaltres».

 

En el llibre, vostè expressa el concepte de «IA Potemkin» per a descriure la il·lusió d'una automatització que en realitat oculta enormes quantitats de treball humà. Un engany per als usuaris, els inversors i l'opinió pública: en què consisteix exactament aquesta il·lusió?

«Hi ha moltes afirmacions grandiloqüents sobre les capacitats dels sistemes d'intel·ligència artificial. Se'ns fa creure que aquestes tecnologies «intel·ligents» funcionen únicament gràcies als seus enormes conjunts de dades i xarxes neuronals.

En realitat, moltes d'aquestes tecnologies no funcionen, i no poden funcionar, de la manera que afirmen els seus defensors. La tecnologia no està prou avançada. Per contra, molts sistemes depenen en gran manera del treball humà per a suplir les mancances de les seves capacitats. En altres paraules, el treball cognitiu que és essencial per a aquestes suposades màquines pensants prové en realitat d'oficines plenes de treballadors (mal remunerats) en destins populars d'externalització com Filipines, l'Índia o Kenya.

Hi ha hagut diversos exemples molt sonats, com la startup Builder.ai, que afirmava automatitzar el procés de creació d'aplicacions i llocs web. Una investigació va revelar que el sofisticat «sistema d'IA» de la startup recolzada per Microsoft i valorada en 1500 milions de dòlars estava en realitat alimentat per centenars d'enginyers de programari a l'Índia, als quals se'ls havia ensenyat a fer-se passar per la IA de l'empresa quan interactuaven amb els clients.

Exemples com aquest són tan freqüents que he encunyat el terme «IA Potemkin» per a descriure'ls. Potemkin es refereix a una façana dissenyada per a ocultar la realitat d'una situació (del poble Potemkin). La IA Potemkin està relacionada amb el concepte de «black boxing», però porta l'ocultació fins a l'engany nu i cru. L'objectiu no és només ocultar la realitat, sinó mentir sobre la realitat de les capacitats d'una tecnologia, per a poder afirmar que un sistema és més potent i valuós del que realment és.

En lloc de reconèixer i valorar plenament el treball humà, del qual depenen aquestes tecnologies, les empreses poden continuar ignorant i menyspreant els components humans indispensables dels seus sistemes. Amb tants diners i tan poc escepticisme injectats en el sector tecnològic, l'engany de la IA Potemkin continua creixent amb cada nou cicle d'expectació en Silicon Valley».

 

En conclusió, pot el capital eliminar el treball humà sense acabar, a la llarga, destruint-se a si mateix?

«El capitalisme és un sistema definit per moltes contradiccions que amenacen constantment de destruir els seus fonaments i el porten contínuament a cicles de crisis. Una contradicció important que identifico en el llibre és la cerca del capital per a construir el que jo dic la «màquina del valor perpetu». En resum, aquesta màquina seria una manera de crear i capturar una quantitat infinita de plusvàlua sense haver de dependre del treball humà per a produir-la. El capital porta centenars d'anys perseguint aquest objectiu. Ha motivat enormes quantitats d'inversió i innovació, a pesar que mai s'ha acostat realment a fer realitat el somni de produir plusvàlua sense persones. El que fa que això sigui una contradicció és el fet que els éssers humans no són un component accessori de la producció de valor; el treball humà és part integrant de la producció de plusvàlua.

La IA és l'últim —i potser el major— intent de crear finalment una màquina de valor perpetu. Gran part del discurs sobre l'automatització, i ara sobre la intel·ligència artificial, se centra en les afirmacions que el treball humà serà substituït per treballadors robòtics, amb la suposició de què es tracta d'una substitució directa dels cossos orgànics per sistemes artificials, tots dos destinats a fer exactament el mateix, només que de formes diferents i amb intensitats diferents.

No obstant això, en un nivell fonamental, la idea d'una màquina de valor perpetu no pot tindre èxit, perquè es basa en una interpretació errònia de la relació entre la producció de valor i el funcionament de la tecnologia. El capital equipara una relació —els éssers humans que utilitzen eines per a produir valor— amb una altra relació completament diferent: les eines que produeixen valor (amb éssers humans o sense).

Des del punt de vista del capital, el problema dels éssers humans és que no són màquines. Empreses com Amazon no volen renunciar a la fantasia d'una màquina de valor perpetu, però també saben que hi ha moltes més alternatives que substituir directament als humans per màquines: també es pot gestionar als treballadors a través de les màquines, subordinar-los a les màquines i, en última instància, fer que se semblin cada vegada més a màquines.

Aquest és un punt crucial per a replantejar-se el poder de la IA per al capitalisme i per a comprendre per què les empreses estan invertint més d'un bilió de dòlars en la construcció de la IA. Als seus ulls, el futur del capitalisme depèn de l'ús de la IA per a substituir als éssers humans com a única font de plusvàlua o, si aquest objectiu fracassa, d'obligar els treballadors a convertir-se en objectes, simples extensions de les màquines, obligant les persones a ser cada vegada més mecàniques en la seva manera de treballar i viure».

 

Jathan Sadowski és Professor titular de la Universitat Monash de Melbourne (Austràlia), y expert en economia política i teoria social de la tecnologia. A més del llibre The Mechanic and the Luddite – A Ruthless Criticism of Technology and Capitalism, en 2020 Sadowski va publicar el llibre Too Smart – How Digital Capitalism is Extracting Data, Controlling Our Lives, and Taking Over the World. A més, presenta el pòdcast This Machine Kills juntament amb Edward Ongweso Jr. També és autor i coautor de diversos estudis que investiguen les conseqüències de la tecnologia i la datificació.

 

Traduït de Sinistrain Rete: https://www.sinistrainrete.info/societa/31263-jathan-sadowski-siate-meccanici-siate-luddisti-cosi-si-resiste-al-tecnocapitalismo.html?