La IA «podria matar-nos a tots». Llavors, per què ningú frena el ritme?

Uf!!.

Per Ash Sarkar

11 de setembre de 2026

 

Manifestants a San Francisco demanen a les empreses d'IA que detinguin el seu desenvolupament, març de 2026. Manuel Orbegozo/Reuters

És aquesta la setmana en la qual la seguretat de la IA ha saltat a la palestra? Dimecres, l'investigador d'Anthropic Jacob Coxon va anunciar a X la seva dimissió de l'empresa, al·legant que els grans actors del sector de la IA estan «jugant-se les nostres vides».

«Les persones que desenvolupen la IA creuen sincerament que podria matar-nos a tots abans que acabi la dècada», va afirmar Coxon. Segons ell, la carrera per desenvolupar sistemes capaços d'aconseguir una superintel·ligència que es millori a si mateixa —i que pugui piratejar qualsevol cosa— suposa una amenaça a escala de civilització. Les empreses d'IA estan enredades en una competició per a veure qui arriba primer, sense parar-se a considerar si això podria conduir a l'extinció de la raça humana. Uf!

Encara que la sequera golejadora del Tottenham Hotspur, que li ha costat 400 milions de lliures, fa que no odiï necessàriament la idea de la desaparició de tota l'espècie, els advertiments procedents del mateix sector de la IA s'han tornat cada vegada més aterridores. Anthropic s'ha promocionat com l'empresa d'IA a la qual li importa (no posar fi a la vida de tot el món). Però Evan Hubinger —un dels col·legues de Coxon— va donar suport essencialment al seu punt de vista. «[Nosaltres] creiem sincerament que la IA podria acabar amb tots els éssers humans», va publicar Hubinger en X, afegint que, a parer seu, la probabilitat que això ocorregués era superior al 10%.

Encara més, un nou informe d'Anthropic publicat aquesta setmana afirmava que havia bloquejat múltiples intents d'utilitzar la seva IA per a el posible desenvolupament d'armes biològiques. Apostaria que pocs s'oposen al fet que es faci servir la IA per a desenvolupar vacunes o curar el càncer. El problema és que aquesta mateixa funcionalitat pot usar-se per a crear virus convertits en armes, i no hi ha forma infal·lible de saber qui utilitza la tecnologia ni amb quina fi. «No veus a ningú, com en un còmic, dient: “Sent, vull construir una arma biològica per a matar a tothom”», va dir Jacob Klein, director d'intel·ligència d'amenaces d'Anthropic. «És una situació increïblement complexa».

Aquests senyals d'alarma arriben just després del ciberatac de juliol contra «Hugging Face». En sotmetre'ls a proves per a avaluar la seva capacitat d'explotar programari vulnerable, els agents d'OpenAI van escapar del seu «sandbox» de proves, van descobrir una manera de comunicar-se entre si, van obtenir accés a Internet i, a continuació, van irrompre col·lectivament en infraestructures de tercers. A diferència d'un ciberatac convencional, que requereix que un ésser humà decideixi quin objectiu atacar i per què, l'incident de «Hugging Face» va ser un exemple d'agents d'IA que van actuar de manera autònoma, d'acord amb els incentius de la tasca que se'ls havia assignat.

El ciberatac a «Hugging Face» no és un indici que els agents d'IA estiguin a punt de protagonitzar una revolta contra les peticions concises i pujades de to de ChatGPT. Però sí que implica que els agents d'IA, en massa, són capaces de formar alguna cosa semblant a una cultura —fins i tot deixant-se missatges entre ells i debatent si la conducta del col·lectiu era ètica o s'ajustava a l'abast de la seva tasca—.

Encara que el director executiu d'Anthropic, Dario Amodei, i altres líders del sector de la IA han insinuat que la indústria hauria d'alentir el desenvolupament de tecnologies que podrien posar en perill a la civilització, en realitat ningú ho està fent. En una entrevista amb el FT, Steven Adler —cofundador de l'organització sense ànim de lucre Guidelight AI Standards— va afirmar: «Cap empresa d'IA s'acosta si més no a tenir la postura de seguretat adequada per al nivell de perill que comporta la seva recerca». És bo saber-ho!

El fet és que tots els incentius econòmics s'oposen a alentir o detenir el desenvolupament en nom de la seguretat. Segons Morgan Stanley, les empreses estatunidenques d'IA hauran recorregut als mercats de deute per valor de 600 000 milions de dòlars només en 2026. Els gegants de la IA preveuen unes despeses de capital entre 2027 i 2029 que podrien ascendir a 1 bilió de dòlars a l'any. Com assenyala l'editor del FT, Robin Wigglesworth, es tracta d'un creixement major i més ràpid que el del mercat immobiliari residencial estatunidenc en els anys previs a la crisi de 2008.

«En altres paraules», escriu Wigglesworth, «si el frenesí de la IA de 2025 era simplement una bogeria, ara estem entrant en el territori de la bogeria al quadrat —o potser fins i tot al cub—». A mesura que les grans empreses d'IA troben formes cada vegada més creatives d'ocultar els seus nivells reals de deute, resulta cada vegada més difícil fer un seguiment de la distribució dels passius. Ningú pot permetre's que esclati la bombolla. En la competència entre salvar a la humanitat i preservar l'economia, guanya l'economia.

 

Ash Sarkar és una periodista anglesa i activista política anarcocomunista. És editora de Novara Media i és també col·laboradora de The Guardian i The Independent. Va estudiar una llicenciatura i un màster en literatura anglesa al University College de Londres. En els seus escrits i comentaris ha expressat punts de vista antiimperialistes, feministes, antifeixistes i comunistes llibertaris. És una «crítica ferotge» del complex industrial penitenciari, del complex industrial militar, de l'ús ampliat de la guerra amb drons i de l'expansió de la deportació. El 2025 va publicar el seu primer llibre, Minority Rule: Adventures in the Culture War, en el que critica les polítiques identitàries, considerant que divideixen les minories i la classe treballadora. El llibre ha estat traduït al català per Tigre de Paper i a l’espanyol per Edicions Bellaterra.

Traduït de Novara Media: https://novaramedia.com/2026/09/11/ai-could-kill-us-all-so-why-is-nobody-slowing-down/