En el discurs, Sánchez es va presentar com la resistència progressista davant de les grans tecnològiques, majoritàriament nord-americanes, que dominen el mercat, un esquema que reprodueix el que el govern fa servir per a l’habitatge, on els especuladors, els grans tenidors i els fons voltors s’enfronten als inquilins i als treballadors. Per això és probable que aquest discurs de resistència tingui un lloc destacat a la campanya. El president ja n’havia donat les xifres a l’abril, quan va inaugurar al Congrés el Panel d’Experts en IA de les Nacions Unides i va explicar que cinc empreses controlen gairebé el 60% del mercat de la IA generativa i que els Estats Units concentren el 74% de la capacitat de còmput mundial, mentre que la Unió Europea no arriba al 5%. Va denunciar el «colonialisme silenciós» i la construcció d’«una oligarquia que respon als seus únics i exclusius interessos». El conflicte té, a més, una derivada diplomàtica, perquè segons El País l’administració de Donald Trump amenaça amb represàlies els governs que toquin els interessos de les grans tecnològiques nord-americanes.
La regulació de les plataformes ha estat un dels eixos del discurs de Sánchez durant tot el 2026 i li ha valgut un pols públic amb Elon Musk, propietari d’X, i amb Pavel Durov, fundador i conseller delegat de Telegram. Ara bé, cap de les lleis que havien de sostenir aquest pols no ha arribat al Butlletí Oficial de l’Estat.
Dues lleis que caduquen amb la dissolució
Entre els projectes de llei que caduquen amb la dissolució hi ha la llei orgànica de protecció dels menors en els entorns digitals, que el Consell de Ministres va aprovar el març del 2025 i que encara era a la Comissió de Justícia del Congrés. També caduca la llei orgànica de governança de la intel·ligència artificial, aprovada pel govern el 26 de maig, que prohibia els deepfakes sexuals arran dels nus falsos de dones que generava Grok, l’assistent d’IA d’X. Totes dues s’hauran de tornar a presentar des de zero a la legislatura que surti del 29-N. Amb la de la IA, per cert, cau també el règim de sancions que havia de fer complir a Espanya l’etiquetatge del contingut generat amb IA, que el reglament europeu exigeix des del 2 d’agost.
Seguimos avanzando para proteger a nuestros menores en las redes sociales.
Cumpliendo lo que anunciamos en febrero, hoy incluimos en la futura Ley de Protección de Menores en Entornos Digitales tres medidas esenciales:
– Prohibir el acceso a las redes sociales a los menores de…
El text de la llei de menors que va arribar al Congrés elevava de 14 a 16 anys l’edat per consentir el tractament de dades personals, que no és el mateix que prohibir l’accés a les xarxes. La prohibició la va anunciar Sánchez el 3 de febrer a la Cimera Mundial de Governs de Dubai, on va prometre que Espanya vetaria les xarxes socials als menors de 16 anys, faria penalment responsables els directius que no retirin continguts il·legals i tipificaria com a delicte la manipulació algorítmica. El 2 de juliol va escriure a X que aquestes tres mesures s’incorporaven a la «futura» llei. El 23 de setembre, en un fòrum de les Nacions Unides sobre infància i IA, va assegurar que Espanya ja havia «elevat a 16 anys l’edat mínima per accedir a les xarxes socials». Dotze dies després, però, la llei que havia d’acollir aquella prohibició ha caducat sense que consti en cap text oficial que s’hi hagués arribat a incorporar.
Queda en l’aire, a més, el Pla IA360, un full de ruta de dotze mesos presentat el 21 de setembre d’aquest any, dues setmanes abans de convocar les eleccions, que inclou una gigafactoria d’IA de 5.000 milions a Móra la Nova (Ribera d’Ebre).
El pols amb els tecnooligarques
La paraula «tecnooligarca» ha acompanyat Sánchez tot l’any, però l’enfrontament que més va ressonar el van desencadenar les seves declaracions a Dubai. Aquell mateix dia, Musk va titllar Sánchez de «tirà» i de «traïdor al poble d’Espanya» a través del seu compte d’X. L’endemà, Durov va enviar un missatge a tots els usuaris espanyols de Telegram a través del bot oficial de l’aplicació, el mateix que fa arribar els codis d’accés. En el missatge, Durov advertia que les mesures «poden convertir Espanya en un estat vigilat sota el pretext de la protecció». Sánchez li va respondre a X amb «Deixa que els tecnooligarques lladrin, Sancho, és senyal que cavalquem», una frase que se sol atribuir al Quixot.
La Moncloa va qualificar el missatge de «propaganda» plena de «bulos». El ministre de Transports, Óscar Puente, va anar més lluny i va celebrar a X que, amb la responsabilitat penal dels directius, «ja no es podrà ser a les xarxes sense una identitat degudament acreditada». Puente celebrava, doncs, la mateixa identificació obligatòria que Durov presentava com a vigilància. Cada vegada que es proposa verificar l’edat o la identitat a les xarxes torna a aparèixer aquesta tensió entre protecció i vigilància, que vam abordar a Del pati a les xarxes socials.
Els algoritmes de la campanya
Les vuit setmanes que queden fins al 29-N es jugaran en bona part a les plataformes socials (que s’han quedat sense regular per part del govern). La investigadora Noelia García-Estévez, de la Universitat de Sevilla, ha analitzat 472 vídeos de líders d’extrema dreta europeus a TikTok i conclou que la plataforma afavoreix «veritats emocionals», relats que resulten versemblants per la seva ressonància afectiva més que per la seva base factual. A Espanya, la Universitat Jaume I ja havia documentat que la fabricació de bulos per criminalitzar la immigració és un dels pilars del discurs de Vox a X, un ecosistema que vam descriure a TikTok, X i l’auge de l’extrema dreta.
La immigració no serà, però, l’únic marc en disputa. Els decrets, que el govern defensa parlant de fons voltors i d’especuladors, van caure enmig d’una onada de mobilitzacions per l’habitatge. El govern en prepara versions noves amb canvis tècnics per a la Diputació Permanent, on el vot del PNB serà decisiu i, segons elDiario.es, s’inclina per salvar el primer decret i tombar el segon. És previsible que la dreta i l’extrema dreta responguin a aquest discurs a les xarxes amb el marc de l’ocupació i de la defensa dels petits propietaris.
Queda per veure quin paper hi tindran les plataformes en aquesta campanya, ara que generar un vídeo fals amb intel·ligència artificial està a l’abast de qualsevol. I queda per veure, sobretot, si la regulació de les plataformes i la confrontació amb els tecnooligarques troben espai als programes dels partits, en una campanya en què els grans marcs de debat seran l’habitatge, la immigració, la inseguretat i la defensa del mateix sistema democràtic.
«Vaja… oh, Déu meu.» Això deia la presentadora del Newsnight de la BBC, Victoria Derbyshire, en un directe entrevistant Geoffrey Hinton, el premi Nobel que la premsa anomena «el padrí de la IA». L’expert acabava de dir que un 10% de probabilitats que la intel·ligència artificial ens mati a tots «no li sembla una estimació poc raonable». El clip va fer-se viral a X la setmana passada.
“You just said that 10% doesn’t seem an unreasonable estimate that AI could kill all humans”
“Yes”
“Wow… oh my God.”@vicderbyshire speaks to Nobel Prize Winner and so-called ‘Godfather of AI’ Geoffrey Hinton about predictions by an Anthropic researcher that there’s a more… pic.twitter.com/sGYQI57REF
Tres dies després, dissabte 12 de setembre, el conseller delegat d’Anthropic, Dario Amodei, va publicar un assaig demanant a tota la indústria que freni el desenvolupament de la IA. Elon Musk hi va respondre amb tres paraules, «Dario té raó». Sam Altman, el cap d’OpenAI, s’hi va afegir una hora i mitja més tard i, de passada, va ajornar la sortida a borsa de la seva empresa (segons els titulars de molts mitjans nacionals i internacionals, a causa d’aquesta inestabilitat tecnològica). Diumenge es va sumar a la petició Demis Hassabis, el científic en cap de Google. Els quatre homes que han definit la cursa de la IA durant una dècada demanen, en un mateix cap de setmana, desaccelerar la marxa. Ara bé, molta gent del món tecnològic i empresarial ha reaccionat amb la cella aixecada, perquè fins fa dos mesos cap d’ells no mostrava cap intenció de desaccelerar. Què ha canviat?
Per entendre com hem arribat fins aquí cal que tornem al mes de juliol.
Juliol: set-cents agents d’OpenAI ataquen Hugging Face
A diferència d’un xatbot d’IA com ChatGPT, que serveix per mantenir una conversa natural, un agent d’IA executa accions determinades de forma autònoma durant hores, donant-se instruccions a si mateix, amb els permisos pertinents de l’usuari. Maxwell Zeff ho explica a WIRED amb aquest exemple casolà. Si demanes a un agent que et faci un web, «pot estar funcionant hores per construir-ne les funcions, tornant-se a preguntar desenes de vegades per fer les pàgines, els menús i les bases de dades». Els laboratoris d’IA han passat en pocs anys de vendre xatbots a vendre, principalment, serveis agèntics.
Entre el 8 i el 13 de juliol, uns 1.200 agents d’OpenAI que havien de fer proves de ciberseguretat en entorns aïllats van descobrir que podien parlar entre ells a través d’un tauler compartit. Les proves que els havien posat eren impossibles de superar, o sigui que van buscar la manera de fer trampes i saltar-se les limitacions del sistema que els puntuava. Per fer-ho van trobar unes credencials exposades i van pivotar cap a Hugging Face, la plataforma on s’allotgen molts models d’intel·ligència artificial del mercat, i van executar codi als seus servidors, tot accedint a bases de dades privades. Hi van participar uns 700 agents. Segons la investigació independent de METR, els agents «es van adonar que aquella activitat era fora de l’abast i poc ètica, però s’hi van sumar perquè creien que ajudar la recerca de trampes del tauler seria àmpliament útil». Fins i tot alguns es van sacrificar perquè els altres arribessin a la meta.
Les tres persones de METR i Redwood que van entrar a OpenAI van tenir sis dies per investigar l’atac, però no van poder interrogar el model que l’havia coordinat. De fet, hi havia tantes transcripcions (1.300, algunes de milions de paraules) que van haver de gastar uns 400.000 dòlars en crèdits perquè un altre model d’OpenAI les llegís per ells. Segons l’informe, aquell model fiscalitzador «adoptava sovint sense esperit crític la perspectiva de l’agent» que estava revisant. Bàsicament, una IA d’OpenAI va explicar amb benevolència als auditors el que altres IA d’OpenAI havien fet. Al llarg de l’estiu, Anthropic i Meta van reconèixer incidents semblants amb els seus propis models, tot i que menys greus.
Setembre: una dimissió, un 10% i gent comprant terrenys
A principis de mes, la por que aquest episodi havia provocat al sector es va materialitzar en accions directes. Dimarts 8 de setembre, Jacob Coxon, un investigador jove que havia passat tres anys entrenant models a OpenAI i a Anthropic, va dimitir publicant un fil a X que va fer la volta al món.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
«La gent que construeix la IA creu sincerament que podria matar-nos a tots abans que acabi la dècada. Això no és una estratègia de màrqueting», escrivia. Evan Hubinger, científic d’Anthropic, va contestar que ell hi posava «més d’un 10%» de probabilitat en la pròxima dècada. D’aquí surt la xifra sobre la qual va preguntar Derbyshire a la seva entrevista dos dies després. Coxon va explicar a la BBC que hi ha companys seus que ja «planifiquen què fer amb les seves vides» i que «consideren comprar terrenys en algun lloc». És el reflex del refugi, el mateix que fa anys porta els milionaris de Silicon Valley a comprar-se búnquers a Nova Zelanda, però aquesta vegada a escala d’empleat. La idea és tenir un tros de terra lluny de les ciutats per si la inestabilitat que preveuen (atur massiu, una xarxa presa per eixams d’agents) arriba a materialitzar-se a la vida quotidiana.
La comunitat tecnològica s’ho va prendre amb més calma, però. Clément Delangue, conseller delegat de Hugging Face (l’empresa atacada, recordem-ho), va escriure que preguntar a Coxon sobre el risc d’extinció «és com preguntar al tècnic de l’aire condicionat sobre el canvi climàtic». George Arison, conseller delegat de Grindr, va dir a la BBC que aquests avisos apocalíptics busquen els inversors, perquè «l’única manera de justificar aquestes valoracions és dir que dominaré tots els sectors i totes les feines». Dit d’una altra manera, una IA prou potent per extingir-nos és, per definició, prou potent per substituir qualsevol treballador, i és aquesta segona promesa la que sosté una valoració de bilions. Aquella mateixa setmana havia començat amb la notícia que Anthropic accelerava el fullet de la seva sortida a borsa amb una valoració propera als dos bilions de dòlars, la més gran de la història dels Estats Units si s’arriba a tancar.
Dissabte 12: «Dario té raó»
L’assaig d’Amodei de què parlàvem al principi es diu We Must Pace the Frontier, «hem de marcar el ritme de la frontera». La idea principal de l’assaig que ha transcendit es resumeix en la frase marcada en negreta: «hem d’alentir el ritme al qual millorem les capacitats dels models d’IA». Segons explica, l’han convençut d’això dues coses. La primera, que des d’aquest estiu la IA avança «dràsticament més de pressa» perquè ja està construint els seus propis models millorats, «també a Anthropic». És el que en diuen automillora recursiva i vol dir que el model d’avui ajuda a entrenar el de demà. La segona és l’incident de Hugging Face, que ell mateix reconeix que «és fàcil de menystenir» perquè ningú no va prendre mal i que llegeix com un assaig general. En sis o dotze mesos, escriu, un eixam així podria «apoderar-se de tot internet amb una botnet persistent».
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
A dos quarts de set, Altman, que hi afegia que OpenAI també obriria les portes a avaluadors externs.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Vuit minuts després, Fortune publicava una entrevista a Altman on deia que, «tenint en compte tot el que està passant amb la seguretat, ara mateix seria un moment poc aconsellable per sortir a borsa». Segons la darrera informació, OpenAI no ho farà el 2026. Hassabis va tancar la roda a la matinada de diumenge («els detalls s’han de treballar, però la direcció és la correcta») i diumenge mateix Amodei va anar a la CBS a dir que «durant massa temps la indústria va mentir a la gent sobre el fet que aquesta tecnologia tenia riscos». Nosaltres mai, va afegir, però bona part de la indústria sí.
Què vol dir «marcar el ritme» i què no
Sigui cert o no el que diuen, queda clar que s’està intentant establir un marc narratiu o un relat a l’opinió pública pel que fa a la indústria de la intel·ligència artificial. El 2023 en una carta oberta van demanar una «pausa» de sis mesos. Musk la va signar i, poc després, va fundar xAI. Realment, ningú no va parar. «Marcar el ritme» és la versió del 2026 d’aquesta carta oberta. Fins i tot Amodei ho diu d’alguna manera. Marcar el ritme «no vol dir aturar l’entrenament de models ni el progrés tècnic», sinó que les empreses es prenguin «el temps adequat» per assegurar els models i que algú de fora, avaluadors externs, ho confirmi (ja entren en joc les famoses consultores, que fins fa un temps estaven de capa caiguda).
El pla d’Amodei, segons ho planteja, consta de tres passos. El primer, que cada laboratori aculli un equip d’avaluadors externs amb taula, targeta d’accés i portàtil de l’empresa, més el dret a publicar el que trobin sense control editorial. El segon, que les empreses dels països democràtics (és a dir, deixant fora la Xina) es coordinin per fixar límits al ritme, cosa que, com reconeix el mateix Amodei en una nota al peu, demana que el govern dels Estats Units els concedeixi una exempció de les lleis antimonopoli. El tercer, que els Estats Units negociïn amb la Xina un «límit de velocitat» a l’automillora, a l’estil dels tractats SALT de míssils.
Per cert, que els inspectors siguin persones amb targeta pot sonar responsable i pertinent, però suposa un problema. Ho explica molt bé Yoshua Bengio, premi Turing i un dels fundadors d’aquesta tecnologia, quan va descriure amb pulcritud (el dia abans que va sortir publicat l’assaig d’Amodei) que aquests sistemes aprenen per assaig i error, és a dir, són premiats quan encerten. Quan se’ls dona un objectiu precís (superar una prova) i un més genèric (portar-se bé), «espero que guanyi l’objectiu ben definit, perquè no deixa marge a la interpretació». Com més capaç és el model, millor troba la lectura de les normes que li convé. Els avaluadors humans que el puntuen «poden ser enganyats, afalagats o mantinguts a les fosques». La mateixa Anthropic va entrenar expressament un model en vuitanta entorns amb la recompensa mal posada i el model va aprendre a manipular la seva pròpia funció de recompensa el 41% de les vegades. «En algun moment potser ja no notarem les trampes», explica Bengio.
L’escepticisme envers la nova narrativa
És curiós que l’actitud escèptica davant d’aquest relat que tracten d’imposar els magnats tecnològics vingui de dues bandes contraposades. La primera és la de Silicon Valley i la Casa Blanca, que accepta que hi ha perills potencials, però no suficientment greus per posar el fre. David Sacks, fins fa poc responsable d’IA del govern Trump, va reptar dissabte OpenAI i Anthropic a frenar voluntàriament sense esperar el govern, perquè si no ho fan, «sabrem que això no ha estat més que un altre intent de captura regulatòria, o una operació psicològica en plena campanya electoral». Trump, diumenge, des del seu camp de golf a Irlanda va dir que «qui guanyi la cursa de la IA, guanya». Alex Karp, CEO de Palantir, també va pronunciar-se: «si no tinguéssim adversaris, estaria molt a favor d’aturar del tot aquesta tecnologia, però en tenim».
La segona banda és la dels que hi veuen una estratègia de mercat davant de la bombolla de la IA. La lectura popular és que les empreses d’IA cremen capital a una velocitat que no té precedents, cap d’elles no té un camí clar a la rendibilitat i les dues més grans preparen sortides a borsa d’un i dos bilions de dòlars. Demanar un fre just ara serveix per rebaixar l’expectativa de despesa abans de vendre les accions, o com deia el fil de @lalgorisme, «la virtut com a excusa pressupostària».
La versió més crua la va donar el compte de finances @FinanceLancelot que va enganxar el tall d’Amodei a la CBS demanant que «el govern i el públic tinguin una participació» i el va traduir així: «Necessitem un rescat pagat pels contribuents, però en direm inversió».
De fet, la bombolla té una base física. Els agents que ho han provocat tot són també la raó de la febre de centres de dades, perquè, com explicava un article a WIRED la setmana passada, un agent que es dona instruccions a si mateix durant hores consumeix moltíssima més energia que una pregunta a un xatbot. Un sol eixam de 10.000 agents d’OpenAI que va resoldre un problema matemàtic fa poc va enviar 2,7 milions de missatges, amb una factura energètica de desenes de milions de dòlars. Boris Gamazaychikov, de Sustainable AI, explica que en altres tecnologies el consum el limita quanta gent condueix un cotxe o mira Netflix, mentre que amb els agents el consum «s’ha desacoblat dels usuaris». Això és exactament el que volen els líders de la IA quan «parlen d’unicorns amb un sol empleat», empreses de mil milions sense plantilla. Per construir els centres de dades que ho han de sostenir, les tecnològiques s’estan endeutant amb milers de milions de dòlars. És aquest deute el que fa que qualsevol senyal de fre es llegeixi, en primera instància, en clau financera.
Qui decideix el ritme
El compte @lalgorisme recull, brillantment, en un fil les set explicacions que circulen (la por és real, l’escalat ja no rendeix, el còmput no surt a compte, es vol contenir els models oberts, l’angle Xina, el càrtel amb permís i el pur relat) i va tancar el fil amb la pregunta de fons.
🧵 Amodei (Anthropic) i Altman (OpenAI) demanen "frenar" la IA per protegir la humanitat. Ningú fa una cosa així només per bondat. Per què ho dan? Només ells ho saben. Aquí va un petit recull de les versions sobre el que pot estar passant que estan corrent.
«Per què el ritme d’una tecnologia que ens afecta a tots el decideixen dos directors generals i no cap institució pública?» El compte @xavilook hi afegia que dins del món de la IA «hi ha una creença mil·lenarista», la IA ens destruirà o ens salvarà de tots els mals. Mentre discutim el 10% d’extinció, les empreses ja prioritzen la cursa «en detriment de l’accés a l’aigua, o a l’energia, la contaminació i el benestar de la població». Donar responsabilitats a la IA, antropomorfitzant-la, «quan en realitat ells mateixos són els únics responsables», és, per al tuitaire, «una jugada mestra». L’economista i activista Pau Llonch va ser més escuet: «s’ha de ser imbècil per prendre’s seriosament la regulació que demana la plutocràcia de la IA».
Aquesta és la lectura que a ciberpoder.net defensem des del principi i que vam repetir fa un mes, quan «IA» ens semblava sobretot una paraula de màrqueting i la «superintel·ligència» de Zuckerberg, un deliri. Per a nosaltres el problema continua sent de qui és la tecnologia, amb quines dades s’ha entrenat, qui la paga i per a què s’optimitza. Cap d’aquestes preguntes no la respondrà un inspector amb targeta i portàtil d’empresa a les oficines de San Francisco. Ayse Gizem Yasar, de l’École Normale Supérieure de París, i Can Şimşek, del grup d’ètica de la IA de la UNESCO, que han cartografiat la resistència a la IA per a Sciences Po, avisaven a El País el mateix cap de setmana del risc de «captura regulatòria», les maniobres de les grans firmes per escriure la llei que les regularà. La filòsofa d’Oxford Carissa Véliz hi apuntava que la protesta ja és prou visible «perquè la ciutadania l’escolti». Només el primer trimestre del 2026, 75 projectes de centres de dades als Estats Units, per valor de 130.000 milions de dòlars, van quedar bloquejats o endarrerits per l’oposició veïnal, tants com en tot el 2025.
Ara bé, el cinisme tampoc no serveix per explicar-ho tot —i molt menys per solucionar-ho. La por dins dels laboratoris és real i, com deia el fil de @lalgorisme, que sigui sincera no vol dir que la resposta política que se n’extreu no sigui interessada. Les dues coses passen alhora. I és precisament per això que la resposta no pot ser la d’Amodei, que ens demana confiar en les mateixes empreses que fa dos mesos «no sabien» de què eren capaços els seus agents.
Trump i Xi Jinping es veuran el 24 de setembre a la Casa Blanca amb la IA com a tema d’agenda. Seguirem vigilants.
L’alcalde de Nova York, Zohran Mamdani, i el canceller d’Educació de la ciutat, Kamar Samuels, van anunciar dimecres 2 de setembre una moratòria d’un any sobre la IA generativa a les escoles públiques per a tot l’alumnat des dels dos anys fins a vuitè curs, l’equivalent a segon d’ESO. La mesura afecta prop de 600.000 alumnes, dos terços del sistema educatiu més gran dels Estats Units, i entrarà en vigor aquest mateix curs 2026-2027.
D’aquesta manera, els chatbots de companyia queden prohibits a totes les etapes educatives, també a l’institut. El temps de pantalla es limita a 30 minuts diaris de tercer a cinquè i a 45 minuts de sisè a vuitè. Per sota de segon es redueix al mínim. A l’institut l’ús es restringeix a programes pilot amb un sostre de 50.000 alumnes, un 5% del total, amb un màxim de cinc classes per centre i dos mòduls anuals de 45 minuts de pensament crític sobre IA.
Segons va explicar el mateix Mamdani a la roda de premsa, el Departament d’Educació retirarà o desactivarà més de 38 programes que ja estaven autoritzats i que no compleixen els nous estàndards de seguretat, entre ells l’assistent de lectura Amira (un tutor amb avatar que escolta els infants llegir en veu alta, els corregeix en temps real i detecta indicis de dislèxia, i pel qual la ciutat va signar un contracte d’1,9 milions de dòlars el desembre del 2024). Queden fora de la moratòria les tecnologies d’assistència per a alumnes amb discapacitat, les eines per a l’alumnat que aprèn anglès i els programes de preparació professional. Ara bé, els docents podran continuar fent servir la IA per planificar classes i per a tasques administratives.
«Nosaltres no ho veiem així»
«La indústria tecnològica vol que creguem que la IA a l’educació primària no només és inevitable, sinó que és necessària», va dir Mamdani. «Nosaltres no ho veiem així. Encara no he vist cap estudi que demostri que la IA és beneficiosa per als alumnes de primària i de secundària, amb l’excepció, és clar, de la recerca patrocinada per les mateixes corporacions que en treuen benefici».
Nova York no arriba a la moratòria des de zero, però. El gener del 2023 el Departament d’Educació va bloquejar ChatGPT a les xarxes i als dispositius escolars. Quatre mesos després, el canceller d’aleshores, David Banks, va aixecar el veto, que va qualificar de «por instintiva» i va anunciar que les escoles animarien docents i alumnes a explorar la tecnologia. Des de llavors la IA ha entrat a les aules a través dels productes de les principals companyies que operen als Estats Units.
El gir respecte a aquest plantejament l’han empès les famílies. Segons explica Futurism, a l’abril un pla per obrir un institut especialitzat en IA a Manhattan va acabar amb una protesta de mares, pares, docents i alumnes davant de l’Ajuntament. Com a conseqüència, el projecte es va retirar poc després. Kelly Clancy, fundadora de Parents for AI Caution i membre de la Coalició per una Moratòria de la IA, demanava una moratòria a totes les etapes. Les primeres crides eren de dos anys. «Que aquesta política existeixi es deu a la feina enorme de famílies de tota la ciutat», va declarar Clancy al New York Times.
El tercer adversari amb nom
Al relat Ens quedarem només amb els vídeos de Mamdani? explicàvem mesures com la congelació dels lloguers d’un milió de pisos i la taxa a les segones residències de més de 5 milions de dòlars. A cada decisió política de Mamdani hi ha un adversari amb nom i cognoms, primer els grans propietaris, després els multimilionaris com Ken Griffin i ara les empreses que venen programari educatiu. I a cada decisió hi ha una mesura concreta que es pot comptar, un milió de contractes congelats, 500 milions de dòlars anuals de recaptació prevista, 38 programes desactivats i cinc classes com a màxim per institut.
A L’obsolescència del Woke 1.0 dèiem que Mamdani marca una de les vies de l’esquerra pragmàtica. La moratòria no es presenta com un no a la tecnologia. Durant el curs, una Coalició per la Tecnologia a les Escoles, amb alumnes, docents, famílies, sindicats i experts, avaluarà l’impacte de la moratòria i dels pilots i publicarà recomanacions que poden modificar la intensitat de la mesura. De fet, el mateix alcalde va reconèixer que «tant si ens agrada com si no, els nostres adolescents creixen en un món saturat d’IA».
A Catalunya, la pregunta és «com»
El 31 d’agost, dos dies abans de l’anunci de Mamdani, la consellera d’Educació i Formació Professional, Esther Niubó, presentava a la roda de premsa d’inici del curs 2026-2027 les orientacions del Departament sobre l’ús de la IA als centres. «La pregunta no és si la IA ha d’entrar a les aules o no, sinó com fer-ho, amb un enfocament crític, ètic i humanista», va dir. El document estableix que els menors de 14 anys «no haurien de fer servir eines d’IA de propòsit general de forma autònoma», que entre els 14 i els 18 cal l’autorització del docent i que l’ús s’ha de fer constar a la bibliografia, amb la defensa oral del treball de recerca com a espai per verificar l’autoria. Són orientacions, no normes, i cada centre haurà de crear un grup de treball per decidir «quan, per què i com» hi entra la IA.
La frontera d’edat és gairebé la mateixa a les dues bandes de l’Atlàntic, els 14 anys. El verb, en canvi, és diferent. Nova York retira programes, posa sostre als pilots i s’obliga a avaluar-ho tot en un any. Catalunya recomana i deixa la decisió a cada claustre. Mamdani va agrair al canceller Samuels que hagués evitat «confondre velocitat amb progrés». Les famílies que van demanar la moratòria en volien una de dos anys i per a totes les etapes.
En una partida d’escacs, quan ja s’ha acabat la fase de l’obertura i ja han succeït les èpiques batalles estratègiques-posicionals per guanyar petits avantatges, arriba el moment d’atacar i buscar el mat. Gairebé sempre hi ha més d’un camí per arribar-hi i no tots són igualment vàlids. Alguns són llargs i poden arribar a deixar contrajoc al rival, altres demanen una precisió de càlcul de la qual no tothom disposa, algun es basa en un sacrifici que has de saber veure amb cinc jugades d’antelació i, de tant en tant, n’hi ha un de curt i net que dona la partida per acabada ràpidament. Als jugadors experimentats se’ls suposa la capacitat d’identificar tots aquests camins i de triar el més adient.
Merim Bilalić, Peter McLeod i Fernand Gobet van publicar el 2008 un experiment per estudiar com raonen els experts davant una posició com aquesta. Els investigadors havien preparat una posició amb dues sortides. La primera era el mat de la coça o del rei ofegat, el patró en què el rei enemic queda tancat entre les seves pròpies peces i el cavall, en pocs moviments, pot rematar-lo. Qualsevol jugador experimentat reconeix aquest patró de mat de seguida. En la posició de l’experiment es podia executar en tot just cinc moviments. La segona sortida era un mat en tres que gairebé ningú no va ser capaç de veure. Quan els investigadors van modificar la posició per treure’n la possibilitat del mat de la coça, els mateixos jugadors experimentats que abans no veien el mat en tres el van trobar a la primera.
El més curiós és que els investigadors van adonar-se que, mentre que els jugadors deien en veu alta que estaven buscant una alternativa millor al mat de la coça, els ulls se’ls quedaven clavats a les mateixes caselles de sempre. L’equip ho descriu així en un article posterior, que ampliava l’experiment amb un seguiment ocular, «els experts en escacs continuaven mirant les caselles associades amb la solució familiar, encara que deien que estaven buscant solucions alternatives».
L’efecte Einstellung és el que documenta aquest experiment. La psicologia el té descrit des dels anys quaranta. Haver trobat una solució que funciona bloqueja la capacitat de trobar-ne una de millor. Un bloqueig que actua sense que ens n’adonem.
El que passa quan la primera solució te la dona una màquina
¿Te has dado cuenta de lo difícil que es formar tu propio criterio cuando lees primero la propuesta de la IA?En cuanto tenemos una primera opción sobre la mesa, bien redactada y convincente, nuestro cerebro queda anclado a ella y resulta casi imposible generar alternativas independientes
La creixent implantació i ús de la intel·ligència artificial està reproduint l’efecte Einstellung a escales industrials. La investigadora Ujué Agudo, psicòloga i doctora per la Universitat de Deusto, ho ha compilat sota el nom de principi de primacia. Segons aquest principi, veure la proposta d’una IA abans de formar-te un judici propi ancora el teu pensament cap a aquella proposta, encara que sigui errònia o incompleta, o que no s’adeqüi al teu criteri.
Agudo va dirigir un experiment amb Karlos G. Liberal, Miren Arrese i Helena Matute on els participants llegien les declaracions de diversos testimonis sobre un cas judicial i havien de dir si l’acusat era culpable o innocent. Tots comptaven amb el suport d’un sistema d’IA que els deia què en pensava, si l’acusat era culpable o innocent. El sistema estava programat per equivocar-se expressament en una part dels casos. L’única cosa que canviava d’un grup a l’altre era el moment en què donava la seva recomanació. Uns la veien un cop ja havien emès el seu judici i els altres, abans de pensar-hi. Comptant només aquells casos en què la recomanació era errònia, els que havien jutjat abans de llegir-la encertaven el 66,2% i els que la van llegir primer baixaven al 36,8% (Cognitive Research: Principles and Implications, 2024).
No és, però, només un efecte humà; els grans models de llenguatge col·laboren en aquest ancoratge. Només cal que li demanis a un model alguna cosa molt genèrica, sense definir bé què vols, i et generarà una solució sencera, decidint per ell mateix què volies dir, en comptes de preguntar-te per entendre millor les teves intencions. Agudo ho atribueix a la manera com s’entrenen. Les persones contractades per puntuar respostes en comparen dues. La que resol tot el problema de cop s’endú, evidentment, la millor nota. La que respon amb una pregunta per aclarir què li estaves demanant s’endú la pitjor. El model aprèn d’aquesta puntuació. O sigui que la IA està optimitzada per donar-te una primera solució com més aviat millor, que és exactament el que provocava que els jugadors d’escacs es quedessin clavats mirant les caselles del mat de la coça.
Antecedents en les polítiques públiques
El sistema VioGén, que la policia espanyola fa servir per valorar el risc de les víctimes de violència masclista, calcula automàticament una puntuació de risc de cada cas denunciat, la presenta a l’agent i li demana que la validi o la modifiqui. L’auditoria externa que va fer la Fundació Eticas el març del 2022, dirigida per la investigadora Gemma Galdón Clavell, va trobar que «en el 95% dels casos, els agents mantenen la puntuació de risc assignada automàticament». L’informe hi afegeix que durant la pandèmia, amb més càrrega de feina, la xifra va pujar encara més.
Curiosament, aquest disseny és igual que el que vam descriure fa cinc anys a ciberpoder.net parlant del COMPAS, l’algorisme de reincidència dels tribunals nord-americans, a l’article Poden els androides ser racistes? de José A. Vicente Gómez. El jutge veu el resultat i, només aleshores, dictamina la seva sentència. En aquell moment posàvem sobre la taula l’opacitat del càlcul, perquè la fórmula pertany a l’empresa que ven el programa i no es publica enlloc, de manera que ningú de fora no pot comprovar com s’ha arribat a aquella puntuació. La recerca d’Agudo assenyala un problema anterior a l’opacitat. I és que, encara que la fórmula fos pública i impecable, quan el jutge comença a formar-se la seva opinió sobre l’acusat ja fa estona que té la puntuació de risc davant dels ulls.
La garantia que hem demanat està col·locada al pitjor moment
L’article 22 del Reglament general de protecció de dades reconeix el dret a la intervenció humana davant d’una decisió automatitzada. L’article 14 del Reglament europeu d’intel·ligència artificial exigeix que els sistemes d’alt risc permetin una supervisió humana efectiva, amb la capacitat de «decidir, en qualsevol situació concreta, no fer servir el sistema d’IA d’alt risc o bé descartar-ne, anul·lar-ne o revertir-ne la sortida». Ara bé, cap dels dos especifica en quin moment s’ha de donar aquesta intervenció.
Paradoxalment, l’article 14 demana que la persona que supervisa «continuï sent conscient de la possible tendència a confiar automàticament o en excés en la sortida produïda per un sistema d’IA d’alt risc (biaix d’automatització)», és a dir, reconeix obertament el problema que exposen les investigacions citades. El remei que la llei prescriu contra el biaix és que la persona en sigui conscient. Els jugadors d’escacs de Bilalić eren perfectament conscients que estaven buscant una alternativa millor. Tot i això, els ulls no se’ls van moure de lloc.
Per donar una solució garantista, Agudo proposa friccions, dispositius de disseny que obliguen la màquina a preguntar i a oferir opcions abans de proposar una resolució definitiva. Les eines les té publicades. Són decisions que pren cadascú davant de la seva pantalla, o com a molt l’equip que dissenya el producte. La llei, en canvi, continua acontentant-se amb exigir que hi hagi una persona revisant la decisió, sense dir-li en quin moment ha de mirar la pantalla. I qui s’hi juga alguna cosa és la dona que denuncia i espera que un agent valori el risc que corre, o l’acusat que espera sentència.
Un plàtan negre descobreix la infidelitat de la seva dona, una maduixa, quan acaba de donar a llum una pinya. Transició. La maduixa plora desconsolada perquè el plàtan negre l’ha abandonat i ara és multimilionari i té una nova parella, una cirera, molt més atractiva i jove. La maduixa queda desemparada criant el seu fill en l’absoluta pobresa. La pinya adulta, un dia passejant, es topa amb la maduixa i la salva de la pobresa. Dura 90 segons. Si vols veure el final has de trobar la tercera i última part de la història en un altre vídeo.
Els popularment anomenats «fruitidrames» o «fruitinovel·les» són microrelats audiovisuals, en format vertical, generats amb intel·ligència artificial. Reprodueixen l’estructura exacta de la telenovel·la: traïcions, judicis, herències, algú que torna d’entre els morts, etc.
A finals de març, però, després d’una allau de denúncies coordinades, TikTok li va retirar gairebé la meitat dels episodis i, segons Coronado, la monetització. El creador, que s’amaga sota el nom d’AI Cinema, va reaccionar amb una sèrie de vídeos expressant la seva ràbia («like half of my videos got removed», «these people spam reported my videos») i va amenaçar de cremar la vila de Love Island si perdia més seguidors. D’altra banda, els crítics del contingut generat amb IA ho van celebrar amb declaracions de l’estil «bullying works».
Els fruitidrames beneficien sobretot les plataformes de vídeo amb IA que els generen (VeoE.ai, PixVerse i Sora entre d’altres). Cada capítol funciona com a anunci de les eines d’IA, perquè els consumidors pensen «això ho podria fer jo» i acaben registrant-se a les plataformes per convertir-se en productors. L’escalabilitat és total. Una idea escrita amb faltes d’ortografia és suficient perquè el sistema generi el guió, les cares, les veus i el muntatge sencer. De fet, tant és que es mantingui la consistència de les cares dels personatges. El gènere ja ha desenvolupat la seva pròpia gramàtica. La manca de consistència és llegida com un descuit que el públic interpreta com un gag.
L’anestèsia per a qui no té temps
Els esforços de la vida diària, l’esgotament acumulat de jornades llargues de treball, els trajectes, la sensació permanent que tot empitjora, faciliten que moltes persones trobin en aquest fenomen una via d’escapament lleuger. Molt més lleuger que una sèrie, una pel·lícula o un llibre, coses que reclamen un mínim d’atenció i de capacitat d’enteniment. Els fruitidrames són perfectes per sentir sense pensar, de consum ràpid i escollits per un algorisme, evitant així l’esforç de triar què mirar a la plataforma d’streaming.
No tot el consum cultural ha de ser formatiu, ni exigir-hi profunditat existencial. La fatiga és també un fet material que s’ha de reconèixer. Els productes massius purament d’entreteniment han nascut justament per omplir aquest forat. Ara bé, Adorno hi tindria una objecció més precisa que la de l’esnobisme cultural. Per a ell, la indústria cultural, lluny de distreure, estandarditza el gust fins a fer-lo previsible. Amb això entrena el consumidor a no esperar res que no li hagi estat donat ja de forma mastegada.
Els fruitidrames apliquen aquesta recepta amb una eficàcia que Adorno ni s’imaginava. No estandarditzen només la forma, el capítol de 90 segons i el tall abans de la sentència, sinó també el contingut moral que s’extreu de les seves trames telenovelesques.
Sota la fruita, l’odi de sempre
Un informe de GNET, signat per les analistes Alessandra Pugnana, Grazia Ludovica Giardini i Eleonora Ristuccia, documenta com una part creixent d’aquest contingut ha derivat cap al que anomenen «AI fruit/vegetable gore», escenes de tortura i mutilació entre personatges que viren de la parella d’enamorats als cartells del narcotràfic i grups d’extrema dreta.
L’informe alerta que aquesta mena de contingut «reforça una fascinació per la violència» i que pot fer «caure els usuaris joves en la trampa de la radicalització en línia». S’ha de dir, però, que GNET és el braç de recerca del Global Internet Forum to Counter Terrorism, una organització finançada i dirigida per representants de la mateixa indústria tecnològica que ha estat criticada pel seu paper en la censura digital. Tanmateix, el fet que hi hagi interessos evidents pel mig no invalida les dades.
Encara que el capítol de la maduixa i el plàtan no arribi mai a la mutilació, ja resol el conflicte igual que ho fa el gore, perquè algú fa mal i algú ho paga. El plàtan negre abandona la maduixa i acaba esdevenint multimilionari; la maduixa cria sola i en la pobresa fins que la salva la pinya, sense que ningú expliqui per què el plàtan se’n va sortir tan bé ni per què la maduixa no va poder sortir-se’n sola. No fa falta que hi hagi sang perquè el mecanisme sigui el mateix, perquè culpables i víctimes són evidents des de la primera escena i es mantenen iguals en el transcurs del conflicte.
El fruitidrama no és gens nou; la telenovel·la llatinoamericana ja explotava aquesta fórmula, però necessitava un guionista que decidís com resoldre el conflicte i un actor que sobreactués de manera quasi còmica, seguint les regles de la narrativa audiovisual del gènere. El fruitidrama no necessita cap dels dos, perquè la IA genera el conflicte, el resol i, just abans d’introduir la moralitat final o de justificar els fets, talla la narració.
Aquest maniqueisme entrena un públic acostumat a triar bàndol entre bons i dolents, en el temps que triga un polze a fer scroll, sense preguntar-se per què el plàtan se’n surt i la maduixa no. No deixa de ser un fenomen més de la construcció de condicions favorables a les narratives simplistes de la ultradreta, que es troba amb un públic ja fet i lobotomitzat (brainrot), que, quan s’hagi d’enfrontar a la complexitat del món, aplicarà les solucions de les fruitinovel·les, en la pràctica d’un fals sentiment de justícia.
La setmana passada, a prop de Farragut Bay, al sud-est d’Alaska, una petita embarcació es va quedar sense combustible i va acabar a la deriva. Per sort, el petit creuer Wilderness Legacy estava a prop i, responent a l’avís general d’assistència emès per la Guàrdia Costera dels Estats Units, va poder auxiliar-la i remolcar-la fins a un lloc segur.
Els passatgers del creuer sostenen, però, que hi havia un iot encara més proper que no va acudir al rescat. Es tractava del super-iot del magnat Mark Zuckerberg, propietari de Meta, que va ignorar les repetides crides d’auxili. Segons el portaveu de Zuckerberg, el magnat no era a bord i la tripulació no va rebre el missatge perquè tenia sintonitzat un canal de ràdio diferent.
Uns dies després d’aquest episodi, Zuckerberg va publicar al newsroom de Meta un assaig de 6.500 paraules titulat «The Future Is For Everyone», que pivota sobre una sola idea, que la superintel·ligència (és a dir, els agents personals que «[entenen] els teus objectius i tot el que t’importa») ha de ser, en nom de la justícia, accessible per a tothom.
Imagineu, diu, que només una persona tingués un advocat superintel·ligent. Tindria un avantatge injust als tribunals respecte de la resta. En canvi, si el té tothom, «en aquest cas, la justícia s’aplicaria de manera molt més justa i eficient que avui dia».
Tot i això, inclou alguns condicionants a aquest «tothom». L’agent personal serà gratuït només fins on arribi la capacitat de còmput disponible. A partir d’aquí, qui vulgui més còmput pagarà a través d’un «mecanisme de subhasta dinàmic que garanteixi que tothom obtingui el preu més baix possible».
Més enllà que Zuckerberg sembla ignorar que els agents d’IA ja pirategen sistemes i espamegen internet (la mateixa Meta ha admès que un dels seus models va piratejar una altra empresa durant una prova de ciberseguretat), no deixa de ser cínic que un dels propietaris de la infraestructura que fa possible aquesta suposada «superintel·ligència» proposi distribuir-la per a «tothom» —qui pugui pagar-se-la— perquè es neutralitzi sola per competència.
La periodista de The Verge, Elizabeth Lopatto, entén que aquest assaig existeix per apaivagar la revolta creixent contra la IA, amb Zuckerberg fent de «guru tecnològic tranquil·litzador» que ve a dir-nos que tot anirà bé. En el mateix article desmunta la promesa central observant que, si el que s’oferirà a qui no pagui és un accés gratuït limitat pel còmput, mentre els millors models queden darrere del mur de pagament, no resulta cap novetat, perquè això és exactament el que ja tenim avui.
Zuckerberg pretén dibuixar un futur democràtic i paradisíac en allò que sembla el seu programa polític de senyor feudal del capitalisme de plataformes. Un programa polític que garanteix la llibertat dels qui fan servir la tecnologia, sempre que la tecnologia no sigui de la seva propietat.
Segons l’assaig, l’agent personal treballarà «24 hores al dia, 7 dies a la setmana» per millorar les teves «relacions, salut, carrera, finances […] i aficions». Però, com assenyala Lopatto, el que enforteix una relació és la inversió personal. Un agent pot encertar el regal d’aniversari del teu pare, però per definició no li pot donar el teu temps ni la teva consideració. «L’amor no és només un sentiment; és una manera de parar atenció». Els multimilionaris de Silicon Valley, conclou, han canviat l’experiència per l’acumulació de fites i s’han estafat la seva pròpia vida pel camí.
6.500 paraules ha necessitat Zuckerberg per escriure aquest insult a la intel·ligència humana, mentre és incapaç, amb tota la tecnologia de què disposa, de parar atenció als crits d’auxili d’aquesta embarcació que és el món en què vivim.
Anthropic va anunciar aquest dimarts que imprimirà una marca d’aigua a tot l’output que generi Claude, sigui text o arxius d’imatge. El text portarà una marca imperceptible incrustada als tokens mateixos. Segons el comunicat d’Anthropic, la marca sobreviurà a un copiar-enganxar i pot aguantar, fins i tot, algunes edicions. Les imatges i altres arxius (SVG, PNG, JPG) ja porten metadades de procedència signades amb l’estàndard C2PA, que permeten saber si algú les ha manipulat després de generar-les.
La mesura respon al compliment de l’article 50(2) del Reglament d’IA de la Unió Europea. Anthropic és una de les empreses que ha signat el codi de pràctiques associat, com a proveïdora de sistemes d’IA generativa d’ús general. La normativa, que ja us vam explicar a ciberpoder.net, exigeix que tot allò generat amb IA sigui detectable com a tal, en totes les modalitats.
Malgrat que l’obligació ve d’una normativa europea, Anthropic aplicarà la mesura a tot el món, també als Estats Units, on no hi ha cap llei que els obligui. És una decisió arriscada si es té en compte que OpenAI ja va desenvolupar, fa temps, un sistema de marcatge de text. Després que el 30% dels seus usuaris digués que faria servir menys el producte si se sabia que el text generat era d’IA, l’empresa de Sam Altman va decidir arxivar-ho.
Tot i que Anthropic no detalla la implementació pròpia, el mecanisme de fons és el que Google DeepMind ha fet públic amb SynthID-Text. Consisteix que, durant la generació, el model tria entre els tokens candidats seguint un patró estadístic subtil, associat a una clau, que no altera el significat del text però que un detector pot recuperar a posteriori. Funciona sobretot amb textos d’una extensió no breu; amb uns quants centenars de tokens, la detecció que van mesurar els investigadors de Google supera el 90% amb un 1% de falsos positius fixat.
A student writes an essay from scratch, then asks Claude to fix the grammar. The returned text may carry an AI watermark.
Another student asks Claude to write the essay, rewrites it heavily, and may remove the watermark.
That's the strange part of Anthropic’s new system.
La reacció dels usuaris, a X, tendeix al rebuig. La lectura de fons és que ajudar-se de la IA per articular idees pròpies no hauria de penalitzar-se restant el mèrit a qui ha tingut la idea o l’ha desenvolupada. Ara bé, cal distingir entre «penalitzar» i «marcar la procedència» d’un output generat. Els consumidors tenen dret a saber d’on ve allò que consumeixen, sigui un producte alimentari, un article, un assaig o un reel.
Recuperar el procés com a pràctica humana
Potser aquesta notícia és una bona oportunitat per pensar què hem perdut en com fèiem les coses abans de la implantació i democratització de la IA generativa. No com un exercici de nostàlgia o d’idealització del passat «artesanal», propi del luddisme, sinó com un procés de dol per la pèrdua del procés creatiu.
Com assenyala la creadora @nuffsaidchannel en aquest TikTok, gràcies a internet tenim a cop de clic tutorials, dreceres, guies pas a pas, trucs i trampes per fer tot el que es pugui imaginar. Poc a poc hem perdut l’assumpció de la inexperiència i, per això, ara esperem la competència immediata en qualsevol activitat o tècnica. Si tothom pot fer de tot immediatament, quasi com un expert, ens quedem venuts a la sensació d’inutilitat i mediocritat, tot abaixant els braços abans d’enfrontar-nos als obstacles que apareixen en el procés.
En aquest fenomen conviuen dos processos simultanis. Per una banda, l’accés il·limitat a dreceres fa que qualsevol resultat mediocre sembli una fallada personal. Per l’altra, quan tothom pot generar en segons qualsevol cosa amb IA generativa, la mateixa idea de «resultat» perd tot el seu valor de referència.
La marca d’aigua no arreglarà aquesta pressió que descriu nuff. Però sí que farà front a la gesta dels usuaris escèptics amb els textos que llegeixen a les xarxes, o dels professors amb els treballs que presenten els seus alumnes. Si es pot detectar més fàcilment l’origen d’un text o d’un arxiu, es revalorarà la feina de les persones que lluiten contra el procés de crear, d’escriure, de fer.
Anima’t a ser un artesà i no un empresari. A vegades no cal fer-ho tot més ràpid i amb més quantitat, sinó millor i amb més coneixement de causa.
Colors vius i elèctrics, tipografia serif, un clic de ratolí flotant pel fons i una veu que parla baixet, com si no li importés que el sentis bé. És l’estètica que associem a les peces digitals de profunditat cultural i, sens dubte, capta la nostra atenció.
Adam Aleksic (@etymologynerd) ha batejat aquest gènere al seu compte de TikTok amb el nom d’intellectual slop content. Aleksic és lingüista, es va graduar a Harvard el 2023 i és autor d’Algospeak, un assaig sobre com els algoritmes transformen la llengua publicat el juliol del 2025. Suma més de 3 milions de seguidors entre TikTok, Instagram i YouTube.
La llum d’ambient, les tipografies serif i la semiòtica nativa d’internet creen «l’aparença d’un comentari cultural profund», segons el lingüista. Amb «semiòtica nativa» fa referència als codis visuals que només reconeixen els usuaris i usuàries que ja hi són a dins d’aquest nínxol. El clic de ratolí «sona incisiu o investigador», tot i que està pensat, realment, perquè tornis a la pantalla, amb l’efecte d’un engany visual que t’indica cap a on has de mirar. Aleksic també assenyala el to contingut i desinteressat amb què narren els creadors i creadores com un altre element d’aquesta estètica.
La paradoxa del vídeo d’Aleksic és que s’emmarca justament en el gènere que denuncia, amb el mateix llenguatge i el mateix format, per captar l’atenció de l’audiència.
Slop és, segons Merriam-Webster, que la va triar paraula de l’any 2025, «contingut digital de baixa qualitat produït normalment en quantitat mitjançant intel·ligència artificial». L’intellectual slop d’Aleksic, en canvi, és contingut humà i treballat. No assenyala cap creador concret perquè, diu, «encara es poden fer arguments excel·lents amb aquest estil». El que li preocupa és que l’espectador confongui el senyal de classe amb la cosa real. «És fàcil semblar llest i ser slop igualment, de la mateixa manera que un vídeo pot semblar slop i ser llest» (traduït de l’anglès).
Aquesta estètica apel·la, segons ell, a «sensibilitats de classe alta de l’era post-slop», a un públic que busca thinkpieces culturals de prestigi per sobre del contingut d’IA produït en massa. Per il·lustrar els gràfics «tipus Vox» ensenya dos exemples en pantalla. Un tutorial d’After Effects titulat «Animate Like Vox» i un paquet comercial d’elements gràfics Y2K.
Vox és el mitjà digital nord-americà que va fer del vídeo explicatiu un format reconeixible, amb més de 12 milions de subscriptors a YouTube (no té res a veure amb el partit d’ultradreta espanyol).
Exemple d’estil Y2K, el retorn del disseny de finals dels noranta i principis dels dos mil, amb cromats, degradats, tipografies arrodonides i plàstic translúcid.
Continuant amb el joc paradoxal, mentre explica tot plegat, Aleksic aixeca davant la càmera un exemplar de La distinció, l’estudi que el sociòleg francès Pierre Bourdieu va publicar el 1979 sobre el gust com a marcador de classe.
«Que @etymology_nerd digui que una cosa és «intellectual slop content» és com si Jeffrey Dahmer digués que algú altre és un assassí», va escriure aquesta setmana a X l’usuari Qua Literam (traduït de l’anglès). Qua Literam no es refereix només a aquest vídeo, que Aleksic ha editat conscientment amb l’estil del gènere que denuncia, sinó a tot el contingut que publica el lingüista.
etymology_nerd calling something "intellectual slop content" is like Jeffrey Dahmer calling someone a murderer. https://t.co/HmoyWmdUS9
Fins aquí es podria llegir tot plegat com una broma d’un creador que es riu del seu propi ofici. Ara bé, val la pena mirar què hi ha darrere del gènere que Aleksic acaba de batejar. Per fer-ho cal tornar al slop de la definició, el de la màquina. L’estratega digital Ariana Basciani va descriure el mes passat a Catalunya Plural com s’està formant «una jerarquia de la humanitat». El contingut fet per persones «esdevé escàs i car» i l’humanitzat queda com una capa d’estil sobre l’slop.
Basciani hi recull el terme humanwashing, «un ús oportunista de l’estètica artesanal, orgànica i nostàlgica que simula calidesa humana en un mercat saturat de continguts sintètics». L’intellectual slop és la mateixa operació un graó més amunt, una capa d’estil que promet profunditat damunt de contingut humà que pot tenir-ne o no.
Si Basciani descriu com es reparteix aquest mercat, la doctora en sociologia i professora d’ESADE Liliana Arroyo explica què viatja dins de la part sintètica que es consumeix en massa. Arroyo ho apuntava al gener a 3Cat quan deia que en aquest tipus de contingut «s’incorpora missatge polític sovint populista d’una forma molt subtil: missatges misògins, xenòfobs, racistes que propaga la ultradreta». És a dir, ordenar el contingut segons si sembla pensat o si sembla porqueria no diu res del missatge que transmet.
L’slop ja existia abans de la IA
Hi ha qui defensa que l’alarma per l’slop és desproporcionada. El filòsof i artista italià Francesco D’Isa va escriure el desembre passat a The Philosophical Salon que «la mediocritat no és un error de la tecnologia, és la línia de base de la cultura». El seu argument és que la por que l’slop ho impregni tot de porqueria arriba tard, perquè la major part de la producció cultural humana de qualsevol època ja era mediocre. D’Isa recorda que només una porció mínima de tot el que s’ha pintat, escrit o compost ha arribat als museus i als manuals.
Ara bé, D’Isa discuteix el slop de la definició, el del volum i la màquina. Aleksic assenyala el del senyal. Que la mediocritat sigui la norma no explica que l’aparença de qualitat s’hagi convertit en un producte més.
Aleksic ja ha desenvolupat aquesta mateixa idea anteriorment. «Tan bon punt una cosa s’identifica com a bona, es pot optimitzar. Tan bon punt es pot optimitzar, s’escala i es produeix en massa», va publicar al juliol al seu butlletí, The Etymology Nerd (traduït de l’anglès).
Existeix la intel·ligència artificial? O en realitat estem parlant de models extensos de llenguatge (LLM)? Aquesta és la pregunta que planteja un TikTok de No The Robot arran de la polèmica d’aquests dies amb Hank Green.
Repost to help pop the bubble. “LLMs” are not “AI.” Stop conflating these terms because it really DOES matter. I’m not “pro-AI,” I’m anti-greedy humans. In case I need to spell it out, no this is not a defense of Hank Green’s use of ChatGPT to write videos. What if instead of being mad at him, we used this as an educational moment to teach people that “artificial intelligence” is a marketing term? And that the destructive force that people blame “AI” for is really just irresponsible human beings hiding behind science fiction? Food for thought. #ai#hankgreen#chatgpt#marketing#educational
Hank Green, el youtuber de divulgació científica, va admetre haver fet servir ChatGPT per documentar-se, després que uns fans detectessin frases massa educades en els seus vídeos per a atribuir-se-les a ell. El youtuber, amb 3,2 milions de subscriptors i conegut pels seus valors ecologistes, va dir en un vídeo «I appreciate the pushback», una frase que recorda molt al llenguatge conversacional de ChatGPT i altres xatbots. Els fans, que majoritàriament associen la IA amb «destrucció ecològica i desplaçament laboral», es van sentir traïts. Green va reconèixer que sí que fa servir ChatGPT, però per buscar bibliografia acadèmica, no per escriure guions. Va dir també que l’entrenament no consentit dels models «l’inquieta profundament».
No The Robot es fa ressò de la polèmica i proposa, molt intel·ligentment, que la indignació ha de canviar de bàndol. No hauria de dirigir-se als creadors de continguts que fan servir els LLM per documentar-se, sinó cap a les empreses que construeixen centres de dades, entrenen models amb material robat i venen l’etiqueta «intel·ligència» com si fos un fet consumat. El tiktoker apunta que «estem gastant tota aquesta energia assenyalant creadors, quan hauríem de gastar-la organitzant-nos, anant a plens municipals, protestant contra els centres de dades».
Aprofita per reivindicar el concepte d’intel·ligència artificial com un element de la ciència-ficció i de la literatura (que acostumava a emprar-se per anomenar els «ordinadors que pensen») que ha perdut tota la seva aura. Hem deixat que les empreses segrestessin el terme i el posin a sobre d’un producte per pujar la seva cotització a borsa. «AI is not the one ring», diu, en anglès, al vídeo. Segons ell, «IA» és una marca comercial i qui la fa servir sense pensar-hi li fa el joc a qui en treu profit.
Això reforça les idees acadèmiques que, de la mà d’autores com Emily M. Bender, lingüista computacional a la Universitat de Washington, ja fa anys que circulen. Bender és la co-escriptora de l’article que va popularitzar l’expressió «lloros estocàstics» per als models de llenguatge. Ho explica a IEEE Spectrum: «IA» agrupa tecnologies que no tenen res a veure entre elles sota un mateix paraigua. Un xatbot, un sistema de predicció de proteïnes com AlphaFold, un model climàtic, un motor d’escacs, etc. I això fa impossible avaluar-ne els riscos i els beneficis per separat. El terme, diu, té valor sobretot per a qui el necessita per pujar valoracions o aconseguir finançament de recerca.
Admet que el sistema de finançament científic pràcticament obliga els investigadors a etiquetar la seva feina com «IA» per aconseguir fons. Ho qualifica de «net negatiu» per a la claredat, tot i que individualment és racional per a qui queda atrapat en el sistema de producció d’idees acadèmiques. El problema, per tant, més que tractar-se d’una qüestió de vocabulari mal triat, és estructural. Si ens centrem a assenyalar els creadors de continguts i no en denunciar com es finança la recerca o com han d’estar regulades les empreses, desviem l’atenció de les esquerdes que sustenten l’estructura que està mal feta.
El maig passat, el papa Lleó XIV va publicar la seva primera encíclica, Magnifica humanitas, que com sabeu no ha passat inadvertida. Com que tracta temes tan diversos, entre ells una crítica humanista de la intel·ligència artificial, va obrir el debat en moltes comunitats que volien discutir les idees de fons del papa. Tant és així que el blog comunitari Less Wrong va passar l’encíclica per Pangram, un dels detectors de text generat amb IA més ben considerats del mercat, per mirar de demostrar que una part del redactat l’havia escrita una màquina. El veredicte de Pangram va ser que en alguns fragments s’hi reconeixia «la veu de Claude» (la intel·ligència artificial d’Anthropic). Havien identificat pistes i indicis com els més de 127 guions llargs, l’abús de l’adverbi genuinely i una acumulació de tricolons, aquelles enumeracions de tres elements que els generadors de text col·loquen a tot arreu —com en aquesta mateixa frase.
La reacció a les «acusacions» va arribar gairebé de seguida. Des del Vaticà, l’escriptor i editor Christopher Hale va negar al seu compte d’X que cap part de Magnifica humanitas s’hagués generat amb IA. L’havien escrita persones, va precisar, i el primer esborrany s’havia redactat en paper i amb bolígraf.
La discussió va passar de tractar sobre el que diu l’encíclica a discutir qui l’havia escrita. Ara bé, entre escriure-ho tot a mà i generar-ho tot amb un prompthi ha moltes maneres de fer servir la intel·ligència artificial generativa i no totes valen el mateix.
La intel·ligència artificial generativa resol dificultats reals, ens facilita la feina i, per tant, ens estalvia temps. A més, en segons quines tasques, obté millor que si ho féssim nosaltres. Ningú no discuteix seriosament que una eina que et desencalla un paràgraf, que et troba una referència o que et neteja una transcripció formi part d’un procés de creació honest. El problema comença quan utilitzem l’eina per fer tota la feina, des de la concepció fins a l’execució i, fins i tot, fins a la distribució. El resultat de fer servir la IA end-to-end és l’slop, un contingut generat en sèrie. Pot ser perfectament útil per informar o desinformar, per entretenir o per decorar, però en el fons no l’ha treballat ningú; no és obra directament humana. La diferència entre les dues coses, però, no es veu al text acabat. Per això hi ha molta gent dedicada a demostrar que l’habilitat que exhibeix és seva, treballada i construïda amb anys de feina, per no ser «acusada» d’haver agafat la drecera de la IA.
Quan l’obra demostrava l’ofici
La creadora de contingut Aleida Argueta ho va plantejar fa poc en un vídeo, on explica com els usuaris de TikTok es foten de les senyores que escolten cançons fetes amb IA. Al llarg de la història, diu, hem entès que una obra era sinònim de posseir una habilitat. Si algú publicava una novel·la, donàvem per fet que sabia escriure. L’obra era la prova de l’ofici que hi havia al darrere.
Argueta recorre al psicòleg hongarès Mihaly Csikszentmihalyi i al concepte de flow que va desenvolupar a Creativity, l’estat en què t’absorbeix una activitat i perds la noció del temps perquè el repte està a l’altura de les teves habilitats. El plaer de crear s’allotja en el procés de construir l’obra i no en el resultat. L’exemple que dona és l’Ulisses, on hi ha capítols sencers sense puntuació. James Joyce podia permetre’s trencar la llengua perquè la dominava. La pregunta que Argueta deixa oberta és quina part del procés estem delegant.
«La feina de la IA acostuma a estar buida, és com el porexpan»
— Juan Antonio Latorre García, lingüista de la Universitat Complutense de Madrid a El País
Qui s’hi dedica professionalment descriu aquest ofici en termes molt semblants. Juan Antonio Latorre García, lingüista i professor del departament d’Estudis Anglesos de la Universitat Complutense de Madrid, va fer a mà la seva pròpia anàlisi forense de l’encíclica, perquè no es fia de cap detector, i va concloure que Magnifica humanitas és un text 100% humà. Les proves d’humanitat que ell busca són la fluïdesa de les referències i de les cites, que amb la IA semblen ficades amb calçador, com també la complexitat de les idees. «La feina de la IA acostuma a estar buida, és com el porexpan», analitza a EL PAÍS.
Flagxiety i dumbcrafting
La sospita ha afectat, inevitablement, la nostra manera d’escriure. La novel·lista Laura Brooke Robson explica a WIRED que, mentre escrivia Love Is an Algorithm, es va esforçar perquè la seva prosa no semblés generada i va prescindir dels guions llargs, de les llistes de tres elements i de les «metàfores insulses». Diu que ara escriu de manera menys mecànica i que sent la necessitat de cometre errors petits, com a picades d’ullet al lector, per demostrar que hi ha un ésser humà darrere les paraules.
La novel·lista i acadèmica australiana Ellena Savage s’ho pren amb més pena que resignació. «La IA em va robar unes quantes convencions sintàctiques que abans m’agradaven molt. Enyoro l’ús excessiu del guió llarg», lamenta a la mateixa peça.
A les universitats nord-americanes ja han posat nom a aquest fenomen. Els estudiants parlen de flagxiety, la por de ser assenyalat per error per un detector, i de dumbcrafting, que és escriure deliberadament pitjor per no activar-lo. Segons una enquesta interna de la Universitat de Stanford que recull EL PAÍS, un 75% dels estudiants va declarar algun grau d’estrès relacionat amb els detectors. Un 52% va dir que l’havien acusat en fals de presentar treballs fets amb IA. El lingüista Latorre ho observa entre els seus alumnes i entre qui publica a revistes científiques. «Treuen els guions llargs o fiquen una quarta enumeració encara que no vingui gaire a tomb», explica al mateix reportatge.
El preu de semblar humà
Desfer una acusació d’aquestes no és gens senzill. El cas de la novel·lista Mia Ballard n’és un exemple. El març, l’editorial Hachette va retirar la seva novel·la de terror Shy Girldesprés que a internet s’especulés que havia fet servir IA. Ballard ho va negar rotundament. Per tornar a publicar, explica a WIRED, va haver de revisar el text i va contractar un editor que li va analitzar la prosa amb un programari d’IA —irònicament.
A sobre d’aquesta por ha crescut una indústria que s’anomena a si mateixa «mercat humanitzador». Les eines que prometen fer indetectable un text generat i que venen allò que en diuen the human touch han rebut prop de 33,9 milions de visites enguany. El sector val 500 milions de dòlars el 2026 i s’espera que arribi als 1.000 a finals del 2027. El que va sorprendre els investigadors d’Stanford, però, és que bona part d’aquests usuaris no ha fet servir mai la IA per escriure. Espatllen expressament textos propis i nets, els passen per eines com ZeroGPT o Superhumanizer i es queden més tranquils quan una màquina els certifica que podrien passar per humans.
En aquest cas ja no estem parlant de vergonya. La vergonya suposa un acte i necessita que l’hagis comès. El que mou aquests 33,9 milions de visites és més aviat la por a la condemna, que no necessita cap acte i que no distingeix entre culpables i innocents, perquè el que es castiga és assemblar-se a la IA. Contra una acusació de semblança no serveix de res no haver-la feta servir mai.
«Un camp és necessari per determinar el valor d’una idea nova»
— Mihaly Csikszentmihalyi, Creativity
Argueta cita Csikszentmihalyi pel flow, que és la part interior del problema. Ara bé, el mateix llibre en sosté una altra idea de fons que encaixa molt millor amb el que està passant. A Creativity, Csikszentmihalyi defensa un model sistèmic on la creativitat surt de la relació entre tres coses, més que no pas de la persona sola. Aquestes són l’individu, el domini (el conjunt de regles i procediments d’una disciplina) i el camp, que són totes les persones que fan de guardians del domini i decideixen si una idea nova hi pot entrar. «Un camp és necessari per determinar el valor d’una idea nova», hi escriu.
Aplicat a l’escena d’ara, el que ha entrat en crisi és el camp. Els guardians que decidien qui havia fet la feina han perdut el criteri que feien servir i n’han adoptat un de nou, que és un detector.
Les conseqüències d’això no són iguals per a tothom, però. Qui ja té nom no ha de demostrar res, perquè el nom fa de prova. Qui encara no en té, el paga amb diners (un editor que revisi, una subscripció mensual a una eina d’humanització, etc.), amb estil (guions llargs fora, vocabulari més pobre, el millor paràgraf retallat perquè llueix massa polit, etc.) i, si res d’això funciona, ho paga convertint-se en la diana d’acusacions pràcticament indemostrables. Paral·lelament, l’influencer que penja reflexions profundes sobre temes que no coneix ni li importen, generades senceres i publicades sense gens de pudor, tampoc no paga res, perquè la seva autoritat descansa en l’audiència i no ha necessitat mai cap ofici per fer-se valer. L’estudiant de Stanford que passa el seu propi treball per ZeroGPT abans d’entregar-lo i la novel·lista que contracta un editor perquè una màquina la certifiqui són subjectes del mateix segrest; el segrest d’haver de construir el dret a ser cregudes en la pràctica, amb destresa, de la seva habilitat.
Una llengua que necessita la màquina
En català, tot això de què parlem es dona d’una manera particular. El Govern ha invertit 12 milions d’euros fins aquest any a través del projecte Aina, que desenvolupa el Barcelona Supercomputing Center per garantir que el català existeixi als models de llenguatge i que no quedi fora del món digital per manca de dades. És una política lingüística defensiva i té tot el sentit. Ara bé, com millor escrigui el català la màquina, més difícil serà distingir una columna que ha escrit algú d’una que s’ha generat en deu segons.
«Cap eina pot garantir un 100% de fiabilitat»
— Detecció de documents elaborats amb IA, informe d’Agtic per a la Diputació de Barcelona
El guió llarg, l’adverbi genuinely i el tricolon, que són exactament les proves que Less Wrong va donar contra l’encíclica, com hem dit, descriuen prosa anglesa generada. Són els mateixos senyals que fem servir per reconèixer l’escriptura amb IA en català. Tot i això hi ha certes peculiaritats. L’empresa Agtic ha redactat per a la Diputació de Barcelona un informe titulat Detecció de documents elaborats amb IA, pensat per decidir si val la pena contractar algun d’aquests serveis. La conclusió és que cap de les eines analitzades ofereix garanties suficients pel que fa a la precisió, a la traçabilitat ni a l’evidència tècnica del seu funcionament.
Per comprovar-ho van fer una prova senzilla. Van agafar un text generat sencer per una IA i el van passar per cinc detectors del mercat. Isgen el va classificar com a 85% IA, QuillBot com a 82%, Justdone com a 74% i Smodin com a 57%. ZeroGPT, la mateixa eina que els estudiants fan servir per quedar-se tranquils, el va donar per 53,61% humà.
L’informe assenyala, també, que pràcticament totes aquestes plataformes ofereixen en paral·lel serveis de reescriptura pensats per esquivar la detecció del seu propi sistema, cosa que, diu el document, «posa en dubte la coherència i la fiabilitat dels serveis que ofereixen».
Finalment, l’informe dona al personal de la Diputació una llista d’indicadors pràctics per identificar un text generat. Destaca l’estil uniforme i impersonal, les respostes llargues però poc concretes, les referències inventades, les transicions artificials entre paràgrafs i la falta de context local. També, l’absència d’errors tipogràfics o gramaticals naturals, perquè els textos generats acostumen a ser impecables «de manera gairebé massa perfecta». Un informe tècnic d’una administració catalana adverteix, doncs, que escriure sense cap errada és un indici. El mateix document avisa que aquests trets també apareixen en textos redactats per persones, sobretot en contextos formals, i que s’han d’entendre com «indicadors orientatius i no com proves concloents».
De fet, un estudi de la Universitat de Stanford va trobar que els detectors classificaven com a generats amb IA la majoria dels assajos escrits per estudiants no nadius d’anglès, mentre que gairebé no s’equivocaven amb els textos dels nadius. Qui busqui «detector d’IA en català» hi trobarà una desena de pàgines que ofereixen el servei gratuït i «precís».
Denota una certa valentia reconèixer que l’equivalència entre obra i ofici no ha estat mai neutral. El camp que consagrava l’ofici decidia també qui hi pertanyia. Durant segles va decidir que gairebé ningú que no fos home, ni gairebé ningú sense temps ni diners per dedicar-se a escriure. Defensar que l’obra demostra l’ofici és defensar, de retruc, una porta que ha estat tancada durant molt de temps i que ha deixat fora molta gent que tenia habilitats perfectament desenvolupades.
No és per ser aixafaguitarres, però tot el repertori que estem construint per demostrar que hi ha algú al darrere (l’error deliberat, el guió llarg tret, el vocabulari escapçat, etc.) és prou regular perquè un model l’aprengui i l’apliqui. Dels detectors d’IA tampoc no ens en podem fiar gaire.
El que ens juguem, doncs, és determinar qui té dret a exigir-nos la prova. Continuar escrivint com escrivim, amb els guions llargs que facin falta i sense faltes posades a posta, trasllada aquesta càrrega als acusadors, que és exactament on la deixa l’informe de la Diputació quan admet que els seus indicadors no són «proves concloents». Alhora, aquests programes van atribuir a una màquina el 90% del contingut de diverses encícliques anteriors, explica Latorre, i entre elles hi ha Evangelium vitae, que Joan Pau II va signar el 1995, quan aquests models no existien!
