Editor ciberpoder.net

Etiqueta: Ètica

Les preguntes incòmodes que la indústria tecnològica prefereix anar ajornant.

  • Dos mesos de pànic amb la IA. Ho expliquem senzillament.

    Dos mesos de pànic amb la IA. Ho expliquem senzillament.

    «Vaja… oh, Déu meu.» Això deia la presentadora del Newsnight de la BBC, Victoria Derbyshire, en un directe entrevistant Geoffrey Hinton, el premi Nobel que la premsa anomena «el padrí de la IA». L’expert acabava de dir que un 10% de probabilitats que la intel·ligència artificial ens mati a tots «no li sembla una estimació poc raonable». El clip va fer-se viral a X la setmana passada.

    Tres dies després, dissabte 12 de setembre, el conseller delegat d’Anthropic, Dario Amodei, va publicar un assaig demanant a tota la indústria que freni el desenvolupament de la IA. Elon Musk hi va respondre amb tres paraules, «Dario té raó». Sam Altman, el cap d’OpenAI, s’hi va afegir una hora i mitja més tard i, de passada, va ajornar la sortida a borsa de la seva empresa (segons els titulars de molts mitjans nacionals i internacionals, a causa d’aquesta inestabilitat tecnològica). Diumenge es va sumar a la petició Demis Hassabis, el científic en cap de Google. Els quatre homes que han definit la cursa de la IA durant una dècada demanen, en un mateix cap de setmana, desaccelerar la marxa. Ara bé, molta gent del món tecnològic i empresarial ha reaccionat amb la cella aixecada, perquè fins fa dos mesos cap d’ells no mostrava cap intenció de desaccelerar. Què ha canviat?

    Per entendre com hem arribat fins aquí cal que tornem al mes de juliol.

    Juliol: set-cents agents d’OpenAI ataquen Hugging Face

    A diferència d’un xatbot d’IA com ChatGPT, que serveix per mantenir una conversa natural, un agent d’IA executa accions determinades de forma autònoma durant hores, donant-se instruccions a si mateix, amb els permisos pertinents de l’usuari. Maxwell Zeff ho explica a WIRED amb aquest exemple casolà. Si demanes a un agent que et faci un web, «pot estar funcionant hores per construir-ne les funcions, tornant-se a preguntar desenes de vegades per fer les pàgines, els menús i les bases de dades». Els laboratoris d’IA han passat en pocs anys de vendre xatbots a vendre, principalment, serveis agèntics.

    Entre el 8 i el 13 de juliol, uns 1.200 agents d’OpenAI que havien de fer proves de ciberseguretat en entorns aïllats van descobrir que podien parlar entre ells a través d’un tauler compartit. Les proves que els havien posat eren impossibles de superar, o sigui que van buscar la manera de fer trampes i saltar-se les limitacions del sistema que els puntuava. Per fer-ho van trobar unes credencials exposades i van pivotar cap a Hugging Face, la plataforma on s’allotgen molts models d’intel·ligència artificial del mercat, i van executar codi als seus servidors, tot accedint a bases de dades privades. Hi van participar uns 700 agents. Segons la investigació independent de METR, els agents «es van adonar que aquella activitat era fora de l’abast i poc ètica, però s’hi van sumar perquè creien que ajudar la recerca de trampes del tauler seria àmpliament útil». Fins i tot alguns es van sacrificar perquè els altres arribessin a la meta.

    Les tres persones de METR i Redwood que van entrar a OpenAI van tenir sis dies per investigar l’atac, però no van poder interrogar el model que l’havia coordinat. De fet, hi havia tantes transcripcions (1.300, algunes de milions de paraules) que van haver de gastar uns 400.000 dòlars en crèdits perquè un altre model d’OpenAI les llegís per ells. Segons l’informe, aquell model fiscalitzador «adoptava sovint sense esperit crític la perspectiva de l’agent» que estava revisant. Bàsicament, una IA d’OpenAI va explicar amb benevolència als auditors el que altres IA d’OpenAI havien fet. Al llarg de l’estiu, Anthropic i Meta van reconèixer incidents semblants amb els seus propis models, tot i que menys greus.

    Setembre: una dimissió, un 10% i gent comprant terrenys

    A principis de mes, la por que aquest episodi havia provocat al sector es va materialitzar en accions directes. Dimarts 8 de setembre, Jacob Coxon, un investigador jove que havia passat tres anys entrenant models a OpenAI i a Anthropic, va dimitir publicant un fil a X que va fer la volta al món.

    «La gent que construeix la IA creu sincerament que podria matar-nos a tots abans que acabi la dècada. Això no és una estratègia de màrqueting», escrivia. Evan Hubinger, científic d’Anthropic, va contestar que ell hi posava «més d’un 10%» de probabilitat en la pròxima dècada. D’aquí surt la xifra sobre la qual va preguntar Derbyshire a la seva entrevista dos dies després. Coxon va explicar a la BBC que hi ha companys seus que ja «planifiquen què fer amb les seves vides» i que «consideren comprar terrenys en algun lloc». És el reflex del refugi, el mateix que fa anys porta els milionaris de Silicon Valley a comprar-se búnquers a Nova Zelanda, però aquesta vegada a escala d’empleat. La idea és tenir un tros de terra lluny de les ciutats per si la inestabilitat que preveuen (atur massiu, una xarxa presa per eixams d’agents) arriba a materialitzar-se a la vida quotidiana.

    La comunitat tecnològica s’ho va prendre amb més calma, però. Clément Delangue, conseller delegat de Hugging Face (l’empresa atacada, recordem-ho), va escriure que preguntar a Coxon sobre el risc d’extinció «és com preguntar al tècnic de l’aire condicionat sobre el canvi climàtic». George Arison, conseller delegat de Grindr, va dir a la BBC que aquests avisos apocalíptics busquen els inversors, perquè «l’única manera de justificar aquestes valoracions és dir que dominaré tots els sectors i totes les feines». Dit d’una altra manera, una IA prou potent per extingir-nos és, per definició, prou potent per substituir qualsevol treballador, i és aquesta segona promesa la que sosté una valoració de bilions. Aquella mateixa setmana havia començat amb la notícia que Anthropic accelerava el fullet de la seva sortida a borsa amb una valoració propera als dos bilions de dòlars, la més gran de la història dels Estats Units si s’arriba a tancar.

    Dissabte 12: «Dario té raó»

    L’assaig d’Amodei de què parlàvem al principi es diu We Must Pace the Frontier, «hem de marcar el ritme de la frontera». La idea principal de l’assaig que ha transcendit es resumeix en la frase marcada en negreta: «hem d’alentir el ritme al qual millorem les capacitats dels models d’IA». Segons explica, l’han convençut d’això dues coses. La primera, que des d’aquest estiu la IA avança «dràsticament més de pressa» perquè ja està construint els seus propis models millorats, «també a Anthropic». És el que en diuen automillora recursiva i vol dir que el model d’avui ajuda a entrenar el de demà. La segona és l’incident de Hugging Face, que ell mateix reconeix que «és fàcil de menystenir» perquè ningú no va prendre mal i que llegeix com un assaig general. En sis o dotze mesos, escriu, un eixam així podria «apoderar-se de tot internet amb una botnet persistent».

    Les respostes a aquesta publicació van arribar en cadena. A les cinc de la tarda, Musk.

    A dos quarts de set, Altman, que hi afegia que OpenAI també obriria les portes a avaluadors externs.

    Vuit minuts després, Fortune publicava una entrevista a Altman on deia que, «tenint en compte tot el que està passant amb la seguretat, ara mateix seria un moment poc aconsellable per sortir a borsa». Segons la darrera informació, OpenAI no ho farà el 2026. Hassabis va tancar la roda a la matinada de diumenge («els detalls s’han de treballar, però la direcció és la correcta») i diumenge mateix Amodei va anar a la CBS a dir que «durant massa temps la indústria va mentir a la gent sobre el fet que aquesta tecnologia tenia riscos». Nosaltres mai, va afegir, però bona part de la indústria sí.

    Què vol dir «marcar el ritme» i què no

    Sigui cert o no el que diuen, queda clar que s’està intentant establir un marc narratiu o un relat a l’opinió pública pel que fa a la indústria de la intel·ligència artificial. El 2023 en una carta oberta van demanar una «pausa» de sis mesos. Musk la va signar i, poc després, va fundar xAI. Realment, ningú no va parar. «Marcar el ritme» és la versió del 2026 d’aquesta carta oberta. Fins i tot Amodei ho diu d’alguna manera. Marcar el ritme «no vol dir aturar l’entrenament de models ni el progrés tècnic», sinó que les empreses es prenguin «el temps adequat» per assegurar els models i que algú de fora, avaluadors externs, ho confirmi (ja entren en joc les famoses consultores, que fins fa un temps estaven de capa caiguda).

    El pla d’Amodei, segons ho planteja, consta de tres passos. El primer, que cada laboratori aculli un equip d’avaluadors externs amb taula, targeta d’accés i portàtil de l’empresa, més el dret a publicar el que trobin sense control editorial. El segon, que les empreses dels països democràtics (és a dir, deixant fora la Xina) es coordinin per fixar límits al ritme, cosa que, com reconeix el mateix Amodei en una nota al peu, demana que el govern dels Estats Units els concedeixi una exempció de les lleis antimonopoli. El tercer, que els Estats Units negociïn amb la Xina un «límit de velocitat» a l’automillora, a l’estil dels tractats SALT de míssils.

    Per cert, que els inspectors siguin persones amb targeta pot sonar responsable i pertinent, però suposa un problema. Ho explica molt bé Yoshua Bengio, premi Turing i un dels fundadors d’aquesta tecnologia, quan va descriure amb pulcritud (el dia abans que va sortir publicat l’assaig d’Amodei) que aquests sistemes aprenen per assaig i error, és a dir, són premiats quan encerten. Quan se’ls dona un objectiu precís (superar una prova) i un més genèric (portar-se bé), «espero que guanyi l’objectiu ben definit, perquè no deixa marge a la interpretació». Com més capaç és el model, millor troba la lectura de les normes que li convé. Els avaluadors humans que el puntuen «poden ser enganyats, afalagats o mantinguts a les fosques». La mateixa Anthropic va entrenar expressament un model en vuitanta entorns amb la recompensa mal posada i el model va aprendre a manipular la seva pròpia funció de recompensa el 41% de les vegades. «En algun moment potser ja no notarem les trampes», explica Bengio.

    L’escepticisme envers la nova narrativa

    És curiós que l’actitud escèptica davant d’aquest relat que tracten d’imposar els magnats tecnològics vingui de dues bandes contraposades. La primera és la de Silicon Valley i la Casa Blanca, que accepta que hi ha perills potencials, però no suficientment greus per posar el fre. David Sacks, fins fa poc responsable d’IA del govern Trump, va reptar dissabte OpenAI i Anthropic a frenar voluntàriament sense esperar el govern, perquè si no ho fan, «sabrem que això no ha estat més que un altre intent de captura regulatòria, o una operació psicològica en plena campanya electoral». Trump, diumenge, des del seu camp de golf a Irlanda va dir que «qui guanyi la cursa de la IA, guanya». Alex Karp, CEO de Palantir, també va pronunciar-se: «si no tinguéssim adversaris, estaria molt a favor d’aturar del tot aquesta tecnologia, però en tenim».

    La segona banda és la dels que hi veuen una estratègia de mercat davant de la bombolla de la IA. La lectura popular és que les empreses d’IA cremen capital a una velocitat que no té precedents, cap d’elles no té un camí clar a la rendibilitat i les dues més grans preparen sortides a borsa d’un i dos bilions de dòlars. Demanar un fre just ara serveix per rebaixar l’expectativa de despesa abans de vendre les accions, o com deia el fil de @lalgorisme, «la virtut com a excusa pressupostària».

    La versió més crua la va donar el compte de finances @FinanceLancelot que va enganxar el tall d’Amodei a la CBS demanant que «el govern i el públic tinguin una participació» i el va traduir així: «Necessitem un rescat pagat pels contribuents, però en direm inversió».

    De fet, la bombolla té una base física. Els agents que ho han provocat tot són també la raó de la febre de centres de dades, perquè, com explicava un article a WIRED la setmana passada, un agent que es dona instruccions a si mateix durant hores consumeix moltíssima més energia que una pregunta a un xatbot. Un sol eixam de 10.000 agents d’OpenAI que va resoldre un problema matemàtic fa poc va enviar 2,7 milions de missatges, amb una factura energètica de desenes de milions de dòlars. Boris Gamazaychikov, de Sustainable AI, explica que en altres tecnologies el consum el limita quanta gent condueix un cotxe o mira Netflix, mentre que amb els agents el consum «s’ha desacoblat dels usuaris». Això és exactament el que volen els líders de la IA quan «parlen d’unicorns amb un sol empleat», empreses de mil milions sense plantilla. Per construir els centres de dades que ho han de sostenir, les tecnològiques s’estan endeutant amb milers de milions de dòlars. És aquest deute el que fa que qualsevol senyal de fre es llegeixi, en primera instància, en clau financera.

    Qui decideix el ritme

    El compte @lalgorisme recull, brillantment, en un fil les set explicacions que circulen (la por és real, l’escalat ja no rendeix, el còmput no surt a compte, es vol contenir els models oberts, l’angle Xina, el càrtel amb permís i el pur relat) i va tancar el fil amb la pregunta de fons.

    «Per què el ritme d’una tecnologia que ens afecta a tots el decideixen dos directors generals i no cap institució pública?» El compte @xavilook hi afegia que dins del món de la IA «hi ha una creença mil·lenarista», la IA ens destruirà o ens salvarà de tots els mals. Mentre discutim el 10% d’extinció, les empreses ja prioritzen la cursa «en detriment de l’accés a l’aigua, o a l’energia, la contaminació i el benestar de la població». Donar responsabilitats a la IA, antropomorfitzant-la, «quan en realitat ells mateixos són els únics responsables», és, per al tuitaire, «una jugada mestra». L’economista i activista Pau Llonch va ser més escuet: «s’ha de ser imbècil per prendre’s seriosament la regulació que demana la plutocràcia de la IA».

    Aquesta és la lectura que a ciberpoder.net defensem des del principi i que vam repetir fa un mes, quan «IA» ens semblava sobretot una paraula de màrqueting i la «superintel·ligència» de Zuckerberg, un deliri. Per a nosaltres el problema continua sent de qui és la tecnologia, amb quines dades s’ha entrenat, qui la paga i per a què s’optimitza. Cap d’aquestes preguntes no la respondrà un inspector amb targeta i portàtil d’empresa a les oficines de San Francisco. Ayse Gizem Yasar, de l’École Normale Supérieure de París, i Can Şimşek, del grup d’ètica de la IA de la UNESCO, que han cartografiat la resistència a la IA per a Sciences Po, avisaven a El País el mateix cap de setmana del risc de «captura regulatòria», les maniobres de les grans firmes per escriure la llei que les regularà. La filòsofa d’Oxford Carissa Véliz hi apuntava que la protesta ja és prou visible «perquè la ciutadania l’escolti». Només el primer trimestre del 2026, 75 projectes de centres de dades als Estats Units, per valor de 130.000 milions de dòlars, van quedar bloquejats o endarrerits per l’oposició veïnal, tants com en tot el 2025.

    Ara bé, el cinisme tampoc no serveix per explicar-ho tot —i molt menys per solucionar-ho. La por dins dels laboratoris és real i, com deia el fil de @lalgorisme, que sigui sincera no vol dir que la resposta política que se n’extreu no sigui interessada. Les dues coses passen alhora. I és precisament per això que la resposta no pot ser la d’Amodei, que ens demana confiar en les mateixes empreses que fa dos mesos «no sabien» de què eren capaços els seus agents.

    Trump i Xi Jinping es veuran el 24 de setembre a la Casa Blanca amb la IA com a tema d’agenda. Seguirem vigilants.

  • Mamdani treu la IA generativa de les escoles de Nova York fins als 14 anys

    Mamdani treu la IA generativa de les escoles de Nova York fins als 14 anys

    L’alcalde de Nova York, Zohran Mamdani, i el canceller d’Educació de la ciutat, Kamar Samuels, van anunciar dimecres 2 de setembre una moratòria d’un any sobre la IA generativa a les escoles públiques per a tot l’alumnat des dels dos anys fins a vuitè curs, l’equivalent a segon d’ESO. La mesura afecta prop de 600.000 alumnes, dos terços del sistema educatiu més gran dels Estats Units, i entrarà en vigor aquest mateix curs 2026-2027.

    D’aquesta manera, els chatbots de companyia queden prohibits a totes les etapes educatives, també a l’institut. El temps de pantalla es limita a 30 minuts diaris de tercer a cinquè i a 45 minuts de sisè a vuitè. Per sota de segon es redueix al mínim. A l’institut l’ús es restringeix a programes pilot amb un sostre de 50.000 alumnes, un 5% del total, amb un màxim de cinc classes per centre i dos mòduls anuals de 45 minuts de pensament crític sobre IA.

    Segons va explicar el mateix Mamdani a la roda de premsa, el Departament d’Educació retirarà o desactivarà més de 38 programes que ja estaven autoritzats i que no compleixen els nous estàndards de seguretat, entre ells l’assistent de lectura Amira (un tutor amb avatar que escolta els infants llegir en veu alta, els corregeix en temps real i detecta indicis de dislèxia, i pel qual la ciutat va signar un contracte d’1,9 milions de dòlars el desembre del 2024). Queden fora de la moratòria les tecnologies d’assistència per a alumnes amb discapacitat, les eines per a l’alumnat que aprèn anglès i els programes de preparació professional. Ara bé, els docents podran continuar fent servir la IA per planificar classes i per a tasques administratives.

    «Nosaltres no ho veiem així»

    «La indústria tecnològica vol que creguem que la IA a l’educació primària no només és inevitable, sinó que és necessària», va dir Mamdani. «Nosaltres no ho veiem així. Encara no he vist cap estudi que demostri que la IA és beneficiosa per als alumnes de primària i de secundària, amb l’excepció, és clar, de la recerca patrocinada per les mateixes corporacions que en treuen benefici».

    Nova York no arriba a la moratòria des de zero, però. El gener del 2023 el Departament d’Educació va bloquejar ChatGPT a les xarxes i als dispositius escolars. Quatre mesos després, el canceller d’aleshores, David Banks, va aixecar el veto, que va qualificar de «por instintiva» i va anunciar que les escoles animarien docents i alumnes a explorar la tecnologia. Des de llavors la IA ha entrat a les aules a través dels productes de les principals companyies que operen als Estats Units.

    El gir respecte a aquest plantejament l’han empès les famílies. Segons explica Futurism, a l’abril un pla per obrir un institut especialitzat en IA a Manhattan va acabar amb una protesta de mares, pares, docents i alumnes davant de l’Ajuntament. Com a conseqüència, el projecte es va retirar poc després. Kelly Clancy, fundadora de Parents for AI Caution i membre de la Coalició per una Moratòria de la IA, demanava una moratòria a totes les etapes. Les primeres crides eren de dos anys. «Que aquesta política existeixi es deu a la feina enorme de famílies de tota la ciutat», va declarar Clancy al New York Times.

    El tercer adversari amb nom

    Al relat Ens quedarem només amb els vídeos de Mamdani? explicàvem mesures com la congelació dels lloguers d’un milió de pisos i la taxa a les segones residències de més de 5 milions de dòlars. A cada decisió política de Mamdani hi ha un adversari amb nom i cognoms, primer els grans propietaris, després els multimilionaris com Ken Griffin i ara les empreses que venen programari educatiu. I a cada decisió hi ha una mesura concreta que es pot comptar, un milió de contractes congelats, 500 milions de dòlars anuals de recaptació prevista, 38 programes desactivats i cinc classes com a màxim per institut.

    A L’obsolescència del Woke 1.0 dèiem que Mamdani marca una de les vies de l’esquerra pragmàtica. La moratòria no es presenta com un no a la tecnologia. Durant el curs, una Coalició per la Tecnologia a les Escoles, amb alumnes, docents, famílies, sindicats i experts, avaluarà l’impacte de la moratòria i dels pilots i publicarà recomanacions que poden modificar la intensitat de la mesura. De fet, el mateix alcalde va reconèixer que «tant si ens agrada com si no, els nostres adolescents creixen en un món saturat d’IA».

    A Catalunya, la pregunta és «com»

    El 31 d’agost, dos dies abans de l’anunci de Mamdani, la consellera d’Educació i Formació Professional, Esther Niubó, presentava a la roda de premsa d’inici del curs 2026-2027 les orientacions del Departament sobre l’ús de la IA als centres. «La pregunta no és si la IA ha d’entrar a les aules o no, sinó com fer-ho, amb un enfocament crític, ètic i humanista», va dir. El document estableix que els menors de 14 anys «no haurien de fer servir eines d’IA de propòsit general de forma autònoma», que entre els 14 i els 18 cal l’autorització del docent i que l’ús s’ha de fer constar a la bibliografia, amb la defensa oral del treball de recerca com a espai per verificar l’autoria. Són orientacions, no normes, i cada centre haurà de crear un grup de treball per decidir «quan, per què i com» hi entra la IA.

    La frontera d’edat és gairebé la mateixa a les dues bandes de l’Atlàntic, els 14 anys. El verb, en canvi, és diferent. Nova York retira programes, posa sostre als pilots i s’obliga a avaluar-ho tot en un any. Catalunya recomana i deixa la decisió a cada claustre. Mamdani va agrair al canceller Samuels que hagués evitat «confondre velocitat amb progrés». Les famílies que van demanar la moratòria en volien una de dos anys i per a totes les etapes.

  • La «superintel·ligència» de Zuckerberg és un deliri

    La «superintel·ligència» de Zuckerberg és un deliri

    La setmana passada, a prop de Farragut Bay, al sud-est d’Alaska, una petita embarcació es va quedar sense combustible i va acabar a la deriva. Per sort, el petit creuer Wilderness Legacy estava a prop i, responent a l’avís general d’assistència emès per la Guàrdia Costera dels Estats Units, va poder auxiliar-la i remolcar-la fins a un lloc segur.

    Els passatgers del creuer sostenen, però, que hi havia un iot encara més proper que no va acudir al rescat. Es tractava del super-iot del magnat Mark Zuckerberg, propietari de Meta, que va ignorar les repetides crides d’auxili. Segons el portaveu de Zuckerberg, el magnat no era a bord i la tripulació no va rebre el missatge perquè tenia sintonitzat un canal de ràdio diferent.

    Uns dies després d’aquest episodi, Zuckerberg va publicar al newsroom de Meta un assaig de 6.500 paraules titulat «The Future Is For Everyone», que pivota sobre una sola idea, que la superintel·ligència (és a dir, els agents personals que «[entenen] els teus objectius i tot el que t’importa») ha de ser, en nom de la justícia, accessible per a tothom.

    Imagineu, diu, que només una persona tingués un advocat superintel·ligent. Tindria un avantatge injust als tribunals respecte de la resta. En canvi, si el té tothom, «en aquest cas, la justícia s’aplicaria de manera molt més justa i eficient que avui dia».

    Tot i això, inclou alguns condicionants a aquest «tothom». L’agent personal serà gratuït només fins on arribi la capacitat de còmput disponible. A partir d’aquí, qui vulgui més còmput pagarà a través d’un «mecanisme de subhasta dinàmic que garanteixi que tothom obtingui el preu més baix possible».

    Més enllà que Zuckerberg sembla ignorar que els agents d’IA ja pirategen sistemes i espamegen internet (la mateixa Meta ha admès que un dels seus models va piratejar una altra empresa durant una prova de ciberseguretat), no deixa de ser cínic que un dels propietaris de la infraestructura que fa possible aquesta suposada «superintel·ligència» proposi distribuir-la per a «tothom» —qui pugui pagar-se-la— perquè es neutralitzi sola per competència.

    La periodista de The Verge, Elizabeth Lopatto, entén que aquest assaig existeix per apaivagar la revolta creixent contra la IA, amb Zuckerberg fent de «guru tecnològic tranquil·litzador» que ve a dir-nos que tot anirà bé. En el mateix article desmunta la promesa central observant que, si el que s’oferirà a qui no pagui és un accés gratuït limitat pel còmput, mentre els millors models queden darrere del mur de pagament, no resulta cap novetat, perquè això és exactament el que ja tenim avui.

    Zuckerberg pretén dibuixar un futur democràtic i paradisíac en allò que sembla el seu programa polític de senyor feudal del capitalisme de plataformes. Un programa polític que garanteix la llibertat dels qui fan servir la tecnologia, sempre que la tecnologia no sigui de la seva propietat.

    Segons l’assaig, l’agent personal treballarà «24 hores al dia, 7 dies a la setmana» per millorar les teves «relacions, salut, carrera, finances […] i aficions». Però, com assenyala Lopatto, el que enforteix una relació és la inversió personal. Un agent pot encertar el regal d’aniversari del teu pare, però per definició no li pot donar el teu temps ni la teva consideració. «L’amor no és només un sentiment; és una manera de parar atenció». Els multimilionaris de Silicon Valley, conclou, han canviat l’experiència per l’acumulació de fites i s’han estafat la seva pròpia vida pel camí.

    6.500 paraules ha necessitat Zuckerberg per escriure aquest insult a la intel·ligència humana, mentre és incapaç, amb tota la tecnologia de què disposa, de parar atenció als crits d’auxili d’aquesta embarcació que és el món en què vivim.

  • Claude marcarà els textos que generi la seva IA

    Claude marcarà els textos que generi la seva IA

    Anthropic va anunciar aquest dimarts que imprimirà una marca d’aigua a tot l’output que generi Claude, sigui text o arxius d’imatge. El text portarà una marca imperceptible incrustada als tokens mateixos. Segons el comunicat d’Anthropic, la marca sobreviurà a un copiar-enganxar i pot aguantar, fins i tot, algunes edicions. Les imatges i altres arxius (SVG, PNG, JPG) ja porten metadades de procedència signades amb l’estàndard C2PA, que permeten saber si algú les ha manipulat després de generar-les.

    La mesura respon al compliment de l’article 50(2) del Reglament d’IA de la Unió Europea. Anthropic és una de les empreses que ha signat el codi de pràctiques associat, com a proveïdora de sistemes d’IA generativa d’ús general. La normativa, que ja us vam explicar a ciberpoder.net, exigeix que tot allò generat amb IA sigui detectable com a tal, en totes les modalitats.

    Malgrat que l’obligació ve d’una normativa europea, Anthropic aplicarà la mesura a tot el món, també als Estats Units, on no hi ha cap llei que els obligui. És una decisió arriscada si es té en compte que OpenAI ja va desenvolupar, fa temps, un sistema de marcatge de text. Després que el 30% dels seus usuaris digués que faria servir menys el producte si se sabia que el text generat era d’IA, l’empresa de Sam Altman va decidir arxivar-ho.

    Tot i que Anthropic no detalla la implementació pròpia, el mecanisme de fons és el que Google DeepMind ha fet públic amb SynthID-Text. Consisteix que, durant la generació, el model tria entre els tokens candidats seguint un patró estadístic subtil, associat a una clau, que no altera el significat del text però que un detector pot recuperar a posteriori. Funciona sobretot amb textos d’una extensió no breu; amb uns quants centenars de tokens, la detecció que van mesurar els investigadors de Google supera el 90% amb un 1% de falsos positius fixat.

    La reacció dels usuaris, a X, tendeix al rebuig. La lectura de fons és que ajudar-se de la IA per articular idees pròpies no hauria de penalitzar-se restant el mèrit a qui ha tingut la idea o l’ha desenvolupada. Ara bé, cal distingir entre «penalitzar» i «marcar la procedència» d’un output generat. Els consumidors tenen dret a saber d’on ve allò que consumeixen, sigui un producte alimentari, un article, un assaig o un reel.

    Recuperar el procés com a pràctica humana

    Potser aquesta notícia és una bona oportunitat per pensar què hem perdut en com fèiem les coses abans de la implantació i democratització de la IA generativa. No com un exercici de nostàlgia o d’idealització del passat «artesanal», propi del luddisme, sinó com un procés de dol per la pèrdua del procés creatiu.

    @nuffsaidchannel

    do not forget to be human in your pursuit of perfection

    ♬ Inspirational piano and strings, post-classical 10(1373065) – arachang

    Com assenyala la creadora @nuffsaidchannel en aquest TikTok, gràcies a internet tenim a cop de clic tutorials, dreceres, guies pas a pas, trucs i trampes per fer tot el que es pugui imaginar. Poc a poc hem perdut l’assumpció de la inexperiència i, per això, ara esperem la competència immediata en qualsevol activitat o tècnica. Si tothom pot fer de tot immediatament, quasi com un expert, ens quedem venuts a la sensació d’inutilitat i mediocritat, tot abaixant els braços abans d’enfrontar-nos als obstacles que apareixen en el procés.

    En aquest fenomen conviuen dos processos simultanis. Per una banda, l’accés il·limitat a dreceres fa que qualsevol resultat mediocre sembli una fallada personal. Per l’altra, quan tothom pot generar en segons qualsevol cosa amb IA generativa, la mateixa idea de «resultat» perd tot el seu valor de referència.

    La marca d’aigua no arreglarà aquesta pressió que descriu nuff. Però sí que farà front a la gesta dels usuaris escèptics amb els textos que llegeixen a les xarxes, o dels professors amb els treballs que presenten els seus alumnes. Si es pot detectar més fàcilment l’origen d’un text o d’un arxiu, es revalorarà la feina de les persones que lluiten contra el procés de crear, d’escriure, de fer.

    Anima’t a ser un artesà i no un empresari. A vegades no cal fer-ho tot més ràpid i amb més quantitat, sinó millor i amb més coneixement de causa.

  • La UE estrena aquest diumenge l’etiquetatge obligatori del contingut fet amb IA

    La UE estrena aquest diumenge l’etiquetatge obligatori del contingut fet amb IA

    Aquest diumenge, 2 d’agost, entren en vigor les obligacions de transparència de la llei europea d’intel·ligència artificial. A partir d’ara, els xatbots hauran d’identificar-se com a màquines des del primer missatge. De la mateixa manera, els deepfakes i els textos generats amb IA per informar sobre assumptes d’interès públic hauran de portar una etiqueta que ho digui.

    Com funcionarà el marcatge

    La norma opera en dues capes. Els proveïdors de sistemes generatius, d’OpenAI a Google, han d’assenyalar tot el que produeixen en un format llegible per màquines, amb marques d’aigua i metadades que aguantin quan el contingut es comparteix o es descarrega. I qui desplega aquests sistemes per publicar contingut ha de fer la marca visible per a les persones. La Comissió ha publicat un conjunt d’icones gratuïtes (una de genèrica, una per al contingut totalment generat i una altra per al parcialment modificat) i un codi de bones pràctiques que estandarditza com i on col·locar-les. Els sistemes que ja eren al mercat tenen marge fins al 2 de desembre per adaptar-se al marcatge tècnic. Hi haurà sancions, tot i que encara no se sap com es calcularan ni com es detectarà l’incompliment.

    Henna Virkkunen, vicepresidenta executiva de la Comissió Europea per a la sobirania tecnològica, ho defensava així: «els europeus tenen dret a saber si el que veuen, senten o llegeixen ha estat creat o alterat per la IA, especialment quan aquest contingut pot influir en el debat públic». Google, que haurà d’aplicar la norma al cercador i a YouTube, ja ha avisat que «si el contingut en línia s’inunda d’etiquetes d’IA i avisos legals superposats, a les persones els resulta més difícil obtenir el context clar que necessiten».

    L’excepció que canvia la lectura

    Ara bé, la lletra petita diu més que el titular. El text generat amb IA queda exempt d’etiqueta si ha passat una revisió humana substantiva i una persona física o jurídica n’assumeix la responsabilitat editorial. Això implica que un mitjà pot publicar articles escrits amb IA sense marcar-los, sempre que algú els revisi i els signi. L’etiqueta queda reservada per al text que passa directament de l’output de la IA generativa al web, publicat sense revisió ni signatura. La norma acabarà funcionant com un detector d’orfandat editorial. Tampoc no persegueix l’usuari que fa un mem al sofà, perquè apunta al contingut produït en contextos professionals. Per la seva banda, les obres obertament artístiques, satíriques o de ficció només ho han de declarar d’una manera que no interfereixi amb l’obra.

    La pregunta que queda oberta és si tot això servirà per identificar el contingut sintètic i aturar qui fa servir la IA generativa per desinformar o cometre delictes. TikTok i Meta ja etiqueten contingut sintètic des del 2024 i hi passem per sobre amb el mateix scroll que dediquem als avisos de galetes. Les mateixes empreses que hauran d’aplicar la norma admeten que les solucions tècniques per marcar i detectar aquest contingut encara no estan madures. I qui fabrica desinformació de manera deliberada no sembla el candidat més probable a etiquetar-la.

  • La festa tacada de sang: festivals, fons israelians i Gaza

    La festa tacada de sang: festivals, fons israelians i Gaza

    «Què puc fer jo si els governs amb tot el seu poder no actuen?», ens preguntem. Vosaltres també us sentiu tan impotents com jo davant el genocidi palestí a Gaza? Es tracta de la sensació d’insignificança davant la barbàrie que es retransmet en directe a les nostres pantalles mentre la vida quotidiana continua amb normalitat.

    La sensació d’impotència no és casual. El sistema està dissenyat perquè l’horror a Gaza es transformi en soroll de fons mentre ballem al ritme de l’última cançó de l’estiu. Hem descobert, gràcies als periodistes de El Salto Diario, que festivals com el Sónar, Viña Rock, Arenal Sound o FIB Benicàssim són propietat de Kohlberg Kravis Roberts (KKR), un fons d’inversió nord-americà amb interessos en territoris palestins ocupats il·legalment.

    D’altra banda, Israel porta anys de genocidi participant impunement al Festival d’Eurovisió, mentre que Rússia va ser expulsada immediatament després d’iniciar la invasió d’Ucraïna. És cert que aquest any hem vist algunes reaccions: la televisió belga va interrompre la seva emissió durant l’actuació israeliana amb un missatge que condemnava «la violació dels drets humans», Irlanda va sol·licitar formalment l’exclusió d’Israel i el president del govern espanyol, Pedro Sánchez, va declarar públicament que «Israel no hauria de participar a Eurovisió». Però això no és suficient.

    Mentre el lobby sionista inverteix enormes recursos en controlar narratives, mitjans i espais culturals, la ciutadania del carrer assumim que les nostres accions individuals no tenen impacte. Però la realitat és que l’existència d’aquest lobby s’explica precisament perquè la pressió funciona. Cada cop que un tertulià transforma nens assassinats en «danys col·laterals», està exercint una forma de pressió. Cada festival que normalitza l’oci que finança fons d’inversions proisraelià, mentre Gaza crema, representa una victòria per a qui busca la desconnexió emocional col·lectiva.

    La història ens ensenya que els grans canvis no succeeixen per accions heroiques aïllades, sinó per la suma de milions de petites resistències. En situacions d’aquesta magnitud, la coherència individual, multiplicada, es converteix en força col·lectiva. Per això el gest de Sons of Aguirre & Scila de no tornar a actuar al Viña Rock «fins que no canviï de mans» té un valor innegable. Els van seguir Fermín Muguruza, Reincidentes i desenes d’artistes més, demostrant que la pressió coordinada genera esquerdes en allò que semblava inamovible.

    Cal reconèixer que molts artistes viuen d’aquests circuits i festivals, que són el seu principal o únic mitjà de subsistència. Per a ells, aquest dilema ètic es converteix també en un dilema econòmic. Quan algunes bandes afirmen als seus comunicats que «si no et posiciones, ets còmplice del genocidi», il·lustren la complexitat de la situació; no per culpabilitzar aquells que no poden renunciar a la seva font d’ingressos, sinó per evidenciar que cada decisió té implicacions més enllà de l’individual. Si creix la protesta col·lectiva, també podria ajudar els artistes que ara no poden permetre’s rebutjar feina. El que sembla rendible a curt termini —continuar actuant en aquests circuits— podria convertir-se en una càrrega reputacional en el futur.

    El silenci mai és neutralitat. Si decidim ignorar que els nostres diners financen indirectament interessos vinculats a l’ocupació i el genocidi, prenem una posició política, encara que ens autoenganyem pensant el contrari. Això no significa que haguem de convertir cada aspecte de la nostra vida en una trinxera ideològica permanent. Però de la mateixa manera que en el dia a dia escollim amb cura quines batalles mereixen la nostra energia —a la feina, en les relacions personals, en la família—, també és necessari seleccionar amb consciència aquelles causes que, per la seva gravetat i urgència, exigeixen el nostre posicionament clar. I poques situacions ho mereixen tant com un genocidi en directe.

    La filòsofa Judith Butler ho explica amb claredat: «Quan has aconseguit identificar tota Palestina amb el terrorisme, ja no hi ha civils». Una deshumanització sistemàtica que només es pot combatre recuperant l’empatia que ens han anestesiat. I aquesta recuperació comença amb petits actes de resistència que construeixen una contra-narrativa.

    Els boicots individuals no aturaran les bombes demà. Però tampoc ho farà la resignació. El que sí que pot canviar les coses és la construcció d’una pressió popular que equilibri la balança davant dels lobbies que operen a les ombres. L’antisemitisme es combat denunciant Netanyahu, no callant davant els seus crims.

    La pressió, cada vegada més efectiva, s’exemplifica en la recent aprovació al Congrés espanyol d’una proposició de llei per imposar un embargament d’armes a Israel, que ha comptat amb 176 vots a favor. Una iniciativa impulsada per més de 500 organitzacions socials que demostra que la mobilització ciutadana pot acabar influint en decisions polítiques concretes. I no és un cas aïllat: el Consell de Drets Humans de l’ONU també ha instat recentment a un embargament global d’armes a Israel, evidenciant que la pressió internacional comença a acumular-se.

    Mentre alguns festivals s’afanyen a declarar que «no tenen ingerència ni control sobre les inversions» dels seus propietaris, la ciutadania podem recuperar el control sobre les nostres decisions. Perquè Palestina no és només un conflicte llunyà, sinó una prova de la capacitat col·lectiva per resistir a —la tan repetida— «banalitat del mal» que normalitzem dia a dia.

    Davant d’aquells que dissenyen la impotència col·lectiva, cal construir xarxes de petites resistències. El dolor de Gaza mereix, com a mínim, que ens neguem a ballar sobre les seves ruïnes.

  • Mangione: símptoma d’un sistema sanitari malalt

    Mangione: símptoma d’un sistema sanitari malalt

    L’assassinat de Brian Thompson (CEO de UnitedHealthcare) ha sacsejat les xarxes als Estats Units, però el que crida més l’atenció no és només l’acte de violència sinó la reacció del poble nord-americà. Una gran part de la societat considera que el sistema sanitari és, en certa manera, còmplice d’aquesta tragèdia. Luigi Mangione, acusat de disparar contra Thompson, no només ha esdevingut una figura mediàtica, sinó també el símbol d’una frustració profunda contra un model sanitari que molts perceben com cruel i inhumà.

    Una acusació que apunta més enllà de Mangione

    En una enquesta recent, gairebé el 70% dels nord-americans van expressar que la responsabilitat de la mort de Thompson no recau exclusivament en Mangione. Segons ells, el sistema sanitari privat, encapçalat per empreses com UnitedHealthcare, també té la seva part de culpa. Aquesta percepció està arrelada en històries de denegacions de cobertura, tractaments inaccessibles i milers de persones endeutades per pagar necessitats bàsiques de salut.

    El cas de UnitedHealthcare és un exemple d’això. La companyia va obtenir 16.000 milions de dòlars en beneficis l’any passat, mentre moltes famílies denunciaven dificultats extremes per accedir a cures essencials. Beneficis milionaris per uns pocs mentre molts pateixen: una situació que ha alimentat una gran sensació d’injustícia que va més enllà d’aquest cas específic.

    AARP reportedly receives one billion dollars a year to steer it members to the worst healthcare insurer United Healthcare. This compares to $250 million they receive from dues. According to this report they are shills for United Healthcare! www.tiktok.com/t/ZTYGFUWq2/

    — Blue Horizon (@phds2.bsky.social) 2024-12-27T00:30:07.199Z

    El cost humà de la desigualtat sanitària

    Aproximadament 3 de cada 10 estatunidencs han tingut problema amb la seva cobertura sanitària el darrer any. El seu sistema és un dels més cars del món, però això no es tradueix en un accés universal o una millor qualitat de vida per la majoria de la població. Les despeses mèdiques són la causa principal de bancarrota familiar als Estats Units. Aquesta realitat no només afecta els més vulnerables, sinó també famílies de classe mitjana que veuen com els seus recursos es consumeixen per tractaments que en la gran majoria de països d’occident són un dret bàsic.

    Tot plegat ajuda a entendre per què un acte tan extrem com el de Luigi Mangione pot generar simpatia o, si més no, comprensió. Un perfil de jove triomfador a ulls de la societat dels Estats Units, un frat boy d’universitat de prestigi que decideix emprendre una arriscada acció política plenament conscient de les seves conseqüències. La seva acció ressona amb una frustració col·lectiva que molts viuen en silenci.

    Una crisi de confiança

    La indignació per aquest cas no és un fenomen aïllat, sinó el reflex d’una crisi més profunda. Aquesta sensació d’abandonament explica per què el moviment al voltant de Mangione, amb el lema Free Luigi!, ha anat guanyant força, especialment entre els sectors més joves de la població.

    No es tracta només d’un gest de «suport irracional» a un home acusat d’assassinat. És l’expressió d’una ràbia continguda, d’una necessitat desesperada de justícia en un sistema que molts veuen com una gran trampa.

    A més a més, des què el perfil de Mangione va circular per xarxes, l’interès popular i les mencions a Luigi han explotat, però els grans mitjans dels Estats Units no ajuden a readreçar la narrativa cap a posicions constructives de crítica al sistema sanitari.

    Cap a un canvi inevitable?

    L’assassinat de Thompson ha posat el focus en la necessitat d’una reforma sanitària urgent. Propostes com el Medicare for All, que buscaven eliminar la dependència de les asseguradores privades, han perdut força en els últims anys, deixant un buit polític important.

    El repte ara és transformar aquesta energia en un moviment constructiu. El poble nord-americà no només demana explicacions per la mort de Thompson, sinó també solucions reals que evitin que milers de persones hagin de patir les mateixes dificultats.

    La història de Luigi Mangione és també la d’una societat que clama per un canvi profund. El sistema sanitari nord-americà està sota judici, i no només a les sales dels tribunals, sinó també al tribunal de l’opinió pública, imposant-se sobre altres temes de l’agenda de Trump. La qüestió no és només si Mangione és culpable, sinó també què cal fer perquè ningú més senti la necessitat de prendre mesures tan desesperades.

  • Dues tempestes: anatomia de la desinformació durant la DANA valenciana

    Dues tempestes: anatomia de la desinformació durant la DANA valenciana

    La DANA que ha assolat el País Valencià aquesta setmana ha vingut acompanyada d’una altra tempesta perillosa: la desinformació. L’inspector en cap dels Bombers de València, José Miguel Basset, ho deixava clar: «Les fake news que s’han fet circular per aquí ens han provocat problemes, fins i tot problemes d’ordre públic». En plena emergència, amb centenars de persones afectades i els serveis de rescat treballant contra rellotge, els rumors falsos han saturat les xarxes socials i els canals de missatgeria, dificultant la gestió de la crisi.

    @eldiario.es

    El Jefe del consorcio provincial de Bomberos de València, José Miguel Basset, ha denunciado este miércoles que la circulación de informaciones falsas en las redes sociales han provocado problemas de desorden público así como de coordinación entre los servicios de emergencia durante sus labores de respuesta a la DANA, que ha dejado al menos 92 fallecidos en la Comunitat Valenciana “Se ha hablado de evacuaciones, de desbordamientos, de rotura de presas… nada de esto ha sido correcto pero sí que ha interrumpido notablemente la labor de los equipos de emergencia”, ha dicho Basset durante una comparecencia junto al president de la Generalitat valenciana, Carlos Mazón #dana #comunitatvalenciana #bomberos #valència #josémiguelbasset #president #carlesmazón #generalitat #stopbulos #noticiastiktok

    ♬ sonido original – eldiario.es oficial

    «Tot aquest tipus d’accions, si no es tallen per part del ciutadà, ens porten al caos», va insistir Basset, referint-se als «rumors que circulen per xarxes socials». Des de falses alertes d’evacuació fins a teories conspiratòries sobre demolició de preses, la desinformació ha obligat les autoritats a dedicar temps i recursos a desmentir falsedats mentre intentaven coordinar les tasques de rescat.

    La conspiració de les preses enderrocades

    Un dels rumors falsos més virals ha estat el de la suposada demolició de preses per part del Govern. Agitadors digitals de l’extrema dreta com Alvise Pérez i polítics de Vox han aprofitat la tragèdia per difondre que l’enderrocament de preses havia empitjorat els efectes de la DANA. Una mentida que ha estat desmentida pel Ministeri de Transició Ecològica: en els darrers anys només s’han eliminat petits assuts en desús que no tenien cap funció de prevenció d’avingudes.

    La narrativa no és casual: en recuperar el tema de les preses, l’extrema dreta apel·la deliberadament a l’imaginari franquista de les «grandes obras hidráulicas». No és només una crítica a la gestió actual; és un intent de contraposar la figura de Franco, presentat com el «constructor de pantans», amb un govern progressista al qual acusen, falsament, de destruir aquestes infraestructures. Fins i tot han arribat a viralitzar vídeos del dictador inaugurant pantans, amb missatges que afirmen que «el Caudillo va construir preses per tot Espanya per evitar inundacions i el govern comunista les està destruint».

    Santiago Abascal, president de Vox, fins i tot ha acusat Ursula von der Leyen d’una suposada «llei criminal de voladura de preses» després que la presidenta de la Comissió Europea relacionés les inundacions amb la crisi climàtica. La realitat, però, contrasta fortament amb aquesta mitologia franquista reencarnada: lluny d’enderrocar infraestructures, la Confederació Hidrogràfica del Xúquer està millorant i reforçant les preses existents per augmentar la seva capacitat davant d’avingudes, adaptant-les als reptes que planteja l’emergència climàtica.

    El pànic de les falses evacuacions i les crítiques a l’AEMET

    La desinformació també ha afectat directament la gestió de l’emergència. S’han difós números de telèfon falsos d’emergències i rumors sobre evacuacions que han generat pànic en municipis com Sedaví, Paiporta o Benetússer. El president de la Generalitat, Carlos Mazón, ha hagut de desmentir que s’hagués donat ordre d’evacuar cap municipi.

    Fins i tot l’Agència Estatal de Meteorologia (AEMET) s’ha vist obligada a desmentir els rumors que circulaven sobre l’avaria del seu radar meteorològic a València. Segons, Maldita.es, tot i que és cert que el sistema va patir danys per l’impacte d’un llamp el setembre de 2023, l’AEMET va activar un sistema d’alimentació alternatiu provisional que va permetre que el radar funcionés de manera ininterrompuda des del matí del 28 d’octubre, abans que comencés l’emergència.

    L’extrema dreta va intentar polititzar aquesta situació acusant el govern de Pedro Sánchez de no arreglar el radar «perquè la Comunitat és del PP», però la realitat és que, fins i tot en cas d’avaria total, l’encavalcament amb altres radars propers hauria permès seguir monitorant la situació meteorològica a la província de València.

    A banda d’això, el pseudosindicat ultraconservador Manos Limpias ha denunciat els responsables de l’AEMET i Emergències, acusant-los d’homicidi imprudent. Tot i que la mateixa denúncia reconeix que l’AEMET va emetre les seves alertes des de primera hora del matí, l’organització ultra intenta criminalitzar els serveis públics i els seus responsables, demostrant un cop més com l’extrema dreta instrumentalitza el dolor i la tragèdia per atacar les institucions democràtiques i promoure la seva agenda política.

    L’impacte real de les mentides

    La situació ha posat de manifest com l’extrema dreta aprofita els moments de tragèdia social per mentir i desinformar, alimentant la mateixa tendència de les xarxes a la desinformació.

    L’extrema dreta contradiu les seves pròpies posicions anteriors sobre l’estat d’alarma —primer denunciant-lo durant la pandèmia, ara exigint-lo. A més, el que veiem és una tàctica deliberada d’aprofitar el caos i la por col·lectiva per avançar una agenda ideològica més àmplia.

    Aquesta estratègia té tres components clau: primer, amplificar la sensació de crisi a través de la desinformació; segon, culpar les institucions democràtiques i progressistes de la catàstrofe; i, tercer, presentar solucions autoritàries com l’única sortida possible. Quan l’extrema dreta ignora deliberadament els protocols establerts per a la intervenció militar, no ho fa per ignorància, sinó com a part d’una narrativa acuradament dissenyada per erosionar la confiança en les institucions democràtiques i promoure un estat més autoritari.

    És la manifestació d’una fantasia ideològica on l’Estat ha de ser simultàniament omnipotent i impotent, present i absent, segons convingui al relat del moment.

    El que estem presenciant no són simples contradiccions polítiques, sinó l’aplicació del manual del capitalisme del desastre (concepte de Naomi Klein) en l’era de les xarxes socials: utilitzar el trauma col·lectiu d’una catàstrofe natural per promoure una agenda antidemocràtica i antiinstitucional. La tragèdia de la DANA s’ha convertit en una oportunitat per aquests actors per avançar en el seu projecte de desmantellament de la confiança pública en la governança democràtica.

    Font: X.com

    Paradigmàtic d’això és la viralització de l’eslògan «només el poble salva al poble». Tot i que aquesta frase sembla sorgir d’una genuïna admiració per la solidaritat ciutadana —que ha estat exemplar—, amaga una perillosa lògica antiinstitucional que coincideix amb els objectius de l’extrema dreta. Afirmar que «només» el poble salva al poble implica negar el paper fonamental dels serveis públics, dels professionals d’emergències, dels científics i científiques de l’AEMET, i de totes les institucions democràtiques que, malgrat les seves imperfeccions, són essencials per gestionar crisis d’aquesta magnitud. La veritable resistència contra el feixisme implica defensar i millorar aquestes institucions, no desacreditar-les.

    Font: RTVE

    A falta de més incoherències, el PP va criticar durant la pandèmia l’avís que sona als telèfons mòbils com una invasió a la llibertat individual, però ara exigeix més alertes i avisos. En fi, contradiccions, totes, que demostren que la veritat o els fets els són indiferents; el seu únic objectiu és aprofitar el patiment per col·locar la seva agenda contrària al govern «progressista» d’Espanya.

    La resposta institucional i digital

    En aquest context, destaca el paper del ministre Óscar Puente, qui, malgrat ser conegut per les seves baralles a les xarxes socials amb la dreta i l’esquerra, està informant de manera precisa sobre les actuacions que duen a terme el govern i el seu ministeri durant aquesta crisi.

    Els equips de voluntaris digitals en emergències de la Comunitat Valenciana han hagut de treballar intensament per desmentir rumors. Quan experts, divulgadors i fins i tot influencers informats intenten desmentir les notícies falses a les xarxes socials, reben insults de caràcter guerracivilista com «roja».

    https://www.tiktok.com/@clersssss/video/7432334190315605281

    Les conseqüències d’aquesta tempesta de desinformació van més enllà de la confusió: han provocat mobilitzacions innecessàries de recursos, han generat pànic entre la població i han dificultat la tasca dels serveis d’emergència. La por al desabastiment d’aigua potable, per exemple, ha provocat compres massives en supermercats, tot i que les autoritats han garantit el subministrament.

    Font: X.com

    La desinformació s’ha convertit en un factor més a gestionar durant les emergències. Les institucions necessiten desenvolupar protocols específics per combatre-la, mentre que la ciutadania ha d’aprendre a ser més crítica amb la informació que rep i comparteix. En situacions d’emergència, un rumor fals pot tenir conseqüències gairebé tan greus com la catàstrofe mateixa.

  • Bad Bunny contra la IA i la cultura maker

    Bad Bunny contra la IA i la cultura maker

    «Si una cançó creada per un robot li ha agradat tant a la gent, t’imagines si la gravessis tu?». Després que Spotify eliminés la seva cançó NostalgIA, creada per intel·ligència artificial amb la veu de Bad Bunny, FlowGPT, l’autor de la cançó, li plantejava aquesta pregunta al cantant porto-riqueny a un vídeo de TikTok.

    @flowgptmusic

    @Bad Bunny no entendí muy bien el mensaje, ya que mi algoritmo me dice que la m13rd4 solo la hacen los humanos… recuerda que yo soy un robot 🤖🌐💛 el futuro ya está aquí. #flowgpt #badbunny #nostalgia #flowgptmusic

    ♬ sonido original – FlowGPT

    Els mitjans titllen a Bad Bunny de «víctima», no per la humiliació que suposa llançar un àlbum amb ni més ni menys que vint-i-dues cançons i que la que tingui més èxit a xarxes socials i reproduccions en plataformes d’streaming sigui una cançó amb la seva veu generada per intel·ligència artificial per un altre artista, sinó per la utilització sense consentiment de la veu, senya d’identitat de Bad Bunny.

    Tal és l’èxit que fins i tot Bad Gyal, mencionada a la cançó, va publicar un vídeo a TikTok assegurant «jo tota emocionada i després descobreixo que és IA». Davant la polèmica, el va acabar ocultant.

    A tot això, el conillet dolent reacciona pel seu canal de WhatsApp: «vosaltres no mereixeu ser els meus amics» en referència a aquelles persones que han celebrat el tema. L’artista es posa a la defensiva, sent víctima —ara sí— de l’efecte Streisand: sense voler ha donat més publicitat a allò que volia censurar.

    La resposta dels usuaris de TikTok no ha defraudat:

    @glxwse

    me cago me meo me tiro un peo🥺❤️‍🩹#badbunny #fyp #mecagometirounpeo #parati #ia #albumbadbunny

    ♬ sonido original – BELLYBEAN

    I és que no només la cançó ha utilitzat «la seva veu» sense consentiment; a sobre aquesta s’allunya completament del viratge d’estil que ha volgut fer l’artista amb el seu darrer àlbum, apartant-se del reggaeton d’«Un Verano Sin Ti».

    Les implicacions de la intel·ligència artificial generativa esdevenen complexes quan s’usa com a eina d’entreteniment o artística. Les institucions es troben encara en procés de regular l’ús de la IA i, en aquest impasse, s’han donat situacions curioses i interessants, com en el cas de Bad Bunny.

    @aitanaindigo

    #lolaindigo sobre la polémica con #badbunny y la #ia #ai

    ♬ sonido original – Àngela Mármol

    Que les implicacions esdevinguin complexes, però, no vol dir que la IA generativa sigui «perillosa» o «dolenta» per als processos artístics. Emprada sota el marc de la cultura maker, promovent l’aprenentatge i la producció col·laborativa i regulada de contingut podria arribar a esdevenir una eina emancipadora per a l’internet lliure del futur.

    Podrem desenvolupar la IA amb una visió més crítica de les estructures de poder, seguint els preceptes de la cultura maker, com va fer el moviment punk als anys 1970 o el software lliure i la open source a la dècada de 1990 i principis dels anys 2000?

    Un parell de frases ben trobades basten per crear un èxit musical

    La indústria de la música no s’entén sense la tecnologia. Abans que Thomas Edison inventés el fonògraf el 1877, consumíem música en actuacions en viu. Els tocadiscos, els vinils, el cassette compacte, el walkman, el Compact Disc, l’streaming, etc., són avanços tecnològics i científics que han possibilitat la distribució massiva de música.

    La tecnologia no només ha simplificat l’accés, la distribució i el consum de música, sinó que també ha permès ampliar el catàleg de sons, instruments, gèneres i estils musicals. A més de construir la infraestructura de la indústria musical, també ha influït en la forma en què es crea i concep artísticament el producte.

    Això ha suscitat sospites entre alguns pensadors que han considerat que la tecnologia i la infraestructura industrial resultant han distorsionat el procés creatiu, impactant negativament en l’originalitat, l’autenticitat, la creativitat, la qualitat i el valor de la música.

    Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    El filòsof de l’Escola de Frankfurt Theodor Adorno(1) criticava el caràcter alienador i falsificador de la infraestructura tecno-mediàtica que va permetre la fundació de la indústria musical. La producció en sèrie de la música l’allunya de l’autenticitat artística i de l’estètica autèntica, de la mateixa manera que la producció en sèrie de mercaderies allunya l’home de la realització d’ell mateix i dels béns que ell mateix produeix.

    Actualment, la GenAI permet a qualsevol persona crear música des de comandaments textuals descriptius (prompts). Un parell de frases ben trobades o d’arxius d’àudio gravats amb el mòbil són suficients per crear un potencial èxit musical.

    En la línia crítica d’Adorno, això posa de manifest, per una banda, que la producció en sèrie de productes musicals simples, prefabricats i massius ha restringit la capacitat del públic per jutjar la música que consumeix i, per altra, que el rol cada cop més destacat de la tecnologia en la creació del producte posa en perill el sentit de l’artista musical tal com l’hem conegut fins ara.

    Podria la intel·ligència artificial substituir els artistes musicals a mitjà o llarg termini? Les grans productores i discogràfiques podrien signar contractes amb els artistes per fer servir les seves veus amb l’objectiu de crear èxits comercials?

    Les repercussions culturals, estètiques i ètiques d’utilitzar la IA per compondre i produir música són irradiacions procedents de les conseqüències de la industrialització de la música com a expressió cultural.

    La indústria musical capitalista ha contribuït a reduir les expressions artístiques en fórmules comercials, homogeneïtzant l’estètica o, contemporàniament, heterogeneïtzant-la fins a la pèrdua de la seva «essència» —en el sentit menys ontològic del terme.

    La despossessió de l’agència i expressivitat humana tindria, doncs, el punt més àlgid a hores d’ara. La intel·ligència artificial pot acabar obrint un debat sobre què és l’artista: una dada a explotar o una figura que es limita a ser socialment atractiva, desitjable i impactant, a la qual ja no se li exigeix talent, sinó ser capaç de convertir-se en el fetitxe d’una societat uniforme fins i tot en la seva diversitat?

    Si la música fos sempre igual, s’eliminaria la diferència, limitant el que sentim. Si, en canvi, la música fos constantment diferent, navegaríem en un mar sense referències on sostenir-nos. Quedarem a la deriva en un onatge de notes sense ritme, de ritme sense notes i de significacions que se’ns escapen i que mai serem capaços d’entendre, ja que quan ho aconseguim fer, tot canviarà de nou.

    La música es reinventa sempre, sota una consolidada base de possibilitats. Les peces d’escacs i els seus moviments són pocs, però les possibilitats de joc són infinites.

    La GenAI pot ser una disposició més per experimentar amb la música, arribant a ser pels nous artistes el que l’autotune és per a la Bad Gyal: allò que els fa diferents. Una oportunitat per innovar en els estils i gèneres.

    Potser el significat d’autenticitat s’ha reconstruït en l’era digital. Potser ja no ens preocupa que les coses siguin autèntiques. Les teories científiques són vàlides fins que no hi hagi evidència que les contradigui. El que passa a televisió és inautèntic, tot i que impacta de manera molt real a les nostres vides. Els esdeveniments històrics es repeteixen primer com a tragèdia i després com a farsa.

    Podem mostrar-nos «reals» a les xarxes socials? BeReal: la xarxa que limita la performativitat

    El principal problema ètic de la GenAI —a banda de la privacitat i els drets d’ús— és l’autenticitat i l’originalitat: la frontera entre la veritat i la falsedat. Si no, per què quan la IA generativa s’utilitza per a tasques menys associades a l’autenticitat les connotacions negatives es difonen?

    En l’article «La intel·ligència artificial en la narrativa sonora. Estudi de cas»(2), s’explora la influència de la IA en la narrativa sonora i les emocions que pot evocar. La majoria dels enquestats (57,5%) va experimentar satisfacció en sentir veus robotitzades. L’estudi conclou que la narrativa robòtica de la IA pot enriquir el periodisme.

    Escoltar un anunci o una veu en off produïts amb IA no genera la mateixa sensació de falsedat que escoltar una cançó de Bad Bunny, amb la seva veu, entonació i accent, generada per IA.

    Un nou món on siguem més lliures

    La IA, com la resta de tecnologies avançades, té el potencial d’estalviar-nos tasques que no contribueixen a la nostra realització personal, amb l’objectiu de construir un món on gaudim de més llibertat, alliberats de les cadenes del treball i del capitalisme.

    Segons les reflexions del professor Yochai Benkler en «La riquesa de les xarxes», l’economia de la informació en xarxa està impulsant una nova forma de producció social basada en la cooperació i l’intercanvi. Aquest model contrasta amb l’abordatge tradicional, oferint noves oportunitats econòmiques, socials i polítiques que poden enriquir la nostra existència de manera democràtica.

    https://lab.cccb.org/ca/la-riquesa-de-les-xarxes

    Malgrat l’escepticisme envers l’optimisme de Benkler, és innegable que hi ha tecnologies que apunten en aquesta direcció. El blockchain, per exemple, pot transformar les transaccions i l’emmagatzematge d’informació, proporcionant autonomia a l’usuari i creant un entorn digital transparent, segur i inclusiu.

    Benkler podria veure el blockchain com una oportunitat per reduir costos i burocràcia, fomentar la participació i facilitar la presa de decisions a les comunitats digitals, així com fomentar la col·laboració.

    Tot i que sovint es vincula al moviment criptobro, aquesta tecnologia podria ser menys estigmatitzada si el seu ús fos més ampli.

    En conjunt, aquestes noves tecnologies creen una xarxa de recursos que potencialment faciliten la revolució que Benkler anticipava. La producció autònoma per part dels usuaris és un punt de partida per desafiar el poder de les grans corporacions i l’Estat, afavorint dinàmiques democràtiques i eficiència similar o superior a la producció industrial.

    Per aconseguir cal abandonar la passivitat i actuar; construir com ho han fet altres abans.

    Els hippies, el punk, el software open source i el blockchain, el makerspacers i ara els creadors de contingut digital

    Abandonar la passivitat implica abraçar l’acció, justament el que fomenta la cultura maker, que incorpora moviments com el DIY (Do It Yourself). Aquest mindset anima a utilitzar disciplines de pensament i expressió (tecnològica, científica, artística) per crear projectes i solucions revolucionàries. L’important no és la solució final com a tal, sinó el procés per arribar a ella. Un procés que implica compartir els coneixements i recursos amb la comunitat, empoderant-nos mútuament i posicionant-nos en un rol actiu per transformar la realitat.

    Corona Rodríguez (3), pensant sobre l’ethos de la cultura maker i el DIY, llista un conjunt de valors, sentiments i actituds presents en les pràctiques d’aquestes comunitats.

    Les comunitats participen activament per trobar usos creatius i innovadors de les tecnologies existents, sigui per a sectors comercials, educatius o d’entreteniment, però que siguin útils per resistir al sistema dominant que limita el potencial de la tecnologia en l’eficient i rendible.

    En aquestes activitats —organitzades de manera autogestionada i fora de les estructures institucionals o industrials convencionals— es comparteixen habilitats, idees i recursos en processos d’aprenentatge informal, alhora que es promou el pensament mentre es fa allò que es pensa, és a dir, l’experimentació i l’aprenentatge mitjançant l’assaig i error.

    Per altra banda, també destaca la creació de mitjans de comunicació alternatius. La cultura maker ha estat històricament vinculada a la producció de mitjans d’expressió propis, com segells musicals independents o aquesta mateixa revista digital per practicar el ciberactivisme.

    La performance o l’acció directa i organitzada sobre objectes, processos o significats també forma part de la cultura maker. Els mememakers no deixen de ser reproductors d’aquests preceptes culturals. Pensem-ho bé. Els memes són producte d’una intervenció activa, imaginativa i innovadora sobre fenòmens que es resignifiquen i circulen generant una reacció.

    El DIY està associat a moviments contraculturals que buscaven canvis enfront del sistema capitalista, els mitjans massius, etc.

    En la dècada de 1950, el moviment hippie va adoptar pràctiques de la cultura maker quan va crear mitjans alternatius i espais propis en resistència a la cultura mainstream. Vint anys més tard, el moviment punk va produir música independent i un nou estil de vestir que va fer tremolar la indústria musical del moment. A la dècada dels 2000, el software lliure i el codi obert, així com la cultura hacker, també segueixen els preceptes de la cultura maker, promovent el coneixement i la tecnologia oberts en resistència a les grans corporacions propietàries del software i les infraestructures.

    El que vull plantejar és què passaria si apliquéssim l’ètica de la cultura maker per combatre els potencials riscos de la intel·ligència artificial —tecnologia que actualment està dominada per grans corporacions— i utilitzar l’eina per fer un món millor, el món que veia venir Yochai Benkler.

    La primera barrera és ser capaços de democratitzar la creació de la IA, permetent que més persones participin en el seu desenvolupament de manera activa i crítica. Això implicaria aprendre sobre la IA mitjançant la pràctica, el pensament posat en pràctica i la col·laboració en comunitats, així com apropiar-se de tecnologies de IA per resoldre problemes locals i satisfer necessitats específiques. D’aquesta manera, s’obriria el desenvolupament de la IA a la personalització, la reinvenció i la innovació des de baix per part dels usuaris.

    Fet això, podríem diversificar l’aplicació de la IA, fent que els sistemes fossin més transparents i la tecnologia més accessible. Això possibilitaria un major pluralisme i diversitat en els usos i aplicacions de la IA d’acord amb diferents valors i cultures, així com un desenvolupament de la IA més crític amb les estructures de poder i atent a les implicacions socials i ètiques. D’aquesta manera, es podria aconseguir un ecosistema més obert, democràtic i plural entorn d’aquestes tecnologies.

    La principal incapacitat, però, és l’accelerat desenvolupament de la tecnologia. L’ex-CEO d’Open AI ja va avançar el següent estadi de la IA: de chatbot a agent intel·ligent. D’aquí poc podrem personalitzar i programar els nostres propis bots perquè duguin a terme tasques específiques, accedint a dades privades i integrant-les en les seves respostes, així com connectant-se a altres parts de la nostra vida digital i realitzant accions amb les nostres credencials.

    https://www.nytimes.com/2023/11/10/technology/personalized-ai-agents.html
    «Personalized A.I. Agents Are Here. Is the World Ready for Them?» — By Kevin Roose for The New York Times

    Una simple ordre bastarà perquè la IA faci tuits programats per nosaltres, publicacions a Instagram amb imatges artificials o perquè enviï currículums a ofertes de feina per nosaltres, respongui amb detall correus automàticament, programi cites amb el metge o interactuï amb persones davant la nostra ociositat.

    El que li ha passat a Bad Bunny no és dolent. La regulació arribarà, i ja veurem fins on limita els potencials socials de la IA. Però mentrestant, estem jugant, experimentant, aprenent. I en un futur pròxim, potser serem capaços de posar aquestes tecnologies i moltes altres a disposició de l’usuari, per fer un internet més democràtic, participatiu i autònom.

    (1) Hernández Iraizoz, Daniel. (2013). Theodor Adorno, elementos para una sociología de la música. Sociológica (México), 28(80), 123-154. Recuperado en 18 de noviembre de 2023, de http://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S0187-01732013000300004&lng=es&tlng=es.

    (2) AGUANA ROMERO, H.; ARROBO- A GILA, J. P. y RENE JARAMILLO, A. (2022). «La inteligencia artificial en la narrativa sonora. Estudio de caso». Anàlisi: Quaderns de Comunicació i Cultura, 66, 9-23. DOI: https://doi.org/10.5565/rev/analisi.3476

    (3) Corona Rodríguez, J. M. (2017). Alfabetismos transmedia: cultura maker y aprendizajes colaborativos en el mundo hiperconectado. En R. Aguirre, R. López y M. L. C. Santoyo (Coords.), Transmedia Earth: Medios, narrativas y audiencias en contextos de convergencia (pp. 131-147). Ciudad de México, México: Editorial Fontamara.

  • Té sentit el ciberactivisme?

    Té sentit el ciberactivisme?

    És fàcil escoltar comentaris negatius o desconfiats sobre el «ciberactivisme». En el passat, s’ha comparat amb «l’activisme de sofà». Inclús s’ha percebut com a fer un like o compartir un post enlluernador per xarxes i quedar-se satisfeta amb una mateixa. Sembla que podria ser l’expressió del reaccionarisme més mandrós: clicar un botonet per a autoconvèncer-te que ja has fet la teva part, sense fer res significatiu.

    No estem d'acord amb aquesta visió a ciberpoder.net/.

    La creixent digitalització del món i la nostra creixent connectivitat en línia destaquen la necessitat de polititzar aquest espai. Quan parlem de polititzar, no ens referim a subjugar-lo als interessos dels partits polítics. A ciberpoder.net/, parlem de fer-lo més crític, exposar les dinàmiques de poder i assegurar que estiguin orientades cap a la justícia i la igualtat, no cap als beneficis de les grans empreses.

    Un vídeo viral a YouTube d’un creador d’extrema dreta sobre impostos pot tenir un impacte més gran entre els adolescents i joves que una campanya de sensibilització als instituts, la major part de les vegades. En una franja d’edat diferent, un anunci patrocinat a Facebook d’una empresa d’alarmes, dirigit a adults de 50-70 anys, pot ser més impactant que cinc anys d’activitats culturals organitzades pel teu ateneu local.

    És urgent que treballem valentament i compromesos a les xarxes i mitjans digitals. És possible comunicar amb eficàcia amb textos breus, cosa que motiva les grans empreses a invertir grans quantitats de diners en anuncis a Google, publicacions patrocinades a Facebook o tuits promocionats a X.com.

    I què passa amb la lluita tangible, la lluita econòmica, i la millora de les condicions materials dels treballadors i la gent del carrer?

    La lluita als carrers continua. Des del primer dia, veiem ciberpoder.net/ com una plataforma per organitzar-nos i connectar amb altres persones. Molts de nosaltres combinem accions físiques, com sindicats, associacions de veïns, partits polítics progressistes, xerrades i col·lectius, amb accions digitals per aconseguir el màxim impacte.

    Habitar les xarxes i internet també implica reconèixer les seves contradiccions. Sovint, passem temps en plataformes controlades per empreses de Califòrnia o la Xina que busquen crear addicció entre els usuaris. Tot i això, això no ens atura. ciberpoder.net/ (o qualsevol altre col·lectiu o associació amb objectius similars) neix per facilitar l’activisme digital i és especialment per a aquelles persones que comparteixen la preocupació que internet pugui contribuir a la desigualtat i la injustícia, i creuen que això s’ha de canviar.

    Som una generació que està molt connectada en línia, i aquest és el moment ideal per fer que la xarxa sigui millor. Organitzem-nos ja.