Etiqueta: Algoritmes

  • Metavers: el nou mercat de les realitats

    Metavers: el nou mercat de les realitats

    La representació com a món

    A alguns filòsofs els agrada dir que «construïm» la realitat. Tot i que hi ha força consens en què existeix un món independent de la nostra ment, també és prou cert que per parlar d’aquest món i per pensar-lo utilitzem conceptes, paraules i idees. Aquests conceptes, pensaments, idees (en definitiva, llenguatge) són representacions del món material. Una representació seria com un «meme»: actua com símbol que ens trasllada a uns estímuls o resumeix uns determinats fenòmens del món que ens envolta sense contenir ell mateix tota aquesta informació.

    S’ha de vigilar amb els genis malignes, perquè fins i tot els records i els pensaments són representacions: a qui no li ha passat que els seus primers records d’infància no són més que records de records? Guardem aquests símbols al nostre cervell perquè emmagatzemar tots els detalls d’estímuls de l’exterior seria un esforç injustificat en termes energètics-evolutius. Molt més fàcil tenir només una motxilla de símbols que saps relacionar molt bé i que et serveixen per descriure un ventall molt ampli de situacions, com els stickers del mòbil o la peli que et serveix per referenciar-ho tot.

    Sobre pel·lícules reflexiona també David Mattin a l’article The Worlds to Come – Instalment One de la seva newsletter. Comenta que, estant de viatge a Venècia, no es podia treure del cap la sensació que tot era com a una pel·lícula. Semblava que cada panoràmica, cada gondoler passant per sota d’un pont era una extracció d’una escena cinematogràfica. A la vegada, però, destaca la ironia que davant d’un entorn estimulant, el que més l’estimulés no era el món exterior, sinó la seva connexió a una altra representació, com és una pel·lícula. Aquí es produeix una inversió interessant, perquè, mirant les representacions, en comptes d’evocar-li a la realitat que suposadament representen, l’evocaven a altres representacions!

    Aquesta idea obsessiona a Mattin i també ens obsessiona a nosaltres. Més encara quan fem un ‘click’ fonamental que suposa un canvi qualitatiu en la història de la humanitat: què passaria si en comptes de fer-nos representacions del món que ens envolta, la representació es converteix en un món en si mateix?

    Els primers metaversos: el projecte Horizon Worlds

    Això és el que aconsegueixen la realitat virtual i el metavers. La idea d’un metavers no és nova (qui no ha vist Matrix o ha tingut un amor a Habbo Second Life, oi?) ni un concepte registrat per Mark Zuckerberg, però el projecte tecnològic Horizon Worlds de Meta sembla que com a mínim ha aconseguit captar l’atenció del món tech i ha arribat també a la premsa mainstream.

    Fins ara, la comunitat d’internet no s’ha pres massa seriosament el projecte de Meta. Després d’anunciar que tota l’estratègia del conglomerat (que compta amb Facebook, WhatsApp, Instagram, entre altres productes i serveis) pivotaria per a convertir-se en una empresa centrada en el metavers, Marc Zuckerberg va provocar una mofa generalitzada al fer públiques imatges i gameplays (o potser ‘lifeplays’) d’Horizon Worlds que consistien bàsicament en sales de reunions virtuals amb avatars que recordaven als avatars Mii de la primera Nintendo Wii (2006) o a una animació japonesa qualsevol de principi dels 00s.

    Encara així, seguim amb un ull posat sobre les novetats que puguin sortir del projecte Horizon Worlds; i és que, si l’adopció i l’engagement dels diversos projectes de metavers immersiu van creixent gradualment, interactuar i viure a un món cada vegada menys físic presentarà nous grans problemes filosòfics per a l’ésser humà, seguint amb el que hem suggerit de la força de les representacions. Si ja s’ha comentat en els darrers anys el perill que suposa el poder de les big tech per a les nostres democràcies, per a la nostra salut mental i per als nostres ecosistemes amb el desenvolupament de nous paradigmes de realitat virtual és poc agosarat dir que un futur distòpic està assegurat. Per què?

    El problema d’una RaaS (Reality-as-a-Service)

    Bona part de la teoria politicoeconòmica moderna està fonamentada en la idea de materialitat des de certs esdeveniments a l’Europa industrial del segle XIX i cert pensador materialista alemany. Qualsevol discurs socioeconòmic progressista modern ha de fer referència en algun moment als recursos materials del món i la seva distribució justa per a tenir un impacte real en la vida de les persones (a diferència dels discursos d’ultradreta que distreuen amb debats artificials d’idees-arguments que interessen al statu quo).

    La desconnexió entre les persones (ara convertides en usuaris) i el món físic és una oportunitat deliciosa per a les forces conservadores. Si avui dia les xarxes socials ja tenen el poder de fer virar el resultat d’eleccions en diversos estats, el desenvolupament de tot un nou món on les persones es relacionen, aprenen i s’expressen d’una forma controlada i dissenyada per (i per a) uns pocs és massa llaminer per a l’1%, i no és casualitat que les big tech s’hi hagin llençat de cap i els seus accionistes hagin assentit.

    El món real és complex, però és neutral. Els metaversos de les big tech, en canvi, seran atractius, usables, simples, etc., però interessats. El mecanisme epistemològic clàssic de fer-nos representacions del món que ens «funcionin» i anar-les contrastant amb la nostra experiència del món físic queda totalment truncat per una realitat que és directament una representació que algú altre ha fet i interessada cap als seus objectius. En aquest context, la democràcia real és inassolible.

    Les explicacions alternatives del món o el periodisme tal com el coneixem desapareixen; en un món virtual controlat no hi haurà una lluita de realitats que defineixen el món; hi ha una única versió oficial i és la de l’empresa que gestiona la plataforma i la infraestructura que la manté. Aquest ‘ens’ com potser Meta o Apple (que seria com un Déu omnipotent d’aquest nou món) té el control absolut sobre el processos informatius i epistemològics: tot s’emmagatzema en dades i les decisions es prenen de dalt a baix (tops-down), per molt que als usuaris se’ls permeti la il·lusió de la lliure elecció de paràmetres secundaris com l’skin del seu avatar (explotant l’economia del jo com ja ho han fet tants videojocs i xarxes socials).

    És ben cert que en última instància, els projectes de metaversos continuaran sustentats en una infraestructura informàtica-electrònica material de servidors, oficines i programadors (si, en masculí) al món físic; però aquests estaran fora de l’ull dels mass media i amagats de «la vida» que transcorre als metaversos; com ja passa avui amb les principals xarxes socials.

    La nostra materialitat i la del nostre món, per tant, regulen epistemològicament encara avui l’activitat política i qualsevol mena d’activisme per a canviar el món. Prescindir d’aquesta és perillós si qui controla el nou món no està subjecte a lleis ni organismes polítics escollits; poc a poc se’ns redueixen les eines per a assolir una economia global més justa, fins i tot epistemològicament parlant.

    Malgrat l’opinió d’alguns pensadors que opten més per una realitat augmentada (i no una realitat virtual), sembla molt possible que en el món de l’endemà hi hagi una ‘oferta de metaversos’ o «realitats» on l’usuari, sense informació i a la mercè del seu inconscient i del FOMO, haurà de triar. Reality-as-a-Service (RaaS). Amb la informació que tenim avui dia ja podem imaginar que l’elecció serà tan lliure com és avui la tria de quina xarxa social utilitzar: pràcticament no té res de lliure.

    Alguns gurus del món tech suggereixen que els grans actors dels metaversos i la realitat virtual estan encara per arribar, que no seran cap de les actuals companyies big tech i sortiran de llocs inesperats, refrescant així el panorama: ho acceptem, però tot i sortir de llocs inesperats, en l’actual sistema econòmic el futur de qualsevol start-up és similar. Si ja és gairebé un miracle escapar de l’adquisició per part d’un gegant tecnològic, fins i tot en cas d’aconseguir-ho, les dinàmiques capitalistes s’imposen i els inversors, que són essencials per al creixement i la supervivència, van influint en el futur de la companyia buscant cada vegada més rendibilitat. Si la companyia es dedica a produir mons, els inversors, una vegada més, defineixen el futur del món.

    El nostre món és un conjunt de sistemes complexos i de relacions entre ells, on, regits per lleis naturals, els humans construïm una realitat com a lluita de «veritats» i d’interessos i desenvolupem els nostres projectes de vida. Al llarg de la història moderna, moltes parts d’aquest món s’han convertit gradualment en mercats: primer el sòl es va privatitzar i després van sorgir articles de consum que cobrien noves necessitats inventades. També es van privatitzar els recursos energètics que tots utilitzem i recentment les relacions socials han estat privatitzades amb les xarxes socials. L’últim gran mercat descobert són les dades i tota la informació que generem amb la nostra existència. Sembla que és la mateixa realitat la que està en joc com a següent pas.

  • Podem mostrar-nos «reals» a les xarxes socials? BeReal: la xarxa que limita la performativitat

    Podem mostrar-nos «reals» a les xarxes socials? BeReal: la xarxa que limita la performativitat

    La xarxa fascina i xucla i no queda res o ben poc d’íntim; tot s’externalitza, surt enfora per exhibir-se, i ja no hi haurà retorn.

    – Resistència Íntima, Josep Maria Esquirol

    L’app d’una nova xarxa social circula per les memòries internes dels nostres smartphones. Mitjans de comunicació digitals de tota mena es fan ressò amb titulars categòrics: «BeReal, l’anti-instagram que creix», «La febre de l’antipostureig», «BeReal: l’alternativa a Instagram que utilitza Rosalía per plantar cara al postureig», «Coneix BeReal, l’aplicació que t’allunya de la ‘vida perfecta’ de TikTok i Instagram», etc.

    La majoria de titulars inclouen el principal –suposat– valor diferencial de BeReal en comparació amb la resta de xarxes socials de contingut visual: l’antipostureig o, dit d’una altra manera, l’autenticitat. A diferència de TikTok, Instagram o Facebook, BeReal vol assegurar-se que el contingut que comparteixen els seus usuaris sigui «autèntic», natural, real.

    La declaració d’intensions és determinant. Al seu web presenten l’aplicació com a «una forma nova i única de descobrir qui són realment els teus amics en la seva vida quotidiana». Aquest plantejament, però, ens suscita algunes preguntes interessants: és possible mostrar-nos autèntics a les xarxes socials? És més, què vol dir ser autèntic? Com s’assegura l’aplicació de l’autenticitat del contingut que publiquen els usuaris? És BeReal una plataforma perquè les microcelebritats d’altres xarxes socials comercialitzin la intimitat per popularitzar la seva identitat digital?

    BeReal en el panorama de les plataformes socials

    BeReal neix a França l’any 2020 de la mà d’Alexis Barreyat i Romain Salzman. En aquell moment, a inicis de l’expansió de la pandèmia de la Covid-19 i les mesures sanitàries consegüents, la plataforma xinesa propietat de ByteDance, TikTok, se situava entre una de les deu xarxes socials més utilitzades al món.

    Des del seu naixement, l’algoritme i la intel·ligència artificial de TikTok han ofert una nova forma de consum i creació de continguts més addictiva centrada en l’audiovisual: vídeos curts, continguts d’usuaris d’arreu del món, tendències internacionalitzades, etc.

    L’enorme creixement, en relatiu poc temps, de TikTok i els escàndols sobre la venda de dades per part de Facebook, entre d’altres, va portar a la companyia de Mark Zuckerberg, Meta –aleshores anomenada Facebook Inc.–, propietat de xarxes socials com Instagram, Facebook i WhatsApp, a iniciar una refundació en l’àmbit legal i conceptual. L’agost del 2020, Instagram incorporava la funcionalitat dels Reels a la seva aplicació, pràcticament imitant la mecànica de TikTok.

    Tot i així, TikTok encara guanyava l’atenció de les generacions més joves, en part gràcies al seu algoritme trencador amb les bombolles de filtres. Dins dels diferents fluxos de contingut, la plataforma xinesa et mostra tiktoks de temàtiques variades, possibilitant que accedeixis sempre a nou contingut, fora de la teva bombolla preferencial.

    Davant l’èxit de la competència, en els darrers mesos Instagram ha modificat la mecànica de l’app i el seu algoritme, recomanant als usuaris publicacions (sobretot vídeos curts en vertical) d’altres usuaris que no segueixen. Canvis sobtats que no han estat ben rebuts pels instagramers. La influencer estatunidenca Tati Bruening (@Illumitati) per expressar el seu enuig ha iniciat el moviment «Make Instagram Instagram Again», impulsat per les celebrities Kylie Jenner i Kim Kardashian (que sumen juntes més de 380 milions de seguidors). La petició a la plataforma de Change.org, que inclou claims com «stop trying to be tiktok» (prou intentar ser tiktok), ja compta amb més de 300.000 signatures.

    Recentment, el director d’Instagram, Adam Mosseri, ha anunciat en una entrevista amb Casey Newton que limitaran la quantitat de contingut suggerit de comptes no seguides i donaran marxa enrere sobre l’aparença del feed inicial en pantalla completa, que havien modificat copiant l’estil de TikTok.

    En aquest context on totes les xarxes socials volen semblar-se a TikTok –fins i tot YouTube va incorporar els seus propis reels–, neix i s’expandeix BeReal. Segons Insider, la companyia reuneix aproximadament 85 milions de dòlars americans i es valora en uns 600 milions de dòlars americans.

    Identitat digital: la construcció del nostre personatge

    La lluita de les xarxes socials per captar l’atenció dels usuaris –i, per tant, dels anunciants– és constant. Ja hem vist que a les companyies no els hi fa res «copiar-se» de la competència descaradament –més clarament ho expliquem aquí. Ara bé, des del prisma de les usuàries, creadores i consumidores de continguts, quins factors són determinants per decidir atendre a una xarxa social i no a una altra?

    Cada xarxa social ha estat concebuda per donar format als continguts i distribuir-los en xarxa de manera més o menys oberta. En un principi, Instagram ens servia per compartir amb els nostres followers de cercles propers (amics i amigues, familiars, amigues d’amigues, etc.) fotos de la nostra vida. Amb el pas del temps va incorporar l’audiovisual, primer amb els stories (imitant la dinàmica d’Snapchat) i després en el propi feed amb els vídeos d’un minut (que actualment poden durar fins a 10 minuts, un cop eliminada la sub-app IGTV) i finalment amb els reels. La pestanya «descobrir», amb els hashtags i les etiquetes, va descloure els nostres perfils i continguts a usuàries d’arreu del món, trencant la bombolla íntima de seguidors i seguidores.

    TikTok es va concebre directament en l’audiovisual. És l’evolució natural de Musical.ly, que permetia gravar vídeos des dels 15 segons al minut de duració, en diferents preses, i combinar-les amb un àudio reutilitzable per altres usuaris, que esdevenia l’element de viralització. TikTok ofereix un gran ventall de filtres i efectes per retocar-nos la cara, i distribueix contingut en un format d’snack, accessible a usuàries de tot el món. L’algoritme de TikTok és potser el seu factor diferenciador respecte altres xarxes socials: ens mostra allò que ens agrada consumir, tot intercalant altre tipus de contingut que ens permetrà anar més enllà del nostre consum habitual.

    Diferents formats, mateix objectiu: connectar els usuaris i usuàries, distribuir els seus missatges i intencions (polítiques, socials, d’entreteniment, divulgatives, etc.). Les xarxes socials són espais virtuals públics, la presència al qual no és física. Des d’aquesta distància podem construir la nostra identitat digital, que no ha d’assemblar-se necessàriament a la nostra identitat «real».

    La nostra presència a les xarxes és ambivalent: som consumidores i creadores de contingut simultàniament. Reaccionem a les fotografies, textos i vídeos dels nostres amics i amigues, i d’altres usuàries, a la vegada que tenim la possibilitat de publicar els nostres vídeos, fotografies i textos per comunicar alguna cosa i/o mostrar-nos d’una determinada manera davant els altres. Qualsevol participació en aquest espai virtual afecta a tota la narrativa de les nostres identitats digitals i a la dels altres.

    Quan s’alineen un conjunt de factors a favor nostre (estil comunicatiu «exitós» dins d’una subcultura digital, aparença física canònica, identitat digital ben diferenciada, etc.) guanyem moltes seguidores i podem convertir-nos en microcelebritats, en «influenciadors». La democratització de la visibilitat pública que han permès internet i les xarxes socials, davant «l’antic règim» comunicacional vertical i unidireccional de les indústries culturals tradicionals, ha generat noves «professions», ja que les microcelebritats o influencers no només són adquiridors d’un capital simbòlic (reputació, autoritat, estatus, etc.), sinó també d’un capital material (invitacions a esdeveniments, regals comercials, ofertes de feina, etc.).

    Les xarxes socials passen a ser, aleshores, no tan sols mitjans de comunicació; també la condició de possibilitat del nostre «èxit social» –si entenem com «èxit social» guanyar el reconeixement social pel nostre contingut. De la mateixa manera que una cadira o un ordinador, l’èxit social es fabrica. Justament les diferents xarxes socials són les fàbriques on manufacturarem la nostra identitat digital des de diferents perspectives.

    Instagram ens permet mostrar-nos més íntims. Però una intimitat «preparada», on sempre posem macos i maques. Estiuegem als millors indrets, a sobre d’un vaixell, i mostrem el costat més fancy de la nostra vida. TikTok, en canvi, permet que estiguem presents a les tendències de ball o als darrers àudio-memes. Podem gravar-nos posant la cara de la Rosalía a «Bizcochito» i de passada mostrem la figura canònica del nostre cos i del rostre perfecte (ple de filtres i reducció de nas i augment de llavis via IA). A Twitter, en canvi, ens posicionem respecte al darrer debat estúpid sobre si la presidenta d’un Estat pot sortir de festa o no; pengem frases superficials sobre l’amor o linxem algun altre personatge públic per haver-se equivocat en unes declaracions o no haver estat prou clarivident.

    El producte de cada tiktok, post o tuit publicat és el fil conductor de la meva personalitat digital. La identitat que vull ensenyar al món. La «perfecció» que no aconsegueixo mostrar a la feina o en els meus vincles socials o de parella, perquè en «la vida real» –les identitats digitals també són vida real– no tinc temps de fabricar res; he de, simplement, ser jo immediatament i, per tant, errar, deixar entreveure inevitablement les meves misèries i, per això, morir de por.

    Mentrestant, les usuàries que consumeixen el meu contingut veuran aquesta part perfecta o, sovint, «imperfectament perfecta» –perquè dels drames també es pot treure profit en la fabricació de la identitat digital– de la meva vida. El miratge de la meva vida que es genera quan comparteixo part de la meva realitat a les xarxes esdevé, inevitablement, objecte de comparació. La usuària que consumeix el meu contingut em veurà estiuejar en un vaixell, amb un cos canònic i una cara (plena de filtres) perfecta, mostrant tot el que «s’ha de ser» per ser guapo o guapa o exitosa, a banda d’exhibir tot el que «li falta a ella» per aconseguir-ho. En aquest punt és quan neixen les inseguretats físiques, mentals, econòmiques, etc.

    Malgrat que la usuària que consumeix el meu contingut sap que està editat i ple de filtres i efectes, perquè les funcionalitats de la xarxa social ho permeten, el que consumeix és un relat de la meva vida, aleshores accedeix a part d’una intimitat oberta al món. Creu, efectivament, que m’estic mostrant «autèntic».

    El mètode BeReal: sense edició, ni filtres, ni permanència

    L’«autenticitat», en el context de les xarxes socials, fa referència a l’absència d’intenció d’ocultament en el contingut publicat. Dit d’una altra manera, és autèntic qui es mostra tal com és en el seu contingut i expressa el que realment pensa, sense interpretar cap «personatge», ni sucumbir a l’expressió general si no hi està d’acord, sense ocultar cap veritat per conveniència ni representar una vida que no s’ajusta a la seva veritable quotidianitat.

    Si definim així l’autenticitat, és possible mostrar-se autèntic a les xarxes socials? Per començar quan decidim què publicar ja estem interferint en aquesta pura autenticitat. Un cop decidit hem de pensar com ho publiquem: en quin format, estil, context, etc. en funció de la intenció de la publicació. Aquesta intenció també determinarà quan ho publiquem i en quina plataforma.

    El grau d’autenticitat disminueix en aquest procés, perquè, inexorablement, hem intervingut en les circumstàncies de la publicació amb una marcada intenció. Justament en aquest procés circumstancial intervé la mecànica de BeReal. Per assegurar-se’n de la veracitat del contingut que publiquem, BeReal envia als seus usuaris diàriament una notificació en un moment aleatori del dia. A partir d’aquell moment, l’usuari disposarà de dos minuts per fer una foto simultània de la càmera frontal i posterior del seu smartphone. D’aquestes fotos es generarà una sola imatge amb la foto de la càmera posterior en gran i de la càmera frontal en un racó i en una proporció més petita.

    L’usuari pot afegir una descripció a la seva publicació. També pot decidir amb qui la comparteix: si amb els seus amics i amigues o al wall de discovery, on ho podran veure usuaris d’arreu del món. Sigui com sigui, només podran veure la publicació els usuaris que, en aquell dia, hagin fet la seva publicació. La foto s’eliminarà passades les 24 hores.

    Veiem diverses característiques en la mecànica de BeReal centrades en garantir l’autenticitat del contingut:

    • La immediatesa en la presa de la imatge assegura que no es pugui «teatralitzar» massa la instantània. Que no hi hagi eines d’edició (ja sigui per millorar l’estil de la foto, com els filtres, o per modificar l’aparença, com les eines d’IA de TikTok) també evita els impulsos a la «falsejar» allò que es mostra.
    • La fugacitat i l’aleatorietat de la foto. Si estàs treballant a l’oficina, potser la foto només mostrarà el teu escriptori i la teva expressió avorrida. A altres xarxes socials, en canvi, podem programar publicacions (recordem, són fàbriques de la identitat digital). S’ha de dir, però, que també existeix a BeReal la possibilitat de publicar un late: si durant els dos minuts des que has rebut la notificació no has pogut prendre la instantània, pots publicar-lo en qualsevol moment del dia. En aquesta petita esquerda es perd una mica d’autenticitat; et dona la possibilitat de «performativitzar» el moment que escullis.
    • Finalment, el fet que no puguis veure el contingut dels teus amics i amigues sense publicar contingut previament, evita la tafaneria de les usuàries passives que consumeixen, comenten i interactuen amb el contingut, però mai generen el seu propi.

    BeReal també permet reaccionar a les publicacions amb foto-icones pròpies i deixar comentaris en les publicacions. Interaccions que desapareixeran juntament amb la publicació passades les vint-i-quatre hores de la seva publicació o en el moment que l’usuari torni a publicar contingut l’endemà.

    Amb aquest mecanisme podem evitar que es perdi autenticitat limitant la capacitat d’intervenir en algunes circumstàncies del nostre contingut. Hi ha circumstàncies inevitables com ara cap a on apuntem la càmera en el moment de fer la foto: podem mostrar l’escriptori a l’oficina o el jardí que es mostra rere la finestra. Ambdues perspectives del mateix moment són «reals», tot i que expressin diferents intencions.

    Si en el moment que arriba la notificació estic treballant, per ser 100% autèntic, pot ser, hi hauria de fotografiar el meu escriptori, la pantalla de l’ordinador i la meva cara d’enfastidit. Però si decideixo fotografiar el jardí que es veu per la finestra, estic mostrant altra part de la meva realitat en aquell moment: l’ànsia de la llibertat, de la naturalesa, de sortir a l’aire lliure després d’iniciar una jornada tancat a l’oficina. Ambdues publicacions mostren la realitat del moment, però les intencions i la perspectiva de la realitat són diferents. La foto de l’escriptori és descriptiva de l’acció que estic fent en aquell mateix moment, mentre que la foto del jardí expressa el desig que sento en el present.

    BeReal ha crescut ràpidament des que es va expandir als Estats Units des de França en l’entorn universitari. La novetat hi juga molt en aquest creixement, però també el concepte. És com un joc: ara tinc l’oportunitat de mostrar-me «autèntic» amb els meus amics amb la certificació d’una app que no em deixa «falsejar» el meu contingut. Les microcelebritats –o celebritats com Rosalía– també s’han sumat ràpidament al carro; ara poden mostrar-se més íntimament (que no autènticament) alimentant la seva identitat digital i, en el seu cas, la seva marca personal com a professionals del show business.

    Per cert, com sempre, Instagram ha reaccionat al creixement de BeReal com ho fa habitualment: copiant-se. Segons Alessandro Paluzzi (@alex193a) Instagram estaria treballant en la inserció d’una nova funcionalitat a l’app, l’IG Candid Challenges, que copiaria la mecànica de BeReal.

    Podem intensificar la mostra d’autenticitat a la xarxa, però, realment volem mostrar-nos autèntics?

    Traiem en clar que les xarxes socials són fàbriques de construcció d’identitat digital. Quan compartim el nostre contingut a les xarxes (la nostra vida, les nostres passions, etc.), sigui amb la intenció que sigui, estem inevitablement comportant-nos com a un personatge de nosaltres mateixos. El fet de participar en l’esfera pública digital ja deixa entreveure una voluntat d’agradar o desagradar amb el nostre personatge digital; sigui una cosa o una altra, volem afectar els altres amb el nostre contingut.

    Així doncs, les xarxes socials ens donen eines, perquè fabriquem de la millor manera el contingut que publiquem i li donem un format idoni perquè arribi a la major quantitat de gent i perquè el missatge pugui expressar-se «de la millor manera» complint la intenció de la nostra publicació.

    Si prescindim d’aquestes eines i de la capacitat lliure d’intervenir en les circumstàncies de la publicació del nostre contingut, potser guanyem en autenticitat a l’hora de mostrar la nostra vida als altres. Mai podrem mostrar-nos autèntics del tot, però sí més autèntics que si fabriquem el contingut en funció dels nostres interessos. Ara bé, volem fer-ho? Realment volem mostrar-nos autèntics?


    Caro Castaño, L. (2016) El discurso de la autopromoción y la autenticidad en las redes sociales: la marca personal y la microcelebridad en Área Abierta. Revista de comunicación audiovisual publicitaria 17 (3), 395-411. http://dx.doi.org/10.5209/ARAB.52438

  • Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    Quan arriba el final d’any comença a palpar-se el que ja és tota una tradició a les xarxes socials: l’Spotify Wrapped, un resum de tot el que has escoltat (només a Spotify, clar) durant l’any. La multinacional sueca et fa una anàlisi completíssima dels teus gustos: t’ho agrupa per artistes, t’ho agrupa per cançons, després per gèneres (per cert, la música catalana no és un gènere musical, companys) i a sobre cada any es treu de la màniga noves visualitzacions i categories divertidíssimes.

    Més enllà dels dubtes que et pugui resoldre o de les pistes que et pugui donar per conèixer els gustos de la persona que t’agrada, l’Spotify Wrapped té dues funcions principals: la primera és ajudar a la gent a definir-se, donar-li eines per a projectar-se i millorar els lligams emocionals dels usuaris entre ells i amb Spotify. L’app t’obsequia amb imatges que parlen sobre tu, patrocinades amb el logo de Spotify, perquè difonguis i comparteixis. No cal ni esmentar el valor que això suposa per la companyia de Daniel Ek. Incalculable.

    I és que Spotify va adonar-se prou d’hora del potencial que té explotar la dimensió social de la música. Fet i fet, a nivell de negoci, la mitjana d’hores que una persona passa escoltant música és força constant i els costos que té Spotify per recompensar als artistes no té gaire marge de millora. La companyia havia de pivotar el seu model de negoci capturant valor a través de l’explotació de dades i expandint-se en la part social. Però no una part social de connexió lliure entre individus (per això van eliminar el xat intern fa uns anys), sinó un part social a l’estil big tech: nosaltres et direm com t’has de relacionar de forma «mastegadeta» i a través de la nostra bonica interfície (les meves sinceres felicitacions pels front-end que treballen a Spotify).

    La segona funció que té el Wrapped d’Spotify és més profunda i estratègica: quantificar amb dades una cosa tan abstracta com el gust musical. Probablement, si li expliquéssim a una venedora d’una botiga de discos dels anys 80 que el 2021 és possible monitorar tots els àlbums i totes les cançons que escolta la gent i que la informació només pertanyerà a dos o tres actors globals (Spotify, Apple Music, Amazon Music) probablement li semblaria un futur distòpic.

    I és que escoltar música sabent que a final d’any hauràs de rendir comptes amb els teus seguidors té un efecte innegable en els hàbits d’escolta, ni millor ni pitjor, però sens dubte afecta i sinó que li diguin als que van forjar la seva identitat musical gràcies a last.fm.

    Aquesta tendència d’expressar gustos a través de mètriques que es converteixen en «KPIs de la personalitat» (Key Performance Indicators, indicadors per monitorar el rendiment) té unes conseqüències brutals en la indústria musical i es troben amb el mateix problema que tenen inherentment els KPIs a les empreses: que obliden tot allò que no està recollit en uns simples «numerets». No cal pensar massa per adonar-se de l’impacte que això pot tenir sobre els ecosistemes culturals locals.

    El mateix model és aplicable als objectius de lectura anuals de goodreads.com. En aquest cas, Goodreads és una (aparentment) inofensiva xarxa social per compartir, puntuar i criticar llibres a través de «reviews». El 2019 comptava amb 90 milions d’usuaris, sent així la major xarxa social d’aquest sector. A més, tradicionalment és considerada una plataforma que està a prop dels segments de literatura independent. En aquest cas, el Goodreads challenge t’anima a batre els teus propis rècords de lectura cada any i et dona una raó més per empassar-te cada vegada més ràpidament una certa quantitat de llibres. Just quan acaba la temporada dels resums comença l’època de marcar objectius anuals, curiosament és la mateixa pràctica que veiem en el món empresa.

    Llegir cada vegada més no hauria de ser preocupant si no fos perquè Goodreads pertany a Amazon des de 2013 i per l’espectacular control del gegant de Jezz Bezos sobre la cadena de valor de la indústria literària (mainstream i independent). Actualment, la base de dades de llibres més completa del món pertany a Amazon i les seves APIs estan disponibles a tothom que vulgui utilitzar-les. És certament difícil dedicar-te al món dels llibres i no haver de dependre d’Amazon d’una manera o altra. El mateix passa amb la música.

    Hi ha interessants a alternatives a Goodreads (per exemple, thestorygraph.com), però a la pràctica poden ser comprades en qualsevol moment pels gegants de les big tech (com va passar amb Goodreads, que es posicionava com obertament en contra d’Amazon) i no escapen d’aquesta «racionalització de les preferències culturals» que comentàvem amb els resums («tops») i els «challenges».

    Els riscos de tal concentració de poder no són únicament econòmics (aka pràctiques monopolístiques), sinó també democràtics: la cultura ha de donar eines per imaginar societats futures i avui en dia la seva distribució a nivell mundial depèn totalment d’actors amb interessos privats, cosa que ens afecta com a individus lliures. Els gegants tecnològics tenen centenars d’eines per aconseguir que certs segments de població consumeixin un determinat contingut i la cultura no en queda al marge.

    El consum offline i les bases de dades descentralitzades (com aquesta proposta de @tomcritchlow per als llibres) són algunes de les opcions amb les quals podem combatre la racionalització del consum cultural, en altres paraules, evitar tenir un consum controlable i previsible que es tradueixi en dades netes, fàcilment utilitzables per les big tech.

    No us fieu d’un Kindle doncs: només incrementa aquest control sobre el lector.

    I un altre dia parlem de Netflix.

    https://twitter.com/vynexathings/status/1477294069223243776
  • Com un tuit viral acaba convertint-se en una pel·lícula de Netflix?

    Com un tuit viral acaba convertint-se en una pel·lícula de Netflix?

    Les coses són abans de res càrregues significatives. Almenys ho són pels éssers humans que, malgrat que afirmem que coneixem què és l’aigua (H2O) no podem dir què és l’aigua amb molta més exactitud que dient: és un compost químic de dos àtoms d’hidrogen i un d’oxigen. «Compost», «químic», «hidrogen» i «oxigen» són paraules (formes) amb càrrega significativa que, sense ella, no són res més que guixots.

    Per tant, independentment que les coses siguin abans o després que les pensem o que «se’ns apareguin», per entendre-les se les ha d’atorgar o, si voleu, s’ha d’intentar extreure d’elles la càrrega significativa perquè la cosa pugui accedir a alguna part de la nostra consciència, preferiblement al nostre enteniment.

    No voldria que aquesta introducció pretensiosament metafísica eclipsés el que s’ha vingut a parlar en aquesta nota: el tuit viral de @Jamalhinton12 el 2016 ha acabat inspirant una pel·lícula, The Thanksgiving Text, que produirà Netflix.

    La història darrera d’aquest tuit viral és ben divertida. Són «pases que cosen». Jamal Hinton comparteix unes captures de pantalla d’un xat, on una persona el convida a passar el sopar d’acció de gràcies a casa seva. Hinton li demana que s’identifiqui, ja que l’altra persona assegura que és la seva àvia. La dona li envia una fotografia i Hinton respon amb una altra. No són àvia i net. Un error al teclejar malament un número de telèfon suposo, cosa que ens pot passar a tothom. La situació és tan simpàtica que la dona, Wanda Dench, acaba mantenint la invitació i Hinton ha passat des d’aleshores els darrers sopars d’acció de gràcies amb ella i la seva família.

    No només és que d’això es produeixi una pel·lícula, sinó que el fet que això hagi estat suposadament així s’ha convertit en la principal aposta de l’equip de màrqueting per promocionar-la. El missatge principal és així com «la pel·lícula que va néixer d’un tuit». I si aquí estem parlant d’això, de la mateixa manera que a mitjans digitals d’arreu del món, és que funciona. Que les coses ridícules funcionin en el món del màrqueting no ens ha de sobtar, però: el ridícul acaba sent el que mou els nostres interessos en el capitalisme, perquè –en aquest context– som ridículs i no és dolent ser-ho, a no ser que el que volem és ser dignes.

    De fet, aquest no és el primer tuit que es converteix en pel·lícula ni serà l’últim. Aquesta nota de La Vanguardia posa altres exemples com Zola (Janicza Bravo, 2020), Smiley (Michael Gallagher, 2012), Bad Ass (Craig Moss, 2012) o Pixels (Chris Columbus, 2015).

    No emboliquem més la troca. Diguem que la càrrega significativa és equivalent a parlar de contingut. Contingut i forma. Una pel·lícula és un producte audiovisual, realitzat i produït sota uns paràmetres concrets, insert dins una xarxa cultural complexa, que té la intenció primordial –com qualsevol altre producte– de retribuir amb beneficis econòmics als propietaris. Després hi ha conseqüències (o funcions) secundàries i molt poc innocents com referenciar aspectes culturals que es reprodueixen i consoliden en l’imaginari col·lectiu, interferint en la construcció de la realitat de la massa, i més coses per l’estil.

    La pel·lícula és, per tant, un «recipient» més que permet que el contingut prengui una forma que encaixi amb la silueta del nostre enteniment i que, per tant, puguem accedir a ell de manera satisfactòria i immersiva, sense esforços, estimulant els receptors (visual i auditiu) que creen les condicions més òptimes perquè desxifrem en la nostra consciència (sent o no conscients d’això) els codis culturals bàsics que darrere de l’aparença se’ns mostren.

    Altres recipients o formes són la música, les arts escèniques, els mems (d’això parla d’alguna manera Ainhoa Marzol en aquest article publicat al CCCB Lab), els textos siguin en el gènere que siguin o fins i tot els tiktoks (que des d’aquí defenso que en realitat són mems que han evolucionat i que «ara caminen»).

    Si això s’intenta entendre solament des d’un marc ontològic, si em permeteu, es poden dir moltes altres més coses que acabaran suposant un intent més d’explicar abstractament les dinàmiques culturals, entenent-les com les dinàmiques de relació de l’ésser existent amb allò que es diu la realitat. Però sabent que allò que diem realitat és una artificialitat cultural construïda per subjectar les consciències que es mouen en la més insuportable contingència; això és, tenint com a premissa que estem travessats per dinàmiques de poder, interessos, valors abstractes, vides organitzades sota institucions objectivades que limiten les possibilitats de la nostra existència, condicions preestablertes per la forma que va prenent la nostra consciència els primers anys de vida en funció de les condicions que ens ha tocat viure, etc.; tenint tot això en compte, hem de parlar d’aquestes formes, recipients o artefactes com a «productes» amb un valor abstracte intercanviable en el context de mercat.

    Les noves formes de consum i la narrativa transmèdia

    Si la càrrega significativa (el contingut) ha hagut de prendre una forma compatible amb la nostra consciència per possibilitar que accedeixi al nostre enteniment, la forma que ha pres (el producte cultural) ha de moure’s per un circuit de mercat que possibiliti que podem accedir materialment a ell. És a dir, si no paguem l’entrada de cinema no veiem la pel·lícula.

    Tot i que això d’entrada del cinema queda molt antiquat; ara paguem la subscripció a Netflix, HBO Max, Disney +, Movistar, Amazon Prime Video, Filmin, etc. Què dic! Si ens podem baixar la pel·lícula per torrent o fins i tot veure-la online en una web piratilla.

    Totes aquestes possibilitats d’accedir materialment al producte cultural (en aquest cas només estic posant com a exemple pel·lícules, però poden ser àlbums de música, llibres, diaris, revistes, etc.) són relativament noves, possibles gràcies a internet i les noves tecnologies de la comunicació.

    El fet que hi hagin tuits que inspirin pel·lícules és una conseqüència del règim de consum en el qual ens trobem ara: un entrecreuament entre les formes de consum antigues (pre-internet), ja sabeu: comunicació vertical de dalt a baix, unidireccional, etc.; i les formes noves de consum més horitzontals, més democràtiques, multidireccionals, etc.

    L’acadèmic i professor de comunicació, Henry Jenkins (2008), ha estudiat les conseqüències de l’entrecreuament dels vells i nous mitjans, i com això afecta els hàbits de consum i la creació de la informació, el coneixement i la cultura popular. A Convergence Culture, Jenkins parteix de la premissa que els mitjans tradicionals i el digital convergeixen en nou paradigma mediàtic, propiciant determinats canvis en l’esfera social, cultural i —per descomptat— comunicativa.

    La nova narrativa transmèdia implica processos de comunicació en què els consumidors, a diferència del paradigma dels mass media tradicionals, adopten un paper actiu. El mitjà digital torna difusa la relació entre productor i consumidor ara que aquests últims tenen accés als recursos per produir i difondre els continguts mediàtics. Això disposa un univers comunicatiu on els usuaris generen, comparteixen i consumeixen continguts que circulen per múltiples canals de maneres complexes. A més, contràriament a les estructures comunicatives bidireccionals i verticals del paradigma tradicional, les relacions a la xarxa s’estableixen de manera horitzontal, el que comporta, es podria dir, una democratització mediàtica.

    Les noves formes d’interacció social i l’accés als recursos digitals suposen pels usuaris una oportunitat per participar de la construcció de la seva pròpia cultura, i promouen la socialització del coneixement, el que Jenkins anomenarà «intel·ligència col·lectiva».

    És justament per això que a base de publicacions a xarxes els consumidors (ara prosumidors) podem influir en el desenllaç o desenvolupament de la història d’una sèrie o en la línia editorial d’un mitjà de comunicació.

    La revolució digital, per tant, també transforma l’economia cultural tal com es plantejava al segle XIX i a la primera meitat del XX. La cultura popular es transforma, en la seva adaptació a les noves condicions tecnològiques. Els models de la cultura tradicional segons els quals l’audiència o públic es limita a consumir el producte cultural queda relegat en el mitjà digital, on el llenç i la pintura queden reemplaçats per jpg i conjunt dades. Lessig (2008) identifica l’economia cultural tradicional com a cultura read-only o «només lectura» i ho distingirà de la cultura read-write.

    El mitjà digital permet accedir més fàcilment a la manipulació del producte cultural, sobretot gràcies al canvi del suport físic al virtual. Els fenòmens d’apropiació i transformació dels productes proliferen, en la mesura que els consumidors també tenen accés a eines de producció i difusió. Això inverteix les velles relacions jeràrquiques entre productor i consumidor, i predisposa un panorama de diàleg entre iguals. En aquest context, els usuaris propaguen els continguts per la xarxa, en la seva llibertat per compartir en funció dels seus propis propòsits, independentment si tenen o no drets d’autoria (Jenkins, Ford, & Green, 2015).

    En definitiva, la convergència mediàtica comporta una sèrie de transformacions culturals que van més enllà dels canvis en la forma de distribució i de consum dels continguts mediàtic i artefactes culturals. Ha confeccionat una nova societat connectada, multiplicant les capacitats de treball conjunt.

    Potser algun dia un tuit teu es converteixi en pel·lícula. Això vol que creguis Netflix. No crec que passi, però més enllà d’això, que existeixi la més mínima possibilitat és un bon camí pels qui creiem que les noves formes de consum fan al conjunt de la societat connectada un artista en continua discussió amb si mateix.


    Jenkins, H. (2008). Convergence Culture. Barcelona: Paidós.

    Jenkins, H., Ford, S., & Green, J. (2015). Cultura Transmedia. La creación de contenido y valor en una cultura en red. Barcelona: Gedisa.

    Lessig, L. (2008). Remix. Cultura de la remezcla y derechos de autor en el entorno digital. Barcelona: Icaria.

  • Un futur inevitable? Governança algorítmica i algocràcia (II)

    Un futur inevitable? Governança algorítmica i algocràcia (II)

    Al final de la primera part, vam deixar clar que la burocràcia vol automatitzar l’Estat tant com pugui per qüestions d’eficiència, tal com assegurava Velsberg, amb l’objectiu final d’eliminar tot element humà: deixar que les màquines segueixin les regles absolutes del funcionariat. Encara que ja vam veure perquè això és complicat, si no impossible, en aquesta part tractarem de veure com de prop pot estar l’algocràcia i si és o no inevitable.

    Un exemple d’algocràcia, relativament benigne però que encara així ha tingut polèmica, és el dels exàmens d’accés a la universitat al Regne Unit en 2020. Aquest cas no concerneix la política a nivell governamental, però sí al públic, a la justícia i la igualtat entre ciutadans. Durant la quarantena de març a juny de 2020, la falta d’atenció dels professors sobre els seus alumnes a Europa va portar al fet que es prenguessin mesures diverses, des de la proposició d’un aprovat general a canvis que s’han materialitzat en la nova llei d’educació LOMLOE a Espanya; però el cas britànic va ser particular, ja que es va demanar als professors que valoressin de manera justa als seus alumnes i prediguessin quina nota els haurien posat a final de curs. Aquesta nota seria estandarditzada en comparació amb la resta d’alumnes del curs i les notes d’altres alumnes que haguessin fet el mateix curs (Ofqual, 2020). En conjunt les notes estandarditzades van ser menors que les valoracions dels professors en un 36% dels casos (BBC, 2020).

    Però l’estandardització ocorria només quan les classes tenien una grandària de 15 o més alumnes; en aquelles amb menys, la nota no s’estandarditzava, sinó que era la valoració dels professors. El problema sorgeix quan això es connecta a l’existència de classes petites en col·legis privats o de ràtios d’estudiants/professor molt menors en barris rics; aquells amb més diners tenen més facilitats de tenir una nota que no passés per l’estàndard, sinó que era la que dictés el professor, augmentant les possibilitats que entressin en la universitat que volguessin sobre uns altres potser més aptes. Un altre problema dels algorismes al govern.

    A nivell legal, Lord Falconer, Secretari de Justícia en l’ombra, explicava que l’algorisme violava diverses lleis (Elgot & Adams, 2020). A nivell ètic, el problema no resideix en el que l’algorisme considera, sinó en el que no considera, i recau en el mateix problema a doble nivell que ja hem explicat amb COMPAS: tracta d’estandarditzar valoracions parcials sense tenir en compte que l’algorisme tampoc és imparcial, sinó simplement cec i propens a reproduir les parcialitats humanes.

    Però també hi ha exemples més distòpics, com el difamat sistema de crèdit social implementat a la República Popular de la Xina, potser el més pròxim a un sistema de algocràcia social. El sistema de crèdit té en compte accions del ciutadà, tant negatives (creuar un semàfor en vermell, fumar on està prohibit) com a positives (donar sang, donar suport al govern), a través de diversos dispositius tecnològics com les càmeres amb reconeixement facial a través d’algorismes i tecnologia big data. De les conseqüències d’això s’ha discutit bastant: des de prohibir viatges amb tren o avió a aconseguir millors llocs en l’administració o l’educació dels fills; prohibicions que ja han ocorregut en sistemes autoritaris anteriors, però que són encara més fàcils de dur a terme amb tecnologia i algorismes.

    Per descomptat, el sistema és molt més complicat, com admet Matsakis (2019), i molt menys avançat i orwel·lià del que alguns creuen. Però ja han aparegut implicacions no sols legals sinó també filosòfiques. El sistema ha estat fortament criticat des d’Occident per ser una violació del principi de rule of law, i fins i tot des de la Xina, com explica Kui (2019), qui admet «les dificultats a l’hora de construir un sistema estàndard de crèdit social» que siguin compatibles amb drets fonamentals. Però fins que punt viola el rule of law el sistema xinès? Una decisió presa pel govern i executada per l’Estat no és il·legal, sinó que segueix la llei, però, no obstant això, pot violar principis que van més enllà de la legalitat, entrant en el debat de la filosofia política sobre si existeixen uns drets fonamentals i ahistòrics (com pot defensar el liberalisme) o si el que decideixi la comunitat ha de ser llei (com defensa el comunitarisme). És d’especial interès l’article de Kostka (2019), qui explica que el sistema ha sigut ben rebut entre els ciutadans xinesos, argumentant que ho interpreten com una prova d’honestedat al ciutadà en lloc d’una violació de la privacitat.

    Abans de concloure amb algunes consideracions, uns últims exemples: primer, Cybersyn, projecte xilè que va ser planejat durant el (curt) govern de Salvador Allende. Cybersyn va ser un sistema de processament de dades trencador per a la seva època (entre 1971 i 1973), que tenia l’objectiu de rebre les dades de diverses fàbriques d’empreses estatals (com els inputs necessaris i els outputs a produir, a més de les ràtios de producció dels treballadors) en el curt termini, processar-los a través de programari estadístic i tornar a manar-los a les fàbriques. Al cap i a la fi, no era un sistema tan diferent de la resta d’empreses del món (els treballadors comuniquen una informació de baix a dalt i els directius donen ordres sobre la base d’aquesta informació de dalt a baix), però el processament de dades gairebé instantani és el que el separava (i continua separant) d’altres empreses. Com la resta d’avanços del govern d’Allende, Cybersyn cauria amb el cop d’estat de Pinochet, però la seva idea no moriria: amb altres avanços teòrics en la cibernètica soviètica, inspiraria als enginyers computacionals i socialistes Paul Cockshott i Allin Cottrell (1993, 86-88). En la seva obra, Cockshott i Cottrell tenen com a objectiu demostrar la viabilitat d’una economia planificada i democràtica sobre la base dels avanços cibernètics recents i els sistemes de programació lineal del matemàtic Leonid Kantorovich. Si bé les seves idees han sigut criticades des de cercles de l’esquerra per pressuposar un capitalisme d’Estat amb l’únic avanç de la cibernètica, les possibilitats que pot obrir la cibernètica en l’economia en una futura algocràcia són dignes d’estudi, reconeixement i discussió.

    Per a concloure, tornem a l’actualitat: COVID19, algocràcies i el futur. Diversos sistemes de rastreig de positius a través de la tecnologia (ubicació, dades, etc.) poden encaixar en el concepte d’algocràcia en suposar l’ús de la informació que es pressuposa privada pels poders públics darrere d’un bé col·lectiu. Però aquests sistemes han sigut criticats per suposar una invasió de la privacitat de l’individu: quin dret té el govern a conèixer la ubicació del meu mòbil per a saber si he entrat en contacte amb un positiu? Fins a quin punt és invasiu? I, més important encara, estableix un precedent? El control sobre la població amb mitjans de coerció indirecta, és a dir, no violenta (com la tecnologia), ha sigut estudiat per teòrics polítics i filòsofs des de Foucault, però algunes veus assenyalen que pot tornar-se més intens davant un possible col·lapse eco-social. En aquest cas, argumenten que unes certes decisions preses a la lleugera com la violació de drets fonamentals (com el dret a la privacitat a una algocràcia) estableixen precedents per a altres casos molt pitjors en els quals el govern pugui al·legar que aquestes mesures són necessàries per a preservar el bé col·lectiu. En conjunt, el que podem dir és que les mesures preses en l’actualitat poden afectar-nos en un futur i, per això, no haurien de ser preses a la lleugera.

    A l’hora d’arribar a les conclusions, hem de dir que l’algocràcia és una forma més de configurar l’Estat, canviant una burocràcia tradicional, humana, per una digital i mixta o directament només controlada per algorismes. Els algorismes, com a tal, són una eina: són creats per un humà i, per tant, contenen les seves subjectivitats, llavors no es pot esperar d’ells un comportament objectiu i imparcial, sinó simplement cec. Per això, cal vigilar l’automatització de l’Estat; cuidar-nos de què no violi els nostres drets i llibertats fonamentals i exigir la màxima transparència possible. A més, el govern ha de respondre sobre els seus algorismes i, per això, és previsible un consens a la UE, que ha sigut, de manera consistent al llarg de la seva història, l’organització més avançada en termes de regulació de tecnologia i dades (Ebers & Cantero Gamito, 2021).

    Respecte a les consideracions legals, la introducció de la justícia algorítmica en el poder judicial ha de ser vigilada amb especial cura als països que segueixin sistemes de common law, donada la propensió que pot tenir l’algorisme a reproduir injustícies passades. Però a nivell general, es torna a repetir el fonamental: transparència i, abans de tot, responsabilitat governamental respecte a l’algorisme.

    A nivell ètic i filosòfic, hem de qüestionar i examinar si la implementació d’algorismes és justa i necessària o no –no automatitzar per fer una burocràcia més eficient. Els algorismes han d’estar al servei de la ciutadania, no de l’Estat com a tal. I, de nou, hem de vigilar la defensa de drets i llibertats que gaudim, sempre amb la perspectiva que no hem de donar-los per descomptat –ni en el present ni en el futur.

    I finalment, podem respondre a les dues preguntes que plantegem al començament de l’article. Primer, una algocràcia presta moltes i diferents formes, des d’organismes de control pròxims més benignes (COVID19 a Occident) o més autoritaris (el sistema de crèdit social xinès, COMPAS) a eines de e-government (Estònia, Ofqam) i fins i tot projectes d’economia estatal (Cybersyn, el projecte de Cockshott i Attrell), però també molt més que, potser, encara no podem imaginar. I també hem vist que l’algocràcia no és un projecte futurista a llarg termini, sinó que es troba ja implementat (o en vistes d’implementar-se) a molts Estats; de fet, enguany es compleixen 50 anys de l’inici del projecte xilè de planificació econòmica. Però l’algocràcia encara està per venir i encara podem canviar perquè s’apliqui pel benefici públic. Com tot algorisme, l’algocràcia és una eina que pot ser utilitzada de diferents maneres. Com s’utilitza ho haurem de decidir nosaltres.

  • Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Avui en dia, hi ha moltes notícies sobre noves aplicacions d’intel·ligència artificial d’allò més útils i curioses. I normalment, quan s’intenta explicar com funcionen es diu que estan basades en “algoritmes de Machine Learning”. Però… para el carro, que aquell dia alguns no vam anar a classe. Què són els algoritmes? Què és el Machine Learning?

    Comencem pel principi. Quan parlem d’algoritmes ens imaginem programadors súper intel·ligents i segurament una mica excèntrics teclejant a gran velocitat. Però, de fet, un algoritme és un conjunt d’instruccions ordenades i finites que permeten resoldre un problema. Com, per exemple, quan els nens de primària aprenen a dividir. I quan segueixo una recepta de cuina estic fent servir un algoritme? Doncs tinc bones notícies per tu, Pitàgores dels fogons, ja que en cert sentit sí.

    Anem a veure com solien crear-se els algoritmes i com el Machine Learning els ha revolucionat.

    Enfocament tradicional: regles definides per humans

    Abans, per resoldre un problema, unes persones definien unes regles, les aplicaven, avaluaven el resultat i segons el rendiment que obtenien, les donaven per bones o les anaven ajustant.

    Posem un exemple molt senzill. Imagineu-vos que un banc vol saber si ha de concedir o no un crèdit a un client, segons si preveuen que aquest acabarà tornant els diners. Quan una persona sol·licita un préstec, se li pregunten un munt de coses: la nòmina, el patrimoni, la situació familiar, els rebuts… Suposem que, basats en la seva experiència, els banquers consideren que els criteris per concedir el crèdit han de ser els següents:

    1. Que tingui nòmines els últims 12 mesos
    2. Que no existeixin altres deutes
    3. Que la quota de devolució del préstec, sumada als rebuts, no superi la nòmina

    Aquest algoritme del banc pot ser eficaç o no. Si hi ha molts impagaments, l’hauran d’anar arreglant en el futur. Però no li veieu un problema a aquest mètode? Aquests criteris potser no són els millors. N’hi poden haver d’altres molt més encertats que ni se’ls han passat pel cap. I com ho podem resoldre? Donant-li el poder a les màquines.

    Nou enfocament: aprenentatge automàtic

    Canviem una mica la perspectiva. Imagineu que aquest banc porta concedint crèdits a clients durant molts anys, alguns dels quals els han tornat els diners i d’altres no. Podem suposar que les persones que no tornaran els préstecs en el futur tindran situacions similars a les que van tenir els morosos del passat. I si aprofitem tot aquest coneixement que ja tenim per identificar aquests escenaris? Però aquest cop, en lloc de ser els humans els que interpretin la informació, ho faran les màquines. L’aprenentatge automàtic, més conegut pel seu terme en anglès Machine Learning, consisteix a donar als ordinadors la capacitat d’aprendre de les dades sense haver de dir-los explícitament com ho han de fer.

    I com es fa això? Primer, necessitem recollir totes les dades disponibles dels clients dels últims anys: quant ingressaven, el sector on treballaven, en què gastaven, quina situació familiar tenien, on vivien… i ho guardarem en variables diferents. A més, com que són dades del passat, tenim sobre ells la informació clau: si van tornar el préstec o no.

    A partir d’aquí, l’ordinador pot utilitzar molts mètodes diferents per esbrinar quina relació hi ha entre les variables i quines tenen més pes a l’hora de determinar si algú torna o no el crèdit. Tot aquest procés s’anomena entrenament. I amb aquest coneixement, el procés de Machine Learning obté un model. Quan un nou client demana un préstec, se li registra tota aquesta informació i, amb els criteris que ha après la màquina, el model decideix si es concedeix o no.

    Però tornem a la pregunta inicial. Per què es diu que les màquines aprenen? Perquè com més dades tingui el model, millors conclusions podrà treure. I a mesura que passi el temps i vagi registrant nous clients que tornen o no el préstec, es podrà adaptar a la nova realitat i millorar les conclusions.

    Quins avantatges té el nou enfocament sobre l’original?

    1. La màquina descobreix patrons amagats en les dades que als banquers se’ls van passar per alt. Qui sap, potser els factors més importants són el percentatge d’atur en el seu sector laboral i la despesa que fan en oci nocturn. D’això se’n diu Data Mining.
    2. Si en un futur els motius d’impagament canvien no caldrà que ningú modifiqui l’algoritme, ja que l’ordinador ho farà automàticament.
    3. Alguns problemes són tan complexes que els humans som incapaços d’escriure un algoritme per resoldre’ls. En canvi, l’aprenentatge automàtic ho pot fer per nosaltres.

    Ara que ja sabem que el Machine Learning és en general més òptim, sorgeix una nova pregunta. És més just? Els banquers que van fer el primer algoritme podien estar carregats de prejudicis, ja que és probable que les persones de classes baixes o barris marginals tinguin major tendència a patir certs problemes que els impedeixin aconseguir un crèdit. El criteri de la màquina, en principi, no té cap prejudici. Però no hem d’oblidar que està aprenent d’unes dades passades que formen part d’una societat discriminatòria. Per tant, és possible que les conclusions que el model extregui de cara al futur reforcin aquesta discriminació. La relació entre l’ètica i la intel·ligència artificial per evitar aquests problemes és un dels grans reptes d’aquesta dècada.

    Les aplicacions de l’aprenentatge automàtic van molt més enllà de la nostra imaginació: detectar tumors en escàners cerebrals, resumir documents automàticament, crear vehicles autònoms, recomanar pel·lícules als usuaris de Netflix, predir els beneficis d’una empresa el proper any, classificar seqüències d’ADN… La llista és inacabable. Estem davant de la nova pedra filosofal del món de la tecnologia, ja que el Machine Learning és el futur. I, senyores i senyors, el futur ha arribat.

  • Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Fa uns dies el Fòrum Econòmic Mundial (2021a) feia públic un «manifest millennial» que destacava entre els seus punts la cerca de canvis en el sistema a través de l’acció col·lectiva. Un punt que sona radical i trencador per venir dels «homes de Davos», una petita elit sovint criticada per la falta de transparència en les seves finances (Busse, 2017) o per la instrumentalització de la seva institució com a arma política o lobby (Delivorias, 2016). En la seva versió ampliada, un informe elaborat a partir de conferències, entrevistes i enquestes a més de dos milions de joves a tot el món, es descobreixen detalls que no apareixen en la nota de premsa: es recomana que els canvis, que concerneixen la transició digital de la política, vinguin des de fora (a través de la filantropia (World Economic Fòrum, 2021b, 18)) i no des de dins de les institucions. Per exemple, es parla d’un estàndard ètic sobre la tecnologia comú a totes les empreses (ibíd., 26-28), la introducció d’una Convenció de Ginebra per a la ciberseguretat (ibíd., 18) o la major confiança dels joves en un govern operat per intel·ligència artificial que en un governat per polítics (ibíd., 5). Aquest últim punt és el més interessant i és el que explorarem en les dues parts d’aquest article. La primera i present actuarà com a introducció i tractarà tant la terminologia com dos casos relatius a processos judicials i algorismes. La segona tractarà la possible inevitabilitat de l’algocràcia amb exemples passats i presents.

    No es pot evitar el fet que la política i els polítics provoquen cada vegada més desafecció entre els joves. Encara que això no sigui res nou, sí que és fonamental entendre que el fracàs dels «moviments de les places» (Endnotes, 2013) com Occupy Wall Street als EUA, la Revolució blanca a Egipte o el 15-M a Espanya i la transformació a les seves subseqüents manifestacions polítiques (Unidas Podemos) són l’agreujant que gran part de la joventut no confiï en la democràcia. De fet una part considerable de la població preferiria estar governada per una IA que per un polític de carn i ossos. No discutirem el perquè d’això, sinó les conseqüències que pot tenir aquest govern d’algorismes: com seria una «algocràcia» i què lluny estem d’ella?

    Entrem en terminologia; primer, definicions comunes a la ciència política; segon, definicions derivades relatives a la tecnologia. Des d’un principi hem de diferenciar entre Estat (Mark Bevir (en Caminal, 2004) defineix l’Estat com una forma d’organització social que concentra el poder en un espai petit i que precisament per això ha evolucionat com a dominadora de la resta d’organitzacions socials) i govern (on està concentrat el poder, incloent en conjunt els poders públics la funció dels quals és dirigir a l’Estat (ibíd., 427-430)); i després entre govern i governança (o govern relacional, que Bevir (2012) defineix com els processos de govern sobre organitzacions privades com a famílies o tribus a través de lleis i normes, i no sempre amb la coerció de l’Estat). Podem dir que l’Estat conté a l’administració i el govern i, de manera jeràrquica, de dalt a baix, les decisions del govern manen sobre el funcionariat; mentrestant, la governança és l’activitat entre els actors civils i els poders públics a través de l’Estat.

    Com ampliem això a la tecnologia? Aquests tres termes (Estat, govern, governança) se solen barrejar en una sola contrapart digital: algocràcia, terme encunyat pel sociòleg Aneesh Aneesh. Aneesh (2006) contraposa l’algocràcia a la burocràcia estatal tradicional, ja que tant l’algorisme com el funcionari segueixen la mateixa funció des del punt de vista del govern: acatar les seves ordres i actuar com a eina de l’Estat. No obstant això, un algorisme és cec, tot i que no imparcial. És cec ja que no considera el cas, sinó que és implacable, i per això és norma absoluta en el sentit que no considera cap particularitat. És parcial, però, en el sentit que no s’ha creat a si mateix, no s’ha dotat d’objectivitat. No està fora del sistema, sinó que reprodueix la subjectivitat i parcialitat del seu creador. Per això, tot algorisme ha de ser examinat a fons, per valorar si la seva subjectivitat pot ser nociva per a un o més col·lectius, o per a tota la societat, com observarem d’ara endavant: a qui afecta l’algorisme? Com podem (si hem de) remeiar-ho?

    Una última nota sobre terminologia abans de continuar: e-democracy, e-government i e-governance no han de ser llançats en el mateix sac que l’algocràcia, encara que tinguin coses en comú. L’e-democracy és una forma de govern més que advoca per la democràcia directa i digital i que va ocupar titulars durant el 15-M, encara que avui dia a Europa sigui residual sota el Movimento 5 Stelle italià i algunes propostes a Estònia. És completament aliè a l’algocràcia, perquè l’algocràcia pot existir amb models electorals tradicionalsl’e-democracy pot donar-se amb burocràcia tradicional. Són dues esferes que no tenen per què superposar-se. D’altra banda, l’e-government és qualsevol forma de connexió entre govern i altres actors (o el govern mateix) per mitjans electrònics, com la publicació de resolucions de beques per internet; en això entra l’e-governance, eines que faciliten l’e-government com el DNI electrònic.

    L’algocràcia no està tan lluny. De fet, es pot dir que la majoria de països occidentals ja tenen petites components d’algocràcia en les seves burocràcies; comencem amb l’exemple del sistema COMPAS, que ja discutim en la nostra introducció a l’ètica algorítmicaCOMPAS és un algorisme que té l’objectiu de donar suport a les decisions penals calculant la probabilitat de reincidència d’un (possible) condemnat: com més gran sigui la probabilitat, major serà la condemna proposada. Que això sembli desproporcionat és normal: les variables que utilitza l’algorisme (edat del primer arrest, problemes en el sistema educatiu, cooperació amb la policia) proposen un problema en dos nivells: primer, com se suposa que és COMPAS un sistema imparcial i cec si les seves valoracions depenen de valoracions donades per humans que no són ni imparcials ni cecs? Segon, per què l’enginyer darrere de l’algorisme ha triat aquestes variables i no altres? Però el problema fonamental, i que separa a COMPAS d’altres casos, és el de la privacitat: les dades que usa l’algorisme són dades a les quals no podem negar el consentiment atès que són de domini públic.

    Això ho separa, per exemple, de la prova pilot de la IA jutgessa a Estònia (Niiler, 2019). Estònia té un llarg historial (gairebé dues dècades) de serveis digitals, com un ID electrònic, vot per internet o pagament d’impostos, però a principis de 2019 va fer un salt qualitatiu amb una prova pilot d’un jutge basat en IA per a casos petits, com a contractes on les demandes no superessin els 7000€. El sistema és aquest: demandant i demandat pugen els documents rellevants al cas i presenten les seves al·legacions, la IA (que és en essència un chatbot) cerca entre els documents legals relatius i presenta la resolució del cas. Encara que tots dos tenen un objecte comú (la justícia i la digitalització del poder judicial), i fins i tot l’exemple d’Estònia va més enllà de l’americà (mentre que COMPAS és un algorisme de suport i recomanació, en la prova pilot estoniana la IA decidia i resolia per si mateixa, encara que després podia ser apel·lada davant un jutge), el cas estonià no és tan invasiu com l’estatunidenc. Mentre que a Estònia es requereix una acció positiva (estar d’acord amb el sistema d’IA i donar el consentiment amb la pujada dels contractes), als EUA no és necessari estar d’acord perquè el sistema penal faci la seva part.

    Això ja ens deixa amb alguns punts fonamentals de l’algocràcia que són comuns a l’ètica algorítmica general: consentiment de les dades, publicitat de la informació i transparència dels algorismes. No obstant això, hem de seguir alerta: fins i tot en el cas d’Estònia, l’encarregat de la implementació de la jutgessa IA i altres diversos sistemes relatius als algorismes, Ott Velsberg, ja avisa que l’objectiu és «eliminar l’element humà» de la justícia (Shelton, 2019), el que ens recorda novament que l’algorisme no és més que una cristal·lització d’una subjectivitat del creador. A més, diversos acadèmics ja han mostrat les seves reserves respecte als dilemes legals que pot presentar l’ampliació dels algorismes a la justícia no sols com a recomendadors (Kerikmäe & Pärn‑Lee, 2020). Un altre problema que pot presentar una intel·ligència artificial en sistemes de common law (cosa que al Mediterrani i altres països basats en el dret romà no afecta, però en el món anglosaxó sí) és que les resolucions reprodueixin injustícies passades (Park, 2020): en el sistema de common law la jurisprudència té primacia sobre la llei, llavors els precedents legals (resolucions de jutges humans) influeixen en els casos actuals i futurs (resolucions d’IA). Això frustraria un dels objectius fonamentals de la justícia algorítmica, i potser de l’algocràcia en general: eliminar les injustícies que sorgeixen de les parcialitats humanes.


    Aneesh, 2006: Aneesh, A. (2006). Virtual Migration. Darhom: Duke University Press.
    Bevir, 2012: Bevir, M. (2012). Governance: A very short introduction. Oxford: Oxford University Press.
    Busse, 2017: https://www.sueddeutsche.de/wirtschaft/davos-das-weltwirtschaftsforum-ist-zu-einer-geldmaschine-geworden-1.3334817
    Caminal, 2004: Caminal, M. (Editor). (2004). Manual de Ciencia Política. Madrid: Tecnos
    Delivorias, 2016: https://www.europarl.europa.eu/RegData/etudes/BRIE/2016/573928/EPRS_BRI(2016)573928_EN.pdf
    Endnotes, 2013: https://endnotes.org.uk/issues/3/en/endnotes-the-holding-pattern
    Niiler, 2019: https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/
    Kerikmäe & Pärn‑Lee, 2020: https://link.springer.com/content/pdf/10.1007/s00146-020-01009-8.pdf
    Park, 2020: https://hir.harvard.edu/your-honor-ai/
    Shelton, 2019: https://www.abc.net.au/news/2019-06-16/estonia-artificial-intelligence-technology-robots-automation/11167478
    World Economic Forum, 2021a: https://www.weforum.org/agenda/2021/08/the-millennial-manifesto-outlines-principles-for-an-inclusive-future/

  • La protesta dels riders guanya: Glovo rectifica l’algoritme injust

    La protesta dels riders guanya: Glovo rectifica l’algoritme injust

    El sindicalisme està de moda a tech. Els últims mesos hem vist com diversos moviments als EUA anaven guanyant rellevància a xarxes i als seus respectius llocs de treball. Google, Kickstarter, Glitch, Pitchfork i Amazon són exemples d’empreses on hi ha hagut conflictes laborals que han transcendit els murs de les oficines i han aterrat a Twitter recentment. A Barcelona és la lluita dels riders la que ha estat protagonista a xarxes (i als carrers) aquests darrers dies.

    Després que Deliveroo anunciés la retirada de Barcelona fa unes setmanes (no se sap si serà permanent o tornaran tan aviat com hi hagi una engruna de benefici per rascar «a la Cabify»), semblava que el panorama del delivery se l’haurien de repartir Glovo, Uber Eats i Just Eat. La nova Llei Rider, presentada precisament per regular el sector, ha posat de manifest que les plataformes de delivery Glovo i UberEats han de canviar els seus models de negoci si no volen quedar fora de la legalitat.

    La resposta de Glovo ha estat canviar un model de retribucions que augmenta encara més la competència entre riders, deixant-los escollir la tarifa amb què volen ser remunerats (mitjançant un coeficient multiplicador d’entre 0,7 i 1,3), premiant els repartidors que accepten treballar per menys diners i penalitzant a la resta.

    David Martínez, rider afiliat a la CGT comenta a El Salto Diario: «vaig començar amb el coeficient de 1,2 i no em sortia res, per això em vaig veure obligat a ficar-me 0,9». Explica també que aquest coeficient significa que «per guanyar el mateix que abans, ara haig de treballar 3 hores més al baixar la tarifa».

    Aquesta situació ha estat el principal desencadenant de l’enuig dels riders que han sortit al carrer aquests darrers dies frenant milers de comandes. Com no són treballadors assalariats no es parla pròpiament d’una vaga. No obstant això, els riders han demostrat que és possible organitzar-se en un sector tan atomitzat com el del delivery, que tendeix a impossibilitar la creació d’espais per compartir experiències laborals.

    L’última notícia és que Glovo ha rectificat l’algoritme amb què havien d’esquivar la «Llei Rider», eliminant els tres coeficients més baixos. Les xarxes ràpidament s’han fet ressò aquest matí:

    https://twitter.com/teodelacalle/status/1427939656365232130

    Com afirmen els actors involucrats, la lluita no acaba aquí i una de les complexitats serà el seguiment de l’algoritme que les plataformes utilitzen per adaptar-se a la nova Llei Rider. Segur que hi haurà noves entregues de «Les Guerres Riders» ben aviat. Ara per ara és essencial l’anàlisi eticopolític de l’algoritme, des de diferents punts de vista, combinat amb l’impacte quantitatiu que tindrà sobre els treballadors.

    Recomanem seguir el conflicte a través dels següents perfils de Twitter:

    @ridersxderechos
    @cjuarespalma
    @GessamiForner
    @uri__soler
    @cgt_delivery
    @project_gig

  • El clima polític a TikTok: un format i un algoritme que ho possibiliten

    El clima polític a TikTok: un format i un algoritme que ho possibiliten

    TikTok s’ha mantingut en una tendència creixent en la competència per l’atenció dels usuaris. No és casualitat que l’ex-president dels Estats Units d’Amèrica, Donald Trump, volgués legislar per prohibir l’aplicació xinesa al país nord-americà al·legant motius de seguretat nacional.

    Segons la revista Forbes, ByteDance, l’empresa propietària, TikTok és la start up més valuosa del món i el seu propietari, Zhang Yiming, la novena persona més rica de Xina.

    A diferència d’Instagram, TikTok està esdevenint una eina més versàtil per generar continguts més variats i contenir-los en les onades de vídeos que en els swipe up i swip down els usuaris consumim. La viralització dels continguts és molt més senzilla que en altres aplicacions i, sobretot, més accessible. L’algoritme posa a disposició de milers d’usuaris qualsevol vídeo independentment que estigui més o menys elaborat, deixant en mans de la inèrcia cultural del moment –i l’interès que pugui suscitar en els usuaris amb més capacitat de difusió– la realització del potencial per viralitzar-se.

    L’algoritme de TikTok aparentment vol trencar amb l’efecte bombolla. Per això, tot i que el teu feed estigui configurat per ensenyar-te el contingut que t’agrada (determinat pels teus likes, shares, comments, follows i el contingut que publiques al teu perfil), també deixa caure continguts fora d’aquesta bombolla trencant la constant. Això és inimaginable a Instagram, per exemple.

    El periodista Orlando Mendiola ho expressa en primera persona en un article per Wired titulat I Found My Niche on TikTok—You Can Too on explica la seva experiència amb TikTok i com va aconseguir assentar un gran nombre de seguidors amb contingut sobre música i vinils.

    Abans d’unir-me a TikTok, sempre estava dubtant sobre què publicar a Facebook, Twitter o Instagram. Un cop a TikTok, immediatament vaig sentir una espècie de consol en publicar. Ara entenc per què és popular: és accessible. Qualsevol pot tornar-se viral. No hi ha necessitat de posar una façana com en altres xarxes socials. La pàgina «per a tu» et mostra tot i qualsevol cosa. Després de seguir i interactuar amb altres comptes, la pàgina pot tornar-se molt específica respecte als gustos de continguts. Els creadors més populars van ser populars perquè van crear el seu propi nínxol i van aconseguir seguidors basats en aquest nínxol, una cosa que jo també estava tractant de desenvolupar.

    No obstant això, tampoc m’agradaria deixar de banda la darrera informació publicada respecte a la política de moderació de TikTok per la revista The Intercept. La revista digital, que està finançada per Pierre Omydiar i que va néixer per «responsabilitzar els poderosos mitjançant el periodisme agressiu i valent», publicava el març del 2020 que TikTok instruïa els moderadors perquè suprimissin publicacions d’usuaris considerats molt lletjos, pobres o persones en situació de discapacitat. El portaveu de TikTok, Josh Gartner, va declarar que aquestes recomanacions «van representar un primer i directe intent de prevener l’assetjament, però ja no estan vigents i ja no hi eren vigents quan The Intercept va obtenir la informació».

    Si les afirmacions de Gartner són certes i suposem que les polítiques de moderació no són restrictives ni amb l’estat físic dels usuaris ni amb les seves idees polítiques, el format dels continguts i l’algoritme fan de l’aplicació una bona aposta per utilitzar-la com a eina per fer política. Fa unes setmanes, per exemple, es va viralitzar el vídeo de la comedianta mexicana, Gaby Navarro, on es feia passar per candidata a les eleccions mexicanes i representava un vídeo de campanya electoral.

    https://www.tiktok.com/@amxriverdale/video/6977006140374732037?sender_device=pc&sender_web_id=6995100887115564549&is_from_webapp=v1&is_copy_url=0

    No tinc clar que la majoria d’usuaris que han vist, compartit i replicat el vídeo amb un lipsync sàpiguen que és una ficció; el surrealisme kafkià que tot ho impregna darrerament està incapacitant la incredulitat de vàries generacions amb tot allò bo i dolent que això comporta.

    Més enllà d’aquesta anècdota que ridiculitza la política institucional incloent-la alhora dins de les dinàmiques, formes i símbols de la cultura gen-z –el fet que sigui creïble que una candidata pugui arribar a fer un vídeo de campanya tan poc «seriós» i que es transformi en meme ràpidament, vol dir que pot funcionar per complir el suposat objectiu en un cas real: atraure el vot de la gent jove–; deia que més enllà de tot això, TikTok ha allotjat i difós contingut polític reivindicatiu com poden ser els moviments #BlackLivesMatters o el pride amb diverses campanyes LGTBIQ+. També ha estat un format i mitjà útil per reivindicacions que, sense ser noves, han agafat molta força en època de pandèmica com la salut mental en els joves. Tot això ho ha fet de manera «enganxosa», és a dir, amb trends o continguts que exprimeixen les potencialitats del format per generar interès i fer partícips a altres usuaris de la reivindicació.

    Fins i tot la plataforma ha servit per l’activisme descentralitzat en diverses ocasions, com per exemple quan els K-popers van unir-se contra la campanya de Donald Trump el juny de 2020, mobilitzant a més d’un milió d’adolescents perquè s’inscrivissin al míting electoral de l’ex-president americà sense cap intenció real de presentar-se.

    No tot és de color de rosa, però. A TikTok també han triomfat, i molt més que les campanyes reivindicatives progressistes anteriorment mencionades, els missatges d’ultradreta filofeixisites i les fakenews. La presència de l’ultradreta de fet és superior a TikTok i els motius són diversos i complexos. Serà interessant estudiar-lo amb profunditat en altres articles, tot i que a mode d’avançament en aquest anàlisis publicat a La Vanguardia es presenten diverses hipòtesis interessants.

    Tenim clar, doncs, que a TikTok ja hi ha un clima polític bastant assentat i que el format dels continguts (audiovisual, grafisme, etc.) i l’algoritme permeten la seva efectivitat en termes comunicatius. Citant a la internet researcher, Dra. Ioana Literat, TikTok «permet l’expressió política col·lectiva per als joves, és a dir, els permet connectar-se deliberadament amb una audiència d’idees afins mitjançant l’ús de recursos simbòlics compartits». Aquests recursos simbòlics poden ser físics, visuals o hashtags, així com els diferents trends de balls, els àudios que s’utilitzen com a BSO, etc. puntualitza la professora de comunicació a la Hebrew University of Jerusalem, Neta Kligler-Vilenchik.

    No obstant això, la política institucional encara no ha consolidat el seu espai a la xarxa. Ni partits ni polítics en actiu (diputats, membres del govern, presidents…) han apostat de veritat per la xarxa social com a mitjà per comunicar-se amb els potencials electors. Si la tendència de l’app és creixent i la seva influència segueix evolucionant de la manera en què ho fa, no és d’estranyar que aquesta consolidació, actualment en fase inicial, s’acceleri gradualment.

    Darrerament hem vist al president de la República Francesa, Emmanuel Macron, aterrar a Tiktok amb un coneixement excel·lent de les dinàmiques de l’aplicació:

    Altres exemples són el president socialdemòcrata irlandès, Michael D. Higgins, el president conservador nacionalista de El Salvador, Nayib Bukele, o l’arxiconegut president de Veneçuela, Nicolás Maduro.

    @nayibbukele

    ¿Cómo funcionará la Ley #Bitcoin en #ElSalvador 🇸🇻?

    ♬ original sound – Nayib Bukele
    @nicolasmadurom

    Llegué a 100 mil seguidores en TikTok y vamos pa lante, llevando al mundo la verdad de Venezuela. ¡Gracias!

    ♬ F Boy – Ander Huang & KROMI
    @nicolasmadurom

    Es el año de la luz que permitirá que germine el futuro de grandeza. En el 2.030 diremos: ¡Lo logramos, Venezuela Potencia Agroproductiva!

    ♬ Send Me on My Way – Vibe Street

    Ni el president de la Generalitat de Catalunya ni el president d’Espanya s’han atrevit encara amb TikTok, tot i que hi ha molts diputats, generalment progressistes, que no han dubtat a obrir-se un compte a l’aplicació, motivats en part pel monopoli del discurs que l’ultradreta té a l’app concretament al nostre territori.

    @gabrielrufian

    Responder a @_paaauul_4 Preguntas y respuestas #Congreso #Rufian

    ♬ sonido original – Gabriel Rufián
    https://www.tiktok.com/@martarosiq/video/6824168356707421446?lang=es&is_copy_url=0&is_from_webapp=v1&sender_device=pc&sender_web_id=6995100887115564549

    TikTok té els ingredients idonis per esdevenir un canal de comunicació efectiu en la comunicació social i política de les noves generacions. És per això que Google o Facebook, entre d’altres grans companyies, han intentat emular el format audiovisual de l’aplicació xinesa amb les noves funcionalitats de YouTube (YouTube Shorts) i d’Instagram (Instagram Reels). Veurem si els hi funciona el negoci i si TikTok sobreviu a la competència i als nous formats comunicacionals els propers anys.

  • «Sigues el teu propi cap»: Uber, algorismes i explotació en l’era digital

    «Sigues el teu propi cap»: Uber, algorismes i explotació en l’era digital

    «Les oportunitats estan a tot arreu», «els teus horaris, els teus ingressos», «converteix-te en el teu propi cap» i altre mottos de companyies de falsos autònoms com Glovo i Cabify ens assalten diàriament. Des de fa un parell d’anys, les lògiques del capitalisme han mercantilitzat processos abans intocables, com demanar el menjar, fer la compra o conduir. Per descomptat, aquestes activitats ja tenien precedents (pizzes a domicili, taxis), però aquests no venien acompanyats de la nova revolució: els algorismes. I si algú ha sabut aprofitar-los, ha sigut Uber, rei intocable de l’explotació per algorismes i el be your own boss. Però què hi ha darrere d’aquests algorismes i quin efecte tenen sobre els treballadors?

    Quan demanem un Uber, diversos conductors al voltant de nosaltres tenen l’opció d’acceptar o no el treball en 15 segons. L’algorisme darrere d’això té diverses variables en compte: el nombre de viatges que ha fet el conductor, la ràtio d’acceptació (del conductor) i cancel·lació (dels passatgers), la valoració i factors particulars com el lloc i moment. Aquestes dues variables (valoració i particularitat) són les més interessants a tractar des del punt de vista digital.

    Primer (Rosenblat, 2016), la valoració: Uber treballa amb un sistema de ràtings, de zero a cinc estrelles, que donen els passatgers als conductors. Al principi és el que s’exigeix a qualsevol treballador de cara al públic. Però les valoracions tenen un rol especial en els treballs algorítmics: mentre que les valoracions que deixa un consumidor sobre el servei en un restaurant poden ser valorades pel gestor, en aquest cas es tracta d’un exemple clàssic de «el consumidor sempre té la raó». L’algorisme no valora, només processa; comprensible donada la quantitat de dades que ha de manejar. Però això té conseqüències terribles: si el conductor té menys de 4.6 estrelles, serà «suspès». No acomiadat, perquè no estava treballant per a Uber, sinó suspès del servei. Aquesta por està estesa entre els conductors –i per això intenten oferir el millor als passatgers, des de menjar (abans de la pandèmia) fins a guions de converses vàcues que no puguin anar malament. Això, per descomptat, imposa un estrès increïble sobre els treballadors: és un ull que mai deixa de mirar, un Gran Germà que valora cadascuna de les accions a través del consumidor, i que fa que canviï el seu comportament per a complaure a l’algorisme. Però a més, l’algorisme és cec –encara que nosaltres no ho siguem. A Espanya no s’han donat encara, però als Estats Units són comuns els casos de racisme dels passatgers als conductors (qui solen ser persones de color o immigrants (Smiley, 2020)), des d’insults a valoracions negatives que per descomptat poden deixar suspesos als conductors (Eidelson, 2020), que ja ha estat portat a judici en el cas Liu vs. Uber. Un missatge de suspensió automàtic que deixa sense ingressos als conductors i amb un servei d’atenció que és, segons es diu, informal.

    La segona variable que ens interessava era la de les particularitats, un altre agreujant de l’estrès. Uber es regeix per situacions ‘particulars’, hores puntes, llocs i moments específics on hi ha major afluència de viatges i els preus pugen temporalment. Per exemple, els llocs tendeixen a ser les grans ciutats (Madrid, Barcelona), però els moments varien. Els diversos estudis de Rosenblat mostren que a Nova York se solen donar al llarg dels matins, mentre que a Londres ocorre de matinada. El que passa amb això, i de nou mostrat per Rosenblat, és que aquestes situacions particulars no deixen lliure al conductor per molt que sigui ‘el seu propi cap’. Un conductor que tanqui el seu torn a les 11 de la nit se sentirà pressionat a continuar conduint en l’hora punta, quan pot guanyar més diners. El treball mai acaba si l’estrès, deliberadament reforçat per l’algorisme, no ho permet; i en casos com la nevada de Nova York de 2013, també juga amb les vides dels treballadors: els preus es van quadruplicar fent que molts treballadors conduïssin sota perill de quedar atrapats per la neu (The Economist, 2016). Un és lliure d’anar-se’n, perquè és el seu propi cap, tret que l’algorisme d’Uber (què decideix quan i on hi ha una hora punta sobre la base de variables que també han de ser revisades per l’ètica algorítmica general, com l’obtenció de dades privades com la localització, o la creació de rutines personalitzades per a l’usuari) així ho consideri.

    Però tot això pot ser generalitzat sobre la gestió algorítmica, terme encunyat per Min Kyung Lee (2018). La gestió algorítmica pot tenir una versió feble i una forta: en la feble, les decisions preses per humans són recolzats per algorismes; en la forta, les decisions són preses per algorismes. Mentre que els estudis de Rosenblat i Lee (per separat) mostren que el primer cas pot portar a un major conflicte entre l’empresa i el treballador (qui veu a l’algorisme com un instrument parcial cap al qual decideixi l’empresa), el segon cas no provoca una resposta conflictiva, però sí una més negativa: l’empresa, el cap i l’algorisme són una i la mateixa cosa que dictamina les ordres. Però Lee (et al., 2021) també veu amb bons ulls la gestió algorítmica en la seva versió participativa. Els algorismes no són el mal per si mateix; com tota eina, beneficia a qui l’empunya. En l’estudi de Lee, es va oferir als treballadors triar diverses tasques que avaluaven segons les seves preferències i un algorisme (de manera imparcial) col·locava a cada treballador en tasques que, de mitjana, preferien sobre les tasques triades per la gestió humana.

    En qualsevol cas, el fonamental de l’estudi de Lee és que la gestió algorítmica provoca una resposta diferent a la gestió humana; com expliquen Crawford & Calo (2016), gran part dels treballadors temen, no tant que els algorismes i la IA puguin llevar-los el treball, sinó que els algorismes siguin injustos i opacs. I, potencialment, aquesta gestió algorítmica té un major grau d’explotació tant per tot el que hem dit fins ara com per l’opacitat de l’algorisme.

    Respecte a l’opacitat de l’algorisme, les grans empreses de l’era digital s’han beneficiat de la lògica capitalista després de les patents i la propietat intel·lectual: tret que ho dictamini la llei, un algorisme no ha de ser públic perquè és un actiu més de l’empresa, una manera més d’aconseguir un benefici. Aquí ens referim a la segona part del nostre article sobre ètica algorítmica, on expliquem que l’opacitat d’un algorisme el fa perillós per a la societat i en aquest cas per al benestar dels treballadors. Exemple d’això: en 2017, Uber va canviar, sense avisar a ningú, una part clau del seu algorisme, el surge pricing, el preu dinàmic, aquell que canvia segons la demanda i les particularitats espaciotemporals de la localització del conductor que ja hem explicat. El canvi d’Uber va consistir a apujar lleugerament els preus que cobrava als consumidors i abaixar el salari que pagava als conductors per a emportar-se un major benefici (Rosenblat 2018a). Uber mai va notificar als seus usuaris (i més important, als seus conductors) d’aquest canvi, un «petit experiment», com es va excusar Uber, que jugava amb la possibilitat dels treballadors d’arribar a fi de mes.

    Per descomptat, Uber no hauria dit res si no fos perquè els treballadors, en diversos fòrums, es van adonar d’això. Una última anotació sobre això: l’algorismització no és causa de l’aïllament del treballador (que porta ocorrent dècades) però sí que és un agreujant. Un article sobre fòrums de conductors d’Uber (Rosenblat, 2018b) explora de manera superficial la donis-sindicalització del treball digital, la qual cosa permet una major explotació. L’aïllament del treballador, la seva pèrdua de consciència de grup, ha estat resultat de la seva desestabilització laboral (treballs més temporals on és complicat crear una cosa duradora com un sindicat) i altres factors, però la gestió algorítmica pot fer que l’asimetria de poder amb l’empresa sigui encara major, alguna cosa a explorar pels estudis interdisciplinaris de la regulació i la tecnologia. Però d’antuvi els treballadors digitals, com els conductors d’Uber, perden poder de negociació amb la seva empresa i es disgreguen en treballadors individuals, incomunicats amb els seus iguals. No obstant això, projectes com la gestió algorítmica participativa de Lee i la regulació d’algorismes poden oferir un futur més brillant.


    Crawford & Calo, 2016: https://www.nature.com/articles/538311a
    The Economist, 2016: https://www.economist.com/business/2016/01/28/flexible-figures
    Eidelson, 2020: https://fortune.com/2020/10/26/uber-lawsuit-drivers-fired-low-ratings-racial-discrimination/
    Lee, 2018: http://minlee.net/materials/Publication/2018-AlgoManagePerception.pdf
    Lee et al., 2021: http://minlee.net/materials/Publication/2021_AIES-WorkerWellBeing.pdf
    Rosenblat, 2016: https://ijoc.org/index.php/ijoc/article/view/4892/1739
    Rosenblat, 2018a: https://www.nytimes.com/2018/10/12/opinion/sunday/uber-driver-life.html
    Rosenblat, 2018b: https://www.fastcompany.com/40501439/the-network-uber-drivers-built
    Smiley, 2020: https://www.theguardian.com/commentisfree/2020/oct/29/uber-lyft-racist-business-model-prop-22