Editor ciberpoder.net

Categoria: Relats

  • Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Avui en dia, hi ha moltes notícies sobre noves aplicacions d’intel·ligència artificial d’allò més útils i curioses. I normalment, quan s’intenta explicar com funcionen es diu que estan basades en “algoritmes de Machine Learning”. Però… para el carro, que aquell dia alguns no vam anar a classe. Què són els algoritmes? Què és el Machine Learning?

    Comencem pel principi. Quan parlem d’algoritmes ens imaginem programadors súper intel·ligents i segurament una mica excèntrics teclejant a gran velocitat. Però, de fet, un algoritme és un conjunt d’instruccions ordenades i finites que permeten resoldre un problema. Com, per exemple, quan els nens de primària aprenen a dividir. I quan segueixo una recepta de cuina estic fent servir un algoritme? Doncs tinc bones notícies per tu, Pitàgores dels fogons, ja que en cert sentit sí.

    Anem a veure com solien crear-se els algoritmes i com el Machine Learning els ha revolucionat.

    Enfocament tradicional: regles definides per humans

    Abans, per resoldre un problema, unes persones definien unes regles, les aplicaven, avaluaven el resultat i segons el rendiment que obtenien, les donaven per bones o les anaven ajustant.

    Posem un exemple molt senzill. Imagineu-vos que un banc vol saber si ha de concedir o no un crèdit a un client, segons si preveuen que aquest acabarà tornant els diners. Quan una persona sol·licita un préstec, se li pregunten un munt de coses: la nòmina, el patrimoni, la situació familiar, els rebuts… Suposem que, basats en la seva experiència, els banquers consideren que els criteris per concedir el crèdit han de ser els següents:

    1. Que tingui nòmines els últims 12 mesos
    2. Que no existeixin altres deutes
    3. Que la quota de devolució del préstec, sumada als rebuts, no superi la nòmina

    Aquest algoritme del banc pot ser eficaç o no. Si hi ha molts impagaments, l’hauran d’anar arreglant en el futur. Però no li veieu un problema a aquest mètode? Aquests criteris potser no són els millors. N’hi poden haver d’altres molt més encertats que ni se’ls han passat pel cap. I com ho podem resoldre? Donant-li el poder a les màquines.

    Nou enfocament: aprenentatge automàtic

    Canviem una mica la perspectiva. Imagineu que aquest banc porta concedint crèdits a clients durant molts anys, alguns dels quals els han tornat els diners i d’altres no. Podem suposar que les persones que no tornaran els préstecs en el futur tindran situacions similars a les que van tenir els morosos del passat. I si aprofitem tot aquest coneixement que ja tenim per identificar aquests escenaris? Però aquest cop, en lloc de ser els humans els que interpretin la informació, ho faran les màquines. L’aprenentatge automàtic, més conegut pel seu terme en anglès Machine Learning, consisteix a donar als ordinadors la capacitat d’aprendre de les dades sense haver de dir-los explícitament com ho han de fer.

    I com es fa això? Primer, necessitem recollir totes les dades disponibles dels clients dels últims anys: quant ingressaven, el sector on treballaven, en què gastaven, quina situació familiar tenien, on vivien… i ho guardarem en variables diferents. A més, com que són dades del passat, tenim sobre ells la informació clau: si van tornar el préstec o no.

    A partir d’aquí, l’ordinador pot utilitzar molts mètodes diferents per esbrinar quina relació hi ha entre les variables i quines tenen més pes a l’hora de determinar si algú torna o no el crèdit. Tot aquest procés s’anomena entrenament. I amb aquest coneixement, el procés de Machine Learning obté un model. Quan un nou client demana un préstec, se li registra tota aquesta informació i, amb els criteris que ha après la màquina, el model decideix si es concedeix o no.

    Però tornem a la pregunta inicial. Per què es diu que les màquines aprenen? Perquè com més dades tingui el model, millors conclusions podrà treure. I a mesura que passi el temps i vagi registrant nous clients que tornen o no el préstec, es podrà adaptar a la nova realitat i millorar les conclusions.

    Quins avantatges té el nou enfocament sobre l’original?

    1. La màquina descobreix patrons amagats en les dades que als banquers se’ls van passar per alt. Qui sap, potser els factors més importants són el percentatge d’atur en el seu sector laboral i la despesa que fan en oci nocturn. D’això se’n diu Data Mining.
    2. Si en un futur els motius d’impagament canvien no caldrà que ningú modifiqui l’algoritme, ja que l’ordinador ho farà automàticament.
    3. Alguns problemes són tan complexes que els humans som incapaços d’escriure un algoritme per resoldre’ls. En canvi, l’aprenentatge automàtic ho pot fer per nosaltres.

    Ara que ja sabem que el Machine Learning és en general més òptim, sorgeix una nova pregunta. És més just? Els banquers que van fer el primer algoritme podien estar carregats de prejudicis, ja que és probable que les persones de classes baixes o barris marginals tinguin major tendència a patir certs problemes que els impedeixin aconseguir un crèdit. El criteri de la màquina, en principi, no té cap prejudici. Però no hem d’oblidar que està aprenent d’unes dades passades que formen part d’una societat discriminatòria. Per tant, és possible que les conclusions que el model extregui de cara al futur reforcin aquesta discriminació. La relació entre l’ètica i la intel·ligència artificial per evitar aquests problemes és un dels grans reptes d’aquesta dècada.

    Les aplicacions de l’aprenentatge automàtic van molt més enllà de la nostra imaginació: detectar tumors en escàners cerebrals, resumir documents automàticament, crear vehicles autònoms, recomanar pel·lícules als usuaris de Netflix, predir els beneficis d’una empresa el proper any, classificar seqüències d’ADN… La llista és inacabable. Estem davant de la nova pedra filosofal del món de la tecnologia, ja que el Machine Learning és el futur. I, senyores i senyors, el futur ha arribat.

  • Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Fa uns dies el Fòrum Econòmic Mundial (2021a) feia públic un «manifest millennial» que destacava entre els seus punts la cerca de canvis en el sistema a través de l’acció col·lectiva. Un punt que sona radical i trencador per venir dels «homes de Davos», una petita elit sovint criticada per la falta de transparència en les seves finances (Busse, 2017) o per la instrumentalització de la seva institució com a arma política o lobby (Delivorias, 2016). En la seva versió ampliada, un informe elaborat a partir de conferències, entrevistes i enquestes a més de dos milions de joves a tot el món, es descobreixen detalls que no apareixen en la nota de premsa: es recomana que els canvis, que concerneixen la transició digital de la política, vinguin des de fora (a través de la filantropia (World Economic Fòrum, 2021b, 18)) i no des de dins de les institucions. Per exemple, es parla d’un estàndard ètic sobre la tecnologia comú a totes les empreses (ibíd., 26-28), la introducció d’una Convenció de Ginebra per a la ciberseguretat (ibíd., 18) o la major confiança dels joves en un govern operat per intel·ligència artificial que en un governat per polítics (ibíd., 5). Aquest últim punt és el més interessant i és el que explorarem en les dues parts d’aquest article. La primera i present actuarà com a introducció i tractarà tant la terminologia com dos casos relatius a processos judicials i algorismes. La segona tractarà la possible inevitabilitat de l’algocràcia amb exemples passats i presents.

    No es pot evitar el fet que la política i els polítics provoquen cada vegada més desafecció entre els joves. Encara que això no sigui res nou, sí que és fonamental entendre que el fracàs dels «moviments de les places» (Endnotes, 2013) com Occupy Wall Street als EUA, la Revolució blanca a Egipte o el 15-M a Espanya i la transformació a les seves subseqüents manifestacions polítiques (Unidas Podemos) són l’agreujant que gran part de la joventut no confiï en la democràcia. De fet una part considerable de la població preferiria estar governada per una IA que per un polític de carn i ossos. No discutirem el perquè d’això, sinó les conseqüències que pot tenir aquest govern d’algorismes: com seria una «algocràcia» i què lluny estem d’ella?

    Entrem en terminologia; primer, definicions comunes a la ciència política; segon, definicions derivades relatives a la tecnologia. Des d’un principi hem de diferenciar entre Estat (Mark Bevir (en Caminal, 2004) defineix l’Estat com una forma d’organització social que concentra el poder en un espai petit i que precisament per això ha evolucionat com a dominadora de la resta d’organitzacions socials) i govern (on està concentrat el poder, incloent en conjunt els poders públics la funció dels quals és dirigir a l’Estat (ibíd., 427-430)); i després entre govern i governança (o govern relacional, que Bevir (2012) defineix com els processos de govern sobre organitzacions privades com a famílies o tribus a través de lleis i normes, i no sempre amb la coerció de l’Estat). Podem dir que l’Estat conté a l’administració i el govern i, de manera jeràrquica, de dalt a baix, les decisions del govern manen sobre el funcionariat; mentrestant, la governança és l’activitat entre els actors civils i els poders públics a través de l’Estat.

    Com ampliem això a la tecnologia? Aquests tres termes (Estat, govern, governança) se solen barrejar en una sola contrapart digital: algocràcia, terme encunyat pel sociòleg Aneesh Aneesh. Aneesh (2006) contraposa l’algocràcia a la burocràcia estatal tradicional, ja que tant l’algorisme com el funcionari segueixen la mateixa funció des del punt de vista del govern: acatar les seves ordres i actuar com a eina de l’Estat. No obstant això, un algorisme és cec, tot i que no imparcial. És cec ja que no considera el cas, sinó que és implacable, i per això és norma absoluta en el sentit que no considera cap particularitat. És parcial, però, en el sentit que no s’ha creat a si mateix, no s’ha dotat d’objectivitat. No està fora del sistema, sinó que reprodueix la subjectivitat i parcialitat del seu creador. Per això, tot algorisme ha de ser examinat a fons, per valorar si la seva subjectivitat pot ser nociva per a un o més col·lectius, o per a tota la societat, com observarem d’ara endavant: a qui afecta l’algorisme? Com podem (si hem de) remeiar-ho?

    Una última nota sobre terminologia abans de continuar: e-democracy, e-government i e-governance no han de ser llançats en el mateix sac que l’algocràcia, encara que tinguin coses en comú. L’e-democracy és una forma de govern més que advoca per la democràcia directa i digital i que va ocupar titulars durant el 15-M, encara que avui dia a Europa sigui residual sota el Movimento 5 Stelle italià i algunes propostes a Estònia. És completament aliè a l’algocràcia, perquè l’algocràcia pot existir amb models electorals tradicionals i l’e-democracy pot donar-se amb burocràcia tradicional. Són dues esferes que no tenen per què superposar-se. D’altra banda, l’e-government és qualsevol forma de connexió entre govern i altres actors (o el govern mateix) per mitjans electrònics, com la publicació de resolucions de beques per internet; en això entra l’e-governance, eines que faciliten l’e-government com el DNI electrònic.

    L’algocràcia no està tan lluny. De fet, es pot dir que la majoria de països occidentals ja tenen petites components d’algocràcia en les seves burocràcies; comencem amb l’exemple del sistema COMPAS, que ja discutim en la nostra introducció a l’ètica algorítmica. COMPAS és un algorisme que té l’objectiu de donar suport a les decisions penals calculant la probabilitat de reincidència d’un (possible) condemnat: com més gran sigui la probabilitat, major serà la condemna proposada. Que això sembli desproporcionat és normal: les variables que utilitza l’algorisme (edat del primer arrest, problemes en el sistema educatiu, cooperació amb la policia) proposen un problema en dos nivells: primer, com se suposa que és COMPAS un sistema imparcial i cec si les seves valoracions depenen de valoracions donades per humans que no són ni imparcials ni cecs? Segon, per què l’enginyer darrere de l’algorisme ha triat aquestes variables i no altres? Però el problema fonamental, i que separa a COMPAS d’altres casos, és el de la privacitat: les dades que usa l’algorisme són dades a les quals no podem negar el consentiment atès que són de domini públic.

    Això ho separa, per exemple, de la prova pilot de la IA jutgessa a Estònia (Niiler, 2019). Estònia té un llarg historial (gairebé dues dècades) de serveis digitals, com un ID electrònic, vot per internet o pagament d’impostos, però a principis de 2019 va fer un salt qualitatiu amb una prova pilot d’un jutge basat en IA per a casos petits, com a contractes on les demandes no superessin els 7000€. El sistema és aquest: demandant i demandat pugen els documents rellevants al cas i presenten les seves al·legacions, la IA (que és en essència un chatbot) cerca entre els documents legals relatius i presenta la resolució del cas. Encara que tots dos tenen un objecte comú (la justícia i la digitalització del poder judicial), i fins i tot l’exemple d’Estònia va més enllà de l’americà (mentre que COMPAS és un algorisme de suport i recomanació, en la prova pilot estoniana la IA decidia i resolia per si mateixa, encara que després podia ser apel·lada davant un jutge), el cas estonià no és tan invasiu com l’estatunidenc. Mentre que a Estònia es requereix una acció positiva (estar d’acord amb el sistema d’IA i donar el consentiment amb la pujada dels contractes), als EUA no és necessari estar d’acord perquè el sistema penal faci la seva part.

    Això ja ens deixa amb alguns punts fonamentals de l’algocràcia que són comuns a l’ètica algorítmica general: consentiment de les dades, publicitat de la informació i transparència dels algorismes. No obstant això, hem de seguir alerta: fins i tot en el cas d’Estònia, l’encarregat de la implementació de la jutgessa IA i altres diversos sistemes relatius als algorismes, Ott Velsberg, ja avisa que l’objectiu és «eliminar l’element humà» de la justícia (Shelton, 2019), el que ens recorda novament que l’algorisme no és més que una cristal·lització d’una subjectivitat del creador. A més, diversos acadèmics ja han mostrat les seves reserves respecte als dilemes legals que pot presentar l’ampliació dels algorismes a la justícia no sols com a recomendadors (Kerikmäe & Pärn‑Lee, 2020). Un altre problema que pot presentar una intel·ligència artificial en sistemes de common law (cosa que al Mediterrani i altres països basats en el dret romà no afecta, però en el món anglosaxó sí) és que les resolucions reprodueixin injustícies passades (Park, 2020): en el sistema de common law la jurisprudència té primacia sobre la llei, llavors els precedents legals (resolucions de jutges humans) influeixen en els casos actuals i futurs (resolucions d’IA). Això frustraria un dels objectius fonamentals de la justícia algorítmica, i potser de l’algocràcia en general: eliminar les injustícies que sorgeixen de les parcialitats humanes.

    Aneesh, 2006: Aneesh, A. (2006). Virtual Migration. Darhom: Duke University Press.
    Bevir, 2012: Bevir, M. (2012). Governance: A very short introduction. Oxford: Oxford University Press.
    Busse, 2017: https://www.sueddeutsche.de/wirtschaft/davos-das-weltwirtschaftsforum-ist-zu-einer-geldmaschine-geworden-1.3334817
    Caminal, 2004: Caminal, M. (Editor). (2004). Manual de Ciencia Política. Madrid: Tecnos
    Delivorias, 2016: https://www.europarl.europa.eu/RegData/etudes/BRIE/2016/573928/EPRS_BRI(2016)573928_EN.pdf
    Endnotes, 2013: https://endnotes.org.uk/issues/3/en/endnotes-the-holding-pattern
    Niiler, 2019: https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/
    Kerikmäe & Pärn‑Lee, 2020: https://link.springer.com/content/pdf/10.1007/s00146-020-01009-8.pdf
    Park, 2020: https://hir.harvard.edu/your-honor-ai/
    Shelton, 2019: https://www.abc.net.au/news/2019-06-16/estonia-artificial-intelligence-technology-robots-automation/11167478
    World Economic Forum, 2021a: https://www.weforum.org/agenda/2021/08/the-millennial-manifesto-outlines-principles-for-an-inclusive-future/

  • La xarxa tecnotròfica: què compren les Big Tech?

    La xarxa tecnotròfica: què compren les Big Tech?

    De vegades, hem de prendre decisions que ens poden canviar la vida. És el que els va passar a Kevin Systrom i Mike Krieger, dos emprenedors del món de la tecnologia que potser no us sonen pel nom, però que han impactat la vostra rutina més del que us penseu. Aviat sabreu qui són.

    Traslladem-nos a l’abril de 2012. Concretament a San Francisco, als Estats Units. Els nostres dos protagonistes són els fundadors d’una empresa petita, de 2 anys d’edat i tan sols 13 treballadors. Han creat una aplicació mòbil per compartir fotos artístiques que ha calat fort entre els joves nord-americans. Ja compta amb més de 25 milions d’usuaris, molt lluny dels gegants del sector, però amb tendència a l’alça. Es tracta, com no, d’Instagram. I és llavors quan entra en escena Mark Zuckerberg, fundador de Facebook, que presenta una oferta marejant per aconseguir l’aplicació de moda: 1000 milions de dòlars. La quantitat sorprèn entre els experts. Els dos cofundadors accepten, cobren en metàl·lic i en accions i passen a formar part del comitè directiu de Facebook. I potser alguns esteu pensant: «Quina decisió més fàcil: acceptes. Saps quants diners són això? Mil milions de dòlars! Tens la vida resolta».

    Bé, és que potser no és tan fàcil. Estem parlant d’un projecte propi, d’un producte que has creat i del qual perdràs el control. És cert que Systrom i Krieger van passar a formar part de la direcció de Facebook, però poc després la van abandonar per tensions amb altres alts càrrecs. I clar que són molts diners, però és que avui Instagram té un valor cent vegades més gran del que es va pagar en aquell moment.

    I si no que li diguin a Evan Spiegel, CEO de Snapchat, el nostre proper protagonista. Un any més tard, Facebook va voler integrar l’aplicació de publicacions efímeres amb una oferta de 3000 milions de dòlars. És tan lícit acceptar els diners com voler mantenir-se independent. En aquest cas, Spiegel es va negar a formar part de la seva competidora. La decisió va desencadenar en una guerra freda posterior coneguda com el Projecte Voldemort. Deixarem aquesta història per un altre moment, però està clar que les stories d’Instagram, basades en el format Snapchat, van suposar un cop dur a la companyia del fantasma groc.

    Aquest tipus d’absorcions són molt comunes en el sector tecnològic, però algunes polèmiques han fet arrufar el nas a la Comissió Federal del Comerç dels Estats Units (FTC) i la Comissió Europea, que estan investigant a les Big Tech (Facebook, Google, Microsoft, Apple i Amazon) per presumptes pràctiques de monopoli. I en aquest context repassarem les compres més rellevants de cadascuna d’elles.

    Facebook: única xarxa social?

    Els dos exemples anteriors posen de manifest que Facebook vigila de prop les xarxes socials emergents. El cas més significatiu és la compra de WhatsApp (21800M $, 2014). El més curiós és que l’aplicació de missatgeria més popular del món estava a punt de formar part de Tencent, una empresa xinesa de software. Però el seu CEO, Pony Ma Huateng, va haver de sotmetre’s a una operació d’esquena que va allargar les negociacions. I llavors Facebook va entrar en escena per fer una contraoferta. Ja diuen que la salut és el més important.

    A més, Facebook també va invertir en Face.com (100M $, 2012), un sistema de reconeixement facial israelià que va millorar l’etiquetatge de fotografies. Van absorbir Oculus VR (2000M $, 2014), que fabrica auriculars de realitat virtual per a videojocs. Recentment, també van adquirir Giphy (400M $, 2020), així que quan enviïs un GIF divertit als teus amics, ara ja ho saps, allò també és propietat de Mark Zuckerberg.

    Grafisme elaborat per ciberpoder.net/

    L’omnipresència de Google

    Si bé els moviments de Facebook solen ser molt mediàtics, cap dels seus competidors es queda curt. És el cas d’Alphabet, el conglomerat del qual forma part Google, que ofereix serveis molt més enllà del motor de cerca. Un dels moviments més exitosos en el sector és la compra que van fer de Youtube (1650M $, 2006). La pàgina de vídeos més famosa del món estava guanyant la partida a Google Videos i van resoldre-ho a cop de talonari.

    Google també va introduir-se en el mercat de telefonia mòbil per obtenir patents i competir amb marques com Samsung. Així doncs, van adquirir Motorola (12500M $, 2011) i una part d’HTC (1100M $, 2017). Finalment, part de l’èxit de Google Maps no s’explicaria sense Waze (966M $, 2013), un software de navegació GPS israelià que va permetre incorporar informació de carreteres bloquejades, accidents, radars de trànsit, etc.

    Grafisme elaborat per ciberpoder.net/

    El domini transversal de Microsoft

    El domini de Microsoft va molt més enllà dels sistemes operatius i l’ofimàtica. Alguns dels seus serveis no són originals sinó adquisicions que han fet al llarg del temps, com Hotmail (500M $, 1997) o Skype (8500M$, 2011). També van comprar Mojang (2500M $, 2014), responsable del famós joc Minecraft.

    Si l’empresa fundada per Bill Gates volia entrar en el mercat de les xarxes socials, no se li pot negar que ho va fer amb força. El 2016 va adquirir LinkedIn, líder en relacions professionals, per 26200 milions de dòlars. L’últim moviment tàctic va ser fer-se amb Github (7500M $, 2018), el repositori de codis de programació més conegut del món.

    Grafisme elaborat per ciberpoder.net/

    Apple: retrobaments amb música de fons

    La marca de l’estil i l’elit tampoc se salva del panorama d’adquisicions, tot i que predominen entitats petites relacionades amb software, machine learning i semiconductors. Una d’elles és NeXT (431.5M $, 1999), una companyia que va fundar Steve Jobs quan precisament el van acomiadar d’Apple. Els seus ordinadors mai van assolir èxit comercial, però els seus processadors van servir com a base del sistema operatiu Mac OS X. La vida és plena d’històries cícliques.

    L’enorme presència d’Apple en la indústria musical no s’explica sense la compra de Beats Electronics (3000M $, 2014), una productora d’auriculars i altaveus que va néixer per lluitar contra la pirateria i millorar la qualitat de l’àudio. També va ser estratègic fer-se amb Shazam (400M $, 2018), la famosa aplicació mòbil de reconeixement audiovisual.

    Grafisme elaborat per ciberpoder.net/

    Amazon: el mercat total

    En els seus inicis, Amazon era una botiga de comerç electrònic de llibres. Probablement per això van invertir en Audible (300M $, 2008), pioner en la creació d’audiollibres, un mercat que ara mateix està amb la fletxeta cap amunt. També val la pena comentar l’adquisició d’Alexa Internet INC (250M $, 1999), que analitza dades a internet i classifica el posicionament de llocs web.

    Si la compra de Youtube per part de Google va ser un encert, què hem de dir de la que va fer Amazon amb Twitch, la xarxa social de directes de vídeo que està triomfant entre les noves generacions. I sembla que van fer-ho en un bon moment, ja que va ser el 2014 i per 970 milions de dòlars.

    Tot i que la naturalesa de la companyia fundada per Jeff Bezos és molt diversa, no deixa de sorprendre que la seva major inversió fos en una cadena de supermercats orgànics: Whole Foods Market (13700M $, 2017), que estava en hores baixes i gràcies a l’acord va poder remuntar.

    Grafisme elaborat per ciberpoder.net/

    És probable que si indagueu una mica moltes de les aplicacions o pàgines que utilitzeu siguin propietat d’alguna de les cinc empreses líders de la tecnologia i, de fet, de l’economia mundial. En general, es tracta d’una batalla per fer-se amb les idees emergents abans que ho facin els competidors. Veurem què hi tindran a dir els organismes reguladors, però de moment sembla que el sector tecnològic està basat en una estrella de cinc puntes.

  • El clima polític a TikTok: un format i un algoritme que ho possibiliten

    El clima polític a TikTok: un format i un algoritme que ho possibiliten

    TikTok s’ha mantingut en una tendència creixent en la competència per l’atenció dels usuaris. No és casualitat que l’ex-president dels Estats Units d’Amèrica, Donald Trump, volgués legislar per prohibir l’aplicació xinesa al país nord-americà al·legant motius de seguretat nacional.

    Segons la revista Forbes, ByteDance, l’empresa propietària, TikTok és la start up més valuosa del món i el seu propietari, Zhang Yiming, la novena persona més rica de Xina.

    A diferència d’Instagram, TikTok està esdevenint una eina més versàtil per generar continguts més variats i contenir-los en les onades de vídeos que en els swipe up i swip down els usuaris consumim. La viralització dels continguts és molt més senzilla que en altres aplicacions i, sobretot, més accessible. L’algoritme posa a disposició de milers d’usuaris qualsevol vídeo independentment que estigui més o menys elaborat, deixant en mans de la inèrcia cultural del moment –i l’interès que pugui suscitar en els usuaris amb més capacitat de difusió– la realització del potencial per viralitzar-se.

    L’algoritme de TikTok aparentment vol trencar amb l’efecte bombolla. Per això, tot i que el teu feed estigui configurat per ensenyar-te el contingut que t’agrada (determinat pels teus likes, shares, comments, follows i el contingut que publiques al teu perfil), també deixa caure continguts fora d’aquesta bombolla trencant la constant. Això és inimaginable a Instagram, per exemple.

    El periodista Orlando Mendiola ho expressa en primera persona en un article per Wired titulat I Found My Niche on TikTok—You Can Too on explica la seva experiència amb TikTok i com va aconseguir assentar un gran nombre de seguidors amb contingut sobre música i vinils.

    Abans d’unir-me a TikTok, sempre estava dubtant sobre què publicar a Facebook, Twitter o Instagram. Un cop a TikTok, immediatament vaig sentir una espècie de consol en publicar. Ara entenc per què és popular: és accessible. Qualsevol pot tornar-se viral. No hi ha necessitat de posar una façana com en altres xarxes socials. La pàgina «per a tu» et mostra tot i qualsevol cosa. Després de seguir i interactuar amb altres comptes, la pàgina pot tornar-se molt específica respecte als gustos de continguts. Els creadors més populars van ser populars perquè van crear el seu propi nínxol i van aconseguir seguidors basats en aquest nínxol, una cosa que jo també estava tractant de desenvolupar.

    No obstant això, tampoc m’agradaria deixar de banda la darrera informació publicada respecte a la política de moderació de TikTok per la revista The Intercept. La revista digital, que està finançada per Pierre Omydiar i que va néixer per «responsabilitzar els poderosos mitjançant el periodisme agressiu i valent», publicava el març del 2020 que TikTok instruïa els moderadors perquè suprimissin publicacions d’usuaris considerats molt lletjos, pobres o persones en situació de discapacitat. El portaveu de TikTok, Josh Gartner, va declarar que aquestes recomanacions «van representar un primer i directe intent de prevener l’assetjament, però ja no estan vigents i ja no hi eren vigents quan The Intercept va obtenir la informació».

    Si les afirmacions de Gartner són certes i suposem que les polítiques de moderació no són restrictives ni amb l’estat físic dels usuaris ni amb les seves idees polítiques, el format dels continguts i l’algoritme fan de l’aplicació una bona aposta per utilitzar-la com a eina per fer política. Fa unes setmanes, per exemple, es va viralitzar el vídeo de la comedianta mexicana, Gaby Navarro, on es feia passar per candidata a les eleccions mexicanes i representava un vídeo de campanya electoral.

    https://www.tiktok.com/@amxriverdale/video/6977006140374732037?sender_device=pc&sender_web_id=6995100887115564549&is_from_webapp=v1&is_copy_url=0

    No tinc clar que la majoria d’usuaris que han vist, compartit i replicat el vídeo amb un lipsync sàpiguen que és una ficció; el surrealisme kafkià que tot ho impregna darrerament està incapacitant la incredulitat de vàries generacions amb tot allò bo i dolent que això comporta.

    Més enllà d’aquesta anècdota que ridiculitza la política institucional incloent-la alhora dins de les dinàmiques, formes i símbols de la cultura gen-z –el fet que sigui creïble que una candidata pugui arribar a fer un vídeo de campanya tan poc «seriós» i que es transformi en meme ràpidament, vol dir que pot funcionar per complir el suposat objectiu en un cas real: atraure el vot de la gent jove–; deia que més enllà de tot això, TikTok ha allotjat i difós contingut polític reivindicatiu com poden ser els moviments #BlackLivesMatters o el pride amb diverses campanyes LGTBIQ+. També ha estat un format i mitjà útil per reivindicacions que, sense ser noves, han agafat molta força en època de pandèmica com la salut mental en els joves. Tot això ho ha fet de manera «enganxosa», és a dir, amb trends o continguts que exprimeixen les potencialitats del format per generar interès i fer partícips a altres usuaris de la reivindicació.

    Fins i tot la plataforma ha servit per l’activisme descentralitzat en diverses ocasions, com per exemple quan els K-popers van unir-se contra la campanya de Donald Trump el juny de 2020, mobilitzant a més d’un milió d’adolescents perquè s’inscrivissin al míting electoral de l’ex-president americà sense cap intenció real de presentar-se.

    No tot és de color de rosa, però. A TikTok també han triomfat, i molt més que les campanyes reivindicatives progressistes anteriorment mencionades, els missatges d’ultradreta filofeixisites i les fakenews. La presència de l’ultradreta de fet és superior a TikTok i els motius són diversos i complexos. Serà interessant estudiar-lo amb profunditat en altres articles, tot i que a mode d’avançament en aquest anàlisis publicat a La Vanguardia es presenten diverses hipòtesis interessants.

    Tenim clar, doncs, que a TikTok ja hi ha un clima polític bastant assentat i que el format dels continguts (audiovisual, grafisme, etc.) i l’algoritme permeten la seva efectivitat en termes comunicatius. Citant a la internet researcher, Dra. Ioana Literat, TikTok «permet l’expressió política col·lectiva per als joves, és a dir, els permet connectar-se deliberadament amb una audiència d’idees afins mitjançant l’ús de recursos simbòlics compartits». Aquests recursos simbòlics poden ser físics, visuals o hashtags, així com els diferents trends de balls, els àudios que s’utilitzen com a BSO, etc. puntualitza la professora de comunicació a la Hebrew University of Jerusalem, Neta Kligler-Vilenchik.

    No obstant això, la política institucional encara no ha consolidat el seu espai a la xarxa. Ni partits ni polítics en actiu (diputats, membres del govern, presidents…) han apostat de veritat per la xarxa social com a mitjà per comunicar-se amb els potencials electors. Si la tendència de l’app és creixent i la seva influència segueix evolucionant de la manera en què ho fa, no és d’estranyar que aquesta consolidació, actualment en fase inicial, s’acceleri gradualment.

    Darrerament hem vist al president de la República Francesa, Emmanuel Macron, aterrar a Tiktok amb un coneixement excel·lent de les dinàmiques de l’aplicació:

    @emmanuelmacron

    Répondre à @juju56lg_

    ♬ son original – Emmanuel Macron
    @emmanuelmacron

    Aux passionnés de #OnePiece !

    ♬ son original – Emmanuel Macron

    Altres exemples són el president socialdemòcrata irlandès, Michael D. Higgins, el president conservador nacionalista de El Salvador, Nayib Bukele, o l’arxiconegut president de Veneçuela, Nicolás Maduro.

    @presidentirl

    #MichaelD #Áras #árasanuachtaráin #Bród #Síoda #Dublin

    ♬ original sound – President of Ireland
    @nayibbukele

    ¿Cómo funcionará la Ley #Bitcoin en #ElSalvador 🇸🇻?

    ♬ original sound – Nayib Bukele
    @nicolasmadurom

    Llegué a 100 mil seguidores en TikTok y vamos pa lante, llevando al mundo la verdad de Venezuela. ¡Gracias!

    ♬ F Boy – Ander Huang & KROMI
    @nicolasmadurom

    Es el año de la luz que permitirá que germine el futuro de grandeza. En el 2.030 diremos: ¡Lo logramos, Venezuela Potencia Agroproductiva!

    ♬ Send Me on My Way – Vibe Street

    Ni el president de la Generalitat de Catalunya ni el president d’Espanya s’han atrevit encara amb TikTok, tot i que hi ha molts diputats, generalment progressistes, que no han dubtat a obrir-se un compte a l’aplicació, motivats en part pel monopoli del discurs que l’ultradreta té a l’app concretament al nostre territori.

    @ierrejon

    No. No es culpa tuya #madrid #salud #saludmental #politica #4m

    ♬ Sunset Lover Night Trouble – SelteMemset
    @gabrielrufian

    Responder a @_paaauul_4 Preguntas y respuestas #Congreso #Rufian

    ♬ sonido original – Gabriel Rufián
    https://www.tiktok.com/@martarosiq/video/6824168356707421446?lang=es&is_copy_url=0&is_from_webapp=v1&sender_device=pc&sender_web_id=6995100887115564549
    @cosmebonet

    ♬ sonido original – Cosme Bonet

    TikTok té els ingredients idonis per esdevenir un canal de comunicació efectiu en la comunicació social i política de les noves generacions. És per això que Google o Facebook, entre d’altres grans companyies, han intentat emular el format audiovisual de l’aplicació xinesa amb les noves funcionalitats de YouTube (YouTube Shorts) i d’Instagram (Instagram Reels). Veurem si els hi funciona el negoci i si TikTok sobreviu a la competència i als nous formats comunicacionals els propers anys.

  • «Sigues el teu propi cap»: Uber, algorismes i explotació en l’era digital

    «Sigues el teu propi cap»: Uber, algorismes i explotació en l’era digital

    «Les oportunitats estan a tot arreu», «els teus horaris, els teus ingressos», «converteix-te en el teu propi cap» i altre mottos de companyies de falsos autònoms com Glovo i Cabify ens assalten diàriament. Des de fa un parell d’anys, les lògiques del capitalisme han mercantilitzat processos abans intocables, com demanar el menjar, fer la compra o conduir. Per descomptat, aquestes activitats ja tenien precedents (pizzes a domicili, taxis), però aquests no venien acompanyats de la nova revolució: els algorismes. I si algú ha sabut aprofitar-los, ha sigut Uber, rei intocable de l’explotació per algorismes i el be your own boss. Però què hi ha darrere d’aquests algorismes i quin efecte tenen sobre els treballadors?

    Quan demanem un Uber, diversos conductors al voltant de nosaltres tenen l’opció d’acceptar o no el treball en 15 segons. L’algorisme darrere d’això té diverses variables en compte: el nombre de viatges que ha fet el conductor, la ràtio d’acceptació (del conductor) i cancel·lació (dels passatgers), la valoració i factors particulars com el lloc i moment. Aquestes dues variables (valoració i particularitat) són les més interessants a tractar des del punt de vista digital.

    Primer (Rosenblat, 2016), la valoració: Uber treballa amb un sistema de ràtings, de zero a cinc estrelles, que donen els passatgers als conductors. Al principi és el que s’exigeix a qualsevol treballador de cara al públic. Però les valoracions tenen un rol especial en els treballs algorítmics: mentre que les valoracions que deixa un consumidor sobre el servei en un restaurant poden ser valorades pel gestor, en aquest cas es tracta d’un exemple clàssic de «el consumidor sempre té la raó». L’algorisme no valora, només processa; comprensible donada la quantitat de dades que ha de manejar. Però això té conseqüències terribles: si el conductor té menys de 4.6 estrelles, serà «suspès». No acomiadat, perquè no estava treballant per a Uber, sinó suspès del servei. Aquesta por està estesa entre els conductors –i per això intenten oferir el millor als passatgers, des de menjar (abans de la pandèmia) fins a guions de converses vàcues que no puguin anar malament. Això, per descomptat, imposa un estrès increïble sobre els treballadors: és un ull que mai deixa de mirar, un Gran Germà que valora cadascuna de les accions a través del consumidor, i que fa que canviï el seu comportament per a complaure a l’algorisme. Però a més, l’algorisme és cec –encara que nosaltres no ho siguem. A Espanya no s’han donat encara, però als Estats Units són comuns els casos de racisme dels passatgers als conductors (qui solen ser persones de color o immigrants (Smiley, 2020)), des d’insults a valoracions negatives que per descomptat poden deixar suspesos als conductors (Eidelson, 2020), que ja ha estat portat a judici en el cas Liu vs. Uber. Un missatge de suspensió automàtic que deixa sense ingressos als conductors i amb un servei d’atenció que és, segons es diu, informal.

    La segona variable que ens interessava era la de les particularitats, un altre agreujant de l’estrès. Uber es regeix per situacions ‘particulars’, hores puntes, llocs i moments específics on hi ha major afluència de viatges i els preus pugen temporalment. Per exemple, els llocs tendeixen a ser les grans ciutats (Madrid, Barcelona), però els moments varien. Els diversos estudis de Rosenblat mostren que a Nova York se solen donar al llarg dels matins, mentre que a Londres ocorre de matinada. El que passa amb això, i de nou mostrat per Rosenblat, és que aquestes situacions particulars no deixen lliure al conductor per molt que sigui ‘el seu propi cap’. Un conductor que tanqui el seu torn a les 11 de la nit se sentirà pressionat a continuar conduint en l’hora punta, quan pot guanyar més diners. El treball mai acaba si l’estrès, deliberadament reforçat per l’algorisme, no ho permet; i en casos com la nevada de Nova York de 2013, també juga amb les vides dels treballadors: els preus es van quadruplicar fent que molts treballadors conduïssin sota perill de quedar atrapats per la neu (The Economist, 2016). Un és lliure d’anar-se’n, perquè és el seu propi cap, tret que l’algorisme d’Uber (què decideix quan i on hi ha una hora punta sobre la base de variables que també han de ser revisades per l’ètica algorítmica general, com l’obtenció de dades privades com la localització, o la creació de rutines personalitzades per a l’usuari) així ho consideri.

    Però tot això pot ser generalitzat sobre la gestió algorítmica, terme encunyat per Min Kyung Lee (2018). La gestió algorítmica pot tenir una versió feble i una forta: en la feble, les decisions preses per humans són recolzats per algorismes; en la forta, les decisions són preses per algorismes. Mentre que els estudis de Rosenblat i Lee (per separat) mostren que el primer cas pot portar a un major conflicte entre l’empresa i el treballador (qui veu a l’algorisme com un instrument parcial cap al qual decideixi l’empresa), el segon cas no provoca una resposta conflictiva, però sí una més negativa: l’empresa, el cap i l’algorisme són una i la mateixa cosa que dictamina les ordres. Però Lee (et al., 2021) també veu amb bons ulls la gestió algorítmica en la seva versió participativa. Els algorismes no són el mal per si mateix; com tota eina, beneficia a qui l’empunya. En l’estudi de Lee, es va oferir als treballadors triar diverses tasques que avaluaven segons les seves preferències i un algorisme (de manera imparcial) col·locava a cada treballador en tasques que, de mitjana, preferien sobre les tasques triades per la gestió humana.

    En qualsevol cas, el fonamental de l’estudi de Lee és que la gestió algorítmica provoca una resposta diferent a la gestió humana; com expliquen Crawford & Calo (2016), gran part dels treballadors temen, no tant que els algorismes i la IA puguin llevar-los el treball, sinó que els algorismes siguin injustos i opacs. I, potencialment, aquesta gestió algorítmica té un major grau d’explotació tant per tot el que hem dit fins ara com per l’opacitat de l’algorisme.

    Respecte a l’opacitat de l’algorisme, les grans empreses de l’era digital s’han beneficiat de la lògica capitalista després de les patents i la propietat intel·lectual: tret que ho dictamini la llei, un algorisme no ha de ser públic perquè és un actiu més de l’empresa, una manera més d’aconseguir un benefici. Aquí ens referim a la segona part del nostre article sobre ètica algorítmica, on expliquem que l’opacitat d’un algorisme el fa perillós per a la societat i en aquest cas per al benestar dels treballadors. Exemple d’això: en 2017, Uber va canviar, sense avisar a ningú, una part clau del seu algorisme, el surge pricing, el preu dinàmic, aquell que canvia segons la demanda i les particularitats espaciotemporals de la localització del conductor que ja hem explicat. El canvi d’Uber va consistir a apujar lleugerament els preus que cobrava als consumidors i abaixar el salari que pagava als conductors per a emportar-se un major benefici (Rosenblat 2018a). Uber mai va notificar als seus usuaris (i més important, als seus conductors) d’aquest canvi, un «petit experiment», com es va excusar Uber, que jugava amb la possibilitat dels treballadors d’arribar a fi de mes.

    Per descomptat, Uber no hauria dit res si no fos perquè els treballadors, en diversos fòrums, es van adonar d’això. Una última anotació sobre això: l’algorismització no és causa de l’aïllament del treballador (que porta ocorrent dècades) però sí que és un agreujant. Un article sobre fòrums de conductors d’Uber (Rosenblat, 2018b) explora de manera superficial la donis-sindicalització del treball digital, la qual cosa permet una major explotació. L’aïllament del treballador, la seva pèrdua de consciència de grup, ha estat resultat de la seva desestabilització laboral (treballs més temporals on és complicat crear una cosa duradora com un sindicat) i altres factors, però la gestió algorítmica pot fer que l’asimetria de poder amb l’empresa sigui encara major, alguna cosa a explorar pels estudis interdisciplinaris de la regulació i la tecnologia. Però d’antuvi els treballadors digitals, com els conductors d’Uber, perden poder de negociació amb la seva empresa i es disgreguen en treballadors individuals, incomunicats amb els seus iguals. No obstant això, projectes com la gestió algorítmica participativa de Lee i la regulació d’algorismes poden oferir un futur més brillant.

    Crawford & Calo, 2016: https://www.nature.com/articles/538311a
    The Economist, 2016: https://www.economist.com/business/2016/01/28/flexible-figures
    Eidelson, 2020: https://fortune.com/2020/10/26/uber-lawsuit-drivers-fired-low-ratings-racial-discrimination/
    Lee, 2018: http://minlee.net/materials/Publication/2018-AlgoManagePerception.pdf
    Lee et al., 2021: http://minlee.net/materials/Publication/2021_AIES-WorkerWellBeing.pdf
    Rosenblat, 2016: https://ijoc.org/index.php/ijoc/article/view/4892/1739
    Rosenblat, 2018a: https://www.nytimes.com/2018/10/12/opinion/sunday/uber-driver-life.html
    Rosenblat, 2018b: https://www.fastcompany.com/40501439/the-network-uber-drivers-built
    Smiley, 2020: https://www.theguardian.com/commentisfree/2020/oct/29/uber-lyft-racist-business-model-prop-22

  • La corba de Gartner: com es mesura el hype a la tecnologia?

    La corba de Gartner: com es mesura el hype a la tecnologia?

    Els mitjans sempre van plens de notícies sobre tecnologies revolucionàries que, en teoria, estan a punt de canviar-nos la vida. Però quantes d’elles causen realment l’impacte que se’ns promet? Sembla com si moltes d’aquestes idees caiguessin en l’oblit i no en tornéssim a sentir a parlar. L’any 2017, per exemple, es deia que l’Analítica Augmentada, cap al 2020, havia de fer de forma automàtica el 40% de la feina dels analistes de dades. Doncs bé, per sorpresa de ningú a 2021 la feina dels analistes de dades segueix sent més o menys la mateixa.

    Aleshores, la tecnologia no canvia al ritme que ens agradaria? Tendim a inflar les capacitats reals de les noves idees? Moltes d’elles estan abocades al fracàs? La llei d’Amara, molt coneguda en l’àmbit tecnològic, és molt il·lustrativa en aquest sentit:

    Tendim a sobreestimar els efectes d’una tecnologia en el curt termini i a subestimar-los en el llarg termini.

    Té lògica, si t’hi pares a pensar. Surt una nova idea amb molt de potencial i s’és molt optimista amb la seva capacitat de canviar el món. Se’n creen grans expectatives i tothom en parla. Al cap d’un temps es comprova que té algunes limitacions i que potser no podrà fer tot el que s’havia imaginat. Hi ha decepció i se’n deixa de parlar. Però hi ha alguna manera de controlar tot això? Es pot mesurar el hype en el món de la tecnologia? La resposta és que sí. Deixeu-me que us presenti la corba de Gartner.

    El cicle de sobreexpectació, corba de Gartner o, literalment de l’anglès, el cicle del hype (hype cycle) és una representació gràfica dels patrons que segueixen les noves tecnologies en quant a maduresa, adopció i futura aplicació comercial. S’hi presenten aquelles que afectaran els negocis i la societat dels propers cinc a deu anys. És publicat anualment per Gartner, una empresa referent en l’avaluació de les tendències del sector tecnològic. De fet, elaboren un centenar de cicles diferents cada any, però el cicle del hype n’és sens dubte el més famós.

    Com funciona, doncs, la corba de Gartner? És molt senzill, realment. Se separen les tecnologies emergents en cinc fases:

    1. Llançament: presentació del prototip en un esdeveniment per atreure el focus mediàtic. Tal i com us imagineu, s’utilitzen colors vius, música èpica i es convida a un munt de periodistes a prendre alcohol i canapès.
    2. Pic d’expectatives sobredimensionades: com que tothom en parla, es crea un entusiasme excessiu i es generen expectatives poc realistes. En termes moderns, es crea el hype.
    3. Abisme de desil·lusió: es topa amb la realitat. Les primeres versions del producte solen ser cares i tenir errors, se’n comença a dubtar de la utilitat i, encara pitjor, algunes empreses hi deixen d’invertir.
    4. Rampa de consolidació: les empreses que no han abandonat el vaixell intenten entendre els beneficis de la idea, amb l’esperança d’acabar tenint èxit i dir allò que queda tan bé de “nosaltres hi vam creure en tot moment”.
    5. Altiplà de productivitat: els beneficis de l’eina queden demostrats. S’arriba a una situació estable, se’n fan noves versions i es comencen a introduir en el mercat.

    I de què serveix, tot això? Oh, sorpresa: sobretot és un tema de diners. Aquest cicle és especialment útil per als inversors, ja que poden triar si prefereixen ser els primers en una tecnologia poc coneguda que podria tenir un gran impacte o bé ser conservadors i apostar per una opció més consolidada. En una inversió no només importa el producte sinó el moment. De res serveix escollir un bon objectiu si es comença massa aviat o massa tard, s’abandona massa d’hora o s’aguanta massa temps. La corba de Gartner serveix de guia per evitar aquests errors o, si més no, mitigar-los.

    Si anem a l’últim cicle publicat, l’any 2020, veiem que va estar clarament marcat pel context de la pandèmia. Gartner va destacar especialment cinc tendències que englobaran les tecnologies emergents dels propers anys:

    • Arquitectures compostes: estructures prou flexibles per adaptar els models tradicionals de negoci a la descentralització i a canvis bruscos com la pandèmia o la recessió econòmica.
    • Confiança algorítmica: la proliferació de fake news i la violació de dades fa que es comencin a utilitzar algoritmes per millorar la fiabilitat de la informació.
    • Més enllà del silici: la demanda de transistors està topant amb l’esgotament del silici i s’estan buscant nous materials per substituir-lo.
    • IA formativa: tècniques d’intel·ligència artificial capaces d’adaptar-se a nous contextos. L’aplicabilitat és infinita, però és curiós que Gartner adverteix d’usos perillosos com la síntesi de noves drogues.
    • Identitat digital: creació de versions digitals de nosaltres mateixos, des de serveis d’autenticació fins a la comunicació entre cervells i ordinadors.

    En la següent imatge es pot veure la corba de Gartner del 2020, amb tecnologies d’aquestes cinc temàtiques, on a cada concepte se li assigna la previsió del temps que es creu que es trigarà a implementar:

    Lògicament, quan es fan prediccions sempre hi ha el risc de poder-la espifiar. I tot i tenir molt de prestigi en el sector, Gartner no es lliura de les crítiques. D’entre les queixes més destacades se’n diu que li falten evidències científiques, que els termes sobreexpectació i desil·lusió són subjectius, que el pas entre fases no està ben definit i que es prioritzen criteris econòmics. També hi ha retrets sobre algunes tecnologies no identificades a temps o sobre certes inconsistències entre cicles d’anys diferents. Tot i això, val a dir que hi ha molts casos en què la corba de Gartner sí que ha sabut identificar a temps idees que han anat seguint el cicle previst. És el cas, per exemple, de la computació al núvol, la impressió 3D, la recerca basada en llenguatge natural, el 4G, el NFC, el reconeixement de veu o les bases de dades NoSQL.

    Encara no sabem quines seran les noves línies del sector tecnològic que ens durà el cicle del hype del 2021. Segurament, farà que alguns inversors s’estirin dels cabells i que d’altres es freguin les mans. Però el que sí que n’hauríem d’aprendre tots plegats és que ni ens hem de deixar enlluernar de seguida per totes les noves tecnologies ni les hem de matar al primer contratemps. Amb una mica de paciència, confiança i temps és probable que moltes d’elles, a la seva manera, sí que acabin canviant el món.

    Referències:

    [1] Kasey Panetta; 5 Trends Drive the Gartner Hype Cycle for Emerging Technologies; 2020.

    [2] Gartner’s Hype Cycle Methodology; CIO Wiki; 2021.

    [3] Cicle de sobreexpectació; Viquipèdia; 2021.

  • No hi ha futur: Mark Fisher, vaporwave i SOPHIE

    No hi ha futur: Mark Fisher, vaporwave i SOPHIE

    Mark Fisher desenvolupa en Fantasmas de mi vida la idea de la lenta cancel·lació del futur, la concepció (heretada de la seva obra anterior, Realismo capitalista) que no ens queda un futur, que som incapaços d’imaginar alguna cosa que no contingui el passat. En el pla polític, Fisher ho formula d’una manera brillant: on uns abans veien el futur com una cosa inesperada i ple d’intriga, però esperançadora, ja sigui en el socialisme (com ell argumenta) o en altres formes, ara només veiem un possible retorn a l’estat del benestar keynesià, que es transforma en una cosa «futura» i «nova» sota la política de la Renda Bàsica Universal.

    El que tenia de bo Fisher, però, és que mai es quedava en el pla purament polític, ni esperava que la resta de gent ho fes. Fisher va traslladar aquesta idea a la cultura i l’art amb l’hauntologia, el retorn del passat; un retorn en dos sentits: el nostre retorn al passat (els vuitanta/els noranta/els dosmil són la moda de nou) i el retorn de l’art passat al present com a marca d’un futur perdut. Encara que això pugui semblar complicat (el terme hauntologia ve de Derrida, qui al principi ho va encunyar com el fenomen que alguna cosa estigui embolicada en les seves absències passades, per parlar sobre Marx), la música hauntologica és bastant simple: és una música embolicada en el passat, que necessita retornar al passat per a sentir-se present. És una música que no concep (o no vol concebre) un futur nou i per això necessita ser retrofuturista, entendre el passat per poder veure un futur que encara així segueix ancorat al passat.

    El millor exemple que posa és The Caretaker, el projecte del britànic Leyland Kirby, relativament desconegut fins que el seu últim projecte –una col·lecció de sis discos de sis hores i mitja sobre la demència– es va fer viral a TikTok. La música de The Caretaker es pot resumir en la repetició de samples de discos de ballroom de la dècada dels trenta fins als cinquanta: és lúgubre, inquietant i, d’alguna manera, reconfortant. Reconfortant, perquè representa un passat comú; inquietant per la seva estranya manera de representar el passat. És un passat no-adulterat, no-somiat, al contrari que el post-punk-revival, el disc-revival, i altres revivals musicals que ens persegueixen aquesta dècada.

    A la cantonada oposada del ring estaria el vaporwave. No intentarem definir al vaporwave; el vaporwave és indefinible. Però sí que podem posar exemples: encara que molts recorren a Macintosh Plus i la seva famosa リサフランク420 – 現代のコンピュ com l’exemple per antonomàsia del vaporwave (i no els hi falta raó), crec que un exemple menys conegut, però més efectiu, és el d’EccoJams (també conegut com a Daniel Lopatin, ara amic de Rosalía (!) i productor de grans discos d’electrònica) i nobody here. El vaporwave és més que música: és estètica, són els anys vuitanta del segle que ve, són Califòrnia i Tòquio alhora, en el mateix lloc, és el futur i el passat alhora; i abans de res, és ironia. El bon vaporwave juga a molts nivells: el que sona és un sample dels vuitanta o música que intenta sonar com els vuitanta? És futur, passat, present? La resposta és que és els tres alhora. És una música veritablement present, en tant que no coneix ni concep el futur, però es nega al fet que no pugui existir, i per a això recorre al que millor coneix: el passat. És la música de la internet irònica abans que internet fossi irònica.

    Si The Caretaker representa un passat no-adulterat i el vaporwave un present que recorda el passat de manera irònica i riu de la possibilitat del futur, SOPHIE (qui va morir fa a penes sis mesos) representa un futur anti-hauntologic, com ho descriu Matt Bluemink en el seu brillant article. Fisher ja parlava que la música del futur, la futurística, tenia el seu potencial en l’electrònica, com deia del disc debut de Burial. Però l’electrònica, que podia mirar al futur, també s’ha quedat en el passat, i d’això és prova el vaporwave. L’electrònica ha perdut el seu «xoc factor», la seva capacitat de sorprendre. Però llavors va aparèixer SOPHIE.

    Sense cap identitat, SOPHIE va mostrar amb BIPP i la seva playlist/EP PRODUCT que hi havia un futur per a la música electrònica, que no feia falta tornar a Kid A, Music Has The Right To The Children, Autechre, Burial o GAS. Internet es va tornar boja amb ella: qui era SOPHIE? Era la seva música, «pegadiza» i pop, però experimental, irònica o no? El que la va corona, però, va ser el seu disc debut:

    Faceshopping, com la resta d’Oil of Every Pearl’s Un-Insides, sona com alguna cosa que promet el futur. En la internet (i la realitat) que no pot, no sap, concebre el futur, SOPHIE mostra que encara és possible fer-ho, amb esforç, però possible. I potser hi ha un potencial revolucionari, o almenys profundament agitador i subversiu en això. Ja sigui en internet, en la vida real, o en ambdues, per molt difícil que sembli, hi ha la possibilitat d’un futur i és a la nostra mà modelar-lo.

  • Smart City: utopia o distopia?

    Smart City: utopia o distopia?

    Sistemes de reconeixement facial, control d’aforaments, mesura de les variacions en la qualitat de l’aire, etc. són aplicacions tecnològiques que han estat en boca de totes en un context de pandèmia, però ja fa molt de temps que les tecnologies de la informació i comunicació es troben coexistint de forma activa a les nostres ciutats.

    I és què amb les noves problemàtiques derivades de la crisi sanitària han tornat a sorgir debats associats al control i seguretat ciutadana basada en tecnologies de la comunicació, molt relacionats amb el concepte Smart City. Sembla que aquest tipus de comportament de les ciutats és relativament nou, però el concepte de ciutat intel·ligent ha estat lligat des de fa molt de temps a l’imaginari de novel·listes i cineastes de la ciència-ficció, en la permanentment dicotomia d’utopia i distopia.

    Un exemple clar d’aquesta relació és la novel·la The Accidental Time Machine, on es relata com la ciutat de Los Ángeles està governada per una intel·ligència artificial que es pot mostrar de forma individual i personalitzada a cada ciutadana, de forma que es pot discutir directament amb la «ciutat» la qüestió urbana.

    Hi ha una lliçó principal que es pot extreure d’aquest relat: la necessitat cada vegada més gran d’una relació individualitzada entre ciutadà i ciutat; aquesta no es presenta ja exclusivament com un conjunt d’infraestructures, sinó que es pot tractar com un conjunt amb una certa personalitat, i moltes vegades associades a preocupacions polítiques. Els sistemes tecnològics que conformen la ciutat marquen un tipus de caràcter, semblant a la influència que pot tenir el disseny urbà dintre del comportament de la ciutadania, però d’una forma més àgil i activa, ja que les tecnologies de la informació es tracten de sistemes dinàmics.

    En aquest sentit és important no oblidar la relació que té la innovació tecnològica i l’evolució urbana amb la ciència-ficció, els relats futuristes han contribuït de forma significativa en la definició dels objectius a aconseguir. La relació que existeix entre una pel·lícula com Minority Report i les innovacions com interfícies tàctils, escàners de retina o realitat augmentada és coneguda. La digitalització es nodreix de ficcions que posseeixen un fort caràcter auto realitzador, com explica Antoine Picon al seu assaig sobre la teoria i crítica de l’ideal de les Smart Cities.

    El concepte de ciutat intel·ligent llavors porta un temps dintre del pensament col·lectiu d’una part de la població, i està motivat en part per la imaginació de les generacions anteriors a com serien les nostres ciutats del futur. Però, arribats a aquest punt, ens hem de preguntar realment què significa en la realitat que una ciutat sigui «intel·ligent».

    És una idea relativament difusa, però es basa en l’ús intensiu de les tecnologies de la informació i comunicació per afrontar els reptes urbans.

    Un dels punts que generen més discussions i que ha popularitzat més aquest concepte és el de la vigilància, ja que és el que posa en dubte alguns dels valors més arrelats dels individus urbans, però la Smart City no és només control, també és mesurament socioecològic de la ciutat, capacitat de tenir informació clara i objectiva de les relacions urbanes per un millor disseny de la ciutat i de les polítiques públiques.

    L’objectiu principal és aconseguir l’actiu més valuós de l’actualitat: les dades. Amb aquest ús intensiu de les tecnologies de la informació cada vegada s’està generant més i més informació que té la capacitat de redefinir la forma que ens relacionem amb l’entorn. Per fer-nos una idea de la quantitat d’informació de la qual es disposa de l’entorn urbà en l’actualitat, a la ciutat de Barcelona existeixen gairebé 500 datasets (només d’informació totalment pública, Open Data) d’àmbits diversos com pot ser activitat cultural o espais verds.

    Si bé, a l’ésser un concepte amb un gran potencial per millorar la vida a les ciutats, hi ha un gran nombre de riscos que poden derivar en un ús de la tecnologia que sigui perjudicial per a la majoria de ciutadanes.

    En primer lloc és clau que la ciutadania es vegi involucrada dins de les actuacions tecnològiques públiques, com a exercici de transparència i democràcia digital. La creació d’espais propers on es faci difusió tecnològica i s’eduqui en noves tecnologies és indispensable per tal que el procés de digitalització de les ciutats sigui el més horitzontal possible. El fet que els habitants es mantinguin informats també permetrà fugir del «greenwashing» tecnològic que moltes vegades ve associat a les Smart Cities on es fan actuacions sense finalitats clares, només amb l’objectiu d’obtenir rèdit polític.

    En segon lloc, és indispensable que les estratègies de TIC transcendeixin l’escala de ciutat i arribin a una escala de regió o país, si no es pot caure en l’augment de l’escletxa urbana-rural que ja existeix. L’accés a les infraestructures tecnològiques es troba repartit de forma desigual al territori: mentre que les zones urbanes més densament poblades i amb una capacitat econòmica major es poden donar el luxe d’experimentar amb la innovació, les zones rurals i menys poblades (tot i que representen la majoria del territori) no disposen ni de la sensorica més bàsica ni de professionals que puguin gestionar aquestes infraestructures. És necessari desenvolupar plans a escala de regió per no deixar ningú enrere.

    Finalment, és clau establir les pautes que marcaren l’ús de la informació captada pels sistemes d’informació i comunicació. Una política de dades clara i transparent, que protegeixi a les ciutadanes i que estigui al servei d’aquestes, que sigui accessible per tothom i que no es basi a reforçar les dinàmiques de poder que ja existeixen actualment.

    La informació oberta pot permetre la disposició de les eines per fer propostes i canvis a nivell de ciutat, a més que dóna un coneixement molt més clar de què passa dins de l’entorn urbà. La ciutadania i les entitats socials poden tenir més capacitat per poder prendre decisions i participar en l’evolució del territori. Tot això pot ajudar al canvi cap a una ciutadania més involucrada dintre de la vida política, tindrien les eines per prendre les decisions necessàries.

    Per això, com tant altres temes, no es tracta del què sinó del com, les ciutats intel·ligents tenen el potencial de canviar els models de governança urbans cap a un estat més horitzontal, on les ciutadanes estiguin més apoderades i tinguin més capacitat de decisió.

    El fet social i polític és el que definirà el caràcter que tindran les ciutats del futur i definiran si el concepte d’Smart City acaba esdevenint una distopia o una utopia.

  • Les xarxes socials: entre la comoditat i la catàstrofe

    Les xarxes socials: entre la comoditat i la catàstrofe

    Una de les teories conspiranoiques més cridaneres durant aquesta pandèmia ha estat la insinuació que es vol vacunar massivament a la població per poder introduir-nos un microxip que controli tots els nostres moviments, accions i pensaments. T’imagines a Bill Gates o a Mark Zuckerberg vigilant tot el que fem des d’una pantalla? Quina bestiesa, oi? Doncs el més absurd sobre aquest missatge d’alarma és que, de fet, arriba deu anys tard. No cal implantar-te un microxip perquè ja fa temps que duus un dispositiu de control enganxat. Es tracta d’una extensió dels teus braços, ocasionalment col·locat a la butxaca però que mai tens més d’un parell de metres enllà. Em refereixo, lògicament, al teu telèfon mòbil.

    Amb aquesta idea en ment, Netflix va publicar l’any 2020 un documental titulat “The Social Dilemma” (el dilema social), que posava de manifest com les xarxes socials usen les nostres dades per afectar la nostra conducta i la de la societat. Van optar per un format impactant on exdirectius de Google, Facebook o Twitter alertaven dels perills associats als productes que ells mateixos havien creat i que, per motius ètics, havien decidit deixar enrere. No és una fórmula nova, perquè ja fa temps que es comenta el clàssic mantra de “si no pagues pel producte, és perquè tu ets el producte”. El que passa és que si Netflix ho adorna amb efectes especials i música èpica de fons, l’espectador reacciona volent eliminar totes les seves xarxes socials i llançant el seu telèfon mòbil pel balcó. És una reacció exagerada o està justificada?

    Les xarxes socials van néixer per connectar persones a distància. Els individus interaccionaven entre ells i creaven comunitats. De seguida, les reaccions positives al contingut, com el famós botó m’agrada, permetien agrupar gent amb característiques similars. És innegable que han causat efectes meravellosos, abans impensables: retrobaments de familiars llunyants, troballes de donants d’òrgans o pròtesis impagables o l’organització de revolucions democràtiques com la primavera àrab entre 2010 i 2012. I, com no, van ajudar a suportar el maleït confinament. No obstant, la naturalesa d’aquestes plataformes i, de fet, la mateixa naturalesa humana han originat un seguit de problemes greus. I és aquí on The Social Dilemma posa el punt de mira: addicció digital, ciberassatjament escolar, pèrdua de privacitat, polarització política, alteració electoral, difusió de notícies falses o propagació d’ideologies perilloses. Quina llista, no? Si després d’això encara tens el telèfon a les mans ets pràcticament un temerari.

    El reportatge de Netflix fa èmfasi en la capacitat que té el telèfon per mantenir-te connectat amb un bombardeig constant de notificacions. Ara Facebook, ara Youtube, ara Instagram, ara Twitter… Una successió que sembla aleatòria però que no ho és. Com si algú hagués estudiat en detall què et farà mantenir-te enganxat a la pantalla. Una frase que resumeix molt bé aquest propòsit és una genialitat de Tristan Harris, exdissenyador ètic de Google i cofundador del Centre per a la Tecnologia Humana:

    “Tots estàvem buscant el moment en el qual la tecnologia superés la força i intel·ligència humana. Però hi havia un moment molt anterior: aquell en el qual la tecnologia excedís les nostres debilitats.”

    El que ve a dir un dels protagonistes del documental és que la revolució dels robots no és exactament com tots havíem imaginat. Si Will Smith a “Jo, robot”, en lloc de disparar a androides violents, hagués hagut d’intentar no perdre la concentració a la feina per culpa de desenes i desenes de stories d’Instagram, la pel·lícula hagués quedat bastant descafeïnada.

    Ara bé, què té això d’extraordinari? L’entreteniment ha existit sempre. “Panem et circenses”, que deien els romans.  El fet innovador és que ara la distracció és totalment personalitzada i, per tant, tremendament efectiva. Les xarxes socials capten un munt de dades sobre tu. En general, ho permets per desconeixement i perquè es tracta d’una compensació entre comoditat i privacitat. És còmode que en sortir de casa el mòbil calculi el que trigaràs en arribar a la feina? Sí, però per fer-ho ha de saber on vius i on treballes. És encertat que el mòbil t’avisi que està a punt de començar el partit del Barça del que t’havies oblidat? Sí, però ha de saber que tu volies mirar-lo. És pràctic que t’avisi si la persona que t’agrada ha penjat una nova foto a Instagram? Sí que ho és, però espera… com coi pot saber això??? Creu-me que ho sap.

    No t’alarmis, tampoc t’hauries de sentir gaire protagonista. La gran potència de les xarxes socials va molt més enllà de les intimitats de cadascú. Tota aquesta informació, sumada, permet treure conclusions dels interessos de certs grups socials. Fins i tot, per primera vegada, les marques poden ensenyar anuncis a persones que ja saben que hi estaran interessades. Màgia. I aquí també entra en joc la política. Així com el telèfon et va ensenyant contingut que t’agrada, també et mostra gent que pensa com tu. I a més, també s’ocupa de trobar notícies que, curiosament, confirmen totes les teves opinions. Ja tens arguments de sobra per saber que, respecte a un cert conflicte polític, tens tota la raó del món. En canvi, resulta que tens un company de feina que sempre s’esforça a negar la realitat. Vota un partit que et fa fàstic i té opinions sempre indignants. Que no mira les notícies? S’ha de ser mig babau per no veure tots els arguments que tu tens. En el documental, hi ha una reflexió molt reveladora de Justin Rosenstein, exenginyer de Facebook i Google i cofundador d’Asana. Segurament t’has sentit així alguna vegada:

    “Mires a l’altra banda i comences a pensar: com tota aquesta gent pot ser tan estúpida? Mira tota aquesta informació que estic veient constantment. Com pot ser que no l’estiguin veient? La resposta és: ells no estan veient la mateixa informació.”

    Aquí està la clau de tot plegat. El babau del teu company de feina sí que mira les notícies. També s’empapa d’opinions a Twitter com tu. El que passa és que a ell, com a tu, també li donen la raó. És pràcticament impossible que us arribeu a posar d’acord perquè, de fet, ell pensa que el babau ets tu. És veritat que els mitjans de comunicació sempre han polaritzat els seus continguts. La diferència és que, per primer cop, la polarització és automàtica, personalitzada i molt eficaç.

    Se li ha de reconèixer a Netflix que ha sabut plasmar com l’ús de les xarxes socials és capaç de modificar la nostra conducta. Amb una mica de sort, et regalaran uns quants calfreds durant el documental. Però fins quin punt és això tan greu? Doncs quan entren en joc col·lectius vulnerables que poden veure’s totalment sobrepassats pel funcionament de les xarxes: els menors d’edat. La popularitat, la preocupació per la imatge i la reacció davant de comentaris negatius han estat sempre problemes d’adolescència, però les xarxes socials els poden multiplicar sobremanera. Com més connexió, més exposició. Com més exposició, més probabilitat de rebre comentaris negatius. I com més comentaris negatius, més patiment. El reportatge explica que als Estats Units, des de 2009 (quan les xarxes socials van començar a estar disponibles en telèfons mòbils) els suicidis de nenes entre 15 i 19 anys han augmentat un 70% i els de nenes entre 10 i 14 s’han incrementat en un esfereïdor 151%.

    És cert que les grans empreses tecnològiques, com totes les companyies, intenten monetitzar els seus productes. També està clar que l’avenç tecnològic no es pot frenar. Sí que és cert que convindria reflexionar sobre el contingut que compartim a les xarxes socials i l’ús que en fem. Fins i tot, desintoxicar-nos de les notificacions del mòbil relaxaria els nostres nivells d’ansietat. Però és també exigible que els governs siguin capaços de regular aquest nou context social per tal de poder protegir la nostra privacitat i, sobretot, la dels menors d’edat. Però aquest és un problema global i és una tasca que ens pertoca a tots. A Catalunya, hi ha certes escoles que opten per desactivar temporalment les xarxes socials d’alumnes que han estat implicats en casos de ciberassatjament, tant agressors com  víctimes. Sembla raonable, no? Doncs es veu que hi ha pares que s’hi neguen perquè, segons ells, els seus fills i filles tenen comptes d’Instagram amb 300 seguidors que no poden desatendre. Mira, jo no sé si Bill Gates ens espia des d’una pantalla. Però us puc dir que si ho fa, veient certs comportaments, se li posarien sovint els pèls de punta.

  • Poden els androides ser racistes? Introducció a l’ètica algorítmica (II)

    Poden els androides ser racistes? Introducció a l’ètica algorítmica (II)

    És una tarda d’estiu a una carretera comarcal de Califòrnia. No hi ha ningú en la carretera: o són a la platja, o treballant. Dos homes condueixen un cotxe, un Toyota. Aparquen en una gasolinera, saluden al dependent i van a la secció de menjar. Un d’ells es posa un passamuntanyes; el dependent sap el que ocorrerà. Els homes criden mans a dalt, i demanen que obri la caixa. Ell ho fa, els dóna tot el que té i ells abandonen el lloc del crim. Amb 500 dòlars més a les seves mans, els atracadors escapen 20 quilòmetres al nord.

    No obstant això, són arrestats poc després. Porten tot l’estiu atracant gasolineres. Són empresonats i esperen a judici. Passen setmanes i els nostres atracadors van finalment a judici. No ens ficarem en processos judicials. Simplement, sabem que són condemnats i que al jutge se li presenten els resultats del COMPAS, un DSS (decision support system) amb l’objectiu de predir la possibilitat de reincidència (i amb això agreujar la pena) d’un condemnat. Segueix una fórmula matemàtica:

    S=(a-w)+(f-w)+(vw)+(ew)+(n*w)

    On a és l’edat actual, f l’edat del primer arrest, v l’historial de violència, e són problemes en el sistema educatiu, i n l’historial de no-cooperació amb la policia; w és la ponderació que cadascun d’aquests factors té sobre el resultat total S. La relació de S és negativa amb a i f (quant menor és l’edat en tots dos casos, major és el resultat) i positiva amb v, e i n (com més gran és l’historial de violència, no-cooperació i problemes d’educació, major és el resultat). Per descomptat, això és el que Northpointe (ara Equivant), la companyia privada darrere de l’algoritme d’ús públic, diu que s’usa; però no revela els càlculs ja que és un programari propietari.

    Descobrim les seves identitats: Alberto i Brandon. Alberto té 19 anys i va ser arrestat per primera vegada als 13, la qual cosa li ha generat una gran desconfiança respecte a la policia. Ve d’una família pobra i mai va acabar l’institut. Brandon, per l’altre costat, va conèixer a Alberto per amics comuns, i mai ha tingut cap problema amb les forces de la llei. Té 25 anys i ha acabat una carrera de direcció d’empreses, i per a pagar els deutes de la universitat atraca gasolineres amb Alberto.

    L’algoritme de COMPAS passa pels registres d’Alberto i Brandon. Alberto té menor edat i edat d’arrest i major historial de violència, no-cooperació i problemes educacionals que Brandon, amb el que el seu risc de reincidència és molt major. Per això, el jutge condemna a Alberto al doble d’anys de presó que Brandon. Estem descartant, per descomptat, que el jutge conegui la raça o classe dels atracadors (la qual cosa és un factor de discriminació), però l’algoritme de COMPAS conté ja per si mateix, en acceptar un input de dades, una discriminació. Les persones de color, o de classe més baixa, o de barris més pobres (tots trets que ara donem a conèixer d’Alberto) poden tenir major tendència a ser arrestats de joves, o a desconfiar de la policia, o a participar en crims a una menor edat, o a no acabar l’educació secundària. El futur és decidit pel passat.

    Estem parlant d’un cas binari, d’una persona que té pitjors resultats en tots els indicadors. Però i si usem indicadors diferents? Propublica dóna un cas il·lustratiu: Vernon Prater, un home de 41 anys que comet el seu primer crim als 33, però que en aquests curts 8 anys comet dos robatoris armats i un intent de robatori; i Brisha Brodin, qui amb 18 anys té cuatros delictes menors juvenils. Brodin va ser qualificada com un risc de reincidència D8 (molt alt) i Prater amb un D3 (baix). Dos anys després, Prater havia robat aparells d’un magatzem per valor de milers de dòlars, però Brodin no havia reincidit. L’algoritme s’equivocava.

    L’objectiu de COMPAS (com qualsevol altre algoritme, en teoria) és el de ser cec, no considerar un prejudici com podria fer una persona classista o racista; però, primer, s’oblida que les dades que rep no ve d’altres algoritmes sense inclinació, sinó de persones amb prejudicis com els policies que van detenir a Alberto amb només 13 anys; i segon, no considera que l’elecció d’aquests indicadors són precisament triats per una raó en concret (per exemple, per què triar l’educació o la no-cooperació, però no la possessió d’armes?).

    Els algoritmes, com la justícia, poden i han d’aspirar a ser cecs i imparcials, però no ho són. Reforcem l’opinió que vam donar en la primera part: la tecnologia no té consciència, només la dels seus creadors. I ens podem aventurar a dir que, en un país on la creació i manteniment de presons és un negoci, i la grandària del qual ha crescut un 14% en 12 anys, un algoritme pot ser usat per a empresonar a cada vegada més persones i per això empresonar a una proporció major de persones de classe baixa o de color. Els estats federals adopten l’algoritme de COMPAS sense conèixer si funciona o no, i si funciona, quin és el seu objectiu? En un tema tan espinós com el de passar anys privat de llibertat per la decisió d’un algoritme que no és ni cec ni imparcial, com ha d’actuar la justícia, i com hem de repensar l’algoritme?

    Altres casos de serveis digitals moguts per algoritmes i racisme: Google Maps, Google Fotos, Twitter, Facebook. Qualsevol algoritme té uns prejudicis continguts en ell, que ve del seu creador i de com configura l’algoritme. Exemple perfecte d’això: una pàgina web de noms en francès que, per defecte, marca com ‘evitar’ els noms en àrab. En efecte, un algoritme pot ser racista si no pensem en el factor del racisme en crear-lo. Si el creador no considera uns certs factors com la classe, el gènere o l’ètnia al crear un algoritme, reflectirà i reproduirà les posicions hegemòniques.

    Intentem posar un final a aquesta (brevíssima) introducció a l’ètica algorítmica. Els problemes ètic-polítics descansen sobre dos eixos: la privacitat i transparència respecte a les dades usades pels algoritmes i les conseqüències dels processos dels algoritmes; problemes d’inputs i problemes d’outputs. El problema resideix en què el segon tipus és més fàcil d’atallar, perquè és col·lectiu, de moltes persones (tots aquells que es veuen discriminats per un algoritme) que juntes poden unir-se enfront d’un problema tangible; però si no s’atalla el primer, remeiar el segon serà tallar la mala herba sense arrencar-la d’arrel: tard o d’hora tornarà a aparèixer, en formes diferents. Si Northpointe no fa públic el seu algoritme de prevenció de reincidència, podrem protestar, però el problema tornarà a aparèixer tard o d’hora.

    No obstant això, el primer tipus és molt més complicat de veure. Quina empresa està sent transparent, i quina opaca? Quina empresa menteix sobre els seus algoritmes, i quina no? Quines dades embeni als governs d’amagat, i quines són simplement oferides per a la publicitat? No sabem en qui confiar, però hem de confiar en algú, creure en què l’empresa que triem pot ser que usi les nostres dades, però que ho farà menys que una altra empresa qualsevol. Com explicava Arendt (i aquí no em demoraré), viure sense uns prejudicis ens faria la vida impossible, perquè hauríem de tenir uns sentits sobrehumans, vigilar cada pas que donéssim. En el seu lloc, confiem en els prejudicis, els judicis congelats. Què diferència a TikTok d’Instagram, tret que una plataforma embeni les nostres dades a la Xina i una altra al món occidental? O a Microsoft d’Huawei? Només perquè una companyia sigui occidental hem de confiar més en ella? L’hacktivisme té aquí un paper clau en tenir la capacitat de poder donar respostes enfront d’això, de descobrir qui menteix i qui no. Tanmateix, trobar a un culpable continua sent complicat, ja no sols per triar davant qui ens queixem sinó pel fet de queixar-se en si, perquè ens enfrontem a companyies multinacionals i bilionàries amb els millors advocats del món a la seva disposició. Per això, devem (per una vegada) confiar que el parlamentarisme legisli sobre la nostra privacitat i la transparència de les empreses en un món digital gairebé sense explorar, on les fronteres són encara molt difuses; és el moment que sorgeixi un Leviatan digital que posi no unes fronteres sinó uns murs que protegeixin els usuaris de les empreses.

    Una altra manera d’atallar aquests problemes és la posada en marxa de projectes que intentin repensar l’ètica algorítmica per a acostar-la als valors del progrés i la democràcia. El Future of Life Institute proposa 13 principis a seguir per l’ètica algorítmica en termes de valors: seguretat, transparència de funcionament, transparència judicial, responsabilitat, alineació de valors, valors humans, privacitat personal, llibertat i privacitat, benefici compartit, prosperitat compartida, control humà, no-subversió i la prevenció d’una cursa armamentista d’IAs.

    També podem anar pel camí dels projectes open source, amb l’objectiu final de crear una internet pública, gratuït i transparent. L’open source destaca pel fet que el seu codi ha de ser públic i d’això es deriva que és transparent, per la qual cosa tots podem conèixer els seus algoritmes, i els seus creadors han de donar compte d’això.

    En conclusió, hem vist que els algoritmes tenen un pes cada vegada major en les nostres vides. Aquest fet, el de delegar molts processos de les nostres vides, és beneficiós en tant que ens lleva una càrrega de treball, però hem de ser cautelosos i tenir precaució. Aquí és on entra l’ètica algorítmica, la reflexió sobre la implantació dels algoritmes i tot el que hi ha darrere d’això: la privacitat tant de l’empresa com de l’usuari, la transparència de les companyies, l’ètica dels creadors dels algoritmes, els valors que han de guiar-los i els ideals als quals han d’aspirar. Les respostes als problemes actuals passen tant per l’examen als pilars dels algoritmes, a través de principis i propostes de recerca en la filosofia, el dret, l’economia, la política i la tecnologia, i la seva posterior restauració o demolició a través de la política pública i legislació.

    No podem donar moltes més respostes sense construir majors fonaments, com no podem construir més teulada si no tenim més sòl. Aquests dos articles, d’unes 2000 paraules cadascun, al final se’ns han quedat curts per a explicar un tema tan ampli i poc explorat com l’ètica algorítmica, però esperem que hagin servit prou bé com una introducció superficial, meitat teòrica meitat aplicada, al qual serà un dels temes candents d’aquesta dècada.