Editor ciberpoder.net

Etiqueta: Tech

La indústria per dins: empreses, decisions i conseqüències.

  • Primera Conferència Internacional d’Auditoria Algorítmica a Barcelona

    Primera Conferència Internacional d’Auditoria Algorítmica a Barcelona

    El darrer dimarts 8 de novembre, va tenir lloc al Centre de Cultura Contemporània de Barcelona (CCCB) la primera Conferència Internacional d’Auditoria Algorítmica, organitzada per Eticas.

    En una taula rodona, diversos experts van parlar de les últimes tendències en la regulació d’algoritmes. Les institucions representades eren la Mozilla Foundation, l’Ada Lovelace Institute, la Universitat de Cambridge, Data & Society, BABL AI i TruEra.

    Segons Gemma Galdon, CEO d’Eticas i moderadora de la sessió, l’auditoria algorítmica és el cinturó de seguretat de la intel·ligència artificial, fent-la millor i més segura. Per tant, és necessari que es consolidi abans que la relació entre la societat i la innovació s’esquerdi. I tot això ha de ser fruit d’un debat sobre l’impacte de la tecnologia en les persones.

    La sessió forma part d’unes jornades de debat entre els ponents, que posteriorment van viatjar a Brussel·les per traslladar les seves conclusions als legisladors del Parlament Europeu. L’objectiu és establir un full de ruta per crear un marc que reguli els algoritmes que tenen impacte en la societat.

    Es va reconèixer que, tot i tenir moltes eines, encara s’ha de trobar la manera més adequada per utilitzar-les. L’esforç per alinear la recerca i la implementació durarà anys i haurà de comptar amb la col·laboració del sector públic, el sector privat i els ciutadans. En qualsevol cas, l’auditoria d’algoritmes va molt més enllà d’un problema tècnic. Les dades dels usuaris i la informació sensible que contenen tenen una dimensió social i això fa que s’hagi de plantejar un enfocament socio-tècnic.

    Aquesta qüestió està començant a despertar molt d’interès i és realment emocionant i esperançador el que pot passar els pròxims mesos a Europa. Com va dir Ramak Molavi, de la Mozilla Foundation, la transparència no és un objectiu, sinó una condició per un entorn saludable, privat i sostenible.

  • Llops, targetes de crèdit i algoritmes que discriminen

    Llops, targetes de crèdit i algoritmes que discriminen

    La intel·ligència artificial en un entorn massa salvatge

    Fa uns anys, uns investigadors volien diferenciar imatges de huskies i de llops. Amb tècniques de Machine Learning, van crear una xarxa neuronal que rebia una imatge i endevinava de quin animal es tractava. I gairebé no fallava mai. A continuació, exemples de cinc encerts i un error:

    Fins aquí res estrany, no? La intel·ligència artificial resolent una tasca que no sembla excessivament difícil. Huskies i llops, per favor. No hi havia cap repte més complicat? 

    Però els investigadors volien entendre per què la xarxa neuronal de vegades s’equivocava. Llavors, van buscar en quines parts de les imatges es fixava el model per decidir entre un animal o l’altre. La cara? Les orelles? El tipus de pèl? Mireu el resultat, que és sorprenent:

    El model es fixava en el fons de la imatge! Si hi havia neu, deia llop. Una classe de parvulari hauria arribat a la mateixa conclusió a canvi d’una bosseta de llaminadures. No és que el model fos dolent, però no feia el que volien. No diferenciava huskies i llops. Era un detector de neu!

    Aquests investigadors van cometre un error groller: haurien d’haver utilitzat imatges de llops amb neu i sense. I aquesta anècdota sembla inofensiva, però no és un cas aïllat. Sovint, no es recullen dades amb diversitat suficient. Per exemple, en els estudis per relacionar el genoma humà amb risc de malalties, el 2019 el 80% dels individus de les bases de dades eren europeus. Aquests exemples semblen fàcils de corregir, però, de vegades, es cometen errors molt més subtils i amb conseqüències catastròfiques.

    Una targeta de crèdit… sexista?

    L’agost del 2019, Apple va treure als Estats Units una nova targeta de crèdit. L’Apple Card havia de ser una revolució. En paraules seves: «Construïda sota els principis de simplicitat, transparència i privacitat, l’Apple Card no té taxes, es paguen menys interessos, facilita entendre les despeses i proporciona un nou nivell de seguretat». Ah, i era d’un color platejat espectacularment bonic. Apple, sempre grandiloqüent. I aquest cop de la mà de Goldman Sachs.

    Uns mesos després, David Heinemeier, un emprenedor del món tecnològic, va escriure un tuit molt polèmic. Denunciava que, tot i tenir exactament les mateixes condicions econòmiques que la seva dona, l’Apple Card li concedia un límit de crèdit 20 vegades més gran que a ella. Això va crear molt de rebombori. L’Apple Card era sexista? Poc després, Steve Wozniak, cofundador d’Apple, va respondre al tuit admetent que a ell i a la seva dona els passava el mateix.

    Però la cosa es complica. Perquè en David —i molts d’altres— van trucar a Apple demanant explicacions. I els treballadors responien sempre el mateix: que havia estat l’algoritme! Asseguraven que el model tractava a tothom per igual, però que no entenien les decisions que aquest prenia.

    El Departament de Serveis Financers de Nova York va investigar la qüestió, però no van poder demostrar que l’algoritme fos sexista. Tampoc van demostrar que no ho fos, però és que la sorpresa és que haguessin pogut treure alguna conclusió d’un algoritme que ningú entenia. A més, sovint les inspeccions a les grans corporacions acaben sent tan amables que moltes vegades no hi ha gaire diferència entre una auditoria i un massatge.

    Algoritmes i discriminació

    L’error dels llops a la neu o de l’estudi genètic és que les dades utilitzades no són representatives de la població. En ciència de dades, això s’anomena biaix. I pot corregir-se, però el problema de fons és molt pitjor. Com que la societat porta molts anys discriminant per gènere, ètnia, classe o ideologia, les dades que es recullen del passat són gairebé sempre discriminatòries. I si els models aprenen d’aquestes dades, prendran decisions que reforcin aquesta discriminació, afavorint grups privilegiats i perjudicant-ne d’altres. Això no és ètic ni legal en moltes regions del món.

    Rarament, algú fa models sexistes o racistes a propòsit. De fet, Apple i Goldman Sachs van sortir indemnes perquè no usaven informació explícita del gènere, ètnia o estat civil dels seus clients. Però per molt que s’eliminin les variables sensibles, aquesta informació pot deduir-se d’altres maneres. Els hàbits de consum, les opinions a les xarxes socials o la geolocalització poden revelar la identitat o la ideologia de les persones i transformar-la en informació que les pot discriminar.

    Un camí… sense sortida?

    Resoldre aquestes qüestions no és gens senzill. Com sempre, la tecnologia va a un ritme molt més ràpid que les lleis que l’han de regular. La intel·ligència artificial fa dècades que es preocupa de fer models molt precisos per resoldre reptes cada vegada més complicats. Però com més complexes són els problemes, més difícils són d’entendre els models que els resolen.

    Cada vegada és més comú, però, que els usuaris només confiïn en models que poden comprendre. A més, el Reglament General de Protecció de Dades (GDPR) de la Unió Europea obliga a justificar qualsevol decisió automàtica a les persones que se’n veuen afectades. Per tant, algú a qui se li denega un crèdit pot demanar explicacions sense que, com en el cas de l’Apple Card, li diguin que simplement ha estat un algoritme.

    A partir d’ara, la intel·ligència artificial té un doble repte. Els algoritmes han de continuar donant resposta als reptes majúsculs que tenim com a societat aquest segle. Però no ens podem conformar en crear algoritmes potents. Necessitem trobar maneres d’explicar les decisions que aquests prenen. I tot i que són dues tasques que sovint s’han considerat incompatibles, recentment s’estan trobant maneres de sortir d’aquest atzucac. En propers articles les detallarem.

    Referències:

    Besse, P., Castets-Renard, C., Garivier, A. & Loubes, J, 2018; Can Everydai AI be Ethical? Machine Learning Algorithm Fairness
    Apple, 2019; Apple Card launches today for all US customers
    Bloomberg, 2019; Viral Tweet about Apple Card leads to Goldman Sachs probe.
    TechCrunch, 2021; How the law got it wrong with Apple Card.
    Meetup, 2020; Hablemos de ética de la Inteligencia Artificial.

  • D’igual a igual: un viatge per la història d’Internet

    D’igual a igual: un viatge per la història d’Internet

    L’Internet. Aquesta eina que en qüestió de trenta anys s’ha convertit en un dels pilars fonamentals que sosté la nostra civilització. Una tecnologia que ens permet estar en contacte quasi instantani amb qualsevol indret del món. Un clic i milers de quilòmetres semblen esfumar-se. L’Internet és aquesta monstruosa teranyina de la qual no en sabem gairebé res, però que alhora, hi dipositem tota la nostra confiança i identitat. Tota la nostra fe cega. Deixem-nos ja de cristianismes o islamismes; l’autèntica religió amb més adeptes avui dia és la WWWisme. I els seus grans beneficiaris —Google, Amazon, Facebook, Apple i Microsoft; GAFAM pels amics— són, actualment, les corporacions globals amb un capital de més valor. Ho sento, Vaticà, però ja no talles el bacallà.

    Però amb quin objectiu va néixer l’Internet? Doncs d’una idea molt senzilla: la de poder compartir informació entre dospunts allunyats. D’igual a igual. De tu a tu. S’ha aconseguit? Sí, i de quina manera. «Si em punxen no em treuen sang», hagués dit Tim Berners-Lee l’any 1989 si hagués presenciat la final del videojoc League of Legends del 2019, on més de 44 milions de persones van seguir l’esdeveniment en streaming des de casa seva. Ara bé, podríem dir que dècades després l’Internet segueix servint per allò que va ser creat? Quan l’any 1971 es va inventar el correu electrònic, l’Internet gairebé es basava únicament en l’enviament d’aquests trossos de text. Llavors encara no podíem visualitzar pàgines allotjades en servidors com els actuals, que estan disponibles 24/7 i sempre amb ganes de donar-te allò que més necessites, com els pakis que et salven el cul quan una nit random de birres se t’escapa de les mans. L’Internet el formaven un grapat de científics nord-americans, que compartien informació entre si. No va ser fins a principis dels noranta que la World Wide Web es va fer popular; és el moment on neixen els web browsers que permetien assimilar gràficament i de manera atractiva el contingut que algú, des de qualsevol racó del planeta, et volia mostrar. Arribava l’obertura de l’Internet al món. Qualsevol persona sense coneixements informàtics podia accedir-hi a través de simples clics a la pantalla del seu PC. Els ordinadors personals i l’Internet es van desplegar arreu del planeta de manera desorbitada. La història de la humanitat estava a punt de canviar per sempre.

    L’Internet deixa de ser un lloc on compartir sense ànim de lucre. Comença l’era de la seva capitalització. Qui tenia els diners per pagar els servidors, tenia el poder d’explicar la seva veritat al món i donar-li la forma que més li convingués.

    Des del moment en què l’Internet és accessible als països rics, la xarxa se’ns presenta com el gran espai de la informació, de la igualtat i del coneixement. Dóna a cadascú la possibilitat de connectar-se arreu i accedir lliurement a qualsevol mena de contingut, tothom és igual. Sobre el paper. Perquè, malgrat aquesta primera i honrada idea inicial, l’obertura de l’Internet a tots els nivells de la societat de consum comporta una flamant i suculenta oportunitat de negoci que els més poderosos no deixaran escapar. És el moment on apareix la dialèctica «servidor-client». Master-slave. Aquesta nova jerarquia entre usuàries i màquines trenca la relació d’igual a igual; a partir d’aleshores algú serveix un contingut i uns altres hi poden accedir. L’Internet deixa de ser un lloc on compartir sense ànim de lucre. Comença l’era de la seva capitalització. Qui tenia els diners per pagar els servidors, tenia el poder d’explicar la seva veritat al món i donar-li la forma que més li convingués. El núvol, abans translúcid, on passava la llum dels raigs del Sol, s’estava transformant, de mica en mica, en una entitat grisa i opaca. El somni de la llibertat s’havia perdut pel camí. Però no tot eren males notícies: arribaven els anys 2000, i amb ells, un bri d’esperança que ens deixà un llegat importantíssim.

    Juny de 1999. Aquí encara pagàvem impostos en pessetes al govern d’Aznar, i allà, els Estats Units ja estaven maquinant bombardejar Iraq. Entra al terreny de joc Napster, pionera en el camp de les xarxes P2P (peer-to-peer). I què és exactament això? Doncs un tipus de xarxa que s’implementa dins d’una arquitectura distribuïda de computadores connectades entre si equitativament, anomenades peers. Aquests peers tenen tots els mateixos privilegis, i són partícips, de manera equipotent, de les operacions que se’n deriven. Eing? Molt senzill. Que si en Jordi vol descarregar-se una cançó en MP3 que l’Arnau té al seu disc dur, l’Arnau en lloc de pujar-la a un únic servidor per posteriorment fer-la accessible a tothom, demanarà ajuda a tots els seus amics peers que ja tenen aquest mateix fitxer, per tal que en comparteixin un trosset petit al seu amic necessitat Jordi. D’aquesta manera ell ajuntarà tots aquests bocins i podrà escoltar el temazo. El filtre que suposa passar pels servidors, on es gestiona i restringeix la informació, ja no hi és. Passem a tenir un sistema sense duanes, és a dir, a compartir el que vulguis lliurement entre milers de peers, sense intermediaris. La democratització del coneixement. D’igual a igual. Us sona? La idea original de l’Internet havia tornat. Senzillament, Napster era el programari que ho feia possible. Una allau de gent va començar a utilitzar la plataforma per compartir música i, en qüestió de mesos, els grans segells discogràfics van emprendre accions legals. El mediàtic judici contra Napster va fer pujar la seva popularitat fins a arribar al punt en què una de cada cinc usuàries de l’Internet feia servir la plataforma. Una xifra estratosfèrica. Malgrat el seu tancament dos anys i mig després, Napster va obrir una escletxa irreversible dins la comunitat online. Totes recordareu eMule o Ares a casa nostra i el in_the_end_linkin_park_free_download.mp3. Va ser l’època també del controvertit Copyright i de la persecució descarnada de les grans multinacionals contra qualsevol tipus d’intercanvi a cost zero. Aquella revolució digital va crear una cultura crítica; eines com Viquipèdia, o el sistema operatiu Linux juntament amb el moviment de programari lliure es van popularitzar. Tanmateix, durant tot aquest rebombori va haver-hi un actor que en va sortir especialment beneficiat.

    El dimarts 23 d’octubre del 2001 Steve Jobs va presentar l’iPod. I va tenir els sants pebrots de vendre’l com una «autèntica revolució», tot i que els reproductors mp3 ja feia temps que sonaven. Quina va ser la jugada mestra d’Apple? De cara a l’exterior, es van posicionar al costat de la llibertat de descàrrega i van declarar la guerra al Copyright, però no deixava de ser un farol. Aprofitant la mediatització del debat al dret a còpia que va sorgir arran del judici a Napster, Apple aprofità per adoptar una imatge «rebel» que va portar la poma a omplir portades de molts diaris. La figura dels «nois dolents» sempre ha estat una magnífica estratègia de màrqueting. La realitat és, però, una altra. De portes endins, van utilitzar el seu poder d’influència per parlar d’amagat amb les discogràfiques i recordar-los-hi que no podien declarar la guerra a la tecnologia, i que, si es posaven del seu cantó, guanyarien la batalla. Dit i fet. La nova plataforma digital iTunes permetia comprar la música «legalment», i mentre les discogràfiques la promocionaven, finalment tenien llum verda per anar contra qualsevol xarxa d’intercanvi oberta. La carambola perfecta. A veure si n’aprenem, Puigdemont; aquesta sí que és una jugada mestra. Així doncs, a partir d’aquell moment els serveis de subscripció de pagament van anar guanyant terreny en detriment de les pàgines P2P, que van quedar en segon pla. Malgrat tot, l’època daurada de Napster i tots els valors que representava van marcar per sempre tota una generació d’internautes.

    Han passat molts anys, però… com estem avui en dia? El tràfic a l’Internet ha experimentat un creixement exponencial de tal nivell que avui dia ja es pot dir que és el primer negoci mundial. Amb la millora substantiva de les velocitats de connexió, hem deixat de banda les descàrregues tradicionals per donar pas a l’streaming. Les opcions tan legals com il·legals s’han multiplicat i actualment ja tothom coneix YouTube, Spotify o SeriesPepito(fins que la van tancar; o series.ly, fins que la van tancar; o SeriesYonkis, fins que la van tancar; o qualsevol altra plataforma gratuïta, fins que, guess what?, la van tancar). Les xarxes P2P també han evolucionat i aquests últims anys la comunitat d’usuàries ha popularitzat l’ús del protocol BitTorrent, amb la consegüent persecució judicial a pàgines com The Pirate Bay, sense èxit. Recordeu que, al món de l’Internet, no es poden posar portes al camp.

    «Si no torrenteamos la cultura, la cultura se netflixea», corre per la xarxa. La cultura viva dels pobles es reprodueix constantment a partir de l’ús, l’intercanvi, la reinterpretació i l’encaix amb elements de cultures diverses.

    Centrem-nos, però, en el gegant audiovisual Netflix. Quants de vosaltres heu proposat veure una peli a casa vostra, i heu obert Netflix per «a veure què hi ha»? I no només això, sinó que a l’hora d’escollir la pel·lícula o sèrie, no heu anat a buscar un títol en concret, sinó que us heu deixat portar per les «recomandaciones», que si Netflix les recomana, deuen molar. Tot ben còmode, ben mastegat, per no haver de pensar gaire. Potser a primer cop d’ull no es veu, però aquí hi ha un problema i dels grossos.

    En primer lloc, l’enorme incongruència que representa haver de passar pel filtre d’un servei privat en mans de ves-a-saber-qui per tal de mirar una peli. Què passa? Que si no està a Netflix ja no existeix? I no estem parlant de triar unes sabates o unes altres. Estem parlant d’una obra artística amb tota una intencionalitat i sensibilitat al darrere. Bé, potser no és el cas de Vin Diesel a Un canguro superduro. Però ja ens entenem. És això el que volem? Deixar la cultura en mans del pur interès econòmic d’uns quants que decideixin el que s’ha de veure i el que no? A nosaltres ens sembla una salvatjada.

    I, en segon lloc, el fet de deixar la nostra tria a les mans d’un algoritme matemàtic, dissenyat exclusivament per satisfer els interessos de Netflix. Què se n’ha fet del boca a boca? Dels videoclubs de barri? O dels DVD que deixaves als teus veïns i que mai tornaves a veure? O dels pendrives plens de pelis en format AVI que et copiaves del teu col·lega hacker? Tot això feia comunitat i la cultura prenia una dimensió social, on compartir i intercanviar era el pa de cada dia. En canvi, el model predominant actual ens recorda cada cop més a la idea del «servidor-client». Una entitat poderosa que ens dicta el contingut que podem consumir i el que no, tot en nom de la màxima comoditat i facilitat d’ús. L’intercanvi s’ha esvaït en favor de la individualitat i el consum. A veure si, tan còmodes tan còmodes, i al final resulta que no ens haurem d’esforçar mai més per res.

    «Si no torrenteamos la cultura, la cultura se netflixea», corre per la xarxa. La cultura viva dels pobles es reprodueix constantment a partir de l’ús, l’intercanvi, la reinterpretació i l’encaix amb elements de cultures diverses. Aquesta tasca té un sentit alliberador, que amplia el patrimoni cultural i li proporciona nous significats, la sotmet a crítica i la posa en relació amb altres cultures. Aquesta és la gran riquesa que hem de preservar. Orxata Sound System, ferms defensors del P2P, ja ho cantaven a Ofensiva tutupà: «el disc el fem per promocionar el directe, no fem directes per promocionar el disc!». La cultura i la xarxa no com a reproducció d’un sistema que només busca el benefici monetari, sinó com a elements igualitaris i de cohesió social. Per això és tan important tenir un Internet que s’escapi dels cercles de mercantilització i les lògiques del capital. Un Internet amb la màxima llibertat de coneixement i circulació. Free the bits! Un Internet que recuperi la seva idea més pura i original: la de compartir informació entre iguals.

    Fonts consultades:

    El enemigo conoce el sistema, Marta Peirano (2019, Editorial Debate)
    Recordando a Aaron Swartz – Declaración del Partido Interdimensional Pirata, Utopía Pirata (2019)
    Peerflix, a streaming torrent client for Node.js (npm install -g peerflix)

  • La tecnologia no és neutral

    La tecnologia no és neutral

    Si penséssim un eslògan que descrigui el projecte de ciberpoder.net/ probablement seria: la tecnologia no és neutral.

    La tecnologia, les dades i els algoritmes no són neutrals si entenem «neutral» com a sinònim d’«apolític», «desinteressat» o «innocu».

    La nostra presència al món és, en si, política; el nostre consum, els nostres missatges i el temps que passem a plataformes digitals són actes polítics, perquè afecten altres persones i comunitats.

    D’una manera o altra, el contingut que veiem a internet és interessat. Les organitzacions que el fan possible són interessades. Les plataformes són interessades. Quan un grata amb el dit la superfície del contingut, els interessos són evidents en la majoria de casos, però en l’acceleració del dia a dia no tenim gaire temps per aturar-nos a qüestionar-ho.

    ciberpoder.net/ també és interessat. Però de la mateixa manera que passa amb la tecnologia —i les dades i els algoritmes— tenir interessos per se no és negatiu. La pregunta clau sempre és a qui beneficia i a qui perjudica.

    Els interessos de ciberpoder.net/ són ben clars: tenim certa sensibilitat a les injustícies (això és un problema) i volem fer alguna cosa al respecte. Creiem que per ser una persona ètica a la dècada dels dos mil no es pot renunciar a pensar l’entorn digital políticament: a qui beneficia i a qui perjudica.

    És fàcil perdre l’esperança i és fàcil deixar-se emportar per un productivisme individualista per justificar no fer res. És una actitud comprensible, però a nosaltres ens aterra la idea.

    Escriure avui sobre tecnologia, sobre xarxes i sobre cultura digital i fer-ho en català ja és un fi en si mateix. Les veus plurals i alternatives són necessàries en el discurs col·lectiu i no s’ha d’oblidar que els missatges promocionats a xarxes per grans empreses funcionen i són més potents que mai. Donar veu a diferents veus importa.

    Som obertament progressistes, feministes, pro-LGTBQ+, antiracistes, ecologistes i creiem que l’acumulació de capital desmesurada i les desigualtats globals entre occident, orient i els diferents hemisferis no ajuden a fer que el món sigui un lloc millor. Sona a clixé, però la major part de plataformes, dades i temps que passem connectats el controlen organitzacions amb interessos oposats a això. No ens volem quedar de mans plegades i per això li dediquem temps a ciberpoder.net/.

    La realitat i la tecnologia són complexes. Per això millor no deixar-les en mans d’organitzacions per a les quals el canvi climàtic és només una estratègia de màrqueting per atraure millennials i zoomers.

    Al segle XXI sabem que el món digital no és tampoc innocu, malauradament. Les xarxes, les plataformes i els comportaments que reprodueixen tenen un impacte molt real en les persones i en la seva salut mental: trastorns alimentaris, addicions, pobresa i suïcidis que són reduïts la majoria de vegades a fenòmens individuals.

    La tecnologia és política; té interessos al darrere i perjudica les persones si ningú s’assegura que beneficiï a les persones.

    ciberpoder.net/ vol posar el seu granet de sorra perquè beneficiï a les persones.

    Un instrument tècnic que serveix de mitjà de comunicació no pot ser mai simplement un mitjà neutre per a qualsevol fi. […] Les xarxes socials […] han permès que les persones separades entre si per les noves formes de treball es comuniquin, es trobin, reconeguin allò que les uneix i prenguin confiança. D’aquesta manera han proporcionat una figura material al poder dels anònims. Però aquest efecte no és inherent al mitjà tècnic. Cada dia constatem que el mateix mitjà és també una via d’expressió i difusió de tots els fantasmes identitaris, racistes, sexistes i altres.

    Jacques Rancière sobre política i tecnologia – Fernández-Savater, A. (2020, 28 septiembre). Habitar y gobernar: Inspiraciones para una nueva concepción política. Ned Ediciones.
  • e-Estònia: el país digital

    e-Estònia: el país digital

    Aquest estiu vaig renovar el DNI i el passaport i, com tots sabeu, és un procediment ple de despropòsits. Per demanar hora, hi ha una web col·lapsada amb molt poca disponibilitat. També pots obtenir cita presencialment: «repartim alguns torns a la comissaria cada matí a primera hora». Pitjor que matinar i fer cua per rebre una bufetada. Et fan pagar el preu exacte en efectiu! Els policies necessiten les monedes per a la màquina de tabac? I si tens un vol pròximament, el drama pot ser esperpèntic. Aquest estiu algú que conec va perdre un viatge perquè el dia que havia de renovar el passaport el sistema informàtic s’havia espatllat. La burocràcia: un problema endèmic a Espanya. Ja ho deia Larra: «Vuelva usted mañana». Per què el panorama no ha millorat dos segles després?

    Però encara que sembli impossible, hi ha llocs on no t’has d’estirar els cabells cada vegada que fas un tràmit. El cas més sorprenent és Estònia —o «e-Estonia», com s’anomenen ells—, que presumeix de ser el país més digital del món. I no és per menys. Allà, un 99,9% dels tràmits es poden fer en línia en qualsevol moment. Només amb accés a internet, poden renovar el carnet de conduir, accedir a l’historial mèdic, impugnar multes, canviar la direcció del domicili, registrar una empresa, veure les notes dels fills o comunicar-se amb els professors. Tan sols hi ha dues coses que han de fer presencialment: casar-se i divorciar-se. Però qui sap, potser en un futur només cal un parell de firmes i una selfie i el Govern els posarà la marxa nupcial o una balada trista segons convingui.

    Avantatges d’un país digital

    Estònia es va independitzar de Rússia l’any 1991 i va muntar un país des de zero: no tenien constitució, institucions ni lleis i les infraestructures estaven obsoletes. En un escenari de crisi econòmica, l’administració pública i la burocràcia eren massa cares. De fet, ser un estat digital estalvia a Estònia un 2% del seu PIB anual.

    I per on es comença? Doncs per l’educació, òbviament. L’any 2000, totes les escoles ja tenien ordinadors i connexió a Internet. Els programes educatius es van centrar en robòtica i programació. El resultat: l’any 2015, eren el primer país europeu en el rànquing PISA. També van fer programes per a adults, i ara un 99% de la població utilitza internet regularment.

    L’altre element clau és un carnet d’identitat digital (2002) amb un xip que permet accedir a tots els serveis públics i que conté totes les dades de l’individu. Per al ciutadà és molt còmode, perquè no ha d’introduir la informació cada vegada que fa un tràmit. Quants cops has posat el teu DNI en un formulari?

    Les capacitats digitals d’e-Estònia són molt àmplies. L’any 1996, ja hi havia serveis bancaris electrònics. El 2000, qualsevol impost es podia declarar en línia en menys de 3 minuts i es podia pagar l’aparcament a les ciutats des del mòbil. L’i-Voting (2005) és un sistema de votació en línia encara únic al món i el fa servir gairebé la meitat de la població.

    Hi ha un sistema digital de salut (2008) que, en cas d’emergència, dona accés a l’historial mèdic del pacient, els números de familiars o del metge habitual per evitar errors i, en definitiva, salvar vides. A més, hi ha un sistema de prescripció de medicaments (2010) que agilitza el 99% de les receptes mèdiques. Obama va admetre que hauria d’haver trucat als estonians quan va muntar la seva web sanitària.

    Estònia, però, ha anat més enllà, perquè ja detecta les necessitats de la població i és proactiva oferint serveis. Des de 2020, quan neix un infant s’activen automàticament el registre de la criatura o l’accés a les ajudes econòmiques a què opten els pares. Fins i tot es poden comprar i vendre propietats immobiliàries telemàticament (2020) i han desenvolupat el primer vehicle autònom d’hidrogen (2021). Difícil no posar-se a aplaudir.

    Còmode sí, però… segur?

    Fins ara tot sona genial, utòpic potser. Però els més escèptics no les tindreu totes: és un sistema segur? Les dades dels ciutadans són accessibles lliurement?

    El dubte és lícit. L’any 2007, Rússia va llançar contra Estònia un ciberatac sense precedents, fent caure les webs del Govern, diaris, universitats o bancs. Gràcies a la feina conjunta de molts especialistes, es va poder revertir l’atac. Des de llavors, Estònia és referència en ciberseguretat al món. A Tallin hi ha el Centre d’Excel·lència de Cooperació en Ciberdefensa de l’OTAN (2008). També van crear la primera ambaixada de dades del món fora del país, a Luxemburg (2015), per poder continuar funcionant en cas d’un nou atac.

    A més, les dades estan encriptades. Les administren les institucions, però els ciutadans en són els únics propietaris. Quan un jutge, policia o metge hi accedeix de forma injustificada, queda registrat i es pot presentar una denúncia que pot comportar multes importants. El sistema està basat en el blockchain i està descentralitzat en més de 3000 servidors, pel que és molt difícil de hackejar.

    Èxit empresarial

    Està clar que un estat on es triga menys de tres hores en fundar una companyia és atractiu per a la inversió. Però per posar-ho encara més fàcil, el 2014 es van empescar l’e-Residency, una residència virtual que, si bé no concedeix la nacionalitat, facilita la creació d’un negoci internacional sense necessitat de trepitjar el país. I caram si va funcionar. Avui en dia, hi ha més de 90000 e-residents i 21000 empreses, de les quals es recapten més de 32 milions d’euros en impostos.

    I per rematar el conte de fades, és el país d’Europa amb més unicorns per persona. No, no són cavalls de color rosa, però gairebé: són startups valorades en més de 1000 milions d’euros. En té 10, pràcticament les mateixes que Espanya amb una població 35 vegades menor. De les més de 1300 startups, destaquen Skype, Transferwise, Bolt o Starship Technologies, que té robots que reparteixen el correu o entreguen menjar a domicili. Allà segur que no hi ha polèmiques sobre els Riders.

    Pérez, E. (2022, 15 junio). Dentro del «Silicon Valley europeo»: Estonia, el país donde la fe en lo digital es el único recurso. Xataka. Recuperado 11 de octubre de 2022, de https://www.xataka.com/empresas-y-economia/dentro-silicon-valley-europeo-visitamos-estonia-pais-donde-fe-digital-gran-recurso

    I ara què?

    La cursa tecnològica no permet estar parat. Actualment, hi ha una estratègia nacional d’intel·ligència artificial amb més de 50 aplicacions: s’identifiquen visites anòmales en les webs del Govern, hi ha algoritmes que relacionen persones i feines o la policia pot localitzar cotxes robats en temps real. Ells ho consideren el proper pas d’un trajecte que fa anys que van començar. És més fàcil arribar a la meta abans que la resta si fa molt de temps que avances en la direcció adequada.

    Estònia insisteix que si ells van crear una societat digital, qualsevol ho pot fer. Que la innovació no pot ser exclusiva del sector privat i no és un tema de diners, sinó de voluntat política. Perquè, segons ells, la digitalització no és només un canvi tecnològic. És molt més que això: és un canvi cultural.

  • Les sis noves reformes de polítiques digitals de la Unió Europea

    Les sis noves reformes de polítiques digitals de la Unió Europea

    El tàndem del Parlament Europeu i la Comissió Europea ha estat treballant en un munt d’afers institucionals de forma tan brillantment seriosa, avorrida i professional que, com és habitual, la ciutadania acaba sense fer-se una idea dels progressos, reproduint una vegada més el cicle vital d’ignorància i després hate simplista a les institucions europees. No passa res, aquí estem per solucionar-ho explicant què està passant.

    L’octubre de 2022, el Consell ha aprovat definitivament la Digital Services Act (DSA), Llei de serveis digitals. Les noves normes començaran a aplicar-se quinze mesos després de la seva entrada en vigor. Opera sota el principi que allò que és il·legal fora de línia també hauria de ser il·legal en línia. La llei presenta sis línies d’actuació:

    Més moderació

    Les xarxes socials i els mercats en línia tindran responsabilitats més clares pel que fa al contingut i als productes a les seves plataformes.

    La nova llei introdueix millors regles per a la moderació del contingut, per ajudar a combatre el discurs d’odi i la desinformació.

    Menys falsificacions

    Gairebé el 7% de totes les importacions de la UE són productes falsificats amb un valor estimat de més de 120.000 milions d’euros. Més del 50% de les mercaderies falsificades confiscades a les fronteres de la UE provenen del comerç electrònic.

    Les normes ampliaran i aclariran un conjunt de responsabilitats per a les empreses en línia que operen a la UE, independentment d’on tinguin la seu.

    Competència més justa

    Una nova regulació, anomenada Llei de mercats digitals (Digital Markets Act), estableix regles clares per a les grans plataformes (gatekeepers), i una llista del que es pot i no es pot fer, per evitar que imposin condicions injustes a les empreses. Per exemple, els gatekeepers no podran classificar els seus propis serveis i productes més alt que els serveis o productes similars oferts per altres.

    Les regles ajudaran les empreses més petites i les startups a competir amb empreses grans. Les startups innovadores podrien guanyar una quota de mercat més gran i oferir productes i serveis nous i innovadors. La nova llei també facilitarà el comerç electrònic transfronterer de la UE. La DMA obligarà els gatekeepers a oferir als clients accés a un abast més ampli de serveis.

    Més ciberseguretat

    Es calcula que les pèrdues per ciberdelinqüència superen els 5,2 bilions d’euros el 2021. Això és més que el PIB combinat de França, Itàlia i Espanya el 2020.

    La UE està desenvolupant encara més una Agència Especial per a la Ciberseguretat – ENISA. Aquest ajuda els països de la UE a prevenir, detectar i respondre als problemes de seguretat de la informació. A més, el Centre Europeu de Ciberdelinqüència d’Europol ajuda els països de la UE a investigar els delictes en línia.

    Intercanvi de dades

    El maig de 2022, el Consell va adoptar la Llei de governança de dades. Aquesta nova legislació de la UE facilitarà l’accés a les dades respectant la privadesa personal. Conseqüències:

    • Facilitarà als investigadors i a les empreses l’accés i l’ús de determinats tipus de dades que tenen les organitzacions públiques.
    • Fomentarà l’establiment de nous actors en l’economia de les dades la funció dels quals serà facilitar l’intercanvi de dades entre empreses.
    • Facilitarà que les persones i les empreses comparteixin les seves dades per al bé comú (és a dir, projectes de recerca).

    e-Justice

    L’abril de 2022, el Consell va adoptar el reglament e-CODEX (comunicació e-Justice mitjançant l’intercanvi de dades en línia). Facilitarà els procediments judicials que requereixin una comunicació transfronterera.

    El sistema ajudarà a implementar regulacions anteriors que faciliten l’intercanvi d’informació entre els sistemes nacionals de justícia electrònica. Les autoritats judicials, els advocats i els ciutadans podran enviar i rebre documents, formularis legals, proves o altra informació electrònicament d’una manera ràpida i segura.

    La solució tècnica està preparada i ja està en ús per alguns estats membres. El Consell va adoptar un marc legal a llarg termini per al sistema. A mesura que els europeus es mouen lliurement per la UE, el nombre de casos transfronterers està creixent ràpidament. e-CODEX estalvia temps i diners. Només per a les ordres de pagament europees, l’estalvi d’enviament podria arribar als 300.000 €.

    Més informació:

  • Metavers: el nou mercat de les realitats

    Metavers: el nou mercat de les realitats

    La representació com a món

    A alguns filòsofs els agrada dir que «construïm» la realitat. Tot i que hi ha força consens en què existeix un món independent de la nostra ment, també és prou cert que per parlar d’aquest món i per pensar-lo utilitzem conceptes, paraules i idees. Aquests conceptes, pensaments, idees (en definitiva, llenguatge) són representacions del món material. Una representació seria com un «meme»: actua com símbol que ens trasllada a uns estímuls o resumeix uns determinats fenòmens del món que ens envolta sense contenir ell mateix tota aquesta informació.

    S’ha de vigilar amb els genis malignes, perquè fins i tot els records i els pensaments són representacions: a qui no li ha passat que els seus primers records d’infància no són més que records de records? Guardem aquests símbols al nostre cervell perquè emmagatzemar tots els detalls d’estímuls de l’exterior seria un esforç injustificat en termes energètics-evolutius. Molt més fàcil tenir només una motxilla de símbols que saps relacionar molt bé i que et serveixen per descriure un ventall molt ampli de situacions, com els stickers del mòbil o la peli que et serveix per referenciar-ho tot.

    Sobre pel·lícules reflexiona també David Mattin a l’article The Worlds to Come – Instalment One de la seva newsletter. Comenta que, estant de viatge a Venècia, no es podia treure del cap la sensació que tot era com a una pel·lícula. Semblava que cada panoràmica, cada gondoler passant per sota d’un pont era una extracció d’una escena cinematogràfica. A la vegada, però, destaca la ironia que davant d’un entorn estimulant, el que més l’estimulés no era el món exterior, sinó la seva connexió a una altra representació, com és una pel·lícula. Aquí es produeix una inversió interessant, perquè, mirant les representacions, en comptes d’evocar-li a la realitat que suposadament representen, l’evocaven a altres representacions!

    Aquesta idea obsessiona a Mattin i també ens obsessiona a nosaltres. Més encara quan fem un ‘click’ fonamental que suposa un canvi qualitatiu en la història de la humanitat: què passaria si en comptes de fer-nos representacions del món que ens envolta, la representació es converteix en un món en si mateix?

    Els primers metaversos: el projecte Horizon Worlds

    Això és el que aconsegueixen la realitat virtual i el metavers. La idea d’un metavers no és nova (qui no ha vist Matrix o ha tingut un amor a Habbo Second Life, oi?) ni un concepte registrat per Mark Zuckerberg, però el projecte tecnològic Horizon Worlds de Meta sembla que com a mínim ha aconseguit captar l’atenció del món tech i ha arribat també a la premsa mainstream.

    Fins ara, la comunitat d’internet no s’ha pres massa seriosament el projecte de Meta. Després d’anunciar que tota l’estratègia del conglomerat (que compta amb Facebook, WhatsApp, Instagram, entre altres productes i serveis) pivotaria per a convertir-se en una empresa centrada en el metavers, Marc Zuckerberg va provocar una mofa generalitzada al fer públiques imatges i gameplays (o potser ‘lifeplays’) d’Horizon Worlds que consistien bàsicament en sales de reunions virtuals amb avatars que recordaven als avatars Mii de la primera Nintendo Wii (2006) o a una animació japonesa qualsevol de principi dels 00s.

    Encara així, seguim amb un ull posat sobre les novetats que puguin sortir del projecte Horizon Worlds; i és que, si l’adopció i l’engagement dels diversos projectes de metavers immersiu van creixent gradualment, interactuar i viure a un món cada vegada menys físic presentarà nous grans problemes filosòfics per a l’ésser humà, seguint amb el que hem suggerit de la força de les representacions. Si ja s’ha comentat en els darrers anys el perill que suposa el poder de les big tech per a les nostres democràcies, per a la nostra salut mental i per als nostres ecosistemes amb el desenvolupament de nous paradigmes de realitat virtual és poc agosarat dir que un futur distòpic està assegurat. Per què?

    El problema d’una RaaS (Reality-as-a-Service)

    Bona part de la teoria politicoeconòmica moderna està fonamentada en la idea de materialitat des de certs esdeveniments a l’Europa industrial del segle XIX i cert pensador materialista alemany. Qualsevol discurs socioeconòmic progressista modern ha de fer referència en algun moment als recursos materials del món i la seva distribució justa per a tenir un impacte real en la vida de les persones (a diferència dels discursos d’ultradreta que distreuen amb debats artificials d’idees-arguments que interessen al statu quo).

    La desconnexió entre les persones (ara convertides en usuaris) i el món físic és una oportunitat deliciosa per a les forces conservadores. Si avui dia les xarxes socials ja tenen el poder de fer virar el resultat d’eleccions en diversos estats, el desenvolupament de tot un nou món on les persones es relacionen, aprenen i s’expressen d’una forma controlada i dissenyada per (i per a) uns pocs és massa llaminer per a l’1%, i no és casualitat que les big tech s’hi hagin llençat de cap i els seus accionistes hagin assentit.

    El món real és complex, però és neutral. Els metaversos de les big tech, en canvi, seran atractius, usables, simples, etc., però interessats. El mecanisme epistemològic clàssic de fer-nos representacions del món que ens «funcionin» i anar-les contrastant amb la nostra experiència del món físic queda totalment truncat per una realitat que és directament una representació que algú altre ha fet i interessada cap als seus objectius. En aquest context, la democràcia real és inassolible.

    Les explicacions alternatives del món o el periodisme tal com el coneixem desapareixen; en un món virtual controlat no hi haurà una lluita de realitats que defineixen el món; hi ha una única versió oficial i és la de l’empresa que gestiona la plataforma i la infraestructura que la manté. Aquest ‘ens’ com potser Meta o Apple (que seria com un Déu omnipotent d’aquest nou món) té el control absolut sobre el processos informatius i epistemològics: tot s’emmagatzema en dades i les decisions es prenen de dalt a baix (tops-down), per molt que als usuaris se’ls permeti la il·lusió de la lliure elecció de paràmetres secundaris com l’skin del seu avatar (explotant l’economia del jo com ja ho han fet tants videojocs i xarxes socials).

    És ben cert que en última instància, els projectes de metaversos continuaran sustentats en una infraestructura informàtica-electrònica material de servidors, oficines i programadors (si, en masculí) al món físic; però aquests estaran fora de l’ull dels mass media i amagats de «la vida» que transcorre als metaversos; com ja passa avui amb les principals xarxes socials.

    La nostra materialitat i la del nostre món, per tant, regulen epistemològicament encara avui l’activitat política i qualsevol mena d’activisme per a canviar el món. Prescindir d’aquesta és perillós si qui controla el nou món no està subjecte a lleis ni organismes polítics escollits; poc a poc se’ns redueixen les eines per a assolir una economia global més justa, fins i tot epistemològicament parlant.

    Malgrat l’opinió d’alguns pensadors que opten més per una realitat augmentada (i no una realitat virtual), sembla molt possible que en el món de l’endemà hi hagi una ‘oferta de metaversos’ o «realitats» on l’usuari, sense informació i a la mercè del seu inconscient i del FOMO, haurà de triar. Reality-as-a-Service (RaaS). Amb la informació que tenim avui dia ja podem imaginar que l’elecció serà tan lliure com és avui la tria de quina xarxa social utilitzar: pràcticament no té res de lliure.

    Alguns gurus del món tech suggereixen que els grans actors dels metaversos i la realitat virtual estan encara per arribar, que no seran cap de les actuals companyies big tech i sortiran de llocs inesperats, refrescant així el panorama: ho acceptem, però tot i sortir de llocs inesperats, en l’actual sistema econòmic el futur de qualsevol start-up és similar. Si ja és gairebé un miracle escapar de l’adquisició per part d’un gegant tecnològic, fins i tot en cas d’aconseguir-ho, les dinàmiques capitalistes s’imposen i els inversors, que són essencials per al creixement i la supervivència, van influint en el futur de la companyia buscant cada vegada més rendibilitat. Si la companyia es dedica a produir mons, els inversors, una vegada més, defineixen el futur del món.

    El nostre món és un conjunt de sistemes complexos i de relacions entre ells, on, regits per lleis naturals, els humans construïm una realitat com a lluita de «veritats» i d’interessos i desenvolupem els nostres projectes de vida. Al llarg de la història moderna, moltes parts d’aquest món s’han convertit gradualment en mercats: primer el sòl es va privatitzar i després van sorgir articles de consum que cobrien noves necessitats inventades. També es van privatitzar els recursos energètics que tots utilitzem i recentment les relacions socials han estat privatitzades amb les xarxes socials. L’últim gran mercat descobert són les dades i tota la informació que generem amb la nostra existència. Sembla que és la mateixa realitat la que està en joc com a següent pas.

  • Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    Quan arriba el final d’any comença a palpar-se el que ja és tota una tradició a les xarxes socials: l’Spotify Wrapped, un resum de tot el que has escoltat (només a Spotify, clar) durant l’any. La multinacional sueca et fa una anàlisi completíssima dels teus gustos: t’ho agrupa per artistes, t’ho agrupa per cançons, després per gèneres (per cert, la música catalana no és un gènere musical, companys) i a sobre cada any es treu de la màniga noves visualitzacions i categories divertidíssimes.

    Més enllà dels dubtes que et pugui resoldre o de les pistes que et pugui donar per conèixer els gustos de la persona que t’agrada, l’Spotify Wrapped té dues funcions principals: la primera és ajudar a la gent a definir-se, donar-li eines per a projectar-se i millorar els lligams emocionals dels usuaris entre ells i amb Spotify. L’app t’obsequia amb imatges que parlen sobre tu, patrocinades amb el logo de Spotify, perquè difonguis i comparteixis. No cal ni esmentar el valor que això suposa per la companyia de Daniel Ek. Incalculable.

    I és que Spotify va adonar-se prou d’hora del potencial que té explotar la dimensió social de la música. Fet i fet, a nivell de negoci, la mitjana d’hores que una persona passa escoltant música és força constant i els costos que té Spotify per recompensar als artistes no té gaire marge de millora. La companyia havia de pivotar el seu model de negoci capturant valor a través de l’explotació de dades i expandint-se en la part social. Però no una part social de connexió lliure entre individus (per això van eliminar el xat intern fa uns anys), sinó un part social a l’estil big tech: nosaltres et direm com t’has de relacionar de forma «mastegadeta» i a través de la nostra bonica interfície (les meves sinceres felicitacions pels front-end que treballen a Spotify).

    La segona funció que té el Wrapped d’Spotify és més profunda i estratègica: quantificar amb dades una cosa tan abstracta com el gust musical. Probablement, si li expliquéssim a una venedora d’una botiga de discos dels anys 80 que el 2021 és possible monitorar tots els àlbums i totes les cançons que escolta la gent i que la informació només pertanyerà a dos o tres actors globals (Spotify, Apple Music, Amazon Music) probablement li semblaria un futur distòpic.

    I és que escoltar música sabent que a final d’any hauràs de rendir comptes amb els teus seguidors té un efecte innegable en els hàbits d’escolta, ni millor ni pitjor, però sens dubte afecta i sinó que li diguin als que van forjar la seva identitat musical gràcies a last.fm.

    Aquesta tendència d’expressar gustos a través de mètriques que es converteixen en «KPIs de la personalitat» (Key Performance Indicators, indicadors per monitorar el rendiment) té unes conseqüències brutals en la indústria musical i es troben amb el mateix problema que tenen inherentment els KPIs a les empreses: que obliden tot allò que no està recollit en uns simples «numerets». No cal pensar massa per adonar-se de l’impacte que això pot tenir sobre els ecosistemes culturals locals.

    El mateix model és aplicable als objectius de lectura anuals de goodreads.com. En aquest cas, Goodreads és una (aparentment) inofensiva xarxa social per compartir, puntuar i criticar llibres a través de «reviews». El 2019 comptava amb 90 milions d’usuaris, sent així la major xarxa social d’aquest sector. A més, tradicionalment és considerada una plataforma que està a prop dels segments de literatura independent. En aquest cas, el Goodreads challenge t’anima a batre els teus propis rècords de lectura cada any i et dona una raó més per empassar-te cada vegada més ràpidament una certa quantitat de llibres. Just quan acaba la temporada dels resums comença l’època de marcar objectius anuals, curiosament és la mateixa pràctica que veiem en el món empresa.

    Llegir cada vegada més no hauria de ser preocupant si no fos perquè Goodreads pertany a Amazon des de 2013 i per l’espectacular control del gegant de Jezz Bezos sobre la cadena de valor de la indústria literària (mainstream i independent). Actualment, la base de dades de llibres més completa del món pertany a Amazon i les seves APIs estan disponibles a tothom que vulgui utilitzar-les. És certament difícil dedicar-te al món dels llibres i no haver de dependre d’Amazon d’una manera o altra. El mateix passa amb la música.

    Hi ha interessants a alternatives a Goodreads (per exemple, thestorygraph.com), però a la pràctica poden ser comprades en qualsevol moment pels gegants de les big tech (com va passar amb Goodreads, que es posicionava com obertament en contra d’Amazon) i no escapen d’aquesta «racionalització de les preferències culturals» que comentàvem amb els resums («tops») i els «challenges».

    Els riscos de tal concentració de poder no són únicament econòmics (aka pràctiques monopolístiques), sinó també democràtics: la cultura ha de donar eines per imaginar societats futures i avui en dia la seva distribució a nivell mundial depèn totalment d’actors amb interessos privats, cosa que ens afecta com a individus lliures. Els gegants tecnològics tenen centenars d’eines per aconseguir que certs segments de població consumeixin un determinat contingut i la cultura no en queda al marge.

    El consum offline i les bases de dades descentralitzades (com aquesta proposta de @tomcritchlow per als llibres) són algunes de les opcions amb les quals podem combatre la racionalització del consum cultural, en altres paraules, evitar tenir un consum controlable i previsible que es tradueixi en dades netes, fàcilment utilitzables per les big tech.

    No us fieu d’un Kindle doncs: només incrementa aquest control sobre el lector.

    I un altre dia parlem de Netflix.

    https://twitter.com/vynexathings/status/1477294069223243776
  • Un futur inevitable? Governança algorítmica i algocràcia (II)

    Un futur inevitable? Governança algorítmica i algocràcia (II)

    Al final de la primera part, vam deixar clar que la burocràcia vol automatitzar l’Estat tant com pugui per qüestions d’eficiència, tal com assegurava Velsberg, amb l’objectiu final d’eliminar tot element humà: deixar que les màquines segueixin les regles absolutes del funcionariat. Encara que ja vam veure perquè això és complicat, si no impossible, en aquesta part tractarem de veure com de prop pot estar l’algocràcia i si és o no inevitable.

    Un exemple d’algocràcia, relativament benigne però que encara així ha tingut polèmica, és el dels exàmens d’accés a la universitat al Regne Unit en 2020. Aquest cas no concerneix la política a nivell governamental, però sí al públic, a la justícia i la igualtat entre ciutadans. Durant la quarantena de març a juny de 2020, la falta d’atenció dels professors sobre els seus alumnes a Europa va portar al fet que es prenguessin mesures diverses, des de la proposició d’un aprovat general a canvis que s’han materialitzat en la nova llei d’educació LOMLOE a Espanya; però el cas britànic va ser particular, ja que es va demanar als professors que valoressin de manera justa als seus alumnes i prediguessin quina nota els haurien posat a final de curs. Aquesta nota seria estandarditzada en comparació amb la resta d’alumnes del curs i les notes d’altres alumnes que haguessin fet el mateix curs (Ofqual, 2020). En conjunt les notes estandarditzades van ser menors que les valoracions dels professors en un 36% dels casos (BBC, 2020).

    Però l’estandardització ocorria només quan les classes tenien una grandària de 15 o més alumnes; en aquelles amb menys, la nota no s’estandarditzava, sinó que era la valoració dels professors. El problema sorgeix quan això es connecta a l’existència de classes petites en col·legis privats o de ràtios d’estudiants/professor molt menors en barris rics; aquells amb més diners tenen més facilitats de tenir una nota que no passés per l’estàndard, sinó que era la que dictés el professor, augmentant les possibilitats que entressin en la universitat que volguessin sobre uns altres potser més aptes. Un altre problema dels algorismes al govern.

    A nivell legal, Lord Falconer, Secretari de Justícia en l’ombra, explicava que l’algorisme violava diverses lleis (Elgot & Adams, 2020). A nivell ètic, el problema no resideix en el que l’algorisme considera, sinó en el que no considera, i recau en el mateix problema a doble nivell que ja hem explicat amb COMPAS: tracta d’estandarditzar valoracions parcials sense tenir en compte que l’algorisme tampoc és imparcial, sinó simplement cec i propens a reproduir les parcialitats humanes.

    Però també hi ha exemples més distòpics, com el difamat sistema de crèdit social implementat a la República Popular de la Xina, potser el més pròxim a un sistema de algocràcia social. El sistema de crèdit té en compte accions del ciutadà, tant negatives (creuar un semàfor en vermell, fumar on està prohibit) com a positives (donar sang, donar suport al govern), a través de diversos dispositius tecnològics com les càmeres amb reconeixement facial a través d’algorismes i tecnologia big data. De les conseqüències d’això s’ha discutit bastant: des de prohibir viatges amb tren o avió a aconseguir millors llocs en l’administració o l’educació dels fills; prohibicions que ja han ocorregut en sistemes autoritaris anteriors, però que són encara més fàcils de dur a terme amb tecnologia i algorismes.

    Per descomptat, el sistema és molt més complicat, com admet Matsakis (2019), i molt menys avançat i orwel·lià del que alguns creuen. Però ja han aparegut implicacions no sols legals sinó també filosòfiques. El sistema ha estat fortament criticat des d’Occident per ser una violació del principi de rule of law, i fins i tot des de la Xina, com explica Kui (2019), qui admet «les dificultats a l’hora de construir un sistema estàndard de crèdit social» que siguin compatibles amb drets fonamentals. Però fins que punt viola el rule of law el sistema xinès? Una decisió presa pel govern i executada per l’Estat no és il·legal, sinó que segueix la llei, però, no obstant això, pot violar principis que van més enllà de la legalitat, entrant en el debat de la filosofia política sobre si existeixen uns drets fonamentals i ahistòrics (com pot defensar el liberalisme) o si el que decideixi la comunitat ha de ser llei (com defensa el comunitarisme). És d’especial interès l’article de Kostka (2019), qui explica que el sistema ha sigut ben rebut entre els ciutadans xinesos, argumentant que ho interpreten com una prova d’honestedat al ciutadà en lloc d’una violació de la privacitat.

    Abans de concloure amb algunes consideracions, uns últims exemples: primer, Cybersyn, projecte xilè que va ser planejat durant el (curt) govern de Salvador Allende. Cybersyn va ser un sistema de processament de dades trencador per a la seva època (entre 1971 i 1973), que tenia l’objectiu de rebre les dades de diverses fàbriques d’empreses estatals (com els inputs necessaris i els outputs a produir, a més de les ràtios de producció dels treballadors) en el curt termini, processar-los a través de programari estadístic i tornar a manar-los a les fàbriques. Al cap i a la fi, no era un sistema tan diferent de la resta d’empreses del món (els treballadors comuniquen una informació de baix a dalt i els directius donen ordres sobre la base d’aquesta informació de dalt a baix), però el processament de dades gairebé instantani és el que el separava (i continua separant) d’altres empreses. Com la resta d’avanços del govern d’Allende, Cybersyn cauria amb el cop d’estat de Pinochet, però la seva idea no moriria: amb altres avanços teòrics en la cibernètica soviètica, inspiraria als enginyers computacionals i socialistes Paul Cockshott i Allin Cottrell (1993, 86-88). En la seva obra, Cockshott i Cottrell tenen com a objectiu demostrar la viabilitat d’una economia planificada i democràtica sobre la base dels avanços cibernètics recents i els sistemes de programació lineal del matemàtic Leonid Kantorovich. Si bé les seves idees han sigut criticades des de cercles de l’esquerra per pressuposar un capitalisme d’Estat amb l’únic avanç de la cibernètica, les possibilitats que pot obrir la cibernètica en l’economia en una futura algocràcia són dignes d’estudi, reconeixement i discussió.

    Per a concloure, tornem a l’actualitat: COVID19, algocràcies i el futur. Diversos sistemes de rastreig de positius a través de la tecnologia (ubicació, dades, etc.) poden encaixar en el concepte d’algocràcia en suposar l’ús de la informació que es pressuposa privada pels poders públics darrere d’un bé col·lectiu. Però aquests sistemes han sigut criticats per suposar una invasió de la privacitat de l’individu: quin dret té el govern a conèixer la ubicació del meu mòbil per a saber si he entrat en contacte amb un positiu? Fins a quin punt és invasiu? I, més important encara, estableix un precedent? El control sobre la població amb mitjans de coerció indirecta, és a dir, no violenta (com la tecnologia), ha sigut estudiat per teòrics polítics i filòsofs des de Foucault, però algunes veus assenyalen que pot tornar-se més intens davant un possible col·lapse eco-social. En aquest cas, argumenten que unes certes decisions preses a la lleugera com la violació de drets fonamentals (com el dret a la privacitat a una algocràcia) estableixen precedents per a altres casos molt pitjors en els quals el govern pugui al·legar que aquestes mesures són necessàries per a preservar el bé col·lectiu. En conjunt, el que podem dir és que les mesures preses en l’actualitat poden afectar-nos en un futur i, per això, no haurien de ser preses a la lleugera.

    A l’hora d’arribar a les conclusions, hem de dir que l’algocràcia és una forma més de configurar l’Estat, canviant una burocràcia tradicional, humana, per una digital i mixta o directament només controlada per algorismes. Els algorismes, com a tal, són una eina: són creats per un humà i, per tant, contenen les seves subjectivitats, llavors no es pot esperar d’ells un comportament objectiu i imparcial, sinó simplement cec. Per això, cal vigilar l’automatització de l’Estat; cuidar-nos de què no violi els nostres drets i llibertats fonamentals i exigir la màxima transparència possible. A més, el govern ha de respondre sobre els seus algorismes i, per això, és previsible un consens a la UE, que ha sigut, de manera consistent al llarg de la seva història, l’organització més avançada en termes de regulació de tecnologia i dades (Ebers & Cantero Gamito, 2021).

    Respecte a les consideracions legals, la introducció de la justícia algorítmica en el poder judicial ha de ser vigilada amb especial cura als països que segueixin sistemes de common law, donada la propensió que pot tenir l’algorisme a reproduir injustícies passades. Però a nivell general, es torna a repetir el fonamental: transparència i, abans de tot, responsabilitat governamental respecte a l’algorisme.

    A nivell ètic i filosòfic, hem de qüestionar i examinar si la implementació d’algorismes és justa i necessària o no –no automatitzar per fer una burocràcia més eficient. Els algorismes han d’estar al servei de la ciutadania, no de l’Estat com a tal. I, de nou, hem de vigilar la defensa de drets i llibertats que gaudim, sempre amb la perspectiva que no hem de donar-los per descomptat –ni en el present ni en el futur.

    I finalment, podem respondre a les dues preguntes que plantegem al començament de l’article. Primer, una algocràcia presta moltes i diferents formes, des d’organismes de control pròxims més benignes (COVID19 a Occident) o més autoritaris (el sistema de crèdit social xinès, COMPAS) a eines de e-government (Estònia, Ofqam) i fins i tot projectes d’economia estatal (Cybersyn, el projecte de Cockshott i Attrell), però també molt més que, potser, encara no podem imaginar. I també hem vist que l’algocràcia no és un projecte futurista a llarg termini, sinó que es troba ja implementat (o en vistes d’implementar-se) a molts Estats; de fet, enguany es compleixen 50 anys de l’inici del projecte xilè de planificació econòmica. Però l’algocràcia encara està per venir i encara podem canviar perquè s’apliqui pel benefici públic. Com tot algorisme, l’algocràcia és una eina que pot ser utilitzada de diferents maneres. Com s’utilitza ho haurem de decidir nosaltres.

  • Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Avui en dia, hi ha moltes notícies sobre noves aplicacions d’intel·ligència artificial d’allò més útils i curioses. I normalment, quan s’intenta explicar com funcionen es diu que estan basades en “algoritmes de Machine Learning”. Però… para el carro, que aquell dia alguns no vam anar a classe. Què són els algoritmes? Què és el Machine Learning?

    Comencem pel principi. Quan parlem d’algoritmes ens imaginem programadors súper intel·ligents i segurament una mica excèntrics teclejant a gran velocitat. Però, de fet, un algoritme és un conjunt d’instruccions ordenades i finites que permeten resoldre un problema. Com, per exemple, quan els nens de primària aprenen a dividir. I quan segueixo una recepta de cuina estic fent servir un algoritme? Doncs tinc bones notícies per tu, Pitàgores dels fogons, ja que en cert sentit sí.

    Anem a veure com solien crear-se els algoritmes i com el Machine Learning els ha revolucionat.

    Enfocament tradicional: regles definides per humans

    Abans, per resoldre un problema, unes persones definien unes regles, les aplicaven, avaluaven el resultat i segons el rendiment que obtenien, les donaven per bones o les anaven ajustant.

    Posem un exemple molt senzill. Imagineu-vos que un banc vol saber si ha de concedir o no un crèdit a un client, segons si preveuen que aquest acabarà tornant els diners. Quan una persona sol·licita un préstec, se li pregunten un munt de coses: la nòmina, el patrimoni, la situació familiar, els rebuts… Suposem que, basats en la seva experiència, els banquers consideren que els criteris per concedir el crèdit han de ser els següents:

    1. Que tingui nòmines els últims 12 mesos
    2. Que no existeixin altres deutes
    3. Que la quota de devolució del préstec, sumada als rebuts, no superi la nòmina

    Aquest algoritme del banc pot ser eficaç o no. Si hi ha molts impagaments, l’hauran d’anar arreglant en el futur. Però no li veieu un problema a aquest mètode? Aquests criteris potser no són els millors. N’hi poden haver d’altres molt més encertats que ni se’ls han passat pel cap. I com ho podem resoldre? Donant-li el poder a les màquines.

    Nou enfocament: aprenentatge automàtic

    Canviem una mica la perspectiva. Imagineu que aquest banc porta concedint crèdits a clients durant molts anys, alguns dels quals els han tornat els diners i d’altres no. Podem suposar que les persones que no tornaran els préstecs en el futur tindran situacions similars a les que van tenir els morosos del passat. I si aprofitem tot aquest coneixement que ja tenim per identificar aquests escenaris? Però aquest cop, en lloc de ser els humans els que interpretin la informació, ho faran les màquines. L’aprenentatge automàtic, més conegut pel seu terme en anglès Machine Learning, consisteix a donar als ordinadors la capacitat d’aprendre de les dades sense haver de dir-los explícitament com ho han de fer.

    I com es fa això? Primer, necessitem recollir totes les dades disponibles dels clients dels últims anys: quant ingressaven, el sector on treballaven, en què gastaven, quina situació familiar tenien, on vivien… i ho guardarem en variables diferents. A més, com que són dades del passat, tenim sobre ells la informació clau: si van tornar el préstec o no.

    A partir d’aquí, l’ordinador pot utilitzar molts mètodes diferents per esbrinar quina relació hi ha entre les variables i quines tenen més pes a l’hora de determinar si algú torna o no el crèdit. Tot aquest procés s’anomena entrenament. I amb aquest coneixement, el procés de Machine Learning obté un model. Quan un nou client demana un préstec, se li registra tota aquesta informació i, amb els criteris que ha après la màquina, el model decideix si es concedeix o no.

    Però tornem a la pregunta inicial. Per què es diu que les màquines aprenen? Perquè com més dades tingui el model, millors conclusions podrà treure. I a mesura que passi el temps i vagi registrant nous clients que tornen o no el préstec, es podrà adaptar a la nova realitat i millorar les conclusions.

    Quins avantatges té el nou enfocament sobre l’original?

    1. La màquina descobreix patrons amagats en les dades que als banquers se’ls van passar per alt. Qui sap, potser els factors més importants són el percentatge d’atur en el seu sector laboral i la despesa que fan en oci nocturn. D’això se’n diu Data Mining.
    2. Si en un futur els motius d’impagament canvien no caldrà que ningú modifiqui l’algoritme, ja que l’ordinador ho farà automàticament.
    3. Alguns problemes són tan complexes que els humans som incapaços d’escriure un algoritme per resoldre’ls. En canvi, l’aprenentatge automàtic ho pot fer per nosaltres.

    Ara que ja sabem que el Machine Learning és en general més òptim, sorgeix una nova pregunta. És més just? Els banquers que van fer el primer algoritme podien estar carregats de prejudicis, ja que és probable que les persones de classes baixes o barris marginals tinguin major tendència a patir certs problemes que els impedeixin aconseguir un crèdit. El criteri de la màquina, en principi, no té cap prejudici. Però no hem d’oblidar que està aprenent d’unes dades passades que formen part d’una societat discriminatòria. Per tant, és possible que les conclusions que el model extregui de cara al futur reforcin aquesta discriminació. La relació entre l’ètica i la intel·ligència artificial per evitar aquests problemes és un dels grans reptes d’aquesta dècada.

    Les aplicacions de l’aprenentatge automàtic van molt més enllà de la nostra imaginació: detectar tumors en escàners cerebrals, resumir documents automàticament, crear vehicles autònoms, recomanar pel·lícules als usuaris de Netflix, predir els beneficis d’una empresa el proper any, classificar seqüències d’ADN… La llista és inacabable. Estem davant de la nova pedra filosofal del món de la tecnologia, ja que el Machine Learning és el futur. I, senyores i senyors, el futur ha arribat.