Editor ciberpoder.net

Etiqueta: Ètica

Les preguntes incòmodes que la indústria tecnològica prefereix anar ajornant.

  • Un futur inevitable? Governança algorítmica i algocràcia (II)

    Un futur inevitable? Governança algorítmica i algocràcia (II)

    Al final de la primera part, vam deixar clar que la burocràcia vol automatitzar l’Estat tant com pugui per qüestions d’eficiència, tal com assegurava Velsberg, amb l’objectiu final d’eliminar tot element humà: deixar que les màquines segueixin les regles absolutes del funcionariat. Encara que ja vam veure perquè això és complicat, si no impossible, en aquesta part tractarem de veure com de prop pot estar l’algocràcia i si és o no inevitable.

    Un exemple d’algocràcia, relativament benigne però que encara així ha tingut polèmica, és el dels exàmens d’accés a la universitat al Regne Unit en 2020. Aquest cas no concerneix la política a nivell governamental, però sí al públic, a la justícia i la igualtat entre ciutadans. Durant la quarantena de març a juny de 2020, la falta d’atenció dels professors sobre els seus alumnes a Europa va portar al fet que es prenguessin mesures diverses, des de la proposició d’un aprovat general a canvis que s’han materialitzat en la nova llei d’educació LOMLOE a Espanya; però el cas britànic va ser particular, ja que es va demanar als professors que valoressin de manera justa als seus alumnes i prediguessin quina nota els haurien posat a final de curs. Aquesta nota seria estandarditzada en comparació amb la resta d’alumnes del curs i les notes d’altres alumnes que haguessin fet el mateix curs (Ofqual, 2020). En conjunt les notes estandarditzades van ser menors que les valoracions dels professors en un 36% dels casos (BBC, 2020).

    Però l’estandardització ocorria només quan les classes tenien una grandària de 15 o més alumnes; en aquelles amb menys, la nota no s’estandarditzava, sinó que era la valoració dels professors. El problema sorgeix quan això es connecta a l’existència de classes petites en col·legis privats o de ràtios d’estudiants/professor molt menors en barris rics; aquells amb més diners tenen més facilitats de tenir una nota que no passés per l’estàndard, sinó que era la que dictés el professor, augmentant les possibilitats que entressin en la universitat que volguessin sobre uns altres potser més aptes. Un altre problema dels algorismes al govern.

    A nivell legal, Lord Falconer, Secretari de Justícia en l’ombra, explicava que l’algorisme violava diverses lleis (Elgot & Adams, 2020). A nivell ètic, el problema no resideix en el que l’algorisme considera, sinó en el que no considera, i recau en el mateix problema a doble nivell que ja hem explicat amb COMPAS: tracta d’estandarditzar valoracions parcials sense tenir en compte que l’algorisme tampoc és imparcial, sinó simplement cec i propens a reproduir les parcialitats humanes.

    Però també hi ha exemples més distòpics, com el difamat sistema de crèdit social implementat a la República Popular de la Xina, potser el més pròxim a un sistema de algocràcia social. El sistema de crèdit té en compte accions del ciutadà, tant negatives (creuar un semàfor en vermell, fumar on està prohibit) com a positives (donar sang, donar suport al govern), a través de diversos dispositius tecnològics com les càmeres amb reconeixement facial a través d’algorismes i tecnologia big data. De les conseqüències d’això s’ha discutit bastant: des de prohibir viatges amb tren o avió a aconseguir millors llocs en l’administració o l’educació dels fills; prohibicions que ja han ocorregut en sistemes autoritaris anteriors, però que són encara més fàcils de dur a terme amb tecnologia i algorismes.

    Per descomptat, el sistema és molt més complicat, com admet Matsakis (2019), i molt menys avançat i orwel·lià del que alguns creuen. Però ja han aparegut implicacions no sols legals sinó també filosòfiques. El sistema ha estat fortament criticat des d’Occident per ser una violació del principi de rule of law, i fins i tot des de la Xina, com explica Kui (2019), qui admet «les dificultats a l’hora de construir un sistema estàndard de crèdit social» que siguin compatibles amb drets fonamentals. Però fins que punt viola el rule of law el sistema xinès? Una decisió presa pel govern i executada per l’Estat no és il·legal, sinó que segueix la llei, però, no obstant això, pot violar principis que van més enllà de la legalitat, entrant en el debat de la filosofia política sobre si existeixen uns drets fonamentals i ahistòrics (com pot defensar el liberalisme) o si el que decideixi la comunitat ha de ser llei (com defensa el comunitarisme). És d’especial interès l’article de Kostka (2019), qui explica que el sistema ha sigut ben rebut entre els ciutadans xinesos, argumentant que ho interpreten com una prova d’honestedat al ciutadà en lloc d’una violació de la privacitat.

    Abans de concloure amb algunes consideracions, uns últims exemples: primer, Cybersyn, projecte xilè que va ser planejat durant el (curt) govern de Salvador Allende. Cybersyn va ser un sistema de processament de dades trencador per a la seva època (entre 1971 i 1973), que tenia l’objectiu de rebre les dades de diverses fàbriques d’empreses estatals (com els inputs necessaris i els outputs a produir, a més de les ràtios de producció dels treballadors) en el curt termini, processar-los a través de programari estadístic i tornar a manar-los a les fàbriques. Al cap i a la fi, no era un sistema tan diferent de la resta d’empreses del món (els treballadors comuniquen una informació de baix a dalt i els directius donen ordres sobre la base d’aquesta informació de dalt a baix), però el processament de dades gairebé instantani és el que el separava (i continua separant) d’altres empreses. Com la resta d’avanços del govern d’Allende, Cybersyn cauria amb el cop d’estat de Pinochet, però la seva idea no moriria: amb altres avanços teòrics en la cibernètica soviètica, inspiraria als enginyers computacionals i socialistes Paul Cockshott i Allin Cottrell (1993, 86-88). En la seva obra, Cockshott i Cottrell tenen com a objectiu demostrar la viabilitat d’una economia planificada i democràtica sobre la base dels avanços cibernètics recents i els sistemes de programació lineal del matemàtic Leonid Kantorovich. Si bé les seves idees han sigut criticades des de cercles de l’esquerra per pressuposar un capitalisme d’Estat amb l’únic avanç de la cibernètica, les possibilitats que pot obrir la cibernètica en l’economia en una futura algocràcia són dignes d’estudi, reconeixement i discussió.

    Per a concloure, tornem a l’actualitat: COVID19, algocràcies i el futur. Diversos sistemes de rastreig de positius a través de la tecnologia (ubicació, dades, etc.) poden encaixar en el concepte d’algocràcia en suposar l’ús de la informació que es pressuposa privada pels poders públics darrere d’un bé col·lectiu. Però aquests sistemes han sigut criticats per suposar una invasió de la privacitat de l’individu: quin dret té el govern a conèixer la ubicació del meu mòbil per a saber si he entrat en contacte amb un positiu? Fins a quin punt és invasiu? I, més important encara, estableix un precedent? El control sobre la població amb mitjans de coerció indirecta, és a dir, no violenta (com la tecnologia), ha sigut estudiat per teòrics polítics i filòsofs des de Foucault, però algunes veus assenyalen que pot tornar-se més intens davant un possible col·lapse eco-social. En aquest cas, argumenten que unes certes decisions preses a la lleugera com la violació de drets fonamentals (com el dret a la privacitat a una algocràcia) estableixen precedents per a altres casos molt pitjors en els quals el govern pugui al·legar que aquestes mesures són necessàries per a preservar el bé col·lectiu. En conjunt, el que podem dir és que les mesures preses en l’actualitat poden afectar-nos en un futur i, per això, no haurien de ser preses a la lleugera.

    A l’hora d’arribar a les conclusions, hem de dir que l’algocràcia és una forma més de configurar l’Estat, canviant una burocràcia tradicional, humana, per una digital i mixta o directament només controlada per algorismes. Els algorismes, com a tal, són una eina: són creats per un humà i, per tant, contenen les seves subjectivitats, llavors no es pot esperar d’ells un comportament objectiu i imparcial, sinó simplement cec. Per això, cal vigilar l’automatització de l’Estat; cuidar-nos de què no violi els nostres drets i llibertats fonamentals i exigir la màxima transparència possible. A més, el govern ha de respondre sobre els seus algorismes i, per això, és previsible un consens a la UE, que ha sigut, de manera consistent al llarg de la seva història, l’organització més avançada en termes de regulació de tecnologia i dades (Ebers & Cantero Gamito, 2021).

    Respecte a les consideracions legals, la introducció de la justícia algorítmica en el poder judicial ha de ser vigilada amb especial cura als països que segueixin sistemes de common law, donada la propensió que pot tenir l’algorisme a reproduir injustícies passades. Però a nivell general, es torna a repetir el fonamental: transparència i, abans de tot, responsabilitat governamental respecte a l’algorisme.

    A nivell ètic i filosòfic, hem de qüestionar i examinar si la implementació d’algorismes és justa i necessària o no –no automatitzar per fer una burocràcia més eficient. Els algorismes han d’estar al servei de la ciutadania, no de l’Estat com a tal. I, de nou, hem de vigilar la defensa de drets i llibertats que gaudim, sempre amb la perspectiva que no hem de donar-los per descomptat –ni en el present ni en el futur.

    I finalment, podem respondre a les dues preguntes que plantegem al començament de l’article. Primer, una algocràcia presta moltes i diferents formes, des d’organismes de control pròxims més benignes (COVID19 a Occident) o més autoritaris (el sistema de crèdit social xinès, COMPAS) a eines de e-government (Estònia, Ofqam) i fins i tot projectes d’economia estatal (Cybersyn, el projecte de Cockshott i Attrell), però també molt més que, potser, encara no podem imaginar. I també hem vist que l’algocràcia no és un projecte futurista a llarg termini, sinó que es troba ja implementat (o en vistes d’implementar-se) a molts Estats; de fet, enguany es compleixen 50 anys de l’inici del projecte xilè de planificació econòmica. Però l’algocràcia encara està per venir i encara podem canviar perquè s’apliqui pel benefici públic. Com tot algorisme, l’algocràcia és una eina que pot ser utilitzada de diferents maneres. Com s’utilitza ho haurem de decidir nosaltres.

  • Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Algoritmes i Machine Learning: Per què es diu que les màquines aprenen?

    Avui en dia, hi ha moltes notícies sobre noves aplicacions d’intel·ligència artificial d’allò més útils i curioses. I normalment, quan s’intenta explicar com funcionen es diu que estan basades en “algoritmes de Machine Learning”. Però… para el carro, que aquell dia alguns no vam anar a classe. Què són els algoritmes? Què és el Machine Learning?

    Comencem pel principi. Quan parlem d’algoritmes ens imaginem programadors súper intel·ligents i segurament una mica excèntrics teclejant a gran velocitat. Però, de fet, un algoritme és un conjunt d’instruccions ordenades i finites que permeten resoldre un problema. Com, per exemple, quan els nens de primària aprenen a dividir. I quan segueixo una recepta de cuina estic fent servir un algoritme? Doncs tinc bones notícies per tu, Pitàgores dels fogons, ja que en cert sentit sí.

    Anem a veure com solien crear-se els algoritmes i com el Machine Learning els ha revolucionat.

    Enfocament tradicional: regles definides per humans

    Abans, per resoldre un problema, unes persones definien unes regles, les aplicaven, avaluaven el resultat i segons el rendiment que obtenien, les donaven per bones o les anaven ajustant.

    Posem un exemple molt senzill. Imagineu-vos que un banc vol saber si ha de concedir o no un crèdit a un client, segons si preveuen que aquest acabarà tornant els diners. Quan una persona sol·licita un préstec, se li pregunten un munt de coses: la nòmina, el patrimoni, la situació familiar, els rebuts… Suposem que, basats en la seva experiència, els banquers consideren que els criteris per concedir el crèdit han de ser els següents:

    1. Que tingui nòmines els últims 12 mesos
    2. Que no existeixin altres deutes
    3. Que la quota de devolució del préstec, sumada als rebuts, no superi la nòmina

    Aquest algoritme del banc pot ser eficaç o no. Si hi ha molts impagaments, l’hauran d’anar arreglant en el futur. Però no li veieu un problema a aquest mètode? Aquests criteris potser no són els millors. N’hi poden haver d’altres molt més encertats que ni se’ls han passat pel cap. I com ho podem resoldre? Donant-li el poder a les màquines.

    Nou enfocament: aprenentatge automàtic

    Canviem una mica la perspectiva. Imagineu que aquest banc porta concedint crèdits a clients durant molts anys, alguns dels quals els han tornat els diners i d’altres no. Podem suposar que les persones que no tornaran els préstecs en el futur tindran situacions similars a les que van tenir els morosos del passat. I si aprofitem tot aquest coneixement que ja tenim per identificar aquests escenaris? Però aquest cop, en lloc de ser els humans els que interpretin la informació, ho faran les màquines. L’aprenentatge automàtic, més conegut pel seu terme en anglès Machine Learning, consisteix a donar als ordinadors la capacitat d’aprendre de les dades sense haver de dir-los explícitament com ho han de fer.

    I com es fa això? Primer, necessitem recollir totes les dades disponibles dels clients dels últims anys: quant ingressaven, el sector on treballaven, en què gastaven, quina situació familiar tenien, on vivien… i ho guardarem en variables diferents. A més, com que són dades del passat, tenim sobre ells la informació clau: si van tornar el préstec o no.

    A partir d’aquí, l’ordinador pot utilitzar molts mètodes diferents per esbrinar quina relació hi ha entre les variables i quines tenen més pes a l’hora de determinar si algú torna o no el crèdit. Tot aquest procés s’anomena entrenament. I amb aquest coneixement, el procés de Machine Learning obté un model. Quan un nou client demana un préstec, se li registra tota aquesta informació i, amb els criteris que ha après la màquina, el model decideix si es concedeix o no.

    Però tornem a la pregunta inicial. Per què es diu que les màquines aprenen? Perquè com més dades tingui el model, millors conclusions podrà treure. I a mesura que passi el temps i vagi registrant nous clients que tornen o no el préstec, es podrà adaptar a la nova realitat i millorar les conclusions.

    Quins avantatges té el nou enfocament sobre l’original?

    1. La màquina descobreix patrons amagats en les dades que als banquers se’ls van passar per alt. Qui sap, potser els factors més importants són el percentatge d’atur en el seu sector laboral i la despesa que fan en oci nocturn. D’això se’n diu Data Mining.
    2. Si en un futur els motius d’impagament canvien no caldrà que ningú modifiqui l’algoritme, ja que l’ordinador ho farà automàticament.
    3. Alguns problemes són tan complexes que els humans som incapaços d’escriure un algoritme per resoldre’ls. En canvi, l’aprenentatge automàtic ho pot fer per nosaltres.

    Ara que ja sabem que el Machine Learning és en general més òptim, sorgeix una nova pregunta. És més just? Els banquers que van fer el primer algoritme podien estar carregats de prejudicis, ja que és probable que les persones de classes baixes o barris marginals tinguin major tendència a patir certs problemes que els impedeixin aconseguir un crèdit. El criteri de la màquina, en principi, no té cap prejudici. Però no hem d’oblidar que està aprenent d’unes dades passades que formen part d’una societat discriminatòria. Per tant, és possible que les conclusions que el model extregui de cara al futur reforcin aquesta discriminació. La relació entre l’ètica i la intel·ligència artificial per evitar aquests problemes és un dels grans reptes d’aquesta dècada.

    Les aplicacions de l’aprenentatge automàtic van molt més enllà de la nostra imaginació: detectar tumors en escàners cerebrals, resumir documents automàticament, crear vehicles autònoms, recomanar pel·lícules als usuaris de Netflix, predir els beneficis d’una empresa el proper any, classificar seqüències d’ADN… La llista és inacabable. Estem davant de la nova pedra filosofal del món de la tecnologia, ja que el Machine Learning és el futur. I, senyores i senyors, el futur ha arribat.

  • Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Justícia, crim i màquines. Governança algorítmica i algocràcia (I)

    Fa uns dies el Fòrum Econòmic Mundial (2021a) feia públic un «manifest millennial» que destacava entre els seus punts la cerca de canvis en el sistema a través de l’acció col·lectiva. Un punt que sona radical i trencador per venir dels «homes de Davos», una petita elit sovint criticada per la falta de transparència en les seves finances (Busse, 2017) o per la instrumentalització de la seva institució com a arma política o lobby (Delivorias, 2016). En la seva versió ampliada, un informe elaborat a partir de conferències, entrevistes i enquestes a més de dos milions de joves a tot el món, es descobreixen detalls que no apareixen en la nota de premsa: es recomana que els canvis, que concerneixen la transició digital de la política, vinguin des de fora (a través de la filantropia (World Economic Fòrum, 2021b, 18)) i no des de dins de les institucions. Per exemple, es parla d’un estàndard ètic sobre la tecnologia comú a totes les empreses (ibíd., 26-28), la introducció d’una Convenció de Ginebra per a la ciberseguretat (ibíd., 18) o la major confiança dels joves en un govern operat per intel·ligència artificial que en un governat per polítics (ibíd., 5). Aquest últim punt és el més interessant i és el que explorarem en les dues parts d’aquest article. La primera i present actuarà com a introducció i tractarà tant la terminologia com dos casos relatius a processos judicials i algorismes. La segona tractarà la possible inevitabilitat de l’algocràcia amb exemples passats i presents.

    No es pot evitar el fet que la política i els polítics provoquen cada vegada més desafecció entre els joves. Encara que això no sigui res nou, sí que és fonamental entendre que el fracàs dels «moviments de les places» (Endnotes, 2013) com Occupy Wall Street als EUA, la Revolució blanca a Egipte o el 15-M a Espanya i la transformació a les seves subseqüents manifestacions polítiques (Unidas Podemos) són l’agreujant que gran part de la joventut no confiï en la democràcia. De fet una part considerable de la població preferiria estar governada per una IA que per un polític de carn i ossos. No discutirem el perquè d’això, sinó les conseqüències que pot tenir aquest govern d’algorismes: com seria una «algocràcia» i què lluny estem d’ella?

    Entrem en terminologia; primer, definicions comunes a la ciència política; segon, definicions derivades relatives a la tecnologia. Des d’un principi hem de diferenciar entre Estat (Mark Bevir (en Caminal, 2004) defineix l’Estat com una forma d’organització social que concentra el poder en un espai petit i que precisament per això ha evolucionat com a dominadora de la resta d’organitzacions socials) i govern (on està concentrat el poder, incloent en conjunt els poders públics la funció dels quals és dirigir a l’Estat (ibíd., 427-430)); i després entre govern i governança (o govern relacional, que Bevir (2012) defineix com els processos de govern sobre organitzacions privades com a famílies o tribus a través de lleis i normes, i no sempre amb la coerció de l’Estat). Podem dir que l’Estat conté a l’administració i el govern i, de manera jeràrquica, de dalt a baix, les decisions del govern manen sobre el funcionariat; mentrestant, la governança és l’activitat entre els actors civils i els poders públics a través de l’Estat.

    Com ampliem això a la tecnologia? Aquests tres termes (Estat, govern, governança) se solen barrejar en una sola contrapart digital: algocràcia, terme encunyat pel sociòleg Aneesh Aneesh. Aneesh (2006) contraposa l’algocràcia a la burocràcia estatal tradicional, ja que tant l’algorisme com el funcionari segueixen la mateixa funció des del punt de vista del govern: acatar les seves ordres i actuar com a eina de l’Estat. No obstant això, un algorisme és cec, tot i que no imparcial. És cec ja que no considera el cas, sinó que és implacable, i per això és norma absoluta en el sentit que no considera cap particularitat. És parcial, però, en el sentit que no s’ha creat a si mateix, no s’ha dotat d’objectivitat. No està fora del sistema, sinó que reprodueix la subjectivitat i parcialitat del seu creador. Per això, tot algorisme ha de ser examinat a fons, per valorar si la seva subjectivitat pot ser nociva per a un o més col·lectius, o per a tota la societat, com observarem d’ara endavant: a qui afecta l’algorisme? Com podem (si hem de) remeiar-ho?

    Una última nota sobre terminologia abans de continuar: e-democracy, e-government i e-governance no han de ser llançats en el mateix sac que l’algocràcia, encara que tinguin coses en comú. L’e-democracy és una forma de govern més que advoca per la democràcia directa i digital i que va ocupar titulars durant el 15-M, encara que avui dia a Europa sigui residual sota el Movimento 5 Stelle italià i algunes propostes a Estònia. És completament aliè a l’algocràcia, perquè l’algocràcia pot existir amb models electorals tradicionals i l’e-democracy pot donar-se amb burocràcia tradicional. Són dues esferes que no tenen per què superposar-se. D’altra banda, l’e-government és qualsevol forma de connexió entre govern i altres actors (o el govern mateix) per mitjans electrònics, com la publicació de resolucions de beques per internet; en això entra l’e-governance, eines que faciliten l’e-government com el DNI electrònic.

    L’algocràcia no està tan lluny. De fet, es pot dir que la majoria de països occidentals ja tenen petites components d’algocràcia en les seves burocràcies; comencem amb l’exemple del sistema COMPAS, que ja discutim en la nostra introducció a l’ètica algorítmica. COMPAS és un algorisme que té l’objectiu de donar suport a les decisions penals calculant la probabilitat de reincidència d’un (possible) condemnat: com més gran sigui la probabilitat, major serà la condemna proposada. Que això sembli desproporcionat és normal: les variables que utilitza l’algorisme (edat del primer arrest, problemes en el sistema educatiu, cooperació amb la policia) proposen un problema en dos nivells: primer, com se suposa que és COMPAS un sistema imparcial i cec si les seves valoracions depenen de valoracions donades per humans que no són ni imparcials ni cecs? Segon, per què l’enginyer darrere de l’algorisme ha triat aquestes variables i no altres? Però el problema fonamental, i que separa a COMPAS d’altres casos, és el de la privacitat: les dades que usa l’algorisme són dades a les quals no podem negar el consentiment atès que són de domini públic.

    Això ho separa, per exemple, de la prova pilot de la IA jutgessa a Estònia (Niiler, 2019). Estònia té un llarg historial (gairebé dues dècades) de serveis digitals, com un ID electrònic, vot per internet o pagament d’impostos, però a principis de 2019 va fer un salt qualitatiu amb una prova pilot d’un jutge basat en IA per a casos petits, com a contractes on les demandes no superessin els 7000€. El sistema és aquest: demandant i demandat pugen els documents rellevants al cas i presenten les seves al·legacions, la IA (que és en essència un chatbot) cerca entre els documents legals relatius i presenta la resolució del cas. Encara que tots dos tenen un objecte comú (la justícia i la digitalització del poder judicial), i fins i tot l’exemple d’Estònia va més enllà de l’americà (mentre que COMPAS és un algorisme de suport i recomanació, en la prova pilot estoniana la IA decidia i resolia per si mateixa, encara que després podia ser apel·lada davant un jutge), el cas estonià no és tan invasiu com l’estatunidenc. Mentre que a Estònia es requereix una acció positiva (estar d’acord amb el sistema d’IA i donar el consentiment amb la pujada dels contractes), als EUA no és necessari estar d’acord perquè el sistema penal faci la seva part.

    Això ja ens deixa amb alguns punts fonamentals de l’algocràcia que són comuns a l’ètica algorítmica general: consentiment de les dades, publicitat de la informació i transparència dels algorismes. No obstant això, hem de seguir alerta: fins i tot en el cas d’Estònia, l’encarregat de la implementació de la jutgessa IA i altres diversos sistemes relatius als algorismes, Ott Velsberg, ja avisa que l’objectiu és «eliminar l’element humà» de la justícia (Shelton, 2019), el que ens recorda novament que l’algorisme no és més que una cristal·lització d’una subjectivitat del creador. A més, diversos acadèmics ja han mostrat les seves reserves respecte als dilemes legals que pot presentar l’ampliació dels algorismes a la justícia no sols com a recomendadors (Kerikmäe & Pärn‑Lee, 2020). Un altre problema que pot presentar una intel·ligència artificial en sistemes de common law (cosa que al Mediterrani i altres països basats en el dret romà no afecta, però en el món anglosaxó sí) és que les resolucions reprodueixin injustícies passades (Park, 2020): en el sistema de common law la jurisprudència té primacia sobre la llei, llavors els precedents legals (resolucions de jutges humans) influeixen en els casos actuals i futurs (resolucions d’IA). Això frustraria un dels objectius fonamentals de la justícia algorítmica, i potser de l’algocràcia en general: eliminar les injustícies que sorgeixen de les parcialitats humanes.

    Aneesh, 2006: Aneesh, A. (2006). Virtual Migration. Darhom: Duke University Press.
    Bevir, 2012: Bevir, M. (2012). Governance: A very short introduction. Oxford: Oxford University Press.
    Busse, 2017: https://www.sueddeutsche.de/wirtschaft/davos-das-weltwirtschaftsforum-ist-zu-einer-geldmaschine-geworden-1.3334817
    Caminal, 2004: Caminal, M. (Editor). (2004). Manual de Ciencia Política. Madrid: Tecnos
    Delivorias, 2016: https://www.europarl.europa.eu/RegData/etudes/BRIE/2016/573928/EPRS_BRI(2016)573928_EN.pdf
    Endnotes, 2013: https://endnotes.org.uk/issues/3/en/endnotes-the-holding-pattern
    Niiler, 2019: https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/
    Kerikmäe & Pärn‑Lee, 2020: https://link.springer.com/content/pdf/10.1007/s00146-020-01009-8.pdf
    Park, 2020: https://hir.harvard.edu/your-honor-ai/
    Shelton, 2019: https://www.abc.net.au/news/2019-06-16/estonia-artificial-intelligence-technology-robots-automation/11167478
    World Economic Forum, 2021a: https://www.weforum.org/agenda/2021/08/the-millennial-manifesto-outlines-principles-for-an-inclusive-future/

  • Sobre l’opinologia a Twitter

    Sobre l’opinologia a Twitter

    Quan emergeix un «problema», un «fet», ens veiem interpel·lats a posicionar-nos-hi. Mai s’han de deixar de banda els matisos, doncs són aquests els que enriqueixen la realitat, però és fàcil entendre que, tot i els esforços de la postmodernitat, la lògica bivalent clàssica, estructuradora del pensament humà, segueix regint l’enteniment. Amb això vull dir que seguim posicionant-nos davant els problemes o els fets de manera binària: a favor o en contra.

    Quan Joe Biden va anunciar la retirada de les tropes estatunidenques d’Afganistan, l’ocupació afgana va convertir-se en el tema d’actualitat. Molts usuaris i panelistes amb compte de Twitter van començar a opinar respecte als fets que van succeir a la decisió de Biden, posicionant-se a favor o en contra, afirmant-los o negant-los. Com pot ser que hi hagi gent que, sense entendre massa bé el conflicte afgà, pugui posicionar-se amb tanta contundència? La resposta més fàcil és suposar que aquests tuitaires són en realitat farsants amb postures impostades i, encara més, impostores. Doxòfors.

    No obstant això, la veritat és que existeix un truc per saber cap on has de posicionar-te quan emani davant de tu qualsevol «problema». Més que un truc és una recepta. Un conjunt de valors i creences, sorgides d’un diagnòstic de la realitat que «deforma» la visió preestablerta del món i facilita el seu «veritable» enteniment. La recepta és la ideologia, una mena de pack d’idees i sentits on, no només hi ha les pautes teòriques per entendre la realitat, sinó també unes pautes d’acció per captenir-se envers els fets de la realitat que emergeixen davant nostre.

    Els que tenen molt clara la seva ideologia, sense cap pensament crític, acostumen a posicionar-se dogmàticament en l’afirmació o negació del «problema». Són més escèptics, en canvi, qui dubten constantment de la interpretació ideològica; corren, però, el perill de caure en la incompetència.

    El tertium datur està condicionat per la feina dels experts. És important distingir la figura d’expertesa divulgativa, informativa o descriptiva de l’opinió ideològica o posicionament polític. Aquests dies haureu vist molts tuits d’aquests estils:

    Segurament molts entendran que aquestes crítiques estan dirigides a aquells usuaris que darrerament han començat a divulgar informació d’Afganistan sense entendre la complexitat del conflicte; potser amb ànsies de guanyar seguidors «informant» sobre l’actualitat i aprofitant que és trending per guanyar visibilitat; potser amb intenció d’aparentar davant els seguidors una sort de saviesa absoluta. M’interessa, no obstant, respondre a qui s’ha refugiat rere aquests memes per encaixar el sentiment de culpabilitat que sent davant la interpel·lació social de posicionar-se respecte al conflicte afgà.

    D’on surt aquesta culpabilitat? No és un sentiment irracional? Per què ens hem de posicionar tota l’estona respecte a tot? No és més fàcil adoptar una sort d’estoïcisme del tipus: «si no hi tinc res a fer no he de preocupar-me»?

    Des de la presó Gramsci va escriure:

    Hi ha qui ploriqueja piadosament, altres blasfemen obscenament, però ningú o molt pocs es pregunten: si hagués tractat de fer valer la meva voluntat, hauria passat el que ha passat? […] Visc, sóc partidista (partigiano). Per això odio a qui no pren partit, odio als indiferents.

    Antonio Gramsci, «La città futura» l’11 febbraio 1917

    Posicionar-se no és res dolent. Tampoc obligatori. Posicionar-se és, sobre totes les coses, prendre una decisió –un acte de bogeria diria Derrida. I en el cas del conflicte afgà és una decisió política –com qualsevol decisió, dirien alguns. Fer saber a la resta d’usuaris què penses d’alguna cosa o què passa pel teu cap és el principal ús de les xarxes socials, sobretot de Twitter, si no ja m’explicareu per què al textbox surt el placeholder: “Què està passant?”. Dir el que pensem respecte a alguna cosa no és res dolent. Creure-s’ho massa (dogmatisme) o massa poc (escepticisme incompetencial) són les malalties que poden jutjar-se com a indegudes.

    El problema és que no és el mateix posicionar-nos respecte a si es passa millor a l’hivern amb fred que a l’estiu amb calor, que fer-ho respecte al conflicte afgà. Decidir si és millor el fred que la calor és un judici de valor inofensiu, que depèn dels nostres gustos. Ara bé criticar les responsabilitats dels Estats Units d’Amèrica al conflicte bèl·lic o jutjar el posicionament de Xina, aparentment al costat del govern talibà, requereix un mínim coneixement de geopolítica, història contemporània, relacions internacionals, etc. Posicionar-se en aquest cas no depèn tant d’un reconeixement immanent, d’una introspecció, d’un estudi de les sensacions, no depèn només de l’enteniment (Verstand); sinó depèn de la possibilitat d’accedir a diferents coneixements que componguin un sentit sintètic del conflicte per poder posicionar-se raison d’être.

    Els experts tenen la funció de fer-se preguntes respecte al «problema» que emergeix. Per què ha emergit així?, quin és concretament el problema?, per a qui és un problema i per a qui no?, per què ha evolucionat així?, quins interessos l’entravessen? Les diferents disciplines (ciència, filosofia, antropologia…) donaran una resposta raonada a aquestes qüestions, concretant encara més el «problema», definint-lo, classificant-lo, desvelant allò que no es veu a simple vista. Tot això farà possible que les posicions preestablertes per la ideologia puguin mudar, redefinir-se, canviar-se o mantenir-se.

    El coneixement i l’estudi dels experts emmarquen encara més les condicions del «problema» i ens possibiliten una lectura ideològica més fidel. És aleshores quan ens hem de preguntar: només s’ha d’opinar del que se sap? Si no som experts sabem realment sobre alguna cosa? Només poden opinar els experts sobre allò que estudien? Suposadament, tot i la insistència del capitalisme a mantenir-nos en l’espectacle continu de la vida inautèntica, els ciutadans i ciutadanes som capaços d’aprendre, de pensar críticament, d’informar-nos i, a partir d’aquí, de prendre partit.

    A La societat de l’espectacle de 1995, Guy Debord afirmava:

    L’espectacle modern expressa el que la societat pot fer, però en aquesta expressió allò permès s’oposa de manera absoluta a allò possible. L’espectable és la conservació de la inconsciència dins del canvi pràctic de les condicions d’existència.

    Potser hauríem d’alliberar-nos de la condició d’espectadors passius de la política i de la nostra pròpia existència.

    La doxa o l’opinió és una creença raonable ­i raonada sobre un fet o esdeveniment; posicionar-se és una decisió política. La informació que ens arriba a la ciutadania mai serà suficient per opinar o posicionar-se sota un grau d’expertesa, però és necessària per poder fer-ho amb franquesa.

    No m’agradaria que aquesta columna s’entengui com a una defensa de la doxoforia que tant criticava Plató —fent referència a qui es guanya la vida opinant sobre tot sense saber de res—, però sí com a una defensa d’aquells que, interpretant el fenomen amb els coneixements del moment i amb voluntat de formar-se, prenen una posició política, procurant una futura possible acció individual o col·lectiva com a resposta; la intenció última de l’opinió política és la praxis, prèviament mitjançada per la creació de sentit.

    Prendre consciència per prendre partit. Deixem als experts que recorrin la «via de la veritat» per donar-nos l’oportunitat de prendre partit amb coneixement de causa i intenció de transformar la realitat mentre circulem la «via de l’opinió».

  • Poden els androides ser racistes? Introducció a l’ètica algorítmica (II)

    Poden els androides ser racistes? Introducció a l’ètica algorítmica (II)

    És una tarda d’estiu a una carretera comarcal de Califòrnia. No hi ha ningú en la carretera: o són a la platja, o treballant. Dos homes condueixen un cotxe, un Toyota. Aparquen en una gasolinera, saluden al dependent i van a la secció de menjar. Un d’ells es posa un passamuntanyes; el dependent sap el que ocorrerà. Els homes criden mans a dalt, i demanen que obri la caixa. Ell ho fa, els dóna tot el que té i ells abandonen el lloc del crim. Amb 500 dòlars més a les seves mans, els atracadors escapen 20 quilòmetres al nord.

    No obstant això, són arrestats poc després. Porten tot l’estiu atracant gasolineres. Són empresonats i esperen a judici. Passen setmanes i els nostres atracadors van finalment a judici. No ens ficarem en processos judicials. Simplement, sabem que són condemnats i que al jutge se li presenten els resultats del COMPAS, un DSS (decision support system) amb l’objectiu de predir la possibilitat de reincidència (i amb això agreujar la pena) d’un condemnat. Segueix una fórmula matemàtica:

    S=(a-w)+(f-w)+(vw)+(ew)+(n*w)

    On a és l’edat actual, f l’edat del primer arrest, v l’historial de violència, e són problemes en el sistema educatiu, i n l’historial de no-cooperació amb la policia; w és la ponderació que cadascun d’aquests factors té sobre el resultat total S. La relació de S és negativa amb a i f (quant menor és l’edat en tots dos casos, major és el resultat) i positiva amb v, e i n (com més gran és l’historial de violència, no-cooperació i problemes d’educació, major és el resultat). Per descomptat, això és el que Northpointe (ara Equivant), la companyia privada darrere de l’algoritme d’ús públic, diu que s’usa; però no revela els càlculs ja que és un programari propietari.

    Descobrim les seves identitats: Alberto i Brandon. Alberto té 19 anys i va ser arrestat per primera vegada als 13, la qual cosa li ha generat una gran desconfiança respecte a la policia. Ve d’una família pobra i mai va acabar l’institut. Brandon, per l’altre costat, va conèixer a Alberto per amics comuns, i mai ha tingut cap problema amb les forces de la llei. Té 25 anys i ha acabat una carrera de direcció d’empreses, i per a pagar els deutes de la universitat atraca gasolineres amb Alberto.

    L’algoritme de COMPAS passa pels registres d’Alberto i Brandon. Alberto té menor edat i edat d’arrest i major historial de violència, no-cooperació i problemes educacionals que Brandon, amb el que el seu risc de reincidència és molt major. Per això, el jutge condemna a Alberto al doble d’anys de presó que Brandon. Estem descartant, per descomptat, que el jutge conegui la raça o classe dels atracadors (la qual cosa és un factor de discriminació), però l’algoritme de COMPAS conté ja per si mateix, en acceptar un input de dades, una discriminació. Les persones de color, o de classe més baixa, o de barris més pobres (tots trets que ara donem a conèixer d’Alberto) poden tenir major tendència a ser arrestats de joves, o a desconfiar de la policia, o a participar en crims a una menor edat, o a no acabar l’educació secundària. El futur és decidit pel passat.

    Estem parlant d’un cas binari, d’una persona que té pitjors resultats en tots els indicadors. Però i si usem indicadors diferents? Propublica dóna un cas il·lustratiu: Vernon Prater, un home de 41 anys que comet el seu primer crim als 33, però que en aquests curts 8 anys comet dos robatoris armats i un intent de robatori; i Brisha Brodin, qui amb 18 anys té cuatros delictes menors juvenils. Brodin va ser qualificada com un risc de reincidència D8 (molt alt) i Prater amb un D3 (baix). Dos anys després, Prater havia robat aparells d’un magatzem per valor de milers de dòlars, però Brodin no havia reincidit. L’algoritme s’equivocava.

    L’objectiu de COMPAS (com qualsevol altre algoritme, en teoria) és el de ser cec, no considerar un prejudici com podria fer una persona classista o racista; però, primer, s’oblida que les dades que rep no ve d’altres algoritmes sense inclinació, sinó de persones amb prejudicis com els policies que van detenir a Alberto amb només 13 anys; i segon, no considera que l’elecció d’aquests indicadors són precisament triats per una raó en concret (per exemple, per què triar l’educació o la no-cooperació, però no la possessió d’armes?).

    Els algoritmes, com la justícia, poden i han d’aspirar a ser cecs i imparcials, però no ho són. Reforcem l’opinió que vam donar en la primera part: la tecnologia no té consciència, només la dels seus creadors. I ens podem aventurar a dir que, en un país on la creació i manteniment de presons és un negoci, i la grandària del qual ha crescut un 14% en 12 anys, un algoritme pot ser usat per a empresonar a cada vegada més persones i per això empresonar a una proporció major de persones de classe baixa o de color. Els estats federals adopten l’algoritme de COMPAS sense conèixer si funciona o no, i si funciona, quin és el seu objectiu? En un tema tan espinós com el de passar anys privat de llibertat per la decisió d’un algoritme que no és ni cec ni imparcial, com ha d’actuar la justícia, i com hem de repensar l’algoritme?

    Altres casos de serveis digitals moguts per algoritmes i racisme: Google Maps, Google Fotos, Twitter, Facebook. Qualsevol algoritme té uns prejudicis continguts en ell, que ve del seu creador i de com configura l’algoritme. Exemple perfecte d’això: una pàgina web de noms en francès que, per defecte, marca com ‘evitar’ els noms en àrab. En efecte, un algoritme pot ser racista si no pensem en el factor del racisme en crear-lo. Si el creador no considera uns certs factors com la classe, el gènere o l’ètnia al crear un algoritme, reflectirà i reproduirà les posicions hegemòniques.

    Intentem posar un final a aquesta (brevíssima) introducció a l’ètica algorítmica. Els problemes ètic-polítics descansen sobre dos eixos: la privacitat i transparència respecte a les dades usades pels algoritmes i les conseqüències dels processos dels algoritmes; problemes d’inputs i problemes d’outputs. El problema resideix en què el segon tipus és més fàcil d’atallar, perquè és col·lectiu, de moltes persones (tots aquells que es veuen discriminats per un algoritme) que juntes poden unir-se enfront d’un problema tangible; però si no s’atalla el primer, remeiar el segon serà tallar la mala herba sense arrencar-la d’arrel: tard o d’hora tornarà a aparèixer, en formes diferents. Si Northpointe no fa públic el seu algoritme de prevenció de reincidència, podrem protestar, però el problema tornarà a aparèixer tard o d’hora.

    No obstant això, el primer tipus és molt més complicat de veure. Quina empresa està sent transparent, i quina opaca? Quina empresa menteix sobre els seus algoritmes, i quina no? Quines dades embeni als governs d’amagat, i quines són simplement oferides per a la publicitat? No sabem en qui confiar, però hem de confiar en algú, creure en què l’empresa que triem pot ser que usi les nostres dades, però que ho farà menys que una altra empresa qualsevol. Com explicava Arendt (i aquí no em demoraré), viure sense uns prejudicis ens faria la vida impossible, perquè hauríem de tenir uns sentits sobrehumans, vigilar cada pas que donéssim. En el seu lloc, confiem en els prejudicis, els judicis congelats. Què diferència a TikTok d’Instagram, tret que una plataforma embeni les nostres dades a la Xina i una altra al món occidental? O a Microsoft d’Huawei? Només perquè una companyia sigui occidental hem de confiar més en ella? L’hacktivisme té aquí un paper clau en tenir la capacitat de poder donar respostes enfront d’això, de descobrir qui menteix i qui no. Tanmateix, trobar a un culpable continua sent complicat, ja no sols per triar davant qui ens queixem sinó pel fet de queixar-se en si, perquè ens enfrontem a companyies multinacionals i bilionàries amb els millors advocats del món a la seva disposició. Per això, devem (per una vegada) confiar que el parlamentarisme legisli sobre la nostra privacitat i la transparència de les empreses en un món digital gairebé sense explorar, on les fronteres són encara molt difuses; és el moment que sorgeixi un Leviatan digital que posi no unes fronteres sinó uns murs que protegeixin els usuaris de les empreses.

    Una altra manera d’atallar aquests problemes és la posada en marxa de projectes que intentin repensar l’ètica algorítmica per a acostar-la als valors del progrés i la democràcia. El Future of Life Institute proposa 13 principis a seguir per l’ètica algorítmica en termes de valors: seguretat, transparència de funcionament, transparència judicial, responsabilitat, alineació de valors, valors humans, privacitat personal, llibertat i privacitat, benefici compartit, prosperitat compartida, control humà, no-subversió i la prevenció d’una cursa armamentista d’IAs.

    També podem anar pel camí dels projectes open source, amb l’objectiu final de crear una internet pública, gratuït i transparent. L’open source destaca pel fet que el seu codi ha de ser públic i d’això es deriva que és transparent, per la qual cosa tots podem conèixer els seus algoritmes, i els seus creadors han de donar compte d’això.

    En conclusió, hem vist que els algoritmes tenen un pes cada vegada major en les nostres vides. Aquest fet, el de delegar molts processos de les nostres vides, és beneficiós en tant que ens lleva una càrrega de treball, però hem de ser cautelosos i tenir precaució. Aquí és on entra l’ètica algorítmica, la reflexió sobre la implantació dels algoritmes i tot el que hi ha darrere d’això: la privacitat tant de l’empresa com de l’usuari, la transparència de les companyies, l’ètica dels creadors dels algoritmes, els valors que han de guiar-los i els ideals als quals han d’aspirar. Les respostes als problemes actuals passen tant per l’examen als pilars dels algoritmes, a través de principis i propostes de recerca en la filosofia, el dret, l’economia, la política i la tecnologia, i la seva posterior restauració o demolició a través de la política pública i legislació.

    No podem donar moltes més respostes sense construir majors fonaments, com no podem construir més teulada si no tenim més sòl. Aquests dos articles, d’unes 2000 paraules cadascun, al final se’ns han quedat curts per a explicar un tema tan ampli i poc explorat com l’ètica algorítmica, però esperem que hagin servit prou bé com una introducció superficial, meitat teòrica meitat aplicada, al qual serà un dels temes candents d’aquesta dècada.

  • Benvingut, Gran Germà! Introducció a l’ètica algorítmica (I)

    Benvingut, Gran Germà! Introducció a l’ètica algorítmica (I)

    Els pitjors malsons dels liberals del segle XX són els negocis dels liberals del segle XXI: estem governats per màquines! I per govern no parlem de l’aparell polític-executiu (els ministres encara no són màquines, la qual cosa no significa que no puguin ser reptilians), sinó per pràcticament tot menys això: economia, gustos, modes, notícies, informació, art (fins i tot l’art!), esports, decisions empresarials, seguretat, transport, militarització, administració… El Gran Germà ha arribat vestit d’ovella innocent al nostre servei: les nostres cerques, likes, amics digitals, qualsevol cosa que diem en la vida real i escolta un dispositiu, tot controlat per l’algoritme! Poc queda: la màquina es menja el treball de tots sense remordiments, des del revisor del gas fins al broker de Wall Street; qualificat o sense qualificar; creatiu o manual; nord o sud global. Clar, això no té per què ser dolent: el nostre somni (almenys el meu!) és el món sense treball, on ens puguem dedicar als plaers de la vida i la felicitat mentre la màquina, la creació perfecta de la humanitat, s’encarrega del treball sense cap queixa. A més, la màquina en si sap més que nosaltres de manera individual, obrint possibilitats infinites, des de rutes amb cotxe perfectament calculades o el producte perfecte que satisfaci les nostres necessitats fins a les possibilitats d’una economia planificada cibernèticament.

    Estructurem tres eixos de reflexió i crítica entorn a l’automatització de la vida: epistemològic, socioeconòmic i ètic-polític. El primer es pot resumir en una pregunta fonamental: Quant deleguem, i quant hem de delegar, de les nostres decisions i coneixement sobre un aparell que és perfectament racional, més que nosaltres? Un cas pràctic: hem de creure a l’omnipotent GPS com si fos el nostre messies, guiant el nostre camí? Sorprenentment, no: encara que els seus camins siguin inescrutables i eficients, a vegades no sempre hem de creure-li cegament, com li va ocórrer a la belga Sabine Moreau, que va conduir 1500 quilòmetres per un error d’una màquina, de Bèlgica a Croàcia.

    El segon cas es desglossa més en diverses preguntes: per exemple, en un món que progressivament acaba amb el treball, com ha de plantejar-se l’ingrés i el consum? La polèmica està a l’ordre del dia: Ingrés Mínim Vital, sí o no? Altres preguntes poden ser què fer amb la contaminació de la maquinària, o com s’ha de tractar a la maquinària que reemplaça als treballadors (si no és un factor treball i no rep un salari, però en teoria supleix el seu lloc i és més productiu i menys costós, és legítim gravar més als capitalistes?).

    Ens hem llevat els dos primers eixos, a fi de deixar-los reposar i potser desenvolupar-los en un altre article, per a centrar-nos exclusivament en el tercer. Una anotació: si bé l’eix epistemològic pot derivar en ètic i el socioeconòmic lògicament ha de transformar-se en polític, tractarem més de centrar-nos en la bilateralitat: l’ètica algorítmica transforma la societat, la societat ha de transformar l’ètica algorítmica, en un procés de reciprocitat constant i contínua.

    Dit això: què és l’ètica algorítmica? Si bé una definició no és la suma de les seves parts, potser definir ètica i algoritme pot ser útil. Definim l’ètica com l’estudi de la moral, del que és bo, en un sentit tant descriptiu (què fem, com actuem) com a normatiu (què hem de fer, com hem d’actuar). Definim algoritme com ho fa Robin Hil, com a «un constructe matemàtic amb una estructura de control finita, abstracta i efectiva d’acció imperativa per a complir un propòsit donada una sèrie de criteris», o com el fa Aníbal Monasterio, com a «un codi programari que processa un conjunt limitat d’instruccions». Sota algoritme englobem a qualsevol procés autònom, des d’una intel·ligència artificial a un dispositiu de domòtica, una plataforma en línia, una aplicació o un pilot automàtic.

    Per descomptat, ètica algorítmica no és estrictament l’ètica dels algoritmes: els algoritmes actuen, i per tant poden fer bé i malament, però no decideixen ells. No són subjectes moralment autònoms, sinó que (com hem dit) segueixen un conjunt limitat d’instruccions. La nostra capacitat, com a humans, és il·limitada: pensem l’impensable, i les nostres accions estan només limitades per la condició física. Però la dels algoritmes és limitada per nosaltres mateixos: la intel·ligència artificial (encara) no pot processar i respondre converses com ho fem nosaltres, sota opcions virtualment infinites, sinó que respon sobre la base d’unes limitacions. Un input produeix un output, sobre la base d’unes instruccions i processos; i la quantitat d’instruccions és el que limita a l’algoritme per si mateix.

    Per això, els algoritmes no són subjectes moralment autònoms, sinó que estan limitats per unes instruccions. Les instruccions no són auto-dictades, com ocorre amb nosaltres (tenim la capacitat de crear sistemes morals humans, que no són donats de manera divina), sinó que les instruccions són donades pels mateixos humans. Aquesta dotació d’instruccions és la programació: escrivim un codi que dóna unes opcions limitades a una màquina, i això davant una acció humana produirà un resultat.

    El que diferència a l’algoritme de la màquina simple és que l’algoritme s’autoregula: la màquina de la fàbrica ha de ser supervisada contínuament i controlada pel treballador, mentre que l’algoritme recull la informació, la processa i dóna uns resultats sense cap control del programador, i el fa infinites vegades, emmagatzemant informació de l’usuari per a predir-li i crear una imatge d’ell que tindrà unes conseqüències tant per a ell com per a uns altres.

    Tot això obre diverses preguntes, però destacarem dues que intentarem respondre. Primer, què és l’ètica algorítmica i com hem de repensar-la? Segon, quines conseqüències polítiques i discriminatòries poden tenir els algoritmes, i com han de ser tractades per l’ètica algorítmica? Aquesta última pregunta serà deixada per a un segon article, mentre que la primera serà el centre de la resta d’aquest.

    L’ètica algorítmica és una ètica que és, descriptivament, marcadament conseqüèncialista (o utilitarista). És l’ètica de les conseqüències, que concep que si el resultat d’una acció és positiu la voluntat darrere de l’acció no importa. Per descomptat, es poden acceptar matisos: des de la distinció de l’utilitarisme de l’acte benthamià (ens hem de basar en el resultat d’una acció sense considerar altres aspectes a priori com els drets) contra l’utilitarisme de la regla de Mill (les conseqüències importen, però tota acció ha d’estar regida sota unes regles concretes), a l’existència de l’utilitarisme efectiu de Singer.

    L’ètica conseqüèncialista sol existir en contrast amb l’ètica deontològica, que és el seu oposat; no importa si el resultat és positiu o negatiu, importa fer una acció amb una bona voluntat. Suposem el famós cas de la palanca. En una via hi ha cinc persones a punt de ser atropellades per un tren, en una altra hi ha una sola persona. Si gires la palanca, salves a les cinc persones, però mates a una. Si no la gires, les cinc moriran. Un conseqüèncialista giraria la palanca, doncs que mori una persona és més positiu que cinc; un deontològic no la giraria, perquè fer-ho suposa matar a una persona, una acció dolenta si no es consideren els resultats. Per descomptat, el problema es complica quan comencem a torçar-lo i deformar-lo. Si un familiar substitueix a la persona sola en les vies, què fas? Si en lloc de girar una palanca has d’empènyer a algú per a salvar a cinc persones, li tiraries? Si en lloc d’empènyer-li, t’has de llançar tu a les vies, ho faries?

    Per descomptat, aquestes preguntes tenen l’objectiu de qüestionar la coherència moral d’algú. Jo m’acosto més al conseqüèncialisme i, per tant, preferiria girar la palanca per a salvar a les cinc persones, encara que morís una altra per la meva decisió; però si entren en joc les meves emocions en haver de sacrificar a un familiar o la preservació de la meva vida en haver de llançar-me a les vies, dubtaré. Som humans i crear un sistema moral total i totalitzador que ens digui que és el millor què fer és complicat, perquè no podem definir-nos a una sola dimensió com l’eix voluntat-resultat, sinó que tenim de tenir en compte altres com les emocions, la racionalitat o l’egoisme.

    Però un algoritme no pot considerar això, perquè és una màquina, i només considera què és el millor, el més desitjable, sota un sistema moral que tendeix a ser total, a decidir què fer en cada cas particular sota un càlcul. Imaginem el cas de l’Autopilot de Tesla, en lloc de nosaltres tirant de la palanca. Posem-nos en el lloc del cotxe: el nostre conductor ens ha ordenat anar a una direcció amb el pilot automàtic, i ell desconnecta, es posa a dormir. No pot supervisar-nos, així que nosaltres controlem un aparell de dues tones que pot arribar als 250km/h. Veiem a cinc persones travessant el carrer i no podrem detenir-nos a temps. Només podem estavellar-nos contra un arbre, matant al nostre conductor i salvant als cinc vianants, o seguir recte i atropellar-los. Per descomptat, com som un sistema, no podem considerar si les cinc persones són nens, o un familiar del conductor: la qualitat es converteix en quantitat, cinc vianants contra un conductor. Què hem de fer?

    Els algoritmes han estat (generalment) implementats sota una lent purament utilitarista; si fa un bé general per a la societat, fem-ho! En teoria, això ha de ser positiu; en la pràctica, no. El pilot automàtic, sota la lent utilitarista, s’estavellaria per a salvar als cinc vianants, però en altres situacions més complexes podria no respondre com volem. Clar que els algoritmes no sols prenen decisions de vida o mort, sinó que també recullen la nostra informació en nom de la utilitat: Instagram vol accedir als meus contactes perquè segueixi a la gent que conec, Google accedeix a la meva ubicació per a saber què recomanar-me, Twitter coneix tot amb el que interactuo per a delimitar-me a uns temes. En teoria, la recopilació d’informació ens beneficia a tots! Una companyia m’ofereix un servei gratuït a canvi de recaptar les meves dades i, en teoria, oferir-me publicitat, que a més està personalitzada per a mi, perquè no hagi de buscar el que vull consumir! No hi ha cap problema, no?

    Clar que n’hi ha. Una empresa funciona sota dret privat, en relacions contractuals, i pot vendre la informació que vulgui, quan vulgui i a qui vulgui. No tenim una sobirania sobre la nostra privacitat, com a dret, perquè renunciem a ell en nom d’un suposat ben col·lectiu. És l’utilitarisme de l’acte en la seva màxima expressió: si ens beneficia a tots, què importen els teus drets? Però on queda la privacitat quan el dispositiu que tenim en les butxaques pot sentir-nos, saber on estem, veure les nostres fotos, llegir els nostres correus i conèixer el que busquem? I què ocorreria si algun hacker conegués tota aquesta informació? Que s’accedeixi (a vegades) sense el nostre consentiment explícit a les nostres dades és perillosíssim, ja no sols perquè les empreses coneguin tota aquesta informació, sinó perquè aquestes empreses no són perfectes i es poden trencar els seus mecanismes de seguretat. En resum, hem vist que la tecnologia s’ha tornat un ens que penetra en totes les nostres vides, i els seus algoritmes prenen moltes decisions per nosaltres: quines notícies llegir, quins vídeos i fotos veure, que temes ens interessen; ens observen, ens supervisen com un Gran Germà omnipresent. Una empresa, com a ens privat, està en el seu dret d’escriure l’algoritme que desitgi, per la qual cosa no ha de respondre de manera pública davant els seus usuaris: l’usuari ha estat qui ha usat el servei, acceptant unes condicions de l’algoritme. I com hem dit, els algoritmes contenen la visió del programador, amb les seves opinions respecte a qüestions com el gènere, la raça o la classe; això és un tema que tractarem en la segona part, però que d’antuvi es pot resumir en què la tecnologia no té consciència, i per això les decisions que pren depèn de les decisions dels seus creadors.

  • Feels Bad Man: el boom tòxic del criptoart i els NFTs

    Feels Bad Man: el boom tòxic del criptoart i els NFTs

    L’any passat es va estrenar Feels Good Man, un documental que explorava el fenomen de la granota Pepe des de la seva concepció com a un simple personatge dels còmics de Matt Furie fins a convertir-se, malauradament, en la gran icona dels memes de l’alt-right a webs com 4chan. No obstant, sense voler el documental planteja una curiosa pregunta: quants diners estaríeu disposats a pagar per un meme? No és conya. Un segment de la pel·lícula gira al voltant del mercat de Rare Pepes, uns cromos virtuals fets amb memes de la granota. I aquí és on trobem la resposta, ja que Peter Kell es va gastar $39.000 en tenir la propietat d’un Homer Pepe.

    Fins ara el col·leccionisme d’art estava sustentat en objectes tangibles, com podrien ser els quadres originals de pintors com Claude Monet o Vincent Van Gogh. En l’àmbit digital, com a molt, podríem estirar el concepte de col·leccionisme a les reproduccions físiques que es fan d’obres digitals amb d’una tirada limitada que aporti més valor a aquesta obra. No obstant, ens sorgeix la problemàtica de que ningú arriba a ser mai el sol propietari de l’obra original, ja que no existeix una versió física que sigui vertaderament l’original. Fins ara.

    Això dels Rare Pepes va succeir al 2018 i és el que s’anomena un NFT, sigles que s’han convertit en tota una la revolució a internet durant les últimes setmanes. Però, què és un NFT? Els non-fungible tokens tècnicament són tokens criptogràfics, són elements amb un valor dins d’una xarxa blockchain, similars a una criptomoneda excepte pel fet de que no son mútuament intercanviables i són indivisibles. Igual que un euro és divisible en cèntims i dos euros tenen el mateix valor mentre que Els girasols de Van Gogh no.

    El Rare Pepe més rar (i car) del món

    Enfocant-nos en el context del col·leccionisme, la vertadera utilitat d’aquests tokens no fungibles és la de servir com una prova de la propietat d’un objecte digital. No importa la quantitat de còpies (o rèpliques) de l’arxiu que hi hagi a la xarxa, a través dels NFTs s’aplica el concepte i el valor del certificat d’autenticitat a l’espai artístic virtual i d’aquesta manera es pot ser el sol propietari de l’obra en qüestió. Tot això dins del marc de transparència de la tecnologia blockchain: es registren totes les transaccions i es pot consultar qui n’és el propietari en cada moment.

    No hi ha límits respecte al que pot esdevindré un NFT, ja que l’únic que queda enregistrat a la xarxa descentralitzada són les transaccions del token, per tant el món del criptoart engloba qualsevol tipus d’expressió artística: fotografies, vídeos, gifs, música, software, textos, cromos de memes de Pepe, etc. Això ha permès la creació de comunitats multidisciplinàries d’artistes, col·leccionistes i tech bros que han anat alimentant aquesta febre els al punt on es troba ara mateix.

    Els NFTs s’han erigit com una idea presumptament revolucionaria pels artistes digitals, rendibilitzant la seva obra i venent-la de manera directa en comptes de simplement crear contingut que enriqueixi el seu portafolis de cara a futures oportunitats laborals.

    Durant els últims mesos l’artista Mike Winkelmann (conegut com a Beeple) hauria guanyat uns pocs milions de dòlars amb les vendes de NFTs de la seva obra, als que s’han d’afegir els $69.346.250 (no és broma) de la subhasta que la prestigiosa casa de subhastes Christie’s ha fet d’una recopilació en un sol JPG de les 5000 peces digitals corresponents als primers 13 anys del seu projecte Everydays, amb el que Beeple ha creat i pujat a internet una imatge al dia sense interrupcions.

    Recordeu el Homer Pepe del documental? Doncs a principis de març el seu propietari Peter Kell el va vendre per l’equivalent a $320.000 en ETH, la criptomoneda de la xarxa Ethereum. Al voltant de vuit vegades més del que li va costar.

    La cantant Grimes i el seu germà Mac Boucher van subhastar els NFTs de deu peces audiovisuals que formen part de la WarNymph Collection Vol.1, arribant a guanyar sis milions de dòlars.

    La també cantant Azealia Banks i la seva parella Ryder Ripps van vendre per $17.000 un NFT que consisteix en un àudio de 24 minuts d’ells dos durant l’acte sexual, una compra que a més de l’arxiu WAV inclou una única còpia signada i en vinil d’aquesta gravació i drets vitalicis d’explotació.

    I per últim, Jack Dorsey va vendre un NFT de la seva primera piulada a «Twttr» per dos milions i mig de dòlars.

    A partir dels exemples anteriors podríem entrar en l’etern debat quin és el valor que li donem a les coses, argumentant que és una ximpleria pagar una quantitat estratosfèrica per la possessió virtual d’un objecte digital. D’igual manera que existiria un altre argument mencionant que també ho es pagar una milionada per un quadre d’un artista famós i ambdós casos es poden veure des del prisma de que són situacions equivalents, ja que el col·leccionista potser l’únic que vol és la satisfacció de posseir aquesta obra o, en altres casos, la capacitat de fanfarronejar sobre el que posseeix. Però aquest no és el debat més rellevant al voltant dels NFTs a hores d’ara, perquè per molt revolucionari i positiu que sembli, hi ha moltíssims problemes amb aquests certificats virtuals.

    Per entendre-ho tot millor primer s’ha de parlar de la tecnologia que hi ha darrere: el blockchain. Resumint-ho molt, el blockchain és un tipus d’arquitectura de xarxes que es caracteritza per estar descentralitzada i la seva informació es distribueix per tots elements que la formen a través d’una cadena de blocs, de manera similar a com si fos un llibre en que cada pàgina la té una persona diferent.

    Afegir un altre bloc a la cadena, o una altra pàgina al llibre, és el que es coneix com a mineria i consisteix en que tots aquells ordinadors que vulguin formar part de la xarxa competeixen entre ells sota unes condicions per continuar amb la cadena. Com a compensació per continuar amb la cadena, el guanyador rep un premi en forma de token de criptomoneda, com el bitcoin.

    El problema es troba amb les condicions de la competició amb les que s’estenen les xarxes blockchain. La més estesa, adoptada per Bitcoin o Ethereum, és el sistema de verificació Proof-of-Work, amb el qual tots els ordinadors que vulguin formar part de la xarxa han de competir per resoldre un problema matemàtic complex que requereix molt esforç computacional i, conseqüentment, molta energia.

    Aquest sistema té algoritmes que adapten la dificultat del problema segons augmenta o disminueix el temps de creació de nous blocs. A més ordinadors competint, menys temps, de manera que puja la dificultat i es necessita més poder de computació per arribar a la resposta. Fa molts anys, es podia minar criptomoneda amb una CPU d’un ordinador personal, però a mesura que el bitcoin s’ha anat fent famós s’han començat a utilitzar processadors més potents fins el punt de que algunes empreses directament han construït instal·lacions plenes de processadors dedicats solament a intentar minar criptomoneda.

    Gràfic amb la dificultat de resoldre el problema matemàtic del sistema PoW

    La gran majoria de NFTs estan constituïts dins de la xarxa Ethereum i aquesta utilitza el sistema PoW per a la creació de nous blocs, així que l’energia necessària per les transaccions de criptoart no és precisament petita. Així doncs, hi ha tres postures principals al món de l’art. La primera és la dels artistes que ignoren les implicacions ecològiques del mercat virtual i segueixen contribuint a la seva expansió com si res. Altres segueixen surfejant l’onada dels NFTs, però indiquen que un percentatge de cada venda es dedicarà a una organització que treballa per compensar les emissions de CO2. Mentre que els més vocals són els que han posat el crit al cel davant la ineficiència energètica d’aquestes noves pràctiques.

    Un exemple és el de Joanie Lemercier, artista visual que va veure com el fet de posar a la venda sis NFTs de la seva obra va resultar en transaccions amb un consum energètic més elevat que el del seu estudi durant els últims dos anys.

    La petjada que cada NFT deixa al medi ambient depèn de totes les interaccions que s’hi fan (creació, venda, subhasta, transferència…) i a la web cryptoart.wtf es pot consultar quina despesa energètica ha tingut una obra en particular i les equivalències en unes unitats que entén tothom.

    Les solucions per fer que el blockchain en general i el criptoart en particular siguin sostenible és allunyar-se del PoW com a manera de verificar nous blocs. Existeixen altres mètodes com el Proof-of-Stake, el qual selecciona el nou ordinador de forma aleatòria però tenint en compte segons la quantitat de tokens que posseeix, o el Proof-of-Capacity, que la probabilitat de selecció depèn de la quantitat de memòria disponible. Ara mateix hi ha xarxes alternatives que les utilitzen, però no tenen el mateix valor que Ethereum i no són tan atractives pel mercat. Al menys des d’Ethereum han anunciat que estan treballant per adoptar el PoS com a sistema de verificació, però sembla que la seva implementació encara trigarà un any o dos.

    Potser la problemàtica energètica és la més destacada, però no és l’única per la que els NFTs es troben a l’ull de l’huracà. Tota transacció que es produeix a xarxa té un cost associat que es relaciona amb l’espai permanent que ha d’ocupar. Crear un NFT costa diners. Fer una oferta per un NFT costa diners. Acceptar la oferta costa diners. A Ethereum això es produeix dins dels contractes intel·ligents, uns scripts de programació que s’executen dins de la xarxa i produeixen un resultat (qualsevol dels esmentats prèviament). Executar línies de codi a la xarxa té un cost econòmic en forma de “gasolina”, així que la quantitat de combustible (i diners) que es necessita per executar un contracte depèn de la seva complexitat. La peculiaritat d’aquest sistema és que la “gasolina” s’ha de pagar abans d’executar el contracte i si et quedes curt, el contracte s’atura a la meitat del procés i perds els diners. Com si tinguessis un cotxe que va de Barcelona a Màlaga per una carretera sense gasolineres.

    El resultat de tot això són testimonis d’artistes amb pocs recursos i poc experimentats que, davant l’oportunitat de poder guanyar diners de manera ràpida, al final surten perdent.

    https://twitter.com/isyourguy/status/1366176796996112385

    L’enèsim problema que ha sorgit als últims dies és bastant irònic. Un dels arguments a favor dels NFT és el fet de protegir la propietat d’una obra d’art digital amb una certa transparència per evitar que puguin ser robats. Excepte pel fet de que qualsevol persona pot crear un NFT de qualsevol arxiu o d’una piulada que conté una obra. Potser els NFTs tampoc són tan meravellosos en aquest sentit si permeten l’equivalent a descarregar-te un pòster d’un artista sense permís i imprimir-lo a casa teva.

    Un últim apunt. Cada cop veiem com la revolució de l’espai criptogràfic, que tant parla de la descentralització i la democratització de certs processos, sembla més una transferència de certes dinàmiques de poder d’un espai convencional a un espai hipermodern aprofitant els avenços tecnològics. I el criptoart no n’és una excepció, ja que els bessons Winklevoss (sí, els que estan interpretats per Armie Hammer a la peli The Social Network), són els propietaris de Nifty Gateway, el segon major mercat de NFTs del món, i no confio massa en una democratització i una ètica que passi per les mans dels tech bros per excel·lència.

    Aquesta és la situació actual, de manera aproximada, al món del criptoart. Encara que tenint en compte com avança tot aquest article quedarà obsolet en un parell de setmanes. Potser d’aquí res veurem com peta aquesta bombolla criptogràfica o potser estem més a prop d’avançar cap l’ús de tecnologies descentralitzades en aspectes de la vida que ni ens imaginem, però d’una manera més ètica. Fins a les hores, el millor que podem fer és anar molt en compte i riure una mica amb els memes que surtin pel camí. Sense vendre’ls, es clar.