Editor ciberpoder.net

Etiqueta: IA

Intel·ligència artificial sense fum: què fa de debò, qui la paga i a qui deixa fora.

  • Escriure pitjor a propòsit

    Escriure pitjor a propòsit

    El maig passat, el papa Lleó XIV va publicar la seva primera encíclica, Magnifica humanitas, que com sabeu no ha passat inadvertida. Com que tracta temes tan diversos, entre ells una crítica humanista de la intel·ligència artificial, va obrir el debat en moltes comunitats que volien discutir les idees de fons del papa. Tant és així que el blog comunitari Less Wrong va passar l’encíclica per Pangram, un dels detectors de text generat amb IA més ben considerats del mercat, per mirar de demostrar que una part del redactat l’havia escrita una màquina. El veredicte de Pangram va ser que en alguns fragments s’hi reconeixia «la veu de Claude» (la intel·ligència artificial d’Anthropic). Havien identificat pistes i indicis com els més de 127 guions llargs, l’abús de l’adverbi genuinely i una acumulació de tricolons, aquelles enumeracions de tres elements que els generadors de text col·loquen a tot arreu —com en aquesta mateixa frase.

    La reacció a les «acusacions» va arribar gairebé de seguida. Des del Vaticà, l’escriptor i editor Christopher Hale va negar al seu compte d’X que cap part de Magnifica humanitas s’hagués generat amb IA. L’havien escrita persones, va precisar, i el primer esborrany s’havia redactat en paper i amb bolígraf.

    La discussió va passar de tractar sobre el que diu l’encíclica a discutir qui l’havia escrita. Ara bé, entre escriure-ho tot a mà i generar-ho tot amb un prompt hi ha moltes maneres de fer servir la intel·ligència artificial generativa i no totes valen el mateix.

    La intel·ligència artificial generativa resol dificultats reals, ens facilita la feina i, per tant, ens estalvia temps. A més, en segons quines tasques, obté millor que si ho féssim nosaltres. Ningú no discuteix seriosament que una eina que et desencalla un paràgraf, que et troba una referència o que et neteja una transcripció formi part d’un procés de creació honest. El problema comença quan utilitzem l’eina per fer tota la feina, des de la concepció fins a l’execució i, fins i tot, fins a la distribució. El resultat de fer servir la IA end-to-end és l’slop, un contingut generat en sèrie. Pot ser perfectament útil per informar o desinformar, per entretenir o per decorar, però en el fons no l’ha treballat ningú; no és obra directament humana. La diferència entre les dues coses, però, no es veu al text acabat. Per això hi ha molta gent dedicada a demostrar que l’habilitat que exhibeix és seva, treballada i construïda amb anys de feina, per no ser «acusada» d’haver agafat la drecera de la IA.

    Quan l’obra demostrava l’ofici

    La creadora de contingut Aleida Argueta ho va plantejar fa poc en un vídeo, on explica com els usuaris de TikTok es foten de les senyores que escolten cançons fetes amb IA. Al llarg de la història, diu, hem entès que una obra era sinònim de posseir una habilitat. Si algú publicava una novel·la, donàvem per fet que sabia escriure. L’obra era la prova de l’ofici que hi havia al darrere.

    @aleidaargueta

    ✨ ¿La IA cambió la forma en la que entendemos crear? La música hecha con IA y del oficio detrás de una obra. 🤖🎵📚 #mipropiaprioridad #ia #inteligenciaartificial #ensayo

    ♬ sonido original – Jhothsa

    Argueta recorre al psicòleg hongarès Mihaly Csikszentmihalyi i al concepte de flow que va desenvolupar a Creativity, l’estat en què t’absorbeix una activitat i perds la noció del temps perquè el repte està a l’altura de les teves habilitats. El plaer de crear s’allotja en el procés de construir l’obra i no en el resultat. L’exemple que dona és l’Ulisses, on hi ha capítols sencers sense puntuació. James Joyce podia permetre’s trencar la llengua perquè la dominava. La pregunta que Argueta deixa oberta és quina part del procés estem delegant.

    «La feina de la IA acostuma a estar buida, és com el porexpan»

    — Juan Antonio Latorre García, lingüista de la Universitat Complutense de Madrid a El País

    Qui s’hi dedica professionalment descriu aquest ofici en termes molt semblants. Juan Antonio Latorre García, lingüista i professor del departament d’Estudis Anglesos de la Universitat Complutense de Madrid, va fer a mà la seva pròpia anàlisi forense de l’encíclica, perquè no es fia de cap detector, i va concloure que Magnifica humanitas és un text 100% humà. Les proves d’humanitat que ell busca són la fluïdesa de les referències i de les cites, que amb la IA semblen ficades amb calçador, com també la complexitat de les idees. «La feina de la IA acostuma a estar buida, és com el porexpan», analitza a EL PAÍS.

    Flagxiety i dumbcrafting

    La sospita ha afectat, inevitablement, la nostra manera d’escriure. La novel·lista Laura Brooke Robson explica a WIRED que, mentre escrivia Love Is an Algorithm, es va esforçar perquè la seva prosa no semblés generada i va prescindir dels guions llargs, de les llistes de tres elements i de les «metàfores insulses». Diu que ara escriu de manera menys mecànica i que sent la necessitat de cometre errors petits, com a picades d’ullet al lector, per demostrar que hi ha un ésser humà darrere les paraules.

    La novel·lista i acadèmica australiana Ellena Savage s’ho pren amb més pena que resignació. «La IA em va robar unes quantes convencions sintàctiques que abans m’agradaven molt. Enyoro l’ús excessiu del guió llarg», lamenta a la mateixa peça.

    A les universitats nord-americanes ja han posat nom a aquest fenomen. Els estudiants parlen de flagxiety, la por de ser assenyalat per error per un detector, i de dumbcrafting, que és escriure deliberadament pitjor per no activar-lo. Segons una enquesta interna de la Universitat de Stanford que recull EL PAÍS, un 75% dels estudiants va declarar algun grau d’estrès relacionat amb els detectors. Un 52% va dir que l’havien acusat en fals de presentar treballs fets amb IA. El lingüista Latorre ho observa entre els seus alumnes i entre qui publica a revistes científiques. «Treuen els guions llargs o fiquen una quarta enumeració encara que no vingui gaire a tomb», explica al mateix reportatge.

    El preu de semblar humà

    Desfer una acusació d’aquestes no és gens senzill. El cas de la novel·lista Mia Ballard n’és un exemple. El març, l’editorial Hachette va retirar la seva novel·la de terror Shy Girl després que a internet s’especulés que havia fet servir IA. Ballard ho va negar rotundament. Per tornar a publicar, explica a WIRED, va haver de revisar el text i va contractar un editor que li va analitzar la prosa amb un programari d’IA —irònicament.

    A sobre d’aquesta por ha crescut una indústria que s’anomena a si mateixa «mercat humanitzador». Les eines que prometen fer indetectable un text generat i que venen allò que en diuen the human touch han rebut prop de 33,9 milions de visites enguany. El sector val 500 milions de dòlars el 2026 i s’espera que arribi als 1.000 a finals del 2027. El que va sorprendre els investigadors d’Stanford, però, és que bona part d’aquests usuaris no ha fet servir mai la IA per escriure. Espatllen expressament textos propis i nets, els passen per eines com ZeroGPT o Superhumanizer i es queden més tranquils quan una màquina els certifica que podrien passar per humans.

    En aquest cas ja no estem parlant de vergonya. La vergonya suposa un acte i necessita que l’hagis comès. El que mou aquests 33,9 milions de visites és més aviat la por a la condemna, que no necessita cap acte i que no distingeix entre culpables i innocents, perquè el que es castiga és assemblar-se a la IA. Contra una acusació de semblança no serveix de res no haver-la feta servir mai.

    «Un camp és necessari per determinar el valor d’una idea nova»

    — Mihaly Csikszentmihalyi, Creativity

    Argueta cita Csikszentmihalyi pel flow, que és la part interior del problema. Ara bé, el mateix llibre en sosté una altra idea de fons que encaixa molt millor amb el que està passant. A Creativity, Csikszentmihalyi defensa un model sistèmic on la creativitat surt de la relació entre tres coses, més que no pas de la persona sola. Aquestes són l’individu, el domini (el conjunt de regles i procediments d’una disciplina) i el camp, que són totes les persones que fan de guardians del domini i decideixen si una idea nova hi pot entrar. «Un camp és necessari per determinar el valor d’una idea nova», hi escriu.

    Aplicat a l’escena d’ara, el que ha entrat en crisi és el camp. Els guardians que decidien qui havia fet la feina han perdut el criteri que feien servir i n’han adoptat un de nou, que és un detector.

    Les conseqüències d’això no són iguals per a tothom, però. Qui ja té nom no ha de demostrar res, perquè el nom fa de prova. Qui encara no en té, el paga amb diners (un editor que revisi, una subscripció mensual a una eina d’humanització, etc.), amb estil (guions llargs fora, vocabulari més pobre, el millor paràgraf retallat perquè llueix massa polit, etc.) i, si res d’això funciona, ho paga convertint-se en la diana d’acusacions pràcticament indemostrables. Paral·lelament, l’influencer que penja reflexions profundes sobre temes que no coneix ni li importen, generades senceres i publicades sense gens de pudor, tampoc no paga res, perquè la seva autoritat descansa en l’audiència i no ha necessitat mai cap ofici per fer-se valer. L’estudiant de Stanford que passa el seu propi treball per ZeroGPT abans d’entregar-lo i la novel·lista que contracta un editor perquè una màquina la certifiqui són subjectes del mateix segrest; el segrest d’haver de construir el dret a ser cregudes en la pràctica, amb destresa, de la seva habilitat.

    Una llengua que necessita la màquina

    En català, tot això de què parlem es dona d’una manera particular. El Govern ha invertit 12 milions d’euros fins aquest any a través del projecte Aina, que desenvolupa el Barcelona Supercomputing Center per garantir que el català existeixi als models de llenguatge i que no quedi fora del món digital per manca de dades. És una política lingüística defensiva i té tot el sentit. Ara bé, com millor escrigui el català la màquina, més difícil serà distingir una columna que ha escrit algú d’una que s’ha generat en deu segons.

    «Cap eina pot garantir un 100% de fiabilitat»

    — Detecció de documents elaborats amb IA, informe d’Agtic per a la Diputació de Barcelona

    El guió llarg, l’adverbi genuinely i el tricolon, que són exactament les proves que Less Wrong va donar contra l’encíclica, com hem dit, descriuen prosa anglesa generada. Són els mateixos senyals que fem servir per reconèixer l’escriptura amb IA en català. Tot i això hi ha certes peculiaritats. L’empresa Agtic ha redactat per a la Diputació de Barcelona un informe titulat Detecció de documents elaborats amb IA, pensat per decidir si val la pena contractar algun d’aquests serveis. La conclusió és que cap de les eines analitzades ofereix garanties suficients pel que fa a la precisió, a la traçabilitat ni a l’evidència tècnica del seu funcionament.

    Per comprovar-ho van fer una prova senzilla. Van agafar un text generat sencer per una IA i el van passar per cinc detectors del mercat. Isgen el va classificar com a 85% IA, QuillBot com a 82%, Justdone com a 74% i Smodin com a 57%. ZeroGPT, la mateixa eina que els estudiants fan servir per quedar-se tranquils, el va donar per 53,61% humà.

    L’informe assenyala, també, que pràcticament totes aquestes plataformes ofereixen en paral·lel serveis de reescriptura pensats per esquivar la detecció del seu propi sistema, cosa que, diu el document, «posa en dubte la coherència i la fiabilitat dels serveis que ofereixen».

    Finalment, l’informe dona al personal de la Diputació una llista d’indicadors pràctics per identificar un text generat. Destaca l’estil uniforme i impersonal, les respostes llargues però poc concretes, les referències inventades, les transicions artificials entre paràgrafs i la falta de context local. També, l’absència d’errors tipogràfics o gramaticals naturals, perquè els textos generats acostumen a ser impecables «de manera gairebé massa perfecta». Un informe tècnic d’una administració catalana adverteix, doncs, que escriure sense cap errada és un indici. El mateix document avisa que aquests trets també apareixen en textos redactats per persones, sobretot en contextos formals, i que s’han d’entendre com «indicadors orientatius i no com proves concloents».

    De fet, un estudi de la Universitat de Stanford va trobar que els detectors classificaven com a generats amb IA la majoria dels assajos escrits per estudiants no nadius d’anglès, mentre que gairebé no s’equivocaven amb els textos dels nadius. Qui busqui «detector d’IA en català» hi trobarà una desena de pàgines que ofereixen el servei gratuït i «precís».

    Resistir-se a la por

    El maig passat, l’analista Enrique Dans, professor a IE Business School, va publicar un article titulat «No, no voy a poner faltas de ortografía para demostrar que soy humano», on defensa que no pensa espatllar la seva prosa per satisfer un programa o per evitar ser acusat d’utilitzar la IA generativa.

    Denota una certa valentia reconèixer que l’equivalència entre obra i ofici no ha estat mai neutral. El camp que consagrava l’ofici decidia també qui hi pertanyia. Durant segles va decidir que gairebé ningú que no fos home, ni gairebé ningú sense temps ni diners per dedicar-se a escriure. Defensar que l’obra demostra l’ofici és defensar, de retruc, una porta que ha estat tancada durant molt de temps i que ha deixat fora molta gent que tenia habilitats perfectament desenvolupades.

    No és per ser aixafaguitarres, però tot el repertori que estem construint per demostrar que hi ha algú al darrere (l’error deliberat, el guió llarg tret, el vocabulari escapçat, etc.) és prou regular perquè un model l’aprengui i l’apliqui. Dels detectors d’IA tampoc no ens en podem fiar gaire.

    El que ens juguem, doncs, és determinar qui té dret a exigir-nos la prova. Continuar escrivint com escrivim, amb els guions llargs que facin falta i sense faltes posades a posta, trasllada aquesta càrrega als acusadors, que és exactament on la deixa l’informe de la Diputació quan admet que els seus indicadors no són «proves concloents». Alhora, aquests programes van atribuir a una màquina el 90% del contingut de diverses encícliques anteriors, explica Latorre, i entre elles hi ha Evangelium vitae, que Joan Pau II va signar el 1995, quan aquests models no existien!

  • LinkedIn no sap què és l’slop i t’ho preguntarà a tu

    LinkedIn no sap què és l’slop i t’ho preguntarà a tu

    Slop són les restes de menjar que es remenen en una galleda per donar-les als porcs. El maig del 2024 el programador Simon Willison va proposar la paraula per anomenar el contingut generat amb IA. Willison hi veia el precedent del correu brossa, que durant anys va assetjar les bústies dels usuaris sense que els filtres ni les lleis hi poguessin fer gaire cosa, fins que se li va posar nom oficialment: spam. El desembre passat, el diccionari Merriam-Webster va triar slop com a paraula de l’any.

    LinkedIn sembla ser la primera gran plataforma a prendre mesures contra l’slop. Des del 30 de juliol, el menú desplegable de cada publicació ofereix l’opció «Seems like AI slop», «sembla slop d’IA». La publicació marcada desapareix de la vista de qui l’ha denunciada i la xarxa respon que «gràcies per avisar-nos, els teus comentaris ajuden a millorar el feed». Joseph Cox, de 404 Media, va trigar sis segons a trobar una publicació candidata. Es va guiar per l’espaiat entre frases soltes, la llista de conclusions, els emojis i la construcció «X no és Y».

    El menú desplegable a LinkedIn, incloent-hi l’opció «Sembla com si fos IA» de 404 Media

    De fet, el botó forma part d’un paquet més ampli. LinkedIn engega classificadors per reduir l’slop de les recomanacions que arriben de fora de la xarxa de cadascú, prova un avís privat per als autors que la resta percep com a poc autèntics i retira «enhance your post», la funció d’escriptura assistida que feia dos anys que oferia. La substitueix un corrector que, promet, no canviarà la veu de ningú. Hari Srinivasan, director de producte, ho va anunciar en una publicació a la mateixa xarxa.

    «L’slop és difícil de definir i la definició canvia. Això ens permet ajustar els nostres models i fer millors feeds.»

    Hari Srinivasan, director de producte de LinkedIn

    L’empresa reconeix que no sap definir el problema i reparteix la feina de definir-lo entre els seus usuaris. Els que premem el botó hi guanyem poca cosa, treure’ns de la vista la publicació que ens molestava. LinkedIn, però, hi guanya un corpus etiquetat gratis per milions de persones, la matèria primera amb què afinarà els classificadors que Srinivasan presenta com el futur del feed. En aquest sentit, la feina que ens espera és llarga. Pangram, una empresa de detecció, va calcular aquest juliol que el 41% dels textos llargs de LinkedIn i el 30% dels curts surten generats sencers, molt per sobre del 10% de Reddit o de Substack.

    En castellà el botó pregunta una altra cosa

    Als comptes espanyols el botó encara arriba a batzegades i quan apareix ho fa amb un altre nom. La versió en castellà diu «Marcar como spam de IA» i queda situada entre «No me interesa» i «Denunciar publicación». Slop potser encara no s’entén prou en català ni en castellà i, per això, ho han traduït com a spam. Ara bé, el canvi de traducció modifica considerablement el criteri per identificar el contingut generat. L’opció anglesa manlleva la burla que els usuaris havien inventat contra la plataforma i la suavitza amb un «sembla», que demana una impressió i res més. La castellana tria el vocabulari de les normes d’ús. Qui prem el botó en castellà ja no diu què li ha semblat un text, classifica una infracció.

    Opció en un post en espanyol compartit per Isabel María Bandera Arjona

    Hi ha qui utilitza la nova funcionalitat a manera de joc o, fins i tot, d’esport. La copywriter Isa Bandera la va rebre amb un «que comencin els Jocs de la Fam» i, a la mateixa publicació, hi va deixar l’objecció més seriosa que s’hi ha llegit fins ara: «marcar com a IA una publicació que no ho és, només perquè no t’agrada qui la firma o perquè competeix amb tu, és exactament el tipus d’ús que pot arruïnar una eina amb bona intenció». Té raó i el disseny del botó no ho impedeix enlloc.

    El criteri que fem servir quan premem és, principalment, d’estil. Detectem l’espaiat, l’emoji, la llista de conclusions, la cadència. El filòsof Harry Frankfurt va definir la bullshit per la indiferència respecte de la veritat. Al mentider li importa què és veritat, perquè l’ha de tapar; al xerraire li és igual. Un text robat a un mitjà seriós és cert, està ben escrit, passa el filtre i continua sent brossa, perquè a qui el publica li és indiferent que ho sigui. El classificador aprendrà a reconèixer una prosa i el que fa mal no deixa marques d’estil.

    El domini de Cambridge Analytica, reconvertit en granja

    Un exemple de fins on arriba aquesta indiferència el trobem en el domini cambridgeanalytica.org. Es va vendre el setembre del 2025 per uns 30.500 dòlars a Vortexlab Digital Marketing, una agència de SEO registrada a Dubai, que hi ha muntat CA Privacy Watch, un web que diu que estudia «com les dades, els algoritmes i les tecnologies modernes donen forma a la vida pública» i que fins fa poc assegurava que tots els seus articles els escriuen i els editen periodistes humans. La revista Futurism ha comprovat que els deu textos que va analitzar donen un 100% de generació automàtica i que la firma principal, un tal Nicolas Menier amb prop de 250 articles, no correspon a cap persona real. El web republica peces de 404 Media, el New York Times, Wired i el MIT Technology Review sense referenciar les fonts. Quan els van preguntar, van canviar l’avís per un «amb el suport d’eines digitals i d’IA quan escau».

    Comparació de les publicacions originals vs. les publicades a CA. Imatge extreta del post original de Futurism.

    Per fer passar els seus textos automàtics per periodisme, CA Privacy Watch necessitava cares humanes. Han arribat al punt d’utilitza una fotografia del senyor Menier extreta del perfil de LinkedIn d’un enginyer informàtic canadenc —un usuari real de la mateixa xarxa que, des d’ara, ens demana que marquem el contingut que «sembla» generat per IA.

    L’empresa que va aspirar les dades de desenes de milions de perfils de Facebook per perfilar votants contra Hillary Clinton, i que va tancar el 2018 quan The Observer i el New York Times ho van explicar, avui firma textos de farciment per posicionar-se a Google. I fixeu-vos que els seus articles no farien saltar el botó de LinkedIn. No tenen espaiat estrany, ni emojis, ni llistes de conclusions, perquè la prosa està robada a periodistes de veritat.

  • Algoritmes pont: i si les xarxes socials no polaritzessin?

    Algoritmes pont: i si les xarxes socials no polaritzessin?

    Sovint costa d’entendre per què tanta gent no pensa com nosaltres, si constantment veiem notícies i dades a la xarxa que demostren que tenim raó. La resposta és senzilla: ells no veuen la mateixa informació. Veuen opinions d’ideologia contrària que també els donen la raó i, per tant, és improbable que ens posem d’acord.

    Mires a l’altra banda i penses: com tota aquesta gent pot ser tan estúpida? Mira tota aquesta informació que estic veient constantment. Com pot ser que no l’estiguin veient? La resposta és simple: ells no l’estan veient.

    El dilema social, Netflix

    Les xarxes socials estan dissenyades perquè interaccionem amb el contingut. No importa que sigui de qualitat, ni tan sols que sigui cert. Només que hi cliquem, reaccionem i el compartim. Els algoritmes calculen la probabilitat que interaccionem amb una publicació i, si és alta, ens l’ensenyen. Per què? Si passem més temps a la plataforma, ells guanyen més diners en publicitat.

    Normalment, és més probable que reaccionem quan percebem una amenaça. Per això, els influenciadors i els polítics tenen discursos sensacionalistes i hostils. Hi ha evidències que les xarxes han escampat notícies falses, radicalitzat la població i incitat a la violència: l’assalt al Capitoli, la guerra civil a Sudan del Sud… Es ressalten missatges inflamatoris, fent enfadar la població i incrementant el risc que les diferències socials acabin en violència.

    Algoritmes pont

    Les xarxes socials actualment divideixen i polaritzen. Però per què hauríem d’acceptar que siguin així per defecte? Per sort, fa poc va sorgir una alternativa esperançadora: els algoritmes pont.

    La bretxa de percepció és la diferència que percebem entre les creences dels altres respecte a les seves creences de veritat. Quan discutim, normalment no ho fem contra l’altre bàndol, sinó contra la imatge que tenim d’ell.

    Imagineu que les plataformes prioritzessin el contingut que posés d’acord diferents grups d’opinió. Els algoritmes pont (bridging algorithms) són un mètode alternatiu que funcionen amb aquest propòsit, promocionant el debat i l’acord entre diferents perspectives i fent-nos veure que, probablement, els valors dels altres són molt més semblants als nostres del que ens pensem.

    Com funcionen?

    A la imatge de sota, a l’esquerra, veiem que els sistemes actuals prioritzen contingut que més agrada a usuaris similars, independentment dels usuaris de perfils diferents. Els algoritmes pont també ensenyen publicacions que agraden als usuaris, però prioritzen les que, a més, agraden a l’altre bàndol, deixant el sensacionalisme en últim lloc.

    Com podem veure a la imatge de sota, es prioritza contingut:

    • Que tenen una distribució de reaccions no polaritzada.
    • Aprovat per persones que normalment estan en desacord amb l’autor.
    • O quan gent consulta fonts que normalment no veuen.

    Posem-ho en pràctica

    Si això us sona a utopia, bones notícies! Ja hi ha precedents exitosos. Per exemple, les «notes de la comunitat» a X, que identifiquen tuits enganyosos: tan sols es publiquen notes valorades positivament per individus d’opinions diferents. 

    El 2015, per saber l’opinió pública sobre UberX, el govern de Taiwan va usar Polis, una eina d’enquestes que identifica missatges amb el grau més gran d’acord entre persones que normalment opinen diferent.

    Facebook va fer experiments amb algoritmes pont, on millorava significativament la qualitat del contingut, molt menys probable de ser reportat per assetjament, odi o incitació a la violència. Malauradament, aquests tipus de canvis comporten una caiguda inicial d’usuaris, fins que amb el temps s’hi acaben acostumant i els agrada més. El problema? Les empreses es fan enrere abans d’observar els beneficis a llarg termini.

    Com que, avui en dia, les big tech no s’esforcen per contrarestar la polarització, les lleis les haurien d’obligar o incentivar. Els algoritmes s’han de regular com qualsevol altre àmbit, perquè ens afecten i molt.

    A més, les big tech tindrien altres beneficis. Si hi ha menys incentius per generar toxicitat, es reduirà el cost de la moderació. Probablement, reduirien danys reputacionals i legals. Per exemple, Facebook ha estat demandat per incitar a la violència a Myanmar, Sri Lanka i Etiòpia per valor de 150 bilions de dòlars.

    Reptes

    És important que hi hagi conflicte, perquè és una forma d’aconseguir que la societat millori. L’objectiu dels algoritmes pont no és eliminar el desacord, sinó promoure formes constructives de conflicte entre els que pensen diferent. A més de mitigar els riscos de les disputes més perilloses. 

    Lògicament, cap solució és perfecta. Aquest sistema funciona millor amb qüestions de resposta oberta que preguntes de sí o no o en temes amb posicions molt marcades.

    Què passa, per exemple, si gent de diferents ideologies comparteixen un prejudici sobre una minoria? Probablement, s’hauran d’afegir restriccions específiques per evitar conseqüències indesitjables, ja que no es tracta de promoure contingut aprovat per la majoria, sinó per audiències diverses.

    Si la nostra societat no divideix per defecte, les xarxes tampoc ho haurien de fer. Tant les companyies tecnològiques com els usuaris les hem de modelar de forma ètica, amb sentit comú i auditoria democràtica, per crear comunitats en línia que reflecteixen el millor de nosaltres. Per primer cop, hem trobat una via que trenca el dogma que les xarxes socials només poden polaritzar. Les eines ja les tenim. Ara tan sols hem d’atrevir-nos a fer-les servir.

    Referències

    La imatge de l’article ha estat generada amb Copilot Designer, eina d’Intel·ligència Artificial Generativa de Microsoft

    Thorburn, L; Ovadya, V; Knight First Amendment Institute, Columbia University; 2023; Sistemes pont: Problemes oberts per contrarestar la divisió destructiva mitjançant classificacions, recomenadors i governança.

    Sieker, F; Bertelsmann Stiftung; 2024. Construir ponts en lloc de polaritzar.

    Sieker, F; Bertelsmann Stiftung; 2024. Construir ponts en lloc de polaritzar: com els algoritmes poden millorar el discurs digital.

    Thorburn, L; Ovadya, V; The Conversation; 2023. Com redissenyar els algoritmes de les xarxes socials per unir ponts.

    Grant, A; Raskin, A; WorkLife; 2024. Reimaginant la tecnologia i parlant als animals.

  • L’equalitzador d’IA: com la intel·ligència artificial està remodelant la dinàmica laboral

    L’equalitzador d’IA: com la intel·ligència artificial està remodelant la dinàmica laboral

    La Marcel·la va empènyer la porta de la sala de reunions amb el colze, equilibrant precàriament un cafè massa ple i una carpeta plena de gràfics que havia imprès a correcuita. Va ensopegar amb la catifa i unes gotes de cafè van esquitxar els seus apunts. «Merda», va murmurar, intentant eixugar-los dissimuladament amb la màniga.

    Cinc anys en aquesta empresa i encara se sentia com el primer dia. Però avui era diferent. Avui necessitava l’augment més que mai.

    La nit anterior, havia rebut un WhatsApp de la propietària del pis. «Hola Marcel·la. A partir del mes que ve, el lloguer pujarà a 1250€. Ja saps, l’IPC i tot això. Una abraçada!». La Marcel·la havia rellegit el missatge deu vegades, intentant trobar-hi algun error. Feia tres anys que vivia en aquell pis de 40 metres quadrats al Poblenou. El lloguer ja havia pujat de 900 a 1100€. I ara això.

    Mentre s’asseia a la cadira de pell negra, massa gran per ella, va notar el mòbil vibrant a la butxaca. Era un correu de l’escola del Drac. «Recordatori: El pagament de 200€ per les colònies s’ha de fer efectiu abans de divendres». El Drac, el seu fill de cinc anys, no parlava d’altra cosa des de feia setmanes. «Mama, anirem a veure dinosaures de veritat!». Com li explicaria que potser no podria anar-hi?

    Va respirar fons i va forçar un somriure quan el seu manager va entrar a la sala. «Bé, Marcel·la», va dir ell, mentre seia. «Parlem del teu rendiment d’aquest any».

    La Marcel·la va intentar desxifrar l’expressió del seu manager. En Jordi sempre havia tingut aquella cara de pòquer que la desconcertava. Però avui, hi havia una espurna diferent dels seus ulls.

    «Aquest any ha estat… interessant». Va fer una pausa dramàtica que va fer que la Marcel·la sentís un nus a l’estómac. «Saps que hem implementat aquelles noves eines d’IA, oi?».

    La Marcel·la va assentir, recordant les setmanes de formació i adaptació. Aquell maleït copilot d’intel·ligència artificial que semblava més llest que tot el seu equip junt.

    «Doncs bé», va continuar en Jordi, «els resultats han estat sorprenents. Especialment els teus». Va girar la pantalla del seu ordinador cap a ella. La Marcel·la va haver d’ajustar-se les ulleres per assegurar-se que no estava veient malament. Les seves xifres estaven al capdamunt de la llista, superant fins i tot les d’en James, el guru de l’empresa amb vint anys d’experiència.

    «Com…?», va balbucejar la Marcel·la, incapaç de processar el que veia.

    L’experiència de la Marcel·la no és única. Arreu del món, la intel·ligència artificial està transformant silenciosament el paisatge laboral d’una manera que pocs haurien predit. Lluny de beneficiar només als treballadors més qualificats o experimentats, la IA està actuant com un gran equalitzador, elevant el rendiment dels empleats de menor nivell i reduint la bretxa amb els més productius. Per això, la forma com entenem el talent, la productivitat i el valor del treball en l’era digital està canviant.

    L’economia dels serveis i l’efecte igualador de la intel·ligència artificial

    Des de mitjans del segle XX, hem estat testimonis d’un desplaçament gradual però inexorable cap a una economia de serveis. Les feines que abans es concentraven en fàbriques i camps s’han traslladat a oficines, centres de trucades i plataformes digitals. Rex Woodbury explica a la seva newsletter que, segons dades recents, més del 80% de l’ocupació als Estats Units es troba ara en el sector serveis, una tendència que es reflecteix en moltes altres economies avançades. Espanya, per exemple, acumula el 76,4% de llocs de feina en el sector serveis segons dades del primer trimestre de 2024 de l’EPA.

    La transició cap a una economia de serveis posa el llenguatge al centre de la majoria de les interaccions laborals. Des de la redacció d’informes i la programació de software fins a l’atenció al client i la consultoria, gran part del nostre treball es basa en la manipulació i la comunicació d’informació. I és precisament aquí on la intel·ligència artificial, amb la seva capacitat per processar i generar llenguatge natural, està tenint un impacte més profund.

    Els models de llenguatge de gran escala, com els que impulsen OpenAI, Anthropic o Meta i altres eines similars, s’han entrenat amb vastes quantitats de text produït per humans. Això els permet generar respostes que imiten les millors pràctiques en una àmplia gamma de tasques basades en el llenguatge.

    Les empreses aposten cada vegada més per la IA com a eina per millorar la productivitat dels seus treballadors. Moltes companyies estan desenvolupant o implementant programes d’IA, coneguts com a copilots, que ajuden els empleats en diverses tasques diàries. Aquests programes permeten que treballadors amb menys experiència puguin aconseguir resultats similars als dels seus companys més veterans en moltes àrees.

    No obstant això, els experts qualificats no es troben necessàriament amenaçats. Els textos generats per IA encara són fàcilment identificables i sovint manquen de la profunditat i el valor afegit que aporten els professionals experimentats. El que sí que fa la IA és potenciar les habilitats dels treballadors en àrees com la creativitat, la capacitat de síntesi o l’organització de la informació.

    Els copilots són eines especialment útils per a aquells empleats que, tot i tenir les habilitats tècniques necessàries, poden tenir menys desenvolupades les anomenades «habilitats toves» (soft skills), que són essencials en tasques com l’escriptura, la interpretació o l’anàlisi de dades. Així, la IA no substitueix el talent humà, sinó que el complementa i potencia.

    Si un es fixa en aquests «petits detalls», sorgeixen preguntes sobre la naturalesa mateixa del talent i l’experiència professional en el futur.

    Diversos estudis recents han posat de manifest l’efecte igualador de la IA en diferents àmbits professionals. Per exemple, segons Business Insider, en un experiment sobre escriptura creativa, els participants amb menys habilitat van millorar la seva creativitat en un 11% i l’estil d’escriptura amena en un 23% amb l’ajuda de la IA, mentre que els escriptors més hàbils no van experimentar millores significatives. De manera similar, en tasques de programació, els enginyers de software amb menys experiència van obtenir beneficis molt més grans gràcies a l’ús de GitHub Copilot que els programadors veterans. Una tendència que es repeteix en àmbits tan diversos com la consultoria de gestió, el dret i l’atenció al client.

    Potser l’exemple més revelador prové d’un estudi realitzat en un centre d’atenció telefònica real, tal com cita Business Insider. La introducció d’una IA personalitzada va augmentar la productivitat dels treballadors novells i menys qualificats en un 34%, mentre que els empleats més experimentats i hàbils van veure pocs beneficis. De fet, en alguns aspectes com la qualitat de la conversa, l’accés a la IA va perjudicar lleugerament els treballadors més productius.

    El futur del treball en l’era de la intel·ligència artificial

    La Marcel·la va sortir de la sala de reunions flotant; per fi havien reconegut la seva feina amb un augment «més que merescut». Mentre caminava pel passadís, va veure en James, el guru de l’empresa, assegut al seu cubicle. Tenia la mirada fixa a la pantalla, els ulls vermells d’estar-s’hi hores. Vint anys a l’empresa l’havien convertit en una llegenda viva, però també en una relíquia.

    En James aixecà el cap i els seus ulls es van creuar. La Marcel·la va notar una barreja de ressentiment i cansament en la seva mirada. Recordava quan, el seu primer dia, l’havia vist presentar els resultats anuals com un mentalista fent trucs impossibles. Ara, semblava un lleó cansat, defensant el seu territori per inèrcia.

    «Ei, James», va saludar la Marcel·la. Ell va grunyir una resposta i va tornar a la pantalla. La Marcel·la va pensar en els gràfics que acabava de veure. Per primera vegada, els seus números superaven els d’en James. Ell ja ho sabria?.

    Mentre s’allunyava, va sentir en James murmurant alguna cosa sobre «aquests maleïts robots que ens robaran la feina». La Marcel·la va accelerar el pas, sentint una barreja de culpabilitat i eufòria. Va pensar si d’aquí a vint anys ella seria com en James, aferrant-se a un món ja inexistent.

    Durant dècades, hem assistit a un augment constant de la desigualtat salarial, impulsat en part per les diferències de productivitat entre treballadors altament qualificats i la resta —i altres factors com l’estructura social patriarcal. Si la IA aconsegueix reduir aquestes diferències de productivitat, podríem estar a les portes d’una reducció significativa de la desigualtat salarial en moltes professions. Imaginem, per exemple, un futur on la diferència de rendiment entre un programador novell i un expert sigui mínima gràcies a copilots d’IA. En aquest escenari, seria molt més difícil justificar les enormes diferències salarials que actualment existeixen en moltes indústries tecnològiques.

    On quedaria la meritocràcia en aquest panorama? Quan les màquines poden igualar-nos en eficiència, què significa realment el mèrit? Els discursos de superació personal i d’autoajuda corporativa comencen a sonar anacrònics, mentre emergeix una nova consciència que qüestiona l’excel·lència professional com a únic camí cap a la realització personal.

    Ens trobem en una cruïlla existencial: continuar en la cursa frenètica de la productivitat o redefinir l’èxit en termes més humans. La IA podria ser el catalitzador que ens empeny a reconquerir la nostra humanitat: en la cura de les relacions, en la construcció de comunitats més sòlides, en la recerca d’un equilibri entre treball i oci. L’amenaça de la IA seria, doncs, una oportunitat per redescobrir el valor intrínsec de ser persones. Així, el veritable mèrit podria radicar no en quant produïm, sinó en com vivim i com ens relacionem amb els altres i amb nosaltres mateixos.

    Però estic sent massa optimista; la realitat és més complexa. En l’article de Business Insider, apunten a un estudi recent sobre treballadors autònoms a la plataforma Upwork mostra que, en lloc d’augmentar els salaris dels treballadors menys qualificats, —Oh! Sorpresa!— la IA està reduint els ingressos dels més ben pagats. Els millors treballadors autònoms en serveis basats en imatges van veure com els seus ingressos es desplomaven en un 14%. Per tant, en lloc d’elevar el terra salarial, la IA podria estar baixant el sostre. L’efecte igualador de la IA es traduirà en una distribució més equitativa dels beneficis econòmics? O portarà a una reducció general dels salaris en moltes professions qualificades?

    Durant dècades, hem organitzat el treball intel·lectual al voltant de la idea que hi ha una gran variació tant en la qualitat com en la quantitat de treball que produeixen el treballadors i treballadores. Això ha justificat complexos sistemes de gestió del rendiment, augments salarials basats en l’experiència i una cultura empresarial obsessionada amb la retenció del «talent». Però en un món on la IA pot igualar el rendiment dels treballadors, com canviarà tot això?

    Podríem estar dirigint-nos cap a un futur laboral on els ascensos i les estructures salarials basades en l’antiguitat quedin desfasades. Si la IA pot fer que un treballador novell sigui tan productiu com un veterà, quina justificació hi haurà per pagar salaris més alts basats en l’experiència? Tot plegat planteja preguntes inquietants sobre com estructurarem les nostres carreres i com estalviarem per a la jubilació si no hi ha una progressió salarial clara al llarg de la vida laboral.

    Paradoxalment, mentre els estudis mostren que la IA beneficia més als treballadors menys qualificats, moltes empreses estan responent inicialment a la contra. És comú sentir en boca d’executius el planejament de contractar menys principiants i augmentar el nombre d’experts per gestionar tasques complexes que encara són massa difícils per a les màquines. A mesura que la IA millori i pugui assumir tasques cada cop més complexes, és probable que es produeixi un canvi en les estratègies de contractació d’aquest tipus.

    La IA potser no ens prendrà la feina, però sí que ens obligarà a repensar què valorem en un treballador. Si la IA arribés a igualar les habilitats tècniques, potser haurem de posar més èmfasi en qualitats més difícils d’automatitzar, com la intel·ligència emocional, la creativitat o el pensament crític. El que, paral·lelament, podria portar a un canvi de paradigma en l’educació i la formació professional, allunyant-nos de l’actual ensenyament en habilitats tècniques específiques i centrant-nos més en el desenvolupament de capacitats humanes.

    En fi, la IA ens brinda una oportunitat per a redefinir les nocions de mèrit i valor en el lloc de treball. En lloc d’avaluar únicament la productivitat i els coneixements tècnics, pot ser que hàgim d’evolucionar cap a un sistema que valori i recompensi una gamma més àmplia de capacitats i contribucions humanes, el que podria conduir-nos cap a un món laboral més just i integrador, on el valor dels treballadors no es mesurarà simplement per la seva capacitat de produir, sinó per la seva capacitat d’aportar una perspectiva, empatia i creativitat singulars que complementin les capacitats de la IA, en lloc de competir amb elles.

    La Marcel·la va deixar caure el seu pes a la cadira, encara marejada per la reunió. Va obrir el seu ordinador i la pantalla d’inici del copilot d’IA la va rebre amb el seu habitual «En què puc ajudar-te avui?». Va dubtar un moment abans d’escriure: «Com puc ser més humana en un món dominat per la IA?».

    Mentre esperava la resposta, va mirar al seu voltant. L’oficina brunzia amb l’energia de sempre, però ara li semblava diferent. Va veure en James, amb vint anys d’experiència, lluitant amb un full de càlcul. Va veure la Nora, la becària, dominant sense esforç l’última eina d’anàlisi de dades. I es va veure a si mateixa, atrapada entre dos mons.

    «I ara què?», es va preguntar. Si la IA la feia tan productiva com qualsevol altre, com es diferenciaria en el futur? Potser la clau no era competir amb la màquina, sinó complementar-la en una relació jeràrquica on l’humà estigui per sobre. Potser el futur no pertanyia als més productius o als més experimentats, sinó als que poguessin aportar el que és exclusivament humà.

    Va tornar a mirar la pantalla. El copilot d’IA encara no havia respost. I de sobte ho va entendre. La resposta no la trobaria en un algoritme, sinó en ella mateixa. En la seva empatia, en la seva creativitat, en la seva capacitat de connectar idees d’una manera que cap màquina podria.

    La Marcel·la va somriure. Potser aquesta revolució de la IA no era el final del camí, sinó el principi d’un de nou. Un camí on el veritable talent rauria en la capacitat de ser profundament humans en un entorn cada cop més automatitzat. Va tancar el copilot d’IA sense esperar la resposta i es va aixecar. Tenia una idea per al pròxim projecte i necessitava parlar-ne amb en James i la Nova. Després de tot, sabia que el futur ho construirien tots plegats.

  • Bad Bunny contra la IA i la cultura maker

    Bad Bunny contra la IA i la cultura maker

    «Si una cançó creada per un robot li ha agradat tant a la gent, t’imagines si la gravessis tu?». Després que Spotify eliminés la seva cançó NostalgIA, creada per intel·ligència artificial amb la veu de Bad Bunny, FlowGPT, l’autor de la cançó, li plantejava aquesta pregunta al cantant porto-riqueny a un vídeo de TikTok.

    @flowgptmusic

    @Bad Bunny no entendí muy bien el mensaje, ya que mi algoritmo me dice que la m13rd4 solo la hacen los humanos… recuerda que yo soy un robot 🤖🌐💛 el futuro ya está aquí. #flowgpt #badbunny #nostalgia #flowgptmusic

    ♬ sonido original – FlowGPT

    Els mitjans titllen a Bad Bunny de «víctima», no per la humiliació que suposa llançar un àlbum amb ni més ni menys que vint-i-dues cançons i que la que tingui més èxit a xarxes socials i reproduccions en plataformes d’streaming sigui una cançó amb la seva veu generada per intel·ligència artificial per un altre artista, sinó per la utilització sense consentiment de la veu, senya d’identitat de Bad Bunny.

    Tal és l’èxit que fins i tot Bad Gyal, mencionada a la cançó, va publicar un vídeo a TikTok assegurant «jo tota emocionada i després descobreixo que és IA». Davant la polèmica, el va acabar ocultant.

    A tot això, el conillet dolent reacciona pel seu canal de WhatsApp: «vosaltres no mereixeu ser els meus amics» en referència a aquelles persones que han celebrat el tema. L’artista es posa a la defensiva, sent víctima —ara sí— de l’efecte Streisand: sense voler ha donat més publicitat a allò que volia censurar.

    La resposta dels usuaris de TikTok no ha defraudat:

    @glxwse

    me cago me meo me tiro un peo🥺❤️‍🩹#badbunny #fyp #mecagometirounpeo #parati #ia #albumbadbunny

    ♬ sonido original – BELLYBEAN

    I és que no només la cançó ha utilitzat «la seva veu» sense consentiment; a sobre aquesta s’allunya completament del viratge d’estil que ha volgut fer l’artista amb el seu darrer àlbum, apartant-se del reggaeton d’«Un Verano Sin Ti».

    Les implicacions de la intel·ligència artificial generativa esdevenen complexes quan s’usa com a eina d’entreteniment o artística. Les institucions es troben encara en procés de regular l’ús de la IA i, en aquest impasse, s’han donat situacions curioses i interessants, com en el cas de Bad Bunny.

    @aitanaindigo

    #lolaindigo sobre la polémica con #badbunny y la #ia #ai

    ♬ sonido original – Àngela Mármol

    Que les implicacions esdevinguin complexes, però, no vol dir que la IA generativa sigui «perillosa» o «dolenta» per als processos artístics. Emprada sota el marc de la cultura maker, promovent l’aprenentatge i la producció col·laborativa i regulada de contingut podria arribar a esdevenir una eina emancipadora per a l’internet lliure del futur.

    Podrem desenvolupar la IA amb una visió més crítica de les estructures de poder, seguint els preceptes de la cultura maker, com va fer el moviment punk als anys 1970 o el software lliure i la open source a la dècada de 1990 i principis dels anys 2000?

    Un parell de frases ben trobades basten per crear un èxit musical

    La indústria de la música no s’entén sense la tecnologia. Abans que Thomas Edison inventés el fonògraf el 1877, consumíem música en actuacions en viu. Els tocadiscos, els vinils, el cassette compacte, el walkman, el Compact Disc, l’streaming, etc., són avanços tecnològics i científics que han possibilitat la distribució massiva de música.

    La tecnologia no només ha simplificat l’accés, la distribució i el consum de música, sinó que també ha permès ampliar el catàleg de sons, instruments, gèneres i estils musicals. A més de construir la infraestructura de la indústria musical, també ha influït en la forma en què es crea i concep artísticament el producte.

    Això ha suscitat sospites entre alguns pensadors que han considerat que la tecnologia i la infraestructura industrial resultant han distorsionat el procés creatiu, impactant negativament en l’originalitat, l’autenticitat, la creativitat, la qualitat i el valor de la música.

    Spotify (un)Wrapped i Goodreads Challenge: les dades com a oci

    El filòsof de l’Escola de Frankfurt Theodor Adorno(1) criticava el caràcter alienador i falsificador de la infraestructura tecno-mediàtica que va permetre la fundació de la indústria musical. La producció en sèrie de la música l’allunya de l’autenticitat artística i de l’estètica autèntica, de la mateixa manera que la producció en sèrie de mercaderies allunya l’home de la realització d’ell mateix i dels béns que ell mateix produeix.

    Actualment, la GenAI permet a qualsevol persona crear música des de comandaments textuals descriptius (prompts). Un parell de frases ben trobades o d’arxius d’àudio gravats amb el mòbil són suficients per crear un potencial èxit musical.

    En la línia crítica d’Adorno, això posa de manifest, per una banda, que la producció en sèrie de productes musicals simples, prefabricats i massius ha restringit la capacitat del públic per jutjar la música que consumeix i, per altra, que el rol cada cop més destacat de la tecnologia en la creació del producte posa en perill el sentit de l’artista musical tal com l’hem conegut fins ara.

    Podria la intel·ligència artificial substituir els artistes musicals a mitjà o llarg termini? Les grans productores i discogràfiques podrien signar contractes amb els artistes per fer servir les seves veus amb l’objectiu de crear èxits comercials?

    Les repercussions culturals, estètiques i ètiques d’utilitzar la IA per compondre i produir música són irradiacions procedents de les conseqüències de la industrialització de la música com a expressió cultural.

    La indústria musical capitalista ha contribuït a reduir les expressions artístiques en fórmules comercials, homogeneïtzant l’estètica o, contemporàniament, heterogeneïtzant-la fins a la pèrdua de la seva «essència» —en el sentit menys ontològic del terme.

    La despossessió de l’agència i expressivitat humana tindria, doncs, el punt més àlgid a hores d’ara. La intel·ligència artificial pot acabar obrint un debat sobre què és l’artista: una dada a explotar o una figura que es limita a ser socialment atractiva, desitjable i impactant, a la qual ja no se li exigeix talent, sinó ser capaç de convertir-se en el fetitxe d’una societat uniforme fins i tot en la seva diversitat?

    Si la música fos sempre igual, s’eliminaria la diferència, limitant el que sentim. Si, en canvi, la música fos constantment diferent, navegaríem en un mar sense referències on sostenir-nos. Quedarem a la deriva en un onatge de notes sense ritme, de ritme sense notes i de significacions que se’ns escapen i que mai serem capaços d’entendre, ja que quan ho aconseguim fer, tot canviarà de nou.

    La música es reinventa sempre, sota una consolidada base de possibilitats. Les peces d’escacs i els seus moviments són pocs, però les possibilitats de joc són infinites.

    La GenAI pot ser una disposició més per experimentar amb la música, arribant a ser pels nous artistes el que l’autotune és per a la Bad Gyal: allò que els fa diferents. Una oportunitat per innovar en els estils i gèneres.

    Potser el significat d’autenticitat s’ha reconstruït en l’era digital. Potser ja no ens preocupa que les coses siguin autèntiques. Les teories científiques són vàlides fins que no hi hagi evidència que les contradigui. El que passa a televisió és inautèntic, tot i que impacta de manera molt real a les nostres vides. Els esdeveniments històrics es repeteixen primer com a tragèdia i després com a farsa.

    Podem mostrar-nos «reals» a les xarxes socials? BeReal: la xarxa que limita la performativitat

    El principal problema ètic de la GenAI —a banda de la privacitat i els drets d’ús— és l’autenticitat i l’originalitat: la frontera entre la veritat i la falsedat. Si no, per què quan la IA generativa s’utilitza per a tasques menys associades a l’autenticitat les connotacions negatives es difonen?

    En l’article «La intel·ligència artificial en la narrativa sonora. Estudi de cas»(2), s’explora la influència de la IA en la narrativa sonora i les emocions que pot evocar. La majoria dels enquestats (57,5%) va experimentar satisfacció en sentir veus robotitzades. L’estudi conclou que la narrativa robòtica de la IA pot enriquir el periodisme.

    Escoltar un anunci o una veu en off produïts amb IA no genera la mateixa sensació de falsedat que escoltar una cançó de Bad Bunny, amb la seva veu, entonació i accent, generada per IA.

    Un nou món on siguem més lliures

    La IA, com la resta de tecnologies avançades, té el potencial d’estalviar-nos tasques que no contribueixen a la nostra realització personal, amb l’objectiu de construir un món on gaudim de més llibertat, alliberats de les cadenes del treball i del capitalisme.

    Segons les reflexions del professor Yochai Benkler en «La riquesa de les xarxes», l’economia de la informació en xarxa està impulsant una nova forma de producció social basada en la cooperació i l’intercanvi. Aquest model contrasta amb l’abordatge tradicional, oferint noves oportunitats econòmiques, socials i polítiques que poden enriquir la nostra existència de manera democràtica.

    https://lab.cccb.org/ca/la-riquesa-de-les-xarxes

    Malgrat l’escepticisme envers l’optimisme de Benkler, és innegable que hi ha tecnologies que apunten en aquesta direcció. El blockchain, per exemple, pot transformar les transaccions i l’emmagatzematge d’informació, proporcionant autonomia a l’usuari i creant un entorn digital transparent, segur i inclusiu.

    Benkler podria veure el blockchain com una oportunitat per reduir costos i burocràcia, fomentar la participació i facilitar la presa de decisions a les comunitats digitals, així com fomentar la col·laboració.

    Tot i que sovint es vincula al moviment criptobro, aquesta tecnologia podria ser menys estigmatitzada si el seu ús fos més ampli.

    En conjunt, aquestes noves tecnologies creen una xarxa de recursos que potencialment faciliten la revolució que Benkler anticipava. La producció autònoma per part dels usuaris és un punt de partida per desafiar el poder de les grans corporacions i l’Estat, afavorint dinàmiques democràtiques i eficiència similar o superior a la producció industrial.

    Per aconseguir cal abandonar la passivitat i actuar; construir com ho han fet altres abans.

    Els hippies, el punk, el software open source i el blockchain, el makerspacers i ara els creadors de contingut digital

    Abandonar la passivitat implica abraçar l’acció, justament el que fomenta la cultura maker, que incorpora moviments com el DIY (Do It Yourself). Aquest mindset anima a utilitzar disciplines de pensament i expressió (tecnològica, científica, artística) per crear projectes i solucions revolucionàries. L’important no és la solució final com a tal, sinó el procés per arribar a ella. Un procés que implica compartir els coneixements i recursos amb la comunitat, empoderant-nos mútuament i posicionant-nos en un rol actiu per transformar la realitat.

    Corona Rodríguez (3), pensant sobre l’ethos de la cultura maker i el DIY, llista un conjunt de valors, sentiments i actituds presents en les pràctiques d’aquestes comunitats.

    Les comunitats participen activament per trobar usos creatius i innovadors de les tecnologies existents, sigui per a sectors comercials, educatius o d’entreteniment, però que siguin útils per resistir al sistema dominant que limita el potencial de la tecnologia en l’eficient i rendible.

    En aquestes activitats —organitzades de manera autogestionada i fora de les estructures institucionals o industrials convencionals— es comparteixen habilitats, idees i recursos en processos d’aprenentatge informal, alhora que es promou el pensament mentre es fa allò que es pensa, és a dir, l’experimentació i l’aprenentatge mitjançant l’assaig i error.

    Per altra banda, també destaca la creació de mitjans de comunicació alternatius. La cultura maker ha estat històricament vinculada a la producció de mitjans d’expressió propis, com segells musicals independents o aquesta mateixa revista digital per practicar el ciberactivisme.

    La performance o l’acció directa i organitzada sobre objectes, processos o significats també forma part de la cultura maker. Els mememakers no deixen de ser reproductors d’aquests preceptes culturals. Pensem-ho bé. Els memes són producte d’una intervenció activa, imaginativa i innovadora sobre fenòmens que es resignifiquen i circulen generant una reacció.

    El DIY està associat a moviments contraculturals que buscaven canvis enfront del sistema capitalista, els mitjans massius, etc.

    En la dècada de 1950, el moviment hippie va adoptar pràctiques de la cultura maker quan va crear mitjans alternatius i espais propis en resistència a la cultura mainstream. Vint anys més tard, el moviment punk va produir música independent i un nou estil de vestir que va fer tremolar la indústria musical del moment. A la dècada dels 2000, el software lliure i el codi obert, així com la cultura hacker, també segueixen els preceptes de la cultura maker, promovent el coneixement i la tecnologia oberts en resistència a les grans corporacions propietàries del software i les infraestructures.

    El que vull plantejar és què passaria si apliquéssim l’ètica de la cultura maker per combatre els potencials riscos de la intel·ligència artificial —tecnologia que actualment està dominada per grans corporacions— i utilitzar l’eina per fer un món millor, el món que veia venir Yochai Benkler.

    La primera barrera és ser capaços de democratitzar la creació de la IA, permetent que més persones participin en el seu desenvolupament de manera activa i crítica. Això implicaria aprendre sobre la IA mitjançant la pràctica, el pensament posat en pràctica i la col·laboració en comunitats, així com apropiar-se de tecnologies de IA per resoldre problemes locals i satisfer necessitats específiques. D’aquesta manera, s’obriria el desenvolupament de la IA a la personalització, la reinvenció i la innovació des de baix per part dels usuaris.

    Fet això, podríem diversificar l’aplicació de la IA, fent que els sistemes fossin més transparents i la tecnologia més accessible. Això possibilitaria un major pluralisme i diversitat en els usos i aplicacions de la IA d’acord amb diferents valors i cultures, així com un desenvolupament de la IA més crític amb les estructures de poder i atent a les implicacions socials i ètiques. D’aquesta manera, es podria aconseguir un ecosistema més obert, democràtic i plural entorn d’aquestes tecnologies.

    La principal incapacitat, però, és l’accelerat desenvolupament de la tecnologia. L’ex-CEO d’Open AI ja va avançar el següent estadi de la IA: de chatbot a agent intel·ligent. D’aquí poc podrem personalitzar i programar els nostres propis bots perquè duguin a terme tasques específiques, accedint a dades privades i integrant-les en les seves respostes, així com connectant-se a altres parts de la nostra vida digital i realitzant accions amb les nostres credencials.

    https://www.nytimes.com/2023/11/10/technology/personalized-ai-agents.html
    «Personalized A.I. Agents Are Here. Is the World Ready for Them?» — By Kevin Roose for The New York Times

    Una simple ordre bastarà perquè la IA faci tuits programats per nosaltres, publicacions a Instagram amb imatges artificials o perquè enviï currículums a ofertes de feina per nosaltres, respongui amb detall correus automàticament, programi cites amb el metge o interactuï amb persones davant la nostra ociositat.

    El que li ha passat a Bad Bunny no és dolent. La regulació arribarà, i ja veurem fins on limita els potencials socials de la IA. Però mentrestant, estem jugant, experimentant, aprenent. I en un futur pròxim, potser serem capaços de posar aquestes tecnologies i moltes altres a disposició de l’usuari, per fer un internet més democràtic, participatiu i autònom.

    (1) Hernández Iraizoz, Daniel. (2013). Theodor Adorno, elementos para una sociología de la música. Sociológica (México), 28(80), 123-154. Recuperado en 18 de noviembre de 2023, de http://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S0187-01732013000300004&lng=es&tlng=es.

    (2) AGUANA ROMERO, H.; ARROBO- A GILA, J. P. y RENE JARAMILLO, A. (2022). «La inteligencia artificial en la narrativa sonora. Estudio de caso». Anàlisi: Quaderns de Comunicació i Cultura, 66, 9-23. DOI: https://doi.org/10.5565/rev/analisi.3476

    (3) Corona Rodríguez, J. M. (2017). Alfabetismos transmedia: cultura maker y aprendizajes colaborativos en el mundo hiperconectado. En R. Aguirre, R. López y M. L. C. Santoyo (Coords.), Transmedia Earth: Medios, narrativas y audiencias en contextos de convergencia (pp. 131-147). Ciudad de México, México: Editorial Fontamara.

  • La tendència del «NPC Streaming»: què és i per què està conquerint TikTok

    La tendència del «NPC Streaming»: què és i per què està conquerint TikTok

    Segurament aquests dies la teva timeline de Twitter també està plena de vídeos de TikTok amb dones joves que actuen com a nines autòmates. Quan un contingut concebut per a una plataforma es desplaça a altres pot arribar a ser extremadament confús i difícil d’interpretar i classificar. Bàsicament, això equivaldria al dit «el que passa a TikTok es queda a TikTok».

    De fet, ja hem tractat anteriorment sobre com certs formats de contingut que tenen molt d’éxit en algunes plataformes no són aplicables a altres. Que els snacks de la plataforma xinesa es distribueixin a Twitter és com que l’streamer Mr. Jägger presenti el programa d’Ana Rosa.

    Per això en aquest article t’explicarem què és l’NPC Streaming, per què està triomfant tant i quines són les seves ombres —més enllà del cringe aparent.

    L’NPC Streaming, un fenòmen de TikTok

    La varietat de formats que ofereix TikTok són possibles gràcies a les funcionalitats de la plataforma i la versatilitat per adaptar-se a les noves formes d’interacció entre creadores de contingut i usuaris. Per exemple, a través de TikTok LIVE les creadores de contingut —de més de 18 anys— poden interactuar amb les seves audiències en directe, així com intercanviar-se regals (diners) per expressar l’estima al contingut de manera instantània.

    Dit d’una altra manera, de la mateixa manera que Twitch o YouTube, TikTok brinda la possibilitat de monetitzar les transmissions en directe a través de la seva aplicació. El fet que la majoria dels usuaris que consumeixen contingut de TikTok (el 43,3%) es trobin en el rang d’edat entre 18 i 24 anys, juntament amb les característiques pròpies de la plataforma que ofereix contingut en format snack, centrat en temes determinats i amb tendències limitades, fa que les emissions en directe a TikTok siguin singulars, proporcionant avantatges específics a certs comportaments i accions en comparació amb altres plataformes.

    https://twitter.com/carmenxu_3/status/1677735901789560833?s=20
    Un exemple recent de TikTok LIVE i del tipus de contingut que prolifera. També hi solen haver directes de nois i noies canònicament belles dinant, sopant o maqullant-se i responent preguntes dels usuaris.

    Entrant en matèria, la transmissió d’NPC és un format de transmissió en directe a TikTok —tot i que anteriorment ja havia aparegut a Twitch— on l’emissor actua com un Non-Player Character (NPC) o «Personatge No Jugable» (PNJ), imitant les animacions inactives. Els NPC o PNJ són personatges de videojocs que no són controlats per jugadors humans. Normalment, estan programats per seguir un conjunt limitat de comportaments i no poden pensar o actuar de forma independent. Les tiktokers que transmeten actuant com a NPC, així doncs, només diuen alguna cosa, fan una onomatopeia o realitzen una acció específica quan reben un regal, canviant l’acció o la frase en funció del regal.

    Tornant al tema que ens ocupa, el fenomen del NPC streaming va experimentar un creixement notable l’any 2022, gràcies a l’impuls dels primers streamers de TikTok com Natuecoco, una tiktoker japonesa que durant les seves transmissions en directe, sovint actua com un NPC, fent petits salts o fent una «animació inactiva», reaccionant només quan rep un regal. La comunitat de TikTok va atorgar-li el títol oficial d’NPC.

    Les transmissions d’NPC es van popularitzar cada cop més al llarg del 2023 i van començar a guanyar popularitat fora de TikTok quan Pinkydoll, tiktoker i youtuber quebequesa, va publicar una compilació de les seves pròpies transmissions d’NPC a YouTube, aconseguint més de 27.000 visualitzacions en tres mesos.

    Les controvèrsies del NPC Streaming

    La BBC News, amb signatura de Joe Tidy, va publicar el juliol de 2019 una nota titulada «Els joves fans de TikTok ‘explotats’ per regals digitals». Aquesta notícia convida a reflexionar sobre qüestions ètiques i socials en relació amb funcionalitats com TikTok LIVE.

    L’ús de regals digitals per aconseguir avantatges, com ara obtenir el número de telèfon personal d’un influencer, posa de manifest el poder que tenen aquests creadors de contingut sobre els seus seguidors. Aquesta relació de poder pot ser explotada si no hi ha límits clars i una regulació adequada. Cal reflexionar sobre com es pot equilibrar la capacitat d’influència i evitar l’explotació de les audiències joves.

    D’altra banda, la voluntat d’obtenir avantatges o reconeixement per part dels usuaris a través del regals digitals i la creixent monetització de les xarxes socials pot generar una cultura en què els joves sentin que han de pagar per aconseguir l’atenció i l’apreciació dels altres. És important debatre sobre els valors i les expectatives que s’estan promocionant i si aquest model de negoci és sostenible a llarg termini.

    La notícia també ressalta la presència de menors d’edat a TikTok, tot i que és contrària a les normes de l’aplicació. Això planteja interrogants sobre la necessitat de restriccions d’edat més estrictes i la responsabilitat compartida entre les plataformes, els progenitors i la societat en general per protegir els infants i garantir un ús responsable de les xarxes socials.

  • Podrà ChatGPT competir amb el cercador de Google?

    Podrà ChatGPT competir amb el cercador de Google?

    Canvis en els equilibris del sector tecnològic

    Segur que has sentit a parlar de ChatGPT, un bot de conversa basat en intel·ligència artificial que ha revolucionat les xarxes per la complexitat de les tasques que pot dur a terme: escriure codi, narrar històries o resoldre deures universitaris…

    Aquesta irrupció ha trasbalsat el sector tecnològic perquè, per primer cop en molt de temps, Google veu en ChatGPT un possible competidor per al seu cercador. Però pot ChatGPT arribar a competir amb el buscador de Google? Serà capaç de canviar la manera com busquem informació a Internet?

    Encara més disruptiva ha estat l’entrada en escena de Microsoft, invertint 10.000 milions de dòlars en OpenAI, la companyia creadora del bot. La intenció de Microsoft és incloure ChatGPT al seu motor de cerca, Bing —sí, encara existeix!— a partir del març. Això podria alterar el monopoli que té Google en aquest camp des de fa dues dècades.

    Preocupació a Google

    ChatGPT ha encès totes les alarmes a Alphabet, empresa matriu de Google. Sundar Pichai, el seu CEO, vol centrar esforços a treure al mercat productes similars. Google, de fet, ja disposa de models de llenguatge, com LaMDA o Sparrow —aquest últim de DeepMind, adquirit per Google (500M $, 2014)—, que tindrien accés a Internet i inclourien informació actualitzada i referències en les respostes.

    Alguns treballadors creuen que s’ha perdut una oportunitat, però Alphabet tenia motius per ser prudent. Un bot conversacional no dirigeix a altres webs ni incorpora anuncis, que suposen el 60% d’ingressos de l’empresa. A més, respostes errònies o discriminatòries podien danyar la imatge de la marca. En poques paraules, millor no tocar el que ja funciona. En canvi, OpenAI i Microsoft poden assumir riscos perquè tenen molt menys a perdre.

    Punts forts de ChatGPT

    L’experiència en el ChatGPT és personalitzada i natural, resolent dubtes a través del mètode pregunta-resposta. A més, s’ocupa de tasques increïblement complexes amb resultats sorprenentment bons i els explica de forma tan senzilla que ha captat l’atenció de milions d’usuaris. Fins i tot, és capaç d’escriure codi, tot i que alguns estudis alerten de possibles forats de seguretat i problemes de propietat intel·lectual.

    Als usuaris els agrada especialment l’estalvi que suposa en temps de cerca, ja que no han de filtrar resultats innecessaris ni destriar informació. A més, evitar visitar multitud de pàgines també estalvia enfrontar-se a galetes i anuncis empipadors. La interfície és minimalista: més neta, sense distraccions i amb un missatge clar. I, fins i tot, continua funcionant sense connexió a Internet.

    Limitacions actuals

    Google és el lloc web més visitat del planeta i és extremadament fiable: suporta més de vuit mil milions de cerques al dia. Ha marcat la manera com entenem la xarxa, ja que per a qualsevol empresa, el més rendible és posicionar-se primera en els resultats del buscador. ChatGPT, en canvi, és encara un prototip i els servidors cauen sovint.

    Visitar múltiples pàgines pot ser positiu si necessites diferents punts de vista o, simplement, la teva pregunta no té una resposta simple. A més, Google pot complementar les respostes amb imatges i vídeos i suggerir noves preguntes a partir del dubte inicial.

    Però la informació que extreus de Google no es pot ni comparar amb la que ell extreu de tu. A partir de les teves dades, ofereix resultats que s’adapten als teus interessos. I tot i que això és còmode, també genera molts dubtes de privacitat.

    Ara per ara, una de les grans limitacions de ChatGPT és que està entrenat amb dades fins al 2021. Per tant, no serveix per a notícies recents o esdeveniments que s’actualitzen a temps real. 

    Tampoc aporta referències en el contingut. Només hi ha una única veu erudita que dilueix la responsabilitat del missatge i impedeix verificar la informació. En altres paraules: és una caixa negra. Això fa que algunes webs (GitHub, Stack Overflow, Reddit…) puguin expressar dubtes sobre formar part de les dades d’entrenament. Alguns programadors han denunciat que el xat, literalment, copiava els seus repositoris de codi. Elon Musk, tot i ser fundador d’OpenAI, ha prohibit utilitzar Twitter com a font d’informació per a ChatGPT:

    Finalment, tot i que sempre mostra un to confiat, de vegades ChatGPT s’equivoca estrepitosament. És més, els models de llenguatge tendeixen a reproduir contingut racista, homòfob o masclista. I quan reps una resposta d’una veu que suposadament ho sap tot, cal vigilar-ho molt de prop.

    Conclusions

    De moment, Sam Altman (CEO d’OpenAI) és prudent, perquè hi ha molt marge de millora. Va dir que ChatGPT és «increïblement limitat» i que «seria un error confiar-hi per a res important ara mateix». OpenAI, però, ja treballa per millorar-lo. A més, hi haurà una versió de pagament, ChatGPT Professional, que estarà sempre disponible i no tindrà límit de línies ni de nombre de preguntes.

    Cal remarcar que un cercador i un model de llenguatge són diferents i estan destinats a complementar-se. ChatGPT és una eina espectacular per resoldre certes tasques i revolucionarà algunes consultes, però sovint sortirà a compte la recerca crítica entre els resultats de Google. 

    Així d’entrada, l’hegemonia del buscador de Google no sembla estar en perill immediat i, a més, no trigarà a integrar tecnologies similars. Tot i això, dos fets podrien alterar aquest paradigma. El primer és l’habilitat que tingui OpenAI de millorar el seu producte, ja que la majoria de problemes que té avui en dia ChatGPT no semblen ni molt menys impossibles de solucionar. El segon són els hàbits de consum. Google sap que milers de milions d’usuaris tenen automatitzat l’ús del seu cercador com a porta d’entrada a Internet. Però, compte! Exactament pel mateix motiu, poc servirà que Google tregui bots similars si el públic ja s’ha acostumat a fer servir ChatGPT.

    Prepareu les crispetes. La batalla està servida.

    I què n’opina, ChatGPT?

    Per acabar, com no podia ser d’altra manera, li hem preguntat a ChatGPT la seva opinió sobre el tema:

    ChatGPT: Està el cercador de Google en perill?

El cercador de Google és una eina molt popular i ha estat el líder del mercat dels motors de cerca durant molt de temps. Tot i això, cal tenir en compte que el camp de la tecnologia està en constant evolució i hi ha nous desenvolupaments i competidors emergents en el mercat.

Pel que fa a ChatGPT, és un model de llenguatge avançat que s’utilitza per generar text de forma automàtica, però no està dissenyada per reemplaçar al cercador de Google. Mentre que ChatGPT és capaç de respondre preguntes i generar text, no té accés a la quantitat d’informació que té Google, i no està dissenyat per realitzar cerques a Internet. És important continuar usant eines com Google per buscar informació precisa.

Encara que hi ha alguns competidors emergents, Google continua sent un líder en el mercat dels motors de cerca i compte amb una gran base d’usuaris i un algoritme molt avançat, això no significa que no pugui haver-hi canvis en el futur, però ara per ara Google continua sent líder en aquesta àrea.

    Referències

    1. La imatge de l’article ha estat generada per DALL-E, un model generatiu d’art d’OpenAI, sota la petició «End of Google’s dinasty» («Fi de la dinastia de Google»)
    2. Estevez, Á; Bolsamanía; 2023. Microsoft estudia invertir 10.000 milions en OpenAI, creadora del bot de IA ChatGPT.
    3. Márquez, J; Xataka; 2023. Era qüestió de temps que OpenAI comencés a cobrar per ChatGPT: aquest oferirà versió de pagament.
    4. Wiggers, K; TechCrunch+, 2022. El codi generat per IA pot introduir vulnerabilitats de seguretat, segons un estudi.
    5. Pitt, S; CNBC; 2022. Google vs ChatGPT: això ha passat quan he canviat els serveis per un dia.
    6. Millán, V; hipertextual; 2022. «Pregunta a OpenAI» en lloc de «busca-ho a Google»: ChatGPT pot canviar (o no) com busquem a Internet.
    7. Richards, L; IMPAKTER; 2023. Google vs ChatGPT: Qui en sap més?
    8. Bastian, M; The decoder; 2022. ChatGPT vs Google: Qui guanya a 500 cerques?