Existeix la intel·ligència artificial? O en realitat estem parlant de models extensos de llenguatge (LLM)? Aquesta és la pregunta que planteja un TikTok de No The Robot arran de la polèmica d’aquests dies amb Hank Green.
Hank Green, el youtuber de divulgació científica, va admetre haver fet servir ChatGPT per documentar-se, després que uns fans detectessin frases massa educades en els seus vídeos per a atribuir-se-les a ell. El youtuber, amb 3,2 milions de subscriptors i conegut pels seus valors ecologistes, va dir en un vídeo «I appreciate the pushback», una frase que recorda molt al llenguatge conversacional de ChatGPT i altres xatbots. Els fans, que majoritàriament associen la IA amb «destrucció ecològica i desplaçament laboral», es van sentir traïts. Green va reconèixer que sí que fa servir ChatGPT, però per buscar bibliografia acadèmica, no per escriure guions. Va dir també que l’entrenament no consentit dels models «l’inquieta profundament».
No The Robot es fa ressò de la polèmica i proposa, molt intel·ligentment, que la indignació ha de canviar de bàndol. No hauria de dirigir-se als creadors de continguts que fan servir els LLM per documentar-se, sinó cap a les empreses que construeixen centres de dades, entrenen models amb material robat i venen l’etiqueta «intel·ligència» com si fos un fet consumat. El tiktoker apunta que «estem gastant tota aquesta energia assenyalant creadors, quan hauríem de gastar-la organitzant-nos, anant a plens municipals, protestant contra els centres de dades».
Aprofita per reivindicar el concepte d’intel·ligència artificial com un element de la ciència-ficció i de la literatura (que acostumava a emprar-se per anomenar els «ordinadors que pensen») que ha perdut tota la seva aura. Hem deixat que les empreses segrestessin el terme i el posin a sobre d’un producte per pujar la seva cotització a borsa. «AI is not the one ring», diu, en anglès, al vídeo. Segons ell, «IA» és una marca comercial i qui la fa servir sense pensar-hi li fa el joc a qui en treu profit.
Això reforça les idees acadèmiques que, de la mà d’autores com Emily M. Bender, lingüista computacional a la Universitat de Washington, ja fa anys que circulen. Bender és la co-escriptora de l’article que va popularitzar l’expressió «lloros estocàstics» per als models de llenguatge. Ho explica a IEEE Spectrum: «IA» agrupa tecnologies que no tenen res a veure entre elles sota un mateix paraigua. Un xatbot, un sistema de predicció de proteïnes com AlphaFold, un model climàtic, un motor d’escacs, etc. I això fa impossible avaluar-ne els riscos i els beneficis per separat. El terme, diu, té valor sobretot per a qui el necessita per pujar valoracions o aconseguir finançament de recerca.
Admet que el sistema de finançament científic pràcticament obliga els investigadors a etiquetar la seva feina com «IA» per aconseguir fons. Ho qualifica de «net negatiu» per a la claredat, tot i que individualment és racional per a qui queda atrapat en el sistema de producció d’idees acadèmiques. El problema, per tant, més que tractar-se d’una qüestió de vocabulari mal triat, és estructural. Si ens centrem a assenyalar els creadors de continguts i no en denunciar com es finança la recerca o com han d’estar regulades les empreses, desviem l’atenció de les esquerdes que sustenten l’estructura que està mal feta.
Deixa un comentari