“Adimen artifizialak” errefusa eragiten digu ondo azaltzen ez dakigun arrazoiengatik. Eta aldi berean, liluratuta geratzen gara (batzuetan) emaitza on eta azkarrak ematen dizkigula ikustean. “Batzuetan” esaten dut, emaitza guztiz okerrak ere eman ditzakeelako. Beti, ordea, egiantzeko mozorroz.
Eragiten digun errefusak, baztertzera, urruntzera edo argudio sendorik gabe kritikatzera eraman gaitzake. Baina, guk baztertu edo kritikatu arren, aurrera jarraituko du, zeharka eta zuzenean gure bizitzetan eraginez jardungo du.
Margarita Padillak liburu bat idatzi du, Inteligencia artificial: Jugar o romper la baraja (Traficantes de Sueños, 2025), eta zinez gomendatzen dizuet.
Adimen artifiziala zer den eta zer ez den uler dezagun, eta teknologia honen bilakaera ezagutu dezagun, oinarrizko kontzeptuak hizkuntza erraz eta didaktikoan gerturatu dizkigu; ahalegin miresgarri egin duela iruditzen zait. Liburu osoan zehar, anekdota eta adibide askorekin, paraleloki garatu diren bi teknologiak azaltzen ditu: logizista, edo sinbolikoa ere deitzen zaiona, eta konexionista edo neuronala. Feedback sistemak ere aipatzen ditu, bai prozesuaren baitakoak bai kanpoko inputenak. Eta erroreak ere bai. Hainbat kontzeptutan murgilduko gara: zer da ikasten duen makina bat, zer esan nahi du? Harritzeko moduan, lantzen duen gaiaren konplexutasuna kontuan hartuta, AA baten atzean dauden elementu nagusiak gainetik ulertuko ditugu eta fluxu-diagrama xume batean kokatuko ditugu. Xumea, baina konplexutasuna areagotzen joango dena. Era berean, konturatuko gara, ordenagailu bat funtzio desberdinak betetzen dituzten milaka elementuk osatzen duten bezala, AA aplikazio bat ere funtzio desberdinak betetzen dituzten hainbat azpimultzok osatzen dutela. Nahiz eta gauza asko zailak eta urrunak izan informatika gaietan adituak ez garen pertsonentzat, uste dut liburuak zerbait oso garrantzitsua lortzen duela: gai hauei aurre egiteko orduan, jarrera aldatu behar dugula konbentzitzea.
Izan ere, adimen artifiziala inguratzen duen “ideologiaren” ardatzetako bat da zailegia den zerbait dela sinestaraztea eta mito moduko bat bihurtzea, galderarik egitea saihestuz. Testu honekin Padillak erakusten duen jarrera eta geu ere gonbidatzen gaituena, kontrako norabidean doa: utz dezagun mitifikatzea, egin ditzagun interesatzen zaizkigun galderak egin, azter dezagun eta horren arabera joka dezagun.
“Adimen artifizial” terminoa ez da normalean zehazki erabiltzen, azaltzen digu Padillak. Teknologian adimen artifiziala deitu dezakegunak askoz gehiago hartzen du barnean normalean horrela deitzen duguna baino. Termino honen inguruan propaganda aura (“zelofana”) bat dago, “ideologia” sortzea helburu duena, ondokoen bidez:
- Oso konplexua den zerbait bezala aurkeztea, eta aldi berean, aseptikoa edo neutroa. Bi ezaugarriok kritika neutralizatzen dute.
- Erabilgarria den zerbait bezala aurkeztea, modu erraz batean lor ditzakegun gauza guztiei esker. [Nire esperientziatik ateratako anekdota bat: armairu batean zegoen gantxo baten argazki bat igo genuen (iluna eta kalitate txarrekoa), ez baikenekien nola kendu, eta Googleren AAak xehetasun guztiak eman zizkigun zer zen, nola funtzionatzen zuen eta nola askatu jakiteko. Baita askatzea lortu ere. Harrigarria.]
Benetan erabilgarria eta praktikoa den zerbait bezala aurkezturik, eta bide kritikoari zilegitasuna kendurik, ezarri nahi den ideologiak men egin behar diogun autoritate berri batekin du zerikusia, zalantzan jar ez daitekeen autoritate batekin. Izan ere, aplikazio hauetako askoren ezaugarri nagusietako bat, teknologia konexionista edo neuronalarena, da ez dela posible ondorioetara eraman duen prozesuaren arrastoari jarraitzea, eta beraz ezinezkoa dela berrikustea (ohituta gauden moduan, bederen). Eta beste ezaugarri bat −hau ez da teknologikoa, ordena sozio-politikoari dagokiona baizik− da politika pribatibo, ilun eta opaku bati erantzuten diotela.
Padillaren proposamena argia da: “adimen artifizialaz” modu orokorrean hainbeste hitz egiteari utzi behar diogu eta teknologia eta aplikazio zehatzei buruz hitz egin behar dugu.
Eta modu kokatuan, kasu bakoitzaren azterketarako erabil daitezkeen galderak honako hauen modukoak dira: nork du kontrola?, zein helbururekin jarduten du?, zein datuk elikatzen dute?, kode irekia al du ala ez? Zein motatako jarraipena egiten da helburuen arabera eraginkortasuna aztertzeko eta harreman sarean sortzen ari den aldaketak ikusteko?… [Aurrerago ikusiko dugun bezala, “harreman sare” kontzeptu hau oso garrantzitsua da Padillaren diskurtsoan].
Errealitate konplexuek diziplina anitzeko ikuspegia eskatzen dute. Adibide bat azaltzen digu: VioGen, biktimaren arriskua ebaluatzeko eta babes maila zehazteko poliziari laguntzeko aplikazio bat da. Modu honetako tresna batek genero indarkerian adituak direnen ezagutza eskatzen du, diseinua, fluxu-diagramaren elementu bakoitza eta, behin martxan jarrita, ikuspegi globaletik emaitzak aztertzeko.
Modu honetako azterketetan oinarrituta, tresna zehatz bakoitzaren oinarri sendoko ikuspegi kritikoa eduki ahal izango dugu.
Ez dago teknologia onik eta txarrik, dio Padillak, eta ez datza erabileraren arabera ere, askotan esaten den bezala, baizik eta aplikazio bakoitzak harreman testuinguru bat konfiguratzen du, eta saretze hori dena da aztertu beharrekoa. Adibidez, autoen fabrikazio teknologia ez da ona, ezta txarra ere. Gakoa ez da ibilgailuak hil ala biziko kontuetarako erabiltzea, hala nola odol-poltsak garraiatzea transfusioa egiteko, edo beste muturrean, pertsonak azpian hartzeko. Ikuspegi hauek ez digute ulermen eta zentzu kritiko handiagoa garatzen laguntzen, ez dute ibilbiderik. Aztertu behar duguna zera da: autoak espazioen, mugikortasunaren, bizitzaren erritmoen, lehentasunen berrantolaketa ekarri duela… Bide berberetik, gakoa ez litzateke izango sare sozial “onak” sortzea, kalitatezko eta sozialki konprometituriko edukiak izango dituztenak. Sare sozialen logika gure arreta “harrapatzea” denez, hortik abiaturik aztertu behar dugu sare sozialekin zerikusia duena. Eta VioGen aplikaziora itzuliz, aplikazio mota honetan gertatzen dena da, laguntzeko tresna gisa proposatzen diren arren, askotan pertsonek erabakia “makinak esaten duenari delegatzen diotela, eta, hala, makina horiek sortzen dituzten akatsek egoera oso kezkagarriak ekar ditzakete. Are gehiago, soluzioak ematen dizkigun autoritate berri gisa ikusten baditugu, gainditu egiten gaituena eta ulertzeko gai ez garena, gu ordezkatzen ez gaituzten, baizik eta laguntzen diguten eta etengabe ebaluatu eta hobetu behar ditugun tresna moduan ikusi ordez. Zeren eta, Margarita Padillak ziurtatzen digu: “beti izango dituzte akatsak”. Hori saihestezina da. Eta gero eta gehiago aplikatzen badira medikuntzan, hezkuntzan, gizarte laguntzan, segurtasunean eta antzekoetan, askoz gehiago jakin behar dugu tresna hauek nola erabili behar ditugun eta nola ez. Beraz, uste dut AAri buruzko prestakuntza orokorra trebetasun kritikoak nola sortzera bideratu beharko litzatekeela, ustez erabilgarriak izan daitezkeen tresnen hedapena egitera baino.
AAko teknologia hauei esker lor daitekeena ikusten eta baloratzen dut. Adibidez, itzultzaile automatikoek batzuetan, testuinguruaren edo hizkuntza bikoteen arabera, emaitza oso onak ematen dituzte. Eta aurrera jarraitzen dute. Margarita Padillaren liburuak hobeto ulertzen lagundu dit zergatik jartzen naizen erne termino hau kritikarik gabe erabiltzen den bakoitzean. Eta gakoa ez da kritika orokorrak egitea, edo onura generikoak aurkeztea, baizik eta informazioa eta tresnak ematea, erabilera zehatzei buruz, aplikazio zehatzei buruz eta eraldatzen dituen harreman sare zehatzei buruz irizpidea garatzeko gai izateko.
Marx, Heidegger eta Simondon zeharkatu ondoren, Padillak proposamen bat eginez amaitzen du, nire ustez Donna Harawayren planteamenduekin hurbila dena, zeina testuan hainbat aldiz aipatzen duen, baina atal honetan ez: sinbiosia egitea gizaki ingurune zehatzekin, gauzen, makinen, pertsonen, animalien eta abarren artean. Dena gure menpe eta kontrolpean izan dezakegun ikuspegia gainditzea eta beste lotura mota bat bilatzea.
Behean, liburutik ateratako aipu batzuk jasotzen ditut, oraindik erabaki ez dutenak liburua irakurtzera animatzeko.
[79. or.] Zer da zelofana? Zelofana produktua biltzen duen aureola da. Ez da ontziratze teknologikoa bakarrik, baizik eta ingurutzen duen zilegitasuna. Nola aurkezten den, jendeak nola ikusten duen. Zelofana emozio positiboa da, produktuak daraman positibotasun karga, bere beharra, bere onura. Bilgarria da opariaren onena. Produktuaren baliozkotasuna eta zilegitasuna eraiki behar dira, inpresionatu, liluratu, desiragarria egin. Mapatik ezabatu behar dira osasun sistemek mycinari buruz egin zituzten galderak. Ez gehiago galderarik. “Guk, handikiek, galderak kontrolatuko ditugu. Esango dizuegu zer galdetu daitekeen eta zer ez. Guk, handikiek, zuen ideiak eta iritziak kontrolatuko ditugu. Adimen artifiziala zer den eta zer ez den esango dizugu. Eta, noski, hasieratik esaten dizuegu adimen artifiziala guk egiten duguna dela bakarrik.”
Eta nola egiten da zelofana kontrolatzeko? Bada, mezu apokaliptiko abstraktuak abiaraziz eztabaida kokatuek izan lezaketen lekua okupatzeko.
[82. or.] (…) Adimen artifizialak sortu eta ustiatzen dituzten ekintzaile, ikertzaile edo ingeniari berberek megafonoa hartzen duterik gizaki gisa hartzen ari garen arrisku existentzialez ohartarazteko, ez da arreta jartzen egoera zehatzetan: algoritmoen diskriminaziozko, arraza, gizarte edo genero diskriminazio patroien betikotzezko, estereotipoen larriagotzezko, desinformaziozko, ingurumen kostu edo lan prekarietate egoera zehatzetan.
Sektoreko eliteen estrategia arriskuak zerbait abstraktu gisa agerraraztea da, eta aldi berean produktu zehatzen zelofana babestea. Gizateriaren suntsiketa arriskuez hitz egitea, adimen artifiziala txertatzen ari den botere-harremanen sareaz hitz beste eginik. Haize-errotak ezkutatzen dituzten erraldoiak altxatzea.
Ondorioa larria da. Elite berberek kontrolatzen dute bai garapena bai kritikak. Horrela, ez dute soilik teknologia herrikoiaren subiranotasunaren aukera erabat lausotzen, baizik eta halaber adimen artifizialak zer diren gutxieneko ulermen erreala ere oztopatzen dute: oinarrizko teknologiak zein diren, nor ari den haiek garatzen, nola ezartzen ari diren, nor ari den onura ateratzen…
[120. or] (…) kasu gehienetan, erabaki teknologikoak hartzerakoan aukera ugari daude (…) erabaki bakoitzak proiektua norantz lerratu nahi den arabera bideratu egiten du. (…) Marjina dago. Dena modu oso desberdinetan egin daiteke.
[122. or] Softcatalà komunitate bat da, esku artean duen arazo tekno-sozial bakoitzerako teknologia egokiak autodeterminatzen dituena. Ezagutza du eta posizionamendua du. Ez dago zalantzarik itzultzaile automatiko bat, edozein delarik ere erabiltzen duen teknologia, adimen artifiziala dela. Hala ere, webgunean adimen artifizialaren promesen inguruko narrazioak ez du batere garrantzirik. Ez dute zelofanik behar. Ez dute marketinik behar. Bestalde, hizkuntzaren defentsak, ezagutzaren pribatizazioaren aurkako borrokak eta baliabide komunen defentsak bai. Horiek badute garrantzia. Horregatik argitaratzen dituzte erabiltzen dituzten eredu neuronalak eta corpusak. Badira bere burua nabarmendu nahian ibili beharrik ez duten adimen artifizialak.
[141. or.] Elkarrizketa atsegin eta adeitsuetarako prest dagoen txat sortzaile dirdiratsu eta landu baten atzean, giza lan asko dago, ustiapen eta sufrimendu asko.
[145. or] Adimen artifizialak gizakiaren esku-hartzerik gabe ikasten duela esaten denean, datuetatik abiaturik, komeni da azpimarratzea ikaskuntza automatiko hori gertatzeko beharrezkoa den gizakiaren esku-hartze guztia. Datuak identifikatu, lortu, prestatu eta ontzat eman behar dira. Eredua, ikuspegi konputazionala, milimetrikoki definitu behar da. Testatzea eta baliozkotzea ere giza jarduerak dira. Eta makina hori gizarte ingurunean muntatzea, non beste pieza bat bezala funtzionatuko duen, beste pieza teknologiko, sozial, politiko edo ekonomikoekin konbinatuz, teknologiatik at dauden ezin konta ahala erabakiren menpe dago. Pertsonek eta giza taldeek hartuko dituzten erabakien menpe. Adimen artifizialaren ekoizpenean, gizakiaren lana eskerga da: talde eta pertsonak aliantza sare, gatazka eta botere harremanen murgilduta, (gutxi edo gehiago) elkarren menpekoak, makinaren barruan txertatuko dituztenak beren ikuspegiak, interesak edo helburuak, baita zailtasunak, sufrimenduak eta pobrezia ere. Mary Grayk lan fantasma deitzen dio.
Korporazioak harro daude beren adimen artifizialek azkar ikasten dutelako, algoritmoak eraginkorrak direlako. Baina ez dute azaltzen zenbat giza lan dagoen atzean, hierarkia desberdinetan eta aitortza sozial eta ekonomiko maila desberdinarekin. Ingurumen eta gizarte kostuak ez dira ekuazioan sartzen.
Mila eta mila esker, Marga, lan bikain honengatik.
