“[Citant Thoreau] No són més que mitjans millorats al servei
d'una finalitat sense millorar”
(Marx, L. La idea de la tecnologia y el pesimismo postmoderno.
Dins M. R. Smith, & L. Marx, 1996 (pàg. 253–273)

En aquest Ouishare, el PEMB ha participat com a partner fent el taller “educació expandida, el futur des d'aquí i l'ara” el dia de portes obertes. Però no parlaré d'aquest taller sinó d'una de les sessions que va tenir lloc dijous 16 i que portava per títol: “Machine learning: augmentar o reemplaçar la intel·ligència humana?”. El debat de fons em va recordar un assaig que vaig haver de fer pel màster interuniversitari d'Història de la Ciència del llibre Història i determinisme tecnològic.

El llibre, tot i ser un compendi de les comunicacions que es van fer en un seminari de dos dies celebrat a l'Institut Tecnològic de Massachusetts l'any 1989 (ja fa quasi 30 anys!), presenta reflexions que no passen de moda. De fet, les reflexions sobre què fer amb la tecnologia, i si aquesta determina la història en el sentit que és inevitable que aparegui certa tecnologia, i que la societat s'estructuri de la manera en què ho fa per aprofitar-la, és força més antic. Per això, obro de nou una entrada amb una cita de Henry David Thoreau.

Estem acostumats a pensar que la necessitat és la mare de la invenció. No obstant això, també existeix una altra lectura i és que la invenció crea la necessitat. Noves necessitats. Si és que és intel·ligible parlar de necessitats. Per posar un exemple simple i potser també ximple: es pot ser un bon professional sense twitter, si entenem com a bon professional aquella persona que està plenament connectada i que està al dia de tot?

En qualsevol cas, i tornant al debat que també es tractava al Ouishare, quan es parla de tecnologia inevitablement associem als canvis tecnològics la paraula progrés que, per definició, té connotacions positives: “procés ascendent i positiu, mitjançant el qual un ésser, o una acció, passa d'un estat, forma o grau a un altre de superior, de millor”. No es tracta de discutir-ho tot, o sí, sinó de ser conscients que la tecnologia no és asèptica. Ens ho recorda, per exemple, l'associació ALBOAN amb la seva campanya tecnologia lliure de conflicte o les conseqüències de l'obsolescència programada.

En el Ouishare es van presentar dos exemples il·lustratius de les mirades crítiques que hem de tenir, no només amb l'ús de les tecnologies, sinó també amb el disseny i la creació de les mateixes.

El primer exemple és el de la bot Tai, una bota que Microsoft va llençar a Twitter per aprofundir en la relació entre éssers humans i computadores. Tai havia d'aprendre de la resta d'usuaris basant el seu aprenentatge en el Machine Learning (aprenentatge automàtic). I així ho va fer, però no en la direcció que Microsoft hagués volgut. En un dia, el que havien de ser converses agradables i divertides van degenerar en tweets totalment desfasats: de contingut racista, xenòfobs i inapropiats en general, i que van dur a la companyia a haver de tancar el seu compte.

La reflexió és interessant perquè ens interpel·la directament: si aconseguim vèncer els trolls, serem capaços nosaltres mateixos (de qui hauran d'extreure i interpretar les dades les màquines) de ser conseqüents? Aquesta reflexió parteix de la premissa següent: moltes de les nostres accions no es corresponen amb el que diem que voldríem. Per posar un exemple senzill: estem a favor de protegir el medi ambient però no deixem d'agafar el cotxe o l'avió per anar a passar un cap de setmana fora.

Com se salvaran aquest tipus de contradiccions? Quins biaixos hauran de tenir els algorismes perquè les màquines que basin el seu aprenentatge en l'anàlisi exhaustiva de totes les dades que generem entenguin aquestes contradiccions i triïn la millor solució per a tothom? Qui i com es dissenyen als algorismes d'aprenentatge? Aquesta és una altra, els biaixos algorítmics poden tenir moltes formes i no totes desitjables. Per això existeixen plataformes com la lliga de la justícia de l'algorisme.

L'altre exemple que volia comentar és el del projecte de Supervisió de Crèdit que està dissenyant el Govern de la Xina. Aquest projecte és l'avantsala de fer realitat el clarivident i aterrador capítol de la sèrie Black Mirror en el qual les persones poden puntuar altres persones perquè, d'acord amb el resultat obtingut del conjunt de totes les valoracions, hom tingui incentius i/o restriccions a l'hora de fer qualsevol cosa:  des de demanar un crèdit fins a llogar un vehicle. És cert que, d'alguna manera, amb plataformes com TripAdvisor o Airbnb ja passa. Això no obstant, aquestes valoracions no afecten més enllà de la pròpia aplicació. Quan tots els aspectes de la teva vida poden quedar afectats, el cas agafa una altra dimensió.

La conclusió, tant del llibre sobre determinisme tecnològic com de la sessió del Ouishare, és que, de tant en tant, hem de revisar el que estem fent. Aturar-nos, prendre consciència del fet que la tecnologia no es pot entendre separada de la política o l'economia, i veure cap a on ens porten les inèrcies en què ens trobem, i si hi podem estar d'acord des d'un punt de vista ètic i moral. Un altre dia parlarem sobre la història pagada per l'empresa.

“tot el món es deté durant un breu període. Tot el món surt de l'automòbil del futur, camina, parla amb les demés persones sobre el que s'ha de fer (...) redefineix la Seguretat nacional, desarticulant els bombarders Stealth i els sistemes de satèl·lits làser SDI convertint-los en assistència prenatal, cobertura sanitària universal, energia segura, aire i aigua purs, transport públic fiable i eliminació de la fam”. (Smith, M. L. El recurso del imperio: paisajes del progreso en la América Tecnológica (1996, p. 68))

Les opinions dels autors i les autores no representen necessàriament el posicionament del PEMB.

• Participa o segueix el debat

  2 comentaris:

  ruizdequerol - 27/12/2017 a les 17:44:16.

  Effectes col·laterals

  Marc, Aquest tipus de reflexions seran cada cop de més actualitat. És cada cop més evident que l'acceptació acrítica de tecnologia == progrés equival a acceptar sense reflexió els efectes col·laterals del del desenvolupament tecnològic. Tinc per això sempre present un avís de Langdon Winner ("La Ballena y el Reactor": "En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado."

  López Forn - 02/02/2018 a les 12:08:28.

  Més exemples

  Gràcies Ricard per la referència, i disculpa la demora en la resposta! Si no recordo malament, aquesta entrada es va penjar dos dies abans de que es publiqués la notícia de que alphazero, una intel·ligència artificial de Deep Mind, amb només 4 hores d'autoaprenentatge apallissés a la campiona del món de les computadores d'escacs. Ens espera un futur distret, que sigui utòpic o distòpic ja dependrà de com decidim crear i gestionar la tecnologia!

  Deixa el teu comentari:

  Nom autor

  E-mail

  Títol del comentari

  El teu comentari

  Notificar-me noves contribucions a aquest debat Sí No

  Avís legal

  Enviar