Más tecnologia significa más progreso

[Citando a Thoreau] No son más que medios mejorados al servicio de
una finalidad sin mejorar'
(Marx, L. La idea de la tecnología y el pesimismo postmoderno.
M. R. Smith, & L. Marx, 1996 (pág. 253-273) 

De nuevo el Ouishare Fest ha sido inspirador. Entre los días 15 y 17 de noviembre se celebró en Barcelona una nueva edición de este festival. Siempre en base a la innovación y la colaboración social, el festival suele hacernos reflexionar sobre cuestiones que, por el ajetreo diario, pueden pasar desapercibidas. De este modo, el festival se convierte en un caldo de cultivo para que surjan ideas. Por ejemplo, a raíz del festival de París, ya publicamos una entrada en el blog, relativamente bien valorada, sobre urbanismo con perspectiva de género.

Tecnología y progreso

En este Ouishare, el PEMB ha participado como partner organizando el taller 'educación expandida, el futuro desde aquí y el ahora' el día de puertas abiertas. Pero no hablaré de este taller sino de una de las sesiones que tuvo lugar el jueves 16 y que llevaba por título: 'Machine learning: aumentar o reemplazar la inteligencia humana?'. El debate de fondo me recordó un ensayo que tuve que hacer para el máster interuniversitario de Historia de la Ciencia del libro Historia y determinismo tecnológico.

El libro, a pesar de ser un compendio de las comunicaciones que se hicieron en un seminario de dos días celebrado en el Instituto Tecnológico de Massachusetts en 1989 (hace casi 30 años!), presenta reflexiones que no pasan de moda. De hecho, las reflexiones sobre qué hacer con la tecnología y si ésta determina la historia en el sentido de que es inevitable que aparezca cierta tecnología, y de que la sociedad se estructure de la manera en que lo hace para aprovecharla, son bastante más antiguas. Por eso, abro de nuevo una entrada con una cita de Henry David Thoreau.

Estamos acostumbrados a pensar que la necesidad es la madre de la invención. Sin embargo, también existe otra lectura y es la de que la invención crea la necesidad. Nuevas necesidades. Si es que es inteligible hablar de necesidades. Por poner un ejemplo simple y quizá también tonto: se puede ser un buen profesional sin twitter, si entendemos como buen profesional aquella persona que está plenamente conectada y que está al día de todo?

En cualquier caso, y volviendo al debate que se planteaba también en el Ouishare, cuando se habla de tecnología inevitablemente asociamos a los cambios tecnológicos la palabra progreso que, por definición, tiene connotaciones positivas: 'proceso ascendente y positivo, mediante el cual un ser o una acción, pasa de un estado, forma o grado a otro superior, mejor '. No se trata de discutir todo, o sí, sino de ser conscientes de que la tecnología no es aséptica. Nos lo recuerda, por ejemplo, la asociación ALBOAN con su campaña tecnología libre de conflicto o las consecuencias de la obsolescencia programada.

En el Ouishare se presentaron dos ejemplos ilustrativos de las miradas críticas que debemos tener, no sólo con el uso de las tecnologías, sino también con el diseño y la creación de las mismas.

El primer ejemplo es el de la bot Tai, una bota que Microsoft lanzó en Twitter para profundizar en la relación entre seres humanos y computadoras. Tai tenía que aprender de los demás usuarios basando su aprendizaje en el Machine Learning (aprendizaje automático). Y así lo hizo, pero no en la dirección que Microsoft hubiera querido. En un día, lo que debían ser conversaciones agradables y divertidas degeneraron en tweets totalmente desfasados: de contenido racista, xenófobos e inapropiados en general, y que llevaron a la compañía a tener que cerrar su cuenta.

La reflexión es interesante porque nos interpela directamente: si conseguimos vencer los trolls, seremos capaces nosotros mismos (de quien deberán extraer e interpretar los datos las máquinas) de ser consecuentes? Esta reflexión parte de la siguiente premisa: muchas de nuestras acciones no se corresponden con lo que decimos que quisiéramos. Por poner un ejemplo sencillo: estamos a favor de proteger el medio ambiente pero no dejamos de coger el coche o el avión para pasar fuera un fin de semana.

Como se salvarán este tipo de contradicciones? Qué sesgos deberán tener los algoritmos para que las máquinas que basen su aprendizaje en el análisis exhaustivo de todos los datos que generamos entiendan estas contradicciones y elijan la mejor solución para todos? Quién y cómo se diseñan los algoritmos de aprendizaje? Esta es otra cuestión: los sesgos algorítmicos pueden tener muchas formas y no todas deseables. Por eso existen plataformas como la liga de la justicia del algoritmo.

El otro ejemplo que quería comentar es el del proyecto de Supervisión de Crédito que está diseñando el Gobierno de China. Este proyecto es la antesala de hacer realidad el clarividente y aterrador capítulo de la serie Black Mirror en el que las personas pueden puntuar a otras personas para que, de acuerdo con el resultado obtenido del conjunto de todas las valoraciones, tenga incentivos y/o restricciones para hacer cualquier cosa: desde pedir un crédito hasta alquilar un vehículo. Es cierto que, de alguna manera, con plataformas como TripAdvisor o Airbnb esto ya sucede. Sin embargo, estas valoraciones no afectan más que a la propia aplicación. Cuando todos los aspectos de tu vida pueden quedar afectados, el caso toma otra dimensión.

La conclusión, tanto del libro sobre determinismo tecnológico como de la sesión del Ouishare, es que, de vez en cuando, tenemos que revisar lo que estamos haciendo. Detener, tomar conciencia de que la tecnología no puede entenderse separada de la política o la economía, y ver hacia dónde nos llevan las inercias en que nos encontramos, y si podemos estar de acuerdo desde un punto de vista ético y moral. Otro día hablaremos sobre la historia pagada por la empresa.

'Todo el mundo se detiene durante un breve periodo. Todo el mundo sale del automóvil del futuro, camina, habla con las demás personas sobre lo que se debe hacer (...) redefine la Seguridad nacional, desarticulando los bombarderos Stealth y los sistemas de satélites láser SDI convirtiendo -los en asistencia prenatal, cobertura sanitaria universal, energía segura, aire y agua puros, transporte público fiable y eliminación del hambre '. (Smith, M. L. El recurs del imperio: paisajes del progreso en la América Tecnológica (1996, p. 68))

Las opiniones de los autores y las autoras no representan necesariamente el posicionamiento del PEMB.

  • Participa o sigue el debate

    2 comentarios:

    ruizdequerol - 27/12/2017 a las 17:44:16.

    Effectes col·laterals

    Marc, Aquest tipus de reflexions seran cada cop de més actualitat. És cada cop més evident que l'acceptació acrítica de tecnologia == progrés equival a acceptar sense reflexió els efectes col·laterals del del desenvolupament tecnològic. Tinc per això sempre present un avís de Langdon Winner ("La Ballena y el Reactor": "En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado."
    López Forn - 02/02/2018 a las 12:08:28.

    Més exemples

    Gràcies Ricard per la referència, i disculpa la demora en la resposta! Si no recordo malament, aquesta entrada es va penjar dos dies abans de que es publiqués la notícia de que alphazero, una intel·ligència artificial de Deep Mind, amb només 4 hores d'autoaprenentatge apallissés a la campiona del món de les computadores d'escacs. Ens espera un futur distret, que sigui utòpic o distòpic ja dependrà de com decidim crear i gestionar la tecnologia!

    Deja tu comentario:

X

Suscríbete a nuestro boletín

¿Quieres recibir las convocatorias del PEMB? Suscribirme ahora
Esta web utiliza cookies, puedes ver nuestra política de cookies, aquí. Si continúas navegando estás aceptándola.   
Política de cookies +