“En el invierno de 2018 organizamos un encuentro de científicos interesados en investigar los impactos de las tecnologías en la sociedad actual. La reunión fue en Punta del Este, Uruguay, y participaron especialistas de una docena de países. Uno de nuestros invitados era George Siemens, quien por complicaciones de agenda no pudo sumarse personalmente, pero dio la charla de manera remota. Aunque muchos imaginaban que hablaría sobre algunos de sus trabajos vinculados al conectivismo, analíticas de aprendizaje o cursos masivos en línea, su charla giró en torno a la relación entre inteligencia humana y artificial. Exploró los costes de dejar de utilizar la inteligencia artificial simplemente como un recurso complementario para convertirla ahora en una herramienta capaz de pensar con nosotros. Nuestra cognición ya no solo se distribuye a través de las redes sociales, sino también a través de herramientas tecnológicas y sistemas de inteligencia artificial. Este fenómeno analizado en gran escala abriría camino a una suerte de cognición sociotécnica distribuida, agregó.” (p. 82)

       “Durante su presentación utilizó una metáfora que llamó mi atención. Siemens indicó que vivimos bajo una capa o piel global de datos (global data skin) y que esta articula una parte importante de las transformaciones sociales y tecnológicas que hoy están ocurriendo. Esta capa no solo está presente en todo orden de cosas, sino que además incide en la manera en que nosotros observamos la realidad. Esta mirada en alguna medida dialoga con la idea de la «datificación» de la sociedad que contiene el concepto  de dataísmo popularizado por Harari. El dataísmo 7 puede entenderse como un enfoque filosófico o ideología que concibe a la especie humana como un único sistema de procesamiento de datos. Bajo esta mirada uno de los objetivos sería lograr maximizar el flujo de datos mediante la conexión de muchos o todos los medios. Este enfoque sugiere que las personas somos información porque producimos, registramos, compartimos y consumimos información todo el tiempo.” (p. 82) 

       “El dataísmo transforma todo en un formato de datos. El paradigma basado en datos constituye el núcleo de los procesos y las prácticas del siglo XXI. La vida ahora se transforma en datos cuantificables y bajo esta perspectiva se legitima como medio para acceder, comprender y controlar el comportamiento de las personas 8 . El dataísmo plantea que si se cuenta con suficientes datos biométricos y poder de cómputo se podría entender a los humanos mucho mejor de lo que lo hacemos hoy. Una vez que los sistemas de Big Data me conozcan mejor que yo, la autoridad cambiará de los humanos a los algoritmos. Entonces, eventualmente las personas podrían ceder a los algoritmos la autoridad para tomar las decisiones más importantes en sus vidas.” (p. 84) 

      “Este concepto que transita entre la sátira y, a la vez, el fervor, dependiendo a quién se le consulte, ofrece el discurso perfecto para quienes comercializan nuestros datos.” (p. 84) 

       “También existe el contrapeso de los datoescépticos. Este sector advierte sobre las limitaciones y vicios que encontramos en la era de los datos masivos, y no sólo en relación con los abusos a la privacidad. Vivimos en una realidad compleja, pero al hacer una consulta a un algoritmo no hay magia, sino una abstracción o reinterpretación de la información sobre la base de los datos disponibles. Ese proceso de reinterpretación es susceptible de innumerables omisiones, sesgos, supuestos, errores, etc., aunque es cierto que la capacidad de procesamiento de información de estas herramientas puede ser gigantesca (ver Big Data). Pero no hay que perder de vista que la interpretación de estos volúmenes masivos de datos es también el resultado de una forma de entender o de ver la realidad, un conjunto de pasos lógicos que buscan resolver un problema, y para ello es necesario priorizar ciertos valores o variables sobre otros. ¿Existe riesgo de utilizar algoritmos a gran escala e incorporar errores u omisiones que discriminen injustamente a los perfiles más vulnerables? (p. 85)

        “ (...)Esto no es a priori negativo ni positivo, pero no está libre de consecuencias. Es una forma de entender la realidad, el problema está cuando desconocemos que los algoritmos ofrecen una economía de la abstracción que simplifica (o manipula) la realidad con la que interactuamos. Los algoritmos filtran la realidad, ignoran la especificidad de los contextos, valoran algunos datos sobre otros y nos muestran una realidad intervenida que destaca algunos servicios, ideas o verdades sobre otros. Es decir, consumimos una versión «photoshopeada» e «instagrameada» (que pasa por el editor de imágenes) de la verdad pensando que es la propia realidad. Los conflictos se  producen cuando creemos que la información que entrega un conjunto de algoritmos (por ejemplo: el resultado de búsqueda, una ruta en un mapa o la popularidad de alguien en línea) es la realidad en sí. Entonces es cuando se genera una relación de asimetría, de poder o de dependencia entre quien crea o administra la plataforma y quien consume los servicios de información ofrecidos. (p.85) 

       “Los algoritmos pueden entenderse como sistemas simbólicos que operan en la intersección entre cognición y realidad, por lo tanto, son agentes intermediarios que permiten filtrar o manipular una realidad en particular. A medida que los algoritmos tienen más relevancia en la vida social, se convierten en máquinas culturales que operan en la intersección entre código y cultura. Hoy se han ido transformando en  herramientas para pensar, interpretar e interactuar con la realidad. Dado que no es necesario saber construir un algoritmo complejo para poder utilizarlo, las personas los utilizan en todo momento sin ser conscientes de ello. El riesgo está en que mientras más ubicuos son los algoritmos como dispositivos culturales, más pareciéramos confiar en sus capacidades. 

      “Las decisiones tomadas por algoritmos limitan la neutralidad. Los algoritmos, pero también los términos y condiciones de las compañías que los crean, filtran la información que millones de personas alrededor del mundo leen y comparten diariamente 10 . Si ignoramos el sesgo intrínseco de estas herramientas, entonces tenemos problemas cuando buscamos información en Google. Si obviamos los intereses comerciales latentes al utilizar las redes sociales, desconocemos la manipulación que estas traen consigo. Si olvidamos que las noticias que circulan por internet pueden responder a ciertos intereses comerciales y/o políticos, entonces adquirimos una posición de vulnerabilidad. Si desconocemos las debilidades de wikipedia o YouTube, podemos dar por verdad algo que no necesariamente lo es. Si desconocemos que la internet con la que interactuamos es simplemente una versión a medida o ajustada a nuestros perfiles, entonces estamos «eligiendo no elegir». Parafraseando a Marshall McLuhan, hoy el filtro es el mensaje. La capacidad de discriminar, ponderar, contrastar y contextualizar la información juega un papel crítico cada vez que utilizamos internet o nos relacionamos con otros a través de una tecnología digital.” (p. 86) 

A nivel social e individual ¿Cómo salir del ascensor? 

       “En los años 60, Solomon Asch4, un reconocido psicólogo social, realizó un experimento que consistía en ubicar a varios actores profesionales dentro de un ascensor y a un individuo (el sujeto estudiado), que no sabía que era parte de un experimento, ni que el ascensor estaba siendo grabado. Durante el experimento todos los actores,  confabulados, cambiaban de posición al mismo tiempo mirando en dirección opuesta a la puerta, y el individuo, aunque extrañado por la situación, terminaba por girarse también para sumarse al grupo. Este famoso experimento buscaba demostrar cómo en el grupo se diluye la individualidad y cómo las personas buscan conformarse con la norma. Asch demostró cómo una persona puede llegar a perder su individualidad para no quedar mal socialmente.

      Siguiendo esta metáfora de la psicología social, hoy el desafío está en ser capaz de «salir del ascensor». La mejor manera de tener pensamiento independiente es poder alejarse de lo que dice la multitud. Para ello es fundamental contar con una ciudadanía proactiva que «elija elegir», que cuente con herramientas para pensar y actuar críticamente. Para «salir del ascensor» hay que aprender a cuestionar todo, aunque a veces nos lleve a rincones incómodos. ¿Por qué cedemos tantos privilegios a las empresas de servicios digitales para que tengan el control de nuestra vida privada?.

     ¿Cómo «salir del ascensor»? Resulta fundamental desarrollar un conjunto de habilidades y nuevos alfabetismos de información, de uso de datos y de medios de comunicación que nos permitan navegar en contextos complejos e híbridos que parecieran rendir tributo al «dataísmo», que aquí entendemos como «alfabetismo digital crítico», es decir, el conjunto de habilidades necesarias para comprender crítica y ampliamente los medios digitales y sus implicaciones sociales, económicas y políticas. Para desarrollar esta mirada es necesario seguir avanzando con la ciudadanía hacia habilidades digitales más complejas que escapen de fórmulas mágicas o inmediatistas.” (p. 96) 

      “Si bien la tecnología puede ayudar tanto en el trabajo cotidiano como en las actividades sociales, las personas no deben perder de vista la importancia de las conexiones humanas como un fin en sí mismo. Hoy se observa un creciente consenso sobre la relevancia de abordar y promover el desarrollo de un amplio espectro de competencias a través de las diferentes formas y espacios de educación y capacitación. Esto incluye tanto habilidades cognitivas de orden superior como otras de tipo socioemocionales como, por ejemplo, la empatía, el trabajo en equipo, la colaboración, la resolución de problemas, la autorregulación, el pensamiento crítico y la capacidad de establecer conexiones entre diferentes formas de acceder y crear conocimiento. Desarrollar capacidades tecnológicas, instrumentales y cognitivas no debe plantearse sin tener en cuenta el componente social aquí descrito. En esta era de la hipercomplejidad, la falsa simplicidad y el reduccionismo parecen el mejor atajo. Sin embargo, es fundamental estimular nuevas formas de pensar y de actuar. Estas capacidades no solo juegan un papel crítico para distinguir hoy en día entre las diferentes expresiones de la brecha digital, sino que también son una forma de contrapoder que contribuye a actuar frente a las asimetrías existentes. Para comprender que la tecnología no es neutra es clave adoptar una perspectiva más holística y transdisciplinar. Esta apertura es necesaria no solo para analizar la realidad desde su complejidad, sino principalmente para poder intervenir sobre ella.” (p. 97)

       “Entre otras cosas, es fundamental para generar las condiciones que permitan a más personas tener opciones para desarrollar un conjunto de conocimientos y habilidades  cognitivas como, por ejemplo, el alfabetismo digital crítico, el pensamiento computacional, el alfabetismo de datos o el alfabetismo de redes. Ello implicaría que las instituciones de educación formal sean capaces de dejar atrás el divorcio disciplinar y el pensamiento departamental que desagrega, desconecta y desvincula a las disciplinas entre sí, para poder avanzar hacia formas más complejas de entender la realidad. Por ejemplo, dejar de desvincular a las humanidades y las disciplinas llamadas STEM (acrónimo en inglés que hace referencia a Ciencia, Tecnología, Ingeniería y Matemáticas). La resolución de los problemas del mundo cambiante y complejo requiere un tipo de pensamiento mucho más sofisticado, pero también más cercano a la realidad. Comprender las implicaciones sociales de la tecnología es crítico para entender las asimetrías y concentraciones de poder que hoy existen.” (p.98) 

        “Mecanismos institucionales y alternativos, tanto normados como sociales, son necesarios para dar espacio a nuevas formas de pensar la era actual. Distintos espacios tanto para el aprendizaje formal como informal pueden transformarse en una oportunidad para contribuir a que las personas sean más conscientes de cuáles son nuestros filtros y sesgos para interpretar la realidad. Es necesario comprender que las diversas formas de manipulación y de poder pueden ser aparentemente invisibles en los espacios digitales. Internet se parece a una fábrica de datos y a veces actuamos como consumidores adoctrinados que nos ceñimos a las reglas que imponen unos pocos pero influyentes intermediarios digitales. Por supuesto, solo porque sabes que estás siendo manipulado no significa que puedas resistirte o liberarte de ello. Por eso no basta con destacar la importancia de formar nuevas capacidades en la ciudadanía, sino que también se necesita formar agentes de cambio capaces de intervenir en la realidad que nos rodea. El pensamiento crítico debe alentar a las personas a participar de manera reflexiva y deliberada sin que ello impida explorar las ambigüedades de la realidad en la que vivimos. El papel de la educación es crítico para formar agentes de cambio, y ello guarda relación con estimular nuevas formas de autorregular nuestras capacidades cognitivas, nuestras habilidades, así como nuestros comportamientos. Las instituciones que promueven el aprendizaje tendrían que poder responder a esta simple pregunta: ¿cómo ayudar a los individuos a aprender por su cuenta y a pensar críticamente frente a estos desafíos? Ello implica dar más brújulas para la exploración en vez de tantos mapas. Esto implica aprender a autorregular y a autoadministrar los procesos de aprendizaje independientemente del contexto en que ocurren.” (100)