La potente observación que hace base en Silicon Valley acuñando el termino human downgrading, «degradación humana» en español, pone en jaque el paradigma tecnológico actual. Mientras que plantea la necesidad de construir una tecnología más humanista.
Al escuchar estas afirmaciones, es imposible no pensar en la trama que encarnó la trilogía Matrix, y que presentaba en un futuro distópico el devastador rol que podrían desempeñar la inteligencia artificial y la supremacía de los algoritmos sobre la especie humana. Aunque la obra cinematográfica va un poco más allá, dentro de los polos tecnológicos mundiales, ya trabajan ese concepto, como una metáfora cada vez más real.
Este es el caso del científico informático Tristan Harris y su socio Randima (Randy) Fernando, cofundadores del Center for Humane Technology (CHT, Centro para la Tecnología Humana), una organización sin fines de lucro cuya misión es «revertir la degradación humana» y «realinear la tecnología con nuestra humanidad».
Según una entrevista que dio a BBC mundo, Tristan Harris expone como los algoritmos apuntan a la parte más primitiva de nuestro cerebro, captan nuestra atención, crean adicción y terminan degradando la propia evolución humana.
Con la misma hipótesis que se esgrime en el documental de Netflix The Social Dilemma («El dilema de las redes sociales») Harris expone esta cuestión. La misma está ligada a la llamada «economía de la atención», y cómo las empresas monetizan nuestra atención a través de las redes sociales y otras tecnologías digitales.
Degradación humana
En la conversación, Harris comentó que tras renunciar a su puesto como programador ético de Google, estaba muy interesado en la atención plena (midfulness). “Comencé a darme cuenta que estaba en contra de cómo la ‘economía de la atención’ compite constantemente para entrenar nuestras mentes de forma distinta”, explica.
“La economía de la atención es una adversaria de la atención plena” asegura Harris.
“A las empresas les resulta muy fácil configurar perfiles sobre nosotros en base a la información que compartimos en las redes sociales, y comparten esa información con los anunciantes. Este modelo de negocio hace que nuestra atención se vuelva vital y además no se fundamenta en nuestros intereses, sino en los de los anunciantes”, detalla.
En el Centro para la Tecnología Humana, el concepto principal es humanizar los algoritmos para potenciar las capacidades de las personas. Saliendo del objetivo común de las empresas de entretenimiento en generar placer en fuertes dosis de dopamina.
“Gran parte del trabajo que hacemos tiene que ver con la mente, con las adicciones y con cómo combatirlas; con la meditación y con el bienestar emocional. También con la democracia y la polarización, con la tergiversación de la verdad. Todos esos temas están interrelacionados y vinculados a la «degradación humana» (human downgrading)” agrega Harris.
A lo que agrega, “Nosotros la describimos como algo cíclico: a medida que hemos ido mejorando y actualizando nuestras máquinas, hemos degradado a los seres humanos. Y debería haber sido al revés. Eso es algo que se repite constantemente”.
“La ‘degradación humana’ ha sobrepasado algunos límites importantes. Ahora eso está empezando a preocuparnos», advierte.
La antiética empresarial
En este sentido, Harris considera que poco a poco, “Vamos siendo conscientes de cómo las notificaciones tratan de «secuestrar» nuestra atención. Si los diseñadores lo usan a su favor pueden hacer que pasemos más tiempo en su producto. Atraen nuestra atención para que nos fijemos en ciertos elementos a través de aspectos como el brillo de la pantalla y otros pequeños trucos».
“Y ya no sabemos qué es real y qué no. Los deepfakes (videos con personas aparentemente reales modificados con inteligencia artificial) son un buen ejemplo de ello”, agrega.
A su vez, el científico advierte que si bien el cerebro humano es ilimitado y maravilloso, tiene sus puntos débiles, y ellos lo saben. “Las fuerzas del mercado han seguido usando las nuevas tecnologías a su favor para incrementar las ventas. A los analistas les fascina buscar nuevas maneras de usar la tecnología a su favor y transformar esas tendencias en dinero”.
Ante esto, propone que ante un negocio que “¡Mueve billones de dólares! Pero podemos actuar en dos niveles: en primer lugar personal y en segundo, colectivo”.
El primer paso empieza realmente por educarnos al respecto. En el plano personal podemos hacer cosas vitales como limitar las notificaciones, usar menos las plataformas digitales, cambiar lo que mostramos en ellas y nuestras interacciones en línea. Básicamente, entender cómo estamos siendo manipulados y actuar en consecuencia.
En el plano colectivo “estamos creando un espacio para permitir que la gente exprese sus preocupaciones. Uno por uno no hacemos mucho, pero entre todos tenemos fuerza. Cuando nos unimos es cuando podemos provocar un cambio real. Esto es muy importante porque la ‘degradación humana’ nos está cambiando como sociedad”, concluye.
