Cómo los algoritmos empobrecen la cultura

El auge de los flujos algorítmicos en redes y plataformas

Los flujos de información algorítmicos, que determinan el contenido que aparece en redes y plataformas según las interacciones previas y la huella digital del usuario, han ido ganando peso frente a los basados en nuestras suscripciones o seguidos.

Los algoritmos son conjuntos de pasos o instrucciones ordenadas que reciben información (inputs), la procesan de un modo predefinido o aprendido por el sistema y, a través de ese proceso, generan unos resultados (outputs). No son algo nuevo. Lo que sí es más novedoso es la posibilidad de nutrirlos con cantidades ingentes de información y datos a tiempo real, como ocurre en las plataformas digitales y redes sociales. Un ejemplo: los algoritmos de una red social recogen datos sobre las cuentas que sigo, mis “me gusta”, el contenido que guardo y en qué vídeos me detengo. Esas acciones se traducen en señales de interés que el sistema pondera, con unos pesos definidos por los diseñadores, o que se ajustan automáticamente mediante técnicas de aprendizaje automático, en función de patrones detectados en millones de usuarios. Con esa información, el algoritmo estima la probabilidad de que interactúe con cada publicación y prioriza en mi muro aquellas que considera que pueden ser más atractivas.

De este modo, los algoritmos automatizan la toma de decisiones sobre el contenido a mostrar. Ya no se precisa tanto de humanos decidiendo contenidos, sino que el sistema establece unos criterios a valorar, y aprende y recalcula continuamente.

Esto permite ofrecer al usuario un contenido a priori más personalizado, aunque no necesariamente más diverso, ya que tiende a reforzar lo que más consumimos. Además, asegura un flujo incesante y casi infinito de contenidos: si una publicación no suscita interés rápidamente, siempre habrá otra a continuación dispuesta a ocupar su lugar. Es por esto por lo que los flujos algorítmicos resultan tan adictivos y por lo que las redes sociales y plataformas que los han adoptado dominan el mercado digital actual.

Las externalidades de los flujos algorítmicos

El medio y la forma como consumimos arte y cultura influyen en la forma del arte y la cultura. La radio contribuyó a acortar las canciones; la fotografía impactó en la pintura, llevando a muchos a explorar estilos menos realistas; y la televisión y el auge de los vídeos musicales hicieron que la música se concibiera de forma más visual. Los creadores han adaptado siempre sus creaciones al medio por el que se transmiten.

Los medios digitales tienen grandes ventajas. Por un lado, la posibilidad de comunicarnos y promocionarnos online, sin necesidad de pasar por discográficas, museos u otras instituciones, permite democratizar el acceso a la creación y derribar algunas barreras de entrada al circuito cultural. Así mismo, permite conocer, como consumidores, otras tendencias al margen de las masivas. Gracias a internet han proliferado artistas emergentes y que autoproducen sus obras, y las comunidades especializadas entran más fácilmente en contacto, lo que sin duda enriquece la cultura. Sin embargo, estos aspectos positivos están siendo contrarrestados por otras dinámicas asociadas al uso de flujos algorítmicos en redes y plataformas. En lo que sigue explico como creo que los algoritmos contribuyen a homogeneizar y empobrecer la cultura.

En primer lugar, hay que tener en cuenta que, debido a su mayor centralidad, el contenido que visualizamos está cada vez menos determinado por decisiones propias deliberadas, como los perfiles que seguimos. En cambio, la oferta de contenido depende más de decisiones automatizadas tomadas por empresas, que promocionan un tipo de contenido u otro dependiendo de tu comportamiento online previo. Uno puede argumentar que los feeds algorítmicos, en la medida que se alimentan de nuestro comportamiento previo -clics, búsquedas, me gustas, etc.-, también responden de alguna manera a nuestras preferencias y gustos. Sin embargo, frente a las decisiones meditadas y deliberadas de los usuarios, los algoritmos presentan varios inconvenientes:

·         No son transparentes: no es posible saber cuáles son los criterios en que la red o plataforma usa para promocionar contenido. Algunos son sospechosos habituales -contenido que gusta a gente con gustos similares a los tuyos, expresados a través de reacciones online; contenido relacionado con el de compras o búsquedas previas, etc.-, pero no es posible saber a ciencia cierta en cada caso si son estas variables las que están ejerciendo influencia, o son otras.

De hecho, en ocasiones las empresas combinan estos criterios con otros establecidos de forma no transparente y arbitraria, como los derivados de acuerdos con otras compañías para promocionar sus productos, o los que surgen como producto de los sesgos ideológicos y culturales inherentes al equipo humano que diseña los algoritmos. Sabes lo que termina llegando a tu pantalla, pero no las razones por las que un tipo de contenido u otro aparece ahí.

De esta manera, el individuo es más proclive a asumir como neutral, conveniente, esperado o de sentido común lo que le viene dado, así como a reproducir los sesgos inherentes al modelo en cuestión.

·         No son neutrales: ni los flujos basados en el modelo de suscripción o seguidores ni los automatizados lo son realmente. Seamos nosotros mismos a través de nuestro comportamiento online, o quienes diseñan los algoritmos, en el proceso de generación y procesamiento de información plasmamos nuestros sesgos y prejuicios, sean estos más o menos evidentes. Sin embargo, con el primer modelo esos sesgos son más o menos conscientes, y cada persona responde ante ellos. Con los flujos algorítmicos no es posible saber qué sesgos introducen los modelos ni de qué forma, y las responsabilidades se diluyen.

En este sentido, sabemos que algunos algoritmos han contribuido a reproducir discriminaciones, desigualdades y estereotipos sociales. Los ejemplos son numerosos y reveladores: sistemas de reconocimiento facial que fallan más con mujeres y minorías étnicas, al estar infrarrepresentadas en los datos de entrenamiento; algoritmos de selección de personal que han penalizado currículos de mujeres, aunque fueran tan válidos como los de sus competidores, al verse influidos por patrones previos de segregación ocupacional; o programas que han sobreestimado el riesgo de reincidencia de personas negras en el ámbito penal. Al fin y al cabo, quienes producen y diseñan tecnología son seres humanos que, como tales, de manera más o menos sutil e intencionada, trasladan algunos de sus sesgos y prejuicios al desarrollar herramientas tecnológicas.

De este modo, los resultados que producen estos sistemas automatizados -a menudo presentados como técnicos o neutrales, como si no mediara ninguna decisión humana o como si los datos de entrada no reflejaran desigualdades o discriminaciones preexistentes- pueden, en realidad, contribuir a reforzar determinadas situaciones o visiones del mundo. Comprender cómo funcionan los algoritmos es una condición indispensable para revelar y/o hacer frente a los sesgos que pueden reproducir. En este sentido, la transparencia se erige como la principal punta de lanza frente a su inherente falta de neutralidad.

·         Se basan en nuestro pensamiento rápido: si bien los algoritmos responden de alguna manera a nuestros gustos y preferencias, lo hacen basándose ampliamente en lo que Kahneman describió como nuestro pensamiento rápido:  las decisiones intuitivas e irreflexivas que tomamos en el día a día, también en el ecosistema digital: los clics, los “me gusta”, y otras reacciones similares.

Aunque esta forma de pensar y actuar cumple funciones psicológicas, sociales y evolutivas clave -alivian nuestra carga mental, ya que no podemos valorar racionalmente cada pequeña decisión del día a día; evitan que cuestionemos constantemente las normas sociales; y que respondamos de forma lenta ante amenazas-, son decisiones ni deliberadas ni meditadas, sino espontáneas, impulsivas y superficiales. Que este pensamiento guíe nuestro consumo cultural inevitablemente afecta a la naturaleza y características del arte y la cultura. Al operar sobre nuestro pensamiento rápido, los algoritmos tienden a basarse en nuestras impresiones y reacciones de carácter más emocional e irreflexivo. Como resultado, premian un tipo de contenido -lo llamativo e impactante- frente a otro -lo sustancioso, reflexivo, innovador, complejo y riguroso-.

Por eso es más probable que se viralice un vídeo sobre un rifirrafe entre artistas que otro que describa de forma pormenorizada su obra. Este sistema de incentivos no contribuye a enriquecer nuestro corpus cultural y artístico. De esta manera, los flujos algorítmicos contribuyen a homogeneizar y empobrecer la cultura.

Frete a esta forma de consumo, la reflexión y el conocimiento son clave para valorar el arte en toda su amplitud y tener una experiencia cultural honda. Sin embargo, las principales redes y plataformas disponen de una infraestructura que penaliza este tipo de acercamiento al arte y la cultura y, en cambio, generan incentivos para la promoción de contenidos más superficiales.

Incentivos a creadores

Además, los algoritmos moldean la cultura a través de la creación de incentivos a creadores y consumidores. Dado que para tener visibilidad en redes y plataformas es necesario llamar la atención del algoritmo -de lo contrario, tu obra pasa desapercibida-, los creadores de contenido deben de ajustarse cada vez más a lo que los algoritmos premian: contenidos potencialmente viralizables, que sean susceptibles de ser ampliamente compartidos y de atraer a grandes masas de consumidores.

Frente a estas obras, que buscan el mínimo común denominador -lo que llame la atención de más gente e incomode a menos-, las que precisan de un conocimiento especializado y una atención más cuidada, que son a menudo las que terminan generando una mayor gratificación, a menudo se penalizan. Esto es preocupante si tenemos en cuenta cómo funciona la cultura a menudo: a todos nos ha ocurrido que un disco, en primera escucha, no nos llama la atención, para luego disfrutarlo conforme acumulamos escuchas y vamos apreciando sus matices, sutilezas y el contexto de la obra, y no solo la percibimos de forma aislada. Pues bien, la prevalencia de los flujos algorítmicos en el entorno digital penaliza este tipo de experiencia, que es la que nos conduce a un mayor disfrute.

Por razones similares ocurre que, de entre los emprendedores dispuestos a montar cafeterías a lo largo y ancho del mundo, cada vez más se decantan por el local genérico que domina en Pinterest e Instagram, con sus revestimientos crudos y de inspiración industrial, su sensibilidad minimalista, su café de especialidad y su orientación hacia un público específico: tanto los profesionales liberales como la clase aspiracional que trata de emularlos. Si uno quiere que su negocio reciba atención en el escaparate digital -y, por ende, en el real-, gracias a las redes los incentivos ahora se dirigen sobre todo hacia la adopción a ese modelo dominante, de manera que se termina desincentivando el desarrollo de arquitecturas, diseños y propuestas gastronómicas con sensibilidad local o especializada. De este modo, inevitablemente, se compromete la diversidad. De ahí que tantas cafeterías parezcan en realidad la misma, desde Madrid hasta Bangkok.

En la era en la que disponemos de más información y recursos a golpe de clic y literalmente a mano, ocurre que muchos de los lugares y productos de consumo y culturales tienden a ser cada vez más uniformes. Y esto es así, en gran parte, debido a las características inherentes y el funcionamiento de los flujos algorítmicos.

Algo similar ocurre con la música y otras expresiones artísticas. Para generar atención, o bien existe una fuerte determinación por parte del creador, o los incentivos terminan empujando hacia la producción de contenidos fácilmente consumibles: secuencias sonoras que capten la atención en espacios breves de tiempo, susceptibles de ser compartidas en clips breves -el formato estrella hoy en día, gracias a TikTok-, o que se alineen con las tendencias del momento. En contraste, las propuestas más arriesgadas y provocadoras, que se apartan de lo inmediato y requieren una atención pausada y reflexiva, tienen muchas menos probabilidades de ser promocionadas por el algoritmo y, en consecuencia, corren un mayor riesgo de pasar desapercibidas.

Imaginad el impacto que este sistema de incentivos podría haber tenido en el devenir histórico de la cultura. Muchas obras hoy consagradas fueron en su momento menospreciadas o incomprendidas. Esto ocurre porque el arte y la cultura son a menudo rompedores, innovadores y provocadores: tienen que abrir horizontes, sugerir nuevas formas de ver el mundo e invitar a la reflexión. Para lograrlo, estas obras suelen exigir un análisis detallado y un examen contextual: comprender qué aportan de novedoso, cómo interactúan con otras corrientes y qué mensaje buscan transmitir. Esto requiere un conocimiento amplio o, al menos, una curiosidad entusiasta. Sin nada de esto, no hablamos tanto de cultura como de meros objetos simbólicos o de consumo.

Pues bien, estas obras, que se alejan de lo que los algoritmos y los sistemas automáticos de aprendizaje identifican como potencialmente atractivo para millones de usuarios, pasarían desapercibidas. De este modo nos podríamos haber perdido La noche estrellada de Van Gogh por romper con los cánones pictóricos, La consagración de la primavera de Stravinski por resultar agresiva, y géneros musicales como el jazz o el rock por considerarse sonidos disonantes y estridentes. En su lugar, se difundirían contenidos que incomodan menos y se ajustan mejor al gusto consolidado de la mayoría, lo que conduciría a un estancamiento cultural. De este modo, nos perderíamos -nos estamos perdiendo, probablemente- muchas de las obras capaces de trascender en el largo plazo y aportar más riqueza a nuestra cultura, además de un mayor disfrute.

Como resultado, hoy en día tenemos acceso a más arte y cultura que nunca, pero los principales medios que lo canalizan a menudo premian sus formas más banales y superficiales. Por esta razón los discos -obras que generan un hilo narrativo coherente en su totalidad- han perdido relevancia cultural frente a los sencillos, y las canciones, los libros y la poesía tienden a ser cada vez efectistas y breves.

Al adaptarse a las nuevas formas de consumo, el arte y la cultura se transforman. Aunque esto ha ocurrido con cada innovación, hoy es más evidente que nunca que la oferta cultural está determinada no tanto por criterios de calidad como por su capacidad de generar una atención masiva a escala global -e ingresos publicitarios-.

Incentivos a consumidores

Desde el punto de vista del consumidor, ocurre que éste inevitablemente termina acostumbrándose y consumiendo mayormente el contenido más superficial y fácilmente consumible. Y esto ocurre no solo por conformismo y adaptación a las tendencias dominantes, sino porque la oferta llamativa y casi infinita del flujo algorítmico resulta adictiva. Los estímulos rápidos exigen de una menor atención, dedicación y esfuerzo cognitivo, y de ese modo procuran un entretenimiento más accesible.

La contrapartida es que las redes y plataformas son menos capaces de mostrarnos contenido artístico o cultural que trascienda: que amplíe los horizontes de nuestro gusto con productos innovadores y arriesgados; ofrezca nuevas perspectivas o matices sobre el mundo; o resulte provocador e invite a adoptar nuevas preguntas y enfoques.

Personalmente, muchas veces me he sorprendido pasando una cantidad absurda de tiempo deslizando el dedo por la pantalla, preguntándome por qué no dedico ese tiempo a escribir una canción o a un libro pendiente. La respuesta es sencilla: es mucho más fácil entregarse al estímulo fácil de la pantalla que coger un instrumento o enfrentarse a un texto largo. Sin embargo, una vez que superas la resistencia inicial y logras dedicar tiempo a la contemplación profunda de una obra cultural o a la práctica artística en cualesquiera de sus formas, la experiencia resulta infinitamente más satisfactoria. La intensidad de esa vivencia -real, dedicada, finita y situada en un tiempo y un espacio concretos- es incomparable; el conocimiento que aporta más hondo, y solo entonces los estímulos rápidos de los flujos algorítmicos pierden parte de su atractivo, aunque sea de forma temporal. Estos brindan una gratificación instantánea y efímera, pero no profunda.

Esto explicaría por qué, a pesar del atractivo de los flujos algorítmicos, todavía me resulta más placentero escuchar un disco en formato físico que en digital, o una lista de reproducción curada personalmente que una aleatoria. No se trata de fetichismo, sino simplemente de que el nivel de atención y el tipo de experiencia que ofrece una u otra difieren ampliamente: mientras que la enésima lista de reproducción de Spotify invita a saltar de una canción a otra, bajo la promesa de que siempre habrá algo a continuación que se ajuste mejor a tus gustos -con la permanente insatisfacción que eso genera-, una lista curada por otro humano garantiza la existencia de un criterio meditado que guía el compendio y asegura cierta afinidad o, al menos, un hilo del que seguir tirando. Por su parte, mientras que el disco físico invita a escucharlo entero, en ocasiones prestando atención a los créditos, las letras o su diseño, cuando una canción aparece en una lista aleatoria, desprovista de contexto y sin información complementaria, es menos probable que nos entreguemos apasionadamente a la obra. Por eso el primero suele emocionarme más y es bastante más probable que termine dejando huella.

En definitiva, el disfrute y los aprendizajes derivados del consumo de arte y cultura son inconmensurables, pero exigen esfuerzo, dedicación, y curiosidad. Sin nada de esto hablamos de meros objetos simbólicos -que generan identidad- y de consumo rápido.