El éxito de Facebook se basó en algoritmos. ¿Pueden también arreglarlos?

urielblanco

(CNN) — Para miles de millones de personas en todo el mundo, Facebook puede ser una fuente de fotos de bebés bonitos, de desinformación sobre vacunas y otras cosas más, y todo ello aparece en nuestros feeds con la ayuda de algoritmos.

Ahora, horas de testimonio y miles de páginas de documentos de la denunciante de Facebook Frances Haugen reavivaron el escrutinio del impacto que Facebook y sus algoritmos tienen en adolescentes, la democracia y la sociedad en general.

Las repercusiones han planteado la cuestión de hasta qué punto Facebook, y quizás las plataformas similares, pueden o deben replantearse el uso de una serie de algoritmos para determinar qué imágenes, videos y noticias ven los usuarios.

La mirada se centra en el algoritmo de Facebook que recomienda contenidos

¿Cómo funciona la inteligencia artificial de Facebook? 1:09

Haugen, exgerente de producto de Facebook con experiencia en “gestión de productos algorítmicos”, centra sus críticas principalmente en el algoritmo de la empresa diseñado para mostrar a los usuarios los contenidos con los que es más probable que participen.

Según ella, este algoritmo es el responsable de muchos de los problemas de Facebook, como el fomento de la polarización, la desinformación y otros contenidos tóxicos. En una aparición en el programa “60 Minutes”, dijo que Facebook entiende que si hace que el algoritmo sea más seguro, “la gente pasará menos tiempo en el sitio, hará clic en menos anuncios y ganará menos dinero”.

El CEO de Facebook, Mark Zuckerberg, ha rebatido la idea de que la empresa prioriza las ganancias sobre la seguridad y el bienestar de los usuarios.

La directora de gestión de políticas globales de Facebook, Monika Bickert, dijo en una entrevista con CNN, tras la comparecencia de Haugen en el Senado el martes, que “no es cierto” que los algoritmos de la empresa estén diseñados para promover el contenido incendiario, y que Facebook hace “lo contrario” al degradar el llamado click-bait.

“Creo que no queremos que las computadoras decidan en qué nos centramos”

En algunos momentos de su testimonio, Haugen pareció sugerir un replanteamiento radical de cómo debería funcionar el feed de noticias para abordar los problemas que presentó a través de una amplia documentación de la empresa. “Soy una firme defensora de la clasificación cronológica, del ordenamiento por tiempo”, dijo en su testimonio ante un subcomité del Senado la semana pasada. “Porque creo que no queremos que las computadoras decidan en qué nos centramos”.

Pero los algoritmos que eligen lo que vemos son fundamentales no solo para Facebook, sino para numerosas plataformas de medios sociales que siguieron los pasos de Facebook. TikTok, por ejemplo, sería irreconocible sin los algoritmos de recomendación de contenidos. Y cuanto más grande es la plataforma, mayor es la necesidad de algoritmos para filtrar y clasificar el contenido.

Los algoritmos no van a desaparecer. Pero hay formas de que Facebook los mejore, según explicaron expertos en algoritmos e inteligencia artificial a CNN Business. Sin embargo, esto requerirá algo que Facebook ha parecido hasta ahora reacio a ofrecer (a pesar de los argumentos de los ejecutivos): más transparencia y control para los usuarios.

Facebook es una de las redes sociales más grandes y más populares del mundo.

¿Qué hay en un algoritmo?

El Facebook actual, con un flujo constante de información y de anuncios (ambas cosas seleccionadas por algoritmos), es una red social muy diferente a la de sus inicios. En 2004, cuando Facebook se lanzó por primera vez como sitio para estudiantes universitarios, era más sencillo y tedioso de navegar: si querías ver lo que publicaban tus amigos, tenías que visitar sus perfiles de uno en uno.

Esto empezó a cambiar de forma importante en 2006, cuando Facebook introdujo el feed de noticias, que ofrecía a los usuarios una fuente de actualizaciones de la familia, los amigos y esa persona con la que tuvieron un par de malas citas. Desde el principio, Facebook utilizó algoritmos para filtrar el contenido que los usuarios veían en las noticias.

En un artículo de la revista Time de 2015, el director de producto de la compañía, Chris Cox, dijo que la curación era necesaria incluso entonces porque había demasiada información para mostrarla toda a cada usuario. Con el tiempo, los algoritmos de Facebook evolucionaron y los usuarios se acostumbraron a que los algoritmos determinaran cómo se presentaría el contenido de Facebook.

¿Qué es un algoritmo?

Un algoritmo es un conjunto de pasos o instrucciones matemáticas, especialmente para una computadora, que le dicen qué hacer con ciertas entradas para producir ciertos resultados. Es como una receta de cocina en la que los ingredientes son las entradas y el plato final es el resultado. En Facebook y otras redes sociales, sin embargo, tú y tus acciones -lo que escribes o las imágenes que publicas- son las entradas. Lo que la red social te muestra, ya sea una publicación de tu mejor amigo o un anuncio de material de camping, es el resultado.

En el mejor de los casos, estos algoritmos pueden ayudar a personalizar los feeds para que los usuarios descubran nuevas personas y contenidos que coincidan con sus intereses en función de su actividad previa.

Luego, en el peor de los casos, como señalan Haugen y otros, corren el riesgo de dirigir a la gente hacia agujeros problemáticos que pueden exponerlos a contenidos tóxicos y a la desinformación.

Y en ambos casos, hacen que la gente se quede más tiempo navegando, lo que puede ayudar a Facebook a ganar más dinero mostrando a los usuarios más anuncios.

Múltiples algoritmos

Muchos algoritmos trabajan en conjunto para crear la experiencia que se ve en Facebook, Instagram y otros lugares en línea. Esto puede hacer que sea aún más complicado averiguar lo que ocurre dentro de estos sistemas, especialmente en una gran empresa como Facebook, donde varios equipos construyen varios algoritmos.

“Si algún poder superior se dirigiera a Facebook y le dijera: ‘Arregla el algoritmo en XY’, sería realmente difícil porque se han convertido en sistemas realmente complejos con muchas entradas, muchos pesos, y son como múltiples sistemas trabajando juntos”, dijo Hilary Ross, directora de programas del Berkman Klein Center for Internet & Society de la Universidad de Harvard y gerente de su Instituto para Reiniciar las Redes Sociales.

Cómo un mensaje de LinkedIn sentó las bases para la denuncia sobre Facebook

Más transparencia

Sin embargo, hay formas de hacer que estos procesos sean más claros y que los usuarios tengan más voz en su funcionamiento.

Margaret Mitchell, que dirige la ética de la inteligencia artificial para el constructor de modelos de IA Hugging Face y que anteriormente codirigió el equipo de ética de la inteligencia artificial de Google, cree que esto podría hacerse permitiendo ver los detalles de por qué se ve lo que se ve en una red social, como en respuesta a las publicaciones, los anuncios y otras cosas que se miran y con las que se interactúa.

“Incluso puedes imaginar que tienes algo que decir al respecto. Podrías seleccionar preferencias para el tipo de cosas que quieres que se optimicen para ti”, dijo, como la frecuencia con la que quieres ver el contenido de tu familia inmediata, tus amigos del instituto o las fotos de tu bebé. Todas estas cosas pueden cambiar con el tiempo. ¿Por qué no dejar que los usuarios los controlen?

La transparencia es clave, dijo, porque incentiva el buen comportamiento de las redes sociales.

Algunas propuestas

Según Sasha Costanza-Chock, directora de investigación y diseño de la Algorithmic Justice League, otra forma de empujar a las redes sociales hacia una mayor transparencia es aumentar las auditorías independientes de sus prácticas algorítmicas.

La idea es que esto incluya a investigadores totalmente independientes, periodistas de investigación o personas dentro de los organismos reguladores -no las propias empresas de redes sociales o las empresas que contratan- que tengan los conocimientos, las habilidades y la autoridad legal para exigir el acceso a los sistemas algorítmicos con el fin de garantizar que no se violen las leyes y se sigan las mejores prácticas.

James Mickens, profesor de ciencias informáticas en Harvard y codirector del Berkman Klein Center’s Institute for Rebooting Social Media, sugiere que se estudien las formas en que se pueden auditar las elecciones sin revelar información privada sobre los votantes (por ejemplo, a quién votó cada persona) para saber cómo se pueden auditar y reformar los algoritmos. Cree que eso podría dar algunas ideas para construir un sistema de auditoría que permitiera a personas ajenas a Facebook supervisar mientras se protegen los datos sensibles.

Otras métricas para el éxito

Instagram y publicidades, ¿cuánto gana por ellas? 3:08

Un gran obstáculo, según los expertos, para lograr mejoras significativas es el enfoque actual de las redes sociales en la importancia del enganche, o la cantidad de tiempo que los usuarios pasan desplazándose, haciendo clic e interactuando de otra manera con las publicaciones y los anuncios de las redes sociales.

Haugen reveló documentos internos de Facebook que demuestran que la red social es consciente de que sus “mecánicas de producto principales, como la viralidad, las recomendaciones y la optimización de la participación, son una parte importante” de las razones por las que el discurso de odio y la desinformación “florecen” en su plataforma.

Cambiar esto es difícil, dijeron los expertos, aunque varios coincidieron en que puede implicar tener en cuenta los sentimientos de los usuarios cuando usan las redes sociales y no solo la cantidad de tiempo que pasan usándolas.

“El enganche no es sinónimo de buena salud mental”, dijo Mickens. Sin embargo, ¿pueden los algoritmos ayudar realmente a solucionar los problemas de Facebook? Mickens, al menos, tiene la esperanza de que la respuesta sea afirmativa. Cree que pueden optimizarse más hacia el interés público. “La pregunta es: ¿qué convencerá a estas empresas para que empiecen a pensar de esta manera?

En el pasado, algunos habrían dicho que se necesitaría la presión de los anunciantes, cuyos dólares apoyan estas plataformas. Pero en su testimonio, Haugen pareció apostar por una respuesta diferente: la presión del Congreso.

The-CNN-Wire
™ & © 2021 Cable News Network, Inc., a WarnerMedia Company. All rights reserved.