Neutralidad y Transparencia de Algoritmos

El creador del polémico documental El Dilema Social, Jeff Orlowskien, aseguró recientemente en una entrevista que las “redes sociales están acabando con la democracia” [1]. Esta afirmación que coincide con lo expuesto por el cofundado de Facebook Chris Hughes, quien considera que esta compañía debe ser disuelta por el “incontrolable poder que ostenta” [2],  al tiempo que Donald Trump busca censurar a Tik Tok y Wechat en los Estados Unidos.

¿Es la Neutralidad de Algoritmos la solución al conflicto con los medios sociales?

Por: Gabriel E. Levy B. – www.galevy.com

En términos sencillos, un algoritmo es una secuencia de instrucciones que se le da a un software o sistema computarizado, para que ejecute una determinada tarea que simula un comportamiento autónomo. A solo unas décadas de haber comenzado el reinado de los algoritmos, estas rutinas son tan variadas y versátiles que impactan de forma directa en nuestras vidas.

Los algoritmos específicamente vinculados a los sistemas de bases de datos e información personal son responsables de la elaboración de muchos de los perfiles que evalúan aspectos transversales de la sociedad contemporánea, desde el rendimiento en nuestro trabajo hasta la situación económica, pasando por la publicidad que recibimos, nuestra salud, los lugares que visitamos y los contenidos que consumimos; es decir, datos que resumen nuestras vidas.

Si bien bancos, aseguradoras, gobiernos y empresas, cuya operación de basa en el manejo de información personal, han venido implementando con los años el uso de los algoritmos, no son ellos los principales gestores de estas tecnologías. Son las grandes compañías de internet denominadas popularmente como las “.com”, las que han venido recabando masivamente nuestra información y aplicándola en múltiples tipos de códigos computarizados, pudiéndose afirmar, casi con certeza, que nos conocen incluso mejor que nosotros mismos.

Compañías como Facebook, Alphabet Inc. (Propietaria de Google), Apple, Amazon, Netflix, Ebay o Tripadvisor, entre muchísimas otras, tienen acceso a información sobre aspectos de nuestras vidas que incluso los amigos y parientes ignoran. Saben qué tipo de contenido consumimos, nuestra ideología política, quienes son nuestros amigos y familia, que lugares visitamos, que comida nos gusta, cuáles películas vemos, qué tipo de fotos compartimos, con quién nos reunimos, que opinión tenemos frente a temas sensibles, con qué frecuencia nos conectamos a internet, que tipo de dispositivos poseemos y como los utilizamos. Por supuesto, esa información termina influyendo en el tipo de publicidad que recibimos, la información a la que estamos expuestos y los contenidos que se nos ofrecen en nuestros dispositivos, entre otras variables.

Nuestra información actúa como moneda de cambio, pues la gratuidad de servicios como el correo electrónico o las redes sociales se compensa con el uso de nuestros datos para fines publicitarios. No obstante, recientes escándalos, han demostrado que no solo es utilizada para fines publicitarios, sino para otros propósitos que han probablemente desborden los límites legales, tal y como ocurrió meses atrás con el escándalo de Facebook y la consultora Cambridge Analytica, tema que tratamos en el artículo La crisis de la privacidad en la era digital [6].

Los algoritmos obtienen la información de múltiples fuentes, la mayoría de ellas relacionadas con nuestro comportamiento en Internet, el cual, a partir de los hábitos de consulta, visualización, consumo y compra, determina un perfil sobre nosotros a partir del cual se hacen ofertas y se intenta manipular nuestro comportamiento.

La Neutralidad de Algoritmos

El tema de la Neutralidad de los Algoritmos ha sido ampliamente discutido por los académicos en la última década. Fue justamente el escándalo de Facebook y la empresa británica Cambridge Analytica, la que prendió las alarmas, poniendo al descubierto que nuestra información podría estar siendo utilizada para privilegiar intereses privados, políticos y económicos sin nuestra expresa autorización, rompiendo así las políticas y acuerdos de confidencialidad. Este es un perfecto ejemplo de una situación en la cual los algoritmos dejan de ser neutrales, es decir, cuando pasan a beneficiar un interés, persona u organización en perjuicio de otras personas, intereses u organizaciones. Así quedó documentado en muchas campañas políticas alrededor del mundo, en donde el algoritmo de Cambridge Analytic buscó beneficiar a un candidato en perjuicio de otros, usando una mezcla de estrategias que incluyó el uso de información de los votantes, especialmente sus miedos y temores más profundos, para exponerlos a contenidos, en su gran mayoría falsos, que buscaban inducir el voto [7].

En otros casos posiblemente lesivos, se ha demostrado que los algoritmos son utilizados para favorecer intereses comerciales. Tal es el caso de Amazon, que utiliza el código dentro de su propia tienda virtual para exhibir sus productos en los primeros lugares, por encima de todos sus competidores, o el caso de Google, que siempre exhibe en los primeros lugares búsquedas relacionadas con sus productos, es decir, si alguien escribe en el motor de búsqueda la palabra “correo electrónico”, le saldrá como primera opción “GMail”. Por este tipo de prácticas, Google recibió una millonaria sanción de 5 mil millones de dólares por parte de la Unión Europea, quien consideró en la sentencia que la empresa “bloquea la innovación abusando de su posición dominante”, entre otras cosas “a través de la configuración del algoritmo de su motor de búsqueda” [8].

Discriminación efectiva

Pero dicha Neutralidad no solo se rompe cuando se busca beneficiar una causa en perjuicio de otra o al favorecer una marca comercial; también ocurre cuando el algoritmo ejerce algún tipo de discriminación. Tal es el caso de un software para procesos judiciales de origen estadounidense llamado COMPAS, el cual es utilizado por el sistema de justicia en al menos diez estados, en donde los jueces lo utilizan como ayuda para emitir sentencias. Este algoritmo se basa en estadísticas criminales y en varias ocasiones diversas organizaciones sociales y abogados litigantes han denunciado que, si el incriminado es de origen latino o de raza negra, el software tiende a calificar al sospechoso como “de alto riesgo de cometer nuevos crímenes” [9]. Un análisis de más de 10.000 acusados en el estado de Florida publicado en 2016 por el grupo de investigación ProPublica, mostró que las personas negras eran a menudo calificadas con altas probabilidades de reincidir, mientras que los blancos eran considerados menos proclives a cometer nuevos crímenes [10].

Transparencia de Algoritmos

A partir de la persecución que el presidente Donald Trump decidió emprender contra las empresas chinas, y muy particularmente contra Tik Tok, un medio social líder entre los niños y adolescentes, el CEO de la compañía, Kevin Mayer, aseguró que la empresa revelará los algoritmos que guían sus políticas de moderación de contenidos, para lo cual anunció el lanzamiento del Centro de Transparencia y Rendición de Cuentas para moderación y uso de datos:

“Creemos que todas las compañías deben revelar sus algoritmos, políticas de moderación y flujos de datos a los reguladores. No esperaremos que venga la regulación, en cambio TikTok da el primer paso al lanzar el Centro de Transparencia y Rendición de cuentas para moderación y prácticas de datos. Los expertos pueden observar nuestras políticas de moderación en tiempo real, así como examinar el código que guía nuestros algoritmos. Esto nos pone un paso adelante de la industria y alentamos a otros a seguir el ejemplo”, Kevin Mayer Cep de TIK TOK [11].

Posterior a las declaraciones del CEO de Tiktok, Jack Dorsey, CEO de Twitter, anunció que la red social del pájaro azul evalúa implementar un mecanismo similar, que garantice mayor transparencia:

“Necesitamos abrirnos y ser transparentes sobre cómo funciona nuestro algoritmo y cómo se utiliza. Tal vez, inclusive, permitamos que las personas elijan o creen sus propios algoritmos para clasificar el contenido. Ser así de abiertos, creo, sería bastante increíble”, dijo Dorsey durante una entrevista en “The Daily”, podcast que conduce Michael Barbaro en New York Times [12].

En conclusión, el desbordado crecimiento de los medios sociales en los últimos años se ha convertido en uno de los mayores dolores de cabeza para las democracias occidentales, y también en un incuantificable factor de riesgo para favorecer intereses en perjuicio de la libre competencia, la pluralidad y el acceso equitativo. Su desarrollo puede promover, intencional o accidentalmente, una discriminación efectiva prejuiciosa, que puede vulnerar severamente los derechos de grupos sociales específicos y alterar el orden social justo.

Es por todo lo anterior que los gobiernos y organismos regulatorios alrededor del mundo, deben promover acciones regulatorias que garanticen la Neutralidad de los Algoritmos como un tema urgente y prioritario en las agendas, al tiempo que deben diseñar políticas que definan reglas de juego claras para estos códigos de software. La meta es proteger la innovación en el sector, bloqueada a menudo por la posición dominante de algunas compañías y al tiempo asegurar el respeto integral de los derechos civiles de los ciudadanos, del mercado y la competencia sana. Las grandes compañías tecnológicas deberían seguir el ejemplo de TikTok y Twitter y transparentar sus códigos, permitiendo que los usuarios y expertos conozcan con claridad la forma en que trabajan los medios sociales.

Lo anterior podría garantizar una sana convivencia entre las redes, los usuarios, la empresa privada, el Estado y los ciudadanos.

^[1] Entrevista de revista semana con el creador del documental el dilema social

[2] Análisis del diario la república sobre el artículo de opinión de Cris Huges en TNWT

^[3] Artículo de Andinalink: Facebook en la mira de las autoridades

^[4] Artículo de Andinalink sobre el informe Britànico contra Facebook y Google

^[5] Artículo del País de España sobre el conflicto regulatorio en Australia

^[6] Artículo de Andinalink: La Crisis de la Publicidad en la era de Internet

^[7] Artículo de BBC sobre el escándalo de Cambridge Analitica

^[8] Artículo de BBC sobre las sanciones de la Unión Europea contra Google

^[9] Artículo de BBC sobre el impacto de algoritmos el caso COMPAS

^[10] Artículo de BBC sobre el impacto de algoritmos el caso COMPAS

^[11] Análisis de observacom sobre las declaraciones realizadas por el CEO de Tik Tok

^[12] Análisis de Observacom sobre las declaraciones del CEO de Twitter