Fuente: Unsplash / CC0 Public Domain
Los algoritmos de recomendación de libros de Amazon que ayudan a los clientes a descubrir nuevos títulos pueden tener un lado oscuro.
Un nuevo informe del Instituto de Diálogo Estratégico dice que estos algoritmos impulsan a las personas libros acerca de teoría de la conspiración y el extremismo, a veces presentándoles el trabajo de los teóricos de la conspiración que han sido prohibidos por otros. plataformas de internet.
Según el informe, es probable que las personas que vean un libro sobre una conspiración en Amazon reciban sugerencias para más libros sobre el tema, así como libros sobre otras teorías de conspiración sobre todo, desde QAnon hasta la vacuna COVID-19.
Otras características, como la función de autocompletar en la barra de búsqueda y las sugerencias de contenido para el autor o autores similares, también podrían llevar a los usuarios a un agujero de conejo extremista, dijo Chloe Colliver, directora de política y estrategia digital de ISD.
El patrón es similar a los problemas observados en otras importantes plataformas en línea como YouTube de Google, cuyos algoritmos dirigen a los usuarios hacia contenido extremo, arrastrándolos hacia ideologías violentas.
“Dado que la vacunación y el problema del COVID-19 son un tema importante para muchas personas en la actualidad, la posibilidad de recomendar información falsa o extremista sobre estos temas es ciertamente preocupante”, dijo Colliver a US TODAY. “En todo el mundo, se ha demostrado que el tipo de información falsa recomendada por los algoritmos de Amazon contribuye al daño del mundo real”.
Colliver dice que es difícil medir la escala de la amenaza sin una mayor transparencia por parte de Amazon, que domina la industria del libro.
“Sin embargo, estos sistemas de recomendación están en el corazón del modelo comercial de Amazon, por lo que sus posibles efectos negativos o peligrosos deben ser mejor entendidos tanto por la propia empresa como por los investigadores y autoridades independientes”, dijo. “Teniendo en cuenta la importancia del archivo recomendaciones son para las funciones de ventas de Amazon, es seguro asumir que las recomendaciones de contenido peligroso extremista o conspirativo pueden ser extremadamente ubicuas “.
En un comunicado a US TODAY, Amazon dijo: “Nos tomamos en serio las preocupaciones del Instituto de Diálogo Estratégico y nos esforzamos por brindar una experiencia positiva a nuestros clientes. Al igual que otras tiendas que venden libros, proporcionamos a nuestros clientes acceso a una variedad de puntos de vista, y nuestras herramientas de compra y descubrimiento no están diseñadas para generar resultados de puntos de vista ”.
Redes sociales y otros empresas tecnológicas han tomado medidas cada vez más agresivas para eliminar las recomendaciones sobre desinformación o contenido extremista que representan una amenaza pública.
En las páginas de sus libros, Amazon recomienda a los usuarios que visiten otros libros de varias formas, incluidos “los clientes que compraron este artículo también compraron”, “los clientes que vieron este artículo también vieron” y “¿qué otros artículos ven los clientes después de ver este artículo?” Ocasionalmente, también hay anuncios pagados para promocionar “productos relacionados”.
“Para la mayoría de los usuarios, estas recomendaciones son, en el mejor de los casos, un medio útil de encontrar contenido nuevo que les interese y, en el peor de los casos, una molestia que debería ignorarse sin causar daño”, se lee en el informe. “Para los teóricos de la conspiración, los nacionalistas blancos y los usuarios, quizás solo curiosamente inmersos en aguas turbias de contenido extremista o conspirativo, estas recomendaciones pueden servir como una puerta de entrada a un universo más amplio de teorías de conspiración y desinformación, oa una derecha cada vez más radical y con visión de futuro. -Ala y contenido blanco. Nacionalista. “
Por ejemplo, se insta a las personas que buscan en un libro que afirman que las vacunas no son seguras a utilizar otros títulos sobre vacunas y COVID-19. conspiración contenido, incluido un libro de Judy Mikovits, creadora de la película ampliamente desacreditada “Plandemic”, que afirmaba que el Dr. Anthony Fauci, el principal experto en enfermedades infecciosas del país, había producido el virus que causa COVID-19 y lo había enviado a China.
“Una librería no tiene que proporcionar contenido que crea que está más allá de los intereses de la mayoría de sus clientes. Del mismo modo, está dentro de las competencias de Amazon establecer pautas claras sobre qué tipo de contenido puede y no puede beneficiarse de él ”, dijo Colliver. “Incluso sin eliminar por completo este contenido, Amazon podría limitar la disponibilidad de contenido potencialmente peligroso en su sitio”.
© 2021 USA Today. Distribuido por Tribune Content Agency, LLC.