¿Puede un algoritmo de IA mitigar las desigualdades económicas raciales? Solo si más anfitriones negros lo adoptan

Los algoritmos de aprendizaje automático pueden utilizar cantidades masivas de datos del consumidor, lo que permite la automatización de decisiones comerciales como precios, ofertas de productos y promociones. Airbnb, el mercado en línea de alquileres vacacionales y otros alojamientos, ha creado una herramienta de fijación de precios inteligente basada en algoritmos que es gratuita para todos los anfitriones de Airbnb y permite que los anfitriones establezcan automáticamente los precios diarios de sus propiedades. Un nuevo estudio explora el efecto del algoritmo de Airbnb en las diferencias raciales entre los anfitriones de Airbnb. El uso de esta herramienta redujo significativamente la brecha de ingresos entre los anfitriones blancos y negros, pero dado que un número significativamente menor de anfitriones negros utilizaron el algoritmo, la brecha de ingresos entre los anfitriones blancos y negros en realidad aumentó después de la introducción de esta herramienta.

Un estudio realizado por investigadores de la Carnegie Mellon University (CMU) está programado para comenzar en Ciencias del marketing.

“Los desajustes de ingresos de host en blanco y negro han sido objeto de mucha publicidad negativa para Airbnb en los últimos años”, explica Param Vir Singh, profesor de tecnología empresarial y marketing en la Escuela de Negocios Tepper de CMU, quien dirigió la investigación. “Nuestros resultados muestran que el algoritmo de precios inteligentes puede ser eficaz para mitigar las diferencias raciales, pero esa eficacia está limitada por la medida en que se haya adoptado la herramienta”.

El algoritmo de valoración se introdujo en noviembre de 2015 y el estudio se llevó a cabo desde julio de 2015. Hasta agosto de 2017, los investigadores seleccionaron al azar 9.396 propiedades de Airbnb en 324 Códigos postales, principalmente en siete ciudades importantes de Estados Unidos; 2.118 hosts adoptaron el algoritmo durante el estudio. Los investigadores observaron el ingreso diario promedio de cada propiedad para cada mes. La raza / origen étnico del anfitrión (blanco, negro o de otro tipo) se determinó a partir de las imágenes de perfil de la página del anfitrión.

Antes de que se introdujera el algoritmo, los anfitriones blancos ganaban $ 12,16 más en ingresos diarios que los negros después de tomar el control de otros seguidores. anfitrión, propiedades y vecindario. Mientras tanto los anfitriones en blanco y negro cobraron tarifas similares precios para sus propiedades, la demanda de alquiler de los propietarios negros era un 20% menor que la de los propietarios blancos. Esto sugiere que existe un prejuicio racial entre los huéspedes de Airbnb contra los anfitriones negros, concluyeron los investigadores.

Según el estudio, la adopción del algoritmo resultó más beneficiosa para los anfitriones negros que para los anfitriones blancos en el estudio. Esto se debe a que generó un aumento mucho mayor en la demanda de alquileres alojados en negros que en los alquileres alojados en blancos, principalmente porque la demanda de alquileres alojados en negros era más sensible a los cambios de precios que los alquileres alojados en blancos.

Sin embargo, los anfitriones negros tenían un 41% menos de probabilidades que los blancos de aceptar el algoritmo. Entonces, al adoptar la herramienta, la brecha de ingresos entre los anfitriones blancos y negros en el estudio se redujo cuando los científicos aplicaron sus hallazgos a nivel de población. ingreso la brecha ha crecido.

Aunque los hosts en blanco y negro tenían diferentes curvas de demanda, el precio sugerido por el algoritmo era el mismo para los hosts en blanco y negro. Esto se debe a que el algoritmo combina los datos de hosts en blanco y negro para determinar el mismo precio óptimo para ambos grupos, ignorando así las diferencias raciales entre los hosts. Como resultado, aunque el precio óptimo sugerido por el algoritmo debería estar entre el precio óptimo para los hosts negros y el precio óptimo para los hosts blancos, ya que menos hosts negros han adoptado el algoritmo, es probable que el precio óptimo sugerido esté más cerca del óptimo. precio. para los blancos y más lejos que para los negros.

“Nuestra investigación es importante para los encargados de formular políticas y los gerentes”, dice Kannan Srinivasan, profesor de administración, marketing y tecnología empresarial en la Escuela Tepper de CMU, quien es coautor del estudio. “Para los legisladores, nuestro estudio muestra que cuando existe prejuicio racial en el mercado, un algoritmo que ignora el prejuicio racial puede no ser eficaz para limitar el prejuicio racial. diferencias raciales.

“Dada la tasa de adopción del algoritmo mucho más baja por parte de los hosts negros que los blancos, los gerentes pueden querer desarrollar estrategias para alentar a los hosts negros a adoptar el algoritmo”, agregó Shunyuan Zhang, profesor asociado de marketing en Harvard Business School y coautor. “De lo contrario, el archivo algoritmo lo que podría reducir las disparidades, eventualmente puede aumentarlas ‘.