Las personas pueden confiar más en las computadoras que en las personas

Según una nueva investigación realizada por científicos de datos de la Universidad de Georgia, a pesar de la creciente preocupación por la interferencia algorítmica en la vida cotidiana, es más probable que las personas confíen en un programa de computadora que en otras personas, especialmente si la tarea se vuelve demasiado difícil.

Desde elegir la siguiente canción de la lista de reproducción hasta elegir el tamaño correcto de los pantalones, las personas confían más en los consejos de los algoritmos para ayudarlos a tomar decisiones cotidianas y mejorar sus vidas.

“Los algoritmos pueden realizar una gran cantidad de tareas, y la cantidad de tareas que pueden hacer aumenta prácticamente todos los días”, dijo el Dr. Eric Bogert. estudiante del Departamento de Gestión de Sistemas de Información en Terry College of Business. “Parece haber una tendencia a confiar más en algoritmos a medida que la tarea se vuelve más difícil y el efecto es más fuerte que la tendencia a confiar en los consejos de otras personas”.

Bogert colaboró ​​con el profesor de sistemas de información de gestión Rick Watson y el profesor asociado Aaron Schecter en el artículo “La gente confía más en los algoritmos que en el impacto social a medida que la tarea se vuelve más difícil”, publicado el 13 de abril en Nature’s Informes científicos diario.

Su estudio, que involucró a 1,500 evaluadores fotográficos, es parte de un trabajo más amplio de analizar cómo y cuándo las personas trabajan con algoritmos para procesar información y tomar decisiones.

Para este estudio, el equipo pidió a los voluntarios que contaran el número de personas en la foto de la multitud y proporcionaran sugerencias generadas por un grupo de otras personas y sugerencias generadas por algoritmo.

A medida que aumentaba la cantidad de personas en la foto, contar se volvió más difícil y las personas eran más propensas a seguir la sugerencia generada por el algoritmo que a contar, o ser guiadas por la “sabiduría de la multitud”, dijo Schecter.

Schecter explicó que elegir aprobar como tarea de práctica era importante porque número de las personas en la foto obstaculiza objetivamente la tarea a medida que crece. También es el tipo de tarea en la que la gente común espera que las computadoras sean buenas.

“Es una tarea que la gente ve como una buena computadora, aunque puede ser más propensa a errores que contar objetos”, dijo Schecter. “Uno de problemas frecuentes con inteligencia artificial es cuando se utiliza para otorgar préstamos o aprobar préstamos a alguien. Si bien es una decisión subjetiva, existen muchos números, como sus ingresos y su puntaje crediticio, por lo que la gente piensa que es un buen trabajo para el algoritmo. Pero sabemos que la adicción conduce en muchos casos a prácticas discriminatorias por factores sociales que no se tienen en cuenta ”.

Los algoritmos de reconocimiento y contratación de rostros también han sido objeto de escrutinio en los últimos años, ya que su uso ha expuesto un sesgo cultural en la forma en que se construyen, lo que puede causar inexactitudes al hacer coincidir rostros con la identidad o buscar candidatos calificados, dijo Schecter.

Estos sesgos pueden no existir en un lenguaje sencillo pedido como contar, pero su presencia en otros algoritmos confiables es una razón por la que es importante comprender cómo las personas confían en los algoritmos para tomar decisiones, agregó.

Este estudio fue parte del programa de investigación humano-máquina más grande de Schecter, que está financiado por una subvención de $ 300,000 de la Oficina de Investigación del Ejército de EE. UU.

“El objetivo final es observar grupos de personas y máquinas que toman decisiones y descubrir cómo podemos hacer que confíen entre sí y cómo eso cambia su comportamiento”, dijo Schecter. “Dado que hay muy poca investigación en esta situación, comenzamos con lo básico”.

Schecter, Watson y Bogert están investigando actualmente cómo las personas confían en los algoritmos para hacer juicios creativos y morales, como escribir pasajes descriptivos y rescatar a los prisioneros.