Talleres sobre el tablero Confort. De izquierda a derecha: el presidente del Consejo Digital, Mitchell Pham, Andrew Tobin, Ana Reade, Tim Parkin, Anna Pendergrast, Anna Brown, Marianne Elliott, Elena Higgison, Victoria Wray, Colin Gavaghan, Tom Barraclough y Curtis Barnes. Crédito: Universidad de Massey
Los neozelandeses temen el sesgo en la toma de decisiones automatizada, según una investigación de Toi Āria: Design for Public Good en Massey University.
Un nuevo informe, Hacia una toma de decisiones automatizada confiable y confiable en Aotearoa, publicado por el Consejo Digital de Aotearoa, tuvo como objetivo responder a la pregunta: ¿Qué se necesita para brindar a los residentes de Aotearoa en Nueva Zelanda el nivel adecuado de confianza requerido para aprovechar todos los beneficios sociales de las tecnologías digitales y las basadas en datos?
Toi Āria, un grupo de investigación del Toi Rauwhārangi College of Creative Arts, llevó a cabo una serie de talleres en persona y en línea con 186 personas en 2020. Los participantes del taller no solo compartieron sus puntos de vista sobre cómo se debe aplicar ahora la toma de decisiones automatizada, sino también su visión de construir un mejor futuro digital que se centre en las necesidades y aspiraciones de las personas.
La directora Toi Āria, profesora asociada Anna Brown, dice que los hallazgos identificaron varias áreas de preocupación y lo que se necesitaba para dar confianza a los neozelandeses. “El principal problema durante el taller fue el prejuicio y la discriminación, y para tranquilizarlos, la gente necesitaba más transparencia y mejor comunicación, así como una mejor participación y representación.
“La gente ha apreciado que la toma de decisiones automatizada es útil para el procesamiento rápido de datos a gran escala y como un” asistente “para las personas, pero a la gente le preocupa que los sistemas, los programadores y Tomadores de decisiones puede introducirles un sesgo ”, dice el profesor Brown.
Toi Āria se utilizó en el proceso. Tabla de confort una metodología que se basa en el principio de que las personas que se espera que utilicen el sistema o que estén influenciadas por él deben jugar un papel clave en su diseño. Los participantes del taller incluyeron personas ciegas y con discapacidad visual; líderes de comunidades étnicas y jóvenes; Juventud maorí y del Pacífico; mujeres de origen inmigrante y refugiado; Navegantes de Whānau Ora (defensores de la salud maoríes); jóvenes con experiencia asistencial; y gente corriente.
Junto con el Consejo Digital de Toi Āria, ha desarrollado seis escenarios basados en situaciones del mundo real donde ciertos aspectos de la toma de decisiones son llevados a cabo o informados por algoritmos informáticos, entre ellos: consumo de medios; reclutamiento; apoyo a los jóvenes; inmigración; decisiones de libertad condicional; y listas de espera para cirugía.
Como resultado de la investigación, el Consejo Digital de Aotearoa hizo siete recomendaciones al gobierno. Para obtener más información sobre los arreglos, siga leyendo informe aquí y visitar Toi Āria’s sitio web aquí.
Entregado por
Universidad de Massey