¿Por qué tenemos miedo de los algoritmos?

0
15
¿Por qué tenemos miedo de los algoritmos?
Álvaro Chacón

Álvaro Chacón, Departamento de Ingeniería Comercial USM Tomás Reyes, Departamento de Ingeniería Industrial y de Sistemas UC

Se ha demostrado que los algoritmos hacen mejores predicciones que los humanos en una amplia gama de tareas. No solo en juegos como el ajedrez (1997: IBM Deep Blue derrota al gran maestro Gary Kasparov) o GO (2016: Deepmind AlphaGo derrota al 18 veces campeón del mundo Lee Sedol) los algoritmos superan a las personas. También vemos a los algoritmos hoy en día presentes con excelentes rendimientos en diversas materias como detección de cáncer de piel (SkinVision), inversiones financieras (Wealthfront), e incluso para encontrar pareja (OkCupid).

A pesar de esta superioridad de los algoritmos en predicción, se ha visto que las personas los usan menos de lo que deberían. A este fenómeno se le conoce como aversión a los algoritmos y puede tener 2 interpretaciones. La primera es la reticencia a preferir y utilizar los consejos de algoritmos cuando la gente experimenta errores de los mismos, y la segunda es una resistencia general a su uso.

Entonces, comprender cómo evoluciona el proceso de adopción de algoritmos se convierte en algo crucial si las organizaciones y personas queremos aprovechar los beneficios asociados a su correcta implementación.

Aunque varios estudios han analizado el grado de uso de los algoritmos por parte de las personas, hay algunas consideraciones que han sido ignoradas. En particular, prácticamente no existían estudios que analizara el uso de recomendaciones algorítmicas en el entorno habitual de los tomadores de decisión, durante varios días.

En una investigación realizada por los autores de este artículo y el profesor Edgar E. Kausel, analizamos la naturaleza dinámica del uso de los algoritmos. Así, vimos cómo las personas experimentan y adoptan recomendaciones algorítmicas en comparación con recomendaciones humanas. En dos estudios longitudinales, 401 participantes realizaron tareas predictivas financieras (predicción de tipo de cambio y de valor de acciones).

Nuestro principal hallazgo fue que la adopción de recomendaciones disminuyó con el tiempo para las recomendaciones algorítmicas imprecisas. Además, el cambio en la adopción de las recomendaciones imprecisas fue sustancial durante las primeras interacciones y posteriormente disminuyó (relación de forma logarítmica). Para el caso de las recomendaciones precisas no se vieron los mismos efectos. 

La principal implicancia de estos resultados es que gerentes y responsables de implantación de nuevas herramientas algorítmicas deben estar conscientes de que el uso de algoritmos puede cambiar en el tiempo. En particular, se debe considerar la desconfianza que pueden generar en el tiempo entre los usuarios cuando los algoritmos son inexactos.

Nuestros resultados también destacan la importancia de las primeras impresiones y la formación de la reputación en el desarrollo de la confianza. Así, vemos que las personas son especialmente sensibles a los algoritmos que fallan y tienden a perder fácilmente su confianza en ellos.

Por lo tanto, se puede decir que el uso de algoritmos es más bien un cambio cultural al interior de las organizaciones, donde las personas deben aprender a trabajar en conjunto con ellos a través del tiempo. Solo de esa forma se podrá capturar lo mejor del talento humano y de la tecnología.

Google News Portal Educa
Síguenos en Google Noticias

Equipo Prensa
Portal Educa

Colegio Atesora Online 2024 1200x450