Estas complejas fórmulas matemáticas juegan un importante rol en varios aspectos de la vida cotidiana, desde la detección de criminales hasta las recomendaciones para que adquiramos tiquetes aéreos y la predicción de los resultados de elecciones presidenciales.
Incluso se han desarrollado algoritmos que simulan una relación amorosa ‘ideal’, haciendo posible tener un romance con una pareja virtual.
Decisiones cada vez más importantes dependen hoy en día del correcto funcionamiento de programas informáticos, por lo que es necesario que estén regidos por aspectos como la objetividad, la ética y la transparencia.
Según recoge la agencia AP, varios expertos temen que estos valores se vean amenazados de una forma u otra con el creciente desarrollo de algoritmos.
Cathy O’Neil, una científica especializada en el análisis de datos, advierte sobre el peligro de “confiar ciegamente” en fórmulas, pues éstas son creadas usualmente por una o pocas personas cuyos objetivos no son siempre íntegros.
“La persona que construye el modelo, define el concepto de éxito, y es por ello por lo que los algoritmos no son inherentemente justos”.
Entre los ejemplos de injusticias que la científica cita, se encuentra el despido de más de 200 profesores de escuelas públicas de la ciudad estadounidense de Washington en 2010, a partir de un algoritmo que evaluaba el rendimiento profesional, además de otros casos de posible discriminación en contra de las minorías.
A partir del próximo año, la Unión Europea pondrá en práctica la Ley de protección de datos, que aspira a crear un derecho de explicación, que beneficie a los consumidores afectados por una decisión algorítmica perjudicial.
Según Frank Pasquale, autor del libro titulado “The Black Box Society: Los algoritmos secretos que controlan el dinero y la información”, ello “obligaría a la transparencia o impediría que los algoritmos se utilicen en ciertos contextos”.
Sin embargo, otros especialistas, como el vicepresidente de la Fundación de Tecnologías de la Información e Innovación Daniel Castro, afirman que los algoritmos no deberían ser usados como chivos expiatorios para los males de la sociedad.
“La gente se enoja y está buscando algo a lo que culpar. Estamos preocupados por la parcialidad, la responsabilidad y las decisiones éticas, pero estas existen independientemente de si se utilizan algoritmos o no”.
No hay comentarios:
Publicar un comentario