Target una empresa de venta de EEUU envía a sus clientes regularmente cupones descuento. Y está muy orgullosa del conocimiento de los datos de consumo de sus ventas. Dice Tim Harford en las “10 reglas para comprender el mundo”: “un hombre entró hecho una furia en una tienda Target de Mineapolis y se quejó al encargado de que la empresa estaba enviando cupones para la ropa de bebé y ropa premamá a su hija adolescente. El encargado se disculpó [y más tarde le dijeron] que la hija adolescente, de hecho, sí que estaba embarazada” (1) (pág. 171)

¿De dónde surgía esta evidencia? Del análisis de las compras familiares referidas a suplementos vitamínicos. He preguntado a la Inteligencia Artificial (Google), haciéndome pasar por una embarazada: ¿Cuál es el mejor complemento vitamínico para embarazadas? Y donde comprarlo.

Ácido fólico: La “reina” de las vitaminas para el embarazo, sin duda alguna. Una vitamina prenatal para mujeres sanas y sin otras complicaciones debe incluir 400 microgramos (0,4 miligramos) de ácido fólico.18 –dixit Google.

Y ha aparecido en mi ordenador en el lateral sin que lo solicitara este anuncio de Amazon.

La mineria de datos es un negocio lucrativo que los grandes que nos dan todo gratis y lo obtienen de nuestra confianza en la Inteligencia Artificial, pero no hablaremos de esto hoy, sino de la creencia que sostiene esta rabia del padre de Minesota. Pensar que los resultados que nos proveen basados en un algoritmo se establecen en laimparcialidad y los que los utilizaamos no conocemos como estan construidos ( ni siquiera los dueños de estos sistemas.

¿Y cuál es el limite de lo privado y lo publico? Otro ejemplo nace de una mujer que llamó a Tesco pues comprobó al comprar que su carrito de la compra sugería: condones. Tesco se disculpo pues era un error informático. Pero los escritores sabemos que detrás de una compra de condones hay historias asombrosas, desde una infidelidad hasta un próximo asesinato. Y cada vez más la brujeria de datos condiciona nuestras vidas* creando una sutil red construida sobre datos que parecen correctos e imparciales pero se fundan en algoritmos. En 2014 Amazon utilizaba un algoritmo para filtrar curriculums y en 2018 lo desechó, sospechosamente por dar mejor nota a los hombres, pues se construyó sobre las elecciones anteriores de la empresa: eran preferibles hombres, con lo cual elegía hombres. (2)

Podriamos seguir asi durantes horas. La pregunta que nos deberiamos hacer es si ¿debemos desmontar los algoritmos? O, ¿Debemos regresar al juicio humano?

Una parte de mi familia diria que no. Ellos son de la generación que construye, edita o interpreta algoritmos. Tal vez seria mejor seguir la interpretacción que nos ofrece Harford, pero antes considerar que si aplicaramos un algoritmo a las llamadas a la policía o los servicios sociales, solo aquellas llamadas suponen cuatro millones al año en EEUU.

¿A cuales atenderiamos primero?

La pregunta aparece contestada, ya hay departamenros de policia que lo utilizan… Y podremos generalizar poco a poco esta solución, pero seguimos sin contestar lo esencial, si son privados o publicos los algoritmos ¿deberian poder ser analizados por cualquier institución independiente?, sino caeremos en la brujería de CBO:

“… un pozo en el que el Congreso [de EEUU} metía leyes:levantaba la tapa y metía la ley. Luego se oían chirridos, y veinte minutos después salía un trozo de papel con el coste estimado, la respuesta, escrito en él” Nos encanta la brujería en las respuestas —agregaremos nosotros.

Pero si… esto se generaliza.

Nota

  • Cuando hablo de brujeria de datos afirmo que los algoritmos estan construidos sobre un gran desconocimiento de ellos y no sometidos s ningun control independiente. O ¿Ud o yo conocemos el algoritmo de Google?

Tim Harford, 10 reglas para comprender el mundo: pgs. 171, 178, 199

CBO: The Congressional Budget Office (CBO) is a federal agency within the legislative branch of the United States government that provides budget and economic information to Congress. [1] Inspired by California’s Legislative Analyst’s Office that manages the state budget in a strictly nonpartisan fashion, the CBO was created as a nonpartisan agency by the Congressional Budget and Impoundment Control Act of 1974.

Whereas politicians on both sides of the aisle have criticized the CBO when its estimates have been politically inconvenient,[2][3] economists and other academics overwhelmingly reject that the CBO is partisan or that it fails to produce credible forecasts. There is a consensus among economists that “adjusting for legal restrictions on what the CBO can assume about future legislation and events, the CBO has historically issued credible forecasts of the effects of both Democratic and Republican legislative proposals.”[4] (Fuente Wickipedia)