No es ninguna novedad para nadie que los gigantes de Internet acumulan una gran cantidad de datos sobre sus usuarios, ni que recurren a los algoritmos para deducir toda clase de información relevante sobre ellos. Por desgracia, al carecer del sentido común y los sentimientos de un ser humano, las consecuencias de esa recolección de información pueden terminar resultando deshumanizadoras.
Hace cuatro años, meses después de sufrir un aborto una editora del Washington Post tuvo que pedir por favor a Facebook y Google que sus algoritmos no se lo siguieran recordando: la estaban bombardeando con contenidos referentes al embarazo y productos para bebés.
“¿Acaso no visteis el post con el comunicado, que incluía palabras clave como “con el corazón roto”, “problema y “nacido muerto”, y 200 emoticones con lágrimas de mis amigos? ¿Acaso no es eso algo que podáis rastrear?”.
Sin embargo, tan doloroso como es recordar una muerte porque un algoritmo no funciona bien, mucho más trágico es que un algoritmo pueda provocar muertes, precisamente, porque funciona demasiado bien. Y esto es lo que ha descubierto el New York Times sobre el de Amazon.
Los productos “pueden ser mal utilizados” (como los algoritmos)
Según publica el medio estadounidense, el algoritmo de Amazon identificó un producto usado frecuentemente por suicidas (un conservante alimentario basado en un derivado del sodio)… y detectó que muchos usuarios lo compraban junto con otros que facilitaban llevar a cabo el suicidio.
¿Resultado? Que el algoritmo de recomendación de Amazon empezó entonces a sugerir esos otros productos a los suicidas que adquirían el primero.
Ya en 2019 se escribieron comentarios en la página en Amazon de dicho producto denunciando que un familiar había recurrido al mismo para suicidarse y pidiendo por favor al portal que dejara de promocionarlo. “Ya se lo he notificado a Amazon: me dijeron que ayudarían con esto y, sin embargo, no lo han hecho”.
Desde entonces los casos no han dejado de aumentar: sólo en Nueva York se han detectado 10 casos, más varios jóvenes (una de ellos menor de edad) de Ohio, Pensilvania, Missouri y Texas. La madre de uno de ellos ya ha demandado a Amazon por negligencia.
En el Reino Unido, donde ya ha habido también varios casos de suicidios usando esta sustancia (y donde las críticas por su venta han salpicado también a eBay) se ha llegado a debatir la limitación de su venta a compradores individuales.
Uno de sus fabricantes en aquel país, la compañía Metalchem, decidió adoptar unilateralmente dicha política en abrir de 2020. Sin embargo, su CEO, Mike Kay, denuncia que dos años más tarde no ha servido de nada, porque Amazon lo sigue distribuyendo por Internet y a escala mundial.
Ahora, miembros de los dos partidos de la Cámara de Representantes de los EE.UU. han dirigido una carta abierta al actual CEO de Amazon, Andy Jassy, exigiendo detalles y pruebas sobre las medidas adoptadas por la compañía para responder a las advertencias recibidas.
Brian Huseman, vicepresidente de cobertura pública de Amazon, respondió el jueves a estos legisladores defendiendo las prácticas de Amazon: “Al igual que muchos productos de compradores ampliamente disponibles, [éste] lamentablemente puede ser mal utilizado”.
Vía | The New York Times
–
La noticia
El algoritmo de Amazon detectó un producto muy usado por suicidas… y ahora lo recomienda junto a otros que facilitan el suicidio
fue publicada originalmente en
Genbeta
por
Marcos Merino
.
