El autocompletado de los buscadores web es útil: sugiere frases en base a las primeras palabras que escribe el usuario. Pero también trae dolores de cabeza a las compañías que gestionan estas herramientas.
Yahoo y Bing están envueltos en una polémica por sus sistemas de autocompletado. El sitio How-To-Geek reveló sugerencias racistas en la versión estadounidense de Bing. Y The Verge encontró contenido ofensivo en Yahoo, que por cierto se basa en el buscador de Microsoft.
¿Qué encontraron? Al escribir términos como “negros”, “judíos” o “musulmanes”, entre otros, los buscadores los asociaban con frases ofensivas. Esto se comprobó también en resultados de imágenes y videos. Incluso encontraron contenido inapropiado que involucra a menores de edad.
Por ejemplo, al escribir “los negros son” en Bing, la función se anticipaba sugiriendo calificativos ofensivos. Particularmente en Yahoo, el buscador privilegia resultados tomados de Yahoo! Respuestas, donde también se incluye contenido racista.
// Lupa selectiva: cinco buscadores temáticos en Internet
¿Qué dijo Microsoft?
Las expresiones racistas son indeseadas por Microsoft, la empresa que gestiona Bing. Ahora bien, ¿cómo responden frente a este tipo de revelaciones?
“Nos tomamos muy en serio el contenido ofensivo y continuamos mejorando nuestros sistemas para identificar y evitar que aparezca como búsqueda sugerida”, dijo un vocero de la compañía.
Desde la compañía dijeron que cuando detectan estos problemas toman medidas para dar con una solución. Las fuentes dicen que si bien Microsoft tomó cartas en el asunto, algunos "autocompletados" siguen siendo ofensivos.
En 2016 Google se había enfrentado a una situación similar, y al año siguiente cambió las pautas para evaluar la calidad de los resultados de sus búsquedas. Bing no es ajeno a esta preocupación: el año pasado sumó funciones de inteligencia artificial para detectar el contenido de las imágenes, entre otras tareas.
Este hallazgo demuestra que aún queda camino por recorrer, tanto para los sistemas automatizados como para las revisiones manuales.
