Instagram anunció la incorporación de una herramienta que permite filtrar automáticamente los mensajes directos ofensivos y que pretende achicar el margen del acoso online. El sistema detecta palabras, frases e incluso emojis que podrían ser abusivos, impidiendo que ese contenido llegue a los usuarios. Siguiendo a The Verge, la novedad está principalmente dirigida a figuras públicas que habitualmente son blanco de DMs no deseados y dañinos.
El filtro se puede activar en una nueva sección de la red social. Al hacerlo, los mensajes ofensivos (por ejemplo aquellos que incluyan un insulto) serán enviados a una carpeta aparte. Luego, si un usuario accede a uno de esos DMs podrá leerlo, eliminarlo y/o reportarlo.
// Instagram planea crear en una red para menores de 13 años
En ese sentido, Clotilde Briend, responsable de las políticas públicas de Instagram, explicó en declaraciones a la agencia AFP que “la mayoría de los discursos de odio proceden de las demandas de mensajes directos” y que ofrecerán la posibilidad de denunciarlos ya que seguirán estando disponibles en una bandeja de entrada aparte.
Cómo funciona el sistema anti-haters
El mecanismo creado para frenar a los haters en Instagram tiene una lista predeterminada de palabras y frases ofensivas que la plataforma propiedad de Facebook creó junto con organizaciones especializadas en la lucha con la discriminación y el acoso. Además, los usuarios pueden añadir otros términos que deseen filtrar en los mensajes, más específicamente en las solicitudes para las conversaciones.
La función debuta en Francia, Reino Unido, Irlanda, Alemania, Australia, Nueva Zelanda y Canadá. En esos sitios, según Briend, “hubo personalidades públicas, sobre todo futbolistas, que fueron víctimas de abusos y de términos ofensivos en mensajes directos”. Se espera que la opción luego se expanda a más países del mundo.
De acuerdo a Briend, el mecanismo podría extenderse a otros servicios de mensajería instantánea de Facebook, como FB Messenger y WhatsApp.
Junto con el nuevo filtro, Instagram también anunció una herramienta que bloquea preventivamente cuentas de acosadores que, según explican desde la empresa, es capaz de detectar señales de nuevos perfiles que crean usuarios que fueron anteriormente bloqueados.
// El “Instagram para nenes” preocupa a legisladores estadounidenses y critican duro a Facebook
Estas actualizaciones son parte de un esfuerzo de Instagram para combatir el discurso de odio en la red social, incluyendo la baja de cuentas de usuarios que envían repetidamente mensajes de acoso y los filtros que bloquean comentarios ofensivos. En este marco, recientemente la plataforma informó que no permitirán que adultos envíen mensajes directos a menores y además se anunció el desarrollo de un Instagram para nenes, proyecto que tal como contamos acá ha generado controversias y quejas hacia la compañía dirigida por Mark Zuckerberg.
