Los sistemas de Inteligencia Artificial han evolucionado y con ello traído numerosas funciones y beneficios, aunque en ocasiones hacen estragos. En muchos casos, según hemos visto anteriormente, exhiben preocupantes sesgos. Ocurre que, a fin de cuentas, no hacen más que replicar los comportamientos y visiones de aquellas personas que los desarrollan.
Leé también: Inteligencia artificial y machismo: cómo deconstruir a la tecnología
Un caso reciente en Estados Unidos profundiza esta problemática, sancionando a una firma que usó algoritmos en el sector inmobiliario. ¿Qué ocurrió? Una aplicación que usaba IA para encontrar al “inquilino ideal”, denominada SafeRent, fue demandada y multada por prácticas discriminatorias.
Sancionan a una app cuya IA discriminó a inquilinos
Una demanda colectiva presentada en el año 2022 acusó a la aplicación SafeRent de prácticas discriminatorias a través de su algoritmo que calificaba a los interesados en alquilar según sus ingresos y etnias, además de por los historiales crediticios. Ese método basado en IA, se indicó en la queja judicial, perjudicó especialmente a las personas negras e hispanas.
Leé también: Un informe asegura que más de la mitad de los alquileres en la Ciudad de Buenos Aires se ofrece en dólares
Según informó Bloomberg Law, el pedido de los demandantes fue aprobado por la jueza federal Angel Kelley, amparándose en la Ley de Vivienda que rige en Massachusetts, Estados Unidos. En este marco, la compañía que gestiona esa herramienta acordó pagar una multa de 2.3 millones de dólares. Además, deberá dejar de usar ese sistema de puntuaciones.
La resolución de la jueza procura “reparar parte del daño causado a los usuarios que enfrentaron barreras injustas para acceder a una vivienda”. De acuerdo a la fuente mencionada, si bien SafeRent argumentó que sus prácticas se ajustan a las normativas vigentes, finalmente decidieron rubricar el acuerdo y pagar la sanción a fin de evitar mayores gastos legales.
En un comunicado, la empresa afirmó que, si bien “sigue creyendo que las puntuaciones cumplen con todas las leyes aplicables, los litigios son costosos y requieren mucho tiempo”.
Leé también: ¿Por qué los algoritmos de inteligencia artificial discriminan?
Siguiendo a la publicación Genbeta, esta no es la primera vez que en Estados Unidos está bajo escrutinio un algoritmo desarrollado para el sector inmobiliario. En agosto, el Departamento de Justicia de aquel país (DOJ, por sus siglas en inglés) demandó a la plataforma RealPage por inconsistencias en su sistema automatizado para fijar precios, acusándola de inflar precios en forma artificial.
