TN

Temas de hoy:

  • Javier Milei
  • Dólar hoy
  • Guerra en Medio Oriente
  • Encontraron a la nena que desapareció en Córdoba
  • Chuck Norris
  • Caso YPF
  • AFA
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    ¿Por qué los algoritmos de inteligencia artificial discriminan?

    Las IAs generativas todavía perpetúan estereotipos, sobre todo, raciales y de género. Los motivos por los cuales esto sucede y qué se puede hacer para resolverlo.

    Axel Marazzi
    Por 

    Axel Marazzi

    30 de junio 2024, 05:39hs
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)
    Compartir
    Seguinos en Google

    Stable Diffusion es uno de los algoritmos de inteligencia artificial generativa de imágenes más famosos del mercado. Se trata de esos sistemas, como DALL-E de OpenAI, a los que le damos un prompt y nos devuelven una imagen perfectamente generada.

    Si bien la compañía que desarrolla el algoritmo, Stability AI, es una de las más prestigiosas del mercado, hace pocos meses estuvo en el ojo del huracán. La razón era que un grupo de especialistas había analizado más de 5.000 imágenes creadas con Stable Diffusion y, como resultado, encontraron que las imágenes que generaba perpetuaban los estereotipos de discriminación racial y de género.

    Leé también: “Es inaceptable”: el enojo del CEO de Google por los resultados racistas de la inteligencia artificial Gemini

    Los presos son negros, los CEO son blancos y el efecto dominó

    Pero, ¿por qué los algoritmos de inteligencia artificial que existen actualmente discriminan? ¿Por qué, cuando se analizaron estas miles de imágenes, el 80% de las veces que le pidieron fotos de un preso devolvía una captura de una persona afroamericana? ¿Por qué cuando le pedían la foto del CEO de una compañía devolvía imágenes de hombres arios?

    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)
    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)

    La respuesta tiene algunas aristas. Por un lado está la información con la que estos algoritmos son entrenados, que es tomada de internet. Como internet está repleta de contenidos creados por humanos y los humanos discriminan, el resultado es que los algoritmos también lo harán.

    Otra parte de la respuesta está en la curación de los contenidos que serán usados para entrenar a los algoritmos. Si los sets de datos no están curados por humanos o si las personas que curan, limpian y etiquetan esos datos no lo hacen correctamente, pueden estar introduciendo pequeñas inclinaciones en los algoritmos. Esto puede estar ligado, por ejemplo, a la falta de diversidad en los equipos, al etiquetado ambiguo de información, a conjuntos de datos incompletos y que no representen la realidad, a la falta de contexto.

    Leé también: Desarrollaron una IA tóxica para pensar las peores preguntas que puedas imaginarte

    Acá es cuando entra lo que llaman efecto dominó. Este concepto tiene que ver con que un pequeño cambio en un sistema pude tener consecuencias mucho más grandes, complejas o inesperadas.

    Si los algoritmos no son entrenados con información limpia, las cosas pueden empezar a complicarse. El motivo es simple: si estos algoritmos generativos como Stable Diffusion son entrenados con información sucia terminará dando como resultado respuestas incorrectas.

    Transparencia y explicabilidad en los algoritmos de las IA

    Por ese motivo es tan importante algo que la mayoría de las compañías que están liderando la carrera por la IA no hacen: tener transparencia en relación a cómo se entrenan estos algoritmos. No solo revelando qué sets de datos son usados, cómo son elegidos y curados, sino también presentando cómo son los procesos internos de la compañía.

    Por otro lado está la explicabilidad, que se trata de la capacidad de estos sistemas de inteligencia artificial para dar explicaciones simples y comprensibles de las decisiones que tomó para llegar a determinados resultados. Esto es particularmente importante en situaciones, por ejemplo, donde hay algoritmos que toman decisiones como en el sector de la salud, la justicia o las finanzas.

    La importancia de poder detectar estos problemas, teniendo en cuenta que hay especialistas que consideran que alrededor del 90% de los contenidos de internet será creado por inteligencias artificiales en los próximos años, es clave.

    Las más leídas de Tecno

    1

    Meta asegura que prefiere usar IA para moderar en lugar de humanos y aumentan rumores de despidos

    2

    Sonic 4: Sega confirma el elenco de la nueva adaptación del juego al cine, con Jim Carrey incluido

    3

    iPhone Fold: ¿cuándo se lanzará al mercado el primer teléfono plegable de Apple?

    4

    “Las aplicaciones desaparecerán de los teléfonos”, predijo un referente de la industria móvil

    Por 

    Uriel Bederman

    5

    Google mejora las descargas laterales para combatir las estafas en las apps que están fuera de su tienda

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialDiscriminaciónRacismosexismo

    Más sobre Tecno

    iPhone Fold, un producto que genera expectativa. (Foto: Creada con ChatGPT)

    iPhone Fold: ¿cuándo se lanzará al mercado el primer teléfono plegable de Apple?

    El cambio en las descargas fuera de Google Play se encuadra en una serie de nuevas políticas en las tiendas de apps, resultado de un juicio histórico. (Foto: Adobe Stock)

    Google mejora las descargas laterales para combatir las estafas en las apps que están fuera de su tienda

    Actualmente, la firma de Mark Zuckerberg utiliza un modelo mixto para la moderación de contenido: reportes de IA, luego revisados por contratistas. (Foto: EFE/EPA/John G. Mabanglo)

    Meta asegura que prefiere usar IA para moderar en lugar de humanos y aumentan rumores de despidos

    © 1996 - 2026, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Sofi Martínez fue a cubrir un partido, conoció a un sodero cordobés y mostró la historia de amor
    • Guerra en Medio Oriente: un misil iraní cayó en la Ciudad Vieja de Jerusalén cerca de lugares sagrados
    • Ricardo Darín contó qué fue lo que más le impactó de convertise en abuelo: “Es fuerte”
    • Ian Lucas reveló qué hará con los 50 millones que ganó tras consagrarse campeón de “MasterChef Celebrity”

    Secciones

    • Últimas noticias
    • Dólar
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2026, Artear

    Mapa del sitioTérminos y CondicionesPolíticas de privacidadMedia Kit