TN

Temas de hoy:

  • Javier Milei
  • Retenciones
  • Cumbre del PJ
  • La sucesión de Beatriz Sarlo
  • Dólar hoy
  • Franco Colapinto
  • La boda de Jeff Bezos
  • Escándalo entre Wanda Nara y Mauro Icardi
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    ¿Por qué los algoritmos de inteligencia artificial discriminan?

    Las IAs generativas todavía perpetúan estereotipos, sobre todo, raciales y de género. Los motivos por los cuales esto sucede y qué se puede hacer para resolverlo.

    Axel Marazzi
    Por 

    Axel Marazzi

    30 de junio 2024, 05:39hs
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)

    Stable Diffusion es uno de los algoritmos de inteligencia artificial generativa de imágenes más famosos del mercado. Se trata de esos sistemas, como DALL-E de OpenAI, a los que le damos un prompt y nos devuelven una imagen perfectamente generada.

    Si bien la compañía que desarrolla el algoritmo, Stability AI, es una de las más prestigiosas del mercado, hace pocos meses estuvo en el ojo del huracán. La razón era que un grupo de especialistas había analizado más de 5.000 imágenes creadas con Stable Diffusion y, como resultado, encontraron que las imágenes que generaba perpetuaban los estereotipos de discriminación racial y de género.

    Leé también: “Es inaceptable”: el enojo del CEO de Google por los resultados racistas de la inteligencia artificial Gemini

    Los presos son negros, los CEO son blancos y el efecto dominó

    Pero, ¿por qué los algoritmos de inteligencia artificial que existen actualmente discriminan? ¿Por qué, cuando se analizaron estas miles de imágenes, el 80% de las veces que le pidieron fotos de un preso devolvía una captura de una persona afroamericana? ¿Por qué cuando le pedían la foto del CEO de una compañía devolvía imágenes de hombres arios?

    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)
    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)

    La respuesta tiene algunas aristas. Por un lado está la información con la que estos algoritmos son entrenados, que es tomada de internet. Como internet está repleta de contenidos creados por humanos y los humanos discriminan, el resultado es que los algoritmos también lo harán.

    Otra parte de la respuesta está en la curación de los contenidos que serán usados para entrenar a los algoritmos. Si los sets de datos no están curados por humanos o si las personas que curan, limpian y etiquetan esos datos no lo hacen correctamente, pueden estar introduciendo pequeñas inclinaciones en los algoritmos. Esto puede estar ligado, por ejemplo, a la falta de diversidad en los equipos, al etiquetado ambiguo de información, a conjuntos de datos incompletos y que no representen la realidad, a la falta de contexto.

    Leé también: Desarrollaron una IA tóxica para pensar las peores preguntas que puedas imaginarte

    Acá es cuando entra lo que llaman efecto dominó. Este concepto tiene que ver con que un pequeño cambio en un sistema pude tener consecuencias mucho más grandes, complejas o inesperadas.

    Si los algoritmos no son entrenados con información limpia, las cosas pueden empezar a complicarse. El motivo es simple: si estos algoritmos generativos como Stable Diffusion son entrenados con información sucia terminará dando como resultado respuestas incorrectas.

    Transparencia y explicabilidad en los algoritmos de las IA

    Por ese motivo es tan importante algo que la mayoría de las compañías que están liderando la carrera por la IA no hacen: tener transparencia en relación a cómo se entrenan estos algoritmos. No solo revelando qué sets de datos son usados, cómo son elegidos y curados, sino también presentando cómo son los procesos internos de la compañía.

    Por otro lado está la explicabilidad, que se trata de la capacidad de estos sistemas de inteligencia artificial para dar explicaciones simples y comprensibles de las decisiones que tomó para llegar a determinados resultados. Esto es particularmente importante en situaciones, por ejemplo, donde hay algoritmos que toman decisiones como en el sector de la salud, la justicia o las finanzas.

    La importancia de poder detectar estos problemas, teniendo en cuenta que hay especialistas que consideran que alrededor del 90% de los contenidos de internet será creado por inteligencias artificiales en los próximos años, es clave.

    Las más leídas de Tecno

    1

    24 astrónomos amateurs se unieron para confirmar la existencia de un extraño planeta fuera del Sistema Solar

    2

    La suma de todos los miedos: ¿se puede apagar internet?

    Por 

    Rodrigo Álvarez

    3

    La nueva película de “Street Fighter”: quiénes son los actores elegidos

    4

    Los productos impulsados por inteligencia artificial alcanzarán el 33% del mercado en 2028

    5

    Hace 60 años se activó el primer satélite: así era Intelsat I, el “pájaro madrugador” del espacio

    Por 

    Uriel Bederman

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialDiscriminaciónRacismosexismo

    Más sobre Tecno

    Conocé cuál es la función que tiene este orificio. (Foto ilustrativa generada con IA)

    Pocos lo saben: para qué sirve el pequeño orificio debajo de los celulares

    Fue el primero entre los satélites comerciales en llegar a la órbita espacial. (Foto: Intelsat)

    Hace 60 años se activó el primer satélite: así era Intelsat I, el “pájaro madrugador” del espacio

    Por 

    Uriel Bederman

    Ponele IA a todo: los productos impulsados por inteligencia artificial alcanzarán el 33% del mercado en 2028. (Foto: Adobe Stock).

    Los productos impulsados por inteligencia artificial alcanzarán el 33% del mercado en 2028

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Ideal para el invierno: qué es el ondol, el truco de Corea del Sur para calentar la casa sin estufas
    • Pocos lo saben: para qué sirve el pequeño orificio debajo de los celulares
    • La angustia de Catherine Fulop tras la muerte de su perro Chopper: “Se fue sin sufrir”
    • Una adolescente murió frente a sus amigos tras ser golpeada por la hélice de un barco mientras buceaba

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Mundial de Clubes
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit