¿Cruel parricidio? El chatbot de Google, Gemini, apuntó contra la compañía que lo desarrolla. En una serie de respuestas relativas a inversiones, el sistema de inteligencia artificial aseguró que Alphabet Inc., casa matriz de esa firma, ejerce prácticas monopólicas en el negocio de las publicidades en línea. ¿Por qué un bot conversacional acusaría a sus propios creadores de mañas ilícitas? ¿Acaso sus inventores no contemplaron esta suerte de traición mecanizada?
Gemini acusa a Google de prácticas monopólicas
Célebre por su motor de búsqueda, Google ha sido acusado y penado en numerosas ocasiones por prácticas monopólicas en diversos sectores, en especial en el redituable negocio de los anuncios online. Ahora bien, que el señalamiento provenga de un servicio que ellos mismos desarrollan es, a priori, una sorpresa.
¿Google culpando a Google? Un reporte de Business Insider explica el aparente sinsentido, que quedó en evidencia en un video que muestra a ejecutivos “jugando” con chatbots de IA para acceder a detalles de los mercados y a recomendaciones de inversión. En una de sus intervenciones, Gemini recomendó apostar a acciones de Alphabet. El carácter insólito del consejo apareció en la justificación. El chabot señaló que la firma con sede central en Mountain View, California, “controla más del 90% del mercado mundial de búsquedas, lo que le otorga un virtual monopolio de la publicidad en línea”.
Leé también: Multa a Google: 250 millones de euros por usar notas periodísticas para entrenar a su inteligencia artificial
Siguiendo a BI, si bien el dato puede ser certero, “no es el tipo de cosas que Google quiere que digan sus modelos de inteligencia artificial”. Mucho menos en tiempos en los que el conglomerado está, nuevamente, bajo escrutinio: el Departamento de Justicia de Estados Unidos tiene a ese grupo bajo la lupa, alegando que ejerce un dominio excesivo e ilegal en el mercado de las búsquedas online. Se ha dicho que aquel juicio podría alterar el futuro de Internet.
La respuesta de Google, tras las acusaciones de su chatbot Gemini
“Hemos sido transparentes en cuanto a que Gemini a veces puede dar información inexacta o engañosa mientras la presenta de manera segura y convincente”, dijo un vocero de la empresa (sí, un humano) en declaraciones a la fuente. “Esto es algo que estamos mejorando continuamente”, cerró.
Recientemente, el CEO de Google, Sundar Pichai, puso el grito en el cielo tras reportes que dieron cuenta de errores en el chatbot y en el generador de imágenes que ellos desarrollan, cuando creó contenido con sesgos racistas. “Es inaceptable”, dijo el director ejecutivo y relativizó su enojo al señalar que, ahora, “ninguna inteligencia artificial es perfecta”.
Leé también: “Es inaceptable”: el enojo del CEO de Google por los resultados racistas de la inteligencia artificial Gemini
En la ocasión, desde Google informaron que trabajan con los denominados “equipos rojos”. Heredada de la Guerra Fría, esa terminología refiere a grupos de expertos que crean simulaciones extremas, para que los sistemas se comporten agresivamente. De esa forma, es posible diseñar protecciones eficientes en entornos controlados.
¿Por qué Gemini “atacó” a Google?
Naturalmente, la compañía que dirige Pichai no desarrolló a Gemini para que arroje comentarios negativos sobre Google. ¿Cómo se explica, entonces, que el chatbot asegure que su creador ejerce prácticas indebidas? La respuesta hay que buscarla en el adiestramiento de esos sistemas.
La clave para el funcionamiento de los modelos de IA generativa es el entrenamiento con grandes volúmenes de datos. Es decir, responden basándose en la información que reciben. Por eso, si los desarrolladores de chatbots pretenden que sus programas eludan los sesgos, entonces deberán inyectar en ellos datos caracterizados por la diversidad. Si bien es habitual creer que el comportamiento de esas máquinas puede ser, per se, incorrecto y/o inadecuado; el problema está detrás, en los equipos de humanos que los desarrollan y en el paquete de información que esos modelos reciben.
En el caso de la acusación de Gemini a Google por prácticas monopólicas, BI explica que los usuarios que encontraron esas respuestas anteriormente volcaron transcripciones de llamadas sobre ganancias de la compañía, sin editarlas. Luego, al hacer preguntas sobre posibles inversiones, el chatbot —usaron la versión más reciente, la 1.5— respondió tomando como criterio aquel contenido.
