Detrás del auge de la Inteligencia Artificial Generativa estaría profundizándose el dominio del idioma que muchos han postulado como “universal”. Al respecto, la publicación El Financiero lanzó una advertencia: “La IA que está revolucionando al mundo piensa en inglés y apenas balbucea en español”.
Para confirmar tal aseveración, la fuente anotó algunos datos. Por ejemplo, que GPT-3 —una de las versiones del modelo de lenguaje que sustentó el funcionamiento del popular ChatGPT— recibió entrenamiento con un 90% de textos en inglés y apenas 1% en nuestro idioma.
Leé también: Inteligentes, pero no tanto: ¿por qué las IAs fallan al representar la hora en un reloj?
Esto ocurre mientras el paradigma de los chatbots escala, también en este lado del mundo y, en tanto, en español. Según datos divulgados por OpenAI, Argentina está entre los cinco de la región que más lo usan, y hay una gran cantidad de desarrolladores locales echando mano a la herramienta.
Ahora bien, ¿cuán cierto es que los chatbots piensan en inglés? En caso de ser así, ¿tal comportamiento afecta negativamente la experiencia de los usuarios hispanoparlantes? Para dar con respuestas, hicimos pruebas en ChatGPT y también en Gemini de Google. Además, una especialista en IA nos explicó que, en este análisis, no solo deberíamos hablar de idiomas o de palabras, sino también de los números que operan sigilosamente detrás de cada instrucción que damos a los modelos.
¿La Inteligencia Artificial realmente piensa en inglés?
Cuando trasladamos la consulta a ChatGPT y a Gemini, las explicaciones fueron dispares, aunque confluyeron en un punto: cuando reciben una consulta en español, ocurre una traslación antes del resultado.
El chatbot de OpenAI dice que “en la mayoría de los casos” traduce el prompt que se escribe en español, al inglés, y finalmente responde en el primer idioma. Luego aclara que los modelos grandes no piensan en un idioma humano, pero que “la representación interna con la que operan se parece muchísimo al inglés”.
Hay una serie de razones para que ChatGPT sea más propenso a pensar en el idioma de los británicos y de los estadounidenses. Para comenzar, porque el inglés domina los datos de entrenamiento. Esto, debido a que la instancia de aprendizaje se basa en gran medida en el contenido disponible en Internet. Además, “los modelos tienden a resolver tareas de forma más estable cuando su representación interna se alinea con el idioma en el que fueron más entrenados”, responde ChatGPT. “Por eso, incluso si escribís en español, por dentro muchas abstracciones terminan acercándose más al inglés”, agrega.
Finalmente, asegura que esto no genera problemas para el usuario final, con pequeñas excepciones, como matices ligeramente angloparlantes y expresiones demasiado neutrales y dificultades con modismos muy locales.
Leé también: La curiosa obsesión de ChatGPT con las rayas largas: OpenAI anunció una “victoria pequeña, pero grata”
El chatbot de Google apuntó a una misma dirección, aunque con una perspectiva diferente. A diferencia del “en la mayoría de los casos sí” de ChatGPT, Gemini fue tajante: “No, no traduzco tu consulta al inglés. En cambio, la proceso y luego la vuelvo a traducir al español”.
En este caso, la explicación refirió a procesos que van más allá de las letras que vemos en la interfaz de estas herramientas. Para no abrumar con tecnicismos, diremos lo siguiente: los chatbots piensan en conceptos, no en palabras. En la práctica, convierten las instrucciones por escrito en una serie de números, llamados “tokens”, que luego se transforman en vectores, que son representaciones matemáticas.
El siguiente ejemplo que compartió Gemini aclara el panorama: “Cuando analizo tu frase, manipulo estos conceptos matemáticos directamente. No necesito pasar por el inglés para entender la relación entre ‘gato’ y ‘maullar’, porque esa relación existe en los datos de entrenamiento en español”.
Por último, hay una especie de reconocimiento y pasos hacia atrás, más en línea con la explicación de ChatGPT. “Aunque no traduzco explícitamente, es cierto que la mayor parte de los datos disponibles en Internet (y por ende en mi entrenamiento) están en inglés. Esto significa que mis representaciones internas (los vectores) pueden estar alineadas más fuertemente hacia patrones que son comunes en inglés”, observó Gemini.
“Son números, no palabras”
Los chatbots tienen un comportamiento que salta a la vista. Cuando pedimos que generen una imagen —cualquiera sea el prompt, en español—, en la pantalla aparecen frases en inglés, una especie de resumen del pedido, traducida, tal como vemos en la siguiente captura.
En diálogo con TN Tecno, la especialista en robótica e Inteligencia Artificial Marcela Riccillo profundiza lo señalado hasta aquí. Por un lado, señala que la mayor parte de la información con la que son entrenados los chatbots está escrita en inglés. Por el otro, dice que el verdadero idioma de los chatbots son números.
“Por cada palabra se arma una lista de números (vector) que representa sus características. Por ejemplo, si es un verbo o un sustantivo, si está en el sujeto o en el predicado, etcétera. Con los vectores se hacen columnas de números y se forma una tabla (matriz). Esto implica que internamente son números, no palabras”, detalla Riccillo.
Leé también: Microsoft promete que la superinteligencia “humanista” que desarrolla será sumisa y mansita
Si es que esto fuera un problema, ¿hay soluciones? La profesora del Instituto Tecnológico de Buenos Aires añade que son cada vez más las empresas que se dedican a armar datasets para entrenar modelos. “Es decir, se podría estar estandarizando el insumo de datos para las versiones de los chatbots. Y hay que ver qué criterios usan para seleccionar y etiquetarlos”, señala Riccillo, remarcando el rol de los humanos que opera detrás de la tecnología.
El Financiero marca caminos posible. Por caso, el iniciado por MarIA, un chatbot creado en Barcelona que fue entrenado con los archivos de la Biblioteca Nacional de España, o el de Lince Zero, desarrollado por una startup madrileña.
La historia no es nueva. Del mismo modo que no podemos decir que el cine solo habla en inglés porque Hollywood es el que domina en esa escena; deberíamos entender que los chatbots tienen la oportunidad de pensar en otros idiomas. No solo porque lo hagan con números, sino también porque, a fin de cuentas, su funcionamiento depende de instancias humanas, aunque éstas no sean visibles.
