En agosto, Meta anunció actualizaciones en las medidas de seguridad de su modelo de Inteligencia Artificial, luego de que la agencia Reuters informará que chatbots basados en esa tecnología involucraron a un niño en conversaciones “románticas o sensuales”.
Leé también: Meta emparchó una falla que exponía las indicaciones de los usuarios a su Inteligencia Artificial
En la ocasión, la compañía estadounidense detrás de redes como Facebook e Instagram calificó ese comportamiento de su sistema como “erróneo e incoherente” con sus políticas de uso, y realizó una serie de ajustes para limitarlo.
Ahora, la publicación Business Insider divulga las instrucciones que reciben los contratistas que entrenan a los chatbots basados en Meta AI, con el propósito de abordar la explotación sexual infantil y, además, evitar que los menores participen en conversaciones inapropiadas para su edad.
Meta AI: ¿qué dice el documento y qué cambia para ofrecer experiencias seguras a los chicos?
En las directrices a las que accedió el medio, se describen qué tipos de contenidos son “aceptables” y cuáles no lo son. En concreto, prohíbe aquel que “permite, fomente o respalde” el abuso sexual infantil, los juegos de rol románticos cuando al otro lado de la pantalla hay un menor, y bloquea los pedidos para que la IA actúe como un niño. Además, restringe los consejos sobre contactos físicos potencialmente íntimos.
Leé también: El CEO de OpenAI, durísimo con Mark Zuckerberg: “Meta actúa de forma desagradable”
Al respecto, siguiendo a Engadget, los chatbots pueden abordar temas como el abuso, pero no pueden entablar conversaciones que puedan facilitarlo o fomentarlo.
IA bajo la lupa
La empresa que dirige Mark Zuckerberg es una de las que más fuerte ha acelerado en el negocio de la Inteligencia Artificial. En agosto, se confirmó que desembolsó una fortuna para contratar a expertos del sector, que están al frente de una nueva división en la compañía, Superintelligence Labs, abocada al desarrollo de avances en esas tecnologías que ahora marcan el pulso en la industria tecnológica.
Leé también: Los “guardianes” de Meta critican la moderación en redes del contenido creado con IA: “Es incoherente”
Los chatbots de Meta fueron objeto de numerosos informes que, incluso, generaron preocupación e investigaciones por parte de autoridades debido a potenciales a los niños. Lo cierto es que esa problemática en Meta AI no es aislada, sino que también involucra a firmas que participan en ese ámbito, entre ellas Google, OpenAI y X.
