TN

Temas de hoy:

  • Javier Milei
  • Elecciones 2025
  • Conmoción en Tres Arroyos
  • Selección argentina
  • Dólar hoy
  • Cristina Kirchner
  • Thiago Correa
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    Microsoft creó una IA que clona voces humanas, pero aún no se lanzará: “Es muy peligrosa”

    Según la compañía, su sistema llamado VALL-E 2 es tan poderoso que conlleva riesgos. ¿Qué problemáticas se asocian a esas tecnologías?

    22 de julio 2024, 11:05hs
    VALL-E convierte texto en audio, imitando voces humanas. (Foto: Adobe Stock)
    VALL-E convierte texto en audio, imitando voces humanas. (Foto: Adobe Stock)

    Microsoft se ha unido al grupo de compañías que tiene entre manos un clonador de voces capaz de convertir texto en audio, e imitar con gran fidelidad la entonación humana. Si bien esa tecnología es eficaz, la empresa estadounidense decidió no lanzarla a nivel general debido a su peligrosidad. ¿Qué riesgos se asocian a ese tipo de sistemas? ¿Cuán grande es la preocupación del desarrollador para interrumpir el despliegue de un modelo innovador y poderoso?

    Microsoft VALL-E 2: ¿qué es y cuáles son sus habilidades?

    Aquel es el nombre que Microsoft le dio a su inteligencia artificial que clona voces humanas. ¿Cómo se usa, en la práctica? El sistema trabaja a partir de texto escrito, que luego convierte en audio. Para imitar el habla de una persona en particular, solamente precisa pocos segundos de grabación. Con esa base, puede generar frases cortas y oraciones largas, con la habilidad para insertar variaciones y sonar más natural en comparación con otros modelos.

    ¿Querés recibir más noticias de Tecno?

    Suscribite acá

    Evolución de una versión presentada a comienzos del año pasado, VALL-E 2 puede producir “voces precisas y naturales con la voz exacta del hablante original, comparable al desempeño humano”, explican sus desarrolladores. En ese sentido, la tecnológica con sede central en Redmond asegura que VALL-E 2 es el primero de su tipo en lograr la “paridad” con el habla original.

    ¿Por qué Microsoft no lanza a VALL-E?

    Tan realistas y convincentes son los resultados del clonador de voces que Microsoft se niega a un lanzamiento, al menos en esta instancia. ¿En qué se basa esta decisión? Citan “riesgos potenciales” asociados a los usos indebidos. Según comentaron, en este momento es considerado “puramente un proyecto de investigación”.

    Los clonadores de voces se asocian a riesgos relevantes. (Foto: Adobe Stock)
    Los clonadores de voces se asocian a riesgos relevantes. (Foto: Adobe Stock)

    “Actualmente, no tenemos planes de incorporar VALL-E 2 a un producto o ampliar el acceso al público (…) Puede conllevar riesgos potenciales en el mal uso del modelo, como falsificar la identificación de voz o hacerse pasar por un hablante específico”, señalaron desde Microsoft e informaron que las sospechas de abuso de la herramienta pueden ser denunciadas a través de una plataforma en línea.

    En concreto, las preocupaciones apuntan a una serie de usos non sanctos que podrían tener este tipo de clonadores. Una de las problemáticas se vincula a las falsificaciones profundas (deepfakes), a la difamación y a la desinformación. Ocurre que con sistemas como VALL-E es posible engañar a terceros haciéndoles creer que un audio proviene de una fuente confiable. Por mencionar un caso, hace algunos meses ciudadanos estadounidenses recibieron llamadas con la supuesta voz del presidente de aquel país, Joe Biden, incitándonos a abstenerse de votar en las elecciones primarias.

    Leé también: Inteligencia artificial generativa: los miedos y las esperanzas que asoman

    Por otra parte, los clonadores de voz expanden los riesgos en el ámbito de la seguridad informática. Esas tecnologías basadas en IA han propiciado lo que se conoce como “vishing”, un término que combina “voz” y “phishing” o suplantación de identidad. Básicamente, cibercriminales pueden usar clonadores para hacerse pasar por personas de confianza y así concretar sus ataques.

    Otras tecnológicas, entre ellas ByteDace —dueño de TikTok— y Meta —patrón de Facebook e Instagram— también desarrollan clonadores de voces. OpenAI, célebres por su chatbot ChatGPT, tiene su propio generador de voces con IA denominado Voice Engine. Igual que Microsoft, esas tres firmas han decidido mantener bajo llave a sus desarrollos, en todos los casos citando los problemas y riesgos potenciales.

    Las más leídas de Tecno

    1

    El truco de iPhone que pocos conocen para saber dónde quedó estacionado el auto

    2

    Amenazar a la IA, el insólito consejo de uno de los fundadores de Google para conseguir mejores respuestas

    Por 

    Uriel Bederman

    3

    La atmósfera de Plutón es única en el Sistema Solar, revela el Telescopio James Webb

    4

    El video más lindo de su vida: un nene jugó a que era Franco Colapinto junto a su abuela y enterneció a todos

    5

    Astrónomos descubren las explosiones más poderosas desde el Big Bang: “Nucleares y extremas”

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialMicrosoftdeepfakes

    Más sobre Tecno

    El video más lindo de su vida: un nene jugó a que era Franco Colapinto junto a su abuela y enterneció a todos.

    El video más lindo de su vida: un nene jugó a que era Franco Colapinto junto a su abuela y enterneció a todos

    IPhone ayuda a sus usuarios a recordar dónde estacionaron el auto. (Foto: Adobe Stock).

    El truco de iPhone que pocos conocen para saber dónde quedó estacionado el auto

    Un ilustración artística de la formación de Transitorios Nucleares Extremos o ENT. (Foto: Observatorio W. M. Keck/Adam Makarenko)

    Astrónomos descubren las explosiones más poderosas desde el Big Bang: “Nucleares y extremas”

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Horóscopo de hoy, sábado 7 de junio de 2025
    • Sin harina ni azúcar: la receta para un budín de zanahoria perfecto y bajo en calorías, ideal para el mate
    • Mauro Icardi le contestó a Wanda Nara después de la filosa advertencia que hizo contra la China Suárez
    • Era uno de los preferidos de Riquelme, se fue muy mal de Boca y ahora se ofreció para volver en este mercado

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit