La estrella Emma Watson, así como otras celebridades tales como Joe Rogan y Ben Sharpio, son el centro de la polémica al circular por las redes sociales vídeos y audios en los que se le ven pronunciando contenidos racistas y violentos. Incluso se ve a la artista de Harry Potter leyendo Mein Kampf de Adolf Hitler. Sin embargo, las investigaciones parecen demostrar que todo se trata de un montaje.
¿Es realmente Emma Watson?
Según los analistas se trata de una serie de audios cargados en la plataforma 4Chan que han sido elaborados a través de herramientas de inteligencia artificial de ElevenLab a fin de que las voces suenen como la de los artistas. Es decir, todo se trata de un montaje.
La propia compañía ha anunciado los malos usos que se ha detectado en su herramienta de clonación de voces tras la circulación por internet de los vídeos de Emma Watson y un conjunto de artistas en los que supuestamente se les escucha dar comentarios racistas y violentos.
La compañía admitió que, si bien su tecnología se aplica abrumadoramente al uso positivo y productivo de la sociedad, también han detectado un número creciente de casos particulares de uso indebido de la clonación de voz. Es por esto por lo que la compañía ha prometido una serie de mecanismos de seguridad adicionales.
Afirman que tomarán medidas adicionales
El startup afirmó que pueden rastrear cualquier audio generado con su herramienta hasta llegar al creador ya que todas las producciones tienen una marca de agua. Incluso prometieron que implementarán más medidas adicionales con las que esperan detener el problema de clonación de voces.
Adicionalmente se plantean solicitar una verificación de cuenta adicional para el uso de su herramienta de clonación de voz como un documento oficial de identidad o datos de pago. Así como solicitar una muestra con texto para verificar los derechos de autor de la voz y verificar manualmente cada solicitud de clonación eliminando por completo Voice Lab.
La compañía tiene dos herramientas para la clonación de voz: Instant Voice Cloning, dentro de Voice Lab que tan solo requiere una pequeña muestra para empezar su clonación, aunque con menos calidad. La otra es Professional Voice Cloning que requiere más ejemplos de una persona concreta pero finalmente reproduce su voz con fidelidad gracias a un modelo entrenado.
Añadir comentario