Clonar voz en AI es un riesgo
Sin duda la inteligencia artificial está alcanzando niveles nunca nates vistos y no siquiera imaginados, y aunque es una herramienta que aún requiere de la gestión de lo seres humanos, los avances que ha tenido en los últimos años hacer pensar a muchos, que muy pronto podría rebasar a la humanidad.
Y es que recientemente ha surgido un nuevo tipo de deepfake conocido como clonación de voz, en el que se utiliza inteligencia artificial (IA) para simular la forma de hablar de cualquier persona, lo que esta alertando a los desarrolladores de esta poderosa herramienta.
OpenAI, creador de ChatGPT, es la última empresa tecnológica en desarrollar software de clonación de voz, pero no lo lanzará al público, debió a que esta espeluznante tecnología puede replicar la voz de cualquier persona en tan solo 15 segundos de grabación del discurso.
OpenAI lo ha considerado “demasiado arriesgado” para uso público, tras presentar la innovadora tecnología en el foro Voice Engine el viernes, en donde destacó que la herramienta es capaz de recrear la voz de una persona con sólo 15 segundos de grabación de esa persona hablando.
Esto pondría en riesgo la seguridad de millones de personas y podría ser una forma de cometer fraudes, robos desde situaciones comunes, hasta situaciones en las que grandes empresas se vean afectadas.
El gigante tecnológico, aseguró que los primeros evaluadores de Voice Engine acordaron no hacerse pasar por una persona sin su consentimiento y revelar que las voces son generadas por IA, mientras espera mejorar esta tecnología y crear candados para evitar su mal uso.
La clonación de voz es una tecnología que utiliza la inteligencia artificial (IA) para replicar la voz de una persona. Con la ayuda de la IA y de algoritmos de aprendizaje automático, es posible generar voces sintéticas que suenen igual que una voz humana. La tecnología de clonación de voz puede ser especialmente útil para la edición de audio, el doblaje y la transcripción de archivos de audio. También puede utilizarse para crear audiolibros, locuciones, chatbots, contenidos para redes sociales, podcasts e incluso videojuegos.*