OpenAI Desarrolla un Potente Clonador de Voz, pero Duda su Lanzamiento Público

OpenAI ha desarrollado un modelo de inteligencia artificial llamado Voice Engine, capaz de clonar voces humanas con un sonido natural y emotivo utilizando tan solo 15 segundos de muestra de voz. A pesar de su potencia, la empresa ha decidido no lanzar esta tecnología al público por el momento debido a preocupaciones sobre su posible uso indebido.

La capacidad de Voice Engine podría tener diversas aplicaciones beneficiosas, como la traducción de contenido manteniendo los acentos nativos o ayudando a personas con dificultades de comunicación verbal. Sin embargo, OpenAI reconoce los riesgos asociados con la generación de discurso sintético, especialmente en contextos sensibles como el año electoral en Estados Unidos.

Por ahora, Voice Engine está disponible solo para algunas empresas seleccionadas que han aceptado las políticas de uso de OpenAI. Estas políticas incluyen la prohibición de usar las voces sintéticas sin el consentimiento de las personas y la obligación de informar a los usuarios cuando están interactuando con voces generadas por IA.

OpenAI también ha implementado medidas de seguridad, como marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine y un monitoreo proactivo de su uso.

El potencial de mal uso de las voces sintéticas generadas por IA es evidente, desde llamadas automáticas fraudulentas hasta intentos de acceso a cuentas bancarias que utilizan autenticación de voz. En este sentido, la cautela de OpenAI en la difusión de esta tecnología es comprensible y necesaria en un contexto donde la seguridad y la ética deben ser prioritarias.