OpenAI, la empresa líder en inteligencia artificial, anunció el desarrollo de su nuevo modelo Voice Engine, capaz de clonar voces humanas con un nivel de realismo sorprendente. Este avance permite replicar sonidos naturales y emotivos utilizando únicamente una muestra de voz de 15 segundos. Sin embargo, a pesar de los potenciales beneficios que esta tecnología podría aportar, la compañía ha decidido no lanzarla al público general debido a los riesgos asociados.
“Reconocemos que generar un discurso que se asemeje a las voces de las personas conlleva serios riesgos, que son especialmente importantes en un año electoral”, señaló OpenAI en un comunicado.
Voice Engine ofrece diversas aplicaciones, desde facilitar la traducción de contenido manteniendo el acento nativo del hablante hasta ayudar a personas con dificultades de comunicación verbal, como aquellas que utilizan sistemas de llamadas telefónicas.
La empresa proporciona ejemplos convincentes de cómo Voice Engine puede traducir voces de diferentes idiomas conservando el acento original de la persona. Sin embargo, por el momento, el acceso a esta tecnología está limitado a ciertas empresas seleccionadas, como Age of Learning, HeyGen, Dimagi, Livox y Lifespan.
OpenAI ha adoptado una postura cautelosa ante el lanzamiento generalizado de Voice Engine, reconociendo el potencial de uso indebido de la voz sintética. Las empresas que acceden a esta tecnología deben cumplir con las políticas de uso establecidas por OpenAI, que incluyen obtener el consentimiento de las personas cuyas voces se clonan y divulgar a los usuarios que están interactuando con voces sintéticas.
Además, OpenAI ha implementado medidas de seguridad adicionales, como marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine y un monitoreo proactivo del uso de la tecnología.
La preocupación por el mal uso de voces sintéticas generadas por IA no es infundada. Este año electoral en Estados Unidos, se han reportado casos de llamadas automáticas con voces clonadas de políticos prominentes, como el presidente Joe Biden. Asimismo, existe la posibilidad de que los estafadores utilicen estas voces para acceder a cuentas bancarias que utilizan autenticación de voz.
En este contexto, OpenAI prioriza la prudencia y la responsabilidad en el desarrollo y la implementación de su tecnología de clonación vocal, con el objetivo de minimizar los riesgos potenciales y maximizar los beneficios para la sociedad.
