La clonación de voz mediante inteligencia artificial ha alcanzado un nivel de realismo que plantea profundos dilemas éticos y de seguridad. Con solo unos segundos de audio, los sistemas actuales pueden generar una réplica digital de la voz de una persona que dice cosas que nunca pronunció. Esta tecnología, que promete devolver la comunicación a quienes han perdido el habla, también se utiliza para cometer fraudes y manipular la opinión pública.
Voces sintéticas: entre la esperanza y la amenaza
Hany Farid, científico computacional de la Universidad de Dartmouth y cofundador de Get Real Security, advierte que hoy basta un teclado y conexión a internet para generar imágenes, voces y videos falsos de cualquier persona diciendo o haciendo cualquier cosa. “Vivimos en una época que es a partes iguales emocionante y aterradora”, señala Farid.
El avance ha sido vertiginoso. Hace apenas cinco años, la idea de clonar una voz con tal fidelidad parecía lejana. Hoy, con unos 20 segundos de grabación, un algoritmo puede imitar la identidad vocal de alguien de manera indistinguible para el oído humano promedio. En pruebas de laboratorio, las personas no logran diferenciar una voz real de una sintética; aciertan aproximadamente lo mismo que al lanzar una moneda.
Usos que transforman vidas
Para personas con enfermedades neurodegenerativas como la esclerosis lateral amiotrófica (ELA), los clones de voz representan una tabla de salvación. Jules Rodriguez, quien perdió la capacidad de hablar, recuperó su voz mediante esta tecnología. “Cuando escuché mi voz clonada, sentí que reaparecía”, relata. Su esposa, MA Fernandez, cuenta que lloró al oír la réplica porque sonaba casi idéntica a como era él antes de enfermar.
Más allá de la discapacidad, la clonación de voz permite traducir en tiempo real a cualquier idioma conservando el timbre del hablante. Farid menciona que él mismo ha creado videos hablando en idiomas que no domina, con su propia voz. Estas aplicaciones demuestran el potencial positivo de una herramienta que, en manos malintencionadas, puede causar daños considerables.
El lado oscuro: fraudes y desinformación
Los casos de fraude con voces clonadas se multiplican. Farid enumera estafas románticas, llamadas a padres asegurando que sus hijos han sido secuestrados y exigen rescates, y suplantaciones de directivos para autorizar transferencias bancarias. En el ámbito geopolítico, se han documentado llamadas de líderes falsos a otros mandatarios. “Cuando puedes robar la identidad de alguien, su voz y su rostro, puedes hacer mucho daño”, afirma.
El propio Farid fue víctima: un atacante clonó su voz y llamó a un abogado con el que trabajaba en un caso sensible. Tras tres minutos de conversación, el abogado sospechó y colgó. La proliferación de chatbots que escriben guiones para estas llamadas permite escalar los fraudes sin intervención humana.
En el terreno político, los deepfakes de audio y video ya se usan en anuncios de campaña. De cara a las elecciones de medio término en Estados Unidos, circulan materiales que hacen decir a los candidatos cosas que nunca dijeron. La desinformación se vuelve más difícil de detectar cuando la voz suena auténtica.
El dilema de los “griefbots” o chatbots de duelo
Una de las aplicaciones más controvertidas es la creación de “griefbots”: réplicas digitales de personas fallecidas que permiten interactuar con su voz y personalidad simulada. Empresas ofrecen servicios para “traer de vuelta a la vida” a seres queridos. Algunos usuarios comparten experiencias catárticas, como escuchar al padre fallecido recitar una oración.
Sin embargo, expertos como Dylan Thomas Doyle, ex capellán hospitalario e investigador de la Universidad Northwestern, advierten sobre el riesgo de que estas herramientas impidan el duelo saludable. “Hay una tensión entre continuar los vínculos de manera positiva y aferrarse a la relación hasta el punto de no poder avanzar”, explica. La falta de datos sobre la adopción de estas prácticas dificulta evaluar su impacto real.
Las preguntas sobre los derechos de uso de la voz de un fallecido son complejas. Algunas personas están incorporando cláusulas en sus testamentos para decidir si su voz puede usarse en su propio funeral o en mensajes futuros para sus hijos. ¿Quién es dueño de la voz? ¿Pueden los herederos autorizar su uso? Las regulaciones varían por estado y país, y las empresas aplican políticas dispares.
Regulación y conciencia pública
Ante este panorama, la regulación es incipiente. No existen lineamientos claros sobre el uso de clones de voz, y las leyes existentes no alcanzan a cubrir todos los supuestos. Farid insiste en la necesidad de desarrollar tecnologías de detección y en educar al público para desconfiar de los contenidos digitales. “Hemos perdido la capacidad de confiar automáticamente en las versiones digitales de otras personas”, sentencia.
La historia muestra que toda nueva tecnología genera temores, desde la imprenta hasta el teléfono. Pero la clonación de voz presenta desafíos únicos por la facilidad con que puede engañar a los sentidos. Mientras la sociedad debate los límites, los expertos coinciden en que se requiere un equilibrio entre innovación y protección. La conversación apenas comienza.