La revelación de que el documentalista Morgan Neville usó software de clonación de voz para hacer que el fallecido chef Anthony Bourdain dijera palabras que nunca pronunció ha generado críticas en medio de preocupaciones éticas sobre el uso de la tecnología.
La película Roadrunner: A Film About Anthony Bourdain se estrenó en Estados Unidos este viernes y en su mayoría presenta imágenes reales del famoso chef y presentador de televisión antes de morir en 2018. Pero Neville, reveló a The New Yorker que un fragmento de diálogo se creó utilizando tecnología de inteligencia artificial.
Estas declaraciones comenzaron un debate sobre el futuro de la tecnología de clonación de voz, no sólo en el mundo del entretenimiento, sino también en la política y en un sector comercial de rápido crecimiento dedicado a transformar el texto en un habla humana con un sonido realista.
“La clonación de voz no aprobada es una pendiente resbaladiza”, indicó Andrew Mason, fundador y director ejecutivo de Voice generator Descript, en una publicación de blog el viernes. “Tan pronto como ingresas a un mundo en el que estás haciendo juicios subjetivos sobre si casos específicos puede ser ético, no pasará mucho tiempo antes de que todo valga”, añadió.
La mayor parte de la controversia pública en torno a estas tecnologías se centró en la creación de deepfakes (inteligencia artificial usada para crear videos o audios falsos) difíciles de detectar utilizando audio y/o video simulados y su potencial para alimentar la desinformación y el conflicto político.
Pero Mason, quien anteriormente fundó y dirigió Groupon, señaló en una entrevista que Descript ha rechazado repetidamente las solicitudes para recuperar una voz, incluso de “personas que han perdido a alguien y están en duelo”.
Las reacciones de enojo e incomodidad en torno a la clonación de voces en el caso Bourdain reflejan expectativas y problemas de divulgación y consentimiento, sentenció Sam Gregory, director de programas de Witness, una organización sin fines de lucro que trabaja en el uso de la tecnología de video para los derechos humanos. Habría sido apropiado obtener el consentimiento y revelar la tecnología en el trabajo, dijo. En cambio, los espectadores se sorprendieron, primero por el hecho de la falsificación de audio, luego por el aparente rechazo del director de cualquier pregunta ética, y expresaron su disgusto en línea.
No te pierdas: El documental sobre Anthony Bourdain llegará a los cines este verano
“También toca nuestros miedos a la muerte y las ideas sobre la forma en que la gente podría tomar el control de nuestra semejanza digital y hacernos decir o hacer cosas sin ninguna forma de detenerlo”, detalló Gregory.
Neville no ha dicho qué herramienta usó para recrear la voz de Bourdain, pero expuso que la usó para algunas oraciones que el chef escribió pero que nunca pronunció en voz alta.
“Con la autorización de su patrimonio y agente literario, usamos tecnología de inteligencia artificial. Era una técnica moderna de narración de historias que usé en algunos lugares donde pensé que era importante hacer que las palabras de Tony cobraran vida”, afirmó Neville en una declaración escrita.
También declaró a la revista GQ que obtuvo la aprobación de la viuda y albacea literaria de Bourdain. La esposa del chef, Ottavia Busia, respondió con un tweet: “Ciertamente NO fui yo quien dijo que Tony habría estado bien con eso”.
Sólo unos segundos o minutos de voz humana grabada pueden ayudar a enseñar a un sistema de inteligencia artificial a generar su propia voz sintética. Aunque lograr que capture la claridad y el ritmo de la voz de Anthony Bourdain probablemente requirió mucho más entrenamiento, aseguró Rupal Patel, profesor de la Universidad Northeastern quien dirige otra empresa generadora de voz, VocaliD, que se centra en chatbots de servicio al cliente.
Ahora lee: Documental de Madonna llegará en octubre a través de Paramount+
“Si quisieras que hablara realmente como él, necesitarías mucho, tal vez 90 minutos de datos buenos y limpios. Estás construyendo un algoritmo que aprende a hablar como Bourdain“, expuso.
Neville es un documentalista aclamado que también dirigió el retrato de Fred Rogers, Won’t You Be My Neighbor? y la ganadora del Oscar, 20 Feet From Stardom. Comenzó a hacer su última película en 2019, más de un año después del suicidio de Bourdain en junio de 2018.
Con información de AP
