Nicolas Curien, experto francés en ética de cuestiones digitales avisó, en una conferencia de la Unesco sobre nuevas tecnologías, que la inteligencia artificial (IA) generativa no está hecha para la verdad porque “conoce las palabras, pero no el mundo”.
Así lo sintetizó Curien en declaraciones a EFE en la sede la Unesco, en París, en una sesión organizada durante la Semana del Sonido, que trata cuestiones sociales ligadas al medio sonoro como la irrupción de inteligencias artificiales capaces de emular voces reales.
“En lo que concierne al respeto de la verdad y la autenticidad, la IA generativa no está hecha realmente para ellas, porque conoce las palabras, pero no conoce el mundo para decir la verdad”, opinó.
El miembro del Comité Consultivo Nacional de la Ética Digital de Francia subrayó la importancia de ser consciente de los límites de la IA y emplearla como una “herramienta”, dado que, al ignorar “el mundo que nos rodea”, requiere de la intervención humana.
“La IA no tiene siquiera una tecnología promotora de la verdad, luego debemos contar con el sentido crítico humano para interpretar la producción de la IA generativa”, sostuvo.
Además, hizo hincapié en la pluralidad de contenidos empleados por la IA y su capacidad de producción, ya que trata toda clase de datos, incluida la voz humana.
“La IA no trata solo texto; trata y reproduce imágenes y sonidos. Por eso es importante saber cómo lo hace y en qué medida puede imitar la producción humana”, agregó.
En este sentido, el rápido progreso de la IA generativa ya ha propiciado la aparición de ‘deepfakes’ o ultrafalsificaciones: contenido parcial o enteramente generados por dicha tecnología para difundir imágenes o sonidos falseados con gran precisión.
Curien fue uno de los participantes del panel dedicado a la IA en la Semana del Sonido de la Unesco de este año, centrada en las últimas innovaciones en el ámbito de la audición, en el que pudo abordar las ultrafalsificaciones junto al presentador del evento, el periodista y profesor Christophe Rioux.
“La capacidad de reproducir una voz a la perfección abre la vía a las manipulaciones, a los fraudes y a las nuevas formas de influencia psicológica, como subrayan especialistas en ciencias humanas, cognitivas y digitales”, coincidió Rioux.
El desarrollo de la IA, de acuerdo con lo tratado en el panel, podría suponer la potencial sustitución de empleos basados en la interpretación, la traducción, el doblaje o la música, pero también podría influir en la vida privada, dado que facilita la suplantación de identidades mediante la recreación de voces con herramientas de IA.
La Semana del Sonido de la Unesco adquirió el estatus de ONG de dicha institución en 2024, y trata anualmente cuestiones ligadas a la sanidad auditiva, la acústica, las técnicas de grabación y la expresión musical.
