Investigación

El experto francés en ética de cuestiones digitales, Nicolas Curien, señaló que la inteligencia artificial (IA) generativa no está hecha para la verdad porque "conoce las palabras, pero no el mundo", esto en el marco de la Semana del Sonido organizada por la Unesco y en donde se trataron temáticas como la irrupción de inteligencias artificiales capaces de emular voces reales.

"En lo que concierne al respeto de la verdad y la autenticidad, la IA generativa no está hecha realmente para ellas, porque conoce las palabras, pero no conoce el mundo para decir la verdad", opinó.

El miembro del Comité Consultivo Nacional de la Ética Digital de Francia subrayó la importancia de ser consciente de los límites de la IA y emplearla como una "herramienta", dado que, al ignorar "el mundo que nos rodea", requiere de la intervención humana.

"La IA no tiene siquiera una tecnología promotora de la verdad, luego debemos contar con el sentido crítico humano para interpretar la producción de la inteligencia artificial generativa", sostuvo.

Además, hizo hincapié en la pluralidad de contenidos empleados por la IA y su capacidad de producción, ya que trata toda clase de datos, incluida la voz humana.

"La IA no trata solo texto; trata y reproduce imágenes y sonidos. Por eso es importante saber cómo lo hace y en qué medida puede imitar la producción humana", agregó.

En este sentido, el rápido progreso de la IA generativa ya ha propiciado la aparición de “deepfakes” o ultrafalsificaciones: contenido parcial o enteramente generados por dicha tecnología para difundir imágenes o sonidos falseados con gran precisión.

El desarrollo de la IA, de acuerdo con lo tratado en el panel, podría suponer la potencial sustitución de empleos basados en la interpretación, la traducción, el doblaje o la música, pero también podría influir en la vida privada, dado que facilita la suplantación de identidades mediante la recreación de voces con herramientas de IA.