Yahoo Finanzas Consumidores sobrevaloran su capacidad para detectar deepfakes, según estudio
La inteligencia artificial generativa ha traído consigo muchos beneficios; sin embargo, también ha facilitado prácticas digitales peligrosas, como la creación de deepfakes.
Los deepfakes son un tipo específico de medio sintético en el que la apariencia de persona en una imagen o video se intercambia con la de otra; son videos que utilizan los rasgos faciales de una persona y elementos vocales para crear diálogos simulados mediante inteligencia artificial.
Debido a ello, la tecnología puede esparcir con mayor facilidad noticias falsas o poner en peligro la información de una empresa, así como las finanzas personales y datos biométricos de los individuos.
De acuerdo con el Estudio de Identidad en Línea 2023 de Jumio, 67% de los consumidores a nivel mundial dice conocer herramientas de inteligencia artificial generativa como ChatGPT, DALL-E y Lensa AI; que pueden crear contenido como videos, imágenes y audios.
A su vez, 52% de los encuestados cree que podría detectar deepfakes; sin embargo, según el estudio, este sentimiento refleja un exceso de confianza, dado que estos han alcanzado un nivel de sofisticación que impide su detección a simple vista.
En el caso de México, un estudio de Kaspersky de 2022 reveló que 72% de los mexicanos desconoce qué es un deepfake. A su vez, 62% de los encuestados admite no saber reconocer cuándo un video ha sido editado con dicha técnica.
Esto es preocupante, tomando en cuenta que siete de cada 10 usuarios de internet en nuestro país fueron víctimas de algún tipo de fraude cibernético en 2022; con una de cada tres víctimas sufriendo suplantación de identidad, cifras de la Asociación de Internet de México.
Los deepfakes son cada vez más sofisticados para cometer fraudes de identidad
Los datos de Jumio también muestran un aumento constante en el uso de deepfakes cada vez más sofisticados en todo el mundo y en todos los sectores, con una mayor presencia en los sectores de pagos y criptomonedas.
El mes pasado, por ejemplo, un estafador en China utilizó inteligencia artificial para crear un deepfake que modificó su apariencia y voz para hacerse pasar por el amigo de un empresario, a quien consiguió robar más de 600,000 dólares.
El estudio de Jumio revela que 57% de los encuestados a nivel mundial cree que el robo de identidad en línea será más fácil gracias a los deepfakes; 62% de los consumidores mexicanos está de acuerdo con este argumento.
Frente a esto, 54% de los encuestados dice que el reconocimiento facial será más valioso para la verificación de identidad y que ayudará a contrarrestar imágenes y videos fraudulentos creados con tecnología deepfake; sin embargo, incluso esta solución es bastante controversial por sí misma.
Expertos de la Red en Defensa de los Derechos Digitales (R3D) han expresado anteriormente a Business Insider México su preocupación sobre lo que el uso de la tecnología de reconocimiento facial implica para la privacidad de los individuos. Incluso dijeron que esta conlleva implicaciones éticas negativas y viola los derechos humanos.
AHORA LEE: FakeCatcher, la primera plataforma del mundo que detecta deepfakes en tiempo real
TAMBIÉN LEE: Google prohíbe la creación de deepfakes en su herramienta de aprendizaje automático Colab
