Sabes qué es el deepfake y su uso para extorsionar ?

Imagina que recibes un mensaje de video en WhatsApp, donde ves a tu hijo pidiendo ayuda urgente, diciendo que se encuentra mal y necesita de ti. Esto acelera tu corazón y nubla tu mente. En el video, tu hijo te solicita un depósito de dinero y, preocupado por lo que le pueda estar pasando, envías dinero a una cuenta bancaria que te ha llegado por mensaje. Poco después, escuchas a alguien entrar en tu casa y descubres que es tu hijo regresando de la universidad sano y salvo. De preocupación pasas a estar completamente confundido y no entiendes qué sucede. ¿Acaso no se encontraba tu hijo en una situación de vida o muerte?.

“El deepfake es una tecnología que mediante inteligencia artificial te permite crear videos o fotografías hiperrealistas de situaciones, personas o eventos que realmente nunca ocurrieron”, dijo Fernando Paulin, CEO de Trully.

Por lejano que parezca, seguramente ya has utilizado herramientas de inteligencia artificial, como procesadores de texto que mejoran tu ortografía o corrigen tu redacción, y aunque muchas veces no nos damos cuenta de que ya interactuamos en el día a día con herramientas de inteligencia artificial, es una realidad que ha avanzado tanto que ya cualquier persona es capaz de crear videos o imágenes hechos completamente por una computadora. La producción de videos hiperrealistas, anteriormente era dominio exclusivo de grandes estudios de cine y televisión. Ahora, gracias al avance tecnológico, dichas herramientas están al alcance de muchas más personas globalmente. Sin embargo, como sucede con toda nueva tecnología, esta democratización trae consigo riesgos.

Al inicio del año, se reveló que un empleado en Hong Kong había transferido 25 millones de dólares a estafadores. El engaño comenzó con correos electrónicos fraudulentos solicitando dinero, lo que inicialmente el trabajador sospechó como un intento de estafa. Sin embargo, su escepticismo se disolvió tras ser invitado a una conferencia telefónica con lo que parecía ser su «equipo de trabajo», donde creyó ver y oír a colegas de distintas partes del mundo. Utilizando la tecnología Deepfake para simular tanto la imagen como las voces de sus compañeros, los estafadores lograron que el trabajador depositara 25 millones de dólares en las cuentas de los defraudadores (CNN 2024).

Este fraude, utilizando técnicas de Deepfake con ayuda de inteligencia artificial, ilustra cómo los criminales con alta especialización recurren a innovaciones tecnológicas para vulnerar las defensas de las organizaciones. Es una alerta para aquellas empresas que subestiman el impacto de los Deepfakes o creen estar a salvo de tales amenazas.

¿Cuál es el impacto del Deepfake en el sector crediticio en México?

Para el sector crediticio, el desafío que presenta el Deepfake es particularmente significativo. Esta industria se fundamenta en la capacidad de verificar la identidad de las personas para evaluarlas y, posteriormente, otorgarles un crédito. Con el rápido avance de la tecnología Deepfake, surge la incertidumbre sobre si las entidades financieras y bancos podrán identificar a aquellos defraudadores que emplean esta tecnología. Esta situación se complica aún más considerando que la digitalización de los servicios bancarios se ha convertido en un pilar clave para el crecimiento de bancos y fintechs, especialmente cuando alrededor del 79.2% de la población mexicana mayor de 6 años, tiene acceso a un teléfono celular (INEGI). 

Hoy en día todos tienen acceso a un télefono celular y cada vez es más facil crear imagenes o videos falsos. Para los bancos adoptar la tecnología como medio para captar clientes ha sido muy beneficioso pero también conlleva riesgos más cuando la inteligencia artificial que permite alterar imagenes es más accesible para todos ”, comentó Fernando Paulín CEO de Trully.

¿Cuáles son las opciones disponibles en México para identificar Deepfakes?

Hace seis meses, la tecnología Deepfake apenas era considerada una amenaza real para las empresas de préstamo en México, dada su novedad. Sin embargo, en los últimos meses, su impacto ha estado en boca de muchas empresas con el creciente número de noticias que relatan situaciones que parecen de película.

Fernando mencionó que, uno de los mayores problemas que observan es que los mexicanos no conocen esta tecnología ni sus alcances, y es que según los datos que han recabado 7 de cada 10 mexicanos no conocen que es el Deepfake. 

“Generar un Deepfake puede ser muy sencillo, por ejemplo, si dejas tu identificación al entrar en un residencial, le pueden tomar una fotografía y utilizar tu rostro para solicitar un crédito a tu nombre. Es tan real este problema que las empresas se acercan a preguntarnos si existe algo en el mercado capaz de detectar cuando estás frente a una imagen falsa o real”, menciona Fernando.

Este veloz cambio en el escenario del fraude supone un desafío considerable para las empresas especializadas en la detección de fraudes, dada la ausencia de soluciones efectivas en el mercado mexicano para identificar y neutralizar los Deepfakes.

¿Existe una solución capaz de detectar el Deepfake?

Trully es una compañía dedicada a erradicar el fraude en México, recientemente han liberado la primera solución capaz de detectar el uso de Deepfake. Esta solución fue desarrollada para los bancos y fintechs que enfrentan el problema de validar fotografías para poder otorgar créditos a las personas.

“Cuando conoces a alguien extraño en la calle, lo primero que pasa por tu mente es si esta persona te quiere hacer el bien o más bien planea dañarte, los bancos necesitan preguntarse lo mismo al otorgar un crédito, la tecnología que detecta el Deepfake es parte de nuestro Buró de Fraude Digital”, añadió Fernando.

Fernando comentó que el equipo de ingenieros que desarrolló esta solución hizo un trabajo increíble, al realizar esta tecnología en apenas un par de meses. 

Existen dos instituciones en México que detectan si alguien deja de pagar un crédito, pero hasta el día de hoy no existía ninguna empresa que empleara inteligencia artificial para detectar imágenes creadas con Deepfake o personas que sean defraudadoras.  

www.trully.ai