Las personas deben estar mejor informadas ante la implementación de la Inteligencia Artificial (IA) en la creación de deepfakes, fenómeno
que ha ganado notoriedad en redes sociales y televisión.
Los deepfakes, derivados del término «fake» y del aprendizaje profundo conocido como Deep Learning, utilizan algoritmos basados en redes
neuronales generativas adversariales. Este tipo de tecnología ha evolucionado a partir de las fake news, siendo en el 2017 cuando captó la
atención del público, gracias a la difusión de material pornográfico falso con rostros de celebridades, explicó Lorna Verónica Rosas Téllez,
profesora de la Facultad de Tecnologías de Información y Ciencias de Datos de la UPAEP.
La especialista señaló dos categorías principales de deepfakes: los «big boys«, enfocados en generar audios falsos para simular declaraciones
inexistentes, y los «deepface«, centrados en manipular imágenes para crear videos con información falsa. Uno de los primeros delitos
cibernéticos notorios, en 2019, involucró el uso de «big boys» para convencer a ejecutivos de transferir dinero mediante la simulación de
llamadas.
Rosas Téllez alertó sobre el potencial destructivo de esta tecnología, destacando que el 96% de los 15 mil videos de deepfakes encontrados
por la firma de Inteligencia Artificial deep trace en 2019 estaban relacionados con pornografía. Sin embargo, también resaltó usos positivos
en entretenimiento, como la recreación de Salvador Dalí en un museo.
Aunque la IA deepfake puede tener aplicaciones benéficas, Rosas Téllez subrayó preocupaciones éticas y legales, como la difusión de
información falsa y el consentimiento en su uso. Además, advirtió sobre el aumento de fraudes, manipulación financiera y la importancia de
la alfabetización digital para detectar y prevenir la propagación de deepfakes.
Dijo que la implementación de la IA deepfake plantea desafíos y oportunidades. Mientras se exploran regulaciones y se promueve la
alfabetización digital, la tecnología ofrece posibilidades creativas, pero también requiere una gestión responsable para evitar consecuencias
negativas en la sociedad.
Por su parte, Yareli Elizeth Delgado Bacilio, estudiante destacada de la Facultad de Tecnologías de Información y Ciencias de Datos del
Decanato de Ingenierías de la UPAEP, ahondó en la técnica detrás de la creación de deepfakes, específicamente explorando las redes
adversarias generativas.
Explicó que estas redes, también conocidas como GANs (Generative Adversarial Networks), fueron creadas en 2014 por Ian Goodfellow y
sus colegas de la Universidad de Montreal. Las GANs utilizan dos redes, una generadora y otra discriminadora, para manipular fotos,
imágenes, videos y audio, en un constante juego de evolución.
Delgado Bacilio detalló el proceso de entrenamiento de estas redes, que comienza con la creación de una base de datos con imágenes reales.
La red generadora intenta engañar a la red discriminadora para que clasifique la imagen generada como real. Este ciclo se repite hasta que se
logra engañar a la red discriminadora.
Lo más interesante de estas redes es que ambas evolucionan continuamente; la generadora busca mejorar en el arte de engañar, mientras
que la discriminadora busca mejorar en la detección de imágenes falsas. Este constante enfrentamiento entre ambas crea deepfakes cada vez
más convincentes.
Delgado Bacilio señaló que, aunque la creación de deepfakes puede parecer compleja, existen plataformas y software en línea que permiten a
los usuarios inyectar imágenes y generar deepfakes sin necesidad de conocimientos avanzados en programación. Esto plantea
preocupaciones sobre la accesibilidad y la posibilidad de que cualquier persona, sin experiencia profesional, pueda manipular imágenes y
videos de manera inapropiada.
La estudiante también destacó que hay medidas para detectar deepfakes, como software especializado que se entrena para identificar
movimientos de ojos, sincronización con el audio, movimiento de labios y otros detalles que podrían revelar la falsedad de un video. Estas
herramientas representan un esfuerzo para combatir la propagación de noticias falsas y desinformación.
Delgado Bacilio enfatizó que la detección y prevención de deepfakes es un área de oportunidad para aquellos interesados en carreras
relacionadas con la tecnología. Además, instó a los jóvenes a no temer a los avances tecnológicos, sino más bien a abrazarlos y contribuir al
desarrollo ético y responsable de la inteligencia artificial.
Mientras que Laura Morfiss Gómez, estudiante de la Facultad de Tecnologías de Información y Ciencias de Datos de la UPAEP, Habló sobre
la regulación y ética en la implementación de la IA Deepfake, resaltando la importancia de ser éticos y responsables en el desarrollo
tecnológico.
Morffis Gómez manifestó la existencia de normas y estándares a nivel mundial, como la norma ISO 23001, ISO 27001 e ISO 30000, que
regulan la seguridad informática. No obstante, indicó que cada país o región tiene sus propias leyes para abordar este fenómeno. En México,
citó la Ley Federal de Protección de Datos Personales en Posesión de Particulares, que establece reglas para la recopilación y tratamiento de
datos personales.
También mencionó la limitación de la legislación actual en términos de derechos de autor, señalando que estas leyes protegen solo lo creado
por humanos y no abordan de manera específica los contenidos generados por IA. En este sentido, resaltó la necesidad de implementar
nuevas leyes que regulen y favorezcan las generaciones de información a través de la inteligencia artificial.
Laura Morffis hizo hincapié en la falta de regulación específica para la generación de deepfakes con fines ilícitos, como la pornografía
generada artificialmente. Explicó que las leyes existentes se enfocan mayormente en proteger a personas vulnerables, pero no abordan de
manera exhaustiva la protección de adultos frente a este tipo de contenidos.
Morffis Gómez dirigió un mensaje a los usuarios de redes sociales y televisión, instándolos a ser éticos con la tecnología. Resaltó que, si bien
la tecnología ha contribuido en diversos campos como la medicina y el campo aeroespacial, por mencionar, es crucial utilizarla de manera
ética para avanzar y no retroceder en el desarrollo tecnológico.
En este contexto, subrayó la importancia de fomentar un uso responsable de la tecnología y promover prácticas éticas en la creación y
difusión de información, especialmente en un mundo donde la IA Deepfake plantea desafíos éticos y legales.
