Recibido: 4 de octubre de 2025
Aceptado: 30 de enero de 2026
Este artículo examina las implicaciones éticas de la tecnología deepfake, poniendo el foco en la relación entre consentimiento y actos comunicativos. Los deepfakes, posibilitados por la inteligencia artificial generativa, desdibujan la frontera entre lo auténtico y lo sintético, creando imágenes y videos que parecen reales aunque representen eventos que nunca ocurrieron. Si bien estas tecnologías pueden emplearse con fines artísticos, educativos o terapéuticos legítimos, su uso en la producción de contenidos pornográficos no consentidos expone riesgos éticos y sociales de gran envergadura. A partir de distintos debates en la filosofía del lenguaje y la ética de la tecnología, el trabajo sostiene que los deepfakes con contenido sexual no son éticamente neutrales, sino que su circulación constituye actos comunicativos (como insultar, silenciar o humillar) que generan daños, al margen de su veracidad fáctica. Más allá de las cuestiones de autonomía individual, estas prácticas ponen en peligro derechos fundamentales como la privacidad, la imagen y la dignidad, al mismo tiempo que erosionan la confianza pública en la evidencia audiovisual. El análisis concluye proponiendo un marco ético que ubica el consentimiento informado, la finalidad legítima y el respeto por los derechos fundamentales en el centro de cualquier uso responsable de los deepfakes.
Palabras clave: deepfakes pornográficos, inteligencia artificial generativa, lenguaje denigrante, uso responsable de la IA.
This article examines the ethical implications of deepfake technology, focusing on the interplay between consent and communicative acts. Enabled by generative artificial intelligence, deepfakes blur the boundary between authentic and synthetic media, creating images and videos that appear real while depicting events that never occurred. Although these technologies can serve legitimate artistic, educational, or therapeutic purposes, their use in the production of non-consensual pornographic content poses serious ethical and social risks. Building on debates in the philosophy of language and technology ethics, the paper argues that sexually explicit deepfakes are not ethically neutral: their circulation constitutes communicative acts—such as insult, silencing, or humiliation—that inflict harm regardless of their factual veracity. Beyond individual autonomy, these practices endanger fundamental rights to privacy, image, and dignity, while also eroding public trust in audiovisual evidence. The analysis concludes by proposing an ethical framework that places informed consent, legitimate purpose, and respect for fundamental rights at the center of any responsible use of deepfake technology.
Keywords: pornographic deepfakes, generative artificial intelligence, derogatory language, responsible use of AI.
En los últimos años la posibilidad de generar contenidos a través de inteligencia artificial (IA.), sean textos, imágenes o sonido, ha revolucionado las sociedades occidentales. Los deepfakes son una de las manifestaciones más sofisticadas del uso de la tecnología conocida como inteligencia artificial generativa (IAG.), gracias a la cual se crean imágenes, audios o videos a partir de datos que no se corresponden con el mundo real; a diferencia de las imágenes, audios o videos a los que estamos acostumbrados que son alguna forma de registro de sonidos o estados de cosas reales. El perfeccionamiento constante de esta tecnología lleva cada vez a un número mayor de gente a tener dificultades para discriminar contenidos generados por las IAG (fotos creadas por IA de personas que nunca existieron, cuadros, música o textos hechos «en el estilo de» algún artista realmente existente, videos de figuras públicas afirmando cosas que nunca dijeron, videos sexuales falsos, en los que aparecen caras de personas que no filmaron esos contenidos, etc.) de textos, imágenes, sonidos o videos con contenidos verídicos (fotos de hechos del mundo, cuadros o música o textos creados por el artista a quien se le atribuyen, videos de personas reales realizando acciones diversas que efectivamente hicieron, etc.). Por otra parte, la mayor accesibilidad a estas herramientas, a través de aplicaciones cada vez más económicas y fáciles de usar, ha multiplicado la creación de este tipo de imágenes, videos y textos. En combinación con internet y las redes sociales, que diseminan globalmente contenidos pronto virales que atrapan la atención, estas herramientas de generación artificial de contenido están revolucionando no solo los entornos digitales sino la vida de millones de personas.
Como toda tecnología, la IAG puede ser usada tanto para propósitos nobles como para cuestiones éticamente cuestionables.
Este trabajo se centrará en un uso éticamente reprobable: la producción de deepfakes con contenido sexual.
Se conoce como deepfake a una de las manifestaciones más sofisticadas del uso de la tecnología conocida como IAG para crear contenidos sintéticos con un fin específico. Es el uso de técnicas avanzadas para generar contenido falsificado (que puede ser tanto visual como sonoro o su combinación) con un nivel de realismo tan elevado que puede resultar difícil para un ser humano distinguirlo del contenido original (
Su nombre surge de la combinación de «deep learning», un tipo de arquitectura de IA, y «fake», haciendo referencia directa a la tecnología subyacente que emplea este tipo de algoritmos para modificar o crear imágenes, audio y video con el fin de producir contenidos espurios. Así, los deepfakes no capturan el mundo real, sino que son contenidos producidos mediante herramientas digitales potenciadas por IAG (
El origen de la tecnología detrás de los deepfakes se remonta al menos hasta 1997, cuando los informáticos Christoph Bregler, Michele Covell y Malcolm Slaney modificaron imágenes de un video de una persona hablando para mostrarla pronunciando palabras contenidas en una pista de audio diferente. En los años siguientes, diversos investigadores continuaron desarrollando algoritmos para el seguimiento y emparejamiento facial. En la 3rd International Conference on Face and Gesture Recognition se presentó el algoritmo de visión artificial Active Appearance Model (AAM), que permitió hacer coincidir un modelo estadístico de la forma y la apariencia de un objeto con una nueva imagen, y que es considerado el antecedente más importante en esta tecnología (
En la actualidad sus resultados son en ocasiones muy convincentes y su creación se ha vuelto cada vez más accesible. Gracias a herramientas de código abierto, potentes modelos de IA entrenados y hardware relativamente económico, una persona con conocimientos básicos de informática puede hoy generar videos ultrarrealistas con rostros o voces falseadas.
En términos técnicos, los deepfakes se basan en redes neuronales profundas, especialmente en modelos conocidos como autoencoders y GAN (Generative Adversarial Networks). Los primeros permiten tomar una imagen (por ejemplo, un rostro) y codificarla en una representación comprimida que luego se reconstruye con una «decodificadora». Para hacer face swapping, como sucedió con el video de Obama supuestamente insultando a Donald Trump (
El material con que son entrenadas estas redes neuronales profundas es central para su éxito. En el caso del video de Obama, se requirieron cientos o miles de imágenes del rostro del expresidente estadounidense y el video del cuerpo sobre el que se insertó, que en este caso fue el de un actor. Estos datos suelen obtenerse de videos de libre acceso de YouTube, redes sociales o imágenes indexadas por buscadores como Google. Luego, se usa el software especializado que divide los rostros, identifica los puntos clave (ojos, nariz, boca), alinea las caras y entrena los modelos para reproducir expresiones, iluminación y ángulos. El entrenamiento puede durar desde algunas horas hasta varios días, dependiendo de la calidad buscada y la capacidad computacional. En cuanto al hardware, hoy basta con una computadora portátil, con una moderna unidad de procesamiento gráfico (GPU, por sus siglas en inglés), como las de la serie Nvidia RTX, y suficiente memoria RAM.
Los programas y apps más usados varían con el tiempo, ya que es una industria en constante expansión, pero algunos de los entornos más populares para crear deepfakes al momento de escribir este artículo son DeepFaceLab, una herramienta de código abierto; FaceSwap, otro proyecto open source, con una interfaz más amigable; y Avatarify, que puede crear deepfakes en tiempo real durante videollamadas y uso de apps.
El nivel de realismo y el poder de engaño de un deepfake dependen de varios factores que incluyen: la cantidad y calidad de los datos de entrenamiento —cuantas más imágenes variadas del rostro se usen, mejor aprende el modelo a simular expresiones naturales—; la resolución del video original y del falso —ya que cuanto más baja sea, más difícil es detectar imperfecciones—; el lip sync para lograr que los movimientos de los labios coincidan exactamente y la integración con el cuerpo y el fondo —no basta con poner un rostro—; y, finalmente, la búsqueda cuidadosa de emparejamiento de tonos de piel, iluminación, sombras y profundidad.
De acuerdo con un estudio realizado por
Es importante destacar, por lo dicho hasta aquí, que los deepfakes son difícilmente distinguibles de las fotos y los videos que registran situaciones y hechos mundanos, por lo que la primera reacción es aceptarlos como imágenes y sonidos que informan acerca de situaciones y personas realmente existentes. Como argumenta
Yendo al caso que ocupará a este trabajo: los deepfakes con contenidos pornográficos se volvieron un tema conocido a partir de 2017, debido a las denuncias de diferentes actrices populares de Hollywood sobre la manipulación audiovisual (
El consentimiento es un tema central en las investigaciones sobre las nuevas tecnologías. En la era de las redes sociales y las comunicaciones a través de la internet, a menudo se consiente en ceder tanto los derechos como el control de mucha información personal y de imágenes propias (y las de las personas cercanas). No resulta tarea fácil negarse a hacerlo: en muchas situaciones se debe renunciar a parte de la privacidad en función de acceder a servicios, plataformas o sitios web que se desean o necesitan. Al momento de aceptar los términos y condiciones, se acepta también compartir cierta información personal.
Por esta vía se encuentra, entre los usos permitidos por haber firmado los «términos y condiciones» de la aplicación en la que se suben los contenidos, algunos a los que no se les daría el consentimiento. Como la cantidad y calidad de los datos de entrenamiento son clave para lograr deepfakes convincentes, la manera en la que se obtienen estos materiales es de profunda importancia.
Dejando de lado por el momento las controversias que pueden suscitarse en torno a por qué puede ser objetable la creación de deepfakes en pornografía (
No parece haber desacuerdo en que constituye un acto ilegal, así como moralmente impermisible, la utilización y circulación de imágenes sexuales (fotografías o videos) obtenidas sin el consentimiento de las personas que están siendo retratadas (por ejemplo, si son filmadas por cámaras ocultas o desde lejos), o también en el caso en que esas imágenes sean producidas por esas personas, pero obtenidas de manera ilegal (por ejemplo, por medio de robo o hackeos). Ahora bien, ¿por qué no se debería pensar lo mismo del caso de los deepfakes? Así como el consumo o la difusión de un acto sexual es legal/permisible si las personas involucradas consienten en que así sea, debería ser considerada ilegal/impermisible la creación de una imagen o un video de una o más personas participando en un acto sexual, si no hubo consentimiento para tal creación.
¿Por qué el uso de la imagen identificable de una persona en pornografía deepfake implica una violación del consentimiento? Por un lado, porque viola el derecho a la privacidad. Estas imágenes recrean situaciones que, socialmente, se reconocen como «privadas» (se trate de actos o de partes del cuerpo). Por otro lado, se puede pensar que estas imágenes son formas de difamación, en la medida en que transmiten una mentira sobre las personas que aparecen en ellas. A su vez, en el caso de la pornografía, pueden considerarse una violación al derecho a la no alteración de la identidad social, que se basa en la protección de la posibilidad de poder ejercer la autonomía sobre el modo en que se producen las relaciones sociales con los demás (
Si la generación del deepfake parte de una fotografía o imagen original sin contenido sexual y si es una imagen de acceso público luego de que la persona retratada así lo consintiera, la distribución del original no constituye una violación a la privacidad ni una forma de difamación. Pero ¿por qué la imagen simulada (que no es «real» ni muestra un acto privado) sí lo es? Porque justamente, lo que fundamenta la exigencia de consentimiento en el caso de las fotografías y de los videos es la identificación de una persona. Si el deepfake pornográfico muestra a una persona identificable,
La creación de imágenes sexuales que involucran el uso de la semejanza o las fotografías de alguien genera una demanda especial de consentimiento. Como se mencionó al inicio de esta sección, el consentimiento brindado en relación con el uso de algunas imágenes no alcanza para que estas puedan ser utilizadas en todos los escenarios posibles, en particular que puedan ser usadas como inputs para generar deepfakes acerca de quien dio el consentimiento.
Se podría argumentar que, en ciertos casos, la persona que compartió sus imágenes dio su permiso para que se hiciera cualquier uso de las mismas. Sin embargo, el estándar de consentimiento, tal y como aparece en muchos de los acuerdos de «términos y condiciones» es muy criticado (
Por otro lado, como ya se mencionó, el consentimiento requerido en relación con cuestiones como el sexo y/o la pornografía no funciona de la misma manera que otros tipos de consentimiento (por el estatus de tabú que este tipo de prácticas tienen en la sociedad, por la importancia del derecho a la privacidad y por los otros motivos que se mencionaron anteriormente).
Más allá de los problemas éticos que están involucrados en el proceso de creación de los deepfakes, que incluyen la cuestión del consentimiento para el uso de datos e imágenes, es necesario considerar los usos que tienen estas imágenes una vez generadas.
Por supuesto, se podría pensar en un uso estrictamente privado del deepfake. En este caso la imagen sería como un dibujo realizado en un diario íntimo, creado solo para los ojos del autor. Este uso difícilmente podría considerarse no ético, dado que no involucra terceros. El caso de las imágenes que sexualizan personas sería similar al de una fantasía sexual, que no parece tener nada de éticamente reprobable.
Además de los usos estrictamente privados (si son posibles), está el uso más frecuente y problemático, que es la difusión de estos deepfakes por diversos medios (en general por plataformas, sitios o redes en internet). La difusión de este material se vuelve entonces un acto comunicativo. Así, los deepfakes pueden ser considerados imágenes ofensivas, en la medida en que generan en quien las recibe una reacción emocional, muchas veces automática, de rechazo (
También podría resultar interesante analizar los actos comunicativos que involucran los deepfakes en el contexto de las discusiones sobre libertad de expresión (
Un problema adicional es que no está claro qué rol deben tener las empresas productoras de IAG que permiten generar estas imágenes, ni las plataformas y redes que las difunden.
Los deepfakes pornográficos evidencian dos cuestiones centrales en la discusión de los deepfakes en general: por un lado la cuestión del consentimiento y, por otro, la cuestión de los usos éticamente reprobables si se los entiende como actos comunicativos. Estos problemas se deben extender más allá del caso mencionado. Además, hay otros derechos que pueden ser violados en todo tipo de deepfake. En efecto, por su alto grado de realismo, representan una de las amenazas más preocupantes en relación con derechos fundamentales como el derecho a la imagen, el derecho a la privacidad y el derecho a la dignidad, entre otros.
El derecho a la imagen es una manifestación del derecho a la personalidad y está vinculado con la facultad de cada individuo para controlar la difusión de su propia representación visual. En este sentido, la imagen, entendida como uno de los principales atributos de la persona, en tanto revela sus características únicas, es también un componente esencial del libre desarrollo de la personalidad. En otras palabras, como sostiene
Tradicionalmente, la protección de este derecho se encontró unida a la necesidad de contar con el consentimiento de la persona retratada; sin embargo, con el advenimiento de esta nueva tecnología, tal exigencia está siendo puesta a prueba (
En la segunda sección se evidenció que el uso no ético de los deepfakes constituye también una amenaza al derecho a la privacidad, un pilar fundamental de las sociedades democráticas. En la era digital, este derecho ha cobrado una relevancia aún mayor, dado el volumen de información personal que circula en internet y la facilidad con la que puede ser utilizada sin consentimiento (
El derecho a la dignidad, que se encuentra estrechamente relacionado con la protección contra la difamación, la explotación y la deshumanización, es un principio fundamental también amenazado en estos contextos, cuando los videos o imágenes creadas con IA son utilizadas para humillar, manipular o desacreditar a las personas. En el ámbito personal, el caso analizado de la pornografía no consentida es un ejemplo claro, en tanto genera un daño moral y emocional profundo, afectando la autoestima y el bienestar psicológico de la víctima (
El desarrollo y la proliferación de los deepfakes generan desafíos sin precedentes para la protección de derechos fundamentales como la imagen, la privacidad y la dignidad. Aunque la tecnología en sí misma no es intrínsecamente negativa, su uso malintencionado ha demostrado tener consecuencias graves para las personas y la sociedad en su conjunto. El uso problemático de deepfakes se extiende más allá de la creación de contenido falso para cumplir fantasías sexuales, también habilita tácticas como el acoso, la intimidación y el silenciamiento de personas, creando un entorno digital donde el miedo y la inestabilidad prevalecen cada vez más. Estas acciones pueden obstaculizar significativamente la libertad de expresión e inhibir la participación en el discurso público, especialmente a los grupos e individuos vulnerables (
A lo largo de este trabajo se analizó el fenómeno de los deepfakes como una de las manifestaciones más complejas y disruptivas de la IA. Se observó su evolución técnica, desde sus primeros desarrollos hasta su ubicuidad y accesibilidad actual, así como el modo en que su creciente realismo y accesibilidad han multiplicado sus efectos sociales y políticos. Se examinaron en detalle sus usos más problemáticos, especialmente en el ámbito de la sexualidad no consentida y la manipulación política, mostrando cómo esta tecnología puede vulnerar derechos fundamentales como la privacidad, la imagen y la dignidad.
También se exploraron los mecanismos técnicos que permiten la creación de deepfakes, los programas más utilizados y el tipo de datos requeridos, revelando que el entrenamiento de estos modelos depende, en muchos casos, de materiales obtenidos sin consentimiento. Se analizó cómo, incluso cuando el contenido generado no es auténtico, pueden provocarse daños reales: la sola sospecha de que algo ha sido manipulado es suficiente para socavar la confianza pública, habilitando fenómenos como el dividendo del mentiroso.
Sin embargo, se advierte que los deepfakes no son intrínsecamente malos. Su valoración ética depende del modo en que se los utiliza y del contexto en el que circulan. A partir del análisis realizado, se propone que un uso ético de esta tecnología requiere que se cumplan simultáneamente tres condiciones:
Como se señaló en la introducción, los usos de estas tecnologías son diversos, y muchos de ellos traen enormes beneficios para la humanidad. Un ejemplo paradigmático de uso ético es la aplicación de deepfakes para la reconstrucción vocal de personas con enfermedades neurodegenerativas o daños por accidente cerebrovascular (ACV), permitiéndoles recuperar la voz con sus propios tonos y matices, e incluso crear nuevas producciones artísticas. Otro caso posible es la recreación de figuras históricas en experiencias inmersivas educativas, museográficas o artísticas, siempre que se aclare explícitamente el carácter sintético del contenido y se respete la memoria y dignidad de la persona representada. En estos contextos, los deepfakes pueden constituir una herramienta poderosa de accesibilidad, pedagogía o expresión creativa.
También hay casos de usos de deepfakes cuya legitimidad es compleja. El siguiente ejemplo complejo proviene de la política. En 2020 las elecciones de la Asamblea de Delhi, el partido Bharatiya Janata Party (nacionalista hindú) utilizó deepfakes de su propio dirigente Manoj Tiwari para llegar a más votantes. Mediante IA, crearon videos en que Tiwari hablaba en idiomas que él no domina, como haryanvi e inglés, y enviándolos a posibles votantes por WhatsApp (
Por todo esto, la discusión ética no debería centrarse en prohibir o permitir los deepfakes en abstracto, sino en construir marcos normativos, culturales y filosóficos que ayuden a discernir cuándo, cómo y para qué su uso puede ser compatible con una sociedad justa, plural y democrática. De lo contrario, se corre el riesgo de que una herramienta con enorme potencial transformador se convierta en un instrumento de control, humillación o manipulación masiva. Frente a esa amenaza, el pensamiento crítico, el compromiso ético y la acción regulatoria informada son más necesarios que nunca.
Los autores declaran que no presenta conflicto de interés financiero, profesional o personal que pueda influir de manera inapropiada en los resultados obtenidos o las interpretaciones propuestas.
Los tres autores han contribuido en partes iguales a la realización de este trabajo.