Deepfakes como actos comunicativos: desafíos éticos sobre consentimiento y privacidad

Palabras clave: deepfakes pornográficos, inteligencia artificial generativa, lenguaje denigrante, uso responsable de la IA

Resumen

Este artículo examina las implicaciones éticas de la tecnología deepfake, poniendo el foco en la relación entre consentimiento y actos comunicativos. Los deepfakes, posibilitados por la inteligencia artificial generativa, desdibujan la frontera entre lo auténtico y lo sintético, creando imágenes y videos que parecen reales aunque representen eventos que nunca ocurrieron. Si bien estas tecnologías pueden emplearse con fines artísticos, educativos o terapéuticos legítimos, su uso en la producción de contenidos pornográficos no consentidos expone riesgos éticos y sociales de gran envergadura. A partir de distintos debates en la filosofía del lenguaje y la ética de la tecnología, el trabajo sostiene que los deepfakes con contenido sexual no son éticamente neutrales, sino que su circulación constituye actos comunicativos (como insultar, silenciar o humillar) que generan daños, al margen de su veracidad fáctica. Más allá de las cuestiones de autonomía individual, estas prácticas ponen en peligro derechos fundamentales como la privacidad, la imagen y la dignidad, al mismo tiempo que erosionan la confianza pública en la evidencia audiovisual. El análisis concluye proponiendo un marco ético que ubica el consentimiento informado, la finalidad legítima y el respeto por los derechos fundamentales en el centro de cualquier uso responsable de los deepfakes.

Biografía del autor/a

Tomás Balmaceda, Universidad de San Andrés

Victoria, Argentina, tbalmaceda@udesa.edu.ar

Laura F. Belli, Universidad de Buenos Aires

Buenos Aires, Argentina, laurafbelli@gmail.com

Diana I. Pérez, Universidad de Buenos Aires

Buenos Aires, Argentina, dperez@filo.uba.ar

Referencias bibliográficas

Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace.

Anderson, L., & Lepore, E. (2013). Slurring Words. Noûs, 47(1), 25-48. https://doi.org/10.1111/j.1468-0068.2010.00820.x

Anderson, L., & Lepore, E. (2024). The Oxford Handbook of Applied Philosophy of Language. Oxford University Press.

Baumgartner, C. (2018). Is There Such a Thing as an ‘Offensive Picture’? En B. Meyer, C. Kruse & A. M. Korte (Eds.), Taking Offense: Religion, Art, and Visual Culture in Plural Configurations (pp. 317-339). Brill.

BBC News Mundo. (2017, 17 de julio). El falso Barack Obama creado con inteligencia artificial capaz de hablar como si fuera el original. https://www.bbc.com/mundo/media-40632577

Brigham, N. G., Wei, M., Kohno, T., & Redmiles, E. M. (2024). “Violation of My Body:” Perceptions of AI-Generated Non-Consensual (Intimate) Imagery. En Proceedings of the 20th Symposium on Usable Privacy and Security (SOUPS 2024) (pp. 373-392). Usenix Association. https://www.usenix.org/system/files/soups2024_full_proceedings_interior.pdf

Camp, E. (2013). Slurring Perspectives. Analytic Philosophy, 54(3), 330-349. https://doi.org/10.1111/phib.12022

Camp, E. (2018). Slurs as Dual-Act Expressions. En D. Sosa (Ed.), Bad Words (pp. 29-59). Oxford University Press.

Citron, D. K. (2019). Sexual Privacy. Yale Law Journal, 128(7), 1870-1960. https://www.jstor.org/stable/45098020

Crippen, M. (2023). Conceptual and Moral Ambiguities of Deepfakes: A Decidedly Old Turn. Synthese, 202(1), art. 26. https://doi.org/10.1007/s11229-023-04250-y

de Ruiter, A. (2021). The Distinct Wrong of Deepfakes. Philosophy & Technology, 34(4), 1311-1332. https://doi.org/10.1007/s13347-021-00459-2

Edwards, G. J., Taylor, C. J., & Cootes, T. F. (1998). Interpreting Face Images Using Active Appearance Models. En Proceedings Third IEEE International Conference on Automatic Face and Gesture Recognition (pp. 300-305). https://doi.org/10.1109/AFGR.1998.670965

Fletcher, J. (2018). Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance. Theatre Journal, 70(4), 455-471. https://doi.org/10.1353/tj.2018.0097

Gautam, A., Joshi, R. K., Narula, A., & Sharma, N. (2024). Mitigating Human Rights Violations Caused by Deepfake Technology. Library Progress International, 44(3), 4628-4637.

Goujard, C. (2024, 6 de febrero). Taylor Swift deepfakes nudge EU to get real about AI. Politico. https://www.politico.eu/article/europe-eye-fix-taylor-swift-nude-deepfake/

Holliday, C. (2021). Rewriting the Stars: Surface Tensions and Gender Troubles in the Online Media Production of Digital Deepfakes. Convergence, 27(4), 899-918. https://doi.org/10.1177/13548565211029412

Howard, J. W. (2024, 19 de enero). Freedom of Speech. Stanford Encyclopedia of Philosophy (Spring 2024 Edition). https://plato.stanford.edu/archives/spr2024/entries/freedom-speech/

Jee, C. (2020, 19 de febrero). An Indian politician is using deepfake technology to win new voters. MIT Technology Review. https://www.technologyreview.com/2020/02/19/868173/an-indian-politician-is-using-deepfakes-to-try-and-win-voters/

Jeshion, R. (2013). Expressivism and the Offensiveness of Slurs. Philosophical Perspectives, 27(1), 231-259. https://doi.org/10.1111/phpe.12027

Kerner, C., & Risse, M. (2021). Beyond Porn and Discreditation: Epistemic Promises and Perils of Deepfake Technology in Digital Lifeworlds. Moral Philosophy and Politics, 8(1), 81-108. https://doi.org/10.1515/mopp-2020-0024

Köbis, N. C., Doležalová, B., & Soraperra, I. (2021). Fooled twice: People cannot detect deepfakes but think they can. iScience, 24(11), art. 103364. https://doi.org/10.1016/j.isci.2021.103364

Kugler, M. B., & Pace, C. (2021). Deepfake Privacy: Attitudes and Regulation. Northwestern University Law Review, 116(3), 611-650. https://scholarlycommons.law.northwestern.edu/nulr/vol116/iss3/1

Lane, J., Stodden, V., Bender, S., & Nissenbaum, H. (Eds.). (2014). Privacy, Big Data, and the Public Good: Frameworks for Engagement. Cambridge University Press.

Langton, R. (1993). Speech Acts and Unspeakable Acts. Philosophy & Public Affairs, 22(4), 293-330. http://www.jstor.org/stable/2265469

Langton, R., Haslanger, S., & Anderson, L. (2012). Language and Race. En G. Russell & D. G. Fara (Eds.), Routledge Companion to Philosophy of Language (pp. 753-767). Routledge.

Lepore, E., & Stone, M. (2018). Pejorative Tone. En D. Sosa (Ed.), Bad Words. Philosophical Perspectives on Slurs (pp. 132-154). Oxford University Press.

Lewis, A., Vu, P., Duch, R. M., & Chowdhury, A. (2023). Deepfake detection with and without content warnings. Royal Society Open Science, 10(11), art. 231214. https://doi.org/10.1098/rsos.231214

McNamara, T. S. (2023). Is It Time to Recognize the Right to an Image? Beijing Law Review, 14(4), 2109-2135. https://doi.org/10.4236/blr.2023.144117

Medon Affonso, F. J. (2021). O Direito à Imagem na Era das Deep Fakes. Revista Brasileira de Direito Civil, 27(1), 251-277. https://rbdcivil.ibdcivil.org.br/rbdc/article/view/438

Montgomery, B. (2024, 31 de enero). Taylor Swift AI Images Prompt US Bill to Tackle Nonconsensual, Sexual Deepfakes. The Guardian. https://www.theguardian.com/technology/2024/jan/30/taylor-swift-ai-deepfake-nonconsensual-sexual-images-bill

Öhman, C. (2020). Introducing the Pervert’s Dilemma: A Contribution to the Critique of Deepfake Pornography. Ethics and Information Technology, 22(2), 133-140. https://doi.org/10.1007/s10676-019-09522-1

Okolie, C. (2023). Artificial Intelligence-Altered Videos (Deepfakes), Image-Based Sexual Abuse, and Data Privacy Concerns. Journal of International Women’s Studies, 25(2), art. 11. https://vc.bridgew.edu/jiws/vol25/iss2/11

Orlando, E., & Saab, A. (2019). Términos peyorativos de grupo, estereotipos y actos de habla. Crítica. Revista Hispanoamericana De Filosofía, 51(153), 31-58. https://doi.org/10.22201/iifs.18704905e.2019.1147

Rini, R., & Cohen, L. (2022). Deepfakes, Deep Harms. Journal of Ethics and Social Philosophy, 22(2), 143-161. https://doi.org/10.26556/jesp.v22i2.1628

Schick, N. (2020). Deepfakes: The Coming Infocalypse. Hachette UK.

Sosa, D. (Ed.). (2018). Bad Words. Philosophical Perspectives on Slurs. Oxford University Press.

Story, D., & Jenkins, R. (2023). Deepfake Pornography and the Ethics of Non-Veridical Representations. Philosophy & Technology, 36(3), art. 56. https://doi.org/10.1007/s13347-023-00657-0

Tong, S. (2022). “You Won’t Believe What She Does!”: An Examination into the Use of Pornographic Deepfakes as a Method of Sexual Abuse and the Legal Protections Available to Its Victims. UNSW Law Journal Student, 25(22-25). https://www5.austlii.edu.au/au/journals/UNSWLawJlStuS/2022/25.html

Umbach, R., Henry, N., Beard, G. F., & Berryessa, C. M. (2024). Non-Consensual Synthetic Intimate Imagery: Prevalence, Attitudes, and Knowledge in 10 Countries. En Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (CHI '24) (art. 779). Association for Computing Machinery. https://doi.org/10.1145/3613904.3642382

van der Nagel, E. (2020). Verifying Images: Deepfakes, Control, and Consent. Porn Studies, 7(4), 424-429. https://doi.org/10.1080/23268743.2020.1741434

Verrips, J. (2018). A Brief Anatomy of Offensive Imagery. En B. Meyer, C. Kruse, & A. M. Korte (Eds.), Taking Offense: Religion, Art, and Visual Culture in Plural Configurations (pp. 284-316). Brill.

Whittaker, L., Kietzmann, T. C., Kietzmann, J., & Dabirian, A. (2020). “All Around Me Are Synthetic Faces”: The Mad World of AI-Generated Media. IT Professional, 22(5), 90-99. https://doi.org/10.1109/MITP.2020.2985492

Cómo citar
Balmaceda, T., Belli, L. F., & Pérez, D. I. (2026). Deepfakes como actos comunicativos: desafíos éticos sobre consentimiento y privacidad. Trilogía Ciencia Tecnología Sociedad, 18(38), e3684. https://doi.org/10.22430/21457778.3684

Descargas

Los datos de descargas todavía no están disponibles.
Publicado
14-03-2026
Crossref Cited-by logo
Escanea para compartir
Código QR para abrir y compartir esta publicación
Estadísticas de artículo
Vistas de resúmenes 1848
Vistas de PDF 1218
Descargas de PDF 1062
Vistas de HTML 95
Otras vistas 61