Recibido: 17 de octubre de 2025
Aceptado: 22 de abril de 2026
El objetivo de este artículo es proponer un marco conceptual para comprender el ejercicio de la autonomía y de la responsabilidad, en un contexto social y educativo donde la toma de decisiones, el desarrollo del conocimiento y el ejercicio de la ciudadanía se ven permeados por la incidencia de la inteligencia artificial (IA). Metodológicamente, se parte de la compilación de información en dos fases de trabajo colaborativo. La primera fase se centró en elaborar lineamientos para el uso de la IA en una universidad colombiana durante el periodo de junio de 2023 a junio de 2024. Las fuentes consultadas en este primer momento fueron abordadas desde un enfoque crítico-hermenéutico y se derivaron del diálogo académico e interdisciplinario del equipo conformado. En la segunda fase se asumió un enfoque de análisis conceptual a partir de resultados preliminares de un proyecto de investigación finalizado en julio de 2025, el cual tuvo como uno de sus objetivos específicos analizar las percepciones de los estudiantes y profesores sobre el desarrollo de competencias mediadas por IA. Estas etapas de compilación y análisis de información permiten presentar un marco interpretativo y argumentativo sobre dos desafíos identificados, que asocian al uso de la IA en el ámbito de la educación superior: a) la implementación de lineamientos éticos en el uso de la IA, para consolidar una cultura de la integridad académica e investigativa, y b) la promoción de una formación humanista para la democracia, basada en habilidades de pensamiento crítico.
Palabras clave: ética de la tecnología, integridad académica, inteligencia artificial, pensamiento crítico, valores éticos y democráticos.
This article aims to propose a conceptual framework for understanding the exercise of autonomy and responsibility within a social and educational context where decision-making, knowledge development, and the exercise of citizenship are permeated by the influence of Artificial Intelligence (AI). In methodological terms, information was collected through two phases of collaborative work. The first phase focused on developing guidelines for AI use at a Colombian university between June 2023 and June 2024. The sources consulted during this stage were approached from a critical–hermeneutic perspective, and the data emerged from the interdisciplinary and academic dialogue within the working teams (participants). In the second phase, a conceptual analysis was carried out, drawing on the preliminary results of a research project completed in July 2025. One of the project’s specific objectives was to analyze students’ and faculty members’ perceptions regarding the development of AI-mediated skills. Taken together, these stages of information collection and analysis make it possible to present an interpretative and argumentative framework addressing two identified challenges associated with AI use in higher education. The first concerns the implementation of ethical guidelines to support a culture of academic and research integrity, and the second relates to the promotion of a humanistic approach to education for democracy grounded in critical thinking skills.
Keywords: technology ethics, academic integrity, artificial intelligence, critical thinking, ethical and democratic values.
[…] si la IA no es una ciencia (episteme) sino una tecnología, esto es, un arte o técnica (ars o tekhné) pasada por las ciencias, su guía a la hora de intervenir el mundo […] no es tanto la verdad como la prudencia (phrónesis). (Madrid Casado, 2024, p. 37)
La indagación sobre los desafíos éticos asociados al uso de la inteligencia artificial (IA) se inscribe en la tradición del saber humanista, cuyas raíces se encuentran en el desarrollo del pensamiento dialógico, crítico, imaginativo, intuitivo y autónomo. Desde esta perspectiva, la constitución de la subjetividad y de la intersubjetividad puede comprenderse como uno de los logros más significativos de la experiencia humana, en tanto fundamento de la cultura y del estar en un mundo compartido. La mayéutica socrática, por ejemplo, proponía un diálogo racional entre interlocutores orientado a la superación de prejuicios y opiniones infundadas, posibilitando la emergencia de un saber construido en común y sometido a examen. En el presente, el legado humanista se encuentra inmerso en un mundo tecnocientífico y de expansión de sistemas de IA, en el cual se introducen nuevas mediaciones en los procesos de producción de conocimiento, deliberación y toma de decisiones.
Por ende, surge la pregunta por las posibilidades y los límites del despliegue de capacidades cognitivas, emocionales y actitudinales propias de un pensamiento reflexivo y emancipador, cuando estas ya no emergen exclusivamente de la intersubjetividad, sino también de la relación de la inteligencia humana con formas no orgánicas de co-inteligencia (
Este escenario se complejiza aún más en el contexto de una sociedad global del conocimiento, atravesada por crisis económicas, sociales y ambientales, lo que obliga a considerar el impacto de la IA en términos de sostenibilidad (
El presente artículo aborda, principalmente, las implicaciones ético-democráticas, ambientales y educativas del uso de la IA. En una primera parte, se examinan los marcos normativos relevantes para afrontar los desafíos éticos y sociales derivados del manejo de la información y de la toma de decisiones soportados en IA. Posteriormente, se analiza la dimensión de la responsabilidad y la integridad en el uso de la ia en contextos universitarios e investigativos, y en un entorno global marcado por crisis socioambientales. Finalmente, se identifican los retos que enfrenta una educación de orientación humanista, permeada por tecnologías de IA, en el desarrollo del pensamiento crítico como condición para fortalecer una cultura ética y democrática.
La reflexión se desarrolla a partir de un enfoque exploratorio de revisión documental y análisis conceptual (interpretativo-argumentativo), orientado a comprender algunos desafíos éticos asociados al uso de la IA en la educación superior, particularmente los relativos al ejercicio de la autonomía, la responsabilidad y la formación ciudadana en contextos democráticos. Se trata de un ejercicio analítico-cualitativo sustentado en procesos de diálogo académico, exploración documental y evaluación de experiencias educativas. La estrategia metodológica se estructuró en dos etapas complementarias de trabajo colaborativo, cuyos insumos fueron sistematizados y analizados de manera crítica para construir un marco interpretativo coherente con los objetivos del artículo.
En la primera etapa, desarrollada entre junio de 2023 y junio de 2024, se llevó a cabo un proceso de análisis crítico-hermenéutico en el marco de la elaboración de lineamientos institucionales para el uso de la IA en una universidad colombiana. Este proceso se apoyó en jornadas de diálogo interdisciplinario entre docentes e investigadores de distintas áreas del conocimiento, en las cuales se discutieron documentos normativos, políticas institucionales, literatura académica especializada y referentes éticos nacionales e internacionales. El análisis se centró en la interpretación de los supuestos, alcances y tensiones de dichas fuentes, con el fin de identificar criterios orientadores para un uso ético y responsable de la IA en el ámbito universitario.
La segunda etapa se apoyó en la revisión y el análisis de información derivada del proyecto de investigación «Estudio comparativo del impacto de la educación mediada por Inteligencia Artificial Generativa y la educación tradicional, en un escenario formativo de presencialidad en la Universidad Autónoma de Occidente, Cali, Colombia». En dicho proyecto se definieron actividades orientadas a la identificación de competencias objeto de estudio, la caracterización de niveles de desempeño, la definición de escenarios formativos y la exploración de percepciones de estudiantes y profesores sobre el desarrollo de competencias mediadas por IA. Si bien algunas de estas actividades fueron implementadas de manera parcial —principalmente pruebas piloto y ejercicios exploratorios sobre percepciones estudiantiles—, los insumos obtenidos permitieron identificar preocupaciones recurrentes relacionadas con el uso de la IA, la autonomía en la toma de decisiones, la integridad académica y el papel del docente en contextos mediados tecnológicamente. Estos elementos fueron retomados no como datos concluyentes, sino como referentes analíticos para la reflexión ética.
Las fuentes de información utilizadas incluyeron: a) registros de capacitaciones y memorias de jornadas de diálogo académico interdisciplinario; b) documentos institucionales y lineamientos preliminares sobre el uso de la IA; c) resultados exploratorios de pruebas piloto en el curso de Formación Ciudadana, orientadas a identificar percepciones de estudiantes sobre el pensamiento crítico y el uso de IA; y d) literatura científica y filosófica relevante sobre ética de la IA, educación en pensamiento crítico, competencias ciudadanas e integridad académica y en la investigación.
La sistematización de la información se realizó mediante un proceso de lectura analítica y categorización temática, orientado a identificar convergencias y tensiones en torno a dos ejes centrales: a) la implementación de lineamientos éticos para el uso de la IA y la consolidación de una cultura de la integridad académica e investigativa; y b) la formación humanista para la democracia, basada en el desarrollo del pensamiento crítico en entornos mediados por IA.
En un contexto global de ejercicio de la ciudadanía, de respeto por los derechos humanos y de reconocimiento al pluralismo cultural y político, resulta relevante definir y consensuar principios prudenciales para tomar decisiones sobre la generación y uso del conocimiento y de la información (
Un referente global para minimizar riesgos es la Recomendación sobre la ética de la inteligencia artificial (
Otro referente es el documento Oportunidades y desafíos de la era de la inteligencia artificial para la educación superior (
Relaciones entre ética y ejercicio de la ciudadanía e IA son abordados desde la
El acceso equitativo de la tecnología permite fortalecer competencias y habilidades para la consolidación de un proyecto social democrático. El uso de IA en procesos académicos e investigativos puede contribuir a mitigar gradualmente brechas de género, raciales o socioeconómicas, por medio de una educación incluyente y de calidad, orientada por docentes con competencias tecnológicas. Paradójicamente, sin políticas públicas definidas y su implementación, y sin marcos legales vinculantes en función de las necesidades y los intereses de los pueblos y las naciones, el desarrollo de sistemas de IA y el acceso a los mismos puede aumentar desigualdades y formas de exclusión, debido a las posibilidades económicas, culturales y educativas de los ciudadanos y las sociedades. Igualmente, espacios virtuales y ciberculturas (
En el contexto colombiano, se cuenta con el Marco ético para la inteligencia artificial en Colombia (
La llegada de los grandes modelos de lenguaje, y en particular de la IAG, ha permitido nuevas posibilidades para fomentar habilidades cognitivas y capacidades. En este contexto, se trata de asumir una cultura de la mediación tecnológica desde un arte del buen vivir basado en la responsabilidad y en virtudes que evitan posiciones extremas en las relaciones con la tecnología (
Así, la educación universitaria no puede descansar solamente en una ética de la IA centrada en los límites de su uso, sino en potenciar competencias para el ejercicio de la ciudadanía y el desarrollo de la autonomía moral e intelectual de las personas. La concepción de una ciudadanía sociotécnica implicará, precisamente, una individualidad estable (la del agente humano), con la capacidad de reflexionar y tomar distancia crítica de redes como la tecnológica, en las cuales se ve inmerso (
En el documento Oportunidades y desafíos de la era de la inteligencia artificial para la educación superior (
La formación en el pensamiento crítico (
En un escenario de implementación de IA para promover el pensamiento crítico pueden enunciarse responsabilidades de los educadores, tales como la orientación sobre el manejo transparente de las herramientas, la interlocución guiada hacia propósitos definidos de aprendizaje, la evaluación de procesos y logros en escenarios reales y el acompañamiento y la motivación en función de experiencias subjetivas y contextos de vida. De hecho, repensar la evaluación en escenarios educativos permeados por IA conduce a las instituciones de educación superior a plantear currículos flexibles, alfabetización digital, objetivos de aprendizaje heterogéneos, proyectos educativos interdisciplinarios e integradores y mayor incidencia de las actividades autoevaluativas y heteroevaluativas (
Sin embargo, existe mucho por explorar sobre la incidencia de la interacción humana con la IA y los sistemas autónomos, considerando que la experiencia comunicativa afectiva y recíproca entre seres orgánicos vulnerables sigue siendo valiosa en la construcción de la identidad moral de las personas y para el desarrollo de virtudes como el cuidado y la solidaridad (
Siguen siendo escasos los estudios sobre incidencia, oportunidades y limitaciones de la IA, en función del desarrollo de pensamiento humanista y crítico-social para abordar problemas políticos, económicos, culturales e históricos. Igualmente,
Por lo pronto, es evidente que la creación de escenarios interactivos usando IAG puede contribuir con la participación en debates, el abordaje de dilemas éticos y el análisis de estudios de caso. Específicamente, en un contexto de educación en pensamiento humanista para el ejercicio de la ciudadanía y el desarrollo de la democracia (
Se trata de habilidades potenciadoras de habilidades de pensamiento crítico como la argumentación coherente, el juicio comparativo, la interpretación en contexto. Sin embargo, tal como se indica en el estudio de
Los siguientes son algunos de los desafíos en la consolidación de una cultura ética en la sociedad de la información y del conocimiento permeada por IA: a) la incorporación de una ética de la investigación y de la integridad académica; b) la adopción de responsabilidades ante impactos sociales y ambientales; c) la adaptación de procesos formativos para el desarrollo de pensamiento autónomo, crítico y propositivo. Ante estos desafíos, es necesario abordar la convergencia entre inteligencia humana e IAG, esta última entendida como la simulación y potenciación de aspectos cognitivos de la inteligencia humana para analizar información a gran escala, lograr síntesis y generar nuevas producciones (
Dado que la IAG es un modelo de lenguaje extenso, se basa en redes profundas de información entrenadas con grandes volúmenes de datos. Así, con relación al primer desafío, es pertinente plantear algunas cuestiones: ¿cómo se protegen los datos o la información sensible?, ¿en qué medida se generan realmente nuevos contenidos?, ¿se reconocen los derechos de autor al momento de generar textos, imágenes o productos artísticos?, ¿cómo evitar faltas a la integridad académica e investigativa al usar IAG?
Un primer paso para abordar estos interrogantes consiste en identificar valores y principios éticos indispensables en los procesos de investigación/publicación, los cuales servirán como derroteros de una cultura institucional ética, reflejada en buenas prácticas académicas (
Básicamente, la promoción de una cultura de la integridad académica e investigativa, permeada en la actualidad por el uso de herramientas de IAG, depende del trabajo coordinado de los distintos actores y dependencias de la comunidad universitaria. Por lo general, los avances tecnológicos y su implementación anteceden a la evaluación de implicaciones éticas y de impactos socioculturales. La integridad científica e investigativa pretende reducir este desfase, buscando conjugar la racionalidad estratégica centrada en resultados o beneficios a corto y mediano plazo y la racionalidad ética, basada en sopesar medios y fines y en atender principios de responsabilidad, inclusión y equidad. Lo anterior es consecuente con los lineamientos dados desde el
El principio de responsabilidad se aplica, en el marco de una ética de la investigación, cuando el uso de herramientas de IA puede vulnerar la privacidad de datos sensibles en fases de compilación de información. Dicho principio también se aplica en escenarios donde se requiere tomar las precauciones debidas para proteger la privacidad de estudiantes o usuarios en una comunidad académica. En este orden de ideas, cabe considerar cómo la investigación involucra un compromiso ético con la publicación de resultados en tanto: «El primer deber de la autoría en la publicación científica es la verdad» (
Un compromiso con la integridad y la responsabilidad científica se refleja en posiciones como las de Hinton, uno de los pioneros de la IA, quien renunciaba a Google para expresarse libremente sobre los riesgos de la IA (
En las sociedades tecnocientíficas actuales, el desarrollo de integridad académica, investigativa y científica atraviesa la vida de buena parte de los ciudadanos en un mundo global y, por ende, deviene en una necesidad cultural-educativa y en una prioridad en la formación superior. En el contexto de la vida universitaria, dicho desarrollo capacita a los estudiantes para discernir, analizar y evaluar información, así como para sintetizar, proponer y crear en todos los campos del conocimiento. En este último sentido, resulta conveniente explicitar en los programas de asignatura criterios éticos para el uso de IAG desde parámetros de honestidad, transparencia y responsabilidad.
La mediación docente sigue siendo fundamental para fomentar la creatividad, orientar la construcción de conocimiento de manera crítica y promover actitudes éticas asociadas a la integridad académica (
El grupo de expertos de alto nivel en IA, creado por la Comisión Europea, hizo pública una lista de evaluación de la IA fiable (ALTA), en un marco de exigencias éticas para empresas desarrolladoras de IA. Los requerimientos son: 1. Agencia humana y supervisión; 2. Solidez técnica y seguridad; 3. Privacidad y gobernanza de datos; 4. Transparencia; 5. Diversidad, no discriminación y equidad; 6. Bienestar social y ambiental; y 7. Rendición de cuentas (
Para nada pueden dejarse a un lado cuestiones ético-ecológicas y políticoambientales asociadas a los desarrollos con IA, no solo en un marco de derechos humanos, sino igualmente de derechos de los pueblos y derechos de la naturaleza —estos últimos cada vez más consolidados por su comprensión en tanto complementarios del contrato social—. En otros términos, las democracias contemporáneas, además de su dimensión política y socioeconómica, cuentan con una dimensión biocultural. La democracia biocultural exige que ningún desarrollo tecnocientífico vaya en detrimento de las condiciones de relativa estabilidad que permiten la diversidad y protección de la vida en el planeta (
En este sentido, existen varios marcos normativos, protocolos internacionales y manifiestos de política ambiental para mitigar diversas crisis ambientales como el calentamiento global o la pérdida de biodiversidad. Por ejemplo, el acuerdo alcanzado en la cumbre de París, en diciembre de 2015 a partir de la Convención Marco de las Naciones Unidas sobre el Cambio Climático de 1992 (
Afectaciones ambientales globales por el desarrollo tecnocientífico ya habían sido señaladas por
Las crisis ambientales, resultado de la inadecuada relación de la humanidad con especies animales, fuentes hídricas y ecosistemas, descansa en buena medida en el olvido de concepciones sistémicas de la vida para orientar el despliegue de la cultura. Olvido que favorece la preponderancia de una racionalidad tecnocientífica sin considerar los impactos ambientales negativos, como es el caso del uso globalizado y normalizado de IA en diversos ámbitos. En la Declaración Universal sobre Bioética y Derechos Humanos (
Por lo considerado en apartados anteriores, se entrevén algunas relaciones entre el pensamiento analítico, el crítico y el creativo. En este sentido, son fundamentales las habilidades asociadas al pensamiento crítico para reflexionar sobre el desarrollo de la autonomía moral e intelectual en tiempos de IA. Es indispensable enfatizar en algunas características del pensamiento crítico en el ámbito de la formación humanista y para la democracia, con el propósito de definir algunos retos de dicha formación, desde la mediación tecnológica.
Para
El desarrollo de pensamiento crítico por parte de estudiantes y profesores va más allá de procesos cognitivos para aprender a pensar con base en criterios y buenos juicios. Se trata, también, de afianzar actitudes y sentidos de responsabilidad asociados a la conformación del carácter, de la sensibilidad y de la creatividad.
El pensamiento crítico hace referencia al despliegue de la capacidad de análisis, interpretación, inferencia, evaluación, comprensión y explicación de datos, información, acontecimientos, posturas o teorías, para asumir posiciones de manera clara, fundamentada y argumentada. Así, la coherencia, validez y solidez de un punto de vista va a depender del ejercicio del pensamiento crítico.
El pensamiento crítico involucra habilidades y disposiciones presentes en distintos procesos cognitivos como la interpretación, la explicación, el razonamiento, el análisis, la evaluación, la síntesis, la reflexión y el juicio (
La IAG facilita la revisión, retroalimentación y corrección de errores en trabajos escritos, a la par que contribuye a mejorar el desarrollo de argumentos en ensayos identificando, por ejemplo, síntesis de debates y posturas. Con todo, también es patente cómo la información suministrada por la IA puede estar en ocasiones sesgada o no reflejar fielmente las posturas o tesis expuestas por los autores en sus artículos o libros. De ahí la importancia de la corroboración, lectura e interpretación de las fuentes por parte de los usuarios, para dar lugar al rol más bien facilitador de la IA al momento de compilar y organizar información.
En términos generales, uno de los mayores retos en el uso de IA consiste en mantener la autonomía en los procesos de pensamiento y de toma de decisiones, evitando con ello relaciones de dependencia intelectual o moral (heteronomía). Estudios como los de
Si bien el uso de plataformas digitales con fines de aprendizaje adaptativo tiende tradicionalmente a generar satisfacción entre los estudiantes (
Pensar en los retos y las oportunidades de la IA en la educación universitaria implica reconocer que su implementación no es solo instrumental, sino también normativamente situada. La toma de decisiones en el contexto de su uso demanda un marco prescriptivo en constante revisión por parte de la comunidad académica. Desde la ética de la IA pueden proponerse principios de responsabilidad, transparencia, equidad e integridad, en consonancia con marcos regulatorios nacionales e internacionales; sin embargo, su aplicación concreta depende de la capacidad institucional y pedagógica para identificar dilemas éticos específicos y prevenir formas de delegación acrítica en la producción del conocimiento.
La formación en pensamiento crítico emerge así como el eje articulador entre ética tecnológica y cultura democrática, en tanto habilita a los sujetos para cuestionar, interpretar, contrastar fuentes y asumir las consecuencias de sus decisiones. La reflexión realizada permite sostener que la IA puede contribuir a la educación ético-política orientada al fortalecimiento de la democracia y al ejercicio responsable de la ciudadanía, siempre que su incorporación se encamine de manera consciente y metódica hacia el despliegue de pensamiento crítico, argumentativo y creativo.
La IA no debe concebirse como sustituta de las facultades humanas de juicio, discernimiento y deliberación, sino como mediación tecnológica cuya legitimidad pedagógica depende de su subordinación a procesos formativos que preserven la autonomía intelectual y moral de las personas. En este sentido, el uso educativo de la IA exige programas de formación dirigidos a profesores, investigadores, estudiantes y demás actores de la comunidad académica, orientados a un empleo prudente, reflexivo y responsable de tecnologías con alto potencial de incidencia cognitiva, social y política.
Si bien la IA puede producir resultados formalmente coherentes mediante la asociación y síntesis de grandes volúmenes de datos, dicha capacidad no equivale, en sentido estricto, al ejercicio de una inteligencia reflexiva ni a la comprensión situada propia del pensamiento y la consciencia humana. Por el contrario, la expansión de estas tecnologías intensifica la responsabilidad de fortalecer capacidades deliberativas que permitan evaluar sus productos, límites y sesgos. Esta exigencia no se restringe al plano cognitivo, sino que se extiende al ámbito ético-político y ambiental: el uso masivo de sistemas de IA conlleva impactos energéticos y ecológicos que interpelan directamente a sociedades democráticas comprometidas con la sostenibilidad y el bien común. En consecuencia, la educación superior está llamada a integrar en su reflexión sobre la IA no solo criterios de integridad académica-científica y calidad formativa, sino también consideraciones sobre justicia intergeneracional y responsabilidad ambiental.
En síntesis, el principal aporte de esta reflexión radica en mostrar que la discusión sobre el uso de la IA en la universidad no puede reducirse a debates sobre eficiencia, productividad o innovación pedagógica. Se trata, ante todo, de una cuestión formativa y política: la manera como se integre la IA en los procesos educativos incidirá directamente en la configuración de sujetos críticos, creativos, responsables y capaces de participar en la deliberación democrática. La ética de la IA, la educación en pensamiento crítico y el ejercicio pleno de la ciudadanía constituyen, por tanto, un triángulo conceptual inseparable, cuyo equilibrio dependerá de la capacidad institucional para orientar el uso de las tecnologías hacia fines formativos, socialmente justos y ambientalmente sostenibles.
Este artículo fue posible gracias al diálogo académico y a la compilación de información de equipos de trabajo. Mi gratitud a los profesores David Fernando Ramírez Moreno, Carlos Andrés López, Leonardo Saavedra Munar, Jesús Alfonso López, Carlos Alberto Peláez Ayala, Brenda Vanessa García, Andrés Fernando Solano Alegría, Lucas López Escobar, Dulfay Astrid González y César Andrés Garzón Valencia, de la Universidad Autónoma de Occidente, por los conocimientos y experiencias compartidos.
El autor declara no tener ningún conflicto de interés relacionado con la publicación del presente artículo.