Ética de la inteligencia artificial y educación en pensamiento crítico*

Ethics of Artificial Intelligence and Education in Critical Thinking

DOI 10.22430/21457778.3713 Logotecnologicas PDF

Recibido: 17 de octubre de 2025
Aceptado: 22 de abril de 2026

Cómo referenciar / How to reference
Ocampo G., R. J. (2026). Ética de la inteligencia artificial y educación en pensamiento crítico. Trilogía Ciencia Tecnología Sociedad, 18(38), e3713. https://doi.org/10.22430/21457778.3713

 

Resumen

El objetivo de este artículo es proponer un marco conceptual para comprender el ejercicio de la autonomía y de la responsabilidad, en un contexto social y educativo donde la toma de decisiones, el desarrollo del conocimiento y el ejercicio de la ciudadanía se ven permeados por la incidencia de la inteligencia artificial (IA). Metodológicamente, se parte de la compilación de información en dos fases de trabajo colaborativo. La primera fase se centró en elaborar lineamientos para el uso de la IA en una universidad colombiana durante el periodo de junio de 2023 a junio de 2024. Las fuentes consultadas en este primer momento fueron abordadas desde un enfoque crítico-hermenéutico y se derivaron del diálogo académico e interdisciplinario del equipo conformado. En la segunda fase se asumió un enfoque de análisis conceptual a partir de resultados preliminares de un proyecto de investigación finalizado en julio de 2025, el cual tuvo como uno de sus objetivos específicos analizar las percepciones de los estudiantes y profesores sobre el desarrollo de competencias mediadas por IA. Estas etapas de compilación y análisis de información permiten presentar un marco interpretativo y argumentativo sobre dos desafíos identificados, que asocian al uso de la IA en el ámbito de la educación superior: a) la implementación de lineamientos éticos en el uso de la IA, para consolidar una cultura de la integridad académica e investigativa, y b) la promoción de una formación humanista para la democracia, basada en habilidades de pensamiento crítico.

Palabras clave: ética de la tecnología, integridad académica, inteligencia artificial, pensamiento crítico, valores éticos y democráticos.

Abstract

This article aims to propose a conceptual framework for understanding the exercise of autonomy and responsibility within a social and educational context where decision-making, knowledge development, and the exercise of citizenship are permeated by the influence of Artificial Intelligence (AI). In methodological terms, information was collected through two phases of collaborative work. The first phase focused on developing guidelines for AI use at a Colombian university between June 2023 and June 2024. The sources consulted during this stage were approached from a critical–hermeneutic perspective, and the data emerged from the interdisciplinary and academic dialogue within the working teams (participants). In the second phase, a conceptual analysis was carried out, drawing on the preliminary results of a research project completed in July 2025. One of the project’s specific objectives was to analyze students’ and faculty members’ perceptions regarding the development of AI-mediated skills. Taken together, these stages of information collection and analysis make it possible to present an interpretative and argumentative framework addressing two identified challenges associated with AI use in higher education. The first concerns the implementation of ethical guidelines to support a culture of academic and research integrity, and the second relates to the promotion of a humanistic approach to education for democracy grounded in critical thinking skills.

Keywords: technology ethics, academic integrity, artificial intelligence, critical thinking, ethical and democratic values.

[…] si la IA no es una ciencia (episteme) sino una tecnología, esto es, un arte o técnica (ars o tekhné) pasada por las ciencias, su guía a la hora de intervenir el mundo […] no es tanto la verdad como la prudencia (phrónesis). (Madrid Casado, 2024, p. 37)

INTRODUCCIÓN

La indagación sobre los desafíos éticos asociados al uso de la inteligencia artificial (IA) se inscribe en la tradición del saber humanista, cuyas raíces se encuentran en el desarrollo del pensamiento dialógico, crítico, imaginativo, intuitivo y autónomo. Desde esta perspectiva, la constitución de la subjetividad y de la intersubjetividad puede comprenderse como uno de los logros más significativos de la experiencia humana, en tanto fundamento de la cultura y del estar en un mundo compartido. La mayéutica socrática, por ejemplo, proponía un diálogo racional entre interlocutores orientado a la superación de prejuicios y opiniones infundadas, posibilitando la emergencia de un saber construido en común y sometido a examen. En el presente, el legado humanista se encuentra inmerso en un mundo tecnocientífico y de expansión de sistemas de IA, en el cual se introducen nuevas mediaciones en los procesos de producción de conocimiento, deliberación y toma de decisiones.

Por ende, surge la pregunta por las posibilidades y los límites del despliegue de capacidades cognitivas, emocionales y actitudinales propias de un pensamiento reflexivo y emancipador, cuando estas ya no emergen exclusivamente de la intersubjetividad, sino también de la relación de la inteligencia humana con formas no orgánicas de co-inteligencia (Mollick, 2024). A ello se suma la creciente delegación de tareas cognitivas a sistemas automatizados, con el propósito de optimizar procesos y minimizar la intervención humana, fenómeno que transforma las dinámicas educativas, investigativas y académicas.

Este escenario se complejiza aún más en el contexto de una sociedad global del conocimiento, atravesada por crisis económicas, sociales y ambientales, lo que obliga a considerar el impacto de la IA en términos de sostenibilidad (Waelen & van Wynsberghe, 2025). Por ello, la reflexión ética sobre la IA involucra el examen de valores democráticos como la libertad, la justicia, la equidad, la solidaridad y la responsabilidad intergeneracional.

El presente artículo aborda, principalmente, las implicaciones ético-democráticas, ambientales y educativas del uso de la IA. En una primera parte, se examinan los marcos normativos relevantes para afrontar los desafíos éticos y sociales derivados del manejo de la información y de la toma de decisiones soportados en IA. Posteriormente, se analiza la dimensión de la responsabilidad y la integridad en el uso de la ia en contextos universitarios e investigativos, y en un entorno global marcado por crisis socioambientales. Finalmente, se identifican los retos que enfrenta una educación de orientación humanista, permeada por tecnologías de IA, en el desarrollo del pensamiento crítico como condición para fortalecer una cultura ética y democrática.

METODOLOGÍA

La reflexión se desarrolla a partir de un enfoque exploratorio de revisión documental y análisis conceptual (interpretativo-argumentativo), orientado a comprender algunos desafíos éticos asociados al uso de la IA en la educación superior, particularmente los relativos al ejercicio de la autonomía, la responsabilidad y la formación ciudadana en contextos democráticos. Se trata de un ejercicio analítico-cualitativo sustentado en procesos de diálogo académico, exploración documental y evaluación de experiencias educativas. La estrategia metodológica se estructuró en dos etapas complementarias de trabajo colaborativo, cuyos insumos fueron sistematizados y analizados de manera crítica para construir un marco interpretativo coherente con los objetivos del artículo.

En la primera etapa, desarrollada entre junio de 2023 y junio de 2024, se llevó a cabo un proceso de análisis crítico-hermenéutico en el marco de la elaboración de lineamientos institucionales para el uso de la IA en una universidad colombiana. Este proceso se apoyó en jornadas de diálogo interdisciplinario entre docentes e investigadores de distintas áreas del conocimiento, en las cuales se discutieron documentos normativos, políticas institucionales, literatura académica especializada y referentes éticos nacionales e internacionales. El análisis se centró en la interpretación de los supuestos, alcances y tensiones de dichas fuentes, con el fin de identificar criterios orientadores para un uso ético y responsable de la IA en el ámbito universitario.

La segunda etapa se apoyó en la revisión y el análisis de información derivada del proyecto de investigación «Estudio comparativo del impacto de la educación mediada por Inteligencia Artificial Generativa y la educación tradicional, en un escenario formativo de presencialidad en la Universidad Autónoma de Occidente, Cali, Colombia». En dicho proyecto se definieron actividades orientadas a la identificación de competencias objeto de estudio, la caracterización de niveles de desempeño, la definición de escenarios formativos y la exploración de percepciones de estudiantes y profesores sobre el desarrollo de competencias mediadas por IA. Si bien algunas de estas actividades fueron implementadas de manera parcial —principalmente pruebas piloto y ejercicios exploratorios sobre percepciones estudiantiles—, los insumos obtenidos permitieron identificar preocupaciones recurrentes relacionadas con el uso de la IA, la autonomía en la toma de decisiones, la integridad académica y el papel del docente en contextos mediados tecnológicamente. Estos elementos fueron retomados no como datos concluyentes, sino como referentes analíticos para la reflexión ética.

Las fuentes de información utilizadas incluyeron: a) registros de capacitaciones y memorias de jornadas de diálogo académico interdisciplinario; b) documentos institucionales y lineamientos preliminares sobre el uso de la IA; c) resultados exploratorios de pruebas piloto en el curso de Formación Ciudadana, orientadas a identificar percepciones de estudiantes sobre el pensamiento crítico y el uso de IA; y d) literatura científica y filosófica relevante sobre ética de la IA, educación en pensamiento crítico, competencias ciudadanas e integridad académica y en la investigación.

La sistematización de la información se realizó mediante un proceso de lectura analítica y categorización temática, orientado a identificar convergencias y tensiones en torno a dos ejes centrales: a) la implementación de lineamientos éticos para el uso de la IA y la consolidación de una cultura de la integridad académica e investigativa; y b) la formación humanista para la democracia, basada en el desarrollo del pensamiento crítico en entornos mediados por IA.

REFERENTES ÉTICOS Y DESAFÍOS SOCIALES EN EL USO DE IA

En un contexto global de ejercicio de la ciudadanía, de respeto por los derechos humanos y de reconocimiento al pluralismo cultural y político, resulta relevante definir y consensuar principios prudenciales para tomar decisiones sobre la generación y uso del conocimiento y de la información (Floridi, 2013). Particularmente, valores éticos y democráticos son puestos a prueba con el auge de la inteligencia artificial generativa (IAG). Algunos riesgos son: los sesgos en el manejo de algoritmos y datos, las repercusiones sociales, la vulneración de la privacidad y el hermetismo de las cajas negras (Madrid Casado, 2024, pp. 123-134).

Un referente global para minimizar riesgos es la Recomendación sobre la ética de la inteligencia artificial (Unesco, 2022). Este documento asume la ética de la IA como un ejercicio reflexivo de carácter normativo que tiene en cuenta el contexto global y multicultural de las sociedades contemporáneas y considera la complejidad de los criterios valorativos en la toma de decisiones para guiar la acción humana desde sentidos de responsabilidad. Por ello, parte de concebir la ética como «base dinámica para la evaluación y la orientación normativas de las tecnologías de la IA, tomando como referencia la dignidad humana, el bienestar y la prevención de daños y apoyándose en la ética de la ciencia y la tecnología» (p. 10). También reconoce un marco general de valores, basado en la Declaración Universal de Derechos Humanos, para orientar el accionar de los gobiernos, la sociedad civil y las universidades, entre otros, en todo proceso asociado con los sistemas de IA (p. 19).

Otro referente es el documento Oportunidades y desafíos de la era de la inteligencia artificial para la educación superior (Unesco, 2023), el cual permite identificar posibilidades en la formación de profesores e investigadores para usar la IA manteniendo un horizonte ético: inclusión digital, integridad académica, evitación de sesgos, privacidad de los datos, entre otros (pp. 61-67). Por su parte, la implementación de IAG en el aula de clase contribuye a personalizar el aprendizaje y a crear materiales de estudio adaptativos. Igualmente, fortalece herramientas de consulta para que los estudiantes puedan obtener una retroalimentación constante en función de sus actividades de aprendizaje. Estas múltiples posibilidades, conducen a definir la mediación docente en términos de brindar bases conceptuales y herramientas para interpretar, deconstruir y posicionarse frente a diversidad de fuentes de información. En este escenario, la formación en democracia, derechos humanos y cultura política continuará desempeñando un rol relevante, sobre todo al momento de asumir de manera crítica, con propósitos políticos y ciudadanos, la información generada por algoritmos de IA (Sayad, 2024, p. 94).

Relaciones entre ética y ejercicio de la ciudadanía e IA son abordados desde la Unesco (2024b) al considerar las debilidades y las fortalezas de la tecnología cuando se genera y divulga información. La educación en ciudadanía, basada en el pensamiento crítico, implica asumir con análisis y discernimiento, cualquier forma de influencia conducente a incidir en la opinión y el espacio de lo público: «Las tecnologías de IA no son neutrales y codifican los valores de las personas creadoras y del ecosistema subyacente de desarrollo e implementación» (p. 10), de tal manera que pueden promover u obstaculizar el pluralismo, la participación, la transparencia y la inclusión.

El acceso equitativo de la tecnología permite fortalecer competencias y habilidades para la consolidación de un proyecto social democrático. El uso de IA en procesos académicos e investigativos puede contribuir a mitigar gradualmente brechas de género, raciales o socioeconómicas, por medio de una educación incluyente y de calidad, orientada por docentes con competencias tecnológicas. Paradójicamente, sin políticas públicas definidas y su implementación, y sin marcos legales vinculantes en función de las necesidades y los intereses de los pueblos y las naciones, el desarrollo de sistemas de IA y el acceso a los mismos puede aumentar desigualdades y formas de exclusión, debido a las posibilidades económicas, culturales y educativas de los ciudadanos y las sociedades. Igualmente, espacios virtuales y ciberculturas (Ocampo G., 2008), junto con las habilidades para una ciudadanía digital (Chamba Zarango, 2025), son redimensionados con el uso de la IAG para afianzar o debilitar habilidades sociales y cívicas.

En el contexto colombiano, se cuenta con el Marco ético para la inteligencia artificial en Colombia (Guío Español et al., 2021). Si bien es una guía dirigida a entidades públicas y de carácter no obligatorio, constituye un importante referente para instituciones y organizaciones nacionales, impelidas a asumir principios y valores reguladores en el uso de las tecnologías de IA. Los principios éticos promovidos en este documento son: transparencia y explicación, privacidad, control humano, seguridad, responsabilidad, no discriminación, inclusión, prevalencia de los derechos de niños, niñas y adolescentes, y beneficio social (pp. 23-33). Cada uno de estos principios se convierte en criterio para la toma de decisiones y atraviesa campos normativos (ética de los datos, de los algoritmos y de las prácticas), asociados al diseño, desarrollo e implementación de inteligencias artificiales. Principios similares para orientar de manera ética el diseño y la implementación de la IA son el respeto por la autonomía, la rendición de cuentas, la justicia, y la seguridad de los algoritmos (Marín García, 2019, pp. 18-19).

La llegada de los grandes modelos de lenguaje, y en particular de la IAG, ha permitido nuevas posibilidades para fomentar habilidades cognitivas y capacidades. En este contexto, se trata de asumir una cultura de la mediación tecnológica desde un arte del buen vivir basado en la responsabilidad y en virtudes que evitan posiciones extremas en las relaciones con la tecnología (Verbeek, 2011, pp. 156-158). Existen riesgos potenciales de la IA (Marín García, 2019) y desafíos en las transformaciones de las relaciones humanas que involucran la necesidad de un juicio prudencial y hábitos moderados, de autorregulación, en el uso de tecnologías: «La proliferación de dispositivos dotados de IA en los que delegar muchas de nuestras interacciones y procesos sociales —toma de decisiones, comunicación, planificación— podría derivar en una pérdida significativa de habilidades personales» (Groth et al., citados por Marín García, 2019, p. 14).

Así, la educación universitaria no puede descansar solamente en una ética de la IA centrada en los límites de su uso, sino en potenciar competencias para el ejercicio de la ciudadanía y el desarrollo de la autonomía moral e intelectual de las personas. La concepción de una ciudadanía sociotécnica implicará, precisamente, una individualidad estable (la del agente humano), con la capacidad de reflexionar y tomar distancia crítica de redes como la tecnológica, en las cuales se ve inmerso (Feenberg, 2017, p. 52).

Ética de la IA y formación socio-humanista en pensamiento crítico

En el documento Oportunidades y desafíos de la era de la inteligencia artificial para la educación superior (Unesco, 2023) se da relevancia a la innovación pedagógica y a la formación de habilidades. Así, dos desafíos para las instituciones universitarias son: brindar directrices para usar de manera ética y responsable la IA, y capacitar a los investigadores de IA en la incorporación de marcos éticos en procesos y resultados (p. 63).

La formación en el pensamiento crítico (Vendrelli & Rodríguez, 2020) y en el desarrollo de juicios éticos para la toma de decisiones se convierte en un aspecto fundamental de la educación para asumir y orientar los variados retos de los usos y la implementación de la IA por parte de estudiantes, profesores e investigadores. En el caso de desarrolladores de modelos de IA, se exige especialmente guiarse por los principios de actuación prudencial y juicios razonables sobre implicaciones y efectos del uso de las tecnologías en personas, grupos sociales y dinámicas socioeconómicas. La IA hereda sesgos de los datos con los cuales se entrena. Así, prejuicios, estereotipos o perspectivas discriminatorias pueden filtrarse de manera explícita o implícita, y de ahí la importancia de la mediación pedagógica para alertar y brindar herramientas de análisis, interpretación, reflexión y argumentación, que les permitan a los estudiantes identificar y cuestionar sesgos o información parcializada. En el caso de los usuarios de asistentes de IA en el contexto universitario, se exige básicamente tener sentido de responsabilidad y honestidad académica. Esta última adquiere relevancia al aludir a la integridad exigida a futuros profesionales. Tanto desarrolladores como usuarios cuentan con marcos normativos o referentes internacionales y nacionales, de los cuales se pueden inferir criterios para la toma de decisiones ante casos o dilemas específicos.

En un escenario de implementación de IA para promover el pensamiento crítico pueden enunciarse responsabilidades de los educadores, tales como la orientación sobre el manejo transparente de las herramientas, la interlocución guiada hacia propósitos definidos de aprendizaje, la evaluación de procesos y logros en escenarios reales y el acompañamiento y la motivación en función de experiencias subjetivas y contextos de vida. De hecho, repensar la evaluación en escenarios educativos permeados por IA conduce a las instituciones de educación superior a plantear currículos flexibles, alfabetización digital, objetivos de aprendizaje heterogéneos, proyectos educativos interdisciplinarios e integradores y mayor incidencia de las actividades autoevaluativas y heteroevaluativas (Xia et al., 2024). Ante el crecimiento cualitativo y cuantitativo del conocimiento en la sociedad de la información y la comunicación, es relevante enseñar a plantear preguntas adecuadas, a evaluar críticamente, a validar con cautela, a manejar la incertidumbre, a usar pertinentemente y en contexto la información y a reconocer la propia ignorancia (Floridi, 2014, pp. 81-84).

Sin embargo, existe mucho por explorar sobre la incidencia de la interacción humana con la IA y los sistemas autónomos, considerando que la experiencia comunicativa afectiva y recíproca entre seres orgánicos vulnerables sigue siendo valiosa en la construcción de la identidad moral de las personas y para el desarrollo de virtudes como el cuidado y la solidaridad (Vallor & Vierkant, 2024, p. 20). Con el propósito de consolidar una educación para la autonomía moral e intelectual, es necesario seguir explorando el potencial y los límites de la IAG, junto con los marcos de referencia que recuperen el cultivo de virtudes sociales para la realización humana, en un contexto global de tecnologías emergentes (Vallor, 2016).

Siguen siendo escasos los estudios sobre incidencia, oportunidades y limitaciones de la IA, en función del desarrollo de pensamiento humanista y crítico-social para abordar problemas políticos, económicos, culturales e históricos. Igualmente, Chiu et al. (2023) resaltan la necesidad de abordar los riesgos socioemocionales y los problemas éticos, al involucrar IA en la educación (p. 13). Una adecuada interlocución envuelve niveles de empatía, capacidad para comprender actitudes y lenguajes gestuales, así como los intereses y las necesidades de otros desde su singularidad de experiencias e identidad.

Por lo pronto, es evidente que la creación de escenarios interactivos usando IAG puede contribuir con la participación en debates, el abordaje de dilemas éticos y el análisis de estudios de caso. Específicamente, en un contexto de educación en pensamiento humanista para el ejercicio de la ciudadanía y el desarrollo de la democracia (Nussbaum, 2010), los estudiantes son urgidos a asumir criterios, posturas y argumentos en la evaluación de concepciones políticas y de las consecuencias sociales de determinadas ideologías o interpretaciones de la historia (Unesco, 2024a). En las democracias contemporáneas, la participación y la deliberación representan pilares sobre los que cabe fundar el ejercicio de la ciudadanía. En este escenario, las competencias argumentativas se perfilan como capacidades adscritas al despliegue de virtudes cívicas en un escenario del uso público de la razón.

Se trata de habilidades potenciadoras de habilidades de pensamiento crítico como la argumentación coherente, el juicio comparativo, la interpretación en contexto. Sin embargo, tal como se indica en el estudio de Chiu et al. (2023), son necesarios más estudios sobre la dimensión ética de los procesos de enseñanza-aprendizaje y del desarrollo de capacidades empáticas desde una mediación pedagógica en la que la interacción humana deberá seguir ocupando un lugar central.

SOCIEDAD DEL CONOCIMIENTO Y CULTURA DE LA RESPONSABILIDAD

Los siguientes son algunos de los desafíos en la consolidación de una cultura ética en la sociedad de la información y del conocimiento permeada por IA: a) la incorporación de una ética de la investigación y de la integridad académica; b) la adopción de responsabilidades ante impactos sociales y ambientales; c) la adaptación de procesos formativos para el desarrollo de pensamiento autónomo, crítico y propositivo. Ante estos desafíos, es necesario abordar la convergencia entre inteligencia humana e IAG, esta última entendida como la simulación y potenciación de aspectos cognitivos de la inteligencia humana para analizar información a gran escala, lograr síntesis y generar nuevas producciones (Bordas et al., 2024).

Integridad académica y ética de la investigación

Dado que la IAG es un modelo de lenguaje extenso, se basa en redes profundas de información entrenadas con grandes volúmenes de datos. Así, con relación al primer desafío, es pertinente plantear algunas cuestiones: ¿cómo se protegen los datos o la información sensible?, ¿en qué medida se generan realmente nuevos contenidos?, ¿se reconocen los derechos de autor al momento de generar textos, imágenes o productos artísticos?, ¿cómo evitar faltas a la integridad académica e investigativa al usar IAG?

Un primer paso para abordar estos interrogantes consiste en identificar valores y principios éticos indispensables en los procesos de investigación/publicación, los cuales servirán como derroteros de una cultura institucional ética, reflejada en buenas prácticas académicas (Arar et al., 2025). El diseño de actividades de aprendizaje que involucren el uso de IAG, junto con rúbricas que consideren la citación de herramientas y la descripción de procesos para el logro de un producto o resultado, contribuyen en buena medida, a trazar hábitos de transparencia en las prácticas académicas.

Básicamente, la promoción de una cultura de la integridad académica e investigativa, permeada en la actualidad por el uso de herramientas de IAG, depende del trabajo coordinado de los distintos actores y dependencias de la comunidad universitaria. Por lo general, los avances tecnológicos y su implementación anteceden a la evaluación de implicaciones éticas y de impactos socioculturales. La integridad científica e investigativa pretende reducir este desfase, buscando conjugar la racionalidad estratégica centrada en resultados o beneficios a corto y mediano plazo y la racionalidad ética, basada en sopesar medios y fines y en atender principios de responsabilidad, inclusión y equidad. Lo anterior es consecuente con los lineamientos dados desde el Departamento Administrativo de Ciencia, Tecnología e Innovación (2018), al subrayar cómo la ética de los investigadores debe considerar el sentido social de los proyectos, la evaluación costo-riesgo-beneficio y los estándares de calidad técnico-científica, junto con la responsabilidad en los procesos y los resultados de las investigaciones (p. 24).

El principio de responsabilidad se aplica, en el marco de una ética de la investigación, cuando el uso de herramientas de IA puede vulnerar la privacidad de datos sensibles en fases de compilación de información. Dicho principio también se aplica en escenarios donde se requiere tomar las precauciones debidas para proteger la privacidad de estudiantes o usuarios en una comunidad académica. En este orden de ideas, cabe considerar cómo la investigación involucra un compromiso ético con la publicación de resultados en tanto: «El primer deber de la autoría en la publicación científica es la verdad» (Koepsell & Ruiz de Chávez, 2015, p. 48). Se puede entender aquí por verdad el compromiso con la honestidad y la transparencia académica y científica, reconociendo, a su vez, derechos fundamentales de las personas.

Un compromiso con la integridad y la responsabilidad científica se refleja en posiciones como las de Hinton, uno de los pioneros de la IA, quien renunciaba a Google para expresarse libremente sobre los riesgos de la IA (Korn, 2023). Esto cobra especial importancia cuando muchos procesos de compilación de información, análisis de resultados de investigación y elaboración de productos académicos empiezan a estar permeados por diversos usos de tecnologías basadas en IA. De hecho, este es también un aspecto a tener presente por parte de las revistas académicas y los programas editoriales universitarios, al considerarse una ética de la publicación en estrecho vínculo con la ética de la investigación (Gamboa-Bernal, 2024, p. 11).

En las sociedades tecnocientíficas actuales, el desarrollo de integridad académica, investigativa y científica atraviesa la vida de buena parte de los ciudadanos en un mundo global y, por ende, deviene en una necesidad cultural-educativa y en una prioridad en la formación superior. En el contexto de la vida universitaria, dicho desarrollo capacita a los estudiantes para discernir, analizar y evaluar información, así como para sintetizar, proponer y crear en todos los campos del conocimiento. En este último sentido, resulta conveniente explicitar en los programas de asignatura criterios éticos para el uso de IAG desde parámetros de honestidad, transparencia y responsabilidad.

La mediación docente sigue siendo fundamental para fomentar la creatividad, orientar la construcción de conocimiento de manera crítica y promover actitudes éticas asociadas a la integridad académica (Malik et al., 2023). El estudio de la incidencia de la IAG en el desarrollo de competencias, habilidades y actitudes, o en los enfoques de la educación personalizada (Bellomo, 2025), contribuye con la compresión de los desafíos pedagógicos asociados a las interacciones entre inteligencia humana e IA, incluyendo cuestiones como el reconocimiento de los derechos de autor y la preservación de la creatividad humana (Kalpokienė, 2025).

Responsabilidad social y ambiental

El grupo de expertos de alto nivel en IA, creado por la Comisión Europea, hizo pública una lista de evaluación de la IA fiable (ALTA), en un marco de exigencias éticas para empresas desarrolladoras de IA. Los requerimientos son: 1. Agencia humana y supervisión; 2. Solidez técnica y seguridad; 3. Privacidad y gobernanza de datos; 4. Transparencia; 5. Diversidad, no discriminación y equidad; 6. Bienestar social y ambiental; y 7. Rendición de cuentas (High-Level Expert Group on Artificial Intelligence, 2020). Respecto al sexto y al séptimo requerimiento, puede preguntarse con Madrid Casado (2024): «¿Cómo avanzar de un modo ecológico y sostenible en el desarrollo de esta tecnología que paralelamente consume tantos recursos energéticos y minerales?» (p. 139).

Para nada pueden dejarse a un lado cuestiones ético-ecológicas y políticoambientales asociadas a los desarrollos con IA, no solo en un marco de derechos humanos, sino igualmente de derechos de los pueblos y derechos de la naturaleza —estos últimos cada vez más consolidados por su comprensión en tanto complementarios del contrato social—. En otros términos, las democracias contemporáneas, además de su dimensión política y socioeconómica, cuentan con una dimensión biocultural. La democracia biocultural exige que ningún desarrollo tecnocientífico vaya en detrimento de las condiciones de relativa estabilidad que permiten la diversidad y protección de la vida en el planeta (Ocampo G., 2026). Igualmente, exige que aquellas naciones que más consumo energético requieren, respondan por daños o afectaciones socioambientales frente a aquellas naciones cuya producción energética con impactos negativos es menor, en relación con la sustentabilidad de especies, ecosistemas, fuentes hídricas y las condiciones atmosféricas (Ocampo G., 2020).

En este sentido, existen varios marcos normativos, protocolos internacionales y manifiestos de política ambiental para mitigar diversas crisis ambientales como el calentamiento global o la pérdida de biodiversidad. Por ejemplo, el acuerdo alcanzado en la cumbre de París, en diciembre de 2015 a partir de la Convención Marco de las Naciones Unidas sobre el Cambio Climático de 1992 (Unesco, 2017), representa una ruta inicial global para orientar las decisiones y acciones de los Estados parte, en especial las de los países más industrializados y cuyos desarrollos tecnológicos vienen impactando las condiciones de vida de las generaciones presentes y futuras.

Afectaciones ambientales globales por el desarrollo tecnocientífico ya habían sido señaladas por Ihde (1993, pp. 87-93). Actualmente, la consolidación de una cultura ecológica basada en la sustentabilidad de la vida en el planeta requiere afrontar el impacto ambiental del uso de IA, además de mantener la atención en la producción de petróleo, la contaminación atmosférica o la deforestación. La ruptura entre cultura y naturaleza dificulta pensar los límites al desarrollo de la ciencia y la tecnología; de ahí la necesidad de asumir principios bioéticos de responsabilidad ambiental desde una perspectiva transdisciplinaria y reconociendo los procesos coevolutivos de la vida en el planeta (Collado Ruano, 2016).

Las crisis ambientales, resultado de la inadecuada relación de la humanidad con especies animales, fuentes hídricas y ecosistemas, descansa en buena medida en el olvido de concepciones sistémicas de la vida para orientar el despliegue de la cultura. Olvido que favorece la preponderancia de una racionalidad tecnocientífica sin considerar los impactos ambientales negativos, como es el caso del uso globalizado y normalizado de IA en diversos ámbitos. En la Declaración Universal sobre Bioética y Derechos Humanos (Unesco, 2005), la enunciación de principios en un contexto global contribuye a pensar los límites de la tecnología en la investigación. Con todo, surge la cuestión de cómo asumir principios bioéticos en función del impacto ambiental generado por la tecnología (Cely Galindo, 2007). El desarrollo de habilidades de pensamiento crítico por parte de los ciudadanos es uno de los factores para asumir, con criterios bioético-ambientales y ético-ecológicos, los nuevos desafíos tecnológicos debidos a la implementación generalizada de la IA.

Enseñanza-aprendizaje para el pensamiento autónomo y crítico

Por lo considerado en apartados anteriores, se entrevén algunas relaciones entre el pensamiento analítico, el crítico y el creativo. En este sentido, son fundamentales las habilidades asociadas al pensamiento crítico para reflexionar sobre el desarrollo de la autonomía moral e intelectual en tiempos de IA. Es indispensable enfatizar en algunas características del pensamiento crítico en el ámbito de la formación humanista y para la democracia, con el propósito de definir algunos retos de dicha formación, desde la mediación tecnológica.

Para Lipman (2001), el pensamiento crítico implica habilidad, responsabilidad y conduce a buenos juicios, al apoyarse en los criterios, la autocorrección y el contexto. La estructuración del pensamiento involucra el uso de criterios coherentes que permitan dar razones definidas para sustentar una posición, un procedimiento o la toma de decisiones. Un criterio es «una regla o principio utilizado en la realización de juicios» (Lipman, 2001, p. 174). Los criterios pueden interpretarse como instrumentos cognitivos necesarios para juzgar de manera apropiada. El pensamiento crítico se apoya sobre juicios y, de esta forma, también sobre criterios.

El desarrollo de pensamiento crítico por parte de estudiantes y profesores va más allá de procesos cognitivos para aprender a pensar con base en criterios y buenos juicios. Se trata, también, de afianzar actitudes y sentidos de responsabilidad asociados a la conformación del carácter, de la sensibilidad y de la creatividad. Gardner (2005) relaciona habilidades cognitivas como la comprensión con la toma de decisiones, al señalar la importancia de que los estudiantes lleguen a la comprensión de lo aprendido, para aplicarlo de manera constructiva (p. 101). Abordar el pensamiento crítico conduce a relacionarse con la toma de decisiones, estas últimas entendidas como habilidades cognitivas vinculadas con otro tipo de capacidades humanas: empatía, intuición, sentidos de cooperación y de justicia. Autores como Paul y Elder (2006, p. 5) incluyen como elementos del pensamiento, en general, la capacidad para definir propósitos, cuestionar, establecer implícitos o identificar puntos de vista, entre otros.

El pensamiento crítico hace referencia al despliegue de la capacidad de análisis, interpretación, inferencia, evaluación, comprensión y explicación de datos, información, acontecimientos, posturas o teorías, para asumir posiciones de manera clara, fundamentada y argumentada. Así, la coherencia, validez y solidez de un punto de vista va a depender del ejercicio del pensamiento crítico. Ennis (2018) señala que un pensador crítico tiene disposición para «Buscar y expresar afirmaciones claras ante una cuestión o conclusión [...] Intenta estar bien informado. Utiliza fuentes y observaciones creíbles […] Tiene en cuenta el contexto. […] Tiene la mente abierta. Considera seriamente otros puntos de vista» (p. 167).

El pensamiento crítico involucra habilidades y disposiciones presentes en distintos procesos cognitivos como la interpretación, la explicación, el razonamiento, el análisis, la evaluación, la síntesis, la reflexión y el juicio (Spector & Ma, 2019, p. 7). Cada una de estas etapas de desarrollo de pensamiento crítico se expresa desde niveles diversos de complejidad, pero se encuentran estrechamente vinculados. Los niveles más profundos y amplios tienen en su base habilidades y disposiciones iniciales de búsqueda, consulta e investigación, motivadas por el deseo de conocimiento. A diferencia de lo que sostiene Lipman (2001), el pensamiento crítico no solo se encuentra en el establecimiento de criterios para lograr buenos juicios, sino también en etapas precedentes que parten de un sujeto interesado en el saber y en indagar sobre una realidad o un objeto. Igualmente, está asociado a procesos de razonamiento, evaluación de alternativas para toma de decisiones, representación de problemas y anticipación de resultados (Vendrelli & Rodríguez, 2020, p. 15).

La IAG facilita la revisión, retroalimentación y corrección de errores en trabajos escritos, a la par que contribuye a mejorar el desarrollo de argumentos en ensayos identificando, por ejemplo, síntesis de debates y posturas. Con todo, también es patente cómo la información suministrada por la IA puede estar en ocasiones sesgada o no reflejar fielmente las posturas o tesis expuestas por los autores en sus artículos o libros. De ahí la importancia de la corroboración, lectura e interpretación de las fuentes por parte de los usuarios, para dar lugar al rol más bien facilitador de la IA al momento de compilar y organizar información.

En términos generales, uno de los mayores retos en el uso de IA consiste en mantener la autonomía en los procesos de pensamiento y de toma de decisiones, evitando con ello relaciones de dependencia intelectual o moral (heteronomía). Estudios como los de Al-Zahrani (2024, p. 156) corroboran al menos la importancia que sigue teniendo para los estudiantes filtrar, desde los propios valores, las necesidades y el pensamiento crítico, los criterios finales para tomar decisiones integrales (intervención humana), con base en conocimientos e ideas aportados por la IA. La IA se asume, de este modo, como un instrumento que permite complementar y potenciar el razonamiento humano, con el acceso a una vasta información. Con todo, el desafío se presenta en la consolidación de un pensamiento crítico desde contextos como el latinoamericano, para identificar y afrontar problemas éticos como los sesgos, el plagio o la falta de integridad académica (Zhai et al., 2024, pp. 12-14).

Si bien el uso de plataformas digitales con fines de aprendizaje adaptativo tiende tradicionalmente a generar satisfacción entre los estudiantes (Ristić et al., 2023, p. 89), con la implementación generalizada de IAG puede preverse el desafío de comprender cómo lograr una mayor apropiación responsable de modelos de aprendizaje adaptativos y autogestionados. Esto es relevante si se consideran las múltiples posibilidades para el uso de la información y el despliegue de rutas de trabajo académico y creativo, sin pasar necesariamente por el filtro del pensamiento crítico. La generación de contenido personalizado permite adaptar ejercicios y preguntas en función de las necesidades y el nivel de aprendizaje de cada estudiante. Pero fortalecer el aprendizaje independiente requiere promover habilidades con mediación docente. Cabe resaltar el papel de actividades de autoevaluación, de reflexión y uso de juicios críticos (argumentación, verificación de fuentes o evidencias), para lograr aprendizajes interiorizados. La atención a los desempeños y logros particulares de los estudiantes, desde una mirada especializada y con contexto, solo puede ser brindada por maestros entendidos como agentes morales expertos y empáticos.

CONCLUSIONES

Pensar en los retos y las oportunidades de la IA en la educación universitaria implica reconocer que su implementación no es solo instrumental, sino también normativamente situada. La toma de decisiones en el contexto de su uso demanda un marco prescriptivo en constante revisión por parte de la comunidad académica. Desde la ética de la IA pueden proponerse principios de responsabilidad, transparencia, equidad e integridad, en consonancia con marcos regulatorios nacionales e internacionales; sin embargo, su aplicación concreta depende de la capacidad institucional y pedagógica para identificar dilemas éticos específicos y prevenir formas de delegación acrítica en la producción del conocimiento.

La formación en pensamiento crítico emerge así como el eje articulador entre ética tecnológica y cultura democrática, en tanto habilita a los sujetos para cuestionar, interpretar, contrastar fuentes y asumir las consecuencias de sus decisiones. La reflexión realizada permite sostener que la IA puede contribuir a la educación ético-política orientada al fortalecimiento de la democracia y al ejercicio responsable de la ciudadanía, siempre que su incorporación se encamine de manera consciente y metódica hacia el despliegue de pensamiento crítico, argumentativo y creativo.

La IA no debe concebirse como sustituta de las facultades humanas de juicio, discernimiento y deliberación, sino como mediación tecnológica cuya legitimidad pedagógica depende de su subordinación a procesos formativos que preserven la autonomía intelectual y moral de las personas. En este sentido, el uso educativo de la IA exige programas de formación dirigidos a profesores, investigadores, estudiantes y demás actores de la comunidad académica, orientados a un empleo prudente, reflexivo y responsable de tecnologías con alto potencial de incidencia cognitiva, social y política.

Si bien la IA puede producir resultados formalmente coherentes mediante la asociación y síntesis de grandes volúmenes de datos, dicha capacidad no equivale, en sentido estricto, al ejercicio de una inteligencia reflexiva ni a la comprensión situada propia del pensamiento y la consciencia humana. Por el contrario, la expansión de estas tecnologías intensifica la responsabilidad de fortalecer capacidades deliberativas que permitan evaluar sus productos, límites y sesgos. Esta exigencia no se restringe al plano cognitivo, sino que se extiende al ámbito ético-político y ambiental: el uso masivo de sistemas de IA conlleva impactos energéticos y ecológicos que interpelan directamente a sociedades democráticas comprometidas con la sostenibilidad y el bien común. En consecuencia, la educación superior está llamada a integrar en su reflexión sobre la IA no solo criterios de integridad académica-científica y calidad formativa, sino también consideraciones sobre justicia intergeneracional y responsabilidad ambiental.

En síntesis, el principal aporte de esta reflexión radica en mostrar que la discusión sobre el uso de la IA en la universidad no puede reducirse a debates sobre eficiencia, productividad o innovación pedagógica. Se trata, ante todo, de una cuestión formativa y política: la manera como se integre la IA en los procesos educativos incidirá directamente en la configuración de sujetos críticos, creativos, responsables y capaces de participar en la deliberación democrática. La ética de la IA, la educación en pensamiento crítico y el ejercicio pleno de la ciudadanía constituyen, por tanto, un triángulo conceptual inseparable, cuyo equilibrio dependerá de la capacidad institucional para orientar el uso de las tecnologías hacia fines formativos, socialmente justos y ambientalmente sostenibles.

AGRADECIMIENTOS

Este artículo fue posible gracias al diálogo académico y a la compilación de información de equipos de trabajo. Mi gratitud a los profesores David Fernando Ramírez Moreno, Carlos Andrés López, Leonardo Saavedra Munar, Jesús Alfonso López, Carlos Alberto Peláez Ayala, Brenda Vanessa García, Andrés Fernando Solano Alegría, Lucas López Escobar, Dulfay Astrid González y César Andrés Garzón Valencia, de la Universidad Autónoma de Occidente, por los conocimientos y experiencias compartidos.

CONFLICTOS DE INTERÉS

El autor declara no tener ningún conflicto de interés relacionado con la publicación del presente artículo.

NOTAS AL PIE

  • arrow_upward * Artículo derivado del proyecto académico «Principios rectores para el desarrollo, adaptación, uso y apropiación de la inteligencia artificial en la Universidad Autónoma de Occidente» (junio/2023 a junio/2024), y del proyecto de investigación «Estudio comparativo del impacto de la educación mediada por Inteligencia Artificial Generativa y la educación tradicional, en un escenario formativo de presencialidad en la Universidad Autónoma de Occidente, Cali, Colombia» (julio/2024 a julio/2025).
REFERENCIAS