DILEMAS EDUCATIVOS, ÉTICOS Y CIENTÍFICOS DE LA INTELIGENCIA ARTIFICIAL
Dra. Nancy Schavino
Dra. Mary Stella
La Inteligencia Artificial nos abre posibilidades infinitas en materia de educación e investigación. Sin embargo, en medio del entusiasmo por sus posibilidades infinitas, emerge una sombra inevitable, su lado oscuro: sus dilemas implícitos. Ante este panorama valdría la pena preguntarnos ¿Estamos controlando la herramienta o nos estamos adaptando a esta sin cuestionarla? En este artículo descubrirás el verdadero impacto ético, educativo y científico de la IA, analizando las rutas urgentes para construir una cultura digital responsable para garantizar que la tecnología permanezca siempre al servicio de lo humano.
Impactos críticos de la IA en la educación y la formación
La llegada masiva de plataformas inteligentes a las aulas y entornos virtuales ha generado una ruptura en los procesos educativos tradicionales. Schavino y Stella (2025) expresan que la integración de la inteligencia artificial en los sistemas educativos, si bien ofrece múltiples oportunidades, conlleva desigualdades traducidas en riesgos ampliamente documentados en la literatura contemporánea. Tales como: la erosión de la privacidad estudiantil y docente, así como la presencia del sesgo algorítmico.
Lo anterior puede profundizar el fenómeno de la brecha digital, excluyendo a comunidades con menor acceso a infraestructura, recursos tecnológicos o alfabetización digital. La acelerada integración de la IA en entornos digitales de aprendizaje ha desencadenado profundos desafíos éticos y científicos relacionados con la privacidad, la vigilancia y la manipulación del usuario en entornos digitales de aprendizaje.
Estudios recientes como los de Paucca (2025) y Correal (2024) advierten que la personalización al extremo puede propiciar una dependencia de los algoritmos y una tendencia a aceptar soluciones automáticas sin cuestionarlas, reduciendo la autonomía intelectual y la práctica del pensamiento crítico. Asimismo, los docentes corren el riesgo de perder protagonismo pedagógico, pasando de facilitadores humanos a simples validadores de contenidos sintéticos.
Ética y retos científicos en la investigación con IA
En este contexto, es fundamental el ejercicio de la ética, que es una conducta diaria, que debe estar arraigada en el ser, en la identidad del ser humano. Por eso se dice que la ética se ejerce y se aplica con base a principios. Para poder estar arraigada en el ser, hay que tener conocimiento del daño que se puede hacer y de las consecuencias perniciosas de las acciones frente a la realidad.
El tratamiento de sesgos, manipulación y reproducibilidad en la investigación automatizada exige una respuesta multidimensional: incorporar prácticas técnicas de documentación y evaluación; fortalecer mecanismos de auditoría y fundamentar decisiones metodológicas en marcos críticos que reconozcan las raíces sociales de los sesgos y la responsabilidad ética de quienes diseñan, publican y aplican modelos para realizar procesos de investigación asistidos por las IA.
Mehrabi et al (2019) y Pasquale (2015) afirman que la precarización del trabajo de datos no es solo un problema laboral; es una cuestión epistemológica, es decir es un problema que afecta la construcción del conocimiento, y por ende el producto final que es la producción científica. Detrás de la imagen pulcra de la IA sofisticada existe una vasta infraestructura de trabajo precario e invisible. Miles de etiquetadores de datos en países en desarrollo revisan miles de horas de contenido violento, tóxico o sesgado por remuneraciones reducidas y sin apoyo psicológico. Entonces, la responsabilidad y la transparencia, deben entenderse como ejes normativos y operativos para garantizar que los resultados derivados de modelos y conjuntos de datos sean epistemológicamente sólidos, éticos y socialmente justos.
Perspectivas éticas y sociales para un uso humano y responsable de la IA
Ante los dilemas descritos, la postura no debe ser el rechazo tecnófobo o satanización de la IA, ni la aceptación pasiva, sino el diseño de un ambiente crítico orientando la tecnología hacia el bienestar común. En la era de la IA, los riesgos sociales vinculados a la desigualdad y exclusión se han intensificado significativamente, pues los sistemas algorítmicos pueden reproducir y amplificar prejuicios históricos presentes en los datos y estructuras sociales.
La respuesta de las autoras a estos riesgos es que, el uso de la IA debe ser proactivo, transdisciplinario, permeado por principios éticos y centrados en la justicia social. Sin estas condiciones, la IA tiene un alto potencial para convertir sesgos históricos en inequidades automatizadas. En América Latina y en palabras de Ulloa (2024) aún no existe una regulación regional unificada sobre el uso ético de la inteligencia artificial, pero sí avances importantes y marcos en desarrollo en varios países guiados por principios internacionales como los de la UNESCO y la OCDE. En Venezuela, está en proceso el desarrollo de un marco regulatorio y ético para la IA.
Ante este panorama, se necesitan estrategias desde la educación y la investigación para una cultura digital crítica y consciente tales como: alfabetización mediática y digital crítica, formación docente y desarrollo profesional en IA, investigación colaborativa y enfoque transdisciplinar, inclusión, equidad y creatividad digital, evaluación crítica, ética y tecnohumanista, aprendizaje basado en proyectos y resolución de problemas reales y empleo de plataformas abiertas, datos éticos y tecnologías inclusivas.
El verdadero riesgo y desafíos éticos, educativos y científicos de la era digital no es que las máquinas comiencen a pensar por sí mismas, sino que las personas renunciemos a la capacidad de pensar por nosotros mismos y terminemos funcionando de forma autómata. ¿Consideras que las escuelas y universidades actuales están formando ciudadanos capaces de cuestionar la tecnología, están actuando a tiempo para guiar el uso ético de estas herramientas o nos estamos limitando a entrenar usuarios pasivos?
Referencias
Correal, T (2024). La influencia de la inteligencia artificial en el pensamiento crítico de los estudiantes de secundaria. Dialéctica, Revista de Investigación Educativa, 32(2), 163-170. https://shre.ink/qj9s
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K & Galstyan, A. (2019). Una revisión sobre sesgo y equidad en el aprendizaje automático. https://shre.ink/qjlE
Pasquale, F. (2015). La sociedad de la caja negra: los algoritmos secretos que controlan el dinero y la información. Harvard University Press.
Paucca, N. (2025). Inteligencia artificial y el desarrollo del pensamiento crítico en estudiantes universitarios. Revista Boliviana de Investigación Educativa, 48(2), 113–128. https://shre.ink/qjlf
Schavino N. Stella M. (2025) El lado oscuro de la IA. Desafíos éticos, educativos y científicos. Colección Transtecnología. REDIT https://www.calameo.com/books/004634144928ab198a233
Simulaciones Stratx. (2025). Efectos negativos de la inteligencia artificial en la educación. https://shre.ink/qjaE
Ulloa, M. (2024). Avances en la regulación de la Inteligencia Artificial en América Latina. https://shre.ink/qjaa
UNESCO. (2024). Ética de la inteligencia artificial. https://shre.ink/qjcR UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. París: UNESCO. https://shre.ink/qjcC
UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. UNESCO. https://shre.ink/qjcu