Ética en juego: ¿Confiamos demasiado en la IA?

Cuando la comodidad sustituye al pensamiento crítico

Hay quien entrega un trabajo escrito íntegramente generado por una IA, sin comprender del todo los argumentos que contiene. Otra persona se prepara para un examen utilizando un resumen generado por una IA que incluye imprecisiones sutiles, pero nunca se da cuenta de ello. Adolescentes piden consejo a un chatbot de IA sobre un asunto personal, aceptan la respuesta como fiable y siguen adelante sin cuestionarse de dónde proviene esa recomendación.

Ahora amplía ese comportamiento. ¿Qué ocurre cuando toda una generación empieza a confiar en la IA para que piense por ellos? ¿Qué ocurre cuando la rapidez se vuelve más valiosa que el juicio, o cuando se confunde la seguridad con la verdad simplemente porque la máquina suena convincente? Estos ya no son hábitos aislados en el aula. Pueden ser señales de alerta tempranas de un cambio mucho mayor.

La IA ha entrado en la educación a un ritmo extraordinario porque es eficiente, intuitiva y fluida. Ayuda al estudiantado a escribir más rápido, resumir información al instante, resolver problemas en segundos y generar respuestas a la carta. Pero la comodidad puede remodelar silenciosamente el comportamiento. Si el alumnado deja de practicar el razonamiento porque la IA puede hacerlo más rápido, ¿qué pasa con el pensamiento independiente? Si confían en respuestas generadas por máquinas sin comprender sus limitaciones, ¿qué pasa con el discernimiento? Si crecen creyendo que la tecnología siempre debe proporcionar soluciones inmediatas, ¿qué pasa cuando esos sistemas son sesgados, engañosos o simplemente alucinan?

La verdadera preocupación no es que el estudiantado utilice la IA, sino que pueda estar aprendiendo a depender de ella antes de desarrollar la competencia necesaria para analizar estos sistemas de forma crítica.

El peligro de confiar ciegamente en la IA

Hoy en día, quien estudia se siente muy cómodo con las herramientas digitales. Integra la tecnología en su estudio, en su comunicación y en su toma de decisiones. La IA se percibe como una extensión natural de ese entorno y precisamente eso hace que este momento sea tan significativo. La IA no resulta disruptiva para esas personas. Les parece algo normal.

Pero no hay que confundir familiaridad con comprensión. Los resultados de la IA suelen parecer pulidos, coherentes y fidedignos. Esa apariencia crea una peligrosa ilusión de fiabilidad. Una respuesta bien redactada puede seguir siendo inexacta. Una recomendación puede seguir estando sesgada. Una herramienta útil puede seguir recopilando muchos más datos de los que los usuarios creen que recopila.

Y lo que es más importante, estos sistemas no se limitan a responder al comportamiento; cada vez más, lo moldean. Las personas estudiantes pueden empezar a confiar en la IA no solo para completar tareas, sino también para estructurar su forma de pensar, sus prioridades y qué respuestas les parecen aceptables. Esto debería hacer reflexionar al colectivo docente, porque no se trata simplemente de adoptar la tecnología. Se trata de cómo se forman los hábitos de pensamiento.

En ese preciso momento, la IA ética y una mayor alfabetización en IA se vuelven urgentes.

En respuesta a estas crecientes preocupaciones, cuatro socios del EduTech Cluster en España, Wiris (expertos en IA), Model Share AI (proveedor tecnológico), Universitat de Girona (marco ético) y EIM (contenidos educativos), se unieron para estudiar cómo estudiantes y docentes podrían abordar la IA de forma más crítica.

El resultado fue Ética en Juego, una iniciativa colaborativa diseñada para visibilizar los riesgos éticos de la IA a través de la experiencia directa, al tiempo que ayuda a estudiantes y docentes a desarrollar una alfabetización práctica en IA.

Aprender sobre la ética de la IA a través de la experiencia

Durante seis meses, estudiantes mayores de 16 años y docentes de institutos de secundaria y centros de formación profesional de toda España participaron en Ética en Juego.

En lugar de impartir conceptos generales mediante debates estáticos en el aula, la iniciativa sumergió a quienes participaron en tres experiencias de aprendizaje interactivas basadas en dilemas éticos reales. El objetivo no era simplemente explicar qué es la IA responsable, sino situar a la propia IA en el centro del debate, transformándola de una herramienta que utiliza el estudiantado en un objeto de estudio que se les anima a cuestionar.

El primer reto, «Justicia y equidad para la IA», les situó en un doble papel como el cuerpo judicial y como especialistas en ingeniería de IA en un escenario de justicia penal, exigiéndoles que crearan un modelo de predicción de riesgos para fundamentar las decisiones sobre la libertad condicional. Su misión parecía sencilla: hacer que la IA fuera más justa. Pero a medida que ajustaban las variables para mejorar los resultados, descubrieron rápidamente que resolver un problema a menudo creaba otro, ya que el modelo funcionaba mejor para un grupo mientras producía resultados menos equitativos para otro. Guiados por una puntuación de «brújula moral» desarrollada con el centro de ética OEIAC de la Universitat de Girona, lo que en un principio parecía un ejercicio de optimización técnica se convirtió en una poderosa lección sobre lo difícil que es eliminar por completo el sesgo en los sistemas de IA.

El segundo reto se centró en la sostenibilidad, una cuestión que muchas personas jóvenes rara vez asocian con la IA. Las personas que participaron comenzaron como «Profesionales en Investigación de Acción Climática», utilizando datos satelitales reales para cartografiar las emisiones de una ciudad y entrenando modelos de IA para identificar qué edificios desperdiciaban más energía. A continuación, el reto cambió de perspectiva: en su papel de «Asesoramiento de IA Ecológica», se enfrentaron a los costes medioambientales ocultos de los propios sistemas que habían construido, lo que planteó preguntas sobre los centros de datos, las necesidades de refrigeración y el consumo energético. Si un mejor rendimiento de la IA requiere más recursos, ¿dónde deben trazarse los límites? El ejercicio llevó a los estudiantes a plantearse si el progreso de la IA siempre debe perseguirse a la máxima velocidad.

El tercer reto exploró la huella digital, centrándose en los datos personales y la predicción del comportamiento. A través de una experiencia de aprendizaje exploratorio, el estudiantado examinó cuánta información genera a través de su actividad diaria en línea —desde el seguimiento de la ubicación y el uso de aplicaciones hasta el comportamiento de navegación y los patrones de interacción— y descubrió los perfiles publicitarios creados a partir de esos datos. A continuación, entrenaron una mini-IA para experimentar de primera mano cómo los feeds digitales aprenden a predecir las preferencias y a moldear lo que ven los usuarios. El reto concluyó con la práctica de seis derechos legales sobre los datos, entre ellos el acceso, la supresión y la oposición, lo que les ayudó a comprender mejor cómo las personas pueden recuperar el control de sus datos personales.

Esto es lo que hace que «Ética en Juego» sea eficaz. El alumnado no aprende de forma pasiva sobre la IA ética. Se enfrentan directamente a sus tensiones. El sesgo se convierte en algo que intentan resolver. La sostenibilidad pasa a ser una limitación práctica, en lugar de un tema de debate abstracto. La privacidad se vuelve personal.

Rompiendo la ilusión de la neutralidad de la IA

Una de las lecciones más importantes que los alumnos aprenden a través de «Ethics at Play» es que la IA no es neutral, aunque lo parezca. Para muchas personas jóvenes, la IA parece objetiva simplemente porque se comunica con seguridad. Sus respuestas son pulidas, inmediatas y persuasivas. Esa fluidez da la impresión de que el sistema sabe lo que hace, incluso cuando el resultado es incompleto, engañoso o está condicionado por supuestos erróneos.

A medida que se enfrentan a estos sistemas con mayor rigor, comienzan a surgir preguntas incómodas.

• ¿Por qué dos sistemas de IA pueden generar respuestas completamente diferentes a la misma pregunta?

• Cómo los datos históricos de entrenamiento determinan lo que la IA presenta como «verdad».

• ¿Por qué ciertas perspectivas aparecen repetidamente mientras que otras permanecen invisibles?

• Cómo el lenguaje persuasivo puede hacer que la incertidumbre parezca certeza.

Una persona estudiante que investigue un tema social puede recibir una respuesta convincente que refuerce sutilmente un sesgo histórico. Otra puede confiar en la recomendación de un chatbot sin darse cuenta de que la respuesta se basa en una predicción estadística más que en la comprensión. La cuestión no es simplemente la precisión. Es la percepción.

Cuestionar la IA no es un comportamiento instintivo. Hay que aprenderlo. Ese cambio se sitúa en el centro de la educación en IA ética, porque la habilidad más importante no es preguntarse si una respuesta parece correcta, sino comprender por qué existe esa respuesta en primer lugar.

La IA no se limita al aula.

Los sistemas que se exploran en Ética en Juego no son meras herramientas educativas aisladas. Son un reflejo de las mismas tecnologías que ya están dando forma a la vida cotidiana.

Los algoritmos de recomendación influyen en lo que quienes los usan ven, leen y creen. Las plataformas de redes sociales determinan qué narrativas ganan visibilidad. Los sistemas de selección de personal filtran a los candidatos antes de que sean evaluados por personas. Las aplicaciones de navegación optimizan las rutas basándose en prioridades que los usuarios rara vez ven. La IA no es algo para lo que el estudiantado deba prepararse de cara al futuro. Ya está dando forma a los entornos en los que viven.

Una persona adolescente que comprenda cómo los sistemas de recomendación refuerzan los patrones de comportamiento puede empezar a preguntarse por qué ciertos vídeos predominan en su feed. Alguien que explore la huella digital puede pensar de manera diferente sobre los permisos de las aplicaciones, el uso compartido de la ubicación o la recopilación silenciosa de datos personales. Alguien que comprenda el sesgo algorítmico puede ver las herramientas de contratación automatizadas desde una perspectiva completamente diferente.

En esos momentos, la IA ética se vuelve tangible. El proyecto ayuda al estudiantado a comprender que los sistemas no se limitan a reaccionar ante el comportamiento, sino que también lo moldean activamente.

Este cambio es igualmente relevante para el equipo docente. A medida que la IA se integra en la vida cotidiana, se le pide al profesorado que oriente los debates sobre tecnologías que evolucionan más rápido que los planes de estudio tradicionales. Uno de los puntos fuertes de Ética en Juego es que ofrece una forma práctica y accesible de llevar esos debates a las aulas, ayudando a los educadores a ir más allá de los debates abstractos para pasar a un debate crítico y centrado en el mundo real.

Al final de la experiencia, las personas participantes experimentan un cambio significativo. La IA pasa de ser percibida como intrínsecamente fiable a ser objeto de escrutinio. Esa transformación puede ser una de las formas más valiosas de educación en alfabetización en IA disponibles actualmente.

Por qué es importante la alfabetización en IA para el futuro de la educación

A medida que la IA sigue evolucionando, la brecha entre su uso y su comprensión no hará más que aumentar, a menos que la educación responda de forma deliberada.

Ética en Juego ofrece un modelo para lograr precisamente eso. Al combinar el aprendizaje basado en juegos, la experimentación y los dilemas éticos del mundo real, Ética en Juego demuestra cómo se puede introducir la alfabetización en IA de forma práctica y atractiva en los institutos públicos y en los centros de formación profesional, ayudando al alumnado a pasar de un uso pasivo a un cuestionamiento crítico.

Para Wiris, esta iniciativa es una extensión natural de su misión: hacer que el trabajo en STEM sea más significativo. Entender la tecnología hoy en día no consiste solo en utilizar las herramientas de manera eficiente. Se trata de comprender sus implicaciones, limitaciones e impacto.

Porque el mayor riesgo no es que los estudiantes hagan un uso indebido de la IA. Es que confíen en ella sin llegar a aprender nunca a cuestionarla.