Inteligencia Artificial: nuestro compromiso ético

Cómo funciona la IA en Episteme

Episteme Ágora utiliza modelos de lenguaje de Mistral AI — empresa europea con sede en París — para analizar los exámenes escritos de los alumnos y proporcionar una evaluación inicial por competencias específicas, según el marco LOMLOE. La IA nunca toma decisiones finales: su función es asistir al docente, no sustituirlo.

El proceso siempre sigue este orden: la IA evalúa y propone una nota con justificación por competencia → el profesor revisa, ajusta si lo considera oportuno y aprueba → solo entonces el resultado es visible para el alumno. Ninguna calificación llega al estudiante sin pasar por el criterio del docente.

Supervisión humana como principio irrenunciable

El diseño de Episteme incorpora la supervisión docente como elemento estructural, no opcional. Esto responde a un principio pedagógico fundamental: la evaluación es un acto educativo que requiere juicio profesional. La IA aporta consistencia y rapidez; el profesor aporta contexto, conocimiento del alumno y responsabilidad pedagógica.

El sistema incluye alertas epistemológicas que avisan al profesor cuando la confianza de la IA en una evaluación es baja o cuando detecta posibles sesgos — por ejemplo, ante textos de alumnos con necesidades específicas como la dislexia. En esos casos, el sistema recomienda explícitamente la revisión manual.

Datos y privacidad

Los exámenes de los alumnos son datos personales protegidos por el RGPD. Episteme Ágora almacena los datos en servidores de Supabase ubicados en Frankfurt (UE). Los modelos de IA de Mistral operan en infraestructura europea. Ningún dato de evaluación se comparte con terceros ni se utiliza para entrenar modelos de IA sin consentimiento explícito.

Los alumnos menores de edad están bajo la tutela de sus familias y de su centro educativo. El acceso de los alumnos al sistema requiere autorización activa del docente mediante código QR de un solo uso.

Cumplimiento del Reglamento Europeo de IA (EU AI Act)

El Reglamento (UE) 2024/1689 clasifica los sistemas de evaluación educativa como sistemas de alto riesgo, con obligaciones de plena aplicación a partir de diciembre de 2027. Episteme Ágora anticipa ese cumplimiento desde su diseño:

• —Transparencia: el alumno y el docente saben siempre que la evaluación ha sido asistida por IA.
• —Supervisión humana: ninguna calificación es definitiva sin aprobación docente.
• —Trazabilidad: cada evaluación registra la nota propuesta por la IA, el ajuste del profesor y la fecha.
• —No discriminación: el sistema incluye instrucciones explícitas para evitar sesgos por extensión del texto, fluidez lingüística o errores formales sistemáticos.
• —Soberanía de datos: infraestructura 100% europea.