La inteligencia artificial que se niega a responder

Sobre por qué el mejor tutor no resuelve: pregunta. Y sobre lo que Sokrates©, el agente mayéutico de SIMPLICITY LAB, nos enseña acerca de cómo deberíamos estar construyendo la IA.

Imaginemos por un momento una herramienta de inteligencia artificial que, cuando le pides la respuesta, no te la da.

No porque no pueda. Porque ha decidido que no debe.

Le planteas una duda y, en lugar de resolverla, te devuelve una pregunta más afilada que la tuya. Insistes, y vuelve a insistir ella: ¿qué te hace pensar eso?, ¿y si fuera al revés?, ¿con qué dato sostienes esa afirmación? No te entrega el destino; te obliga a caminar. Al final del intercambio no tienes una respuesta copiada y pegada: tienes una comprensión que has construido tú.

Esa herramienta existe. La hemos llamado Sokrates©, y es el corazón de SIMPLICITY LAB. Pero antes de hablar de ella, quiero hablar de por qué su mera existencia me parece una de las cosas más importantes —y menos comprendidas— que están pasando hoy con la inteligencia artificial.

«Sokrates©. La IA que pregunta antes de responder y convierte cada conversación en evidencia del aprendizaje.»

El problema no es que la IA responda mal. Es que responde demasiado bien

El primer día de clase hice una pregunta sencilla.

—¿Cuántos utilizáis inteligencia artificial para estudiar?

Casi todas las manos se levantaron.

Hice entonces una segunda pregunta.

—¿Y cuántos sabríais explicar cómo funciona realmente esa inteligencia artificial?

El silencio fue inmediato.

Aquella escena me dejó una sensación difícil de ignorar. Teníamos estudiantes utilizando herramientas capaces de responder casi cualquier pregunta, pero sin comprender qué eran realmente ni cómo condicionaban su forma de aprender.

Fue entonces cuando empecé a preguntarme si el verdadero problema de la inteligencia artificial no era su capacidad para responder, sino nuestra creciente costumbre de dejar de pensar.

Llevamos dos años instalados en una promesa: la IA que escribe por ti, que resume por ti, que decide por ti. Una IA de la fricción cero. Pides y recibes. El gesto es siempre el mismo —encargar— y la recompensa, instantánea.

En el mundo universitario, donde enseño, esta promesa ha llegado disfrazada de salvación y vivida como amenaza. Los profesores lo formulan con una intuición certera aunque pocas veces articulada: si la máquina piensa por el alumno, ¿qué le queda al alumno por aprender? El miedo de fondo no es el plagio. Es la atrofia del juicio. La sospecha de que una generación entera puede llegar a las respuestas sin haber pasado nunca por el esfuerzo que las convierte en conocimiento propio.

Y aquí conviene ser honestos, porque el miedo tiene base. El conocimiento no se transfiere como un archivo. Se construye en la resistencia: en el momento que pasamos atascados, en la hipótesis que formulamos y se derrumba, en la pregunta que no sabíamos redactar hasta que la formulamos mal tres veces. La fricción no es un defecto del aprendizaje. Es su mecanismo. Una IA que elimina toda fricción no está acelerando el aprendizaje: está extirpándolo.

Como economista, lo veo con nitidez incómoda. Confundimos sistemáticamente productividad con aprendizaje. La IA generativa dispara la primera —produces más, más rápido, con menos esfuerzo— y precisamente por eso puede erosionar el segundo. Un estudiante que entrega más trabajos en menos tiempo no es necesariamente un estudiante que sabe más. Puede ser, exactamente, lo contrario.

«La mejor inteligencia artificial no siempre es la que responde más rápido. A veces es la que sabe cuándo no responder.»

La mayéutica socrática: una alternativa para la inteligencia artificial en educación

La solución no es nueva. Tiene veinticuatro siglos.

Sócrates no enseñaba dando respuestas. Enseñaba preguntando. Su método —la mayéutica, el arte de la partera— partía de una convicción radical: el maestro no deposita el saber en el discípulo como quien llena una vasija. El maestro ayuda a dar a luz un conocimiento que ya estaba latente, asistiendo el parto con preguntas. El que aprende hace todo el trabajo. El que enseña solo sostiene la pregunta correcta en el momento correcto.

Durante veinticuatro siglos esto fue, en la práctica, imposible de escalar. Un Sócrates atiende a un discípulo cada vez. No hay mayéutica masiva: la pregunta personalizada, paciente, infinitamente disponible, era un lujo reservado a quien tuviera un tutor para sí solo.

Y aquí es donde la inteligencia artificial cambia la ecuación. Por primera vez en la historia, la pregunta socrática puede escalar. No la respuesta —de respuestas vamos sobrados— sino la pregunta paciente, disponible a las tres de la madrugada para cualquier estudiante que se atasque, sin cansarse, sin juzgar, sin resolver por él.

No quiero exagerar la novedad, porque sería traicionar todo lo que defiendo. La idea de un tutor de IA de orientación socrática no la inventamos nosotros; es una categoría que ya existe y en la que trabajan actores mucho mayores. Lo que sí afirmo es algo más preciso y defendible: que poner la mayéutica en el centro —y no como un modo más entre otros— y articularla con un marco pedagógico universitario, con criterio explícito y con una filosofía coherente detrás, es una decisión de diseño poco frecuente. Y es, sobre todo, una decisión que va a contracorriente.

Lo más interesante es que esta idea ya ha salido del terreno teórico. Durante el curso académico, Sokrates© ha sido utilizada y puesta a prueba en experiencias reales de aprendizaje dentro de la Universidade da Coruña, integrada en el entorno SIMPLICITY LAB. Los resultados preliminares muestran algo que intuíamos desde el principio: cuando la IA deja de resolver y empieza a preguntar, el estudiante participa más activamente en la construcción del conocimiento. No se limita a obtener respuestas; aprende a formular mejores preguntas. En estas primeras experiencias, con un grupo de 150 estudiantes, observamos una mejora apreciable en competencias como el pensamiento analítico y crítico y la cultura de la IA —de una media en torno a 1,5 a cerca de 3,9 sobre 5 al final del curso—, estimada sobre las evidencias de las propias conversaciones y validada por el profesorado. Son resultados preliminares, pero coherentes con lo que vemos en el aula.

Y conviene explicar de dónde sale ese salto, porque no es una impresión: el sistema lo apoya en evidencias. Cada conversación se convierte en evidencia de aprendizaje, y un análisis identifica patrones de razonamiento y propone —solo a partir de lo observado, nunca de inferencias no justificadas— una valoración de competencias como el pensamiento crítico, la capacidad analítica, la argumentación basada en evidencias o la detección de sesgos, que el profesorado revisa y decide (supervisión humana, conforme al Art. 14 del EU AI Act). De ahí nace una segunda capa que para el profesorado es tan valiosa como la primera: indicadores objetivos para detectar dificultades a tiempo, reconocer fortalezas y valorar la eficacia de la propia metodología docente. El agente no solo acompaña al estudiante; le devuelve al profesor una radiografía del aprendizaje que antes no existía. El profesorado, además, dispone de su propio agente experto —Cátedra IA— para sus consultas; Sokrates© trabaja con el alumnado.

Sokrates©: la herejía de una IA diseñada para desarrollar pensamiento crítico

Aquella escena inicial confirmó algo inquietante: nunca habíamos tenido tanto acceso a respuestas y, al mismo tiempo, tan poca reflexión sobre cómo las obteníamos. La pregunta dejó de ser tecnológica. Se volvió pedagógica. ¿Qué ocurriría si diseñáramos una IA cuyo objetivo no fuera responder mejor, sino enseñar mejor?

Casi toda la IA que se construye hoy compite por una sola métrica: reducir el esfuerzo del usuario. Menos clics, menos espera, menos pensar. Sokrates© hace lo contrario, y lo hace a propósito.

Sokrates© introduce fricción. Devuelve la pregunta. Ralentiza. Cuando el estudiante quiere la respuesta rápida, este le ofrece el camino lento. No porque sea menos capaz que cualquier otro modelo —usa la misma tecnología de frontera— sino porque está diseñado bajo una premisa distinta: que su trabajo no es ahorrarte el pensamiento, sino entrenártelo.

Y hay un matiz que conviene no callar: el agente no es un modelo genérico al que se le ha pedido que pregunte. Está anclado en los materiales reales de la asignatura —las lecciones, las presentaciones, los casos— y solo recurre al conocimiento general como apoyo, para iluminar un ejemplo o una analogía, nunca para sustituir el contenido docente. La mayéutica sin ese anclaje sería retórica; con él, es pedagogía.

Esto es lo que en EstratégicaMente venimos llamando Slow AI e IA con Criterio, y este agente es la prueba de que no son eslóganes. Son una forma distinta de diseñar.

Conviene deshacer un malentendido: Slow AI no es tecnofobia con buena prensa. No es ir más despacio por nostalgia ni renunciar a la potencia del modelo. Es elegir dónde poner la fricción. La IA rápida elimina fricción en todas partes por defecto, sin preguntarse si esa fricción concreta era un coste o era el valor. La IA con criterio distingue: hay fricciones que son puro desperdicio —rellenar un formulario, formatear una tabla, buscar un dato— y las hay que son el aprendizaje mismo. Las primeras, elimínalas sin piedad. Las segundas, protégelas con tu vida.

Sokrates© protege la segunda clase de fricción. Esa es toda su tesis, y es una tesis casi subversiva en el mercado actual.

Conviene una precisión, porque «negarse a responder» es una figura retórica, no un dogma. El agente no oculta respuestas: las secuencia. Calibra. Ante una duda simple —una definición— responde y comprueba la comprensión con una sola pregunta de seguimiento. Ante un problema de razonamiento, sostiene el diálogo. Y cuando detecta que el estudiante se ha atascado de verdad, no lo abandona en un laberinto de preguntas: aumenta progresivamente la ayuda y, si hace falta, da la respuesta. Su regla no es «no responder nunca», sino «ayudarte a descubrir antes de darte». La diferencia es toda la diferencia: un tutor que jamás responde no sería socrático, sería solo obstructivo.

Cómo debería diseñarse la inteligencia artificial educativa del futuro

Marshall McLuhan dejó escrita la frase que mejor explica por qué Sokrates© me importa más que cualquier otra cosa que hayamos construido: el medio es el mensaje. La forma de una tecnología comunica más que su contenido. Una IA que da respuestas enseña, calladamente, que pensar es un trámite que conviene externalizar. Una IA que devuelve preguntas enseña, también calladamente, que pensar es tuyo y nadie va a hacerlo por ti.

Por eso un tutor mayéutico no es un producto educativo más. Es una declaración sobre qué tipo de relación queremos tener con las máquinas que estamos invitando a nuestra vida intelectual. ¿Sustitutas o entrenadoras? ¿Vasijas que llenamos de respuestas o parteras que asisten nuestro propio pensamiento?

Y esta pregunta, conviene subrayarlo, desborda con mucho el aula. Si hemos sido capaces de diseñar una IA que entrena el juicio en lugar de erosionarlo para enseñar economía, ¿por qué no para tomar decisiones de inversión, para evaluar una candidatura a un fondo, para deliberar en una empresa? La fricción deliberada no es una rareza pedagógica. Es, quizá, el principio de diseño que más vamos a necesitar a medida que deleguemos en la IA tareas cada vez más próximas al juicio.

Porque la verdadera pregunta de esta década no es qué puede hacer la IA por nosotros. Esa ya la sabemos: casi todo. La pregunta difícil, la que decide qué clase de personas y qué clase de profesionales seremos dentro de diez años, es otra: ¿qué deberíamos seguir haciendo nosotros, aunque la máquina pudiera hacerlo?

Sokrates© es nuestra respuesta a esa pregunta. O, más fiel a su propio espíritu, es nuestra forma de devolverte la pregunta.

Durante siglos, el acceso al conocimiento fue el gran desafío de la humanidad. Quizá el desafío de nuestra época sea exactamente el contrario: seguir pensando por nosotros mismos cuando las respuestas están a un clic de distancia.

Porque una sociedad que delega todas sus respuestas en las máquinas corre el riesgo de olvidar cómo formular las preguntas que realmente importan.

¿Y si la inteligencia artificial que de verdad necesitamos no es la que mejor responde, sino la que sabe cuándo callarse para que pensemos nosotros?

Te leo.

Preguntas frecuentes

Es un agente de inteligencia artificial desarrollado dentro de SIMPLICITY LAB que utiliza la mayéutica socrática para acompañar el aprendizaje mediante preguntas en lugar de proporcionar respuestas inmediatas.

¿Qué es la Slow AI?

Slow AI es una filosofía de diseño de inteligencia artificial que distingue entre las tareas donde conviene eliminar fricción y aquellas donde la fricción es parte esencial del aprendizaje y del desarrollo del criterio.

¿Por qué una IA debería formular preguntas?

Porque el aprendizaje profundo no consiste únicamente en obtener respuestas correctas, sino en desarrollar la capacidad de razonar, contrastar hipótesis y construir conocimiento propio.

Mientras la mayoría de los sistemas están diseñados para maximizar la rapidez y la eficiencia, Sokrates© está diseñado para fortalecer el pensamiento crítico y el juicio mediante una interacción socrática.

Artículo firmado por Guillermo Taboada Martínez —CEO de EstratégicaMente y profesor en la Universidade da Coruña y de Beyond AI Finance & Business School—. Sokrates© forma parte de SIMPLICITY LAB, el laboratorio pedagógico de IA con criterio desarrollado para el profesorado universitario.