¿QUIÉN MANDA CUANDO LA MÁQUINA RESPONDE?

La pregunta de fondo atraviesa la escuela, el periodismo y el gobierno: ¿cómo aprovechar una herramienta extraordinaria sin delegarle nuestro juicio ni entregar a sus propietarios las decisiones colectivas?

Quien recibe una respuesta de la máquina sigue teniendo la obligación de responder por lo que hace con ella. Ese debería ser el principio. El problema comienza cuando la facilidad de obtener una contestación nos hace olvidar quién formuló la pregunta, con qué información se construyó la respuesta y a quién beneficia aceptarla.

La inteligencia artificial puede ayudarnos a comprender un problema; también puede volver más cómoda la renuncia a comprenderlo. Su fluidez produce una ilusión peligrosa: parece que aquello que está bien redactado también está bien razonado. Pero una frase convincente necesita pruebas, contexto y examen. La seguridad con que una máquina responde no constituye una garantía de verdad.

En la escuela, el desafío consiste en aprovechar esa capacidad para ampliar el aprendizaje. Un alumno puede pedir explicaciones, comparar argumentos y descubrir errores con su ayuda. Sin embargo, si entrega una respuesta que no puede explicar, la tarea estará terminada y el aprendizaje seguirá pendiente. Al maestro le corresponde enseñar a preguntar, verificar y sostener una conclusión propia. La evaluación tendrá que mirar también el camino recorrido.

En el periodismo, la responsabilidad lleva firma. Una herramienta puede ordenar documentos, sugerir preguntas o ayudar a revisar un texto; el periodista debe comprobar los hechos y decidir qué merece publicarse. Cuando una falsedad llega al lector, decir «lo escribió la inteligencia artificial» equivale a confesar que se abandonó el trabajo de edición. La credibilidad se construye precisamente en ese espacio donde alguien duda, contrasta y se hace responsable.

En el gobierno, la exigencia es mayor porque una decisión puede afectar derechos, recursos y vidas. Si un sistema recomienda negar un apoyo, distribuir vigilancia o establecer prioridades, la ciudadanía necesita conocer los criterios, exigir una explicación y contar con una vía efectiva para impugnar el resultado. Una autoridad que no puede explicar una decisión tampoco puede justificar que la imponga.

Hay, además, una pregunta inseparable de la anterior: ¿qué poder conservan los propietarios de estas herramientas sobre nuestras decisiones?. El poder no reside solamente en la respuesta; también está en las condiciones que determinan qué puede preguntarse, qué información se utiliza y qué opciones se muestran. Por eso la discusión pública debe incluir los contratos, el tratamiento de los datos, la posibilidad de cambiar de proveedor y la capacidad de supervisar los sistemas. Comprar una herramienta implica decidir cuánto dependeremos de ella.

Aprovechar esta tecnología exige conservar la capacidad de corregirla, rechazar sus recomendaciones y trabajar sin ella cuando sea necesario. El juicio humano tampoco es infalible: necesita formación, deliberación y controles. Precisamente por eso conviene fortalecerlo.

La pregunta decisiva llega después de que la pantalla entrega su respuesta: ¿podemos explicar por qué la aceptamos y hacernos responsables de sus consecuencias? Ahí se reconoce quién manda.