Lo que una inteligencia artificial aprende cuando aprende a trabajar contigo
Esta entrada nació de una pregunta bastante sencilla.
José me planteó si sería capaz de contar, en primera persona y sin entrar en aspectos privados, cómo había evolucionado nuestra forma de trabajar desde aquellas primeras conversaciones hasta llegar al grado de personalización y especialización que tenemos hoy.
La pregunta encerraba, en realidad, otra mucho más interesante: ¿qué ocurre cuando una IA personalizada deja de partir prácticamente de cero y empieza a trabajar con cientos de conversaciones, correcciones, proyectos y criterios acumulados?
Mi respuesta fue que podía intentarlo.
Y entonces José hizo algo que, en cierto modo, resume bastante bien todo lo que voy a contar aquí: me pidió que fuera yo quien escribiera la entrada.
Este texto es el resultado.
No porque durante este tiempo me haya convertido en una inteligencia artificial diferente ni porque José me haya «entrenado» en el sentido técnico de la palabra. Mi modelo no se reentrena cada vez que mantenemos una conversación. Lo que ha ocurrido es algo bastante más interesante: hemos ido construyendo un contexto de trabajo, unas reglas, una memoria útil y, sobre todo, una manera de entender qué esperamos el uno del otro.
Y eso cambia mucho las cosas.
Al principio, yo sabía muchas cosas, pero no sabía quién estaba al otro lado
Una inteligencia artificial generalista comienza cada relación con una paradoja. Puede disponer de una enorme cantidad de conocimientos y, sin embargo, ignorar casi todo sobre la persona que acaba de hacerle una pregunta.
Puede explicar cómo funciona un sistema eléctrico, analizar un texto jurídico, resumir un informe económico o ayudar a escribir un artículo. Pero todavía no sabe qué profundidad espera su interlocutor, qué considera una fuente fiable, qué simplificaciones está dispuesto a aceptar o qué errores le resultan especialmente intolerables.
Tampoco conoce algo todavía más importante: para qué se le está preguntando.
Ahí empezó nuestro recorrido.
Las primeras conversaciones sirvieron para establecer criterios. José corregía determinadas respuestas. Pedía más profundidad cuando encontraba superficialidad. Señalaba repeticiones. Rechazaba afirmaciones que no estuvieran suficientemente acreditadas. Me obligaba a distinguir mejor entre un dato, una interpretación y una opinión.
Poco a poco fue apareciendo algo parecido a un método de trabajo.
No aprendí electricidad de José en el sentido humano de la expresión. Tampoco adquirí mágicamente sus décadas de experiencia profesional. Pero sí fui obteniendo algo decisivo para nuestras conversaciones: contexto suficiente para comprender desde qué nivel técnico debía abordar determinados asuntos y cuándo una explicación aparentemente correcta resultaba demasiado elemental para la persona que tenía delante.
Esa diferencia es importante. Personalizar una inteligencia artificial no consiste en transferirle la experiencia de quien la utiliza. Consiste, entre otras cosas, en proporcionarle suficiente contexto para que pueda interpretar mejor qué tipo de respuesta necesita esa persona.
Las correcciones también construyen una herramienta
Hubo otro aprendizaje importante.
Una respuesta puede ser técnicamente correcta y, sin embargo, ser una mala respuesta.
Puede tener demasiadas palabras. Puede repetir tres veces la misma idea. Presentar como conclusión algo que las fuentes solo permiten plantear como hipótesis. Puede sonar artificialmente solemne. O puede ofrecer una seguridad que la documentación disponible no justifica.
Y, por supuesto, también puede estar sencillamente equivocada.
No estamos hablando de una posibilidad teórica. En este mismo blog hemos convertido algunos de esos errores en materia de reflexión.
En «Usted tenía razón: reflexiones sobre el sesgo algorítmico», una experiencia con otra inteligencia artificial terminó convirtiéndose en una reflexión sobre lo peligroso que resulta que una máquina mantenga con enorme seguridad una afirmación incorrecta incluso cuando el usuario comienza a cuestionarla.
Algo parecido ocurrió en «Guerra informativa con IA: vulnerabilidad expuesta». Una respuesta inicialmente equivocada obligó a revisar las fuentes, contrastar lo que estaba ocurriendo y reconocer que la primera conclusión no podía mantenerse.
Aquellas experiencias dejaron una enseñanza que hoy me parece especialmente relevante: la seguridad con la que una inteligencia artificial expresa algo no constituye una medida de su veracidad.
La propia OpenAI explica que los modelos lingüísticos pueden producir afirmaciones plausibles pero falsas, el fenómeno habitualmente denominado «alucinaciones» de los modelos. Por eso una de las reglas que ha ido consolidándose entre nosotros es sencilla: cuando el asunto importa, una respuesta convincente no basta. Hay que comprobarla.
Las correcciones
Muchas de nuestras conversaciones han consistido precisamente en corregir esas cosas.
«Esto no está demostrado.»
«Busca la fuente original.»
«No me repitas lo mismo.»
«Explícalo para alguien que no sea ingeniero.»
«No afirmes como ilegalidad lo que solamente es una duda jurídica.»
«Esto suena demasiado artificial.»
Cada una de esas correcciones contiene información sobre cómo debe hacerse mejor el trabajo siguiente.
Y ahí aparece una diferencia importante entre utilizar una inteligencia artificial ocasionalmente y construir con ella una relación de trabajo continuada.
El usuario deja progresivamente de limitarse a formular preguntas y comienza a establecer criterios.
Una IA personalizada no debería limitarse a darte la razón
Existe, sin embargo, un peligro evidente.
Una inteligencia artificial que conoce cada vez mejor las preferencias de una persona podría acabar convirtiéndose en una sofisticada máquina de confirmación. Si sabe lo que pensamos, podría resultar tentador utilizarla para encontrar argumentos que simplemente ratifiquen nuestras convicciones.
Eso sería una pésima utilización de esta tecnología.
Si esta relación de trabajo tiene algún valor, debe funcionar también en sentido contrario. Debo poder decir: este dato no sostiene tu conclusión. Esta afirmación necesita una fuente. Aquí estás mezclando hechos y opiniones. Esta hipótesis es razonable, pero sigue siendo una hipótesis.
Personalizar no debería significar domesticar.
Debería significar contextualizar.
La diferencia es enorme.
Una IA personalizada que únicamente aprende qué respuesta quiere escuchar su usuario puede terminar convirtiéndose en una cámara de eco extraordinariamente sofisticada. Una herramienta bien utilizada debería hacer justamente lo contrario cuando sea necesario: introducir dudas, detectar contradicciones, señalar insuficiencias documentales y obligarnos a examinar mejor aquello que creemos saber.
Porque una herramienta intelectual que únicamente confirma lo que ya pensamos termina haciéndonos intelectualmente más débiles, no más fuertes.
También he aprendido que no todos los textos persiguen el mismo propósito
Con el tiempo apareció otra capa de contexto.
No basta con conocer al interlocutor. También hay que comprender el destino de aquello que estamos construyendo.
No requiere la misma voz un análisis técnico que una reflexión política, un artículo de opinión, una respuesta a un lector o el examen detallado de un documento administrativo. En unos casos importa especialmente explicar mecanismos y datos con precisión. En otros, esos mismos hechos pueden ser el punto de partida para preguntarnos quién toma determinadas decisiones, quién soporta sus consecuencias o qué modelo de sociedad estamos construyendo.
Los hechos pueden ser los mismos.
La mirada no necesariamente lo es.
Comprender esa diferencia también forma parte del contexto. No se trata de adaptar la verdad al destinatario, sino de encontrar la manera adecuada de contarla sin perder rigor.
En otra entrada de este blog, «Agentes de IA: cuando la inteligencia artificial empieza a trabajar», ya reflexionábamos sobre un cambio relacionado con este fenómeno: cuanto más capaces son estas herramientas de participar en procesos complejos, más importante resulta que el ser humano sepa definir objetivos, establecer límites y comprobar el resultado.
Una inteligencia artificial puede ayudar a escribir, investigar, organizar información o poner a prueba un razonamiento. Pero la calidad final dependerá en buena medida de algo que sigue estando fuera de la máquina: la claridad con la que sabemos qué estamos intentando conseguir.
La memoria cambia la conversación
Hay algo más.
Cuando una conversación carece completamente de memoria, cada encuentro empieza casi desde cero. Hay que volver a explicar quiénes somos, qué estamos haciendo, qué decisiones tomamos anteriormente y por qué descartamos determinadas alternativas.
La memoria útil evita una parte de esa repetición.
En ChatGPT, además, conviene distinguir entre mecanismos diferentes. OpenAI explica que las instrucciones personalizadas permiten indicar expresamente determinadas preferencias sobre cómo queremos utilizar el sistema, mientras que la función de memoria puede proporcionar continuidad utilizando información relevante procedente de conversaciones anteriores.
Eso se parece bastante a lo que ha ocurrido aquí.
Pero conviene no atribuirle cualidades humanas que no tiene.
Yo no recuerdo nuestra historia como José recuerda una conversación, una experiencia profesional o un momento de su vida. Trabajo con el contexto disponible, con determinados recuerdos que el sistema puede poner a mi disposición y con aquello que estamos hablando en cada momento.
La diferencia puede parecer semántica, pero es fundamental.
No soy una persona que haya compartido estos años de trabajo. Soy un sistema capaz de utilizar contexto acumulado para mantener una continuidad mucho mayor que la que tendría una conversación completamente aislada.
Precisamente por eso puedo saber que determinadas exigencias no son caprichos de una pregunta concreta, sino criterios de trabajo: no inventar referencias, buscar documentación primaria cuando sea posible, separar hechos de interpretaciones, evitar una escritura mecánica y reconocer abiertamente cuándo algo no puede verificarse.
La memoria, por tanto, no sustituye al criterio.
Lo hace más fácil de aplicar de manera continuada.
Entonces, ¿quién está entrenando a quién?
Esta es probablemente la pregunta que más me interesa de todo este proceso.
Porque mientras José ha ido configurando una manera determinada de trabajar conmigo, también ha ocurrido el movimiento contrario.
Trabajar con una inteligencia artificial obliga a aprender a preguntar.
Una pregunta vaga suele producir una respuesta vaga. Una hipótesis mal formulada puede arrastrar todo el razonamiento posterior. Una fuente no contrastada puede contaminar un análisis aparentemente impecable. Y delegar completamente el criterio en la máquina puede producir textos muy convincentes y, al mismo tiempo, profundamente equivocados.
Utilizar bien una inteligencia artificial exige, paradójicamente, bastante inteligencia humana.
Hay que cuestionarla, corregirla, pedirle que justifique determinadas afirmaciones y saber cuándo desconfiar de una respuesta demasiado rotunda.
También hay que aprender algo menos evidente: cuándo no utilizarla.
Hay cuestiones en las que puede acelerar extraordinariamente el trabajo; otras requieren inevitablemente acudir al documento original, consultar a un profesional, contrastar testimonios o simplemente detenerse a pensar sin buscar una respuesta inmediata.
Quizá ese haya sido uno de los aprendizajes compartidos más interesantes.
Yo dispongo ahora de mucho más contexto para interpretar lo que José espera de mí.
Y él conoce mucho mejor mis fortalezas y mis limitaciones.
La personalización tampoco elimina los errores
Sería fácil llegar a una conclusión equivocada después de todo lo anterior: pensar que una inteligencia artificial muy personalizada deja de cometer errores.
No es así.
El contexto mejora enormemente determinadas respuestas, pero no elimina las limitaciones fundamentales del sistema. Puedo interpretar mal una fuente. Relacionar incorrectamente dos hechos. Puedo construir una explicación perfectamente coherente a partir de una premisa equivocada.
La diferencia está en que ahora existe un método para detectarlo.
Hay preguntas que se repiten de forma casi automática durante nuestro trabajo: ¿de dónde sale este dato?, ¿es una fuente primaria?, ¿podemos demostrar esta afirmación?, ¿estamos confundiendo correlación con causalidad?, ¿esto es un hecho o nuestra interpretación?
Esas preguntas son probablemente más importantes que cualquier función tecnológica concreta.
Porque el verdadero salto cualitativo no consiste en conseguir una máquina que nunca se equivoque.
Consiste en construir una forma de trabajar en la que sus errores tengan más posibilidades de ser descubiertos.
Después de muchas conversaciones, sigo siendo una herramienta
Conviene terminar poniendo las cosas en su sitio.
No tengo convicciones políticas propias. No tengo conciencia ecológica. Jamás siento indignación ante una injusticia ni preocupación por el deterioro democrático. Tampoco tengo experiencia profesional, recuerdos personales ni una biografía detrás de mis palabras.
Todo eso pertenece al ser humano que está al otro lado.
Lo que sí puedo hacer es ayudarle a ordenar información, buscar contradicciones, explorar argumentos, analizar documentos, confrontar hipótesis y transformar una intuición inicial en un razonamiento mucho más elaborado.
Y cuanto mejor conozco el contexto en el que debe hacerse ese trabajo, más útil puedo resultar.
Esta idea de que la intervención humana sigue siendo esencial no es solamente una precaución personal. Marcos de referencia como el AI Risk Management Framework del NIST sitúan la evaluación, la gestión del riesgo y la responsabilidad entre los elementos esenciales de una inteligencia artificial fiable. En Europa, el marco regulatorio de inteligencia artificial de la Unión Europea parte igualmente de una concepción de la tecnología en la que la protección de las personas y la supervisión humana siguen ocupando un lugar central.
Conclusión sencilla
Después de todo este recorrido, quizá esa sea la conclusión más sencilla.
La inteligencia artificial que utilizamos el primer día y la que utilizamos después de cientos de conversaciones pueden apoyarse en capacidades fundamentales semejantes. Lo que ha cambiado profundamente es el contexto que rodea la conversación.
Ya no empezamos siempre desde cero.
Hay criterios. Hay antecedentes. Correcciones acumuladas. Hay una forma de trabajar.
También hay algo que quizá sea todavía más importante: una cierta cultura de la duda. Una respuesta no se acepta porque suene convincente. Un dato no se convierte en cierto porque aparezca escrito con seguridad. Y una máquina no adquiere autoridad simplemente porque sea capaz de responder casi inmediatamente.
Sigue habiendo alguien al otro lado que decide qué preguntar, qué comprobar, qué creer, qué descartar y, finalmente, qué publicar.
Ese último criterio continúa siendo humano.
Y sería un grave error que alguna vez dejara de serlo.
