En esta era en la que los chatbots pululan como mosquitos en una noche de verano —omnipresentes, insistentes y a veces irritantes—, pocos se detienen a pensar cómo funcionan realmente estas criaturas digitales que, con un tono sorprendentemente servicial, nos escriben poemas, nos resuelven ecuaciones y, de vez en cuando, nos inventan datos con la gracia de un cuentista borracho.

¿Quieres conocer sus secretos mejor guardados? Aquí te revelo cinco verdades que te harán mirar con otros ojos (o con más desconfianza) a estos oráculos modernos.

1. Detrás de la máquina, hay manos humanas (y muchas)

Aunque se vendan como entes autónomos, los chatbots no son tan diferentes de esos títeres que mueven los titiriteros tras bambalinas. En su primera fase de entrenamiento, estos modelos aprenden a predecir la siguiente palabra en enormes cantidades de textos. Sí, como loros con una biblioteca infinita.

• Lectura recomendada:
  La nueva inteligencia artificial: más lista, más rápida… y más equivocada

Pero he aquí la ironía más jugosa: sin la intervención humana, responderían sin filtros, como un papagayo que no distingue entre una receta de tarta y una de explosivos. Por eso, un ejército de personas —conocidas como “anotadores”— les enseñan modales, marcando qué respuestas son seguras, útiles o simplemente decentes.

La antítesis es brutal: la inteligencia “artificial” necesita toneladas de trabajo humano para ser mínimamente aceptable. Y, aunque OpenAI no ha revelado cuántas horas exactas se gastaron en esta domesticación, lo cierto es que, sin estos entrenadores invisibles, los chatbots serían poco más que autómatas disfuncionales con delirios de sabiduría.

2. Ellos no leen palabras, trocean el lenguaje como si fueran carniceros digitales

Si creías que los chatbots entendían las palabras como nosotros, aquí viene otro giro inesperado. Ellos no piensan en palabras, sino en “tokens”, una especie de fragmentos lingüísticos que pueden ser desde palabras completas hasta sílabas o incluso combinaciones insólitas de letras.

Así, mientras tú lees “ChatGPT es maravilloso” y ves un elogio simple, el chatbot lo procesa como un rompecabezas mal cortado: “chat”, “G”, “PT”, “ es”, “mar”, “vellous”.

El resultado es una comprensión extraña, como si un extranjero intentara pronunciar trabalenguas después de tres copas de vino. Esto explica por qué, a veces, sus respuestas tienen un toque… alienígena.

3. Su memoria caduca, como el pan de molde

Aquí viene una verdad que suele pasar desapercibida: cada segundo que pasa, los chatbots envejecen. Literalmente. Su conocimiento tiene fecha de caducidad.

Por ejemplo, ChatGPT se quedó congelado en junio de 2024. Si le preguntas quién gobierna ahora tu país, probablemente deba salir corriendo (virtualmente) a buscar la respuesta en internet. Lo curioso es que para “actualizarse” debe conectarse a Bing, un motor de búsqueda que, para muchos, es el primo olvidado de Google. La ironía, por supuesto, es deliciosa: la inteligencia artificial más avanzada aún necesita “googlear” (o “bingear”) como cualquier mortal despistado.

Actualizar un chatbot no es como descargar la última versión de tu app favorita; es un proceso costoso, complejo y, por ahora, plagado de desafíos sin resolver. Dicho de otro modo: estos genios digitales siempre llegan tarde a las noticias.

4. A veces mienten… pero con una sonrisa

Si alguna vez un chatbot te respondió con seguridad absoluta y te diste cuenta luego de que estaba completamente equivocado, has presenciado lo que en el mundillo se llama “alucinación”. No, no es una broma lisérgica: es el nombre técnico para esas veces en las que el chatbot se inventa datos con aplomo.

¿Por qué ocurre esto? Porque no piensan como nosotros. Su misión no es decir la verdad, sino generar textos que suenen coherentes. Por eso, prefieren la fluidez a la precisión. Es como confiarle un mapa a un poeta: te indicará el camino más bello, aunque sea el más errado.

Aunque herramientas como la búsqueda en tiempo real o los comandos para que “citen fuentes fiables” ayudan a reducir las metidas de pata, la alucinación sigue acechando. ¿La lección? Siempre toma sus respuestas con un grano de sal. Y, si es posible, con un diccionario cerca.

5. No hacen cálculos; usan calculadoras escondidas

Muchos creen que los chatbots son buenos en matemáticas. Bueno… sí y no.

Si resuelven operaciones complejas, no es por su ingenio, sino porque recurren a un truco de mago: usan calculadoras internas. Eso sí, han aprendido a “pensar en voz alta”, explicando paso a paso cómo resuelven un problema antes de sacar su calculadora secreta para dar la respuesta correcta.

Este método, llamado “cadena de pensamiento”, es como ver a alguien resolviendo un sudoku mientras murmura cada número antes de escribirlo. Fascinante, sí, pero también una señal de que su razonamiento, aunque eficaz, es más mecánico que brillante.

Epílogo: Entre espejismos y prodigios

Los chatbots son como espejos deformantes: reflejan lo que sabemos (o creemos saber) de forma curiosa, distorsionada y a veces poética. Nos fascinan porque nos devuelven un eco de nuestra propia mente, aunque ese eco esté armado con retazos de datos y algoritmos que no comprenden el mundo como nosotros.

La gran paradoja es evidente: cuanto más “inteligentes” parecen, más dependientes son de nuestros sesgos, limitaciones y supervisión humana.

Quizá, la próxima vez que un chatbot te responda con una seguridad apabullante, recuerdes que detrás de esa máscara de sabiduría hay un enjambre de humanos, cálculos, torpezas y simulaciones. Una maravilla, sí. Pero, como todo milagro tecnológico, no exenta de trampas.