Qué es un LLM: cómo funcionan los grandes modelos de lenguaje

01¿Qué es un LLM? Definición breve

La pregunta qué es un LLM puede responderse del modo más sencillo así: un motor estadístico de completado de texto que ha aprendido los patrones del lenguaje leyendo miles de millones de frases. Cuando usted le escribe una pregunta, la ve como el comienzo de un texto y genera la continuación más adecuada palabra por palabra.

El adjetivo «grande» describe dos cosas: la cantidad de datos utilizados en el entrenamiento y el número de cifras ajustables dentro del modelo, es decir, de parámetros. Los parámetros son el equivalente numérico del conocimiento que el modelo aprende durante el entrenamiento.

Estos modelos no almacenan la información fila a fila como una base de datos. Aprenden el conocimiento comprimiéndolo en patrones. Por eso pueden escribir con mucha fluidez, pero a veces también generan información errónea con total seguridad.

02¿Qué es un token?

Los modelos de lenguaje no procesan el texto como letras ni como palabras, sino en fragmentos llamados tokens. Un token a veces es una palabra completa, a veces un sufijo y a veces un único signo de puntuación. En lenguas aglutinantes como el turco, una sola palabra suele dividirse en varios tokens.

El concepto de token aparece en la práctica en tres lugares. Los servicios de modelos suelen aplicar un cobro por token; la cantidad de texto que un modelo puede procesar de una vez se mide en tokens; y la velocidad de respuesta se expresa también en tokens generados por segundo.

• Analizar un contrato largo consume muchos más tokens que redactar un correo electrónico breve.
• El mismo contenido suele ocupar más tokens en turco que en inglés; téngalo en cuenta al calcular el coste.
• Las tablas, el código y los caracteres especiales también aumentan el número de tokens.

03¿Para qué sirve la arquitectura transformer?

Casi todos los modelos de lenguaje actuales se basan en una arquitectura de red neuronal llamada transformer. En el corazón de esta arquitectura está el mecanismo de atención (attention): al procesar una palabra, el modelo observa todas las demás palabras de la frase y calcula cuáles son más importantes para el significado.

Por ejemplo, en la frase «Se sentó en el banco del parque y luego fue al banco a abrir una cuenta», los distintos significados de las dos palabras «banco» se distinguen mirando las palabras que las rodean. Las arquitecturas antiguas leían el texto en orden y perdían estas relaciones en las frases largas; el transformer establece esos vínculos en paralelo.

Que pueda trabajar en paralelo hizo posible entrenar a gran escala con tarjetas gráficas (GPU). Detrás del rápido salto de los modelos de lenguaje está la combinación de esta arquitectura y el aumento de la potencia de cálculo.

04¿Cómo se entrena?

Un LLM suele entrenarse en varias fases. Cada fase moldea un aspecto distinto del modelo, y el asistente que ve el usuario final es la suma de todas ellas.

Preentrenamiento

El modelo aprende a predecir el siguiente token en amplias fuentes de texto, como libros, páginas web y repositorios de código. En esta fase adquiere la gramática, la cultura general y los patrones de razonamiento. Los datos de entrenamiento tienen una fecha de corte; el modelo no conoce por sí mismo los hechos posteriores a esa fecha.

Ajuste fino y retroalimentación

El modelo que sale del preentrenamiento es un buen completador de texto, pero no un asistente servicial. Métodos como el ajuste fino con ejemplos de preguntas y respuestas y el aprendizaje por refuerzo con retroalimentación humana hacen que el modelo siga las instrucciones y responda de forma segura y útil.

Generación de respuestas y temperatura

Una vez terminado el entrenamiento, el uso del modelo se denomina inferencia. En cada paso, el modelo calcula una lista de probabilidades para los posibles tokens y elige uno de ellos. El ajuste de temperatura (temperature) determina cuánta libertad tiene esa elección: un valor bajo produce respuestas más coherentes y repetibles; uno alto, respuestas más creativas pero menos predecibles.

Por eso obtiene una respuesta algo distinta cada vez que hace la misma pregunta. Para informes, clasificación y extracción de datos se prefiere una temperatura baja; para generar eslóganes e ideas, una más alta.

05Ventana de contexto y memoria

La ventana de contexto es la cantidad total de tokens que el modelo puede ver a la vez en una sola solicitud: su mensaje, la conversación anterior, los documentos que adjunte y la propia respuesta del modelo deben caber en esa ventana. Cuando la ventana se llena, la información más antigua queda fuera.

El modelo no tiene una memoria permanente; en cada solicitud se vuelve a enviar toda la conversación. Las funciones de memoria que ofrecen algunas aplicaciones son capas auxiliares que guardan aparte la información importante y la añaden a conversaciones posteriores.

Para grandes conjuntos de información que no caben en la ventana de contexto, como los documentos de una empresa, se emplean métodos que buscan y traen los fragmentos pertinentes. Este enfoque es la vía más habitual para obtener respuestas actualizadas y específicas de la organización sin reentrenar el modelo.

06¿Dónde se equivocan los LLM?

El objetivo de un modelo de lenguaje no es encontrar la verdad, sino generar la continuación más probable. Incluso sobre un tema que no conoce puede escribir una respuesta fluida; a esto se le llama alucinación. Una fuente inventada, un artículo de ley inexistente o una fecha errónea son errores de este tipo. Tratamos con detalle sus causas y los métodos para detectarlas en nuestro artículo sobre la alucinación de la inteligencia artificial.

• Información actual: no conoce los acontecimientos posteriores a la fecha de corte, salvo que se le dé acceso a internet.
• Cálculo: puede cometer errores en operaciones aritméticas largas; para un resultado exacto debe usarse una herramienta de cálculo.
• Citar fuentes: si se le pide, puede inventarse fuentes; hay que comprobar cada enlace y cada cita.
• Detalle local: puede tener un conocimiento débil de ciudades pequeñas, normativa local y sectores de nicho.

07Uso de los LLM en la empresa

Bien posicionados, los LLM liberan una cantidad considerable del tiempo de los equipos. La regla es sencilla: el modelo elabora el borrador y la persona decide. La redacción de textos, el resumen, la clasificación y la extracción de datos son los usos más eficientes.

En marketing se pueden obtener rápidamente ideas de campaña, variaciones de textos publicitarios y borradores de contenido; sin embargo, la voz de marca y la verificación de la exactitud son tarea del equipo de marketing digital. El contenido generado para ganar visibilidad en las búsquedas debe medirse con un proceso de SEO y analítica.

En el ámbito del software, los LLM pueden conectarse a los sistemas existentes mediante API: por ejemplo, para clasificar los mensajes entrantes de clientes, estandarizar descripciones de productos o resumir informes a partir de datos de pedidos. Este tipo de conexiones debe planificarse dentro de la integración e-commerce y de las soluciones de software sectoriales.

En nuestro artículo comparativa de ChatGPT, Claude y Gemini encontrará qué modelo destaca en cada tarea, y en nuestra guía sobre cómo escribir un prompt, las técnicas para redactar instrucciones y obtener mejores resultados.

08¿En qué fijarse al elegir un modelo?

No existe un único «mejor modelo»; se elige según el tipo de tarea. En la evaluación pesan tanto la calidad como el coste, la velocidad y la política de datos.