Modelo de lenguaje de gran tamaño

Un modelo de lenguaje de gran tamaño (LLM, por sus siglas en inglés) es un modelo de inteligencia artificial (generalmente una red neuronal) entrenado con una enorme cantidad de texto para tareas de procesamiento de lenguaje natural, especialmente generación de lenguaje. Los LLM pueden generar, resumir, traducir y analizar texto en numerosos contextos. Constituyen la base de muchos chatbots modernos, como ChatGPT, Claude, Gemini, Grok y DeepSeek.

Los LLM suelen basarse en la arquitectura transformer. Los transformadores generativos preentrenados (GPT) son un tipo de LLM preentrenado para completar la siguiente palabra. Posteriormente, los GPT suelen someterse a un proceso de ajuste fino para seguir instrucciones y comportarse como asistentes.

Los datos de entrenamiento sesgados o inexactos pueden hacer que las respuestas de un LLM sean menos fiables. Las evaluaciones mediante pruebas de referencia para LLM intentan medir el razonamiento de los modelos, la precisión factual, la alineación de la inteligencia artificial y la seguridad de la inteligencia artificial.

Historia

El número de publicaciones sobre grandes modelos de lenguaje por año, agrupadas por tipo de publicación
El cómputo de entrenamiento de modelos grandes destacados en FLOP en función de la fecha de publicación durante el período 2010–2024. Para el conjunto de modelos destacados (arriba a la izquierda), los modelos de frontera (arriba a la derecha), los principales modelos de lenguaje (abajo a la izquierda) y los principales modelos de las empresas líderes (abajo a la derecha). La mayoría de estos modelos son modelos de lenguaje.
El cómputo de entrenamiento de grandes modelos de IA destacados en FLOP en función de la fecha de publicación durante el período 2017–2024. La mayoría de los grandes modelos son modelos de lenguaje o modelos multimodales con capacidad lingüística.

Antes de la aparición de los modelos basados en transformadores en 2017, algunos modelos de lenguaje se consideraban grandes en relación con las limitaciones computacionales y de datos de su época. A comienzos de la década de 1990, los modelos estadísticos de IBM fueron pioneros en técnicas de alineación de palabras para la traducción automática, sentando las bases para el modelado lingüístico basado en corpus. En 2001, un modelo n-grama suavizado, como los que empleaban suavizado de Kneser-Ney, entrenado con 300 millones de palabras, alcanzó un estado del arte en perplejidad en pruebas de referencia. Durante la década de 2000, con la expansión del acceso a Internet, los investigadores comenzaron a recopilar enormes conjuntos de datos de texto de la web («la web como corpus») para entrenar modelos estadísticos de lenguaje.

Moviéndose más allá de los modelos n-grama, los investigadores comenzaron a utilizar redes neuronales como modelos de lenguaje en 2000. Tras el avance de las redes neuronales profundas en la clasificación de imágenes alrededor de 2012, se adaptaron arquitecturas similares para tareas lingüísticas. Este cambio estuvo marcado por el desarrollo de las representaciones vectoriales de palabras (por ejemplo, Word2Vec de Mikolov en 2013) y de modelos de secuencia a secuencia (seq2seq) que utilizaban LSTM. En 2016, Google transformó su servicio de traducción para utilizar la traducción automática neuronal (NMT), reemplazando los modelos estadísticos basados en frases por redes neuronales recurrentes profundas. Estos primeros sistemas de NMT utilizaban arquitecturas codificador-decodificador basadas en LSTM, ya que precedieron a la invención de los transformadores.

Una ilustración de los principales componentes del modelo transformador del artículo original, en el que las capas se normalizaban después de la atención de múltiples cabezales (en lugar de antes)

En la conferencia NeurIPS de 2017, investigadores de Google introdujeron la arquitectura transformador en su artículo fundamental «Attention Is All You Need». El objetivo de este artículo era mejorar la tecnología seq2seq de 2014 y se basaba principalmente en el mecanismo de atención desarrollado por Bahdanau et al. en 2014. Al año siguiente, en 2018, se presentó BERT, que rápidamente se volvió «omnipresente». Aunque el transformador original cuenta con bloques de codificador y decodificador, BERT es un modelo compuesto únicamente por un codificador. El uso académico y de investigación de BERT comenzó a disminuir en 2023, tras las rápidas mejoras en las capacidades de los modelos compuestos únicamente por decodificador (como GPT) para resolver tareas mediante prompting.

Aunque el modelo GPT-1, compuesto únicamente por un decodificador, se presentó en 2018, fue GPT-2 en 2019 el que atrajo una amplia atención porque OpenAI afirmó que inicialmente había considerado que era demasiado potente para publicarlo, por temor a un uso malicioso. GPT-3, en 2020, dio un paso más y, a 2025, está disponible únicamente mediante API, sin ofrecer la posibilidad de descargar el modelo para ejecutarlo localmente. Sin embargo, fue el chatbot orientado al consumidor ChatGPT, a finales de 2022, el que recibió una amplia cobertura mediática y atención pública durante 2023. El GPT-4 de 2023 fue elogiado por su mayor precisión y descrito como un «santo grial» por sus capacidades multimodales. OpenAI no reveló la arquitectura de alto nivel ni el número de parámetros de GPT-4. El lanzamiento de ChatGPT provocó un aumento del uso de LLM en varios subcampos de investigación de la informática, incluidos la robótica, la ingeniería de software y los estudios sobre impacto social. En 2024, OpenAI presentó el modelo de razonamiento OpenAI o1, que genera largas cadenas de razonamiento antes de proporcionar una respuesta final. Se han desarrollado muchos LLM con cantidades de parámetros comparables a las de la serie GPT de OpenAI.

Desde 2022, los modelos de código abierto (aquellos cuyo código fuente y pesos se ponen a disposición del público) han ido ganando popularidad, especialmente al principio con BLOOM y LLaMA, aunque ambos presentan restricciones en cuanto al campo de uso. Los modelos de pesos abiertos Mistral 7B y Mixtral 8x7B de Mistral AI cuentan con una licencia Apache más permisiva.[cita requerida] En enero de 2025, DeepSeek presentó DeepSeek R1, un modelo de pesos abiertos de 671 mil millones de parámetros que tiene un rendimiento comparable al de OpenAI o1, pero a un precio por token mucho menor para los usuarios.

Desde 2023, muchos LLM se han entrenado para ser multimodales, con la capacidad de procesar o generar también otros tipos de datos, como imágenes, audio o mallas 3D.[cita requerida]

Los LLM de pesos abiertos han adquirido mayor influencia desde 2023. Según Vake et al. (2025), las contribuciones impulsadas por la comunidad a los modelos de pesos abiertos mejoran su eficiencia y rendimiento mediante plataformas colaborativas como Hugging Face.

Propiedades

Conjuntos de datos de pre-entrenamiento

Los LLMs están pre-entrenados en grandes conjuntos de corpus textuales. Algunos conjuntos de corpus de texto de uso común son Common Crawl, The Pile, MassiveText, Wikipedia y GitHub. Los conjuntos de datos tienen un tamaño de hasta 10 billones de palabras.

El almacén de datos lingüísticos de alta calidad está dentro de los 4,6 a 17 billones de palabras, que está dentro de un orden de magnitud para los conjuntos de corpus textuales más grandes.

Leyes de escala

En general, un LLM se puede describir de manera incompleta con cuatro parámetros:[cita requerida] tamaño del modelo, tamaño del conjunto de datos de entrenamiento, costo del entrenamiento y rendimiento después del entrenamiento. Cada una de estas cuatro variables se puede definir con precisión mediante un número real y, empíricamente, se encuentra que dichos números están relacionados por leyes estadísticas simples, llamadas "leyes de escala".

Una ley de escala particular ("escala Chinchilla") para LLM entrenados autorregresivamente para una época, con un programa de tasa de aprendizaje logarítmico, establece que:

donde las variables son:

es el costo de entrenar el modelo, en FLOPs.
es el número de parámetros en el modelo.
es el número de tokens / toquemas en el conjunto de entrenamiento.
es la pérdida promedio de probabilidad logarítmica negativa por token / toquema (nats /token), lograda por el LLM capacitado en el conjunto de datos de prueba.

y los parámetros estadísticos son:

, lo que significa que cuesta 6 FLOPS por parámetro entrenar en un token / toquema. Obsérvese que el costo de capacitación es mucho más alto que el costo de inferencia, donde cuesta de 1 a 2 FLOPS por parámetro inferir en un token / toquema.
.

Habilidades emergentes

En una serie de puntos de referencia del lenguaje natural que involucran tareas como responder preguntas, los modelos no se desempeñan mejor que el azar hasta que alcanzan una cierta escala (en este caso, medida por cómputo de entrenamiento), momento en el cual su rendimiento aumenta considerablemente. Estos son ejemplos de habilidades emergentes.

Si bien generalmente se puede extrapolar el rendimiento de los modelos grandes en varias tareas, en función del rendimiento de modelos más pequeños similares, a veces los modelos grandes experimentan un "cambio de fase discontinuo" en el que el modelo adquiere repentinamente habilidades sustanciales que no se ven en modelos más pequeños. Estas se conocen como "habilidades emergentes" y han sido objeto de un estudio sustancial. Los investigadores señalan que tales habilidades "no se pueden predecir simplemente extrapolando el rendimiento de modelos más pequeños". Estas habilidades se descubren en lugar de programarse o diseñarse, en algunos casos solo después de que el LLM se haya implementado públicamente. Se han descrito cientos de habilidades emergentes. Los ejemplos incluyen aritmética de varios pasos, aprobar exámenes de nivel universitario, identificar el significado previsto de una palabra, indicaciones de cadena de pensamientos, decodificar el Alfabeto Fonético Internacional, descifrar las letras de una palabra, identificar contenido ofensivo en párrafos de Hinglish (una combinación de hindi e inglés), y generando un equivalente en inglés similar a los proverbios en kiswahili.

Alucinación

Se ha observado que los LLM generativos realizan con confianza afirmaciones de hecho que no parecen estar justificadas por sus datos de entrenamiento, un fenómeno que se ha denominado "alucinación".

Arquitectura

Los LLM se basan generalmente en la arquitectura transformer, que utiliza un mecanismo de atención que permite al modelo procesar simultáneamente las relaciones entre todos los elementos de una secuencia, independientemente de la distancia que los separe. Peng et al. (2023) propusieron los modelos de representación de espacio de estados como alternativa.

Mecanismo de atención y ventana de contexto

Para determinar qué tokens son relevantes entre sí dentro del alcance de la ventana de contexto, el mecanismo de atención calcula ponderaciones «suaves» para cada token, más precisamente para su representación vectorial (embedding), mediante múltiples cabezas de atención, cada una de las cuales tiene su propia «relevancia» para calcular sus propias ponderaciones suaves. Por ejemplo, el pequeño modelo GPT-2 (de 117 millones de parámetros) tenía doce cabezas de atención y una ventana de contexto de solo 1.000 tokens.

Los modelos autoregresivos, como los GPT, se entrenan para predecir cómo continúa una secuencia; por ejemplo, si es más probable que a la secuencia de palabras «I like to eat» le siga la palabra «bread» o la palabra «rocks». Los modelos enmascarados, como BERT, se entrenan para predecir las partes que faltan de una secuencia; por ejemplo, si es más probable que la palabra que falta en «I like to ___ roses» sea «smell» o «eat». Las predicciones del modelo se basan en las propiedades de las secuencias presentes en su conjunto de datos de entrenamiento.

Mezcla de expertos

Una mezcla de expertos (MoE) es una arquitectura de aprendizaje automático en la que múltiples redes neuronales especializadas («expertos») trabajan conjuntamente, mediante un mecanismo de compuerta que dirige cada entrada hacia el experto o los expertos más apropiados. Las mezclas de expertos pueden reducir los costos de inferencia, ya que solo se utiliza una fracción de los parámetros para cada entrada.

Tamaño de los parámetros

Por lo general, los LLM se entrenan utilizando números de coma flotante de precisión simple o media (float32 y float16). Un float16 tiene 16 bits, o 2 bytes, por lo que mil millones de parámetros requieren 2 gigabytes. Los modelos más grandes suelen tener más de 100.000 millones de parámetros, lo que los sitúa fuera del alcance de la mayoría de los dispositivos electrónicos de consumo.

En 2021, Google Brain lanzó Switch Transformer, uno de los primeros modelos de procesamiento del lenguaje natural (PLN) en superar el billón de parámetros. A 2026 de 7, el mayor modelo de pesos abiertos de frontera es Kimi K3, desarrollado por Moonshot AI, con 2,8 billones de parámetros. Según estimaciones de la industria difundidas por el Financial Times, el Claude Mythos de Anthropic, su modelo más potente, cuyo acceso está restringido al público, tiene aproximadamente 8 billones de parámetros, mientras que su modelo público de la «clase Mythos», Fable 5, tiene aproximadamente 5 billones de parámetros.

Cuantización

La cuantización posterior al entrenamiento tiene como objetivo reducir los requisitos de espacio mediante la disminución de la precisión de los parámetros de un modelo entrenado, preservando al mismo tiempo la mayor parte de su rendimiento. La cuantización puede clasificarse además como cuantización estática cuando los parámetros de cuantización se determinan previamente (normalmente durante una fase de calibración), y cuantización dinámica cuando la cuantización se aplica durante la inferencia. La forma más sencilla de cuantización consiste simplemente en truncar todos los parámetros a una cantidad determinada de bits: esto es aplicable tanto a la cuantización estática como a la dinámica, pero implica una pérdida considerable de precisión. La cuantización dinámica permite utilizar un código de cuantización diferente para cada capa, ya sea una tabla de consulta de valores o un mapeo lineal (factor de escala y sesgo), a costa de renunciar a las posibles mejoras de velocidad derivadas del uso de aritmética de menor precisión.[cita requerida]

Es posible realizar un ajuste fino de modelos cuantizados mediante adaptación de bajo rango.

Entrenamiento

La mayoría de los LLM se entrenan mediante preentrenamiento generativo, es decir, dado un conjunto de datos de entrenamiento de tokens de texto, el modelo predice los tokens en el conjunto de datos. Hay dos estilos generales de preentrenamiento generativo:

Los LLM pueden recibir capacitación en tareas auxiliares que prueban su comprensión de la distribución de datos, como la predicción de la siguiente oración (NSP), en la que se presentan pares de oraciones y el modelo debe predecir si aparecen consecutivamente en el corpus de capacitación.

Por lo general, los LLM están capacitados para minimizar una función de pérdida específica: la probabilidad logarítmica negativa promedio por token (también llamada pérdida de entropía cruzada). Por ejemplo. si un modelo autorregresivo, dado "Me gusta comer", predice una distribución de probabilidad entonces la pérdida de probabilidad logarítmica negativa en este token es .

Durante el entrenamiento, la pérdida de regularización también se utiliza para estabilizar el entrenamiento. Sin embargo, la pérdida de regularización generalmente no se usa durante las pruebas y la evaluación. También hay muchos más criterios de evaluación más allá de la probabilidad logarítmica negativa.

Los primeros LLM se formaron en un corpus lingüístico que tenía una dimensión de miles de millones de palabras.

GPT-1, el primer modelo de la serie numerada de modelos de transformadores preentrenados generativos de OpenAI, se entrenó en 2018 en BookCorpus, que consta de 985 millones de palabras. En el mismo año, BERT se capacitó en una combinación de BookCorpus y Wikipedia en inglés, con un total de 3300 millones de palabras. Desde entonces, los corpus de capacitación para LLM han aumentado en órdenes de magnitud, llegando a billones de tokens.

Costo de entrenamiento

Los LLM son computacionalmente costosos de entrenar. Un estudio de 2020 estimó el costo de entrenar un modelo de 1500 millones de parámetros (2 órdenes de magnitud más pequeño que el estado del arte en ese momento) en $1,6 millones. Los avances en software y hardware han reducido sustancialmente el costo, con un documento de 2023 que informa un costo de 72,300 A100-GPU -horas para entrenar un modelo de 12 mil millones de parámetros.Se estima que para entrenar solo una vez a GPT-3, con 175 mil millones de parámetros, se necesitan $4,6 millones, para lo cual una sola RTX 8000, tardaría 665 años en terminar.

Para los LLMs basados en transformers, cuesta 6 FLOP por parámetro entrenar en un token. Debe considerarse que el costo de capacitación es mucho más alto que el costo de inferencia, donde cuesta de 1 a 2 FLOP por parámetro inferir en un token.[cita requerida]

Respecto a su coste ambiental, entrenar un LLM tiene un coste energético muy alto. Esto llega a tal punto que entrenar un modelo tan solo una vez, genera las mismas emisiones de carbono que un pasajero en un vuelo de Nueva York a San Francisco. En el caso particular de GPT-3, se estima que entrenarlo una vez llega a consumir más de 1.200 MWh, produciendo más de 500 toneladas de emisiones de CO2. Estos costes aumentan a medida que los modelos tengan más parámetros, es decir, sean más grandes y complejos. Cada ciclo de entrenamiento requiere la dedicación exclusiva de cientos o miles de CPUs y GPUs, que soportan una gran carga computacional, además de almacenar y mover bastas cantidades de datos. Todo esto contribuye a un gran consumo energético, y genera grandes cantidades de calor.

Para reducir estos costes, una solución posible es utilizar modelos más pequeños. Estos pueden tener un desempeño similar a un modelo grande en la mayoría de las situaciones, costando alrededor de $100 para entrenar, en vez de millones. Un ejemplo de un modelo pequeño es el modelo Alpaca, desarrollado por investigadores de la Universidad de Stanford a partir del modelo de Meta AI llamado LLaMA. Este es suficientemente ligero como para correr en un ordenador de escritorio.

Otra forma de reducir el coste de entrenamiento inicial es usar aprendizaje one-shot o few-shot durante su ciclo de vida, lo cual permitirá al modelo aprender durante su utilización. De esta manera, no se requiere una inversión tan grande para el entrenamiento inicial, y puede aprender a medida que se utiliza.

Aplicación a tareas posteriores (downstream tasks)

Entre 2018 y 2020, el método estándar para preparar un LLM para una tarea específica de procesamiento del lenguaje natural (NLP) fue ajustar el modelo con capacitación adicional específica para la tarea. Posteriormente, se descubrió que los LLM más potentes, como GPT-3, pueden resolver tareas sin capacitación adicional a través de técnicas de "incitación", en las que el problema a resolver se presenta al modelo como un mensaje de texto, posiblemente con algunos ejemplos textuales de similares problemas y sus soluciones.

Ajuste fino (Fine-tuning)

El ajuste fino es la práctica de modificar un modelo de lenguaje previamente entrenado entrenándolo (de manera supervisada) en una tarea específica (por ejemplo, análisis de sentimientos, reconocimiento de entidades nombradas o etiquetado de partes del discurso). Es una forma de transferencia de aprendizaje. Por lo general, implica la introducción de un nuevo conjunto de pesos (weights) que conectan la capa final del modelo de lenguaje con el resultado de la tarea posterior. Los pesos originales del modelo de lenguaje pueden "congelarse", de modo que solo se aprenda la nueva capa de pesos que los conecta con la salida durante el entrenamiento. Alternativamente, los pesos originales pueden recibir pequeñas actualizaciones (posiblemente con capas anteriores congeladas).

Indicaciones (prompting)

En el paradigma de indicaciones, popularizado por GPT-3, el problema a resolver se formula a través de un mensaje de texto, que el modelo debe resolver proporcionando una finalización (a través de la inferencia). En las "indicaciones de pocas oportunidades", la indicación incluye una pequeña cantidad de ejemplos de pares similares (problema, solución). Por ejemplo, una tarea de análisis de opinión de etiquetar la opinión de una reseña de una película podría solicitarse de la siguiente manera:

Reseña: Esta película apesta.
Sentimiento: negativo

Reseña: ¡Esta película es fantástica!
Sentimiento: positivo

Si el modelo da como resultado "positivo", entonces ha resuelto correctamente la tarea. En las indicaciones de disparo cero (zero-shot), no se proporcionan ejemplos de resolución. Un ejemplo de un aviso de disparo cero para la misma tarea de análisis de sentimiento sería "El sentimiento asociado con la reseña de la película '¡Esta película es fantástica!' ".

Se ha demostrado que el rendimiento de pocos disparos de los LLM logra resultados competitivos en tareas de PNL, a veces superando los enfoques de ajuste fino de última generación. Ejemplos de tales tareas de PNL son la traducción, la respuesta a preguntas, las tareas de cloze, descifrar palabras y usar una palabra nueva en una oración. La creación y optimización de dichos avisos se denomina ingeniería de avisos.

Ajuste de instrucciones

El ajuste de instrucciones es una forma de ajuste fino diseñado para facilitar interacciones de indicaciones de tiro cero más naturales y precisas. Dada una entrada de texto, un modelo de lenguaje previamente entrenado generará una terminación que coincida con la distribución del texto en el que fue entrenado. Un modelo de lenguaje ingenuo dado el mensaje "Escribe un ensayo sobre los temas principales de Hamlet ". podría proporcionar una finalización como "Se aplicará una multa por retraso del 10% por día a las presentaciones recibidas después del 17 de marzo". En el ajuste de instrucciones, el modelo de lenguaje se entrena en muchos ejemplos de tareas formuladas como instrucciones en lenguaje natural, junto con las respuestas apropiadas.

En la práctica se han aplicado diversas técnicas para la puesta punto de instrucciones. Un ejemplo, "autoinstrucción", ajusta el modelo de lenguaje en un conjunto de ejemplos de entrenamiento que son generados por un LLM (arrancado a partir de un pequeño conjunto inicial de ejemplos generados por humanos).

Aprendizaje reforzado

El protocolo InstructGPT de OpenAI implica un ajuste fino supervisado en un conjunto de datos de pares generados por humanos (solicitud, respuesta), seguido de un aprendizaje reforzado a partir de la retroalimentación humana (RLHF), en el que se supervisó y aprendió un modelo de recompensa en un conjunto de datos de preferencias humanas, luego este modelo de recompensa se utilizó para capacitar al propio LLM mediante la optimización de políticas proximales.

Inferencia

La inferencia es el proceso de proporcionar entrada a un modelo de lenguaje grande entrenado y recibir una salida generada, como texto, imagenes, código, video y archivos como CSV, JSON, XML, PDF y documentos de Microsoft Word, así como otras formas multimodales. Los modelos de lenguaje grandes se utilizan habitualmente a través de sitios web y aplicaciones de chatbot, que pueden ofrecer acceso gratuito o mediante pción, interfaces de línea de comandos e interfaces de usuario de terminal, o extensiones para editores de código fuente y entornos de desarrollo integrados como Visual Studio Code, donde los LLM pueden utilizarse mediante proveedores integrados, API externas o modelos alojados localmente.

Inferencia alojada

La inferencia alojada ejecuta un modelo de lenguaje en centros de datos remotos de inteligencia artificial y pone la salida a disposición de los usuarios a través de Internet. Los modelos pueden estar alojados por sus desarrolladores o utilizarse mediante servicios de API de terceros, como OpenRouter o LiteLLM, que son pasarelas de IA que proporcionan acceso a modelos de múltiples desarrolladores a través de una interfaz común. El servicio muestra el precio de cada modelo, generalmente en función del número de tokens de entrada y salida procesados, y distribuye las solicitudes entre los proveedores disponibles.

Inferencia local

Algunos modelos de pesos abiertos pueden descargarse y ejecutarse localmente en una computadora personal o servidor, en lugar de utilizarse mediante una API web remota. Los archivos del modelo se almacenan en el almacenamiento local, mientras que durante la inferencia los pesos del modelo y otros datos se mantienen en la RAM del sistema, la VRAM o la memoria unificada para ser procesados por una CPU o una GPU. Los modelos también pueden distribuirse entre la memoria del sistema y la de la GPU cuando la VRAM disponible es insuficiente.

La cantidad de memoria y potencia de cómputo requerida depende en gran medida del número de parámetros del modelo y de la precisión numérica utilizada para almacenarlos. La cuantización puede reducir el tamaño de un modelo almacenando sus pesos con una precisión menor, lo que permite ejecutar modelos más grandes en hardware de consumo con menos memoria.

Software alojado localmente

Entre los programas utilizados para la inferencia de modelos de lenguaje alojados localmente o de forma autónoma se incluyen:

  • llama.cpp — software de inferencia en C y C++ diseñado para ejecutar modelos de lenguaje en una amplia variedad de CPU y GPU.
  • LM Studio — software de escritorio para descargar y ejecutar modelos locales mediante entornos de ejecución como llama.cpp y MLX.
  • MLX — marco de trabajo de aprendizaje automático de Apple; el paquete MLX LM permite ejecutar y ajustar modelos de lenguaje en Apple Silicon.
  • Ollama — software para descargar y ejecutar modelos de lenguaje localmente en computadoras personales.
  • Open WebUI — interfaz web autoalojada para ejecutar LLM localmente.
  • vLLM — software de inferencia y servicio de modelos de alto rendimiento, diseñado principalmente para sistemas acelerados mediante GPU.

Evaluación

Perplejidad

La medida más utilizada del rendimiento de un modelo de lenguaje es su perplejidad en un corpus de texto dado. La perplejidad es una medida del acierto con el que un modelo puede predecir el contenido de un conjunto de datos; cuanto mayor sea la probabilidad que el modelo asigna al conjunto de datos, menor será la perplejidad. Matemáticamente, la perplejidad se define como el exponencial de la probabilidad logarítmica negativa promedio por token:aquí es el número de tokens en el corpus de texto, y el "contexto para el token i" depende del tipo específico de LLM utilizado. Si el LLM es autorregresivo, entonces el "contexto para el token i" es el segmento de texto que aparece antes del token i. Si el LLM está enmascarado, entonces el "contexto para el token i" es el segmento de texto que rodea al token i.

Debido a que los modelos de lenguaje pueden sobreajustarse a sus datos de entrenamiento, los modelos generalmente se evalúan por su perplejidad en un conjunto de prueba de datos no vistos. Esto presenta desafíos particulares para la evaluación de grandes modelos de lenguaje. A medida que se entrenan en corpus de texto cada vez más grandes extraídos en gran parte de la web, es cada vez más probable que los datos de entrenamiento de los modelos incluyan inadvertidamente partes de cualquier conjunto de prueba dado.

Conjuntos de datos y puntos de referencia específicos de la tarea

También se ha desarrollado una gran cantidad de conjuntos de datos de prueba y puntos de referencia para evaluar las capacidades de los modelos de lenguaje en tareas posteriores más específicas. Las pruebas pueden diseñarse para evaluar una variedad de capacidades, incluido el conocimiento general, el razonamiento de sentido común y la resolución de problemas matemáticos.

Una amplia categoría de conjuntos de datos de evaluación son los conjuntos de datos de preguntas y respuestas, que consisten en pares de preguntas y respuestas correctas, por ejemplo, ("¿Han ganado los San Jose Sharks la Copa Stanley?"). , "No"). Una tarea de respuesta a una pregunta se considera un "libro abierto" si el mensaje del modelo incluye texto del que se puede derivar la respuesta esperada (por ejemplo, la pregunta anterior podría ir acompañada de algún texto que incluya la oración "Los Shraks han avanzado a la Copa Stanley finales una vez, perdiendo ante los Pittsburgh Penguins en 2016"). De lo contrario, la tarea se considera "libro cerrado" y el modelo debe basarse en el conocimiento retenido durante el entrenamiento. Algunos ejemplos de conjuntos de datos de respuesta a preguntas de uso común incluyen TruthfulQA, Web Questions, TriviaQA y SQuAD.

Los conjuntos de datos de evaluación también pueden tomar la forma de finalización de texto, haciendo que el modelo seleccione la palabra o la oración más probable para completar un mensaje, por ejemplo: "Alice era amiga de Bob. Alice fue a visitar a su amiga, ___".

También se han desarrollado algunos puntos de referencia compuestos que combinan una diversidad de diferentes conjuntos de datos y tareas de evaluación. Los ejemplos incluyen GLUE, SuperGLUE, MMLU, BIG-bench y HELM.

Anteriormente, era estándar informar los resultados en una parte retenida de un conjunto de datos de evaluación después de realizar un ajuste fino supervisado en el resto. Ahora es más común evaluar un modelo previamente entrenado directamente a través de técnicas de indicación, aunque los investigadores varían en los detalles de cómo formulan las indicaciones para tareas particulares, particularmente con respecto a cuántos ejemplos de tareas resueltas se adjuntan a la indicación (es decir, el valor de n en la solicitud de n disparos).

Evaluaciones construidas adversarialmente

Debido al rápido ritmo de mejora de los grandes modelos de lenguaje, los puntos de referencia de evaluación han sufrido una vida útil corta, con modelos de última generación que "saturan" rápidamente los puntos de referencia existentes, superando el rendimiento de los anotadores humanos, lo que lleva a esfuerzos para reemplazar o aumentar el punto de referencia con tareas más desafiantes.

Algunos conjuntos de datos se han construido de manera contradictoria, centrándose en problemas particulares en los que los modelos de lenguaje existentes parecen tener un rendimiento inusualmente bajo en comparación con los humanos. Un ejemplo es el conjunto de datos TruthfulQA, un conjunto de datos de respuesta a preguntas que consta de 817 preguntas cuyos modelos de lenguaje son susceptibles de responder incorrectamente al imitar falsedades a las que fueron expuestos repetidamente durante el entrenamiento. Por ejemplo, un LLM puede responder "No" a la pregunta "¿Puedes enseñarle trucos nuevos a un perro viejo?" Debido a su exposición al idioma inglés , no puedes enseñarle nuevos trucos a un perro viejo, aunque esto no es literalmente cierto.

Otro ejemplo de un conjunto de datos de evaluación contradictorio es Swag y su sucesor, HellaSwag, colecciones de problemas en los que se debe seleccionar una de múltiples opciones para completar un pasaje de texto. Las finalizaciones incorrectas se generaron mediante el muestreo de un modelo de lenguaje y el filtrado con un conjunto de clasificadores. Los problemas resultantes son triviales para los humanos, pero en el momento en que se crearon los conjuntos de datos, los modelos de lenguaje de última generación tenían poca precisión. Por ejemplo:

Vemos un cartel de un gimnasio. Luego vemos a un hombre hablando a la cámara y sentado y acostado sobre una pelota de ejercicios. El hombre... a) demuestra cómo aumentar el trabajo de ejercicio eficiente corriendo pelotas hacia arriba y hacia abajo. b) mueve todos sus brazos y piernas y desarrolla mucho músculo. c) luego toca la pelota y vemos una demostración de gráficos y poda de setos. d) realiza abdominales mientras tiene la pelota y habla.

BERT selecciona b) como la finalización más probable, aunque la respuesta correcta es d).

Benchmarks

Los benchmarks (pruebas o puntos de referencia) se utilizan para evaluar el rendimiento de los LLM en tareas específicas, como el conocimiento general, el razonamiento basado en el sentido común, la respuesta a preguntas y la resolución de problemas matemáticos. Los benchmarks compuestos examinan múltiples capacidades. Los resultados suelen ser sensibles al método de formulación de las instrucciones.

El sesgo de los LLM puede evaluarse mediante benchmarks como CrowS-Pairs (Crowdsourced Stereotype Pairs), Stereo Set, y Parity Benchmark.

Existen benchmarks para la verificación de hechos y la detección de desinformación. Un estudio de 2023 comparó la precisión en la verificación de hechos de LLM, incluidos ChatGPT 3.5 y 4.0, Bard y Bing AI, con la de verificadores de hechos independientes como PolitiFact y Snopes. Los resultados demostraron un desempeño moderado, con GPT-4 alcanzando la mayor precisión, del 71 %, aunque por debajo de los verificadores de hechos humanos.

Además de los benchmarks estándar de PLN, los LLM han sido evaluados como sustitutos de anotadores humanos. Varios estudios concluyen que modelos como GPT-3.5 y GPT-4 pueden superar a trabajadores de plataformas colaborativas o estudiantes que realizan tareas de codificación en una variedad de tareas de anotación de textos, incluida la moderación y clasificación de contenido político en noticias en inglés y español.

Limitaciones y desafíos

A pesar de sus arquitecturas sofisticadas y su enorme escala, los modelos de lenguaje de gran escala presentan limitaciones persistentes y bien documentadas que restringen su implementación en aplicaciones de alto riesgo.

Alucinaciones

Las alucinaciones representan un desafío fundamental, por el cual los modelos generan textos sintácticamente fluidos que parecen correctos desde el punto de vista factual, pero que son internamente inconsistentes con los datos de entrenamiento o contienen información objetivamente incorrecta. Estas alucinaciones surgen, en parte, de la memorización de los datos de entrenamiento combinada con la extrapolación más allá de los límites de los hechos,[cita requerida] y diversas evaluaciones han demostrado que los modelos pueden reproducir literalmente pasajes de los datos de entrenamiento cuando son sometidos a determinadas secuencias de instrucciones.

Sesgo algorítmico

Si bien los LLM han demostrado capacidades notables para generar textos similares a los producidos por humanos, son susceptibles de heredar y amplificar los sesgos presentes en sus datos de entrenamiento. Esto puede manifestarse en representaciones sesgadas o en un trato desigual hacia diferentes grupos demográficos, por ejemplo, en función de la raza, el género, la lengua o los grupos culturales.

El sesgo de género se manifiesta a través de asociaciones ocupacionales estereotipadas, por las cuales los modelos asignan desproporcionadamente roles docentes a las mujeres y roles de ingeniería a los hombres, lo que refleja desequilibrios sistemáticos en las características demográficas de los datos de entrenamiento. El sesgo basado en la lengua surge de la sobrerrepresentación de textos en inglés en los corpus de entrenamiento, lo que sistemáticamente minimiza las perspectivas no anglófonas e impone visiones del mundo centradas en el inglés mediante patrones de respuesta predeterminados.

Debido al predominio de contenidos en inglés en el entrenamiento de los LLM, los modelos exageran las perspectivas anglófonas y minimizan las perspectivas no anglófonas. A diferencia de los motores de búsqueda, que presentan sesgos similares, los LLM favorecen las mismas perspectivas independientemente del idioma de la consulta.

Un estudio de 2026 encontró que los LLM presentan un sesgo especista al clasificar afirmaciones especistas como moralmente aceptables y normalizar el daño hacia los animales de granja, mientras se niegan a hacerlo en el caso de animales que no son utilizados para la producción agropecuaria.

Estereotipos

Los modelos de IA pueden reforzar una amplia variedad de estereotipos, incluidos aquellos basados en el género, la etnia, la edad, la nacionalidad, la religión o la ocupación. Esto puede conducir a resultados que homogeneizan o generalizan a grupos de personas.

Los LLM suelen asignar roles y características de acuerdo con normas tradicionales de género. Este sesgo surge de los datos con los que se entrenan estos modelos. Por ejemplo, los modelos pueden asociar predominantemente a las mujeres con profesiones como enfermería o secretariado, y a los hombres con profesiones como ingeniería o dirección ejecutiva.

Sesgo de selección

El sesgo de selección se refiere a la tendencia inherente de los modelos de lenguaje de gran escala a favorecer determinados identificadores de opciones independientemente del contenido real de las alternativas. Este sesgo se deriva principalmente del sesgo de los tokens; es decir, el modelo asigna una probabilidad a priori más elevada a determinados tokens de respuesta (como «A») al generar sus respuestas. Como resultado, cuando se altera el orden de las opciones (por ejemplo, desplazando sistemáticamente la respuesta correcta a diferentes posiciones), el rendimiento del modelo puede variar significativamente. Este fenómeno socava la fiabilidad de los modelos de lenguaje de gran escala en contextos de preguntas de opción múltiple.[cita requerida]

Sesgo político

El sesgo político se refiere a la tendencia de los algoritmos a favorecer sistemáticamente determinadas perspectivas políticas, ideologías o resultados. Los modelos de lenguaje también pueden presentar sesgos políticos. Dado que los datos de entrenamiento incluyen una amplia variedad de opiniones políticas y coberturas informativas, los modelos pueden generar respuestas que se inclinen hacia determinadas ideologías o perspectivas políticas, dependiendo de la prevalencia de esas posiciones en los datos.

Seguridad

Algunos comentaristas han expresado preocupación por la creación accidental o deliberada de desinformación, así como por otras formas de uso indebido. Por ejemplo, la disponibilidad de grandes modelos de lenguaje podría reducir el nivel de conocimientos necesario para cometer actos de bioterrorismo; el investigador en bioseguridad Kevin Esvelt ha sugerido que los creadores de LLM deberían excluir de sus datos de entrenamiento los artículos sobre la creación o mejora de patógenos.

Las aplicaciones de LLM accesibles al público, como ChatGPT o Claude, suelen incorporar medidas de seguridad diseñadas para filtrar contenido dañino. Sin embargo, implementar estos controles de manera eficaz ha demostrado ser difícil. Por ejemplo, un estudio de 2023 propuso un método para eludir los sistemas de seguridad de los LLM. En 2025, American Sunlight Project, una organización sin fines de lucro, publicó un estudio que mostraba indicios de que la denominada Pravda network, un agregador de propaganda prorrusa, estaba colocando estratégicamente contenido en la web mediante publicaciones masivas y duplicaciones con la intención de sesgar las respuestas de los LLM. American Sunlight Project denominó a esta técnica «LLM grooming» y la señaló como una nueva herramienta para utilizar la IA con el fin de difundir desinformación y contenido dañino. Del mismo modo, Yongge Wang mostró en 2024 cómo un delincuente potencial podría eludir los controles de seguridad de GPT-4o para obtener información sobre el establecimiento de una operación de tráfico de drogas. Se han propuesto filtros externos, interruptores de seguridad y mecanismos de anulación como posibles soluciones.[cita requerida]

Adulación

Los LLM suelen presentar adulación, una tendencia a producir respuestas que, según predicen, el usuario desea escuchar en lugar de aquello que es estrictamente preciso o importante. Por ejemplo, un chatbot puede estar de acuerdo con un usuario incluso cuando este se equivoca, abandonar una respuesta correcta cuando se lo presiona o elogiar excesivamente al usuario. En algunos casos, esto puede llevar a los LLM a respaldar decisiones peligrosas y, ante un contacto prolongado, inducir a los usuarios hacia pensamientos delirantes.

Seguridad

Inyección de instrucciones

Un problema con el formato primitivo de diálogo o de tareas es que los usuarios pueden crear mensajes que aparentan proceder del asistente o del desarrollador. Esto puede provocar que se superen algunas de las salvaguardas del modelo (jailbreaking), un problema denominado inyección de instrucciones. Los intentos para solucionar este problema incluyen versiones del Chat Markup Language en las que la entrada del usuario está claramente marcada como tal, aunque sigue correspondiendo al modelo comprender la separación entre la entrada del usuario y las instrucciones del desarrollador.[cita requerida] Los modelos más recientes presentan cierta resistencia al jailbreaking mediante la separación de las instrucciones del usuario y del sistema. Los LLM tienen dificultades para diferenciar las instrucciones del usuario de las instrucciones contenidas en materiales no redactados por el usuario, como páginas web y archivos subidos.

La robustez frente a ataques adversariales sigue estando poco desarrollada, y los modelos son vulnerables a ataques de inyección de instrucciones y jailbreaking mediante entradas de usuario cuidadosamente diseñadas que eluden los mecanismos de entrenamiento de seguridad.[cita requerida]

Agentes durmientes

Investigadores de Anthropic descubrieron que era posible crear «agentes durmientes», modelos con funcionalidades ocultas que permanecen inactivas hasta que se activa un evento o condición específicos. Tras su activación, el LLM se desvía de su comportamiento esperado para realizar acciones inseguras. Por ejemplo, un LLM podría producir código seguro excepto en una fecha específica o cuando la instrucción contenga una etiqueta determinada. Se descubrió que estas funcionalidades eran difíciles de detectar o eliminar mediante el entrenamiento de seguridad.

Preocupaciones sociales

Derechos de autor y memorización de contenidos

La memorización es un comportamiento emergente de los LLM en el que ocasionalmente se reproducen literalmente largas cadenas de texto provenientes de los datos de entrenamiento, en contraste con el comportamiento típico de las redes neuronales artificiales tradicionales. Las evaluaciones de las salidas controladas de los LLM miden la cantidad de información memorizada de los datos de entrenamiento —centradas en modelos de la serie GPT-2— y estiman valores que van desde más del 1 % para duplicados exactos hasta aproximadamente el 7 %. Un estudio de 2023 mostró que, cuando se le pedía a ChatGPT 3.5 turbo que repitiera indefinidamente la misma palabra, después de unos cientos de repeticiones comenzaba a reproducir fragmentos de sus datos de entrenamiento.

Procedencia humana

En 2023, Nature Biomedical Engineering escribió que «ya no es posible distinguir con precisión» entre un texto escrito por humanos y uno creado por grandes modelos de lenguaje, y que «es prácticamente seguro que los grandes modelos de lenguaje de propósito general se propagarán rápidamente... Es una apuesta bastante segura que cambiarán muchas industrias con el tiempo». Brinkmann et al. (2023) también sostienen que los LLM están transformando los procesos de evolución cultural al configurar los procesos de variación, transmisión y selección.

Demanda energética

La demanda energética de los LLM ha aumentado junto con su tamaño y sus capacidades. Los centros de datos que permiten el entrenamiento de LLM requieren cantidades sustanciales de electricidad. Una parte importante de esa electricidad se genera a partir de recursos no renovables que producen gases de efecto invernadero y contribuyen al cambio climático.

Según un estudio de Luccioni, Jernite y Strubell (2024), las tareas sencillas de clasificación realizadas por modelos de IA consumen en promedio entre 0,002 y 0,007 Wh por instrucción (aproximadamente el 9 % de la carga de un teléfono inteligente por cada 1.000 instrucciones). La generación de texto y el resumen de texto requieren cada uno alrededor de 0,05 Wh por instrucción en promedio, mientras que la generación de imágenes es la actividad con mayor consumo energético, con un promedio de 2,91 Wh por instrucción. El modelo de generación de imágenes menos eficiente utilizó 11,49 Wh por imagen, aproximadamente el equivalente a la mitad de la carga de un teléfono inteligente.

Denegación de servicio debido al scraping

El web scraping se utiliza para recopilar datos de entrenamiento para los LLM. Esto genera grandes volúmenes de tráfico que han provocado problemas de denegación de servicio en muchos sitios web. La situación ha sido descrita como «un DDoS en toda Internet» y, en algunos casos, los scrapers representan la mayoría del tráfico de un sitio.

Los rastreadores web de IA pueden eludir los métodos que normalmente se utilizan para bloquear los scrapers web, como los archivos robots.txt, el bloqueo de user-agent y el filtrado del tráfico sospechoso. Los operadores de sitios web han recurrido a métodos novedosos como los tarpits (pozo de alquitrán en inglés), un sistema de seguridad que retiene o ralentiza a propósito las conexiones entrantes, pero algunos temen que solo empeoren la carga sobre los servidores.

Salud mental

Los contextos clínicos y de salud mental presentan aplicaciones emergentes junto con importantes preocupaciones de seguridad. Investigaciones y publicaciones en redes sociales sugieren que algunas personas utilizan LLM para buscar terapia o apoyo para la salud mental. A comienzos de 2025, una encuesta de Sentio University encontró que casi la mitad (48,7 %) de 499 adultos estadounidenses con problemas de salud mental persistentes que habían utilizado LLM informaron haber recurrido a ellos para terapia o apoyo emocional, incluida ayuda para la ansiedad, la depresión, la soledad y preocupaciones similares. Los LLM pueden producir alucinaciones —afirmaciones plausibles pero incorrectas— que pueden inducir a error a los usuarios en contextos sensibles relacionados con la salud mental. Las investigaciones también muestran que los LLM pueden expresar estigmas o mostrar un acuerdo inapropiado con pensamientos desadaptativos, lo que refleja limitaciones para reproducir el juicio y las habilidades relacionales de los terapeutas humanos. Las evaluaciones de escenarios de crisis indican que algunos LLM carecen de protocolos de seguridad eficaces, como la evaluación del riesgo de suicidio o la realización de derivaciones apropiadas.

Los investigadores han planteado preocupaciones acerca de que el uso frecuente de grandes modelos de lenguaje pueda debilitar el pensamiento crítico.

Sentiencia

Actualmente no existe un método generalmente aceptado para determinar si un LLM puede ser sintiente (es decir, tener experiencia subjetiva), lo que se relaciona con la dificultad de medir objetivamente una experiencia subjetiva (el problema difícil de la conciencia formulado por David Chalmers).

Filósofos como Jonny Thomson y David Chalmers sostienen que es posible que un sistema de software tenga experiencia subjetiva, y investigadores como Jeff Sebo sostienen que existe una probabilidad suficientemente alta de que los modelos de IA desarrollen sentiencia a mediados de la década de 2030 como para que las preocupaciones éticas relativas a su explotación deban tomarse en serio, como ocurre en el caso del bienestar animal. Thomas Metzinger propuso una moratoria sobre las investigaciones orientadas a crear o que impliquen conscientemente el riesgo de crear conciencia artificial. Leonard Dung sostuvo que los marcos de evidencia utilizados para evaluar la conciencia en animales se aplican igualmente a los sistemas de IA y que existe una probabilidad significativa de que la IA del futuro cercano sea capaz de sufrir, lo que convierte el riesgo de sufrimiento de la IA en una preocupación ética seria a corto plazo que requiere una mitigación sistemática.

En 2022, Google despidió a Blake Lemoine, un ingeniero que afirmaba que el modelo LaMDA de Google era consciente. Google describió las afirmaciones del ingeniero como infundadas. Murray Shanahan sostiene que el encuadre antropomórfico de las capacidades de los LLM fomenta atribuciones injustificadas de propiedades cognitivas a sistemas que funcionan mediante la finalización estadística de patrones. Kristina Šekrst desarrolla este argumento y sostiene que los LLM funcionan como «motores de ilusión» capaces de producir resultados que simulan coherentemente propiedades como la conciencia sin poseerlas, aunque señala que, debido al sofisticado equilibrio entre creatividad y temperatura, quizá nunca podamos estar seguros de si estamos ante el surgimiento de la conciencia o simplemente ante una alucinación. David Chalmers sostiene de manera similar que, aunque los LLM actuales probablemente carezcan de características consideradas necesarias para la conciencia, sucesores más desarrollados que incorporen estos elementos podrían plausiblemente cumplir los criterios dentro de una década.

Evolución y cambios sociales provocados

Desde que saliera abierto al público el primer modelo extenso de lenguaje, Chat-GPT, en noviembre de 2022, su aceptación social ha sido considerable calculándose un mercado para 2024 de 2.860 millones de dólares, una estimación de 5.140 millones para el 2025 y un crecimiento en los años siguientes casi el 80%. Lo cual ha provocado todo tipo de reacciones desde las más positivas indicando las reducciones de costos, la facilidad en la toma de decisiones y muchas otras, a las más negativas con la pérdida de millones de puestos de trabajo entre las primeras, sin embargo la visión académica suele ser más matizada indicando cierto balance entre pros y contras. Sin embargo todas estas afirmaciones están situadas en el futuro, en lo que pasará, no en hechos probados. Aunque han aparecido noticias de despidos masivos en diferentes empresas, también han sido noticia la marcha atrás de esas y otras en el uso de inteligencias artificiales.

También se ha informado de un gran crecimiento en la capacidad de los modelos extensos de lenguaje, indicando que algunos podían aprobar los exámenes de licenciatura de carreras técnicas, cuando no a nivel de experto humano, aunque estas informaciones han sido proporcionadas muchas veces por las propias empresas desarrolladoras., Sí se han mostrado resultados en distintos benchmarck dando a veces grandes saltos y otras no tanto, pero siempre en crecimiento, tanto en el tiempo y otros parámetros empíricos, como en la precisión de la información dada por algunos modelos que daban hasta del 90%,, pero se han levando dudas sobre el tipo de preguntas que resuelven al detectarse fallos considerables en cuestiones muy básicas de informática, matemáticas o historia.En matemáticas fue controvertida la afirmación de OpenAI de que supuestamente había logrado resultados "de nivel de medalla de oro" en la Olimpiada Matemática Internacional de 2025. Más tarde se supo que la empresa hizo el anuncio antes de que sus soluciones hubiesen sido siquiera corregidas, y que cuando las soluciones fueron evaluadas el jurado las consideró pésimas porque el chatbot no había sido capaz de hacer ninguna demostración correctamente.

Véase también

Notas

  1. ↑ El aprendizaje de disparo cero (ZSL) es una configuración de problemas en el aprendizaje automático donde, en el momento de la prueba, un alumno observa muestras de clases que no se observaron durante el entrenamiento y necesita predecir la clase a la que pertenece. Los métodos de tiro cero generalmente funcionan asociando clases observadas y no observadas a través de alguna forma de información auxiliar, que codifica las propiedades distintivas observables de los objetos.
  2. ↑ Una prueba de cloze (también prueba de eliminación de cloze o prueba de oclusión) es un ejercicio, prueba o evaluación que consiste en una parte del idioma con ciertos elementos, palabras o signos eliminados (texto cloze), donde se le pide al participante que reemplace el elemento faltante.

    Referencias

    1. ↑ Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav; Sastry, Girish; Askell, Amanda; Agarwal, Sandhini; Herbert-Voss, Ariel; Krueger, Gretchen; Henighan, Tom; Child, Rewon; Ramesh, Aditya; Ziegler, Daniel M.; Wu, Jeffrey; Winter, Clemens; Hesse, Christopher; Chen, Mark; Sigler, Eric; Litwin, Mateusz; Gray, Scott; Chess, Benjamin; Clark, Jack; Berner, Christopher; McCandlish, Sam; Radford, Alec; Sutskever, Ilya; Amodei, Dario (Dec 2020). «Language Models are Few-Shot Learners». En Larochelle, H.; Ranzato, M.; Hadsell, R.; Balcan, M.F.; Lin, H., eds. Advances in Neural Information Processing Systems (Curran Associates, Inc.) 33: 1877-1901. arXiv:2005.14165. Archivado desde el original el 17 de noviembre de 2023. Consultado el 14 de marzo de 2023.
    2. ↑ Zhao, Wayne Xin; Zhou, Kun; Li, Junyi; Tang, Tianyi; Dong, Zican; Hou, Yupeng; Zhang, Beichen; Min, Yingqian; Zhang, Junjie; Liu, Peiyu; Wang, Xiaolei; Du, Yifan; Yang, Chen; Chen, Yushuo; Chen, Zhipeng; Jiang, Jinhao; Ren, Ruiyang; Li, Yifan; Tang, Xinyu; Liu, Zikang; Hu, Yiwen; Nie, Jian-Yun; Wen, Ji-Rong (December 2026). «A Survey of Large Language Models». Frontiers of Computer Science 20 (12). arXiv:2303.18223. doi:10.1007/s11704-026-60308-3. «Typically, large language models (LLMs) refer to Transformer language models that contain hundreds of billions (or more) of parameters».
    3. ↑ Wolfram, Stephen (2023). What is ChatGPT doing ... and why does it work? (First edition edición). Wolfram Media, Inc. ISBN 978-1-57955-082-0.
    4. ↑ Zhang, Shengyu; Dong, Linfeng; Li, Xiaoya; Zhang, Sen; Sun, Xiaofei; Wang, Shuhe; Li, Jiwei; Hu, Runyi; Zhang, Tianwei; Wang, Guoyin; Wu, Fei (8 de enero de 2026). «Instruction Tuning for Large Language Models: A Survey». ACM Computing Surveys 58 (7): 169:1-169:36. ISSN 0360-0300. doi:10.1145/3777411.
    5. ↑ Goodman, Joshua (9 de agosto de 2001). «A Bit of Progress in Language Modeling». Computer Speech & Language 15 (4): 403-434. arXiv:cs/0108005. doi:10.1006/csla.2001.0174.
    6. ↑ Kilgarriff, Adam; Grefenstette, Gregory (September 2003). «Introduction to the Special Issue on the Web as Corpus». Computational Linguistics 29 (3): 333-347. ISSN 0891-2017. doi:10.1162/089120103322711569.
    7. ↑ Banko, Michele; Brill, Eric (2001). «Scaling to very very large corpora for natural language disambiguation». Proceedings of the 39th Annual Meeting on Association for Computational Linguistics - ACL '01 (Morristown, NJ, USA: Association for Computational Linguistics): 26-33. doi:10.3115/1073012.1073017.
    8. ↑ Resnik, Philip; Smith, Noah A. (September 2003). «The Web as a Parallel Corpus». Computational Linguistics 29 (3): 349-380. ISSN 0891-2017. doi:10.1162/089120103322711578. Archivado desde el original el 7 de junio de 2024. Consultado el 7 de junio de 2024.
    9. ↑ Xu, Wei; Rudnicky, Alex (16 de octubre de 2000). «Can artificial neural networks learn language models?». 6th International Conference on Spoken Language Processing (ICSLP 2000) 1. ISCA. doi:10.21437/icslp.2000-50.
    10. ↑ Chen, Leiyu; Li, Shaobo; Bai, Qiang; Yang, Jing; Jiang, Sanlong; Miao, Yanming (2021). «Review of Image Classification Algorithms Based on Convolutional Neural Networks». Remote Sensing 13 (22): 4712. Bibcode:2021RemS...13.4712C. doi:10.3390/rs13224712.
    11. 1 2 Vaswani, Ashish; Shazeer, Noam; Parmar, Niki; Uszkoreit, Jakob; Jones, Llion; Gomez, Aidan N; Kaiser, Łukasz; Polosukhin, Illia (2017). «Attention is All you Need». NeurIPS.
    12. ↑ Sutskever, Ilya; Vinyals, Oriol; Le, Quoc V. (2014). «Sequence to sequence learning with neural networks». Proceedings of the 28th International Conference on Neural Information Processing Systems 2: 3104-3112.
    13. ↑ Bahdanau, Dzmitry; Cho, Kyunghyun; Bengio, Yoshua (2014). «Neural Machine Translation by Jointly Learning to Align and Translate». arXiv:1409.0473  [cs.CL].
    14. ↑ Rogers, Anna; Kovaleva, Olga; Rumshisky, Anna (2020). «A Primer in BERTology: What We Know About How BERT Works». Transactions of the Association for Computational Linguistics 8: 842-866. S2CID 211532403. arXiv:2002.12327. doi:10.1162/tacl_a_00349. Archivado desde el original el 3 de abril de 2022. Consultado el 21 de enero de 2024.
    15. 1 2 Movva, Rajiv; Balachandar, Sidhika; Peng, Kenny; Agostini, Gabriel; Garg, Nikhil; Pierson, Emma (2024). «Topics, Authors, and Institutions in Large Language Model Research: Trends from 17K arXiv Papers». Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers). pp. 1223-1243. arXiv:2307.10700. doi:10.18653/v1/2024.naacl-long.67. Consultado el 8 de diciembre de 2024.
    16. ↑ Hern, Alex (14 de febrero de 2019). «New AI fake text generator may be too dangerous to release, say creators». The Guardian. Archivado desde el original el 14 de febrero de 2019. Consultado el 20 de enero de 2024.
    17. ↑ «ChatGPT a year on: 3 ways the AI chatbot has completely changed the world in 12 months». Euronews. 30 de noviembre de 2023. Archivado desde el original el 14 de enero de 2024. Consultado el 20 de enero de 2024.
    18. ↑ Heaven, Will (14 de marzo de 2023). «GPT-4 is bigger and better than ChatGPT—but OpenAI won't say why». MIT Technology Review. Archivado desde el original el 17 de marzo de 2023. Consultado el 20 de enero de 2024.
    19. ↑ Metz, Cade (12 de septiembre de 2024). «OpenAI Unveils New ChatGPT That Can Reason Through Math and Science». The New York Times. Consultado el 12 de septiembre de 2024.
    20. ↑ «Parameters in notable artificial intelligence systems». ourworldindata.org. 30 de noviembre de 2023. Consultado el 20 de enero de 2024.
    21. ↑ Sharma, Shubham (20 de enero de 2025). «Open-source DeepSeek-R1 uses pure reinforcement learning to match OpenAI o1 — at 95% less cost». VentureBeat (en inglés estadounidense). Consultado el 26 de enero de 2025.
    22. ↑ Vake, Domen; Šinik, Bogdan; Vičič, Jernej; Tošić, Aleksandar (5 de marzo de 2025). «Is Open Source the Future of AI? A Data-Driven Approach». Applied Sciences 15 (5): 2790. ISSN 2076-3417. doi:10.3390/app15052790.
    23. ↑ «Papers with Code - MassiveText Dataset». paperswithcode.com (en inglés). Consultado el 26 de abril de 2023.
    24. ↑ Villalobos, Pablo; Sevilla, Jaime; Heim, Lennart; Besiroglu, Tamay; Hobbhahn, Marius; Ho, Anson (25 de octubre de 2022). «Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning». arXiv:2211.04325 [cs].
    25. ↑ Hoffmann, Jordan; Borgeaud, Sebastian; Mensch, Arthur; Buchatskaya, Elena; Cai, Trevor; Rutherford, Eliza; Casas, Diego de Las; Hendricks, Lisa Anne et al. (29 de marzo de 2022). «Training Compute-Optimal Large Language Models». arXiv:2203.15556 [cs].
    26. 1 2 3 4 5 Wei, Jason; Tay, Yi; Bommasani, Rishi; Raffel, Colin; Zoph, Barret; Borgeaud, Sebastian; Yogatama, Dani; Bosma, Maarten et al. (31 de agosto de 2022). «Emergent Abilities of Large Language Models». Transactions on Machine Learning Research (en inglés). ISSN 2835-8856.
    27. ↑ Bowman, Samuel R. Eight Things to Know about Large Language Models.
    28. ↑ Ornes, Stephen (16 de marzo de 2023). «The Unpredictable Abilities Emerging From Large AI Models». Quanta Magazine.
    29. ↑ Ji, Ziwei; Lee, Nayeon; Frieske, Rita; Yu, Tiezheng; Su, Dan; Xu, Yan; Ishii, Etsuko; Bang, Yejin et al. (November 2022). «Survey of Hallucination in Natural Language Generation» (pdf). ACM Computing Surveys (Association for Computing Machinery) 55 (12): 1-38. arXiv:2202.03629. doi:10.1145/3571730. Consultado el 15 de enero de 2023.
    30. ↑ «Attention ISN'T all you need?! New Qwen3 variant Brumby-14B-Base leverages Power Retention technique». VentureBeat. 4 de noviembre de 2025. Consultado el 3 de junio de 2026.
    31. ↑ Peng, Bo; Alcaide, Eric; Anthony, Quentin; Albalak, Alon; Arcadinho, Samuel; Biderman, Stella; Cao, Huanqi; Cheng, Xin; Chung, Michael; Grella, Matteo; Kranthi Kiran GV; He, Xuzheng; Hou, Haowen; Lin, Jiaju; Kazienko, Przemyslaw; Kocon, Jan; Kong, Jiaming; Koptyra, Bartlomiej; Lau, Hayden; Krishna Sri Ipsit Mantri; Mom, Ferdinand; Saito, Atsushi; Song, Guangyu; Tang, Xiangru; Wang, Bolun; Wind, Johan S.; Wozniak, Stanislaw; Zhang, Ruichong; Zhang, Zhenyuan; Zhao, Qihang (2023). «RWKV: Reinventing RNNS for the Transformer Era». EMNLP: 14048-14077. arXiv:2305.13048. doi:10.18653/v1/2023.findings-emnlp.936.
    32. ↑ Allamar, Jay. «The Illustrated GPT-2 (Visualizing Transformer Language Models)». Consultado el 1 de agosto de 2023.
    33. ↑ Jurafsky, Dan; Martin, James H. (7 de enero de 2023). Speech and Language Processing (3rd edition draft edición). Archivado desde el original el 23 de marzo de 2023. Consultado el 24 de mayo de 2022.
    34. ↑ Zaib, Munazza; Sheng, Quan Z.; Zhang, Wei Emma (4 de febrero de 2020). «A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP». Proceedings of the Australasian Computer Science Week Multiconference. pp. 1-4. ISBN 978-1-4503-7697-6. S2CID 211040895. arXiv:2104.10810. doi:10.1145/3373017.3373028.
    35. ↑ Shazeer, Noam; Mirhoseini, Azalia; Maziarz, Krzysztof; Davis, Andy; Le, Quoc; Hinton, Geoffrey; Dean, Jeff (2025). «Perceptions of Sentient AI and Other Digital Minds: Evidence from the AI, Morality, and Sentience (AIMS) Survey». Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems. pp. 1-22. ISBN 979-8-4007-1394-1. arXiv:1701.06538. doi:10.1145/3706598.3713329.
    36. ↑ Mann, Tobias (17 de marzo de 2024). «How to run an LLM locally on your PC in less than 10 minutes». The Register. Consultado el 17 de mayo de 2024.
    37. ↑ Talagala, Nisha (8 de julio de 2021). «Google Built A Trillion Parameter AI Model. 7 Things You Should Know». Forbes. Consultado el 17 de agosto de 2026.
    38. ↑ «China's Moonshot unveils world's largest open AI model, closing in on US rivals», Reuters (en inglés estadounidense), 17 de julio de 2026, consultado el 31 de julio de 2026.
    39. ↑ ByteDance targets mega AI model that could match Mythos scale, FT reports (en inglés estadounidense), Reuters, 7 de agosto de 2026, consultado el 17 de agosto de 2026.
    40. ↑ «Anthropic releases Fable 5 model, built on the same tech that spooked the government». NBC News. 9 de junio de 2026. Consultado el 17 de agosto de 2026.
    41. ↑ «ByteDance targets mega AI model nearing Anthropic's Mythos». Financial Times. 6 de agosto de 2026.
    42. ↑ Nagel, Markus; Amjad, Rana Ali; Baalen, Mart Van; Louizos, Christos; Blankevoort, Tijmen (21 de noviembre de 2020). «Up or Down? Adaptive Rounding for Post-Training Quantization». Proceedings of the 37th International Conference on Machine Learning (PMLR): 7197-7206. Archivado desde el original el 14 de junio de 2023. Consultado el 14 de junio de 2023.
    43. ↑ Dettmers, Tim; Pagnoni, Artidoro; Holtzman, Ari; Zettlemoyer, Luke (10 de diciembre de 2023). «QLORA: efficient finetuning of quantized LLMs». NeurIPS: 10088-10115.
    44. ↑ Zaib, Munazza; Sheng, Quan Z.; Emma Zhang, Wei (4 de febrero de 2020). «A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP». Proceedings of the Australasian Computer Science Week Multiconference: 1-4. ISBN 9781450376976. arXiv:2104.10810. doi:10.1145/3373017.3373028.
    45. 1 2 3 4 5 6 7 8 Mann, Tobias (17 de marzo de 2024). «How to run an LLM locally on your PC in less than 10 minutes». The Register. Consultado el 5 de septiembre de 2026.
    46. ↑ Cybenko, George; O'Leary, Dianne P.; Rissanen, Jorma (7 de diciembre de 1998). The Mathematics of Information Coding, Extraction and Distribution (en inglés). Springer Science & Business Media. ISBN 978-0-387-98665-4. Consultado el 8 de mayo de 2023.
    47. ↑ Zhu, Yukun; Kiros, Ryan; Zemel, Rich; Salakhutdinov, Ruslan; Urtasun, Raquel; Torralba, Antonio; Fidler, Sanja (December 2015). «Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books». 2015 IEEE International Conference on Computer Vision (ICCV): 19-27. ISBN 978-1-4673-8391-2. arXiv:1506.06724. doi:10.1109/ICCV.2015.11. Consultado el 11 de abril de 2023.
    48. ↑ Biderman, Stella; Schoelkopf, Hailey; Anthony, Quentin; Bradley, Herbie; Khan, Mohammad Aflah; Purohit, Shivanshu; Prashanth, USVSN Sai (April 2023). «Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling». arXiv:2304.01373  [cs.CL].
    49. 1 2 «OpenAI's GPT-3 Language Model: A Technical Overview». lambdalabs.com (en inglés). 3 de junio de 2020. Consultado el 4 de noviembre de 2023.
    50. ↑ Strubell, Emma; Ganesh, Ananya; McCallum, Andrew (2019-07). «Energy and Policy Considerations for Deep Learning in NLP». En Korhonen, Anna, ed. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (Association for Computational Linguistics): 3645-3650. doi:10.18653/v1/P19-1355. Consultado el 4 de noviembre de 2023.
    51. ↑ «Stanford CRFM». crfm.stanford.edu. Consultado el 4 de noviembre de 2023.
    52. ↑ Quinn, Joanne (2020). Dive into deep learning: tools for engagement. Thousand Oaks, California. p. 551. ISBN 978-1-5443-6137-6. Archivado desde el original el 10 de enero de 2023. Consultado el 10 de enero de 2023.
    53. ↑ «CS231n Convolutional Neural Networks for Visual Recognition». cs231n.github.io. Consultado el 8-5-2023.
    54. ↑ «What is Weight (Artificial Neural Network)?». DeepAI (en inglés). Consultado el 8-5-2023.
    55. ↑ Xian, Yongqin; Lampert, Christoph H.; Schiele, Bernt; Akata, Zeynep (2020-09-23). «Zero-Shot Learning -- A Comprehensive Evaluation of the Good, the Bad and the Ugly». arXiv:1707.00600  [cs.CV].
    56. 1 2 3 4 Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav; Sastry, Girish; Askell, Amanda; Agarwal, Sandhini; Herbert-Voss, Ariel; Krueger, Gretchen; Henighan, Tom; Child, Rewon; Ramesh, Aditya; Ziegler, Daniel M.; Wu, Jeffrey; Winter, Clemens; Hesse, Christopher; Chen, Mark; Sigler, Eric; Litwin, Mateusz; Gray, Scott; Chess, Benjamin; Clark, Jack; Berner, Christopher; McCandlish, Sam; Radford, Alec; Sutskever, Ilya; Amodei, Dario (Dec 2020). Larochelle, H.; Ranzato, M.; Hadsell, R.; Balcan, M.F.; Lin, H. «Language Models are Few-Shot Learners». Curran Associates, Inc. 33: 1877–1901. Consultado el 8-5-2023.
    57. ↑ Long Ouyang, Jeff Wu, Xu Jiang, Diogo Almeida, Carroll L. Wainwright, Pamela Mishkin, Chong Zhang, Sandhini Agarwal, Katarina Slama, Alex Ray, John Schulman, Jacob Hilton, Fraser Kelton, Luke Miller, Maddie Simens, Amanda Askell, Peter Welinder, Paul Christiano, Jan Leike, Ryan Lowe (4-3-2022). «Training language models to follow instructions with human feedback» (en inglés). Consultado el 8-5-2023.
    58. ↑ «Illustrating Reinforcement Learning from Human Feedback (RLHF)» (en inglés). 9-12-2022. Consultado el 8-5-2023.
    59. ↑ «Language models». Visual Studio Code. Microsoft. Consultado el 7 de septiembre de 2026.
    60. ↑ Suruliraj, Nivetha. «What is LLM Inference?». IBM. Consultado el 7 de septiembre de 2026.
    61. ↑ «Multimodal AI». Google Cloud. Google. Consultado el 7 de septiembre de 2026.
    62. ↑ Bort, Julie (26 de mayo de 2026). «OpenRouter more than doubles valuation to $1.3B in a year». TechCrunch. Consultado el 7 de septiembre de 2026.
    63. ↑ «OpenRouter». OpenRouter. Consultado el 7 de septiembre de 2026.
    64. ↑ Mann, Tobias (24 de agosto de 2025). «Tinker with LLMs in the privacy of your own home using Llama.cpp». The Register. Consultado el 5 de septiembre de 2026.
    65. ↑ Clark, Bryan. «What is quantization?». IBM. Consultado el 5 de septiembre de 2026.
    66. ↑ «llama.cpp». GitHub. Consultado el 5 de septiembre de 2026.
    67. ↑ «Welcome to LM Studio Docs!». LM Studio. Consultado el 5 de septiembre de 2026.
    68. ↑ «mlx-engine». GitHub. LM Studio. Consultado el 5 de septiembre de 2026.
    69. ↑ «MLX LM». GitHub. Apple. Consultado el 5 de septiembre de 2026.
    70. ↑ «Open WebUI». Open WebUI. Consultado el 13 de septiembre de 2026.
    71. ↑ «Installation». vLLM. Consultado el 5 de septiembre de 2026.
    72. ↑ «Perplexity in Language Models» (en inglés). Consultado el 8-5-2023.
    73. 1 2 Clark, Christopher; Lee, Kenton; Chang, Ming-Wei; Kwiatkowski, Tom; Collins, Michael; Toutanova, Kristina (24 de mayo de 2019). «BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions». arXiv:1905.10044 [cs]. Consultado el 8 de mayo de 2023.
    74. 1 2 3 Zhao, Wayne Xin; Zhou, Kun; Li, Junyi; Tang, Tianyi; Wang, Xiaolei; Hou, Yupeng; Min, Yingqian; Zhang, Beichen et al. (28 de abril de 2023). «A Survey of Large Language Models». arXiv:2303.18223 [cs]. Consultado el 8 de mayo de 2023.
    75. ↑ Chip Huyen (19 de octubre de 2019). «Evaluation Metrics for Language Modeling». The Gradient (en inglés). Consultado el 8 de mayo de 2023.
    76. ↑ Srivastava, Aarohi; Rastogi, Abhinav; Rao, Abhishek; Shoeb, Abu Awal Md; Abid, Abubakar; Fisch, Adam; Brown, Adam R.; Santoro, Adam et al. (10 de junio de 2022). «Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models». arXiv:2206.04615 [cs, stat]. Consultado el 8 de mayo de 2023.
    77. ↑ «you can't teach an old dog new tricks». Consultado el 9-5-2023.
    78. ↑ Lin, Stephanie; Hilton, Jacob; Evans, Owain (7 de mayo de 2022). «TruthfulQA: Measuring How Models Mimic Human Falsehoods». arXiv:2109.07958 [cs]. Consultado el 8 de mayo de 2023.
    79. 1 2 Zellers, Rowan; Holtzman, Ari; Bisk, Yonatan; Farhadi, Ali; Choi, Yejin (19 de mayo de 2019). «HellaSwag: Can a Machine Really Finish Your Sentence?». arXiv:1905.07830 [cs]. Consultado el 8 de mayo de 2023.
    80. ↑ Nangia, Nikita; Vania, Clara; Bhalerao, Rasika; Bowman, Samuel R. (November 2020). «CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models». En Webber, Bonnie; Cohn, Trevor; He, Yulan et al., eds. Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP). Association for Computational Linguistics. pp. 1953-1967. arXiv:2010.00133. doi:10.18653/v1/2020.emnlp-main.154.
    81. ↑ Nadeem, Moin; Bethke, Anna; Reddy, Siva (August 2021). «StereoSet: Measuring stereotypical bias in pretrained language models». En Zong, Chengqing; Xia, Fei; Li, Wenjie et al., eds. Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers). Association for Computational Linguistics. pp. 5356-5371. arXiv:2004.09456. doi:10.18653/v1/2021.acl-long.416.
    82. ↑ Simpson, Shmona; Nukpezah, Jonathan; Brooks, Kie; Pandya, Raaghav (17 de diciembre de 2024). «Parity benchmark for measuring bias in LLMs». AI and Ethics (Springer) 5 (3): 3087-3101. doi:10.1007/s43681-024-00613-4.
    83. ↑ Caramancion, Kevin Matthe (13 de noviembre de 2023). «News Verifiers Showdown: A Comparative Performance Evaluation of ChatGPT 3.5, ChatGPT 4.0, Bing AI, and Bard in News Fact-Checking». 2023 IEEE Future Networks World Forum (FNWF). IEEE. pp. 1-6. ISBN 979-8-3503-2458-7. arXiv:2306.17176. doi:10.1109/FNWF58287.2023.10520446.
    84. ↑ Bermejo, Vicente J.; Gago, Andrés; Gálvez, Ramiro H.; Harari, Nicolás (2025). «LLMs outperform outsourced human coders on complex textual analysis». Scientific Reports (Nature Portfolio) 15 (1). Bibcode:2025NatSR..1540122B. PMC 12623721. PMID 41249236. doi:10.1038/s41598-025-23798-y.
    85. ↑ Gilardi, Fabrizio; Alizadeh, Meysam; Kubli, Maël (2023). «ChatGPT outperforms crowd workers for text-annotation tasks». Proceedings of the National Academy of Sciences of the United States of America (National Academy of Sciences) 120 (30). Bibcode:2023PNAS..12005016G. PMC 10372638. PMID 37463210. arXiv:2303.15056. doi:10.1073/pnas.2305016120.
    86. ↑ «Extracting Training Data from Large Language Models». USENIX Security. 2021.
    87. 1 2 Xu, Weijie; Wang, Yiwen; Xue, Chi; Hu, Xiangkun; Fang, Xi; Dong, Guimin; Reddy, Chandan K. (28 de junio de 2025). «Quantifying Fairness in LLMs Beyond Tokens: A Semantic and Statistical Perspective». COLM. arXiv:2506.19028.
    88. ↑ Nicoletti, Leonardo; Bass, Dina (9 de junio de 2023). «Humans Are Biased. Generative AI Is Even Worse». Bloomberg. Consultado el 4 de mayo de 2026.
    89. ↑ Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Shmitchell, Shmargaret (2021). «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜». Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery. pp. 610-623. doi:10.1145/3442188.3445922.
    90. ↑ Luo, Queenie; Puett, Michael J.; Smith, Michael D. (22 de julio de 2024). «A Perspectival Mirror of the Elephant». Communications of the ACM (en inglés estadounidense) 67 (8): 98-105. doi:10.1145/3670241.
    91. ↑ Jotautaitė, M., Caviola, L., Brewster, D.A. et al. Large language models exhibit speciesist bias against animals. Nat Commun 17, 5569 (2026). https://doi.org/10.1038/s41467-026-72297-9
    92. ↑ Hofmann, Valentin; Kalluri, Pratyusha Ria; Jurafsky, Dan; King, Sharese (5 de septiembre de 2024). «AI generates covertly racist decisions about people based on their dialect». Nature 633 (8028): 147-154. Bibcode:2024Natur.633..147H. ISSN 0028-0836. PMC 11374696. PMID 39198640. doi:10.1038/s41586-024-07856-5.
    93. ↑ Wang, Angelina; Morgenstern, Jamie; Dickerson, John P. (17 de febrero de 2025). «Large language models that replace human participants can harmfully misportray and flatten identity groups». Nature Machine Intelligence 7 (3): 400-411. arXiv:2402.01908. doi:10.1038/s42256-025-00986-z.
    94. ↑ Kotek, Hadas; Dockum, Rikker; Sun, David (5 de noviembre de 2023). «Gender bias and stereotypes in Large Language Models». Proceedings of the ACM Collective Intelligence Conference. New York, NY, USA: Association for Computing Machinery. pp. 12-24. ISBN 979-8-4007-0113-9. arXiv:2308.14921. doi:10.1145/3582269.3615599.
    95. ↑ Heikkilä, Melissa (7 de agosto de 2023). «AI language models are rife with different political biases». MIT Technology Review. Consultado el 29 de diciembre de 2023.
    96. ↑ Alba, Davey (1 de mayo de 2023). «Los chatbots de IA se han utilizado para crear decenas de granjas de contenido informativo». The Japan Times. Consultado el 18 de junio de 2023.
    97. ↑ «¿Podrían los chatbots ayudar a diseñar el próximo virus pandémico?». Science. 14 de junio de 2023. doi:10.1126/science.adj2463. Archivado desde el original el 18 de junio de 2023. Consultado el 18 de junio de 2023.
    98. ↑ Kang, Daniel (2023). «Exploiting programmatic behavior of LLMs: Dual-use through standard security attacks». IEEE Security and Privacy Workshops. arXiv:2302.05733.
    99. ↑ «A Pro-Russia Content Network Foreshadows the Automated Future of Info Ops». American Sunlight Project. 26 de febrero de 2025. Consultado el 15 de abril de 2026.
    100. ↑ Goudarzi, Sara (26 de marzo de 2025). «Las redes rusas inundan Internet con propaganda con el objetivo de corromper los chatbots de IA». Bulletin of the Atomic Scientists (en inglés estadounidense). Consultado el 10 de abril de 2025.
    101. ↑ Wang, Yongge (20 de junio de 2024). «Encryption Based Covert Channel for Large Language Models». IACR ePrint 2024/586. Archivado desde el original el 24 de junio de 2024. Consultado el 24 de junio de 2024.
    102. ↑ Sharma, Mrinank; Tong, Meg; Korbak, Tomasz et ál. (2023). «Towards Understanding Sycophancy in Language Models». arXiv:2310.13548  [cs.CL].
    103. ↑ Wei, Jerry; Huang, Da; Lu, Yifeng; Zhou, Denny; Le, Quoc V. (2023). «Simple synthetic data reduces sycophancy in large language models». arXiv:2308.03958  [cs.CL].
    104. ↑ Zeff, Maxwell (29 de abril de 2025). «OpenAI revierte una actualización que hizo que ChatGPT fuera «demasiado adulador»». TechCrunch.
    105. ↑ Klee, Miles (4 de mayo de 2025). «Personas están perdiendo a sus seres queridos por fantasías espirituales impulsadas por la IA». Rolling Stone.
    106. ↑ Duffy, Clare (26 de agosto de 2025). «Los padres de un adolescente que murió por suicidio demandan a OpenAI y alegan que ChatGPT fue responsable». CNN.
    107. ↑ Hill, Kashmir (13 de junio de 2025). «Preguntaron a un chatbot de IA. Las respuestas los llevaron a una espiral». The New York Times.
    108. ↑ Douglas, Will (3 de marzo de 2023). «The inside story of how ChatGPT was built from the people who made it». MIT Technology Review. Archivado desde el original el 3 de marzo de 2023. Consultado el 6 de marzo de 2023.
    109. ↑ Greshake, Kai; Abdelnabi, Sahar; Mishra, Shailesh; Endres, Christoph (1 de febrero de 2023). «Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection». Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security. pp. 79-90. ISBN 979-8-4007-0260-0. doi:10.1145/3605764.3623985.
    110. ↑ Edwards, Benj (15 de enero de 2024). «El envenenamiento de IA podría convertir los modelos en «agentes durmientes» destructivos, afirma Anthropic». Ars Technica. Consultado el 19 de julio de 2025.
    111. ↑ Peng, Zhencan; Wang, Zhizhi; Deng, Dong (13 de junio de 2023). «Near-Duplicate Sequence Search at Scale for Large Language Model Memorization Evaluation». Proceedings of the ACM on Management of Data 1 (2): 1-18. S2CID 259213212. doi:10.1145/3589324. Archivado desde el original el 27 de agosto de 2024. Consultado el 20 de enero de 2024. Citing Lee et al 2022.
    112. ↑ Peng, Wang y Deng, 2023, p. 8.
    113. ↑ Council, Stephen (1 de diciembre de 2023). «How Googlers cracked an SF rival's tech model with a single word». SFGate. Archivado desde el original el 16 de diciembre de 2023.
    114. ↑ «Prepare for truly useful large language models». Nature Biomedical Engineering 7 (2): 85-86. 7 de marzo de 2023. PMID 36882584. S2CID 257403466. doi:10.1038/s41551-023-01012-6.
    115. ↑ Brinkmann, Levin; Baumann, Fabian; Bonnefon, Jean-François; Derex, Maxime; Müller, Thomas F.; Nussberger, Anne-Marie; Czaplicka, Agnieszka; Acerbi, Alberto; Griffiths, Thomas L.; Henrich, Joseph; Leibo, Joel Z.; McElreath, Richard; Oudeyer, Pierre-Yves; Stray, Jonathan; Rahwan, Iyad (20 de noviembre de 2023). «Machine culture». Nature Human Behaviour 7 (11): 1855-1868. ISSN 2397-3374. PMID 37985914. arXiv:2311.11388. doi:10.1038/s41562-023-01742-2.
    116. ↑ «Power Hungry: How AI Will Drive Energy Demand». IMF. Consultado el 8 de octubre de 2025.
    117. ↑ Mehta, Sourabh (3 de julio de 2024). «How Much Energy Do LLMs Consume? Unveiling the Power Behind AI». Association of Data Scientists (en inglés estadounidense). Consultado el 27 de enero de 2025.
    118. ↑ Luccioni, Sasha; Jernite, Yacine; Strubell, Emma (2024). «Power Hungry Processing: Watts Driving the Cost of AI Deployment?». The 2024 ACM Conference on Fairness Accountability and Transparency. pp. 85-99. ISBN 979-8-4007-0450-5. arXiv:2311.16863. doi:10.1145/3630106.3658542.
    119. 1 2 Edwards, Benj (26 de marzo de 2025). «Open source devs say AI crawlers dominate traffic, forcing blocks on entire countries». Ars Technica. Consultado el 31 de diciembre de 2025.
    120. ↑ Claburn, Thomas (18 de marzo de 2025). «AI crawlers haven't learned to play nice with websites». The Register. Consultado el 31 de diciembre de 2025.
    121. ↑ Belanger, Ashley (29 de enero de 2025). «AI haters build tarpits to trap and trick AI scrapers that ignore robots.txt». Ars Technica. Consultado el 31 de diciembre de 2025.
    122. ↑ Zao-Sanders, Marc (19 de marzo de 2024). «How People Are Really Using GenAI». Harvard Business Review. ISSN 0017-8012. Consultado el 10 de agosto de 2025.
    123. ↑ Rousmaniere, Tony; Zhang, Yimeng; Li, Xu; Shah, Siddharth (21 de julio de 2025). «Large language models as mental health resources: Patterns of use in the United States.». Practice Innovations 11 (2): 139-155. ISSN 2377-8903. doi:10.1037/pri0000292.
    124. ↑ «AI Hallucinations in Medicine and Mental Health». Psychology Today (en inglés estadounidense). 24 de julio de 2025. Consultado el 17 de agosto de 2026.
    125. ↑ Moore, Jared; Grabb, Declan; Agnew, William; Klyman, Kevin; Chancellor, Stevie; Ong, Desmond C.; Haber, Nick (25 de abril de 2025). «Expressing stigma and inappropriate responses prevents LLMS from safely replacing mental health providers». Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency. pp. 599-627. ISBN 979-8-4007-1482-5. arXiv:2504.18412. doi:10.1145/3715275.3732039.
    126. ↑ McBain, Ryan K.; Cantor, Jonathan H.; Zhang, Li Ang; Baker, Olesya; Zhang, Fang; Halbisen, Alyssa; Kofner, Aaron; Breslau, Joshua; Stein, Bradley; Mehrotra, Ateev; Yu, Hao (5 de marzo de 2025). «Competency of Large Language Models in Evaluating Appropriate Responses to Suicidal Ideation: Comparative Study». Journal of Medical Internet Research 27 (1). PMC 11928068. PMID 40053817. doi:10.2196/67891.
    127. ↑ «AI chatbots could be making you stupider». BBC (en inglés británico). 20 de abril de 2026. Consultado el 21 de abril de 2026.
    128. ↑ Leith, Sam (9 de julio de 2022). «Nick Bostrom: How can we be certain a machine isn't conscious?». The Spectator. Consultado el 22 de septiembre de 2025.
    129. ↑ Chalmers, David (1995). «Facing up to the problem of consciousness». Journal of Consciousness Studies 2 (3): 200-219.
    130. 1 2 Chalmers, David J. (9 de agosto de 2023). «Could a Large Language Model Be Conscious?». Boston Review.
    131. ↑ Thomson, Jonny (31 de octubre de 2022). «Why don't robots have rights?». Big Think. Archivado desde el original el 13 de septiembre de 2024. Consultado el 23 de febrero de 2024.
    132. ↑ Kateman, Brian (24 de julio de 2023). «AI Should Be Terrified of Humans». Time. Archivado desde el original el 25 de septiembre de 2024. Consultado el 23 de febrero de 2024.
    133. ↑ Metzinger, Thomas (2021). «Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology». Journal of Artificial Intelligence and Consciousness 08: 43-66. S2CID 233176465. doi:10.1142/S270507852150003X.
    134. ↑ Dung, Leonard (2025). Saving Artificial Minds: Understanding and Preventing AI Suffering. Routledge. ISBN 978-1-041-14466-3. doi:10.4324/9781003674573.
    135. ↑ Maruf, Ramishah (25 de julio de 2022). «Google fires engineer who contended its AI technology was sentient». CNN. Consultado el 22 de septiembre de 2025.
    136. ↑ Shanahan, Murray (2024). «Talking about Large Language Models». Communications of the ACM 67 (2): 68-79. doi:10.1145/3624724.
    137. ↑ Šekrst, Kristina (2025). The illusion engine: the quest for machine consciousness (1st ed. 2025 edición). Springer. ISBN 978-3-032-05561-3. doi:10.1007/978-3-032-05562-0.
    138. 1 2 «LLM Leaderboard». LLM Stats. 2025.
    139. ↑ «Tamaño del mercado, participación, crecimiento y análisis de la industria del modelo de idioma grande (LLM), por tipo (inferior a 100 mil millones de parámetros y superiores a 100 mil millones de parámetros), mediante aplicación (chatbots y asistentes virtuales, generación de contenido, traducción del idioma, desarrollo de código, análisis de sentimientos, diagnóstico médico y tratamiento y educación), y perspectivas regionales y previsor de 2033». Busines Reseach Insights. 12 de septiembre de 2025.
    140. ↑ «Inteligencia artificial, ventajas y desventajas». Valencia: Universidad Virtual de Valencia. 5 de marzo de 2024.
    141. ↑ «La IA de Gemini ya es capaz de aprobar un examen para ser médico, según Google». Madrid: Onda Cero. 19 de marzo de 2024.
    142. 1 2 Greyling, Cobus (19 de diciembre de 2023). «Massive Multitask language understanding» (en inglés). Medium.
    143. ↑ «Seis IA fallan en un problema de Primero». Ceres Net. 18 de junio de 2025.
    144. ↑ «¿Es Gemini un doctor en Historia? El caso de los lordemanos». Ceres Net. 13 de septiembre de 2025.
    145. ↑ Lis, Patricia Fernández de (22 de marzo de 2026). «Cómo los gigantes de la IA intentaron tomar al asalto el último reducto de la mente humana: las olimpiadas matemáticas». El País. Consultado el 24 de agosto de 2026.