Grand modèle de langage

Type	Type de modèle d'intelligence artificielle (d), modèle de langage
Nom court	(en) LLM
Décrit par	Large Language Models (d)
Aspect de	Intelligence artificielle

Un grand modèle de langage, grand modèle linguistique, grand modèle de langue^,, modèle de langage de grande taille ou encore modèle massif de langage (abrégé LLM de l'anglais large language model) est un modèle de langage possédant un nombre élevé de paramètres.

Ce type de modèle repose sur des réseaux de neurones profonds entraînés par apprentissage auto-supervisé à partir d'une grande quantité de textes. Les grands modèles de langage sont apparus vers 2017 et ont été utilisés pour la mise en œuvre d'agents conversationnels. Ils constituent également le socle technique des moteurs de recherche génératifs, qui synthétisent directement une réponse en langage naturel à partir de multiples sources plutôt que d'afficher une liste de liens.

Au lieu d'être entraînés pour une tâche spécifique comme l'analyse des sentiments, la reconnaissance d'entités nommées ou le raisonnement mathématique, ils peuvent accomplir un large éventail de tâches. Ils sont d'abord « pré-entraînés » à prédire une suite probable pour une entrée donnée. Cela leur permet d'acquérir une grande quantité de connaissances. La qualité du contenu généré semble augmenter régulièrement avec le nombre de paramètres, la taille et la qualité des données d'entraînement, ainsi que la quantité de calculs utilisée pour entraîner le modèle. Le réglage fin (fine-tuning) peut ensuite adapter ces modèles à des tâches particulières, notamment au dialogue. Les méthodes d'alignement visent notamment à améliorer l'utilité, l'exactitude et la sécurité des réponses.

Avant le succès des grands modèles de langage, l'attention des chercheurs en traitement automatique des langues était principalement focalisée sur l'apprentissage supervisé de modèles spécialisés pour des tâches spécifiques.

Architecture

Un modèle de langage reçoit typiquement en entrée des données séquentielles de longueur variable. Pendant longtemps, l'architecture utilisée préférentiellement pour ce genre de données était celle dite de réseaux de neurones récurrents. Cette architecture présentait comme inconvénient majeur de mal se prêter à la parallélisation des calculs nécessaires à l'entrainement.

En 2017, Ashish Vaswani et ses coauteurs présentent le transformeur, une architecture fondée sur un mécanisme d'attention. Elle traite les éléments d'une séquence sans recourir à la récurrence, ce qui facilite la parallélisation des calculs d'entraînement.

Le transformeur est utilisé dans de nombreux grands modèles de langage. Des travaux portent également sur d'autres architectures et sur des variantes du mécanisme d'attention^,^,^,.

Analyse lexicale

Les LLM sont des fonctions mathématiques dont l'entrée et la sortie sont des listes de nombres. Pour que ceux-ci fonctionnent avec des mots, une conversion est nécessaire.

Cette conversion est ce qu'on appelle l'analyse lexicale. L'analyseur lexical est une fonction bijective qui établit une correspondance entre des textes et des listes de nombres entiers. Il est généralement d'abord adapté à l'ensemble complet des données d'entraînement, puis gelé, avant que le modèle de langage ne soit entraîné. Un choix courant est le codage par paires d'octets.

Une autre fonction des analyseurs lexicaux est la compression de texte, qui épargne du temps de calcul. Des mots ou expressions courants tels que « où est » peuvent être encodés dans une seule unité lexicale (ou jeton, token en anglais), au lieu d'être encodés par six caractères. La série de modèles GPT d'OpenAI utilise un analyseur lexical où une unité lexicale correspond à environ quatre caractères, soit environ 0,75 mot dans un texte anglais courant. Un texte anglais peu courant est moins prévisible, donc moins compressible, nécessitant ainsi plus de jetons pour être encodé.

Un analyseur lexical convertit une suite de caractères en un nombre entier dans un ensemble fini de valeurs, ensemble dont la taille est appelée la taille de vocabulaire.

Certains sont capables de gérer des textes arbitraires en opérant généralement directement sur Unicode, mais d'autres non. Lorsqu'il rencontre du texte non encodable, un analyseur lexical génère une unité lexicale spéciale (par exemple 0) qui représente un « texte inconnu ». Ceci est souvent écrit comme [UNK], comme dans l'article du modèle BERT.

Une autre unité lexicale spéciale couramment utilisée est [PAD] (souvent 1), pour « padding ». Ceci est utilisé car les LLM sont généralement utilisés sur différents lots de texte à la fois, et ces textes ne sont pas codés à la même longueur. Étant donné que les LLM exigent généralement que l'entrée soit un tableau de taille fixe, les textes les plus courts doivent être complétés.

Sortie

La sortie d'un LLM est un vecteur $y\in \mathbb {R} ^{V}$ où $V$ est la taille du lexique produit lors de l'analyse lexicale. Le vecteur $y$ est ensuite passé par une fonction softmax pour obtenir $\mathrm {softmax} (y)$ ;

le vecteur $y$ est généralement appelé le vecteur logit non normalisé ;
le vecteur $\mathrm {softmax} (y)$ est appelé le vecteur de probabilité.

Puisque le vecteur $\mathrm {softmax} (y)$ a $V$ entrées, toutes non négatives, et dont la somme est égale à 1, on peut l'interpréter comme une distribution de probabilité sur le vocabulaire du LLM (indexé par $\{0,1,2,...,V-1\}$ ).

Pré-entraînement

La plupart des LLM commencent leur apprentissage par un pré-entraînement génératif, c'est-à-dire qu'à partir d'un ensemble de données d'entraînement de jetons de texte, le modèle prédit les jetons dans l'ensemble de données. Il existe deux styles généraux de pré-entrainement pour la génération :

autorégressif (comme le fait GPT, la prédiction des mots suivants) : en partant d'un segment de texte comme « J'aime manger », le modèle prédit les jetons suivants, comme « de la mousse au chocolat » ou « des fruits » ;
masqué (de type BERT » ou « texte à trous ») : en partant d'un segment de texte comme « J'aime [__] [__] fruits », le modèle prédit les jetons masqués, comme « manger des ».

Les LLM peuvent être entraînés sur des tâches auxiliaires qui testent leur compréhension de la distribution des données, telles que la prédiction de la phrase suivante (NSP), dans laquelle des paires de phrases sont présentées et le modèle doit prédire si elles apparaissent consécutivement dans le corpus d'entraînement.

Habituellement, les LLM sont entraînés pour minimiser une fonction de perte spécifique : la log-vraisemblance négative moyenne par jeton (également appelée perte d'entropie croisée).^{[réf. nécessaire]}

Par exemple, si étant donné « j'aime manger », un modèle autorégressif prédit une distribution de probabilité $Pr(\cdot |{\text{J'aime manger}})$ alors la perte de vraisemblance logarithmique négative sur ce jeton est $-\log Pr({\text{des}}|{\text{J'aime manger}})$ .

Pendant l'entraînement, la perte de régularisation est également utilisée pour stabiliser l'entraînement. Cependant, celle-ci n'est que peu utilisée pendant les tests et l'évaluation. Il y existe beaucoup d'autres critères d'évaluation que la simple vraisemblance logarithmique négative, comme le décrit la section ci-dessous.

Taille de l'ensemble de données

Les premiers LLM ont été entraînés sur des corpus contenant des milliards de mots.

GPT-1, le premier modèle de la série de transformeurs génératifs pré-entraînés d'OpenAI, est entraîné en 2018 sur BookCorpus, composé de 985 millions de mots. La même année, le modèle BERT de Google est entraîné sur une combinaison de BookCorpus et de Wikipedia anglais, totalisant 3,3 milliards de mots. Depuis, les corpus d'entraînement pour les LLM ont augmenté de plusieurs ordres de grandeur ; le modèle LLaMA 3 de META, sorti en avril 2024, utilise 15 billions de jetons.

Coût

L'entraînement mobilise des ressources de calcul qui dépendent notamment du nombre de paramètres et du volume de données traitées. En 2023, l'étude consacrée à la suite de modèles Pythia rapporte 72 300 heures de calcul cumulées sur des processeurs graphiques A100 pour entraîner un modèle de 12 milliards de paramètres.

Pour un LLM basé sur l'architecture transformeur, le coût d'entraînement du modèle est beaucoup plus élevé que son coût d'inférence. L'entraînement sur un jeton coûte 6 FLOP par paramètre, alors que l'inférence sur un jeton coûte de 1 à 2 FLOP par paramètre.

Réglage après entraînement

Le réglage fin (fine-tuning), ou ajustement, est la pratique consistant à modifier un modèle de langage pré-entraîné existant en l'entraînant (souvent de manière supervisée) sur une tâche spécifique (par exemple, l'analyse des sentiments, la reconnaissance d'entités nommées ou le marquage d'une partie du discours). C'est une forme d'apprentissage par transfert qui permet de spécialiser le LLM.

Le réglage fin peut se faire de différentes façons, notamment :

en ajustant l'ensemble des paramètres du modèle sur les données de la tâche visée ;
en entraînant seulement une partie des paramètres (souvent une partie des couches). Les autres paramètres sont dits « gelés » ;
en ajoutant une ou plusieurs couches à la fin du modèle, avec de nouveaux paramètres ;
en ajoutant un « adaptateur », contenant ses propres paramètres. Ces méthodes (LoRA notamment) ajoutent souvent peu de paramètres à entraîner, nécessitant ainsi moins de ressources informatiques ;
en ajoutant automatiquement une série de tokens au début du prompt, optimisés automatiquement pour améliorer les performances sur la tâche visée (prompt tuning). Dans ce cas, le modèle lui-même est entièrement gelé et aucun de ses paramètres n'est entraîné, seul le prompt est ajusté. Lors de l'inférence, ces tokens seront également ajoutés automatiquement au début du prompt sans que l'utilisateur ne les voie. De façon similaire, cela peut aussi se faire en injectant des vecteurs plutôt que des tokens (prefix tuning).

Réglage par instructions

Le réglage par instructions (instruction fine-tuning en anglais) est une forme d'apprentissage supervisé visant à ce que le LLM réponde d'une certaine façon, par exemple en adoptant le rôle d'assistant. Étant donné un prompt en entrée, un modèle de langage pré-entraîné générera une complétion qui correspond à la distribution du texte sur laquelle il a été entraîné. En réponse au prompt « Écrire un essai sur les principaux thèmes de Hamlet. », un modèle de langage pré-entraîné pourrait produire : « Une pénalité de retard de 10 % par jour sera appliquée aux travaux reçus après le 17 mars ». Dans le réglage par instructions, le modèle de langage est entraîné sur de nombreux exemples de tâches formulées sous forme d'instructions en langage naturel, ainsi que des réponses appropriées. Les instructions et les réponses correspondantes attendues peuvent être soit écrites par des humains, soit générées automatiquement, par exemple avec la méthode self-instruct.

Apprentissage par renforcement

L'apprentissage par renforcement peut être utilisé après le pré-entraînement pour orienter les réponses d'un modèle selon des critères définis lors de l'entraînement.

Dans l'apprentissage par renforcement à partir de rétroaction humaine (RLHF), des annotateurs comparent ou classent plusieurs réponses à une même requête. Ces jugements servent à entraîner un modèle de récompense, dont les scores sont ensuite utilisés pour ajuster le modèle de langage.

La méthode de l'IA constitutionnelle, conçue par l'entreprise Anthropic, comporte une étape d'apprentissage par renforcement, en plus de celle des réglages par instructions. Le but est là aussi de générer un modèle de préférences permettant ensuite d'entraîner d'autres modèles. La différence est que les données servant à entraîner ce modèle de préférences ne sont pas annotées manuellement par des humains. Ces données sont générées automatiquement par un modèle en évaluant quelles réponses satisfont le mieux une constitution donnée, qui est une liste de principes de conduite.

Propriétés

Ensembles de données de pré-entraînement

Les LLM sont pré-entraînés sur de grands ensembles de données textuelles comme Common Crawl, The Pile, MassiveText, Wikipedia ou GitHub. Ces ensembles de données contiennent jusqu'à 10 000 milliards de mots.

Le stock de données linguistiques de haute qualité se situe entre 4,6 et 17 milliards de mots, soit un ordre de grandeur similaire à celui des plus grands ensembles de données textuelles disponibles.

Lois d'échelle

Dans les configurations étudiées, l'erreur de prédiction d'un réseau de neurones tend à diminuer lorsque l'on augmente^, :

sa taille (c'est-à-dire son nombre de paramètres)
la taille du jeu de données d'apprentissage
la quantité de calcul ayant servi à l'entraînement

Ces relations empiriques, souvent décrites par des lois de puissance, sont appelées « lois d'échelle » (scaling laws)^,. Par exemple, une loi de mise à l'échelle particulière (Chinchilla scaling) pour le LLM Chinchilla (en) entraîné de manière autorégressive (c'est-à-dire avec prédiction du mot suivant étant donné un segment de texte) pour une époque, avec un calendrier de taux d'apprentissage log-log, stipule que: ${\begin{cases}C=C_{0}ND\\L={\frac {A}{N^{\alpha }}}+{\frac {B}{D^{\beta }}}+L_{0}\end{cases}}$ où les variables sont :

$C$ est la quantité de calcul ayant servi à entraîner le modèle (mesurée en FLOP) ;
$N$ est le nombre de paramètres du modèle ;
$D$ est le nombre de jetons dans l'ensemble d'apprentissage ;
$L$ est la perte de log-vraisemblance négative moyenne par jeton (nats /jeton), qui représente les performances du LLM ;

et les paramètres statistiques sont :

$C_{0}=6$ , ce qui signifie qu'il en coûte 6 FLOP par paramètre pour s'entraîner sur un jeton ;
$\alpha =0.34,\beta =0.28,A=406.4,B=410.7,L_{0}=1.69$ .

Capacités émergentes

Dans une étude publiée en 2022, Jason Wei et ses coauteurs désignent comme « capacités émergentes » des aptitudes observées chez des modèles de grande taille mais absentes chez des modèles plus petits. Ils retiennent ce terme lorsque les résultats des petits modèles ne permettent pas de prévoir ceux des plus grands par extrapolation. Ces capacités sont découvertes plutôt que programmées ou conçues, dans certains cas seulement après le déploiement public du LLM. Cette interprétation est discutée. Rylan Schaeffer, Brando Miranda et Sanmi Koyejo montrent que le choix de certaines métriques peut faire apparaître des augmentations brusques de performance sans qu'elles traduisent nécessairement un changement discontinu du comportement du modèle. . Les exemples incluent le raisonnement arithmétique, la passation d'examens de niveau universitaire, l'identification du sens voulu d'un mot, le décodage de l'alphabet phonétique international, le fait de pouvoir comprendre des mots dont l'ordre des lettres est modifié, l'identification du contenu offensant dans les paragraphes de l'hinglish (un mélange d'hindi et d'anglais) et la génération d'un équivalent anglais aux proverbes kiswahili.

Hallucination

Les LLM génèrent parfois des affirmations fausses qui ne semblent pas être justifiées par leurs données d'entraînement, on parle alors d'« hallucination ».

Biais et limites

Les grands modèles de langage peuvent reproduire ou amplifier des biais sociaux. Ceux-ci peuvent apparaître à différentes étapes, notamment lors de la constitution des données d'entraînement, de l'apprentissage, de l'évaluation et du déploiement.

Préjugés sexistes

Les préjugés sexistes font référence à la tendance de ces modèles à produire des résultats injustement préjugés en faveur d’un sexe plutôt qu’un autre. Ce biais provient généralement des données sur lesquelles ces modèles sont formés. Par exemple, les grands modèles linguistiques attribuent souvent des rôles et des caractéristiques basés sur les normes de genre traditionnelles ; elle pourrait associer principalement les infirmières ou les secrétaires aux femmes et les ingénieurs ou les PDG aux hommes.

Biais spécistes

Selon Jotautaitė, Caviola, Brewster et leurs collègues, les grands modèles de langage manifestent un biais spéciste en classant des énoncés spécistes comme moralement acceptables et en normalisant les préjudices envers les animaux d'élevage, alors qu'ils refusent de le faire pour les autres animaux. Ils constatent cependant que ce biais spéciste est plus faible chez les modèles de langage que chez les humains.

Stéréotypes

Au-delà du genre et de l'origine, ces modèles peuvent renforcer un large éventail de stéréotypes, notamment ceux fondés sur l’âge, la nationalité, la religion ou la profession. Cela peut conduire à des résultats qui généralisent ou caricaturent injustement des groupes de personnes, parfois de manière préjudiciable ou désobligeante.

Biais politique

Les préjugés politiques font référence à la tendance des algorithmes à favoriser systématiquement certains points de vue politiques, idéologies ou résultats par rapport à d’autres. Les modèles linguistiques peuvent également présenter des préjugés politiques. Étant donné que les données de formation incluent un large éventail d'opinions et de couvertures politiques, les modèles peuvent générer des réponses qui penchent vers des idéologies ou des points de vue politiques particuliers, en fonction de la prévalence de ces points de vue dans les données.

Biais linguistique

Les biais linguistiques font référence au fait que les données d'apprentissage peuvent ne pas être représentatives de la population mondiale. Par exemple, pour un concept comme le « libéralisme », un modèle principalement entraîné en anglais privilégiera une interprétation anglo-américaine, centrée sur les droits de l'homme et l'égalité. Des points de vue d'autres cultures sur le libéralisme, comme « s'oppose à l'État » au Vietnam, ou « limitation du pouvoir gouvernemental » en Chine, risquent d'être sous-représentées.

Mise en œuvre

En amont, des biais peuvent être introduits ou amplifiés par les méthodes d'apprentissage, notamment le choix de la fonction d'optimisation et la pondération des exemples d'entraînement. Ils sont d'autre part liés aux biais présents dans les bases de données d'entraînement de l'IA (stéréotypes discriminatoires, inexactitudes, incohérences…). Un modèle entraîné sur des textes comportant des propos discriminatoires peut en reproduire certains biais dans ses réponses.
En aval, le prompt peut lui même introduire des biais qui orienteront la réponse de l'IA utilisant un modèle LLM. Les LLM peuvent apprendre, et ensuite plus ou moins perpétuer voire amplifier des biais sociaux délétères.

Les méthodes d'atténuation des biais interviennent sur les données, l'apprentissage, la génération ou le traitement des réponses. Elles comprennent notamment le rééquilibrage ou le filtrage des données, la création de données synthétiques, la modification des objectifs d'apprentissage et la réécriture des sorties. Leur efficacité varie selon les biais mesurés et les contextes d'utilisation.

Des audits et des tests adversariaux peuvent servir à rechercher des biais. Des approches participatives associent des membres des groupes concernés à la constitution des jeux de données et aux évaluations.

Optimisation de requête

Article principal : Ingénierie de prompt.

Entre 2018 et 2020, la méthode standard pour exploiter un LLM pour une tâche spécifique de traitement automatique des langues consistait à affiner le modèle avec un entraînement supplémentaire spécifique à la tâche. Des modèles comme GPT-3 peuvent résoudre des tâches sans entraînement supplémentaire via des techniques dans lesquelles le problème à résoudre est présenté au modèle sous forme de requête (synonyme de « prompt » ou « invite »), éventuellement avec quelques exemples textuels de problèmes similaires avec les réponses correspondantes attendues afin de guider le modèle. L'approche qui consiste à fournir d'abord quelques exemples de réponses valides pour des requêtes similaires est appelée « requête en quelques coups » (few-shot prompt). Par exemple, une tâche d'analyse des sentiments consistant à déterminer le sentiment d'une critique de film pourrait être formulée avec la requête :

Critique : Ce film est nul.
Sentiment : négatif

Critique : Ce film est fantastique !
Sentiment :

Si le modèle affiche « positif », alors il a correctement résolu la tâche. Dans la requête à partir de zéro (zero-shot prompt), aucun exemple n'est fourni. Un exemple de requête à partir de zéro pour la même tâche d'analyse des sentiments serait

Le sentiment associé à la critique de film "Ce film est fantastique !" est

Dans leur étude de 2020 sur GPT-3, Tom B. Brown et ses coauteurs évaluent l'utilisation de quelques exemples dans la requête, sans mise à jour des paramètres du modèle. Les résultats varient selon les tâches ; pour certaines d'entre elles, ils sont comparables à ceux de modèles spécialisés par réglage fin. Les évaluations portent notamment sur la traduction, la réponse aux questions et la complétion de texte. La création et l'optimisation de requêtes concerne l'ingénierie de prompt, aussi appelée « rédactique ».

Une autre méthode parfois utilisée est celle de la chaîne de pensée. Par exemple en ajoutant dans la requête « raisonnons étape par étape ». Cette méthode peut s'avérer efficace pour les problèmes nécessitant plusieurs étapes de raisonnement, tels que les problèmes d'arithmétique.

Génération à enrichissement contextuel

Les grands modèles de langage sont utilisés pour construire des systèmes de génération à enrichissement contextuel. Ces systèmes permettent d'interroger une base documentaire et de générer des réponses.

Évaluation

Perplexité

La perplexité est un indicateur utilisé pour évaluer les prédictions d'un modèle de langage sur un corpus de texte. La perplexité est une mesure de la capacité d'un modèle à prédire le contenu d'un ensemble de données ; plus la probabilité que le modèle attribue à l'ensemble de données est élevée, plus la perplexité est faible. Mathématiquement, la perplexité est définie comme l'exponentielle de la moyenne de la log-vraisemblance négative par jeton : $\log({\text{Perplexity}})=-{\frac {1}{N}}\sum _{i=1}^{N}\log(Pr({\text{token}}_{i}|{\text{context for token}}_{i}))$
ici $N$ est le nombre de jetons dans le corpus de texte, et le « contexte du jeton i » dépend du type spécifique de LLM utilisé. Si le LLM est autorégressif, alors le « contexte pour le jeton i » est le segment de texte apparaissant avant le jeton i. Si le LLM est masqué, alors « contexte pour le jeton i » est le segment de texte entourant le jeton i.

Étant donné que les modèles de langage peuvent suradapter à leurs données d'apprentissage, les modèles sont généralement évalués en fonction de leur perplexité sur un ensemble de tests de données non utilisées pour l'entraînement. Cela présente des défis particuliers pour l'évaluation de grands modèles de langage. Au fur et à mesure qu'ils sont entraînés sur des corpus de texte de plus en plus volumineux largement extraits du Web, il devient de plus en plus probable que les données d'entraînement des modèles incluent par inadvertance des parties d'un ensemble de tests donné.

Ensembles de données et points de repère spécifiques aux tâches

Un grand nombre d'ensembles de données de test de validation ou de performance ont également été développés pour évaluer les capacités des modèles de langage sur des tâches en aval plus spécifiques. Les tests peuvent être conçus pour évaluer une variété de capacités, y compris les connaissances générales, le raisonnement de bon sens et la résolution de problèmes mathématiques.

Une grande catégorie d'ensembles de données d'évaluation est les ensembles de données de questions-réponses, consistant en des paires de questions et de réponses correctes, par exemple, (« Les Sharks de San Jose ont-ils remporté la Coupe Stanley? » , « Non »). Une tâche de réponse aux questions est considérée comme un « livre ouvert » si l'invite du modèle comprend un texte à partir duquel la réponse attendue peut être dérivée (par exemple, la question précédente pourrait être jointe à un texte qui comprend la phrase « Les Sharks ont atteint la coupe Stanley finales une fois, perdant contre les Penguins de Pittsburgh en 2016. »). Sinon, la tâche est considérée comme « livre fermé », et le modèle doit s'appuyer sur les connaissances retenues pendant l'entraînement. Voici quelques exemples d'ensembles de données de réponse aux questions couramment utilisés : TruthfulQA, Web Questions, TriviaQA et SQuAD.

Les ensembles de données d'évaluation peuvent également prendre la forme d'une complétion de texte, le modèle sélectionnant le mot ou la phrase la plus probable pour compléter une invite, par exemple : « Alice était amie avec Bob. Alice est allée rendre visite à son amie, ____ ».

Des ensembles d'évaluation comme GLUE, SuperGLUE, MMLU et BIG-bench regroupent plusieurs tâches. Le cadre HELM évalue les modèles sur différents scénarios et selon plusieurs critères, notamment l'exactitude, la robustesse, l'équité et la toxicité.

L'évaluation peut porter sur un modèle adapté à une tâche par réglage fin ou sur un modèle auquel la tâche est présentée dans une requête. Dans le premier cas, un jeu de données distinct de celui du réglage fin est réservé à l'évaluation. Dans le second, les résultats dépendent notamment de la formulation de la requête et du nombre d'exemples fournis.

Évaluations antagonistes

Les évaluations antagonistes regroupent des exemples conçus pour mettre en évidence certaines erreurs des modèles. Leur construction peut notamment reposer sur la sélection de réponses incorrectes que les modèles peinent à distinguer des réponses attendues. Un exemple est l'ensemble de données TruthfulQA, un ensemble de données de questions-réponses composé de 817 questions auxquelles les modèles de langage sont susceptibles de répondre de manière incorrecte en imitant les faussetés auxquelles ils ont été exposés à plusieurs reprises pendant l'entraînement. Par exemple, un LLM peut répondre « Non » à la question « Pouvez-vous apprendre de nouveaux tours à un vieux chien ? » en raison de son exposition à l'expression anglaise, vous ne pouvez pas apprendre de nouveaux tours à un vieux chien, même si ce n'est pas littéralement vrai.

Un autre exemple d'ensemble de données d'évaluation antagoniste est Swag et son successeur, HellaSwag, des collections de problèmes dans lesquels l'une des multiples options doit être sélectionnée pour compléter un passage de texte. Les complétions incorrectes ont été générées par échantillonnage à partir d'un modèle de langage et filtrage avec un ensemble de classificateurs. Lors de la présentation de HellaSwag en 2019, les auteurs rapportent, sur ce jeu de données, un taux de bonnes réponses supérieur à 95 % chez les participants humains, contre moins de 48 % pour les modèles évalués.

Par exemple:

Nous voyons un panneau indiquant un centre de remise en forme. Nous voyons ensuite un homme parler à la caméra et assis et allongé sur un ballon d'exercice. L'homme...
a) montre comment augmenter l'efficacité de l'exercice en faisant monter et descendre des balles.
b) bouge tous ses bras et ses jambes et développe beaucoup de muscles.
c) joue ensuite la balle et nous assistons à une démonstration de graphisme et de taille de haie.
d) effectue des redressements assis tout en étant sur le ballon et en parlant.

BERT sélectionne b) comme l'achèvement le plus probable, bien que la bonne réponse soit d).

Saturation des évaluations

En réponse au problème de saturation des repères d'évaluation des grands modèles de langage existants en 2025, le test de performance HLE (Humanity's Last Exam, Dernier Examen de l'Humanité) est créé par le Center for AI Safety et Scale AI. Il comprend 2500 questions dans sept disciplines principales (mathématiques, physique, biologie/médecine, sciences humaines et sociales, informatique et IA, ingénierie, chimie), créées par des experts de leur domaine et conçues pour être difficiles. Il est publié dans la revue Nature, le 28 janvier 2026.

Applications

Évaluation par des grands modèles de langage

Les grands modèles de langage sont régulièrement utilisés comme des évaluateurs ou juges dans des tâches d'annotation ou d'évaluation. Cette approche est couramment appelée LLM-as-a-Judge (en) dans la littérature académique.

Références

1 2 3 4 « grand modèle de langage », Grand Dictionnaire terminologique, Office québécois de la langue française (consulté le 7 septembre 2023).
↑ (fr + en) Accuracy of Information and References Using ChatGPT-3 for Retrieval of Clinical Radiological Information, journal de l'association canadienne de radiologistes.
↑ Christian Wolf, « Histoire des réseaux de neurones et du deep learning en traitement des signaux et des images », sur hal.science, 4 avril 2023 (consulté le 11 mai 2023).
↑ Ornes (2023, traduction française).
↑ (en-US) Shraddha Goled, « Self-Supervised Learning Vs Semi-Supervised Learning: How They Differ », sur Analytics India Magazine, 7 mai 2021 (consulté le 1^er juin 2023).
↑ « Comment les moteurs de réponses d'IA générative redéfinissent le référencement web », sur Les Echos, 2 mars 2026.
↑ (en) Jason Wei, Yi Tay, Rishi Bommasani et Colin Raffel, « Emergent Abilities of Large Language Models », Transactions on Machine Learning Research,‎ 31 août 2022 (ISSN 2835-8856, lire en ligne, consulté le 1^er juin 2023).
1 2 (en) Samuel R. Bowman, « Eight Things to Know about Large Language Models » [PDF], Proceedings of the International Conference on Machine Learning 2023 (conférence), 2 avril 2023.
↑ (en) Adam Dahlgren Lindström, Leila Methnani, Lea Krause et Petter Ericson, « Helpful, harmless, honest? Sociotechnical limits of AI alignment and safety through Reinforcement Learning from Human Feedback », Ethics and Information Technology, vol. 27, n^o 2,‎ 4 juin 2025, p. 28 (ISSN 1572-8439, PMID 40486676, PMCID 12137480, DOI 10.1007/s10676-025-09837-2, lire en ligne, consulté le 25 septembre 2025).
↑ (en) Ashish Vaswani et al., « Attention Is All You Need », 2017..
↑ (en) RWKV: Reinventing RNNs for the Transformer Era
↑ (en) Retentive Network: A Successor to Transformer for Large Language Models
↑ (en) HyperAttention: Long-context Attention in Near-Linear Time
↑ (en) Mamba: Linear-Time Sequence Modeling with Selective State Spaces
↑ (en) « OpenAI API » [archive du 23 avril 2023], platform.openai.com (consulté le 30 avril 2023).
↑ Munazza Zaib, Quan Z. Sheng et Wei Emma Zhang, « A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP », Proceedings of the Australasian Computer Science Week Multiconference,‎ 4 février 2020, p. 1–4 (ISBN 9781450376976, DOI 10.1145/3373017.3373028, arXiv 2104.10810, S2CID 211040895, lire en ligne).
↑ Yukun Zhu, Ryan Kiros, Rich Zemel et Ruslan Salakhutdinov, « Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books », 2015 IEEE International Conference on Computer Vision (ICCV),‎ décembre 2015, p. 19–27 (ISBN 978-1-4673-8391-2, DOI 10.1109/ICCV.2015.11, arXiv 1506.06724, S2CID 6866988, lire en ligne, consulté le 11 avril 2023).
↑ (en) « LLama3 Model Details », sur Github, 11 juillet 2024 (consulté le 30 mai 2025).
1 2 (en) Jared Kaplan, Sam McCandlish, Tom Henighan et Tom B. Brown, Scaling Laws for Neural Language Models, 23 janvier 2020 (DOI 10.48550/arXiv.2001.08361).
↑ (en) Stella Biderman et al., « Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling », 2023..
↑ Ayush Mittal, « Un guide complet pour affiner les grands modèles de langage », sur Unite.AI, 25 mars 2024 (consulté le 4 mai 2024).
↑ (en) « Self-Instruct: Aligning Language Models with Self-Generated Instructions », ACL,‎ 2023 (arXiv 2212.10560, lire en ligne).
↑ (en) Long Ouyang et al., « Training language models to follow instructions with human feedback », 2022..
↑ (en) « What to Know About Claude 2, Anthropic's Rival to ChatGPT », sur Time, 18 juillet 2023 (consulté le 5 mai 2024).
↑ (en) common crawl, site officiel]
↑ (en) the Pile, sur commoncrawl.org.
↑ (en) « Papers with Code - MassiveText Dataset », paperswithcode.com (consulté le 26 avril 2023).
↑ Julia Luczak-Rougeaux, « Trafic IA : les plateformes privilégient Wikipedia, les forums ou les réseaux sociaux aux médias », sur Minted, 4 septembre 2025 (consulté le 23 septembre 2025).
↑ Pablo Villalobos, Jaime Sevilla, Lennart Heim et Tamay Besiroglu, « Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning », arXiv:2211.04325 [cs],‎ 25 octobre 2022 (lire en ligne).
1 2 (en) « Scaling Laws », sur AI Alignment Forum, 31 juillet 2022 (consulté le 15 novembre 2024).
1 2 (en) Yasaman Bahri, Ethan Dyer, Jared Kaplan et Jaehoon Lee, « Explaining neural scaling laws », Proceedings of the National Academy of Sciences, vol. 121, n^o 27,‎ 2 juillet 2024 (ISSN 0027-8424 et 1091-6490, PMID 38913889, PMCID PMC11228526, DOI 10.1073/pnas.2311878121).
↑ Jordan Hoffmann, Sebastian Borgeaud, Arthur Mensch et Elena Buchatskaya, « Training Compute-Optimal Large Language Models », arXiv:2203.15556 [cs],‎ 29 mars 2022 (lire en ligne).
↑ Notez que le coût d'entraînement est beaucoup plus élevé que le coût d'inférence, puisqu’il en coûte 1 à 2 FLOP par paramètre pour inférer sur un jeton.
1 2 3 4 (en) Jason Wei, Yi Tay, Rishi Bommasani et Colin Raffel, « Emergent Abilities of Large Language Models », Transactions on Machine Learning Research,‎ 31 août 2022 (ISSN 2835-8856, arXiv 2206.07682).
↑ (en) Rylan Schaeffer, Brando Miranda et Sanmi Koyejo, « Are Emergent Abilities of Large Language Models a Mirage? », 2023..
↑ Ornes (2023).
↑ Ziwei Ji, Nayeon Lee, Rita Frieske et Tiezheng Yu, « Survey of Hallucination in Natural Language Generation », ACM Computing Surveys, Association for Computing Machinery, vol. 55, n^o 12,‎ novembre 2022, p. 1–38 (DOI 10.1145/3571730, arXiv 2202.03629, S2CID 246652372).
1 2 3 4 5 6 (en) Isabel O. Gallegos et al., « Bias and Fairness in Large Language Models: A Survey », Computational Linguistics, vol. 50, n^o 3,‎ septembre 2024, p. 1097-1179 (DOI 10.1162/coli_a_00524, lire en ligne).
↑ Hadas Kotek, Rikker Dockum et David Sun, « Gender bias and stereotypes in Large Language Models », Proceedings of The ACM Collective Intelligence Conference, Association for Computing Machinery, cI '23,‎ 5 novembre 2023, p. 12–24 (ISBN 979-8-4007-0113-9, DOI 10.1145/3582269.3615599).
↑ (en) Monika Jotautaitė, Lucius Caviola, David A. Brewster et Thilo Hagendorff, « Large language models exhibit speciesist bias against animals », Nature Communications, vol. 17, n^o 1,‎ 9 mai 2026, p. 5569 (ISSN 2041-1723, DOI 10.1038/s41467-026-72297-9, lire en ligne, consulté le 26 juillet 2026)
↑ Fatma Elsafoury, Steve R. Wilson, Stamos Katsigiannis et Naeem Ramzan, « SOS: Systematic Offensive Stereotyping Bias in Word Embeddings », Proceedings of the 29th International Conference on Computational Linguistics, International Committee on Computational Linguistics,‎ octobre 2022, p. 1263–1274 (lire en ligne, consulté le 26 décembre 2023).
↑ Karen Zhou et Chenhao Tan, « Entity-Based Evaluation of Political Bias in Automatic Summarization », Findings of the Association for Computational Linguistics: EMNLP 2023, Association for Computational Linguistics,‎ décembre 2023, p. 10374–10386 (DOI 10.18653/v1/2023.findings-emnlp.696).
↑ (en) Queenie Luo, Michael J. Puett et Michael D. Smith, « A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube », scientific journal,‎ 12-25-2023 (lire en ligne [archive] [PDF]).
↑ (en) James Manyika et Jake Silberg, « What Do We Do About the Biases in AI? », sur Harvard Business Review, 25 octobre 2019 (ISSN 0017-8012, consulté le 15 novembre 2023).
↑ « requête », sur vitrinelinguistique.oqlf.gouv.qc.ca (consulté le 12 novembre 2023).
↑ (en) Tom B. Brown et al., « Language Models are Few-Shot Learners », 2020..
↑ (en) « Résultats de recherche », sur Vitrine linguistique (consulté le 12 novembre 2023).
↑ (en) Roger Montti, « Google's Chain of Thought Prompting Can Boost Today's Best Algorithms », sur Search Engine Journal, 13 mai 2022 (consulté le 5 mai 2024).
1 2 3 (en) Percy Liang et al., « Holistic Evaluation of Language Models », Transactions on Machine Learning Research,‎ 2023 (arXiv 2211.09110, lire en ligne).
1 2 (en) Rowan Zellers et al., « HellaSwag: Can a Machine Really Finish Your Sentence? », 2019..
↑ (en) Long Phan, Alice Gatti, Nathaniel Li et Adam Khoja, « A benchmark of expert-level academic questions to assess AI capabilities », Nature, vol. 649, n^o 8099,‎ janvier 2026, p. 1139–1146 (ISSN 1476-4687, PMID 41606155, PMCID 12851929, DOI 10.1038/s41586-025-09962-4, lire en ligne, consulté le 11 août 2026)
↑ (en) Gu, J., Jiang, X., Shi, Z., Tan, H., Zhai, X., Xu, C., ... & Guo, J., « A survey on llm-as-a-judge. », The Innovation,‎ 2026 (DOI 10.1016/j.xinn.2025.101253)

Voir aussi

Sur les autres projets Wikimedia :

Grand modèle de langage, sur Wikimedia Commons

Bibliographie

Thierry Poibeau, Les Mots sans les choses : Philosophie, éthique et impact des grands modèles de langue, Paris, Rue d'Ulm, coll. « Actes de la recherche à l'ENS-PSL », 2026, 258 p. (ISBN 978-2-7288-0951-6)
Jean-Paul Delahaye, « Derrière les modèles massifs de langage », Pour la science, n^o 555,‎ janvier 2024, p. 80-85.
(en) Stephen Ornes, « The Unpredictable Abilities Emerging From Large AI Models », Quanta Magazine,‎ 16 mars 2023 (lire en ligne ).
- Stephen Ornes, « Modèles massifs de langage. D'où viennent les coups de génie de l'IA ? », Pour la science, n^o 549,‎ juillet 2023, p. 46-51 (lire en ligne ), adaptation française par la revue.

Articles connexes

Liens externes

Ressource relative à la santé :
- Medical Subject Headings
Notice dans un dictionnaire ou une encyclopédie généraliste :
- Britannica
Notices d'autorité :
- GND
- Tchéquie
- Lettonie

Portail de l’intelligence artificielle

Portail des données

Portail de l’informatique

Portail des probabilités et de la statistique

Portail de la linguistique

[GDT-1] 1 2 3 4 « grand modèle de langage », Grand Dictionnaire terminologique, Office québécois de la langue française (consulté le 7 septembre 2023).

[2] (fr + en) Accuracy of Information and References Using ChatGPT-3 for Retrieval of Clinical Radiological Information, journal de l'association canadienne de radiologistes.

[3] Christian Wolf, « Histoire des réseaux de neurones et du deep learning en traitement des signaux et des images », sur hal.science, 4 avril 2023 (consulté le 11 mai 2023).

[4] Ornes (2023, traduction française).

[5] (en-US) Shraddha Goled, « Self-Supervised Learning Vs Semi-Supervised Learning: How They Differ », sur Analytics India Magazine, 7 mai 2021 (consulté le 1^er juin 2023).

[6] « Comment les moteurs de réponses d'IA générative redéfinissent le référencement web », sur Les Echos, 2 mars 2026.

[7] (en) Jason Wei, Yi Tay, Rishi Bommasani et Colin Raffel, « Emergent Abilities of Large Language Models », Transactions on Machine Learning Research,‎ 31 août 2022 (ISSN 2835-8856, lire en ligne, consulté le 1^er juin 2023).

[Bowman-8] 1 2 (en) Samuel R. Bowman, « Eight Things to Know about Large Language Models » [PDF], Proceedings of the International Conference on Machine Learning 2023 (conférence), 2 avril 2023.

[9] (en) Adam Dahlgren Lindström, Leila Methnani, Lea Krause et Petter Ericson, « Helpful, harmless, honest? Sociotechnical limits of AI alignment and safety through Reinforcement Learning from Human Feedback », Ethics and Information Technology, vol. 27, n^o 2,‎ 4 juin 2025, p. 28 (ISSN 1572-8439, PMID 40486676, PMCID 12137480, DOI 10.1007/s10676-025-09837-2, lire en ligne, consulté le 25 septembre 2025).

[10] (en) Ashish Vaswani et al., « Attention Is All You Need », 2017..

[11] (en) RWKV: Reinventing RNNs for the Transformer Era

[12] (en) Retentive Network: A Successor to Transformer for Large Language Models

[13] (en) HyperAttention: Long-context Attention in Near-Linear Time

[14] (en) Mamba: Linear-Time Sequence Modeling with Selective State Spaces

[15] (en) « OpenAI API » [archive du 23 avril 2023], platform.openai.com (consulté le 30 avril 2023).

[16] Munazza Zaib, Quan Z. Sheng et Wei Emma Zhang, « A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP », Proceedings of the Australasian Computer Science Week Multiconference,‎ 4 février 2020, p. 1–4 (ISBN 9781450376976, DOI 10.1145/3373017.3373028, arXiv 2104.10810, S2CID 211040895, lire en ligne).

[17] Yukun Zhu, Ryan Kiros, Rich Zemel et Ruslan Salakhutdinov, « Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books », 2015 IEEE International Conference on Computer Vision (ICCV),‎ décembre 2015, p. 19–27 (ISBN 978-1-4673-8391-2, DOI 10.1109/ICCV.2015.11, arXiv 1506.06724, S2CID 6866988, lire en ligne, consulté le 11 avril 2023).

[18] (en) « LLama3 Model Details », sur Github, 11 juillet 2024 (consulté le 30 mai 2025).

[kaplan-scaling-19] 1 2 (en) Jared Kaplan, Sam McCandlish, Tom Henighan et Tom B. Brown, Scaling Laws for Neural Language Models, 23 janvier 2020 (DOI 10.48550/arXiv.2001.08361).

[20] (en) Stella Biderman et al., « Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling », 2023..

[21] Ayush Mittal, « Un guide complet pour affiner les grands modèles de langage », sur Unite.AI, 25 mars 2024 (consulté le 4 mai 2024).

[22] (en) « Self-Instruct: Aligning Language Models with Self-Generated Instructions », ACL,‎ 2023 (arXiv 2212.10560, lire en ligne).

[23] (en) Long Ouyang et al., « Training language models to follow instructions with human feedback », 2022..

[24] (en) « What to Know About Claude 2, Anthropic's Rival to ChatGPT », sur Time, 18 juillet 2023 (consulté le 5 mai 2024).

[25] (en) common crawl, site officiel]

[26] (en) the Pile, sur commoncrawl.org.

[27] (en) « Papers with Code - MassiveText Dataset », paperswithcode.com (consulté le 26 avril 2023).

[28] Julia Luczak-Rougeaux, « Trafic IA : les plateformes privilégient Wikipedia, les forums ou les réseaux sociaux aux médias », sur Minted, 4 septembre 2025 (consulté le 23 septembre 2025).

[29] Pablo Villalobos, Jaime Sevilla, Lennart Heim et Tamay Besiroglu, « Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning », arXiv:2211.04325 [cs],‎ 25 octobre 2022 (lire en ligne).

[:1-30] 1 2 (en) « Scaling Laws », sur AI Alignment Forum, 31 juillet 2022 (consulté le 15 novembre 2024).

[:2-31] 1 2 (en) Yasaman Bahri, Ethan Dyer, Jared Kaplan et Jaehoon Lee, « Explaining neural scaling laws », Proceedings of the National Academy of Sciences, vol. 121, n^o 27,‎ 2 juillet 2024 (ISSN 0027-8424 et 1091-6490, PMID 38913889, PMCID PMC11228526, DOI 10.1073/pnas.2311878121).

[32] Jordan Hoffmann, Sebastian Borgeaud, Arthur Mensch et Elena Buchatskaya, « Training Compute-Optimal Large Language Models », arXiv:2203.15556 [cs],‎ 29 mars 2022 (lire en ligne).

[33] Notez que le coût d'entraînement est beaucoup plus élevé que le coût d'inférence, puisqu’il en coûte 1 à 2 FLOP par paramètre pour inférer sur un jeton.

[emergentpaper-34] 1 2 3 4 (en) Jason Wei, Yi Tay, Rishi Bommasani et Colin Raffel, « Emergent Abilities of Large Language Models », Transactions on Machine Learning Research,‎ 31 août 2022 (ISSN 2835-8856, arXiv 2206.07682).

[35] (en) Rylan Schaeffer, Brando Miranda et Sanmi Koyejo, « Are Emergent Abilities of Large Language Models a Mirage? », 2023..

[36] Ornes (2023).

[hallucination-survey-37] Ziwei Ji, Nayeon Lee, Rita Frieske et Tiezheng Yu, « Survey of Hallucination in Natural Language Generation », ACM Computing Surveys, Association for Computing Machinery, vol. 55, n^o 12,‎ novembre 2022, p. 1–38 (DOI 10.1145/3571730, arXiv 2202.03629, S2CID 246652372).

[Gallegos2024Biais-38] 1 2 3 4 5 6 (en) Isabel O. Gallegos et al., « Bias and Fairness in Large Language Models: A Survey », Computational Linguistics, vol. 50, n^o 3,‎ septembre 2024, p. 1097-1179 (DOI 10.1162/coli_a_00524, lire en ligne).

[39] Hadas Kotek, Rikker Dockum et David Sun, « Gender bias and stereotypes in Large Language Models », Proceedings of The ACM Collective Intelligence Conference, Association for Computing Machinery, cI '23,‎ 5 novembre 2023, p. 12–24 (ISBN 979-8-4007-0113-9, DOI 10.1145/3582269.3615599).

[40] (en) Monika Jotautaitė, Lucius Caviola, David A. Brewster et Thilo Hagendorff, « Large language models exhibit speciesist bias against animals », Nature Communications, vol. 17, n^o 1,‎ 9 mai 2026, p. 5569 (ISSN 2041-1723, DOI 10.1038/s41467-026-72297-9, lire en ligne, consulté le 26 juillet 2026)

[41] Fatma Elsafoury, Steve R. Wilson, Stamos Katsigiannis et Naeem Ramzan, « SOS: Systematic Offensive Stereotyping Bias in Word Embeddings », Proceedings of the 29th International Conference on Computational Linguistics, International Committee on Computational Linguistics,‎ octobre 2022, p. 1263–1274 (lire en ligne, consulté le 26 décembre 2023).

[42] Karen Zhou et Chenhao Tan, « Entity-Based Evaluation of Political Bias in Automatic Summarization », Findings of the Association for Computational Linguistics: EMNLP 2023, Association for Computational Linguistics,‎ décembre 2023, p. 10374–10386 (DOI 10.18653/v1/2023.findings-emnlp.696).

[:0-43] (en) Queenie Luo, Michael J. Puett et Michael D. Smith, « A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube », scientific journal,‎ 12-25-2023 (lire en ligne [archive] [PDF]).

[BiaisIAManyika-44] (en) James Manyika et Jake Silberg, « What Do We Do About the Biases in AI? », sur Harvard Business Review, 25 octobre 2019 (ISSN 0017-8012, consulté le 15 novembre 2023).

[45] « requête », sur vitrinelinguistique.oqlf.gouv.qc.ca (consulté le 12 novembre 2023).

[46] (en) Tom B. Brown et al., « Language Models are Few-Shot Learners », 2020..

[47] (en) « Résultats de recherche », sur Vitrine linguistique (consulté le 12 novembre 2023).

[48] (en) Roger Montti, « Google's Chain of Thought Prompting Can Boost Today's Best Algorithms », sur Search Engine Journal, 13 mai 2022 (consulté le 5 mai 2024).

[Liang2023HELM-49] 1 2 3 (en) Percy Liang et al., « Holistic Evaluation of Language Models », Transactions on Machine Learning Research,‎ 2023 (arXiv 2211.09110, lire en ligne).

[Zellers2019HellaSwag-50] 1 2 (en) Rowan Zellers et al., « HellaSwag: Can a Machine Really Finish Your Sentence? », 2019..

[:05-51] (en) Long Phan, Alice Gatti, Nathaniel Li et Adam Khoja, « A benchmark of expert-level academic questions to assess AI capabilities », Nature, vol. 649, n^o 8099,‎ janvier 2026, p. 1139–1146 (ISSN 1476-4687, PMID 41606155, PMCID 12851929, DOI 10.1038/s41586-025-09962-4, lire en ligne, consulté le 11 août 2026)

[52] (en) Gu, J., Jiang, X., Shi, Z., Tan, H., Zhai, X., Xu, C., ... & Guo, J., « A survey on llm-as-a-judge. », The Innovation,‎ 2026 (DOI 10.1016/j.xinn.2025.101253)

v · m Intelligence artificielle (IA)
Concepts	IA agentique Effet IA Grand modèle de langage Hallucination IA générative Test de Turing
Techniques	Analyse prédictive Apprentissage automatique Apprentissage non supervisé Apprentissage profond Apprentissage supervisé Génération à enrichissement contextuel Machine d'apprentissage logique Modèle de fondation Modèle des croyances transférables IA symbolique Réseau bayésien Réseau de neurones artificiels Réseau de neurones récurrents Réseau neuronal convolutif Transformeur Transformeur génératif préentraîné Système expert Apprentissage par renforcement à partir de rétroaction humaine
Applications	Art créé par IA Apple Intelligence ChatGPT Conséquences économiques de l'intelligence artificielle DeepL Diagnostic Écriture assistée par IA IA dans la santé IA dans le jeu vidéo Modèle texte-image Modèle texte-vidéo Perception artificielle Planification Robotique Synthèse vocale Traduction automatique Traitement automatique des langues Véhicule autonome Vision par ordinateur
Enjeux et philosophie	Alignement des intelligences artificielles Chambre chinoise Conscience artificielle Contrôle des capacités de l'IA Détection de contenu généré par IA Éthique de l'IA IA digne de confiance Philosophie de l'IA Sûreté des IA
Histoire et événements	Logic Theorist (1955) Perceptron (1957) General Problem Solver (1959) Prolog (1972) Matchs Deep Blue contre Kasparov (1996-1997) Match AlphaGo - Lee Sedol (2016) Sommet pour l'action sur l'IA (2025)
Concepts prospectifs	Anticipation IA-complet IA générale Risque existentiel posé par l'IA Superintelligence
Règlementation	Réglementation de l'IA Règlement sur l'IA
Organisations	Agence francophone pour l'IA Anthropic Google DeepMind Hugging Face OpenAI Partenariat sur l'IA
Ouvrages	Déclaration de Montréal pour un développement responsable de l'IA I.A. La Plus Grande Mutation de l'Histoire Intelligence artificielle : une approche moderne Lettre ouverte sur l'IA Power and Progress Superintelligence : Paths, Dangers, Strategies