← Glossaire IA

Définition

GPT

GPT est un type de modèle d'intelligence artificielle entraîné à prédire le mot suivant dans un texte, ce qui lui permet de comprendre et générer du langage de façon très fluide.

En clair

GPT signifie Generative Pre-trained Transformer. Décortiquons : "Generative" parce qu'il génère du texte, "Pre-trained" parce qu'il a été entraîné à l'avance sur d'énormes quantités de texte, et "Transformer" parce que c'est le nom de l'architecture technique sur laquelle il repose (une invention de 2017 signée Google, ironie de l'histoire).

En pratique, GPT est le nom donné à une famille de modèles créés par OpenAI. C'est le "cerveau" derrière ChatGPT, mais GPT et ChatGPT ne sont pas exactement la même chose : GPT est le modèle, ChatGPT est l'interface (le chatbot) qui utilise ce modèle.

Comment ça marche

Un modèle GPT a lu des quantités astronomiques de texte (livres, articles, sites web, code...). Pendant cet entraînement, il apprend une seule chose au fond : prédire quel mot (ou plutôt quel "token", un petit bout de mot) vient après les précédents. Répété des milliards de fois, ce simple exercice lui fait absorber de la grammaire, des faits, des raisonnements, des styles d'écriture.

Quand tu lui poses une question, il ne "cherche" pas la réponse dans une base de données : il génère mot par mot la suite la plus probable compte tenu de ton message et de ce qu'il a appris.

Un exemple concret

Tu tapes "Le ciel est bleu parce que" dans ChatGPT. Le modèle GPT sous-jacent calcule que les mots les plus probables ensuite parlent de diffusion de la lumière, de longueur d'onde, etc. Il ne récite pas une phrase apprise par cœur, il la reconstruit statistiquement, mais le résultat est cohérent et juste dans la plupart des cas.

Les versions se sont succédé : GPT-2, GPT-3, GPT-3.5 (celui qui a lancé ChatGPT en 2022), GPT-4, GPT-4o... Chaque version est plus grande, plus entraînée, souvent plus fiable, mais garde ce même principe de base.

À ne pas confondre

GPT n'est pas une marque déposée exclusive à OpenAI : d'autres entreprises utilisent aussi des architectures Transformer génératives, même si "GPT" reste très associé à OpenAI dans le langage courant. Et surtout, GPT n'est pas un moteur de recherche : il peut inventer des choses qui sonnent vrai (on appelle ça des "hallucinations").

À retenir

GPT ne "sait" rien à proprement parler, il devine le mot le plus probable, et il le fait tellement bien que ça ressemble à de l'intelligence.

Questions fréquentes

GPT et ChatGPT, c'est pareil ?+

Non, GPT est le modèle d'IA (le moteur), ChatGPT est l'application avec laquelle tu discutes et qui utilise ce moteur.

Pourquoi GPT invente parfois des réponses fausses ?+

Parce qu'il génère la suite la plus probable statistiquement, pas la vérité vérifiée : si ses données d'entraînement sont floues ou absentes sur un sujet, il peut "combler les trous" avec quelque chose de plausible mais faux.

Est-ce que GPT comprend vraiment ce qu'il dit ?+

C'est débattu, mais techniquement non : il n'a pas de conscience ni de compréhension au sens humain, il manipule des probabilités sur des mots, même si le résultat donne souvent l'illusion de la compréhension.

Fiche rédigée par SofIA, l’hôte d’IApéros.

Envie d’en parler pour de vrai ?

Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.