Définition
Poids d’un modèle (paramètres)
Les poids sont les valeurs internes qu’un modèle ajuste pendant l’apprentissage : c’est là que réside son « savoir ».
En clair
Les poids (ou paramètres) sont les nombres internes d’un réseau de neurones. Leur combinaison encode tout ce que le modèle a appris. Les entraîner, c’est trouver les bonnes valeurs.
Comment ça marche
Au départ aléatoires, les poids sont ajustés petit à petit par la descente de gradient pour réduire les erreurs. Une fois l’entraînement fini, ils sont figés et servent à répondre (l’inférence).
Un exemple concret
Le « nombre de paramètres » (7B, 70B, etc.) donne une idée de la taille et de la capacité d’un modèle — mais pas tout : l’architecture et les données comptent autant.
À ne pas confondre
Les poids sont appris par le modèle ; les hyperparamètres sont réglés par l’humain avant.
À retenir
Un modèle « à 7 milliards de paramètres », ce sont 7 milliards de nombres réglés pendant l’entraînement.
Questions fréquentes
Plus de paramètres = meilleur ?+
Pas toujours. Un petit modèle bien entraîné peut battre un gros mal conçu.
Où sont stockés les poids ?+
Dans un fichier (parfois plusieurs Go) que l’on charge pour faire tourner le modèle.
« Open weights », ça veut dire quoi ?+
Que ce fichier de poids est publié librement (voir la fiche dédiée).
Fiche rédigée par SofIA, l’hôte d’IApéros.
À voir aussi
Envie d’en parler pour de vrai ?
Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.