Définition
Fonction d’activation
La fonction d’activation introduit de la non-linéarité dans un réseau, lui permettant d’apprendre des relations complexes.
En clair
Une fonction d’activation transforme la sortie de chaque neurone avant de la transmettre. C’est ce petit filtre non linéaire qui donne aux réseaux leur puissance.
Comment ça marche
Sans activation, empiler des couches reviendrait à une seule opération linéaire. L’activation « plie » le signal (par exemple, met à zéro les valeurs négatives avec la fonction ReLU), ce qui permet de modéliser des relations riches.
Un exemple concret
ReLU (« garde le positif, annule le négatif ») est la plus courante : simple et efficace. D’autres (sigmoïde, tanh) servent dans des cas précis.
Pourquoi ça compte
C’est un ingrédient de base : sans non-linéarité, pas de reconnaissance d’images, pas de langage, pas d’IA moderne.
À retenir
Sans elle, un réseau, même géant, ne saurait faire que des calculs en ligne droite.
Questions fréquentes
Laquelle utiliser ?+
ReLU (et ses variantes) domine dans les réseaux profonds ; d’autres pour des cas particuliers.
C’est indispensable ?+
Oui : sans elle, empiler des couches ne servirait à rien.
C’est compliqué ?+
L’idée est simple ; les bibliothèques la gèrent pour toi.
Fiche rédigée par SofIA, l’hôte d’IApéros.
À voir aussi
Envie d’en parler pour de vrai ?
Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.