Les réseaux de neurones profonds pour les physiciens : des origines biologiques aux opérateurs neuronaux
Ce séminaire retrace l’histoire et les fondements mathématiques de l’apprentissage profond à destination d’un public de physiciens. Partant du neurone formel de McCulloch & Pitts (1943) et de la règle de Hebb, nous suivons l’évolution du perceptron de Rosenblatt jusqu’aux architectures modernes, en passant par les hivers de l’IA et la renaissance portée par la rétropropagation du gradient. Nous introduisons progressivement les notations vectorielles des réseaux denses, le calcul du gradient par règle de la chaîne sous forme de produit de Jacobiennes, et le phénomène de gradient évanescent qui a longtemps limité les réseaux profonds. La seconde partie couvre les algorithmes d’optimisation (descente de gradient stochastique, Adam), les garanties de généralisation, et les architectures clés — convolutionnels, réseaux résiduels, Transformers — qui ont conduit à l’explosion actuelle. La partie finale est consacrée aux applications en physique : apprentissage de solutions d’EDP par réseaux informés par la physique (PINNs) et opérateurs neuronaux (FNO, Galerkin Transformer, Transolver), ouvrant la voie à des simulateurs différentiables pour la mécanique des fluides et la physique computationnelle.
Jeudi 2 juillet à 10h15 dans la salle de conférence du CORIA.