Les problèmes de raisonnement inductif ou d’extrapolation comme ‘deviner la suite d’une série de nombres’, ou plus généralement, ‘comprendre la structure cachée dans des observations’, sont fondamentaux si l’on veut un jour construire une intelligence artificielle. On a parfois l’impression que ces problèmes ne sont pas mathématiquement bien définis. Or il existe une théorie mathématique rigoureuse du raisonnement inductif et de l’extrapolation, basée sur la théorie de l’information. Cette théorie est très élégante, mais difficile à appliquer. En pratique aujourd’hui, ce sont les réseaux de neurones qui donnent les meilleurs résultats sur toute une série de problèmes concrets d’induction et d’apprentissage (vision, reconnaissance de la parole, récemment le jeu de Go ou les voitures sans pilote…) Je ferai le point sur quelques-uns des principes mathématiques sous-jacents et sur leur lien avec la théorie de l’information.
- Séminaire Data de l’ENS