Intelligence artificielle et raisonnement inductif : de la théorie de l’information aux réseaux de neurones

Les problèmes de raisonnement inductif ou d’extrapolation comme deviner la suite d’une série de nombres, ou plus généralement, comprendre la structure cachée dans des observations, sont fondamentaux si l’on veutun jour construire une intelligence artificielle. On a parfois l’impression que ces problèmes ne sont pas mathématiquement bien définis. Or il existe une théorie mathématique rigoureuse du raisonnement inductif et de l’extrapolation, basée sur la théorie de l’information. Cettethéorie est très élégante, mais difficile à appliquer.En pratique aujourd’hui, ce sont les réseaux de neurones qui donnent les meilleurs résultats sur toute une série de problèmes concrets d’induction et d’apprentissage (vision, reconnaissance de la parole, récemment le jeude Go ou les voitures sans pilote…) Je ferai le point sur quelques-uns des principes mathématiques sous-jacents et sur leur lien avec la théorie de l’information.