Probabilités et statistiques

L'objectif de la prédiction séquentielle probabiliste est de prédire une suite d'observations révélées une à une, en leur attribuant des probabilités aussi élevées que possible. Ce problème classique en apprentissage et en théorie de l'information est étroitement lié au codage universel et, plus récemment, à la prédiction du prochain token pour les modèles de langage. Dans cet exposé, je rappellerai d'abord des résultats classiques dus à Shtarkov et Rissanen dans les années 80–90. Une question centrale consiste à relier la complexité du problème à la "géométrie" du modèle sous-jacent. Pour […]