Séminaire Turing

Programme du cours

L’objectif du séminaire Turing est d’introduire les étudiants et étudiantes à la recherche fondamentale en sûreté de l’Intelligence Artificielle. Ce champ de recherche vise à estimer et anticiper les risques posés par les systèmes d’intelligence artificielle, et à en garantir la sûreté et la fiabilité. En effet, les modèles les plus performants que nous utilisons restent encore très incompris et présentent des failles majeures.

A travers des lectures d’articles, des discussions, présentations d’expert-es et des travaux d’approfondissements, nous aborderons notamment les thèmes suivants:

Etat de l’art – Comprendre les modèles les plus avancés (GPT, text-to-image, etc) et les raisons de leur performance. (Des TP optionnels seront fournis pour pouvoir notamment coder par vous même GPT de zéro).

Prédiction – A quels progrès en Intelligence Artificielle peut-on s’attendre dans les prochaines années ? Dans les prochaines décennies ? Jusqu’où pourraient-ils aller ?

Risques – Les modèles actuels peuvent être vulnérables à des attaques malveillantes, avoir des comportements peu fiables dans des situations critiques, produire des contenus non respectueux des minorités ou divulguer des informations personnelles et privées. Comment résoudre ces problèmes actuels, tout en anticipant les failles nouvelles qui risquent d’émerger ?

Interprétabilité – Expliquer et anticiper le fonctionnement interne des réseaux de neurones: comprendre le rôle des différentes parties d’un réseau de neurones, forcer leur spécialisation ou bien localiser la mémoire d’un modèle de langage pour modifier ses connaissances et comportements.

Ce séminaire sera l’occasion de développer une compréhension avancée de ces enjeux, et de comprendre comment contribuer à ces thématiques de recherche importantes.

(Des opportunités professionnelles, programmes avancés, stages et projets de recherches seront notamment présentés.)

Dates : Le séminaire est prévu du jeudi 2 février au jeudi 11 mai 2023.