Analyse Statistique de l'Information

Cours de tronc commun

L’objectif est de permettre aux élèves d’acquérir les fondements de la théorie de l’information, des méthodes d’analyse d’informations physiques et statistiques et des techniques de classification (supervisées et non supervisées). Les domaines d’applications sont ceux du numérique, de la physique et de la reconnaissance des formes.

Extraction d’informations physiques et statistiques.
Les techniques statistiques sont des méthodes particulièrement bien adaptées pour l’extraction d’information. Une attention particulière est apportée aux données numériques et aux grandeurs physiques. Les sujets abordés reposent sur des approfondissements de probabilité appliquée, de statistique et des méthodes d’optimisation adaptées. Les techniques de caractérisation des fluctuations, d’estimation et d’analyse des données sont ainsi abordées à la fois sur leurs fondements et leurs applications.

Fondements de la théorie de l’Information et de la classification.
La théorie de l’information fournit une mesure quantitative de la notion d’information apportée par un message ou une observation. Les éléments fondamentaux de la théorie de l’information seront présentés non seulement pour ses applications dans le domaine du traitement de l’information mais également en montrant les liens avec d’autres domaines scientifiques et en particulier avec ceux de la classification des données, de la physique et, plus généralement, des statistiques. Les notions relatives à l’entropie, l’information, la complexité seront ainsi abordées dans une perspective large.

Reconnaissance des formes statistique.
L'objectif de ce module est de présenter la problématique de la décision statistique autour des objectifs de la détection, de la classification avec ou sans modèle probabiliste a priori. Cet enseignement est structuré autour de travaux pratiques afin d'illustrer à partir d’exemples comment l'analyse des performances permet de choisir parmi différentes techniques.

-Développer des innovations techniques et scientifiques (capacité à stimuler son imagination, capacité à analyser le contexte, capacité à élargir à d'autres usages un outil ou un concept, capacité à collecter et analyser de l'information avec logique et méthode, capacité à mobiliser une culture scientifique/technique).
-Résoudre des problèmes complexes et transdisciplinaires (capacité à comprendre et formuler le problème, capacité à reconnaître les éléments spécifiques d'un problème, capacité à identifier les interactions entre éléments, capacité à prendre en compte l'incertitude générée par la complexité).
-Élaborer et conduire des projets scientifiques et techniques internationaux (capacité à approfondir rapidement un domaine).

CC1 (partie « Extraction d’informations physiques et statistiques ») : 1 écrit qui contribue pour 37 % de la note finale
CC2 (partie « Fondements de la théorie de l’Information et de la classification ») : 1 écrit qui contribue pour 26 % de la note finale
CC3 (partie « Reconnaissance des formes statistique ») : une moyenne robuste de comptes rendus qui contribue pour 37 % de la note finale

Ph. Réfrégier « Noise theory and application to physics » - Springer 2003.
T.M. Cover and J.A. Thomas « Elements of information theory» - Wiley 2006.
R.O. Duda, P.E. Hart and D.G. Stork « Pattern Classification » - Wiley 2001.

• N. Bertaux
• G.Bérardi
• Frédéric Galland
• Ph. Réfrégier
• M. Roche