Théorie de l'information

Théorie de l'informationCode de l'UE : HMIN118

Présentation

Ce module contient trois thèmes principaux qui s'entremêlent tout au long du module et qui présentent trois approches complémentaires et intimement liées de l'idée de quantifier le contenu en information d'un message ou d'un ensemble de messages. Le premier est la théorie de Shannon, avec les notions d'entropie, de codage de l'information et de modèles de communication. En particulier cette partie couvre tous les codes classiques et théorèmes associés, tels les différents codes de Huffman, Shannon-Fano, le théorème de l'inégalité de Kraft-McMillan et l'algorithme de Sardinas-Patterson. Le second thème est la théorie et la pratique des algorithmes et techniques de compression. Le troisième thème est une introduction à la théorie algorithmique de l'information de Kolmogorov. Ces deux derniers thèmes sont présentés en étant mis en relation avec la théorie de Shannon, ce qui nous permet d'étudier les limites de chacune des approches.

Volume horaire

  • CM : 16.5
  • TD : 33
  • TP : 0
Diplômes intégrant cette UE

En bref

Crédits ECTS 5

Période de l'année
premierSemestre

Contact(s)

Contact(s) administratif(s)

Gregory LAFITTE (gregory.lafitte @ umontpellier.fr)