Théorie mathématique de l’information et communication: le canal, le codage – C. Shannon et W. Weaver

Le schéma général

shannon1

Définition des principaux concepts

Proposée par C. Shannon et W. Weaver (voir Weaver 1949), la théorie mathématique de l’information et communication repose sur trois grands principes :

  • on étudie le canal entre Émetteur et Récepteur;
  • la quantité d’information est mesurable;
  • le codage de l’information doit s’adapter à la capacité du canal.

En mettant ici la priorité sur l’analyse du canal de transmission, on s’oppose aux théories de la communication qui mettent en avant le feedback ou à celles qui mettent en avant le contexte structurel:

CarteCommunication

1. Émetteur et Récepteur

La situation de base correspond à un émetteur qui code un message en une série de “grains” assemblés en une séquence. L’ensemble du message comporte N éléments (les lettres de l’alphabet par exemple) qui sont envoyés dans un canal à destination d’un récepteur (voir le schéma 1).

2. La mesure de l’information

Avant Shannon personne n’avait pensé que l’on pouvait quantifier une information, ni que cette quantité dépendait des probabilités d’apparition des signes (trivialement, on pourrait dire que si je sais déjà tout ce qui va être transmis par le prochain signe, alors l’information est nulle pour moi).

L’entropie H permet d’évaluer la quantité d’information maximale d’une source X en fonction de N le nombre de signes et de Pi les probabilités d’apparition de ces signes:shannon2 Si on cherche à transmettre le maximum d’information avec le minimum de signes, alors il faudrait que tous les signes soient utilisés avec des probabilités égales. Ainsi la quantité maximale contenue au départ dans une pièce de monnaie pour jouer à pile ou face est 1 (voir le calcul ci-dessus), et la quantité maximale contenue dans un dé à 6 faces avant de jouer est 2,58 (voir Waever 1949).

3. La capacité limitée des canaux

Shannon a démontré que si la quantité d’information reste inférieure à la capacité du canal, alors les pertes tendent vers zéro en l’absence de bruit (car on peut alors trouver un code tel que la probabilité d’erreur lors de la transmission soit aussi faible que l’on veut). Pour le codage d’un alphabet par exemple, la stratégie intuitive de base consiste à attribuer des codes courts aux lettres fréquentes, et des codes longs aux lettres moins fréquentes : dès 1830, dans le codage du Morse pour la télégraphie, le E était un “point”, le T était un « trait”, mais le Y était “trait-point-trait-trait”.

L’importance des concepts développés par C. Shannon et W. Weaver est considérable, car c’est cette analyse quantitative de l’information qui est à l’origine de la notion de bande passante dans un canal, de tous les algorithmes de codage (JPEG, MPEG…) et des protocoles pour la transmission des données par Internet (TCP-IP, HTTP, FTP…) et par la téléphonie mobile (réseaux sans fil, 4G, 5G…).

4. La discussion de la théorie mathématique de l’information

La théorie mathématique limite son analyse à un messager dont la fonction est de transférer un objet-information (sous forme d’une série de “grains” assemblés en séquence). Elle est conceptuellement indifférente à la signification du message (voir  les explications de W. Weaver, 1949, partie 3) et elle est alors souvent considérée comme simpliste dans la communication organisationnelle (voir Juignet 2015) par rapport aux théories de la communication vue comme un échange dans une relation (voir Le feedback dans la communication) ou vue comme une construction sociale de sens (voir Le contexte de communication).

  • On retrouve pourtant les concepts de Shannon en psychologie cognitive (voir Ramel 2012, Heurley 2013), notamment pour définir les limitations de la capacité humaine de traitement de l’information (le nombre “magique” de Miller : 7 +/- 2, lien) ou pour analyser les processus de mémorisation à court terme et long terme ( voir la théorie de B. Broadbent, lien).
  • On retrouve aussi l’idée d’une adaptation à rechercher entre le message et le canal dans la Théorie de la richesse des médias (voir le schéma 2 et voir Daft et Lengel 1986). On considère alors l’équivoque du message à transmettre et les différents canaux sont classés selon un continuum, du plus ” riche ” au plus ” pauvre ” (selon la vitesse de réaction, la variété des canaux disponibles, la personnalisation, la richesse du langage) : le manager “rationnel” préférera choisir le canal dont la richesse perçue (depuis le SMS … jusqu’au face-à-face) correspond au mieux à l’équivoque perçue du message à transmettre (depuis l’heure d’une réunion… jusqu’aux arguments qu’il faudra présenter).
  • Mais on retrouve surtout l’idée de l’importance considérable des caractéristiques du canal et du codage dans la compréhension des nouvelles formes possibles de la communication sur le Web (nombre de caractères d’un Tweet, codage des photos et vidéos, flux RRS, protocoles des réseaux sans fil… voir Analyse des réseaux sociaux) et dans les nouvelles formes possibles de la téléphonie mobile (bande passante et protocole 5G, Internet des Objets… ).
  • et comme l’explique W. Weaver (1949, chap. 3) en distinguant les trois niveaux de problèmes de la communication (technique, sémantique et efficacité) « the theory treated by Shannon, although ostensibly applicable only to Level A problems, actually is helpful and suggestive for the level B and C problems« . Voir alors la Théorie des Genres de communication.

.

Voir les autres théories utilisées dans le développement des SI

Voir la carte générale des théories en management des S.I.

RÉFÉRENCES

Warren Weaver (1949), Recent Contributions to The Mathematical Theory of Communication

Pdf

R. Daft, R. Lengel (1986), Organizational information requirements, media richness and structural design, Management Science

le  lien   ou le   Pdf

Ramel J-Y (2012) Théorie de l ’information, Université de Tours

le lien

Heurley L. (2013), La théorie mathématique de la communication et la psychologie cognitive

Pdf

Juignet P. (2015), Philosophie des théories scientifiques de l’information in Philosophie, Science et société

Pdf