La définition de Redondance
La redondance désigne le degré du caractère non informatif d'un message.
La redondance selon la théorie de l'information
D'après la théorie de l'information, le caractère informatif d'un message est fonction de l'incertitude d'apparition de chacun de ses éléments, c'est-à-dire de leur imprévisibilité. L'information transmise par le message est maximale lorsque l'incertitude moyenne est maximale. Mais c'est alors aussi que le message est le plus aisément dégradable par des modifications aléatoires.
Par conséquent, on introduit dans la plupart des messages un certain degré, généralement exprimé en termes probabilistes, de prévisibilité. C'est ce qui constitue la redondance. Le langage naturel est organisé de telle manière qu'il est extrêmement redondant.