Пожалуйста, запишитесь на course, прежде чем начать этот урок.
Количество информации, содержащееся в одном элементарном сообщении x_i, не полностью характеризует источник. Источник дискретных сообщений может быть охарактеризован средним количеством информации, приходящимся на одно элементарное сообщение, носящим название энтропия источника