Допустим есть два алфавита $A=\{a_1,a_2,...,a_n\}$ и $B=\{b_1,b_2,...,b_n\}$, то мы можем каждому символу алфавита $A$, присвоить символ алфавита $B$, эта техника называется `кодированием`. С помощью кодирования можно `закодировать` сообщение, передать его, а потом восстановить его `декодированием`. ## Задачи кодирования 1. [[Однозначность кодирования]] 2. [Минимальная избыточность](Минимальная%20избыточность%20кодирования.md) 3. [устойчивость к ошибкам](Устойчивость%20к%20ошибкам%20во%20время%20кодирования.md) ## Типы кодирования - [[Алфавитное кодирование]] #### Суффикс Это несколько первых букв слова #### Префикс Это несколько последних букв слова ## Неравенство Макмиллана $\sum\limits_{K=1}^r\frac{1}{q^ek}$, где $\begin{cases}r\ -\ размер\ исходного\ алфавита\\ q\ -\ размер\ кодируемого\ \end{cases}$