Содержательный подход к измерению информации: всё, что нужно знать

, , .

- , , , . , . .

:

• , , , , , ;
• , , , , , .

- , .

-. -. :

1. .
2. .
3. .

, . .. , , . , . , . .

, . 1948 . , . , I - , N - p_i - .

. , , . . , . 256 . , . 256=2⁸ , 8 .

1 - , . , , .

8 = 1 .

1024 = 1 .

1024 = 1 .

, . . , . . , , , , .

, , 1, 2 . , :

=log₂ , - , - . .

. , . , =4 ( ). , , , , , .

. =log₂=log₂4=2.

, 2. ? , - . , 2 .

. .

, , ? , . , , . , . . , , .