Что такое информация — это философский вопрос. Информация — это физическая субстанция, которую можно померять. Информация тесно связана с таким понятием, как вероятность — вероятность события. Информация — это все новое, неизведанное, все, что может быть использовано для осознанного действия — действяи по улудшению своего состояния в этом мире. Информация пропорциональна вероятности того, что событие произойдет. При чем, чем больше вероятность, темменьше информации. Тоесть I~1/PНо информация должна обладать эффектом аддитивности. Тоесть информация о суммарном событии должна быть равна сумме информация о каждом из (независимых!) событий: I (Q1*Q2)=1/P (Q1*Q2)=1/ (P (Q1)*P (Q2) не равно I (Q1)+I (Q2) Что бы добиться равинства, надо взять логорифм: I (Q1*Q2)=I (Q1)+I (Q2)=log (1/ (P (Q1)*P (Q2)=log (1/P (Q1)+log (1/P (Q2)=-log (P (Q1) — log (P (Q2) Основание логорифма определяет единицу измерения информации. Если основание "2", то единица измерения «бит» . Таким образом мы определяем что такое 1 бит информации: 1=log2 (P (Q) => P (Q)=1/21 бит — это информация о событии, вероятность которого равна 1/2.