Теория информации как самостоятельная дисциплина появилась в процессе решения последующей задачки: обеспечить надежную и эффективную передачу информации от источника к…
При прочих равных условиях наибольшую энтропию имеет опыт с равновероятными исходами. Другими словами, энтропия максимальна в опытах, где все финалы равновероятны.…
Отметим ряд параметров информация: 1. /(α, β) ≥ 0, при этом /(α, β) = 0 и тогда только тогда, когда…
1. Почему в определении энтропии как меры неопределенности выбрана логарифмическая зависимость меж Н и п? Почему избран log2? 2. Какова…
Найдем энтропию сложного опыта α ^ β в этом случае, если опыты не являются независящими, т.е. если на финал β…
Имеется три тела с схожими наружными размерами, но с различными массами х1, х2 и х3. Нужно найти энтропию, связанную с…
Поучительность только-только рассмотренного примера в том, что из него ясно видно как предыдущий опыт (α) может уменьшить количество исходов и,…
1) Как надо из (2.4), Н = 0 исключительно в 2-ух случаях: (а) какая-либо из p(Aj) = 1; но, при…
В ящике имеются 2 белоснежных шара и 4 темных. Из ящика извлекают поочередно два шара без возврата. Отыскать энтропию, связанную…
В некой местности имеются две близкорасположенные деревни: А и В. Понятно, что обитатели А всегда молвят правду, а обитатели В…