Кибернетический подход и система философских взглядов Винера



             

Кибернетический подход и система философских взглядов Винера - часть 10


В замкнутых же системах, согласно второму началу термодинамики, эта величина может только возрастать и достигает своего максимума в состоянии теплового равновесия системы.

В представлениях молекулярно-кинетической теории, где тепловая энергия рассматривается как энергия хаотического движения отдельных молекул, энтропия получает статистическую интерпретацию и характеризует, как показал Л. Больцман, каждое макроскопическое состояние системы числом способов, которым оно может быть достигнуто. При этом число возможных микросостояний системы выступает в качестве меры вероятности ее нахождения в том или ином макроскопическом состоянии. Согласно [c.11] известной формуле Больцмана, энтропия системы, находящейся в некотором состоянии, пропорциональна логарифму меры вероятности нахождения системы в этом состоянии.

Указанный статистический аспект энтропии был использован Винером для определения количества информации. Ученый рассматривал сообщение, передаваемое по некоторой линии связи, как последовательный ряд величин, представляющих собой соответствующие сигналы. По сравнению с хаотическим потоком электронов, создающих дробовой шум, любой несущий информацию сигнал является упорядоченной последовательностью событий, распределенных во времени. Тогда, подходя к сигналу независимо от конкретного содержания и назначения передаваемой им информации как к определенной выборке из множества возможных значений, обладающих соответствующими вероятностями, Винер при помощи математического вывода установил, что количество информации, будучи отрицательным логарифмом величины, которую можно рассматривать как вероятность, по существу есть некоторая отрицательная энтропия. Тем самым ученый в неявном виде также вводит понятие положительной информационной энтропии, проявляющей в принципе те же свойства, что и энтропия термодинамическая: возникновение разного рода помех, обусловленных внутренними свойствами любой коммуникационной системы, приводит к разупорядочению, искажению информационных сигналов и, соответственно, потере некоторого количества информации в процессе ее передачи.


Содержание  Назад  Вперед