Прежде всего необходимо пояснить установленную Больцманом связь между вероятностью и энтропией. Воспользуемся для этого моделью урн,
предложенной П. и Т. Эренфестами[201]. Рассмотрим N предметов (например, шаров), распределенных между двумя контейнерами (урнами) А и В. Предположим, что через одинаковые промежутки времени (например, через секунду) мы извлекаем наугад шар либо из урны А, либо из урны В и перекладываем его в другую урну. Пусть через п шагов в урне А находится k шаров, а в урне В — остальные N—k шаров. Тогда на (n+1)-ом шаге в урне A может оказаться либо k—1, либо k+1 шаров и вероятность перехода равна k/N для k→k—1 и 1—k/N для k→k+1. Предположим, что мы продолжаем извлекать шары наугад из урн и перекладывать их в другую урну. Мы ожидаем, что в результате перекладывания шаров установится наиболее вероятное их распределение по урнам в смысле Больцмана. Если число шаров N достаточно велико, то шары с наибольшей вероятностью распределятся между урнами А и В поровну: в каждой урне по N/2 шаров. В этом нетрудно убедиться, проделав соответствующие вычисления или выполнив экспериментальную проверку.
Рис. 24. Приближение к равновесию (k=N/2)
в модели урн Эренфестов (ход кривой изображен схематически).
Модель Эренфестов — простой пример марковского процесса
(или цепи Маркова), названного так в честь выдающегося русского математика академика А. А. Маркова, одним из первых исследовавшего такие процессы (Пуанкаре был вторым). Кратко отличительную особенность марковских процессов можно сформулировать следующим образом: вероятности переходов однозначно определены и не зависят от предыстории системы.Цепи Маркова обладают замечательным свойством: их можно описать с помощью энтропии. Пусть P(k) —
вероятность найти k шаров в урне A. Вероятности Р(К) можно сопоставить H-функцию, свойства которой в точности совпадают со свойствами энтропии, рассмотренной нами в гл. 4. На рис. 25 показано, как H-функция изменяется во времени. Мы видим, что она изменяется монотонно, как и энтропия изолированной системы. Правда, H-функция убывает, а энтропия S возрастает, но так происходит «по определению»: H играет роль — S.
Рис. 25. Временная эволюция H-функции (определенной в тексте), соответствующая модели Эренфестов. H монотонно убывает и при t→∞ стремится к нулю.
Математический смысл H-функции заслуживает того, чтобы рассмотреть его более подробно: H-функция служит мерой отклонения вероятностей в данный момент времени от вероятностей в равновесном состоянии (когда число шаров в каждой урне равно N
/2). Рассуждения, используемые в модели урн Эренфестов, допускают обобщение. Рассмотрим разбиение квадрата, т. е. разделим квадрат на некоторое число непересекающихся областей. Нас будет интересовать распределение частиц по квадрату. Пусть Р(k, t) — вероятность найти частицу в области k (в момент времени t), а Рравн(k) — вероятность найти частицу в области k в равновесных условиях. Предполагается, что, как и в модели урн, вероятности переходов существуют и однозначно определены. По определению, H-функция задается выражением
Заметим, что в правую часть входит отношение P(k,t)/P
равн(k). Предположим, что мы разделили квадрат на восемь непересекающихся клеток и Рравн(k)=1/8. Пусть в момент времени t все частицы находятся в первой клетке. Тогда P(1,t)=1, a во всех остальных клетках вероятности P(k,t) равны нулю. Следовательно, H=ln(1/(1/8))=ln8. Со временем частицы распределяются по клеткам равномерно, и P(k,t)=Pравн(k)=1/8. H-функция при этом обращается в нуль. Можно показать, что H-функция убывает монотонно, как это изображено на рис. 25. (Доказательство этого утверждения приводится во всех учебниках по теории стохастических процессов.) Именно поэтому H-функция играет роль «негэнтропии» — S. Монотонное убывание H-функции имеет очень простой смысл: оно отражает и служит мерой прогрессирующего выравнивания неоднородностей в системе. Начальная информация утрачивается, и система эволюционирует от «порядка» к «беспорядку».Заметим, что марковский процесс включает в себя флуктуации. Это отчетливо видно на рис. 24. Подождав достаточно долго, мы могли бы вернуться в исходное состояние. Следует, однако, подчеркнуть, что речь идет о средних: монотонно убывающая Hм
-функция может быть выражена через распределения вероятностей, а не через отдельные события. Именно распределение вероятностей эволюционирует необратимо (в модели Эренфестов функция распределения равномерно стремится к биномиальному распределению). Следовательно, на уровне функций распределения цепи Маркова приводят к однонаправленности во времени.