From geo@sky.kuban.ru Wed Feb 20 18:59:40 2002
Newsgroups: relcom.sci.philosophy
Subject: Энтропия и статистическая физика
From: "Georgiy Zaretskiy"
Date: 20 Feb 2002 12:59:40 +0300
--------

Энтропия в статистической физике
================================

Определения энтропии
--------------------

1.2. Энтропия Больцмана-Гиббса-Шеннона

В статистической теории открытых систем энтропия является
одной из важнеших характеристик и может играть три разных ро-
ли:
- служить мерой неопредленности при статистическом описании
- мерой относительной степени упорядоченности неравновесных
состояний открытых систем
- мерой разнообразия в теории эволюции, без которого стано-
вится невозможным естественный отбор.

На разных этапах развития статистической теории и теории
информации были предложены отличающиеся по форме и степени об-
щности определения энтропии.
Впервые связь введенной ранее в термодинамике энтропии с
функцией распределения координат и импульсов чатиц f(r,p,t)
была установлена Больцманом на примере разреженного газа.

ЭНТРОПИЯ БОЛЬЦМАНА выражается через функцию распределения
f(x,t):

Sb = - k*n*INTEGRAL f(x,t)*ln f(x,t) dx + S0 (1.2.4)

Значение константы S0 зависит от выбора размера ячейки в
фазовом пространстве x = (r,p), однако не играет роли,
поскольку для всех приведенных ниже критериев использует раз-
ность энтропий двух разных состояний.

Рассмотрим 6N-мерное фазовое пространство
X = (r[1],...,r[N], p[1],...,p[N])

Введем функцию распределения в 6N-мерном фазовом прост-
ранстве f[N](X,t). Через эту функцию выражается ЭНТРОПИЯ ГИББСА

Sg = - k*INTEGRAL f[N](X,t)*ln f[N](X,t)dX + S0 (1.2.7)

Константу S0 можно выбрать таким образом, чтобы в отсуст-
вии корреляций, когда распределение f[N](X,t) выражается через
произведения распределений отдельных частиц, энтропии Больцма-
на и Гиббса совпадали:

Sb = Sg (1.2.9)

Естественно, что выражение (7) является более общим, чем
выражение (4) так как оно справедливо и при наличии корреляций
координат и импульсов частиц. При учете корреляций равенство
(9) нарушается и заменяется неравенством

Sg =< Sb (1.2.10)

Энтропии Больцмана и Гиббса были введены при статисти-
ческом описании систем частиц, когда имкроскопическое состоя-
ние характеризуется набором пар сопряженных координат и им-
пульсов частиц системы. Определение энтропии через средние
значения функции распеределения энтропии, однако, более значе-
ние так как выражения такого типа обладают совокупностью
свойств, которые позволяют использовать их в качестве меры не-
определенности при статисчтическом описании. На это обратил
внимание К Шеннон - один из создателей теории информации.
Это дает основание использовать более общее определение
энтропии - ЭНТРОПИИ ШЕННОНА

S(t) = - INTEGRAL f(X,t)*ln f(X,t)dX + S0
(1.2.11)
INTEGRAL f(X,t)dX = 1

Здесь f(X,t) - функция распределения произвольного набора
переменных X, характеризующих состояние рассматриваемой систе-
мы. Опредленная таким образом энтропия может служить мерой не-
опредленности при любом распределении.
Если состояние системы характеризуется дискретным набором
переменных n с функцией рапределения f[n], то энтропия опреде-
ляется выражением

S(t) = - SUM f[n]*ln f[n], SUM f[n] = 1 (1.2.12)
n n

Свойства энтропии, позволяющие принять ее за меру неопре-
деленности при статистическом описании, приводятся в курсах
теории информации (например, Стратонович, 1975) и некоторых
курсах статистической физики (например, Климонтович, IV, гл.4)

1.11 Н-теорема дял открытых систем
Энтропия Кульбака.

Среди систем, которые могут обмениваться энергией, выде-
ляется важный класс систем, движение в которых можно рассмта-
ривать как броуновское.
В таких системах "... разность свободных энергий F(t) и
F0 (где индекс "0" относится к равновесной характеристике) оп-
ределяется выражением

LF = F(t) - F0 = kT*INTEGRAL f ln(f/f0)dv >= 0 (1.11.3)

Оно представляет пример так называемой ЭНТРОПИИ КУЛЬБАКА

1.15 Динамическое и статистическое описание сложных дви-
жений. К-энтропия, показатели Ляпунова. Нелинейные характе-
ристики расходимости траекторий.

Ранее отмечено, сколь драматическим было "соперничество"
динамической и статистической теорий при описании сложных дви-
жений в открытых макроскопических системах. Хотя "накал
страстей" в настоящее время существенно ослаб, эти два направ-
ления и по сей день развиваются в значительной степени неза-
висимо, несмотря на значительные усилия в направлении их объе-
динения.
....
Сложные движения в динамике первоначально были обнаружены
в гамильтоновых системах. Для их харакетистики и было введено
понятие "динамический хаос". В настоящее время этот термин ши-
роко используется и для характеристики сложных движений в
диссипативных динамических системах.
Основной особенностью динамического хаоса является дина-
мическая неустойчивость движения - экспоненциальная расходи-
мость близких в начальный момент времени траекторий,
вследствии чего имеется высокая чувствительность к изменению
начальных условий. Мерой экспоненциальной расходимости служит
К-ЭНТРОПИЯ (ЭНТРОПИЯ КРЫЛОВА-КОЛМОГОРОВА-СИНАЯ). К-энтропия
связана со средней скоростью разбегания близких в начальный
момент траекторий и, следовательно, с показателями Ляпунова.
К-энтропия выражается через положительные показатели Ляпунова
по формуле

K = SUM lanbda[i] (lambda[i]>0) (1.15.1)
i

Таким образом, K-энтропия равна нулю, если нет положи-
тельных показателей Ляпунова.

К-энтропия является критерием динамической неустойчивости
движения.


H-теорема Больцмана
-------------------

1. Н-теорема Больцмана (идеальный газ)
-----------------------------------

Источник:
---------
Климонтович Ю.Л. Турбулентные движения и структура хаоса:
Новый подход к статистической теории открытых систем.
- М.: Наука. Гл. ред. физ.-мат. лит., 1990. - 320 с.
- ISBN 5-02-014038-4.
1.8 Н-теорема Больцмана для сглаженных (пульсирующих)
и детерминированных распределений.
с.61-63


< О смысле Н-теорема Больцмана для замкнутой системы >

"Н-теорема Больцмана состоит в утверждении,что замкнутой
(для частиц) системе в процессе эволюции к равновесию энтропия
возрастает и остается неизменной при достижении равновесного
состояния".
Однако это не совсем точная формулировка H-теоремы.
Возрастание энтропии в системе описываемой уравнением Больцма-
на будет в том случае, если процесс будет таков, "....что в
процессе эволюции к равновесному состоянию" сохраняется СРЕД-
НЯЯ ЭНЕРГИЯ.
"Условие постоянства средней энергии для уравнения Боль-
цмана - естественное свойство уравнения, а не дополнительное
условие. То, что в процессе эволюции сохраняется не сама энер-
гия E, а ее среднее значение , указывает на "внутреннюю не-
замкнутость" рассматриваемой системы - газа Больцмана. Такая
незамкнутость обусловлена не обменом энергией с окружающими
телами, а наличем бесконечного (в термодинамическом пределе)
резервуара внутренних степеней свободы.
Таким образом, утверждение о том, что Н-теорема Больцмана
справедлива для замкнутой системы, не является как мы видим,
точным".


###### Begin <Более подробное изложение>

Н-теорема Больцмана

Название "Н-теорема" установилось не сразу. Оно было пред-
ложено английским физиком Бербери в 1884 г. и вследующем году
было принято Больцманом. Выбор буквы "Н" определялся написани-
ем английского слова Heat - тепло. Тем самым подчеркивалось,
что речь идет об установлении теплового равновесия.
В руководствах по статистической физике утверждается,
Н-теорема Больцмана справедлива для ЗАМКНУТОЙ системы. Это ут-
верждение нуждается в очень существенном для дальнейшего изло-
жения уточнении.
Для доказательства Н-теоремы используются уравнения Боль-
цмана, свойства интеграла столкновений и граничные уловия для
функции распределения (два граничных условий). Первое из гра-
ничных условий означает невозможность выхода частиц газа за
пределы объема системы, а второе - отсутствие частиц с беско-
нечным значением импульса, и следовательно, кинетической энер-
гии. При этом для энтропии Больцмана

Sb = - k*n INTEGRAL f(r,p,t)*ln f(r,p,t) drdp

справедливо уравнение баланса энтропии

dSb/dt = INTEGRAL sigma(r,t) dr >= 0 (1.8.2)

Здесь введено обозначение для производства энтропии

sigma(r,t) = - k*n INTEGRAL Ib*ln f(r,p,t) dp

Ib - интеграл столкновений

Знак равенства в (2) относится к равновесному состоянию,
когда функция распределения f является распределением Максвел-
ла.
Таким образом, Н-теорема Больцмана состоит в утверждении,
что в замкнутой (для частиц) системе в процессе эволюции к
равновесию энтропия возрастает и остается неизменной при
достижении равновесного состояния.
Для дальнейшего изложения полезна несколько иная формули-
ровка этой теоремы. Наряду с двумя замечательными свойствами
интеграла столкновений *), используем и остальные свойства ин-
теграла столкновений. В процессе эволюции к равновесному
состоянию первое из них обеспечивает сохранение нормировки,
второе - среднего импульса, а третье - средней энергии.
Обозначим разность энтропий равновесного и неравновесно-
го состояний через Ls = Sb0 - Sb(t).
С помощью определения энтропии Больцмана, свойств интегра-
ла столкновений и неравества ln a >= 1-1/a (при a = f/f0) при-
ходим к следующему результату

Ls = Sb0 - Sb(t) >= 0 (1.8.5)

Таким образом, разность энтропий Sb0 - Sb(t) является
функционалом Ляпунова, поскольку интеграл в (5) является зна-
копостоянным и обращается в нуль лишь для равновесного состо-
ния. Индекс "s" подчеркивает, что ввденный функционал Ляпунова
опеделяется именно разностью энтропий. Из (2) следует знако-
постояноство и производство Ls

dLs/dt = d(Sb0 - Sb(t))/dt < = 0 (1.8.6)

Поскольку знаки выражений (5), (6) различны, то состояние
равновесия с функцией распеделения f0, для которого Ls=0, яв-
ляется устойчивым. Для него энтропия максимальна.

При установлении результата (5) существенно, что в про-
цессе эволюции к равновесному состоянию СРЕДНЯЯ ЭНЕРГИЯ СОХРА-
НЯЕТСЯ. Только при наличии этого условия функционалом Ляпунова
является именно разность энтропий, а не каких-либо других
функций. Существенно и другое.
Условие постоянства средней энергии (4) для уравнения
Больцмана - естественное свойство уравнения, а не дополнитель-
ное условие. То, что в процессе эволюции сохраняется не сама
энергия E, а ее среднее значение , указывает на "внутреннюю
незамкнутость" рассматриваемой системы - газа Больцмана. Такая
незамкнутость обусловлена не обменом энергией с окружающими
телами, а наличем бесконечного (в термодинамическом пределе)
резервуара внутренних степеней свободы.
Таким образом, утверждение о том, что Н-теорема Больцмана
справедлива для замкнутой системы, не является как мы видим,
точным.

###### End <Более подробное изложение>



2. Н-теорема для неидельного газа
-----------------------------------

На примере Н-теоремы Больцмана мы видели, что энтропия
является функцией Ляпунова при дополнительном условии постоян-
ства средней энергии. Для разряженного газа, эволюция которого
к состоянию равновесия описывается уравнением Больцмана, усло-
вие постоянства средней энергии является естественным - прямым
следствием уравнения Больцмана. Ситуация, однако, существенно
усложняется при рассмотрении неидеального газа.
ДОКАЗАТЬ H-ТЕОРЕМУ ДЛЯ НЕИДЕАЛЬНОГО ГАЗА В ОБЩЕМ ВИДЕ НЕ УДАЕТСЯ.



3. Н-теорема для общего случая открытых систем
-------------------------------------------

В открытых системах положение является, естественно более
сложным. В тех случаях, когда удается ввести понятие эффектив-
ной энергии - эффективной функции Гамильтона, среднее значение
энергии в процессе временной эволюции к стационарному состоя-
нию не сохраняется.

4. Теорема Гиббса
--------------

Источник:
---------
Климонтович Ю.Л. Турбулентные движения и структура хаоса:
Новый подход к статистической теории открытых систем. -М.: На-
ука. Гл. ред. физ.-мат. лит., 1990. - 320 с. -ISBN
5-02-014038-4.
1. Теорма Гиббса. c.69-71

Рассмотрим теперь теорему Гиббса, при доказательстве ко-
торой не делается каких-либо ограничений на характер взаимо-
действия частиц рассматриваемой системы. В этом отношении ре-
зультат Гиббса является более общим, чем Н-теорема Больцмана.
Гиббс не рассматирвает временную эволюцию к равновесному
состоянию, и теорема Гиббса не утверждает, что при переходе к
равновесному состоянию энтропия системы монотонно возрастает.
Гиббс лишь производит сравнение энтропии равновесного состоя-
ния с энтропией произвольного состояния, но при одном сущест-
венном ограничении: средняя энергия "произвольного" состояния
совпадает со средней энергией равновесного состояния. Таким
образом, как и при доказательстве Н-теоремы Больцмана, сравне-
ние разных состояний производится при одном и том же значении
средней энергии. Здесь, однако, это условие не является
естественным свойством какого-либо уравнения, а выступает как
дополнительное.
Итак согласно теореме Гиббса при условии постоянства
средней энергии энтропия максимальна в равновесном состоянии.
Поскольку энтропия служит мерой неопределенности при статисти-
чеком описании, то равновесное состояние является наиболее
хаотическим по сравнению с "произвольным" неравновесным сосо-
тоянием. Произвол ограничен условием постоянства средней энер-
гии - условием
INTEGRAL { H(X)f0(x) dX } = INTEGRAL { H(X)f(x) dX }



Принцип минимума производства энтропии
--------------------------------------

Источник:
---------

Климонтович Ю.Л. Турбулентные движения и структура хаоса:
Новый подход к статистической теории открытых систем. -М.: На-
ука. Гл. ред. физ.-мат. лит., 1990. - 320 с. -ISBN
5-02-014038-4.

1.18 Принцип минимума производства энтропии в процессах
саморганизации.
с.97-98


1. Принцип минимума производства энтропии
--------------------------------------

" ....... производство энтропии в новом устойчивом
состоянии, возникшем после очередного неравновесного фазового
перехода, меньше производства энтропии старого, но продолжен-
ного в неустойчивую область системы".


В работах Ильи Пригожина по неравновесной термодинамике
сформулирован "Принцип мимнимума производства энтропии в ста-
ционарных состояниях". Он может быть выражен неравеством

d
-- (dS/dt) = d Sigma/dt <=0, Sigma-ст <= Sigma(t)
dt

Sigma-ст - производство энтропии в стационарном состоянии,
Sigma(t) - производство энтропии в момент в момент време-
ни t установления стационарного состояния.

Справедливость неравенства была доказана для линейных необра-
тимых процессов, т.е. в рамках линейной термодинамики.

Оставался открытым вопрос: можно ли обобщить результат
Пригожина на случай нелинейных термодинамических систем? Про-
веденные исследования показали, что такой возможности нет.
Точнее можно сказать, что обобщение возможно, но при условиях,
которые могут реализоваться лишь в частных случаях.

Основываясь на конкретном результате, можно сформулиро-
вать более общее утверждение, которое назовем "Принципом мини-
мума производства энтропии в процессах саморганизации". Смысл
утверждения состоит в следующем.
Рассмотрим процесс самоорганизации как результат неравно-
весного фазового перехода. Это может быть, конечно и последо-
вательность фазовых переходов. Используя введенные выше обоз-
начения Sigma-уст., Sigma-неуст., выразим сформулированный вы-
ше принцип неравенством

Sigma-уст. <= Sigma-неуст. (1.18.3)

Таким образом, производство энтропии в новом устойчивом
состоянии, возникшем после очередного неравновесного фазового
перехода, меньше производства энтропии старого, но продолжен-
ного в неустойчивую область системы. Расчет величин
Sigma-уст., Sigma-неуст. производится при дополнительном усло-
вии, которое диктуется структурой выражения для производства
энтропии.
ПРИВЕДЕННЫЙ ПРИНЦИП МИНИМУМА ПРОИЗВОДСТВА ЭНТРОПИИ СФОР-
МУЛИРОВАН НА ОСНОВЕ ЧАСТНОГО ПРИМЕРА. ВОПРОС ОБ ОБЩЕМ ДОКАЗА-
ТЕЛЬСТВЕ ОСТАЕТСЯ ОТКРЫТЫМ.

-------------------------------


Общие выводы:
------------

1. Н-теорема Больцмана имеет доказательство для процессов,
для которых соблюдается условие сохранения среднего
значения энергии и для случая описания, в котором можно
ввести интеграл столкновения, подобный больцмановскому
(то есть для случая идеального газа)

2. "Доказать, Н-теорему для неидеального газа а общем виде
не удается".

3. Для общего случая открытых систем, даже в тех "случаях,
когда удается ввести понятие эффективной энергии - эффективной
функции Гамильтона, среднее значение энергии в процессе
временной эволюции к стационарному состоянию не сохраняется",
то есть опять же доказать Н-теорему нельзя.

4. "Гиббс не рассматривает временную эволюцию к равновесному
состоянию, и теорема Гиббса не утверждает, что при переходе к
равновесному состоянию энтропия системы монотонно возрастает.
Гиббс лишь производит сравнение энтропии равновесного состоя-
ния с энтропией произвольного состояния, но при одном сущест-
венном ограничении: средняя энергия "произвольного" состояния
совпадает со средней энергией равновесного состояния". Но
условие постоянства средней энергии в этом случае есть допол-
нительное, внешнее условие.

5. Принцип мимнимума производства энтропии сформулирован
на основе частного примера. Что касается вопроса об общем
доказательстве этого приципа, то он остается открытым.

* * *

Однако, хотя понятие энтропии и теряет первоначальный
смысл, характерный для классической термодинамики, в открытых
системах это параметр может быть использован в несколько ином
качестве, не столько в качестве жесткого ограничения, сколько
в качестве оценочного параметра:
"И все же энтропия Больцмана-Гиббса-Шеннона может быть
использована для оценки относительной степени упорядоченности
соcтояний открытых систем как при временной эволюции, так при
эволюции в пространстве управляющих параметров".

* * *









Built by Text2Html