Тиетта. 2017, N 2 (40).

Г / 2 h Наука / Science РАЗВИТИЕ 11 ПРИЛОЖЕНИЯ попятил днтрапин Р а бо ты исгорііко - ло МАТЕМЛТІРІЕСТСИЕ ТЕОРИИ иосявдваши ИНФОРМАЦИИ и КИБЕРНЕТИКЕ Ш ' час размывает исходное понятие и подменяет строгие определения интуициями и метафора­ ми. Основные результаты классического периода в естественных науках изложены в трудах следую­ щих авторов: Н. Винер, А.Н. Колмогоров, В. Ко­ тельников, Дж. фон Нейман, У. Уивер, Р. Фишер, Р. Хартли и др. Из названных учёных професси­ онально занимался математической обработ­ кой биологических данных лишь Р. Фишер, ан­ глийский статистик, биолог-эволюционист, автор «критерия Фишера» сравнения выборок, основа­ тель журнала «Biometrica». Три аксиоматики - одна энтропия Заглянем в первоисточники. Какие сообра­ жения трижды в истории независимо привели к одной формуле? П. Шамбадаль (1967) приво­ дит три доказательства формулы Больцмана (§ 43, с. 153-156; § 45, с. 160-163, § 46, с. 163-166). Первое наиболее просто. «Однако простота эта связана с тем, что существование связи между энтропией и вероятностью принимается a priori, потому что эти две величины всегда изменяются в одном на­ правлении. С одной стороны, согласно принципу Клаузиуса, всякая система эволюционирует так, что энтропия её возрастает. А с другой, эта эво­ люция естественно направлена всегда к более ве­ роятным состояниям. Иначе говоря, вероятность последовательных состояний системы растёт вме­ сте с энтропией этих состояний. Ситуацию мож­ но выразить математически, полагая S = f(W ), где W - вероятность, а f - некоторая возрастающая функция. Вид этой функции может быть без тру­ да установлен, исходя из того факта, что энтропия системы равна сумме энтропий составляющих си­ стему частей, а вероятность некоторого состояния системы равна произведению вероятностей со­ стояний составляющих систему частей (если они независимы - Ю.В.). Если, например, число ком­ понент системы равно двум, то, с одной стороны, S = Sj + S2 , а с другой, W = W1 W2 , где индексы 1 и 2 соответствуют двум компонентам системы. Отсюда следует f(W j W2) = f(W j) + W . Чтобы решить это функциональное уравне­ ние, достаточно продифференцировать его по­ следовательно по W1 и W2. Первое дифференци­ рование ведёт к уравнению W2 f'(W 1W2) = f'(W 1) , а второе - к уравнению f7(W1W2) + W1 W2 f' (W 1W2) = 0 , или /(W ) + W f'(W ) = 0 . Общее решение этого дифференциального уравнения имеет вид f(W ) = a In W + С , где а и С - постоянные интегрирования. (Для по­ вторения темы рекомендуем § 10 из задачника А.Ф. Филиппова (1985) - Ю.В.). Отвлекаясь от ад­ дитивной постоянной С и учитывая соотношение f(W ) = S, получаем формулу Больцмана S = a ln W. Таким образом, энтропия системы в некотором состоянии пропорциональна логарифму вероят­ ности этого состояния» (с. 154-155). Иначе подходит к выводу формулы К. Шеннон (1963, с. 259-260). «Предположим, что имеется некоторое множество возможных событий, веро­ ятности осуществления которых суть p1, p2 ... p .