Энтропия. Теория информации
Категория реферата: Рефераты по физике
Теги реферата: урок изложение, конспект урока 3
Добавил(а) на сайт: Iustin.
Предыдущая страница реферата | 3 4 5 6 7 8 9 10 11 12 13 | Следующая страница реферата
ИНФОРМАЦИОННО-ЭНТРОПИЙНЫЕ СООТНОШЕНИЯ ПРОЦЕССОВ АДАПТАЦИИ И РАЗВИТИЯ
Одна из теорем Шеннона свидетельствует об уменьшении информационной
энтропии множества АВ, образованного в результате взаимодействий двух
исходных упорядоченных множеств Либ.
|H (A,B) ? H(A) + H(B) |(3.1) |
В этом соотношении знак равенства относится к случаю отсутствия взаимодействий между множествами А и В .
В случае взаимодействий происходит уменьшение энтропии на величину:
( H = Н(А) + Н(В) - Н(А,В)
(3.2)
Согласно негэнтропийному принципу информации (3.4) получаем :
( IS =Н(А) +Н(В) - Н(А,В)
(3.3)
Распространяя рассмотренные Шенноном взаимодействия абстрактных математических множеств на случаи взаимодействий реальных физических систем, можно сделать следующие выводы :
1. Соотношения ( 3.1 ), (3.2) и (3.3 ) можно распространить на случаи взаимодействий упорядоченных физических систем, в частности на взаимодействия физических сред с различными видами полей.
При этом необходимо осуществлять переход от информационной энтропии Н к термодинамическай энтропии S , используя соотношение (1.4) Приложений 1.
2. Знак равенства в соотношении (3.1) соответствует случаю отсутствия взаимодействия между рассматриваемыми физическими системами
(например, случай воздействия магнитного поля на не обладающую магнитными свойствами среду).
3. Во всех остальных случаях в соответствии с соотношением (3.3) происходит накопление структурной информации ( IS, характеризующей увеличение упорядоченности структуры вновь образующейся системы
(формирование и ориентация магнитных доменов под воздействием магнитного поля, структуализация под воздействием электрического поля поляризуемых сред и т.п.).
С помощью вероятностной функции энтропии можно описать формальным математическим языком процесс адапации системы к внешним воздействиям, понимая процесс адаптации как обучение оптимальному поведению в заданных условиях внешней среды.
Рассмотрим систему, обладающую возможностью выбора одного из N возможных ответов (реакций) на внешние воздействия. До прохождения обучения система способна отвечать на любые воздействия лишь выбранной наугад реакцией i, причем i может принимать любые значения от i = 1 до i = N, т.е.: i=1,2,3,.. . N ,
(3.4)
При этом условии вероятности всех ответов равны друг другу, т.е.:
Р1= Р2 = … =PН=1/N
(3.5)
Как было показано ранее, при этом условии реальная энтропия Нr равна
максимальной энтропии Hmax, т.е.:
|Hr = -|i =|pi log pi = log N = Hmax |(3.6) |
| |N | | |
| |( | | |
| |i =| | |
| |1 | | |
В результате обучения возникают различия вероятностей разных реакций.
В соответствии с рассмотренными ранее свойствами функции
|( pi log |
|pi |
|i| |
Рекомендуем скачать другие рефераты по теме: реферат сила, культурология как наука.
Предыдущая страница реферата | 3 4 5 6 7 8 9 10 11 12 13 | Следующая страница реферата