Предыдущая страница реферата | 3  4  5  6  7  8  9  10  11  12  13 | Следующая страница реферата

[pic] (18) где

[pic]- вектор управления.

Задание стратегии означает полное описание конкретных решений, принимаемых на всех шагах процесса в зависимости от состояния, в котором находится в этот момент процесс.

Если в последовательности (векторе) ( все [pic] одинаковы, то такая стратегия называется стационарной, т.е. не зависящей от номера шага.
Стратегия [pic] называется марковской, если решение [pic], принимаемое в каждом конкретном состоянии, зависит только от момента времени n, но не зависит от предшествующих состояний.

Оптимальной будет такая стратегия, которая максимизирует полный ожидаемый доход для всех i и n. В теории УМЦ разработаны два метода определения оптимальных стратегий: рекуррентный и итерационный.

Первый, рекуррентный, метод применяется чаще всего при сравнительно небольшом числе шагов n. Его идея основана на применении принципа
Беллмана и заключается в последовательной оптимизации дохода на каждом шаге с использованием рекуррентного уравнения следующего вида:

[pic] (19) где

[pic] - полный ожидаемый доход;

[pic] шагов, если система находится в состоянии i;

[pic] - непосредственно ожидаемый доход, т.е. доход на одном шаге, если процесс начался с i-го состояния;

[pic] - величина полного ожидаемого дохода за n прошедших шагов, если процесс начинался с j-го состояния (i(j).

Таким образом, данный метод, по существу, аналогичен методу динамического программирования, отличием является лишь то, что на каждом шаге учитывается вероятность попадания системы в то или иное состояние.
Поэтому этот метод называют стохастическим динамическим программированием.

Конкретное применение метода будет рассмотрено далее на примере.

Второй - итерационный метод оптимизации применяется при неограниченном числе этапов (шагов) процесса. Этот метод использует свойство эргодичности марковской цепи и заключается в последовательном уточнении решения путем повторных расчетов (итераций). При этих уточнениях находят решение, обеспечивающее в среднем минимум дохода при большом числе шагов. Оно уже не будет зависеть от того, на каком шаге производится оценка оптимальной стратегии, то есть является справедливым для всего процесса, независимо от номера шага. Важным достоинством метода является, кроме того, и то, что он дает возможность определить момент прекращения дальнейших уточнений.

Главное отличие итерационного метода от рассмотренного ранее, рекуррентного, заключается в том, что в данном случае используется матрица предельных (финальных) вероятностей, где вследствие свойства эргодичности переходные вероятности постоянны на всех шагах процесса. Поскольку матрица доходов состоит также из постоянных, не зависимых от n величин, то можно предположить, что с ростом n общая величина доходов будет возрастать линейно.

Представим графически линейную зависимость суммарного дохода от числа шагов [pic] (рис. 11).

Для наглядности график (см. рис. 11) изображен для УМЦ с двумя состояниями [pic] и [pic]. На графике прямая [pic] показывает зависимость суммарного дохода, если система “стартовала” из состояния [pic].
Соответственно, прямая [pic] изображает ту же зависимость для состояния
[pic]. Обе прямые могут быть описаны линейными уравнениями [pic]:

[pic] (20) где g - угловой коэффициент прямой [pic];

[pic] - доход в i-том состоянии в конце процесса.

Легко заметить, что при таком представлении зависимости [pic] величина непосредственно ожидаемого дохода q (см. формулу (19)) заменяется g.
Отличие здесь лишь в том, что g является величиной постоянной для всего процесса, в то время как q меняется на каждом шаге. Величина [pic] показывает, на сколько в среднем отличается доход, когда процесс заканчивается в том или ином состоянии. В теории марковских цепей [pic] называют весом, так как разница [pic] при двух состояниях показывает средний выигрыш от того, в каком состоянии мы находимся в конце процесса
(независимо от выбранной стратегии).

Рис. 11. Зависимость суммарного дохода от числа шагов

Таким образом, подводя итоги общих рассуждений, можно сказать, что свойство эргодичности позволяет нам считать справедливым приближенное равенство:

[pic] (21)

На этом предположении и основан итерационный метод. Суть его сводится к тому, что при разных стратегиях путем последовательных приближений определяются значения сумм

[pic] (22)

Рекомендуем скачать другие рефераты по теме: курсовая работа по менеджменту, написать сообщение.



Предыдущая страница реферата | 3  4  5  6  7  8  9  10  11  12  13 | Следующая страница реферата

Поделитесь этой записью или добавьте в закладки