Мёртвая вода. Часть 2

Аппарат динамического программирования позволяет решать задачи многопараметрической оптимизации в тех случаях, когда в силу разного рода объективно-математических причин (дискретность ограничений, нелинейности, нарушение свойства выпуклости и т.п.) аппарат линейного программирования неработоспособен. Вполне понятно, что он тоже не изучался и не изучается в большинстве вузовских курсов СССР и России на специальностях, в которых владение им придает квалификации специалистов КАЧЕСТВЕННО более высокий уровень.

Метод динамического программирования, как алгоритмическое выражение достаточно общей теории управления

В изложении существа метода динамического программирования мы опираемся на книгу “Курс теории автоматического управления” (Палю де Ла Барьер: французское издание 1966 г., русское издание — “Машиностроение”, 1973 г.), хотя и не повторяем его изложения. Отдельные положения взяты из упоминавшегося ранее курса “Исследование операций” Ю.П.Зайченко.

Метод динамического программирования работоспособен, если формальная интерпретация реальной задачи позволяет выполнить следующие условия:

1. Рассматриваемая задача может быть представлена как N‑шаговый процесс, описываемый соотношением:

X_n + 1 = f(X_n , U_n , n), где  n — номер одного из множества возможных состояний системы, в которое она переходит по завершенииn-ного шага;X_n — вектор состояния системы, принадлежащий упомянутому n-ному множеству; U_n — управление, выработанное на шаге n (шаговое управление), переводящее систему из возможного её состояния вn-ном множестве в одно из состояний (n + 1)‑го множества. Чтобы это представить наглядно, следует обратиться к рис. 8‑1, о котором речь пойдет далее.

2. Структура задачи не должна изменяться при изменении расчетного количества шагов N.

3. Размерность пространства параметров, которыми описывается состояние системы, не должна изменяться в зависимости от количества шагов N.

4. Выбор управления на любом из шагов не должен отрицать выбора управления на предыдущих шагах. Иными словами оптимальный выбор управления в любом из возможных состояний должен определяться параметрами рассматриваемого состояния, а не параметрами процесса в ходе которого система пришла в рассматриваемое состояние.

Чисто формально, если одному состоянию соответствуют разные предистории его возникновения, влияющие на последующий выбор оптимального управления, то метод позволяет включить описания предысторий в вектор состояния, что ведет к увеличению размерности вектора состояния системы. После этой операции, то что до неё описывалось как одно состояние, становится множеством состояний, отличающихся одно от других компонентами вектора состояния, описывающими предисторию процесса.

5. Критерий оптимального выбора последовательности шаговых управлений U_n и соответствующей траектории в пространстве формальных параметров имеет вид:

V = V₀(X₀ , U₀) + V₁(X₁ , U₁) + ...+ V_N - 1(X_N- 1 , U_N - 1) + V_N(X_N) . 

Критерий V принято называть полным выигрышем, а входящие в него слагаемые — шаговыми выигрышами. В задаче требуется найти последовательность шаговых управлений U_n и траекторию, которым соответствует максимальный из возможных полных выигрышей. По своему существу полный “выигрыш” V —  мера качества управления процессом в целом. Шаговые выигрыши, хотя и входят в меру качества управления процессом в целом, но в общем случае не являются мерами качества управления на соответствующих им шагах, поскольку метод предназначен для оптимизации управления процессом в целом, а эффектные шаговые управления с большим шаговым выигрышем, но лежащее внеоптимальной траектории интереса не представляют. Структура метода не запрещает при необходимости на каждом шаге употреблять критерий определения шагового выигрыша V_n , отличный от критериев, принятых на других шагах.

С индексом n — указателем-определителем множеств возможных векторов состояния — в реальных задачах может быть связан некий изменяющийся параметр, например: время, пройденный путь, уровень мощности, мера расходования некоего ресурса и т.п. То есть метод применим не только для оптимизации управления процессами, длящимися во времени, но и к задачам оптимизации многовариантного одномоментного или нечувствительного ко времени решения, если такого рода “безвременные”, “непроцессные” задачи допускают их многошаговую интерпретацию.

Теперь обратимся к рис. 8‑1 — рис. 8‑3, повторяющие взаимно связанные рис. 40, 41, 42 из курса теории автоматического управления П. де Ла Барьера.