Кибернетика или управление и связь в животном и машине - Норберт Винер

[c.145]

С другой стороны, можно показать, что 1/k(ω) записывается в виде

 ,          (3.76)

где значения Nn определены подходящим образом, и что при этом можно получить

           (3.77)

Здесь значения Qn должны удовлетворять формальному условию

           (3.78)

В общем случае будем иметь

 ,          (3.79)

а если ввести по образцу соотношения (3.68)

 ,          (3.80)

то

 .          (3.81)

Следовательно,

 .          (3.82)

Этот вывод мы используем для того, чтобы получить оператор предсказания в форме, связанной не со временем, а с частотой. [c.146]

Таким образом, прошлое и настоящее функции ξ(t, γ), или точнее «дифференциала» dξ(t, γ), определяют прошлое и настоящее функции f(t, γ), и обратно.

Если теперь А >0, то

           (3.83)

Здесь первый член последнего выражения зависит от области изменения dξ(τ, γ), в которой, зная лишь f(σ, γ) для σ≤t, сказать ничего нельзя, и совершенно не зависит от второго члена. Его среднеквадратическое значение равно

 ,          (3.84)

и эта формула дает все статистическое знание о нем. Можно показать, что первый член имеет гауссово распределение с этим среднеквадратическим значением. Последнее равно ошибке наилучшего возможного предсказания функции f(t+A, γ).

Само же наилучшее возможное предсказание выражается вторым членом в (3.83):

 .          (3.85)

Если теперь положим

           (3.86)

[c.147]

и применим оператор (3.85) к eiωt, получив

 ,          (3.87)

то найдем, подобно (3.81), что

           (3.88)

Это и есть частотная форма наилучшего оператора предсказания.

Задача фильтрации в случае временных рядов типа (3.34) тесно связана с задачей предсказания. Пусть сумма сообщения и шума имеет вид

 ,          (3.89)

а сообщение имеет вид

 ,          (3.90)

где γ и δ распределены независимо в интервале (0, 1). Тогда предсказуемая часть функции m(t+a), очевидно, равна

 ,          (3.901)

а среднеквадратическая ошибка предсказания равна

 .          (3.902)

Допустим, кроме того, что нам известны следующие величины:

 [c.148]

 

 

 

 

 

           (3.903)

 

           (3.904)

 

 

 

           (3.905)

[c.149]

Преобразование Фурье для этих величин соответственно равно

           (3.906)

где

           (3.907)

то есть

           (3.908)

и

 ,          (3.909)

где для симметрии пишем

 .

Теперь мы можем определить k(ω) из (3.908), как прежде определили k(ω) из (3.74). Здесь мы принимаем

 

В результате

           (3.910)

и

 .          (3.911)

Таким образом, наилучшее определение функции m(t) с наименьшей среднеквадратической ошибкой есть

 .          (3.912)

[c.150]

Сравнивая это с уравнением (3.89) и пользуясь рассуждениями, подобными тем, посредством которых было получено (3.88), заключаем, что оператор для m(t)+n(t), дающий «наилучшее» представление функции m(t+a), имеет при записи в частотной шкале следующий вид:

 .          (3.913)

Этот оператор служит характеристическим оператором устройства, которое в электротехнике называют волновым фильтром. Величина а есть фазовое отставание фильтра. Она может быть положительной или отрицательной; если она отрицательна, то а называется фазовым опережением. Прибор, соответствующий формуле (3.913), может быть построен с какой угодно точностью. Подробности его конструкции нужны более для инженера-электрика, чем для читателя этой книги. Их можно найти в соответствующей литературе[147].

Среднеквадратическая ошибка фильтрации (3.902) может быть представлена как сумма среднеквадратической ошибки фильтрации для бесконечного фазового отставания

 

 

           (3.914)

[c.151]

и другого члена

 ,          (3.915)

зависящего от фазового отставания. Мы видим, что среднеквадратическая ошибка фильтрации есть монотонно убывающая функция фазового отставания.

Другим интересным вопросом в случае сообщений и шумов, порождаемых броуновым движением, является скорость передачи информации. Рассмотрим для простоты случай, когда сообщение и шум независимы, т. е. когда

 .          (3.916)

Рассмотрим в этом случае функции

 ,          (3.917)

где γ и σ распределены независимо. Пусть нам известна сумма m(t)+n(t) в интервале (—А, А). Сколько у нас тогда информации об m(t)? Заметим, что, по эвристическому суждению, это количество информации не должно слишком отличаться от количества информации о функции

           (3.918)

которым мы располагаем, когда нам известны все значения выражения

 ,          (3.919)

где γ и σ имеют независимые распределения. Можно, однако, показать, что n-й коэффициент Фурье для выражения (3.918) имеет гауссово распределение, независимое от всех других коэффициентов Фурье, и что его [c.152] среднеквадратическое значение пропорционально величине

           (3.920)

Следовательно, в силу (3.09) полное количество информации об М равно

 ,          (3.921)

а временная плотность передачи энергии равна этой величине, деленной на 2А. Если А→∞, то выражение (3.921) стремится к

 .          (3.922)

Именно этот результат и был получен автором и Шенноном для скорости передачи информации в рассматриваемом случае. Как видим, эта величина зависит не только от ширины полосы частот, которой мы располагаем для передачи сообщения, но и от уровня шума. В действительности она обнаруживает прямую связь с аудиограммами, применяемыми для измерения величины слуха и потери его у данного индивидуума. В аудиограмме абсциссой служит частота, ординатой нижней границы — логарифм порога слышимой силы звука (мы можем назвать его логарифмом внутреннего шума принимающей системы), а ординатой верхней границы — логарифм наибольшей силы звука, которую система может пропустить. Площадь между ними, представляющая величину такой же размерности, как выражение (3.922), принимается за меру скорости передачи информации, с которой ухо способно справиться. [c.153]

Теория сообщений, линейно зависящих от броунова движения, имеет много важных вариантов. Основными являются формулы (3.88), (3.914) и (3.922), разумеется, вместе с определениями, необходимыми для их понимания. Существует ряд вариантов этой теории. Прежде всего она дает нам наилучший возможный синтез предсказывающих устройств и волновых фильтров в случае, когда сообщения и шумы представляют собой реакции линейных резонаторов на броуновы движения, однако и в значительно более общих случаях она обеспечивает некоторый возможный синтез предсказывающих устройств и фильтров. Последние, правда, не будут иметь абсолютно наилучшей конструкции, но, во всяком случае, позволят свести к минимуму среднеквадратическую ошибку предсказания при использовании линейных устройств. Однако, вообще говоря, найдутся такие нелинейные устройства, которые будут работать лучше, чем любые линейные устройства.

Кроме того, выше мы рассматривали простые временные ряды, в которых от времени зависит лишь одна числовая переменная. Существуют также многомерные временные ряды, где несколько таких переменных зависят все вместе от времени; именно многомерные ряды имеют наибольшее значение в экономических науках, метеорологии и т. п. Полная карта погоды Соединенных Штатов, составляемая ежедневно, есть такой временной ряд. В этом случае нам нужно одновременно выразить несколько функций через частоту, причем квадратические величины, такие, как выражение (3.35) или |k(ω)|2 в рассуждениях после формулы (3.70), заменяются множествами пар величин, т. е. матрицами. Задача определения функции k(ω) через |k(ω)|2 с выполнением некоторых добавочных условий в комплексной плоскости становится теперь гораздо труднее, особенно ввиду того, что умножение матриц не является перестановочной операцией. Тем не менее задачи, относящиеся к этой многомерной теории, были решены, по крайней мере частично, Крейном и автором.