Теория функций действительного переменного/Нормированные и евклидовы пространства

Теория функций действительного переменного

---

1. Эквивалентные множества
2. Счётные множества
3. Метрическое пространство
4. Множества в метрическом пространстве
5. Сходимость метрического пространства
6. Непрерывные отображения метрического пространства
7. Полные метрические пространства
8. Принцип сжимающихся отображений
9. Применение принципа сжимающихся отображений
10. Линейные пространства
11. Линейные функционалы
12. Выпуклые множества и функционалы
13. Нормированные и евклидовы пространства
14. Непрерывные линейные функционалы
15. Сопряжённое пространство
16. Слабая сходимость
17. Обобщённые функции
18. Линейные операторы
19. Компактные операторы
20. Системы множеств
21. Мера множеств, измеримые функции
22. Интеграл Лебега
23. Теория дифференцирования
24. Пространства суммируемых функций
25. Тригонометрические ряды
26. Ортогональные системы функций
27. Преобразование Фурье

Нормированные пространства

Нормированные пространства объединяют структуры линейных пространств и метрических пространств.

Определения

Будем рассматривать некоторое линейное пространство $~L$.

Полунормой называют функционал $p$, определённый на $~L$ и удовлетворяющий следующим аксиомам:

1. $~p(x)\geq 0$ (неотрицательность),
2. $~p(x+y)\leq p(x)+p(y)$ (аксиома треугольника),
3. $~p(ax)=|a|p(x)$ для любого числа $~a$ (абсолютная однородность).

Нормой называют функционал $p$, удовлетворяющий следующим аксиомам:

1. $~p(x)\geq 0$,
2. $p(x)=0\Leftrightarrow x=0$,
3. $~p(x+y)\leq p(x)+p(y)$ (аксиома треугольника),
4. $~p(ax)=|a|p(x)$ для любого числа $~a$ (абсолютная однородность).

Таким образом, норма - это полунорма, на которую наложено дополнительное условие: норма равна нулю только на нулевом элементе.

Нормированным пространством называют линейное пространство с заданной на нём нормой.

Норму элемента линейного пространства $x\in L$ обозначают $\left\Vert x\right\|$.

Любое нормированное пространство можно рассматривать как метрическое, если ввести в нём метрику следующим образом

$\rho (x,y)=\left\|x-y\right\|$.

Такую метрику называют метрикой, индуцированной нормой. Это означает, что на нормированные пространства можно перенести все понятия и факты, относящиеся к метрическим пространствам.

В частности, сходимостью по норме называется сходимость в метрике, индуцированной данной нормой.

Полное нормированное пространство называется банаховым пространством.

Непрерывность линейных операций и нормы

В нормированном пространстве сумма, произведение на число и норма непрерывны: если последовательности $\{x_{n}\}$ и $\{y_{n}\}$ сходятся по норме соответственно к $x$ и $y$: $x_{n}\rightarrow x$ и $y_{n}\rightarrow y$, а числовая последовательность $\{a_{n}\}$ сходится к пределу $a$, то

$\|x_{n}\|\rightarrow \|x\|$,

$a_{n}x_{n}\rightarrow ax$,

$x_{n}+y_{n}\rightarrow x+y$.

Рассмотрим, сумму двух элементов:

$\|(x_{n}+y_{n})-(x+y)\|=\|(x_{n}-x)+(y_{n}-y)\|\leq \|x_{n}-x\|+\|y_{n}-y\|$.

Так как $x_{n}\rightarrow x$ и $y_{n}\rightarrow y$, то правая часть неравенства сходится к нулю, а значит к нулю сходится и его левая часть. Непрерывность суммы доказана.

Докажем теперь непрерывность умножения вектора на число. Для этого нам нужно доказать, что числовая последовательность $\|a_{n}x_{n}-ax\|$ сходится к нулю. Представим разность $a_{n}x_{n}-ax$ следующим образом:

$~a_{n}x_{n}-ax=(a_{n}x_{n}-a_{n}x)+(a_{n}x-ax)$.

Согласно аксиоме треугольника для нормы:

$\|a_{n}x_{n}-ax\|\leq \|a_{n}x_{n}-a_{n}x\|+\|a_{n}x-ax\|$.

Рассмотрим каждое из слагаемых по-отдельности:

$\|a_{n}x_{n}-a_{n}x\|=\left|a_{n}\right|\|x_{n}-x\|\rightarrow 0$,

$\|a_{n}x-ax\|=\|(a_{n}-a)x\|=\left|a_{n}-a\right|\|x\|\rightarrow 0$.

Таким образом, мы установили, что

$\|a_{n}x_{n}-ax\|\leq \|a_{n}x_{n}-a_{n}x\|+\|a_{n}x-ax\|\rightarrow 0$.

Непрерывность операции умножения на число доказана.

Наконец, докажем непрерывность нормы. Каждый элемент $x_{n}$ можно представить в виде $x_{n}=(x_{n}-x)+x$, по аксиоме треугольника:

$\|x_{n}\|\leq \|x_{n}-x\|+\|x\|$

или

$\|x_{n}\|-\|x\|\leq \|x_{n}-x\|$.

Аналогично можно доказать, что

$\|x\|-\|x_{n}\|\leq \|x_{n}-x\|$.

Объединяя два этих неравенства, получим:

$\left|\|x\|-\|x_{n}\|\right|\leq \|x_{n}-x\|$.

По определению сходимости по норме: $x_{n}\rightarrow x\Rightarrow \|x_{n}-x\|\rightarrow 0$, значит

$\left|\|x\|-\|x_{n}\|\right|\rightarrow 0$, то есть $\|x_{n}\|\rightarrow \|x\|$. Непрерывность нормы доказана.

Примеры нормированных пространств

Конечномерные нормированные пространства

Вещественная прямая $\mathbb {R}$ является нормированным пространством, если в качестве нормы взять модуль вещественного числа.

В действительном конечномерном пространстве $\mathbb {R} ^{n}$ норму можно ввести нескольким способами. Наиболее широко известна Евклидова норма:

$\|x\|={\sqrt {\sum _{k=1}^{n}x_{k}^{2}}}$.

Другие возможные нормы:

${\|x\|}_{1}=\sum _{k=1}^{n}|x_{k}|$,

${\|x\|}_{\infty }=\max _{1\leq k\leq n}|x_{k}|$.

В комплексном n-мерном пространстве $\mathbb {C} ^{n}$ норму можно ввести следующим образом:

$\|x\|={\sqrt {\sum _{k=1}^{n}{|x_{k}|}^{2}}}$.

Пространство непрерывных функций

В пространстве непрерывных на отрезке $[a,b]$ функций $C[a,b]$ норму можно задать формулой

$\|f\|=\max _{a\leq t\leq b}|f(t)|$.

Подпространства нормированного пространства

Рассматривая линейные пространства (без нормы), мы называли подпространством непустое множество $L_{0}$ обладающее тем свойством, что если этому множеству принадлежат два элемента $x$ и $y$ пространства $L$, то любая линейная комбинация этих элементов также принадлежат этому множеству:

$ax+by\in L_{0}$.

Подпространством нормированного пространства мы будем называть только замкнутое подпространства.

Линейным замыканием системы элементов $\{x_{n}\}$ или подпространством нормированного пространства, порождённым системой элементов $\{x_{n}\}$, называется наименьшее замкнутое подпространство, содержащее все элементы данной системы.

Произвольную (то есть не обязательно замкнутую) совокупность элементов, содержащую вместе с $x$ и $y$ произвольную их линейную комбинацию $ax+by$ будем называть линейным многообразием.

Система элементов нормированного пространства $R$ называется полной, если её линейное замыкание есть само $R$.

Фактор-пространства нормированного пространства

Пусть $R$ — нормированное линейное пространство, а $R'$ — некоторое его подпространство. Рассмотрим фактор пространство

$\mathrm {H} =R/R'$.

Как известно, фактор-пространство является линейным пространством.

В этом пространстве можно ввести норму, положив для данного класса $\eta \in R/R'$

$\|\eta \|=\inf _{x\in \eta }\|x\|$.

Докажем, что все аксиомы нормы действительно выполняются.

Так как $\|x\|\geq 0$, то и $\|\eta \|\geq 0$.

Нулевым элементом $\eta _{0}$ фактор-пространства $R/R'$ является подпространство $R'$. Так как всякое подпространство должно содержать нулевой элемент, то

$\|\eta _{0}\|=\|0\|=0$.

Обратно, если $\|\eta \|=0$, то из непрерывности нормы следует, что в классе $\eta$ можно указать последовательность элементов, сходящихся к нулевому элементу, но так как в подпространство линейного пространство замкнуто по определению, то замкнуты все классы смежности, а значит $\eta =R'=\eta _{0}$.

Для всякого элемента $x\in R$ и числа $a\neq 0$ имеет место равенство

$\|ax\|=|a|\|x\|$.

Возьмём слева и справа нижнюю грань по $\eta$:

$\inf _{x\in \eta }\|ax\|=|a|\|\eta \|$.

С другой стороны, в силу того, что фактор-пространство является линейным пространством, имеет место равенство

$\inf _{x\in \eta }\|ax\|=\inf _{x\in a\eta }\|x\|$.

Рассмотрим два класса смежности

$\eta _{1},\eta _{2}\in \eta$,

выберем в каждом классе по представителю

$x_{1}\in \eta _{1}$,

$x_{2}\in \eta _{2}$.

Тогда

$\|\eta _{1}+\eta _{2}\|=\inf _{y\in \eta _{1}+\eta _{2}}\|y\|\leq \|x_{1}+x_{2}\|\leq \|x_{1}\|+\|x_{2}\|$.

Возьмём нижнюю грань от левой и правой части этого неравенства:

$\|\eta _{1}+\eta _{2}\|\leq \inf _{x_{1}\in \eta _{1}}\|x_{1}\|+\inf _{x_{2}\in \eta _{2}}\|x_{2}\|\leq \|\eta _{1}\|+\|\eta _{2}\|$.

Таким образом, все аксиомы нормы действительно выполнены.

Евклидовы пространства

Определения

Скалярным произведением в действительном линейном пространстве $~L$ называется функционал от двух переменных $~(x,y)$, определённый для любых $x,y\in R$ и удовлетворяющий следующим аксиомам:

1. $~(x,y)=(y,x)$,
2. $~(x_{1}+x_{2},y)=(x_{1},y)+(x_{2},y)$,
3. $~(ax,y)=a(x,y)$,
4. $~(x,x)\geq 0$,
5. $(x,x)=0\Leftrightarrow x=0$.

Евклидово пространство — это линейное пространство с заданным в нём скалярным произведением.

В евклидовом пространстве норма естественным образом определяется через скалярное произведение:

$\left\|x\right\|={\sqrt {(x,x)}}$.

Скалярное произведение удовлетворяет неравенству Коши-Буняковского:

$|(x,y)|\leq \left\|x\right\|\cdot \left\|y\right\|$.

Чтобы доказать это неравенство, рассмотрим следующую неотрицательную функцию:

$\phi (\lambda )=\|\lambda x+y\|^{2}=(\lambda x+y,\lambda x+y)=\lambda ^{2}(x,x)+2\lambda (x,y)+(y,y)=\|x\|^{2}\lambda ^{2}+2(x,y)\lambda +\|y\|^{2}$.

Функция $\phi (\lambda )$ представляет собой квадратный трёхчлен относительно $\lambda$. Так как эта функция является квадратом нормы элемента линейного пространства, то $\phi (\lambda )>0$ при всех $\lambda$. Дискриминант неотрицательного квадратного трёхчлена должен быть неположительным:

$4(x,y)^{2}-4\|x\|^{2}\|y\|^{2}\leq 0$,

откуда и следует неравенство Коши-Буняковского.

В евклидовом пространстве скалярное произведение является непрерывным. Действительно пусть заданы две последовательности $\{x_{n}\}$ и $\{y_{n}\}$ сходятся по норме соответственно к $x$ и $y$: $x_{n}\rightarrow x$ и $y_{n}\rightarrow y$. Докажем, что числовая последовательность $(x_{n},y_{n})$ сходится к $(x,y)$. Представим разность $(x_{n},y_{n})-(x,y)$ следующим образом:

$(x_{n},y_{n})-(x,y)=\left((x_{n},y_{n})-(x,y_{n})\right)+\left((x,y_{n})-(x,y)\right)$.

Из неравенства треугольника следует, что

$\left|(x_{n},y_{n})-(x,y)\right|\leq \left|(x_{n},y_{n})-(x,y_{n})\right|+\left|(x,y_{n})-(x,y)\right|$.

По свойствам скалярного произведения:

$~(x_{n},y_{n})-(x,y_{n})=(x_{n}-x,y_{n})$,

$~(x,y_{n})-(x,y)=(x,y_{n}-y)$.

По неравенству Коши-Буняковского:

$\left|(x_{n},y_{n})-(x,y_{n})\right|=\left|(x_{n}-x,y_{n})\right|\leq \|x_{n}-x\|\|y_{n}\|\rightarrow 0$,

$\left|(x,y_{n})-(x,y)\right|=\left|(x,y_{n}-y)\right|\leq \|x\|\|y_{n}-y\|\rightarrow 0$.

Следовательно

$\left|(x_{n},y_{n})-(x,y)\right|\rightarrow 0$.

Что и требовалось доказать.

Угол между векторами, ортогональные системы

Неравенство Коши-Буняковского позволяет определить в евклидовом пространстве понятие угла между векторами. Угол $~\phi$ между векторами $x$ и $y$ определяется из равенства

$cos(\phi )={(x,y) \over {\left\|x\right\|\cdot \left\|y\right\|}}$.

В силу неравенства Коши-Буняковского:

$\left|{(x,y) \over {\left\|x\right\|\cdot \left\|y\right\|}}\right|\leq 1$,

а значит данная величина действительно может быть интерпретирована как некоторый угол.

Если $~(x,y)=0$, то $\phi ={\pi \over 2}$, поэтому вектора, скалярное произведение которых равно нулю, называют ортогональными.

Система ненулевых векторов $~\{x_{k}\}$ называется ортогональной, если её элементы являются попарно ортогональными:

$i\neq k\Rightarrow (x_{i},y_{k})=0$.

Ортогональная система векторов является линейно независимой.

Неравенство Коши-Буняковского переходит в равенство тогда и только тогда, когда векторы $x$ и $y$ являются линейно зависимыми.

Рассмотрим сначала случай, когда один из векторов есть нулевой элемент. Без ограничения общности можно считать, что это вектор $y$. Нулевой вектор пропорционален любому вектору:

$0\cdot x=0$.

С другой стороны, в силу того, что норма нулевого вектора равна нулю:

$0\leq |(x,y)|\leq \|x\|\|y\|=0$,

откуда следует, что

$0=|(x,y)|=\|x\|\|y|\ =0$.

Теперь будем считать, что ни один из векторов не равен нулевому вектору. Достаточность доказывается элементарно, по свойствам скалярного произведения и нормы:

$(x,y)=(x,ax)=(ax,x)=a(x,x)=a\|x\|^{2}$,

$\|y\|=\|ax\|=|a|\|x\|$.

Отсюда следует, что $y=ax\Rightarrow |(x,y)|=\|x\|\|y\|$.

Докажем необходимость. Вектор $y$ всегда можно единственным способом представить в виде

$y=ax+z$,

где векторы $x$ и $z$ являются ортогональными друг другу, то есть

$(x,z)=0$.

Коэффициент $a$ можно однозначно определить, вычислив скалярное произведение:

$(y,x)=(ax+z,x)=(ax,x)+(z,x)=a\|x\|^{2}$,

откуда следует, что

$a={(y,x) \over {\|x\|^{2}}}$.

Так как $a$ определяется однозначно, то и вектор $z$ однозначно определяется из соотношения

$z=y-ax$.

Если $a=0$, то векторы $x$ и $y$ ортогональны друг другу, а следовательно линейно-независимы, то есть непропорциональны. В этом случае, неравенство Коши-Буняковского не может обратиться в равенство, так как левая его часть равна нулю (в силу ортогональности векторов), а правая не равна нулю, так как мы рассматриваем случай, когда оба вектора являются ненулевыми. Мы рассмотрели случай ортогональных векторов, поэтому в дальнейшем будем предполагать, что $(x,y)\neq 0$ и $a\neq 0$. Вычислим норму вектора $y=ax+z$:

$\|y\|^{2}=(ax+z,ax+z)=a^{2}\|x\|^{2}+2a(x,z)+\|z\|^{2}$.

Так как $(x,z)=0$, то

$\|y\|={\sqrt {a^{2}\|x\|^{2}+\|z\|^{2}}}=|a|\|x\|{\sqrt {1+{{\|z\|^{2}} \over {a^{2}\|x\|^{2}}}}}$.

Итак, мы установили, что

$|(x,y)|=|a|\|x\|^{2}$,

$\|x\|\|y\|=|a|\|x\|^{2}{\sqrt {1+{{\|z\|^{2}} \over {a^{2}\|x\|^{2}}}}}$.

Откуда следует, что неравенство Коши-Буняковского переходит в равенство тогда и только тогда, когда

${{\|z\|^{2}} \over {a^{2}\|x\|^{2}}}=0$,

или, с учётом того, что $a\neq 0$ и $x\neq 0$:

$z=0$.

Так как $z=y-ax$, то из $z=0$ следует пропорциональность векторов. Что и требовалось доказать.

Система векторов $~\{x_{k}\}$, элементы которой удовлетворяют условию

$(x_{i},x_{k})={\begin{cases}0,~i\neq k\\1,~i=k\end{cases}}$

называется ортогональной нормированной или ортонормированной системой.

Из ортогональной системы можно легко получить ортонормированную: если $~\{x_{k}\}$ — ортогональная система, то система

$~\left\{{x_{k} \over \left\|x\right\|}\right\}$.

является ортонормированной.

Полная ортогональная система $\{x_{k}\}$ называется ортогональным базисом. Если норма каждого элемента ортогонального базиса равна единице, то он называется ортогональным нормированным базисом.

Ортогональные базисы, ортогонализация

Рассмотрим сепарабельное евклидово пространство $R$.

Докажем, что в сепарабельном евклидовом пространстве всякая ортогональная система не более чем счётна. Рассмотрим некоторую ортонормированную систему $\{\phi _{n}\}$. Вычислим норму разности между двумя элементами этой системы ($n\neq m$):

$\|\phi _{n}-\phi _{m}\|^{2}=(\phi _{n}-\phi _{m},\phi _{n}-\phi _{m})=\|\phi _{n}\|^{2}-2(\phi _{n},\phi _{m})+\|\phi _{m}\|^{2}=2$.

Таким образом:

$\|\phi _{n}-\phi _{m}\|={\sqrt {2}}$.

Рассмотрим совокупность открытых шаров $B(\phi _{n},0.5)$, так как диаметр (одинаковый для всех шаров) меньше расстояния между центрами этих шаров, то данные шары не пересекаются. Рассмотрим теперь счётное всюду плотное в пространстве $R$ множество $\{\psi _{n}\}$ (такое множество существует в силу сепарабельности $R$). В каждом из шаров $B(\phi _{n},0.5)$ должен быть по крайней мере один элемент из множества $\{\psi _{n}\}$, следовательно, число этих шаров не более чем счётно, а значит мощность ортонормированной системы также не более чем счётна.

Ортогонализация

Ортогонализация — это процесс построения ортонормированной системы на основе линейно независимой системы векторов.

Теорема 1 (Об ортогонализации). Рассмотрим линейно независимую систему

$f_{1},...,f_{n},...$

элементов сепарабельного евклидова пространства $R$. В пространстве $R$ существует ортогональная система элементов

$\phi _{1},...,\phi _{n},...$,

причём каждый элемент $\phi _{n}$ есть линейная комбинация вида

$\phi _{n}=a_{n1}f_{1}+...+a_{nn}f_{n},~a_{n}n\neq 0$,

каждый элемент $f_{n}$ представляется в виде

$f_{n}=b_{n1}\phi _{1}+...+b_{nn}\phi _{n},~b_{n}n\neq 0$,

при этом, каждый элемент $\phi _{n}$ определяется с точностью до множителя $\pm 1$.

Доказательство.

Первый элемент ищется в виде

$\phi _{1}=a_{11}f_{1}$,

коэффициент определяется из условия

$\|\phi _{1}\|^{2}=a_{11}^{2}\|f_{1}\|^{2}$.

Таким образом:

$a_{11}={{\pm 1} \over {\|f_{1}\|}}$.

Очевидно, что элемент $\phi _{1}$ определяется отсюда с точностью до знака. Кроме того:

$f_{1}={\phi _{1} \over a_{11}}$.

Предположим, что мы уже построили элементы $\phi _{k}$, удовлетворяющие условиям из формулировки теоремы, для $k<n$. Тогда мы можем определит коэффициенты $b_{n1},...b_{n,n-1}$ из условия

$(\phi _{n},\phi _{k})=0,~k<n$.

Действительно,

$b_{nn}\phi _{n}=f_{n}-\left(b_{n1}\phi _{1}+...+b_{n,n-1}\phi _{n-1}\right)$.

Тогда: $0=(b_{nn}\phi _{n},\phi _{k})=b_{nn}(\phi _{n},\phi _{k})=(f_{n},\phi _{k})-b_{nk}(\phi _{k},\phi _{k})$, откуда следует, что

$b_{nk}={(f_{n},\phi _{k}) \over \|\phi _{k}\|^{2}}$.

Так как коэффициенты $b_{n1},...b_{n,n-1}$ определены однозначно, то однозначно определяется и вектор

$b_{nn}\phi _{n}=h_{n}=f_{n}-\left(b_{n1}\phi _{1}+...+b_{n,n-1}\phi _{n-1}\right)$.

Вычислим норму:

$\|h_{n}\|=\|b_{nn}\phi _{n}\|=|b_{nn}|\|phi_{n}\|=|b_{nn}|$.

Таким образом, мы определили коэффициент $b_{nn}$ с точностью до знака:

$b_{nn}=\pm \|h_{n}\|$.

Вектор $\phi _{n}$ определяется (с той же степенью произвола) формулой:

$\phi _{n}={h_{n} \over b_{nn}}$.

Вектор $h_{n}$ является линейной комбинацией векторов $\phi _{1},...,\phi _{n-1},f_{n}$. Вектора $\phi _{1},...,\phi _{n-1}$, по предположению, являются линейными комбинациями векторов $f_{1},...,f_{n-1}$.

Теперь, когда построены элементы $\phi _{1},...,\phi _{n}$, мы можем построить аналогичным образом элемент $\phi _{n+1}$ и так далее. Теорема доказана.

Ряды Фурье

Если в конечномерном евклидовом пространстве задан базис

$e_{1},...,e_{n}$,

то произвольный элемент этого пространства можно представить в виде

$x=\sum _{k=1}^{n}c_{k}e_{k}$,

причём коэффициенты этого разложения определяются по формуле

$c_{k}=(x,e_{k})$.

В данном разделе этот результат линейной алгебры распространяется на бесконечномерный случай.

Пусть $R$ - бесконечномерное евклидово пространство. Рассмотрим ортонормированную систему элементов этого пространства

$\phi _{1},...,\phi _{n},...$

и произвольный элемент $f\in R$. Поставим в соответствие этому элементу последовательность чисел

$c_{k}=(f,\phi _{k})$,

которые будем называть координатами или коэффициентами Фурье элемента $f$ по система $\{\phi _{n}\}$, а ряд

$\sum _{k=1}^{\infty }c_{k}\phi _{k}$

будем называть рядом Фурье элемента $f$ по система $\{\phi _{n}\}$.

Рассмотрим следующую задачу: пусть задано число целое число $n$, подобрать вещественные коэффициенты

$a_{1},...,a_{n}$

таким образом, чтобы расстояние между $f$ и суммой

$S_{n}=\sum _{k=1}^{n}a_{n}\phi _{n}$

было минимальным.

Вычислим квадрат нормы разности $f-S_{n}$:

$\|f-S_{n}\|^{2}=\left(f-\sum _{k=1}^{n}a_{k}\phi _{k},f-\sum _{j=1}^{n}a_{j}\phi _{j}\right)$.

По свойствам скалярного произведение:

$\|f-S_{n}\|^{2}=(f,f)-2\left(f,\sum _{k=1}^{n}a_{k}\phi _{k}\right)+\left(\sum _{k=1}^{n}a_{k}\phi _{k},\sum _{j=1}^{n}a_{j}\phi _{j}\right)$.

Второе слагаемое можно преобразовать следующим образом:

$\left(f,\sum _{k=1}^{n}a_{k}\phi _{k}\right)=\sum _{k=1}^{n}a_{k}(f,\phi _{k})=\sum _{k=1}^{n}a_{k}c_{k}$.

Третье слагаемое, в силу ортонормированности системы $\{\phi _{n}\}$, равно

$\left(\sum _{k=1}^{n}a_{k}\phi _{k},\sum _{j=1}^{n}a_{j}\phi _{j}\right)=\sum _{k=1}^{n}\sum _{j=1}^{n}a_{k}a_{j}(\phi _{k},\phi _{j})=\sum _{k=1}^{n}a_{k}^{2}$.

Таким образом:

$\|f-S_{n}\|^{2}=(f,f)-2\sum _{k=1}^{n}a_{k}c_{k}+\sum _{k=1}^{n}a_{k}^{2}=(f,f)-\sum _{k=1}^{n}c_{k}^{2}+\sum _{k=1}^{n}(a_{k}-c_{k})^{2}$.

Легко понять, что минимум этого выражения достигается, когда последнее слагаемое равно нулю, то есть

$a_{k}=c_{k},~k=1,...,n$.

В этом случае

$\|f-S_{n}\|^{2}=(f,f)-\sum _{k=1}^{n}c_{k}^{2}$.

Так как:

$\|f-S_{n}\|^{2}\geq 0$,

то имеет место следующее неравенство

$\sum _{k=1}^{n}c_{k}^{2}\leq (f,f)=\|f\|^{2}$.

Так как $n$ может быть взять произвольно, а правая часть неравенства не зависит от $n$, то предельным переходом можно получить неравество

$\sum _{k=1}^{\infty }c_{k}^{2}\leq \|f\|^{2}$,

которое называют неравенством Бесселя. Геометрический смысл неравенства Бесселя заключается в том, что сумма квадратов проекций вектора на ортогональные направления не превышает квадрата длины этого вектора.

Мы установили тот факт, что частная сумма ряда Фурье является наилучшим (по норме) приближением элемента$f$ среди всех линейных комбинаций вида

$\sum _{k=1}^{n}a_{k}\phi _{k}$.

Рассмотрим вектор

$g_{n}=f-\sum _{k=1}^{n}c_{k}\phi _{k}$.

Данный вектор ортогонален элементам $\phi _{1},...,\phi _{n}$, так как

$(g_{n},\phi _{j})=\left(f-\sum _{k=1}^{n}c_{k}\phi _{k},\phi _{j}\right)=(f,\phi _{j})-c_{j}=0$,

а следовательно, $g_{n}$ ортогонален всем линейным комбинациям вида

$\sum _{k=1}^{n}b_{k}\phi _{k}$,

то есть подпространству, порождённому системой $\phi _{1},...,\phi _{n}$. Этот результат является обобщением известной теоремы элементарной геометрии: длина перпендикуляра, проведённого из точки на плоскость, не больше длину любого отреза, соединяющего эту точку и произвольную точку плоскости.

Ортонормированная система

$\phi _{1},...,\phi _{n},...$

называется замкнутой, если для любого $f\in R$ имеет место равенство

$\sum _{k=1}^{\infty }c_{k}^{2}=\|f\|^{2}$,

которое называют равенством Парсеваля.

Из установленного нами для частных сумм ряда Фурье тождества

$\|f-S_{n}\|^{2}=(f,f)-\sum _{k=1}^{n}c_{k}^{2}$

следует, что ряд Фурье любого элемента $f\in R$ по замкнутой системе сходится к самому $f$.

Полные евклидовы пространства

Рассмотрим полное сепарабельное евклидово пространство $R$ и некоторую ортонормированную систему $\{\phi _{n}\}$ элементов этого пространства. Из неравенства Бесселя следует, что для того, чтобы числа

$c_{1},c_{2},...,c_{n}...$

служили коэффициентами Фурье некоторого элемента $f\in R$ необходимо, чтобы сходился ряд

$\sum _{n=1}^{\infty }c_{n}^{2}$.

В полном пространстве это условие не только необходимо, но и достаточно.

Теорема Риса-Фишера. Пусть $\{\phi _{n}\}$ — произвольная ортонормированая система в полном евклидовом пространстве $R$, а числа

$c_{1},c_{2},...,c_{n}...$

таковы, что ряд

$\sum _{n=1}^{\infty }c_{n}^{2}$

сходится. Тогда существует такой элемент $f\in R$, что

$c_{k}=(f,\phi _{k})$,

$\sum _{n=1}^{\infty }c_{k}^{2}=(f,f)=\|f\|^{2}$.

Доказательство.

Рассмотрим последовательность частных сумм

$f_{n}=\sum _{k=1}^{n}c_{k}\phi _{k}$.

Данная последовательность является фундаментальной, действительно:

$\|f_{n+p}-f_{n}\|^{2}=\left\|\sum _{k=n+1}^{n+p}c_{k}\phi _{k}\right\|^{2}=\sum _{k=n+1}^{n+p}c_{k}^{2}$.

Так как ряд

$\sum _{n=1}^{\infty }c_{k}^{2}$

сходится, то последовательность $\{f_{n}\}$ является фундаментальной, а так как пространство $R$ является полным, то эта последовательность сходится к некоторому элементу $f$.

Имеет место равенство

$~(f,\phi _{j})=(f_{n},\phi _{j})+(f-f_{n},\phi _{j})$.

Первое слагаемое в правой части при $j<n$ равно

$(f_{n},\phi _{j})=\left(\sum _{k=1}^{n}c_{k}\phi _{k},\phi _{j}\right)=\sum _{k=1}^{n}c_{k}\left(\phi _{k},\phi _{j}\right)=c_{j}$,

поэтому

$\lim _{n\to \infty }(f_{n},\phi _{j})=c_{j}$.

В силу неравенства Коши-Буняковского:

$|(f-f_{n},\phi _{j})|\leq \|f-f_{n}\|\cdot \|\phi _{j}\|=\|f-f_{n}\|$,

поэтому

$\lim _{n\to \infty }(f-f_{n},\phi _{j})=0$.

Переходя в равенстве

$~(f,\phi _{j})=(f_{n},\phi _{j})+(f-f_{n},\phi _{j})$.

к пределу, получим

$~(f,\phi _{j})=c_{j}$.

По определению нормы евклидова пространства

$\|f-f_{n}\|^{2}=\left(f-\sum _{k=1}^{n}c_{k}\phi _{k},f-\sum _{k=1}^{n}c_{k}\phi _{k}\right)=(f,f)-\sum _{k=1}^{n}c_{k}^{2}$.

Так как $f$ — это предел последовательности $\{f_{n}\}$, то

$0=(f,f)-\sum _{k=1}^{\infty }c_{k}$.

Теорема доказана.

Теорема. Для того, чтобы ортонормированная система $\{\phi _{n}\}$ в полном сепарабельном евклидовом пространстве $R$ была полна, необходимо и достаточно, чтобы в $R$ не существовало ненулевого элемента, ортогонального всем элементам системы $\{\phi _{n}\}$.

Доказательство.

Пусть система $\{\phi _{n}\}$ полна и, как следствие, замкнута. Если элемент $f$ ортогонален всем элементам этой системы, то все его коэффициенты Фурье равны нулю. Тогда из равенства Парсеваля следует, что

$\|f\|^{2}=(f,f)=\sum _{k=1}^{\infty }c_{k}^{2}=0$,

откуда, в силу свойства нормы, следует

$f=0$.

Пусть теперь система $\{\phi _{n}\}$ не полна. Тогда в пространстве $R$ существует такой ненулевой элемент $g$, что имеет место равенство

$(g,g)>\sum _{k=1}^{\infty }c_{k}^{2}$,

где

$c_{k}=(g,\phi _{k})$.

По теореме Рисса-Фишера существует такой элемент $f\in R$, что

$c_{k}=(f,\phi _{k})$,

$(f,f)=\sum _{k=1}^{\infty }c_{k}^{2}$.

Разность $f-g$ ортогональна всем функциям $\phi _{k}$:

$~(f-g,\phi _{k})=(f,\phi _{k})-(g,\phi _{k})=0$.

А так как

$(f,f)=\sum _{k=1}^{n}c_{k}^{2}<(g,g)$,

то

$f\neq g$.

Характеристическое свойство евклидовых пространств

В данном разделе рассматривается следующий вопрос: какими свойствами должна обладать норма, чтобы нормированное пространство было евклидовым?

Теорема Для того, чтобы нормированное пространство $R$ было евклидовым, необходимо и достаточно, чтобы для любых двух элементов этого пространства: $f$ и $g$ — выполнялось равенство

$\|f+g\|^{2}+\|f-g\|^{2}=2\left(\|f\|^{2}+\|g\|^{2}\right)$.

Доказательство.

Сначала докажем необходимость. Пусть пространство $R$ является евклидовым, тогда, по определению евклидова пространства:

$\|f\|^{2}=(f,f)$.

Используя это равенство, распишем левую часть равенства:

$\|f+g\|^{2}+\|f-g\|^{2}=(f+g,f+g)+(f-g,f-g)$.

По свойствам скалярного произведения:

$\|f+g\|^{2}+\|f-g\|^{2}=\left((f,f)+2(f,g)+(g,g)\right)+$

$\left((f,f)-2(f,g)+(g,g)\right)=2(f,f)+2(g,g)=2\left(\|f\|^{2}+\|g\|^{2}\right)$.

Таким образом, необходимость условия доказана. Докажем теперь его достаточность.

Зададим скалярное произведение следующим образом:

$(f,g)={1 \over 4}\left(\|f+g\|^{2}-\|f-g\|^{2}\right)$.

Докажем, что заданный таким образом функционал действительно является скалярным произведением, то есть обладает всеми свойствами скалярного произведения.

Положив $g=f$, получим:

$(f,f)={1 \over 4}\left(\|2f\|^{2}+\|0\|^{2}\right)=\|f\|^{2}$.

Тогда свойства 4 и 5 скалярного произведения выполняются по свойствам нормы.

Справедливость свойства 1 следует из того, что $\|f-g\|=|-1|\|g-f\|=\|g-f\|$.

Докажем свойство 2: $(f+g,h)=(f,h)+(g,h)$.

Для этого рассмотрим функцию трёх векторов

$\Phi (f,g,h)=4\left[(f+g,h)-(f,h)-(g,h)\right]$.

Используя определение рассматриваемого функционала, получим:

$\Phi (f,g,h)=\|f+g+h\|^{2}-\|f+g-h\|^{2}-\|f+h\|^{2}+\|f-h\|^{2}-\|g+h\|^{2}+\|g-h\|^{2}$.

По условию теоремы:

$\|f+g+h\|^{2}=2\|f+h\|^{2}+2\|g\|^{2}-\|f+h-g\|^{2}$.

$\|f+g-h\|^{2}=2\|f-h\|^{2}+2\|g\|^{2}-\|f-h-g\|^{2}$.

Воспользуемся этими выражениями:

$\Phi (f,g,h)=-\|f+h-g\|^{2}+\|f-h-g\|^{2}+\|f+h\|^{2}-\|f-h\|^{2}-\|g+h\|^{2}+\|g-h\|^{2}$.

Вычислим сумму двух выражений для $\Phi (f,g,h)$, полученных выше:

$2\Phi (f,g,h)=\|f+g+h\|^{2}-\|f+g-h\|^{2}-\|f+h-g\|^{2}+\|f-h-g\|^{2}-2\|g+h\|^{2}+2\|g-h\|^{2}$.

Сгруппируем слагаемые:

$2\Phi (f,g,h)=\left(\|f+g+h\|^{2}+\|f-(g+h)\|^{2}\right)-\left(\|f+g-h\|^{2}+\|f-(g-h)\|^{2}\right)-2\|g+h\|^{2}+2\|g-h\|^{2}$.

Первое слагаемое, по условию теоремы, равно

$\|f+g+h\|^{2}+\|f-(g+h)\|^{2}=2\|f\|^{2}+2\|g+h\|^{2}$.

Аналогично, для второго слагаемого:

$\|f+g-h\|^{2}+\|f-(g-h)\|^{2}=2\|f\|^{2}+2\|g-h\|^{2}$.

Таким образом, $2\Phi (f,g,h)=0$, следовательно

$(f+g,h)=(f,h)+(g,h)$,

то есть второе свойство скалярного произведения также выполняется.

Докажем, наконец, что выполняется третье свойство (однородность), а именно:

$(af,g)=a(f,g)$.

При $a=0$ это равенство выполняется, так как

$(0\cdot f,g)=(0,g)={1 \over 4}(\|0+g\|^{2}-\|0-g\|^{2})=0$.

При натуральном $a$ свойство 3 можно доказать с использованием свойства 2:

$(nf,g)=(f+(n-1)f,g)=(f,g)+((n-1)f,g)=...=n(f,g)$.

Справедливость свойства 3 для целых отрицательных $a$ следует из того, что

$(-1\cdot f,g)=(-f,g)={1 \over 4}(\|-f+g\|^{2}-\|-f-g\|^{2})={1 \over 4}(\|g-f\|^{2}-\|g+f\|^{2})=-(g,f)=-(f,g)$.

Докажем теперь свойство 3 для рациональных $a={p \over q}$, где $p$ — целое число, а $q$ — натуральное:

$\left({p \over q}f,g\right)=p\left({1 \over q}f,g\right)=p{q \over q}\left({1 \over q}f,g\right)={p \over q}\left({q \over q}f,g\right)={p \over q}(f,g)$.

Осталось доказать, что свойство 3 выполняется и для иррациональных $a$. Рассмотрим последовательность $\{a_{n}\}$ рациональных чисел, сходящуюся к $a$. В силу непрерывности умножения элемента нормированного пространства на число и сложения двух элементов, последовательности $\{a_{n}\cdot f+g\}$ и $\{a_{n}\cdot f-g\}$ будут сходится к $af+g$ и $af-g$, соответственно. А в силу непрерывности нормы, последовательность

$\{(a_{n}f,g)\}=\left\{{1 \over 4}\left(\|a_{n}f+g\|^{2}-\|a_{n}f-g\|^{2}\right)\right\}$

сходится к $(af,g)$.

С другой стороны, для каждого $n$ имеет место равенство $(a_{n}f,g)=a_{n}(f,g)$ (все числа $a_{n}$ — рациональные, а для рациональных чисел данное равенство уже доказано). Таким образом:

$(af,g)=\lim _{n\rightarrow \infty }(a_{n}f,g)=\lim _{n\rightarrow \infty }[a_{n}(f,g)]=(f,g)\lim _{n\rightarrow \infty }a_{n}=a(f,g)$.

Теорема доказана.

Если рассматривать вектора $f$ и $g$ как стороны параллелограмма, то $f+g$ и $f-g$ — это диагонали параллелограмма. Тогда теорема выражает известное свойство параллелограмм: сумма квадратов длин диагоналей параллелограмма равна сумме длин всех его сторон.