(선형대수학) 5.2 Hilbert Space

미분과 적분은 Euclidean space ${\mathbb{R}}^n$에서 정의되는 연산이다. 이들을 일반화하기 위해서는 연산을 정의하는데 핵심이 되는 Euclidean space의 성질을 일반화 하여야 한다. 함수 $f:{\mathbb{R}}^n\to \mathbb{R}$에 대한 $\overrightarrow{a}$에서의 differential $df(\overrightarrow{a})$는

$$df(\overrightarrow{a})=f(\overrightarrow{a}+\overrightarrow{u})-f(\overrightarrow{a})-R(\overrightarrow{u}),\mathrm{where}\underset{\overrightarrow{u}\to \overrightarrow{0}}{lim}\frac{R(\overrightarrow{u})}{\left|\overrightarrow{u}\right|}=0$$

인 linear operator $df$와 함수 $R$로 정의된다.(---page link--- 참고) 순간변화율이라는 미분의 의미에서 보는바와 같이, 미적분의 정의와 정리들을 증명하는 과정에서 길이, 각도 그리고 limit가 핵심이 된다. 이러한 개념들이 정의될 수 있도록 Euclidean space를 일반화한 space를 Hilbert space라고 한다. 이번 페이지에서는 Hilbert space와 그  예들을 살펴볼 것이다.

 

 

Hilbert Space

 

(선형대수학) 4.2 Norm, (선형대수학) 4.3 Orthogonality, Gram-Schmidt Process에서 본 것과 같이 길이와 각도는 inner product로 일반화된다. 또한 limit는 completeness로 일반화된다.(---topology-limit point--- 참고) 이렇게 complete한 inner product space를 Hilbert space라고 부른다.

 

DEFINITION            Hilbert Space

 

Complete inner product space를 Hilbert Space라고 부른다.

 

Inner product가 정의되면, inner product로부터 유도된 norm을 정의할 수 있으므로, Hilbert space는 Banach space이다. (그러나, norm을 정의한다고 해서 inner product가 정의되는것은 아니므로 Banach space라고 해서 Hilbert space가 되지는 않는다.(---page link--- 참고))

 

 

Examples

 

1. Euclidean Space ${\mathbb{R}}^n$

 

Euclidean space에서는 dot product가 inner product이고, real number의 completeness로부터 Euclidean space의 completeness가 얻어진다. Real number의 completeness는 real number 집합을 만드는 과정에서 당연하게 도입된다. 예를 들어, Rational number 집합 $\mathbb{Q}$의 sequence

 

1, 1.4, 1.41, 1.414, 1.4142, 1.41421, 1.414213, 1.4142135, ...

 

는 Cauchy sequence이지만 수렴값은 분수의 형태로 정의되지 못한다.($\sqrt{2}\notin \mathbb{Q}$ 증명 참고) real number 집합 $\mathbb{R}$은 $\mathbb{Q}$에 이러한 수렴값들을 추가해줌으로써 정의되는데 이러한 과정을 completion이라고 부른다.

 

모든 $n$-dimensional vector space는 ${\mathbb{R}}^n$과 isomorphic하고, isomorphism이 isometry가 되도록 정의할 수 있으므로 Hilbert space가 된다.

 

 

2. The Space of Square-summable Sequences ${\ell }^2$

 

Complex number들의 sequence $u$를

$$u=\{u_1,u_2,u_3,\cdots \}$$

라고 하자. ${\ell }^2$은 sequence 숫자들을 제곱한 무한급수가 수렴하는 squence들의 집합이다.

$${\ell }^2=\{u|\sum _{j=1}^{\mathrm{\infty }}{\left|u_j\right|}^2<\mathrm{\infty }\}$$

이제 sequence $u$와 $v$의 addition을

$$w=u+v\mathrm{with}{w}_i=u_i+v_i$$

complex number $\lambda$와의 scalar multiplication을

$$s=\lambda u\mathrm{with}{s}_i=\lambda u_i$$

로 정의한다. Addition과 scalar multiplication은

$$\sum _{j=1}^{\mathrm{\infty }}{\left|w_j\right|}^2=\sum _{j=1}^{\mathrm{\infty }}{|u_j+v_j|}^2\le \sum _{j=1}^{\mathrm{\infty }}(2{\left|u_j\right|}^2+2{\left|v_j\right|}^2)<\mathrm{\infty }$$

$$\sum _{j=1}^{\mathrm{\infty }}{\left|s_j\right|}^2=\sum _{j=1}^{\mathrm{\infty }}{\left|\lambda u_j\right|}^2\le {\left|\lambda \right|}^2\sum _{j=1}^{\mathrm{\infty }}{\left|u_j\right|}^2<\mathrm{\infty }$$

이므로 다시 ${\ell }^2$의 원소가 된다. 또한

$$0=\{0,0,0,\cdots \}$$

은 addition의 항등원이 된다. 따라서 ${\ell }^2$는 vector space가 된다.

 

이제 operation $(\cdot ,\cdot )$를

$$(u,v)=\sum _{j=1}^{\mathrm{\infty }}{u}_j\overline{v_j}$$

로 정의하면,

 

① conjugate symmetry:

$$(u,v)=\sum _{j=1}^{\mathrm{\infty }}{u}_j\overline{v_j}=\sum _{j=1}^{\mathrm{\infty }}\overline{\stackrel{―}{u_j}{v}_j}=\overline{(v,u)}$$

② Linearity in the first argument:

$$(\lambda u+v,w)=\sum _{j=1}^{\mathrm{\infty }}(\lambda u_j+v_j)\overline{w_j}=\lambda \sum _{j=1}^{\mathrm{\infty }}{u}_j\overline{w_j}+\sum _{j=1}^{\mathrm{\infty }}{v}_j\overline{w_j}=\lambda (u,w)+(v,w)$$

③ positive-definiteness:

$$(u,u)=\sum _{j=1}^{\mathrm{\infty }}{\left|u_j\right|}^2\ge 0$$

$$(u,u)=\sum _{j=1}^{\mathrm{\infty }}{\left|u_j\right|}^2=0⟺u_j=0\mathrm{for}\mathrm{all}j$$

 

따라서 $(\cdot ,\cdot )$는 inner product가 된다.

 

이제 completeness를 확인해보자. ${\ell }^2$의 sequence $u^{(1)}$, $u^{(2)}$, ...을

$$\begin{array}{c}{u}^{(1)}=\{u_1^{(1)},u_2^{(1)},u_3^{(1)},\cdots \}\\ u^{(2)}=\{u_1^{(2)},u_2^{(2)},u_3^{(2)},\cdots \}\\ ⋮\end{array}$$

Cauchy sequence라고 하자. 즉, 모든 $ϵ>0$에 대하여, $n,m>N$이면

$$\Vert u^{(m)}-u^{(n)}\Vert =(u^{(m)}-u^{(n)},u^{(m)}-u^{(n)}{)}^{\frac{1}{2}}={\left(\sum _{j=1}^{\mathrm{\infty }}{|u_j^{(m)}-u_j^{(n)}|}^2\right)}^{\frac{1}{2}}<ϵ$$

를 만족하는 자연수 $N$이 존재한다. 따라서

$$|u_j^{(m)}-u_j^{(n)}|\le {\left(\sum _{j=1}^{\mathrm{\infty }}{|u_j^{(m)}-u_j^{(n)}|}^2\right)}^{\frac{1}{2}}<ϵ$$

이므로 complete number들의 sequence

$$u_j^{(1)},u_j^{(2)},u_j^{(3)},\cdots$$

는 Cauchy sequence가 된다. complex number는 complete하므로 이 sequence는 수렴한다. 그 수렴값을 $u_j$라고 하자. 이제 새로운 sequence $u$를

$$\begin{array}{ccl}{u}^{(1)}& =& \{u_1^{(1)},u_2^{(1)},u_3^{(1)},\cdots \}\\ u^{(2)}& =& \{u_1^{(2)},u_2^{(2)},u_3^{(2)},\cdots \}\\ u^{(3)}& =& \{u_1^{(3)},u_2^{(3)},u_3^{(3)},\cdots \}\\ & ⋮& \downarrow \downarrow \downarrow \mathrm{converge}\\ u& =& \{u_1,u_2,u_3,\cdots \}\end{array}$$

로 정의하자. 자연수 $k$에 대하여,

$$\sum _{j=1}^k{|u_j^{(m)}-u_j^{(n)}|}^2\le \sum _{j=1}^{\mathrm{\infty }}{|u_j^{(m)}-u_j^{(n)}|}^2<{ϵ}^2$$

이므로

$$\sum _{j=1}^k{|u_j^{(m)}-u_j|}^2=\underset{n\to \mathrm{\infty }}{lim}\sum _{j=1}^k{|u_j^{(m)}-u_j^{(n)}|}^2\le \underset{n\to \mathrm{\infty }}{lim}\sum _{j=1}^k{|u_j^{(m)}-u_j^{(n)}|}^2<\underset{n\to \mathrm{\infty }}{lim}{ϵ}^2={ϵ}^2$$

그리고 다시 $k\to \mathrm{\infty }$를 하면,

$$\sum _{j=1}^{\mathrm{\infty }}{|u_j^{(m)}-u_j|}^2<{ϵ}^2$$

이므로 $u-u^{(m)}\in {\ell }^2$이다. 따라서 $u=(u-u^{(m)})+u^{(m)}$이므로 $u\in {\ell }^2$이다. 동시에,

$$\Vert u^{(n)}-u\Vert ={\left(\sum _{j=1}^{\mathrm{\infty }}{|u_j^{(m)}-u_j|}^2\right)}^{\frac{1}{2}}<ϵ$$

이므로 Cauchy sequence $u^{(1)}$, $u^{(2)}$, $u^{(3)}$, ...은 $u$로 수렴한다. 즉, ${\ell }^2$는 complete하다.