(선형대수학) 5.2 Hilbert Space

미분과 적분은 Euclidean space \(\mathbb{R}^n\)에서 정의되는 연산이다. 이들을 일반화하기 위해서는 연산을 정의하는데 핵심이 되는 Euclidean space의 성질을 일반화 하여야 한다. 함수 \(f:\mathbb{R}^n \to \mathbb{R}\)에 대한 \(\vec{a}\)에서의 differential \(df(\vec{a})\)는

$$df(\vec{a}) = f(\vec{a}+\vec{u})-f(\vec{a})-R(\vec{u}) \mathrm{~,~where~} \lim_{\vec{u}\to\vec{0}} \frac{R(\vec{u})}{\left| \vec{u} \right|} = 0$$

인 linear operator \(df\)와 함수 \(R\)로 정의된다.(---page link--- 참고) 순간변화율이라는 미분의 의미에서 보는바와 같이, 미적분의 정의와 정리들을 증명하는 과정에서 길이, 각도 그리고 limit가 핵심이 된다. 이러한 개념들이 정의될 수 있도록 Euclidean space를 일반화한 space를 Hilbert space라고 한다. 이번 페이지에서는 Hilbert space와 그  예들을 살펴볼 것이다.

 

 

Hilbert Space

 

(선형대수학) 4.2 Norm, (선형대수학) 4.3 Orthogonality, Gram-Schmidt Process에서 본 것과 같이 길이와 각도는 inner product로 일반화된다. 또한 limit는 completeness로 일반화된다.(---topology-limit point--- 참고) 이렇게 complete한 inner product space를 Hilbert space라고 부른다.

 

DEFINITION            Hilbert Space

 

Complete inner product space를 Hilbert Space라고 부른다.

 

Inner product가 정의되면, inner product로부터 유도된 norm을 정의할 수 있으므로, Hilbert space는 Banach space이다. (그러나, norm을 정의한다고 해서 inner product가 정의되는것은 아니므로 Banach space라고 해서 Hilbert space가 되지는 않는다.(---page link--- 참고))

 

 

Examples

 

1. Euclidean Space \(\mathbb{R}^n\)

 

Euclidean space에서는 dot product가 inner product이고, real number의 completeness로부터 Euclidean space의 completeness가 얻어진다. Real number의 completeness는 real number 집합을 만드는 과정에서 당연하게 도입된다. 예를 들어, Rational number 집합 \(\mathbb{Q}\)의 sequence

 

1, 1.4, 1.41, 1.414, 1.4142, 1.41421, 1.414213, 1.4142135, ...

 

는 Cauchy sequence이지만 수렴값은 분수의 형태로 정의되지 못한다.(\(\sqrt{2}\notin \mathbb{Q}\) 증명 참고) real number 집합 \(\mathbb{R}\)은 \(\mathbb{Q}\)에 이러한 수렴값들을 추가해줌으로써 정의되는데 이러한 과정을 completion이라고 부른다.

 

모든 \(n\)-dimensional vector space는 \(\mathbb{R}^n\)과 isomorphic하고, isomorphism이 isometry가 되도록 정의할 수 있으므로 Hilbert space가 된다.

 

 

2. The Space of Square-summable Sequences \(\ell^2\)

 

Complex number들의 sequence \(u\)를

$$ u=\{u_1,u_2,u_3, \cdots\} $$

라고 하자. \(\ell^2\)은 sequence 숫자들을 제곱한 무한급수가 수렴하는 squence들의 집합이다.

$$ \ell^2 = \{ u ~|~ \sum_{j=1} ^\infty \left| u_j \right|^2 < \infty \} $$

이제 sequence \(u\)와 \(v\)의 addition을

$$ w=u+v \mathrm{~~~with~~~} w_i=u_i+v_i $$

complex number \(\lambda\)와의 scalar multiplication을

$$ s=\lambda u \mathrm{~~~with~~~} s_i=\lambda u_i $$

로 정의한다. Addition과 scalar multiplication은

$$ \sum_{j=1} ^\infty \left| w_j \right| ^2 = \sum_{j=1} ^\infty \left| u_j+v_j \right| ^2 \le \sum_{j=1} ^\infty \left(2\left| u_j \right| ^2 + 2\left| v_j \right| ^2\right) < \infty $$

$$ \sum_{j=1} ^\infty \left| s_j \right| ^2 = \sum_{j=1} ^\infty \left| \lambda u_j \right| ^2 \le \left| \lambda \right| ^2 \sum_{j=1} ^\infty \left| u_j \right| ^2 < \infty $$

이므로 다시 \(\ell^2\)의 원소가 된다. 또한

$$ 0 = \{0,0,0,\cdots\} $$

은 addition의 항등원이 된다. 따라서 \(\ell^2\)는 vector space가 된다.

 

이제 operation \(\left(\cdot,\cdot\right)\)를

$$ \left( u,v \right) = \sum_{j=1} ^\infty u_j\overline{v_j} $$

로 정의하면,

 

① conjugate symmetry:

$$ \left( u,v \right) = \sum_{j=1} ^\infty u_j\overline{v_j} = \sum_{j=1} ^\infty \overline{\overline{u_j}v_j} = \overline{\left( v,u \right)} $$

② Linearity in the first argument:

$$ \left( \lambda u+v,w \right) = \sum_{j=1} ^\infty (\lambda u_j+v_j)\overline{w_j} = \lambda\sum_{j=1} ^\infty u_j\overline{w_j} + \sum_{j=1} ^\infty v_j\overline{w_j} = \lambda\left(u,w\right) + \left(v,w\right) $$

③ positive-definiteness:

$$ \left( u,u \right) = \sum_{j=1} ^\infty \left| u_j \right| ^2 \ge 0 $$

$$ \left( u,u \right) = \sum_{j=1} ^\infty \left| u_j \right| ^2 = 0 ~\Longleftrightarrow~ u_j=0 \mathrm{~~for~all~}j $$

 

따라서 \(\left(\cdot,\cdot\right)\)는 inner product가 된다.

 

이제 completeness를 확인해보자. \(\ell^2\)의 sequence \(u^{(1)}\), \(u^{(2)}\), ...을

$$ \begin{array}{c} u^{(1)} = \{u_1 ^{(1)},u_2 ^{(1)},u_3 ^{(1)},\cdots\} \\ u^{(2)} = \{u_1 ^{(2)},u_2 ^{(2)},u_3 ^{(2)},\cdots\} \\ \vdots \end{array} $$

Cauchy sequence라고 하자. 즉, 모든 \(\epsilon>0\)에 대하여, \(n,m > N\)이면

$$ \left\| u^{(m)} - u^{(n)} \right\| = ( u^{(m)} - u^{(n)},u^{(m)} - u^{(n)} )^{\frac{1}{2}} = \left( \sum_{j=1} ^\infty \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2 \right)^{\frac{1}{2}} < \epsilon $$

를 만족하는 자연수 \(N\)이 존재한다. 따라서

$$ \left| u_j ^{(m)} - u_j ^{(n)} \right| \le \left( \sum_{j=1} ^\infty \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2 \right)^{\frac{1}{2}} < \epsilon $$

이므로 complete number들의 sequence

$$ u_j ^{(1)}, u_j ^{(2)}, u_j ^{(3)}, \cdots $$

는 Cauchy sequence가 된다. complex number는 complete하므로 이 sequence는 수렴한다. 그 수렴값을 \(u_j\)라고 하자. 이제 새로운 sequence \(u\)를

$$ \begin{array}{ccl} u^{(1)} & = & \{u_1 ^{(1)},u_2 ^{(1)},u_3 ^{(1)},\cdots\} \\ u^{(2)} & = & \{u_1 ^{(2)},u_2 ^{(2)},u_3 ^{(2)},\cdots\} \\ u^{(3)} & = & \{u_1 ^{(3)},u_2 ^{(3)},u_3 ^{(3)},\cdots\} \\ & \vdots & ~~~\downarrow ~~~\downarrow ~~~\downarrow~\scriptscriptstyle{\mathrm{converge}} \\ u & = & \{ ~u_1~, ~u_2~, ~u_3~, \cdots \} \end{array} $$

로 정의하자. 자연수 \(k\)에 대하여,

$$ \sum_{j=1} ^k \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2 \le \sum_{j=1} ^\infty \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2 < \epsilon^2 $$

이므로

$$ \sum_{j=1} ^k \left| u_j ^{(m)} - u_j \right| ^2 = \lim_{n\to\infty} \sum_{j=1} ^k \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2\le \lim_{n\to\infty} \sum_{j=1} ^k \left| u_j ^{(m)} - u_j ^{(n)} \right| ^2 < \lim_{n\to\infty} \epsilon^2 = \epsilon^2 $$

그리고 다시 \(k\to \infty\)를 하면,

$$ \sum_{j=1} ^\infty \left| u_j ^{(m)} - u_j \right| ^2 < \epsilon^2 $$

이므로 \(u-u^{(m)}\in \ell^2\)이다. 따라서 \(u=(u-u^{(m)})+u^{(m)}\)이므로 \(u\in \ell^2\)이다. 동시에,

$$ \left\| u^{(n)} - u \right\| = \left( \sum_{j=1} ^\infty \left| u_j ^{(m)} - u_j \right| ^2 \right) ^\frac{1}{2} < \epsilon $$

이므로 Cauchy sequence \(u^{(1)}\), \(u^{(2)}\), \(u^{(3)}\), ...은 \(u\)로 수렴한다. 즉, \(\ell^2\)는 complete하다.