(선형대수학) 4.2 Norm

공간벡터의 내적은 기하학적으로 벡터의 길이와 벡터 사이의 각도와 관련이 있다.

$$ \vec{x}\cdot\vec{y}=\left|\vec{x}\right| \left|\vec{y}\right|\cos\theta $$

그러나 일반적인 vector space에서는 직접 vector의 길이라는 것을 생각하기 어렵다. 예를 들어, \(n\)차 이하의 polynomial space의 vector

$$ f(x)=c_0+c_1x+c_2x^2+\cdots+c_nx^n $$

에서 길이라는 것을 상상하기 힘들다. 만약 vector space에 inner product가 정의된 경우 공간벡터에서 내적과 길이의 관계를 이용하여 길이에 대응하는 개념을 정의할 수 있을 것이다.

 

 

Norm

 

DEFINITION            Induced Norm 

 

Inner product space \(V\)의 vector \(\mathbf{x}\)에 대하여

$$ \left\| \mathbf{x} \right\|=\sqrt{\left\langle \mathbf{x},\mathbf{x} \right\rangle} $$

를 \(\mathbf{x}\)의 inner product로부터 유도된 norm이라고 부른다.

 

Inner product로부터 유도된 norm은 다음과 같은 특징을 가진다.

 

1. \(\left\| a\mathbf{x} \right\|=\left| a\right| \left\| \mathbf{x} \right\| \)

 

2. \( \left\| \mathbf{x}+\mathbf{y} \right\| \le \left\| \mathbf{x} \right\| + \left\| \mathbf{y} \right\| \)

 

3. \( \left\| \mathbf{x} \right\|=0~\Longrightarrow~\mathbf{x}=0 \)

 

공간벡터의 길이는 피타고라스의 정리로부터

$$ \left| \vec{x} \right| = \sqrt{x_1 ^2 + x_2 ^2 + x_3 ^2} $$

이므로 이전 페이지에서 본 \(\mathbb{R}^2\)의 inner product

$$ \left\langle \mathbf{x} , \mathbf{y} \right\rangle = x_1y_1 + x_2y_2 + x_3y_3 $$

로부터 유도된 norm이다. 그러므로 공간벡터의 길이는 위의 3가지 특징을 모두 만족한다. 공간벡터의 길이와 관련된 대부분의 특성들은 피타고라스의 정리로부터 유도할 수도 있지만, 위의 특징들로부터 도출할 수도 있다. 따라서 일반적인 vector space에서 공간벡터의 길이에 대응되는 개념은 위의 특징을 이용하여 정의한다.

 

DEFINITION            Norm

 

Vector space \(V\)에 대하여 함수 \(p:V\to \mathbb{R}\)이

 

1. Absolute homogenity : \( p(a\mathbf{x})=\left| a \right| p(a) \)

 

2. Triangle inequality : \( p(\mathbf{x}+\mathbf{y}) \le p(\mathbf{x})+p(\mathbf{y}) \)

 

3. \(p(\mathbf{x})=0 ~\Longrightarrow~ \mathbf{x}=\mathbf{0} \)

 

를 만족하면 \(p\)를 \(V\)의 norm이라 부르고 \(V\)를 normed space라고 부른다.

 

Inner product로부터 유도된 길이의 개념 역시 norm의 일종임을 확인 할 수 있다. Norm은 inner product와는 독립적인 개념으로 inner product가 정의되지 않더라도 norm을 정의할 수 있다. 다만 inner product가 정의된 경우 inner product를 이용하여 norm을 유도할 수 있다. Inner product와 마찬가지로 norm 역시 하나의 vector space에 정의될 수 있는 가능한 방법이 여러 가지가 있다.

 

 

Examples

 

1. Euclidean norm

 

\(n\)-dimensional real Euclidean space \(\mathbb{R}^n\)의 vector

$$ \mathbf{x}=(x_1,x_2,\cdots,x_n) $$

$$ \mathbf{y}=(y_1,y_2,\cdots,y_n) $$

의 inner product는

$$ \left\langle \mathbf{x},\mathbf{y} \right\rangle = \sum_{i=1}^n x_iy_i $$

로부터 norm

$$ \left\| \mathbf{x} \right\| = \sqrt{\left\langle \mathbf{x},\mathbf{x} \right\rangle } = \sqrt{\sum_{i=1}^n x_i ^2} $$

를 유도할 수 있다. Complex Euclidean space \(\mathbb{C}^n\)의 경우

$$ \left\langle \mathbf{x},\mathbf{y} \right\rangle = \sum_{i=1}^n x_i\overline{y}_i $$

로부터

$$ \left\| \mathbf{x} \right\| = \sqrt{\left\langle \mathbf{x},\mathbf{x} \right\rangle } = \sqrt{\sum_{i=1}^n \left| x_i \right| ^2} $$

 

 

2. \(p\)-norm on Euclidean Space

 

\(\mathbb{C}^n\)에 대하여 다른 형태의 norm도 가능하다.

$$ \left\| \mathbf{x} \right\| _p = \left( \sum_{i=1}^n \left| x_i \right| ^p \right)^{\frac{1}{p}} $$

는 \(p\ge 1\)에서 norm이 된다. 이를 \(p\)-norm이라고 부른다. Euclidean norm은 \(p=2\)의 특별한 케이스이다. \(0\le p \le 1\)의 경우에는 traingle inequality를 만족하지 못하므로 norm이 되지 못한다. \(p\to \infty\)의 경우

$$ \left\| \mathbf{x} \right\| _\infty = \max{(\left| x_1 \right|,\left| x_2 \right|,\cdots,\left| x_n \right|)} $$

로 정의된다. 이를 maximum norm이라고 한다. 아래 그림은 \(\mathbb{R}^2\)에서 같은 norm값을 가지는 점들을 표시한 것이다.

 

CC-BY-SA-3.0, https://commons.wikimedia.org/w/index.php?curid=678101

 

 

3. \(p\)-norm on \(L^p\) space

 

\(p\ge 1\)에 대하여 정의역 \(X \subset \mathbb{R}\)에서 \(\left| f(x) \right| ^p\)가 적분 가능한 함수 \(f:X\to \mathbb{R}\)의 집합은

$$ \int_X \left| f(x)+g(x) \right| ^p dx \le 2^{p-1} \left( \int_X \left| f(x) \right| ^p dx+\int_X \left| g(x) \right| ^p dx \right) $$

로부터 vector space가 된다. 이를 \(L^p\) space라고 한다.

$$ L^p =\left\{ f:X\to \mathbb{R} ~\left|~\int_X \left| f(x) \right| ^p dx \le \infty \right. \right\} $$

\(L^p\)의 원소 \(f\)에 대하여

$$ \left\| f \right\| _p = \left( \int_X \left| f(x) \right| ^p dx \right)^{\frac{1}{p}} $$

는 \(L^p\)의 norm이 된다. Triangle inequality

$$ \left\| f+g \right\| _p \le \left\| f \right\|_p + \left\| g \right\|_p $$

를 특별히 Minkowski inequality라고 부른다. Norm 정의의 3번째 조건도 \(L^2\) space의 inner product의 경우와 마찬가지로 문제가 되나 물리학 학부 수준에서는 크게 신경 쓰지 않아도 된다. \(p=2\)인 경우 위와 같이 정의된 norm은 inner produt로부터 유도된 norm이다.

 

 

4. Norm of Linear operator

 

Normed space \(V\)에 대하여 linear operator들의 space \(L(V)\)에 norm을 정의할 수 있다. Linear operator \(A\)에 대하여

$$ \left\| A \right\| = \inf{\left\{ ~c\ge 0 ~~\left|~~\left\|A\mathbf{v}\right\| \le c \left\|\mathbf{v}\right\| \mathrm{~for~all~}\mathbf{v}\in V ~\right. \right\}} $$

는 \(L(V)\)의 norm이 된다. 다른 표현

$$ \left\| A \right\| = \sup{\left\{ \left. \frac{\left\| A\mathbf{v} \right\|}{\left\| \mathbf{v} \right\|} ~\right|~\mathbf{v}\ne \mathbf{0} \right\}} $$

은 위와 동일한 정의이다.