(선형대수학) 5.6 Classical Orthogonal Polynomials

전자기학의 Laplace equation, 양자역학의 Schrödinger equation, 열역학의 heat equation, 금융공학의 Black-Sholes equation 등 많은 영역에서 second-order partial differential equation을 푸는 것은 중요한 문제이다. 이번 페이지에서는 이러한 미분방정식의 해에 대한 선형대수학 구조를 살펴본다. (Field는 real number로 가정한다.)

 

 

The Space of Continuous Functions

 

정의역 $X=[0,1]$에서 정의되는 함수 $y$에 대한 미분방정식

$$(1-x^2)y^{″}-2x{y}^{\prime }+n(n+1)y=0$$

을 살펴보자. 이 방정식이 성립하려면 함수 $y$는 $[0,1]$에서 최소한 2번 미분가능 해야 한다. 따라서 $y$는 $[0,1]$에서 연속이어야 한다.(---미적분,differentiable--- 참고)

 

(선형대수학) 1.1 Vector Space에서 살펴본 것과 같이 $[0,1]$에서 연속인 함수들의 집합 $C^0[0,1]$은 vector space이다. 또한 연속인 함수 $f$는

$${\int }_0^1{|f(x)|}^{2}dx<\mathrm{\infty }$$

이므로 $C^0[0,1]$은 $L^2[0,1]$의 subspace가 된다.

 

 

만약 $C^0[a,b]$의 basis를 알 수 있다면, 미분방정식의 해를 basis를 이용해서 표현할 수 있을 것이다. 해석학의 정리에 의하면, $C^0[a,b]$의 basis는 $x^k$가 된다.

 

THEOREM            Weierstrass Approximation Theorem

 

실수 함수 $f$가 정의역 $[a,b]$에서 연속이라면, 임의의 $ϵ>0$에 대하여

$$|f(x)-p(x)|<ϵ,x\in [a,b]$$

인 polynomial $p$가 존재한다.

 

$C^0[a,b]$의 basis

$$\{1,x,x^2,x^3,\cdots \}$$

는 orthonormal 하지는 않으므로, Gram-Schmidt process를 이용하여 orthonormal basis를 얻어낼 수 있다.((선형대수학) 4.3 Orthogonality, Gram-Schmidt Process 참고)

 

 

Recurrence Relation

 

$C^0[a,b]$의 $n$차 orthogonal basis vector를 $P_n$이라고 하자.(basis vector들은 서로 linearly independent이므로 $n$차 basis vector는 1개만 존재한다.) 만약,

$$\begin{array}{lcl}{P}_{n+1}(x)& =& k_{n+1}{x}^{n+1}+\cdots \\ P_n(x)& =& k_n{x}^n+\cdots \end{array}$$

라고 한다면, $P_{n+1}-(k_{n+1}/k_n)x{P}_n$은 $n$차 polynomial이므로 $n$차 이하의 basis vector들의 linear combination이다.

$$P_{n+1}-\frac{k_{n+1}}{k_n}x{P}_n=\sum _{i=1}^n{\alpha }_i{P}_i$$

이제 양변에 $P_m$으로 inner product 해주면,

$$⟨P_{n+1},P_m⟩-\frac{k_{n+1}}{k_n}⟨P_n,x{P}_m⟩=\sum _{i=1}^n{\alpha }_i⟨P_i,P_m⟩$$

이 때, $m<n-1$인 경우 좌변은 0이 되므로

$$\sum _{i=1}^n{\alpha }_i⟨P_i,P_m⟩={\alpha }_m=0\mathrm{for}m<n-1$$

이므로

$$P_{n+1}-\frac{k_{n+1}}{k_n}x{P}_n={\alpha }_n{P}_n+{\alpha }_{n-1}{P}_{n-1}$$

또는 recurrence relation

$$P_{n+1}=(a_{n}x+b_n)P_n+c_n{P}_{n-1}$$

을 얻을 수 있다.

 

 

Classical Orthogonal Polynomials

 

Orthonormal basis를 얻기 위해서 basis $\{1,x,x^2,x^3,\cdots \}$에 Gram-Schmidt process를 이용할 수 있지만, 다른 방법 역시 가능하다.

 

DEFINITION            (Generalized) Rodrigues' Formula

 

$$P_n(x)=\frac{1}{W(x)}\frac{d^n}{d{x}^n}(W(x){[Q(x)]}^n)$$

 

1. $x\in (a,b)$에서 $W(x)>0$인 inetgrable function $W(x)$이다.

($W(x)$를 weight function이라고 부른다.)

 

2. $Q$는 1 또는 $x-r$ 또는 $(x-r_1)(x-r_2)$ 형태이다.

(공백)

 

Rodrigues' Formula는 2차 미분방정식

$$Q(x)f^{″}+L(x)f^{\prime }+\lambda f=0\mathrm{where}L(x)=tx+u$$

의 해집합의 n차 orthogonal basis vector를 얻어내기 위해 사용된다. 이 때

$$W(x)=\frac{e^{\int \frac{L(x)}{Q(x)}dx}}{Q(x)}$$

의 관계에 있다. $P_n$들은 orthogoanl하기 때문에 (orthonormal은 아니다)

$$⟨P_n,P_m⟩=\{\begin{array}{cl}(h_n{)}^2& ,n=m\\ 0& ,n\ne m\end{array}$$

을 만족한다.(다만 inner product가 $⟨f,g⟩={\int }_a^{b}W(x)f(x)g(x)dx$ 로 약간 다르다. 그러나 이론적으로 $L^2[a,b]$와 완전히 동일하다.)

 

 

또한 미분방정식을

$$Q(x)f^{″}+L(x)f^{\prime }=[Q(x)\frac{d^2}{d{x}^2}+L(x)\frac{d}{dx}]f=\lambda f$$

라고 했을 때, $P_n$은 미분 operator

$$D=Q(x)\frac{d^2}{d{x}^2}+L(x)\frac{d}{dx}$$

의 eigenvector가 된다.

 

 

이렇게 Rodrigues' Formula로부터 얻을 수 있는 다항식들을 classical orthogonal polynomial이라는 카테고리로 분류한다. Jacobi polynomials, Legendre polynomials, Hermite polynomials([양자역학] 3.2 Hermite Polynomials 참고), Laguerre polynomials 등이 여기에 속한다.

 

정리하면 classical orthogonal polynomial들은

 

1. orthogonal 관계식을 만족:

$$⟨P_n,P_m⟩={\int }_a^{b}W(x)P_n(x)P_m(x)dx=\{\begin{array}{cl}(h_n{)}^2& ,n=m\\ 0& ,n\ne m\end{array}$$

2. 다항식들의 recurrence relation:

$$P_{n+1}=(a_{n}x+b_n)P_n+c_n{P}_{n-1}$$

3. 미분방정식 $Q(x)P_n^{″}+L(x)P_n^{\prime }+{\lambda }_n{P}_n=0$을 만족, 미분 operator의 eigenvector:

$$D(P_n)=(Q(x)\frac{d^2}{d{x}^2}+L(x)\frac{d}{dx})P_n={\lambda }_n{P}_n$$

 

 

대표적인 classical orthogonal polynomial에 대한 것은 아래 표로 요약한다.

이름, 다항식 심볼	Legendre, $P_n$	Hermite, $H_n$	Laguerre, $L_n$
정의역	$-1,1$	$-\mathrm{\infty },\mathrm{\infty }$	$0,\mathrm{\infty }$
$W(x)$	$1$	$e^{-x^2}$	$e^{-x}$
$Q(x)$	$1-x^2$	$1$	$x$
$L(x)$	$-2x$	$-2x$	$1-x$
$h_n$	$\frac{2}{2n+1}$	$2^{n}n!\sqrt{\pi }$	$1$
eigenvalue ${\lambda }_n$	$n(n+1)$	$2n$	$n$
recurrence: $a_n$	$\frac{2n+1}{n+1}$	$2$	$\frac{-1}{n+1}$
recurrence: $b_n$	$0$	$0$	$\frac{2n+1}{n+1}$
recurrence: $c_n$	$\frac{n}{n+1}$	$2n$	$\frac{n}{n+1}$

(참조: https://en.wikipedia.org/wiki/Classical_orthogonal_polynomials#Table_of_classical_orthogonal_polynomials)