(선형대수학) 5.6 Classical Orthogonal Polynomials

전자기학의 Laplace equation, 양자역학의 Schrödinger equation, 열역학의 heat equation, 금융공학의 Black-Sholes equation 등 많은 영역에서 second-order partial differential equation을 푸는 것은 중요한 문제이다. 이번 페이지에서는 이러한 미분방정식의 해에 대한 선형대수학 구조를 살펴본다. (Field는 real number로 가정한다.)

 

 

The Space of Continuous Functions

 

정의역 \(X=[0,1]\)에서 정의되는 함수 \(y\)에 대한 미분방정식

$$ (1-x^2)y''-2xy'+n(n+1)y=0 $$

을 살펴보자. 이 방정식이 성립하려면 함수 \(y\)는 \([0,1]\)에서 최소한 2번 미분가능 해야 한다. 따라서 \(y\)는 \([0,1]\)에서 연속이어야 한다.(---미적분,differentiable--- 참고)

 

(선형대수학) 1.1 Vector Space에서 살펴본 것과 같이 \([0,1]\)에서 연속인 함수들의 집합 \(C^0[0,1]\)은 vector space이다. 또한 연속인 함수 \(f\)는

$$ \int _0 ^1 \left| f(x) \right| ^2 dx < \infty $$

이므로 \(C^0[0,1]\)은 \(L^2[0,1]\)의 subspace가 된다.

 

 

만약 \(C^0[a,b]\)의 basis를 알 수 있다면, 미분방정식의 해를 basis를 이용해서 표현할 수 있을 것이다. 해석학의 정리에 의하면, \(C^0[a,b]\)의 basis는 \(x^k\)가 된다.

 

THEOREM            Weierstrass Approximation Theorem

 

실수 함수 \(f\)가 정의역 \([a,b]\)에서 연속이라면, 임의의 \(\epsilon >0\)에 대하여

$$ \left| f(x)-p(x) \right| < \epsilon \mathrm{~,~~}x\in [a,b] $$

인 polynomial \(p\)가 존재한다.

 

\(C^0[a,b]\)의 basis

$$ \{ 1,x,x^2,x^3,\cdots \} $$

는 orthonormal 하지는 않으므로, Gram-Schmidt process를 이용하여 orthonormal basis를 얻어낼 수 있다.((선형대수학) 4.3 Orthogonality, Gram-Schmidt Process 참고)

 

 

Recurrence Relation

 

\(C^0[a,b]\)의 \(n\)차 orthogonal basis vector를 \(P_n\)이라고 하자.(basis vector들은 서로 linearly independent이므로 \(n\)차 basis vector는 1개만 존재한다.) 만약,

$$ \begin{array}{lcl} P_{n+1}(x) & = & k_{n+1} x^{n+1} + \cdots \\ P_{n}(x) & = & k_n x^n + \cdots \end{array} $$

라고 한다면, \(P_{n+1}-(k_{n+1}/k_n)xP_n\)은 \(n\)차 polynomial이므로 \(n\)차 이하의 basis vector들의 linear combination이다.

$$ P_{n+1}-\frac{k_{n+1}}{k_n}xP_n = \sum _{i=1} ^n \alpha_i P_i $$

이제 양변에 \(P_m\)으로 inner product 해주면,

$$ \left\langle P_{n+1},P_m \right\rangle -\frac{k_{n+1}}{k_n} \left\langle P_n,xP_m \right\rangle = \sum _{i=1} ^n \alpha_i \left\langle P_i,P_m \right\rangle $$

이 때, \(m < n-1 \)인 경우 좌변은 0이 되므로

$$ \sum_{i=1} ^n \alpha_i \left\langle P_i,P_m \right\rangle = \alpha_m = 0 \mathrm{~~~for~~}m<n-1 $$

이므로

$$ P_{n+1}-\frac{k_{n+1}}{k_n}xP_n = \alpha_nP_n + \alpha_{n-1}P_{n-1} $$

또는 recurrence relation

$$ P_{n+1}=(a_n x +b_n)P_n+c_n P_{n-1} $$

을 얻을 수 있다.

 

 

Classical Orthogonal Polynomials

 

Orthonormal basis를 얻기 위해서 basis \(\{ 1,x,x^2,x^3,\cdots \}\)에 Gram-Schmidt process를 이용할 수 있지만, 다른 방법 역시 가능하다.

 

DEFINITION            (Generalized) Rodrigues' Formula

 

$$ P_n(x) = \frac{1}{W(x)}\frac{d^n}{dx^n} (W(x)\left[ Q(x) \right] ^n) $$

 

1. \(x\in (a,b)\)에서 \(W(x)>0\)인 inetgrable function \(W(x)\)이다.

(\(W(x)\)를 weight function이라고 부른다.)

 

2. \(Q\)는 1 또는 \(x-r\) 또는 \((x-r_1)(x-r_2)\) 형태이다.

(공백)

 

Rodrigues' Formula는 2차 미분방정식

$$ Q(x)f'' + L(x)f'+\lambda f=0 \mathrm{~~~where~~} L(x)=tx+u$$

의 해집합의 n차 orthogonal basis vector를 얻어내기 위해 사용된다. 이 때

$$ W(x)=\frac{e^{\int \frac{L(x)}{Q(x)}dx}}{Q(x)} $$

의 관계에 있다. \(P_n\)들은 orthogoanl하기 때문에 (orthonormal은 아니다)

$$ \left\langle P_n,P_m \right\rangle = \left\{ \begin{array}{cl} (h_n) ^2 &,~~n=m \\ 0 &,~~n\ne m \end{array} \right. $$

을 만족한다.(다만 inner product가 \( \left\langle f,g \right\rangle = \int _a ^b ~W(x)f(x)g(x)~dx \) 로 약간 다르다. 그러나 이론적으로 \(L^2[a,b]\)와 완전히 동일하다.)

 

 

또한 미분방정식을

$$ Q(x)f''+L(x)f'=\left[ Q(x)\frac{d^2}{dx^2}+L(x)\frac{d}{dx} \right]f=\lambda f $$

라고 했을 때, \(P_n\)은 미분 operator

$$ D = Q(x)\frac{d^2}{dx^2}+L(x)\frac{d}{dx} $$

의 eigenvector가 된다.

 

 

이렇게 Rodrigues' Formula로부터 얻을 수 있는 다항식들을 classical orthogonal polynomial이라는 카테고리로 분류한다. Jacobi polynomials, Legendre polynomials, Hermite polynomials([양자역학] 3.2 Hermite Polynomials 참고), Laguerre polynomials 등이 여기에 속한다.

 

정리하면 classical orthogonal polynomial들은

 

1. orthogonal 관계식을 만족:

$$ \left\langle P_n,P_m \right\rangle = \int _a ^b ~W(x)P_n(x)P_m(x)~dx = \left\{ \begin{array}{cl} (h_n)  ^2&,~~n=m \\ 0 &,~~n\ne m \end{array} \right. $$

2. 다항식들의 recurrence relation:

$$ P_{n+1}=(a_n x +b_n)P_n+c_n P_{n-1} $$

3. 미분방정식 \( Q(x)P_n'' + L(x)P_n'+\lambda_n P_n=0 \)을 만족, 미분 operator의 eigenvector:

$$ D(P_n) = \left(Q(x)\frac{d^2}{dx^2}+L(x)\frac{d}{dx}\right) P_n = \lambda_n P_n$$

 

 

대표적인 classical orthogonal polynomial에 대한 것은 아래 표로 요약한다.

이름, 다항식 심볼	Legendre, \(P_n\)	Hermite, \(H_n\)	Laguerre, \(L_n\)
정의역	\(-1,1\)	\(-\infty,\infty\)	\(0,\infty\)
\(W(x)\)	\(1\)	\(e^{-x^2}\)	\(e^{-x}\)
\(Q(x)\)	\(1-x^2\)	\(1\)	\(x\)
\(L(x)\)	\(-2x\)	\(-2x\)	\(1-x\)
\(h_n\)	\(\frac{2}{2n+1}\)	\(2^nn!\sqrt{\pi}\)	\(1\)
eigenvalue \(\lambda_n\)	\(n(n+1)\)	\(2n\)	\(n\)
recurrence: \(a_n\)	\(\frac{2n+1}{n+1}\)	\(2\)	\(\frac{-1}{n+1}\)
recurrence: \(b_n\)	\(0\)	\(0\)	\(\frac{2n+1}{n+1}\)
recurrence: \(c_n\)	\(\frac{n}{n+1}\)	\(2n\)	\(\frac{n}{n+1}\)

(참조: https://en.wikipedia.org/wiki/Classical_orthogonal_polynomials#Table_of_classical_orthogonal_polynomials)