解析学

前提知識

  • 微分
  • 積分
  • 複素数

テイラー展開

テイラー展開 (Taylor expansion) は、関数のある一点での導関数たちの値から計算される項の無限和として関数を表したものである。

f(x)=f(a)+f′(a)(x−a)+12!f′′(x)(x−a)2+13!f′′′(a)(x−a)3+…=∑n=0∞1n!f(n)(a)(x−a)n\begin{aligned} f(x)&=f(a)+f{'}(a)(x-a)+\frac{1}{2!}f{''}(x)(x-a)^2+\frac{1}{3!}f{'''}(a)(x-a)^3+\dots\\ &=\sum_{n=0}^\infty{\frac1{n!}f^{(n)}(a)(x-a)^n} \end{aligned}

特に a=0a=0 のときのテイラー展開をマクローリン展開 (Maclaurin expansion) という。

f(x)=∑n=0∞1n!f(n)(0)xnf(x)=\sum_{n=0}^\infty{\frac1{n!}f^{(n)}(0)x^n}
補足

テイラー展開 (マクローリン展開) をすることによって、複雑な関数を多項式で表せる。

オイラーの公式

以下の関係式をオイラーの公式 (Euler's formula) という。

eiy=cos⁡y+isin⁡ye^{iy}=\cos{y}+i\sin{y}

特に θ=π\theta=\pi のとき

eiπ+1=0e^{i\pi}+1=0

が導かれ、この関係式をオイラーの等式 (Euler's identity) という。

補足

オイラー公式を用いれば、複素数の極座標表示は

z=r(cos⁡θ+isin⁡θ)=reiθz=r(\cos{\theta}+i\sin{\theta})=re^{i\theta}

と表される。

ε-δ論法

定義

関数 f(x)f(x) は x=ax=a で連続であるとは

lim⁡x→af(x)=b\lim_{x\to a}f(x)=b

が成り立つことである。

これをε-δ論法で定義すると

∀ε>0,∃δ>0 s.t. ∀x∈R,∣x−a∣<δ⇒∣f(x)−b∣<ε^\forall\varepsilon>0,^\exists\delta>0~\mathrm{s.t.}~^\forall x\in \R,|x-a|<\delta\Rightarrow|f(x)-b|<\varepsilon

となり、これは

任意の正の数 ε\varepsilon に対し、ある適当な正の数 δ\delta が存在して、δ<∣x−a∣\delta<|x-a| を満たす全ての実数 xx に対し、∣f(x)−b∣<ε|f(x)-b|<\varepsilon が成り立つという意味の条件である。

ガウス積分

定義

∫−∞∞e−x2dx=π\int_{-\infty}^\infty e^{-x^2}dx=\sqrt\pi

双曲線関数

定義

sinh⁡(x)=ex−e−x2cosh⁡(x)=ex+e−x2tanh⁡(x)=ex−e−xex+e−x\begin{aligned} \sinh(x)&=\frac{e^x-e^{-x}}{2}\\ \cosh(x)&=\frac{e^x+e^{-x}}{2}\\ \tanh(x)&=\frac{e^x-e^{-x}}{e^x+e^{-x}} \end{aligned}

性質

双曲線関数は三角関数に似た性質をもっている。

cosh⁡2x+sinh⁡2x=1tanh⁡x=sinh⁡xcosh⁡x1−tanh⁡2x=1cosh⁡2x(sinh⁡x)′=cosh⁡x(cosh⁡x)′=sinh⁡x(tanh⁡x)′=1cosh⁡2x∫−∞∞e−x2dx=π\begin{aligned} \cosh^2{x}+\sinh^2{x}&=1\\ \tanh{x}&=\frac{\sinh{x}}{\cosh{x}}\\ 1-\tanh^2{x}&=\frac{1}{\cosh^2{x}}\\ (\sinh{x})'&=\cosh{x}\\ (\cosh{x})'&=\sinh{x}\\ (\tanh{x})'&=\frac1{\cosh^2{x}}\\ \int_{-\infty}^\infty e^{-x^2}dx&=\sqrt\pi \end{aligned}

ロピタルの定理

定義

lim⁡x→a\lim_{x\rightarrow a} が 00\dfrac00 か ±∞±∞\dfrac{\pm\infty}{\pm\infty} の不定形であり、次の条件をすべて満たすとき

  1. lim⁡x→af(x)=lim⁡x→ag(x)\lim_{x\rightarrow a}f(x)=\lim_{x\rightarrow a}g(x) が 00 または ±∞\pm\infty
  2. aa を含むある開区間から aa を除くすべての点で g′(x)≠0g'(x)\ne0
  3. 極限 lim⁡x→af′(x)g′(x)\lim_{x\rightarrow a}\dfrac{f'(x)}{g'(x)} が存在する

このとき、極限 lim⁡x→af(x)g(x)\lim_{x\rightarrow a}\dfrac{f(x)}{g(x)} も存在し

lim⁡x→af(x)g(x)=lim⁡x→af′(x)g′(x)\lim_{x\rightarrow a}\frac{f(x)}{g(x)}=\lim_{x\rightarrow a}\frac{f'(x)}{g'(x)}

が成り立つ。

例題

  1. lim⁡x→0x+sin⁡xx\lim_{x\rightarrow0}\dfrac{x+\sin{x}}x
  2. lim⁡x→∞xex\lim_{x\rightarrow\infty}\dfrac{x}{e^x}
  3. lim⁡x→0sin⁡2xx+sin⁡x\lim_{x\rightarrow0}\dfrac{\sin2x}{x+\sin{x}}
  4. lim⁡x→0x−sin⁡xx3\lim_{x\rightarrow0}\dfrac{x-\sin{x}}{x^3}

フーリエ解析

フーリエ級数展開

ある関数 f(x)f(x) の性質が知りたい場合、より基本的な関数系 {φ0(x),φ1(x),φ2(x),… }\{\varphi_0(x),\varphi_1(x),\varphi_2(x),\dots\} で級数展開する。

f(x)=∑n=0∞cnφn(x)f(x)=\sum_{n=0}^\infty{c_n\varphi_n(x)}
  1. f(x)f(x) が無限回微分可能な場合 → {1,x,x2,x3,… }\{1,x,x^2,x^3,\dots\} で級数展開 (マクローリン展開)

    f(x)=∑n=0∞f(n)(0)n!xnf(x)=\sum_{n=0}^\infty\frac{f^{(n)}(0)}{n!}x^n
  2. f(x)f(x) が周期関数である場合 → {1,cos⁡x,sin⁡x,cos⁡2x,sin⁡2x,… }\{1,\cos{x},\sin{x},\cos{2x},\sin{2x},\dots\} (三角関数系) で級数展開 (フーリエ級数展開)

    f(x)=a+∑n=1∞(ancos⁡nx+bnsin⁡nx)f(x)=a+\sum_{n=1}^\infty(a_n\cos{nx}+b_n\sin{nx})

級数展開に三角関数を使う利点は、直交性 (自身以外との内積が 0) であること。

フーリエ係数

a02+∑n=1∞(ancos⁡nx+bnsin⁡nx)an=1π∫−ππf(x)cos⁡nxdxbn=1π∫−ππf(x)sin⁡nxdx\begin{aligned} \frac{a_0}2+\sum_{n=1}^\infty(a_n\cos{nx}+b_n\sin{nx})\\ a_n=\frac1\pi\int_{-\pi}^\pi{f(x)\cos{nx}dx}\\ b_n=\frac1\pi\int_{-\pi}^\pi{f(x)\sin{nx}dx} \end{aligned}

このような形で表される級数を f(x)f(x) のフーリエ級数といい、an,bna_n,b_n をフーリエ係数という。

複素フーリエ級数

∑n=−∞∞cneinxcn=12π∫−ππf(x)e−inxdx\begin{gathered} \sum_{n=-\infty}^\infty{c_ne^{inx}}\\ c_n=\frac1{2\pi}\int_{-\pi}^\pi{f(x)e^{-inx}dx} \end{gathered}
補足

cnc_n の性質

f(x)f(x) が実関数であるとき、c−n=cn∗c_{-n}=c_n^* が成り立つ。

ライプニッツの法則

ライプニッツの法則は、f,gf,g を nn 回微分可能な関数としたときの、それらの積 f⋅gf\cdot g の nn 階微分の一般化である。

定義

(f⋅g)(n)=∑k=0nnCkf(n−k)g(k)(f\cdot g)^{(n)}=\sum_{k=0}^n{_nC_kf^{(n-k)}g^{(k)}}

sup, inf

定義

AA を空でない実数 RR の集合とする。

max

max⁡A=α⇒A の最大値は α\max{A}=\alpha\Rightarrow A~\text{の最大値は}~\alpha
  1. 任意の x∈Ax\in A に対して x≤αx\le\alpha (α\alpha は AA の上界)
  2. α∈A\alpha\in A → α\alpha も AA に入っていけなければならない

sup

sup⁡A=α⇒A の上限は α\sup{A}=\alpha\Rightarrow A~\text{の上限は}~\alpha
  1. 任意の x∈Ax\in A に対して x≤αx \le\alpha (α\alpha は AA の上界)
  2. α\alpha より小さい任意の実数 β\beta に対し β<x\beta\lt x なる x∈Ax\in A が存在 → α\alpha 自体は AA に入ってなくてもよい

同様に

min⁡A=α⇒A の最小値は αinf⁡A=α⇒A の下限は α\begin{aligned} \min{A}=\alpha &\Rightarrow A~\text{の最小値は}~\alpha \\ \inf{A}=\alpha &\Rightarrow A~\text{の下限は}~\alpha \end{aligned}

性質

  1. sup⁡A∈A⇒sup⁡A=max⁡A\sup{A}\in A\Rightarrow\sup{A}=\max{A}
  2. A が上に有界⇒sup⁡A が存在A\text{ が上に有界} \Rightarrow \sup{A}\text{ が存在}
  3. inf⁡A∈A⇒inf⁡A=minA\inf{A}\in A\Rightarrow\inf{A}=min{A}
  4. A が下に有界 ⇒inf⁡A が存在A\text{ が下に有界 }\Rightarrow\inf{A}\text{ が存在}

ガンマ関数

定義

Γ(s)=∫0∞xs−1exp⁡(−x)dx (s>0)\Gamma(s)=\int_0^\infty{x^{s-1}\exp{(-x)}dx}\,(s>0)

性質

  1. s>1s>1 のとき

    Γ(s)=(s−1)Γ(s−1)\Gamma(s)=(s-1)\Gamma(s-1)
  2. ss が正の整数のとき

    Γ(s)=(s−1)!\Gamma(s)=(s-1)!
  3. Γ(12)=π\Gamma(\frac12)=\sqrt\pi

ラグランジュの未定乗数法

一般に

min⁡f(x)subject to {gi(x)=0 (i=1,2,…,m)hj(x)≤0 (j=1,2,…,l)\begin{gathered} \min f(\bold{x}) \\ \text{subject to} \, \begin{cases} \bold{g}_i(\bold{x}) &= 0 \, (i = 1,2,\dots,m) \\ \bold{h}_j(\bold{x}) &\le 0 \, (j = 1,2,\dots,l) \end{cases} \end{gathered}

の局所最小解が xˉ\bar{\bold{x}} であるとき {g1(x),…,gm(x),h1(x),…,hl(x)}\{\bold{g}_1(\bold{x}), \dots, \bold{g}_m(\bold{x}), \bold{h}_1(\bold{x}), \dots, \bold{h}_l(\bold{x})\} が一次独立ならば、 ある実数 λi (i=1,2,…,m),μj (j=1,2,…,l)\bm{\lambda}_i \, (i=1,2,\dots,m), \bm{\mu}_j \, (j=1,2,\dots,l) が存在し、以下が成り立つ。

−∇f(xˉ)=∑i=1mλi∇gi(xˉ)+∑j=1lμj∇hj(xˉ)λigi(xˉ)=0λi≥0gi(xˉ)≤0hi(xˉ)=0\begin{aligned} -\nabla f(\bar{\bold{x}}) &= \sum_{i=1}^m {\bm{\lambda}_i \nabla \bold{g}_i(\bar{\bold{x}})} + \sum_{j=1}^l {\bm{\mu}_j \nabla \bold{h}_j(\bar{\bold{x}})} \\ \bm{\lambda}_i \bold{g}_i(\bar{\bold{x}}) &= 0 \\ \bm{\lambda}_i &\ge 0 \\ \bold{g}_i(\bar{\bold{x}}) &\le 0 \\ \bold{h}_i(\bar{\bold{x}}) &= 0 \end{aligned}

これらの条件をKKT条件 (Karush-Kuhn-Tucker condition) という。 凸最適化問題において、KKT条件は最適解の必要十分条件となる。

参考文献