はじめに
この記事では統計学でもたびたび顔を出す、シュワルツの不等式の証明と、確率変数の期待値を用いた表式について述べます。
\begin{align*}
\newcommand{\mat}[1]{\begin{pmatrix} #1 \end{pmatrix}}
\newcommand{\f}[2]{\frac{#1}{#2}}
\newcommand{\pd}[2]{\frac{\partial #1}{\partial #2}}
\newcommand{\d}[2]{\frac{{\rm d}#1}{{\rm d}#2}}
\newcommand{\e}{{\rm e}}
\newcommand{\T}{\mathsf{T}}
\newcommand{\(}{\left(}
\newcommand{\)}{\right)}
\newcommand{\{}{\left\{}
\newcommand{\}}{\right\}}
\newcommand{\[}{\left[}
\newcommand{\]}{\right]}
\newcommand{\dis}{\displaystyle}
\newcommand{\eq}[1]{{\rm Eq}(\ref{#1})}
\newcommand{\n}{\notag\\}
\newcommand{\t}{\ \ \ \ }
\newcommand{\tt}{\t\t\t\t}
\newcommand{\argmax}{\mathop{\rm arg\, max}\limits}
\newcommand{\argmin}{\mathop{\rm arg\, min}\limits}
\def\l<#1>{\left\langle #1 \right\rangle}
\def\us#1_#2{\underset{#2}{#1}}
\def\os#1^#2{\overset{#2}{#1}}
\newcommand{\case}[1]{\{ \begin{array}{ll} #1 \end{array} \right.}
\newcommand{\s}[1]{{\scriptstyle #1}}
\definecolor{myblack}{rgb}{ 0.27,0.27,0.27}
\definecolor{myred}{rgb}{0.78,0.24,0.18}
\definecolor{myblue}{rgb}{0.0,0.443,0.737}
\definecolor{myyellow}{rgb}{1.0,0.82,0.165}
\definecolor{mygreen}{rgb}{0.24,0.47,0.44}
\newcommand{\c}[2]{\textcolor{#1}{#2}}
\newcommand{\ub}[2]{\underbrace{#1}_{#2}}
\end{align*}
コーシー・シュワルツの不等式
実数列 $\{x_i\}, \{y_i\}, i=1, 2, \dots, n$ に対して、次の不等式が成立する。
\begin{align*}
\(\sum_{i=1}^n x_i^2 \) \( \sum_{i=1}^n y_i^2 \) \geq \(\sum_{i=1}^n x_i y_i \)^2.
\end{align*}
確率変数 $X, Y$ に対して、期待値 $E[X], E[Y]$ が存在するとき、次の不等式が成立する。
\begin{align*}
E[X^2] E[Y^2] \geq E[XY]^2.
\end{align*}
それでは、コーシー・シュワルツの不等式を証明してみます。
証明
ベクトル $\bm{x} = \( x_1, x_2, \dots, x_n \), \bm{y} = \( y_1, y_2, \dots, y_n \)$ を考える。
ベクトルの内積の定義: $\bm{x} \cdot \bm{y} = \| \bm{x} \| \| \bm{y} \| \cos{\theta}$ から、両辺を2乗して
\begin{align*}
\(\bm{x} \cdot \bm{y}\)^2 = \| \bm{x} \|^2 \| \bm{y} \|^2 \cos^2{\theta}
\end{align*}
が成り立つ。 $-1\leq \cos{\theta} \leq 1$ より、次の不等式が成立する。
\begin{align*}
\(\bm{x} \cdot \bm{y}\)^2 \leq \| \bm{x} \|^2 \| \bm{y} \|^2
\end{align*}
上式をベクトルの成分で書き下すと、
\begin{align*}
\(\sum_{i=1}^n x_i y_i \)^2 \leq \(\sum_{i=1}^n x_i^2 \) \( \sum_{i=1}^n y_i^2 \)
\end{align*}
となり、コーシー・シュワルツの不等式が示される。
また、上式の両辺を $n^2$ で割ると、
\begin{align*}
\( \f{1}{n}\sum_{i=1}^n x_i y_i \)^2 \leq \(\f{1}{n}\sum_{i=1}^n x_i^2 \) \( \f{1}{n} \sum_{i=1}^n y_i^2 \)
\end{align*}
となるが、これは期待値を用いて
\begin{align*}
E[XY]^2 \leq E[X^2] E[Y^2]
\end{align*}
と表記できる。
このようにベクトルを使って幾何学的に考えることでコーシー・シュワルツの不等式を簡単に確かめることができますね。
等号が成立する場合は、2つのベクトルが平行である時です。
