射影行列

この記事では射影行列について解説します。

射影行列の定義と性質

行列 が射影行列であるとは、\begin{align} P^2 =P \end{align} を満たすときに言います。

行列 が射影行列のとき、\begin{align} Q:= I_n-P \end{align} も射影行列であり（ は の単位行列）、\begin{align} PQ=QP =0 \end{align} であり、\begin{align} {\bf R}^n = {\rm Im}\, P\oplus {\rm Im}\, Q\end{align} が成り立ちます。さらに、\begin{align} {\rm Ker}\, P = {\rm Im}\, Q\end{align} が成り立ち、\begin{align} {\bf R}^n = {\rm Im}\, P\oplus {\rm Ker}\, P\end{align} となります。

ここで、 は以下の記事で紹介した直和を表しています。

が射影行列、 は明らかなので、まずは が成り立つことを示します。任意の は となるので が成り立ちますので が成り立つことを確かめたら良いです。そこで、任意の をとってみると、ある によって が成り立ちますので、 が成り立つことが分かります。また、 なので となり、 なので が成り立つことになり、 が示せました。次に、 が成り立つことを示します。任意の をとると、 なので となり、 が分かります。また、 なので が成り立つので、 が言えました。

上のことは 上の射影行列が与えられたら の直和分解が得られることを示していますが、逆に の直和分解が与えられたら射影行列が定まります。

ならば、, となる射影行列 が一意に定まり、 となります。言い換えると、 ならば、任意の は と一意に表されますが、 を に移す写像 と を に移す写像 が一意に定まります。この を に沿った への射影行列、 を に沿った への射影行列と言います。

上の の存在は、 より、任意の はある と によって と一意に分解できることから , とおくと、 が成り立つことから分かります。一意性は、 と書いてみると、 となることから分かります。

以上のことから次のことが言えます。

行列 が射影行列であるということは は に沿った への射影行列であることを意味します。

したがって、射影行列は以下のようにベクトル空間を直和分解する写像のように思えます。

直交射影行列

ユークリッド空間 には内積 が定義されているとします。射影行列 が対称行列、つまり、 のとき、 を直交射影行列と言います。行列 が直交射影行列だとすると、ユークリッド空間 は次のように と に直交直和分解されます。

行列 が直交射影行列ではなく、単なる射影行列だと にはなりますが、これが直交直和とは限らないことが \begin{align} P= \begin{pmatrix} 1 & 1 \\ 0 & 0 \end{pmatrix} \end{align} の上の例から分かります。
一次独立なベクトルたちが張る空間への直交射影行列は次のように表現できます。

特に、 が正規直交していると、 への直交射影行列 は なので\begin{align} P = AA^T=a_1a_1^T+a_2a_2^T+\cdots +a_ma_m^T \end{align} となり、任意の に対して、\begin{align} Px = (a_1^Tx)a_1+(a_2^Tx)a_2+\cdots +(a_m^Tx)a_m \end{align} となります。したがって、 は を各 軸へ直交射影したベクトルの和として表現されます。例えば、 の は次のように 軸と 軸へ を直交射影したベクトルの和ということになります。

行列 が直交射影行列ならば となるので以下が成り立つことが分かります。

つまり、任意のベクトル の直交射影 の大きさは の大きさ以下になります。行列 が直交射影ではなく、単なる射影行列だとこのようなことは言えません。実際に、次のような例があります。

この直交射影の概念は、以下の記事の中でも利用しているようにシステム制御理論でもよく使われます。

参考文献

記事を書くにあたって次の本を参考にしました。

UP応用数学選書10 射影行列・一般逆行列・特異値分解 新装版

ベクトル空間の直和分解

この記事では、ベクトル空間の直和分解について解説します。

ベクトル空間の和と直和

ベクトル空間 の二つの部分空間 が与えられているとします。このとき、 は の部分空間でないかもしれませんが、\begin{align} V_1+V_2 := \{ x_1 + x_2\,|\, x_1\in V_1, x_2\in V_2 \} \end{align} は の部分空間になっています。この は を含む最小の部分空間になっており、 と の和と言います。基底を構成するベクトルの数をカウントすることで、\begin{align} \dim (V_1+V_2) = \dim V_1 + \dim V_2 - \dim (V_1\cap V_2) \end{align} が成り立つことが分かります。

もし、 かつ が成り立つならば、 は と の直和であると言ったり、 と に直和分解されると言ったりして、\begin{align} V= V_1\oplus V_2 \end{align} と書き、 は の補空間と言います ( は の補空間)。 であることと、 かつ が成り立つことは同値です。また、 であることと、任意の が\begin{align} x = x_1 + x_2,\quad x_1\in V_1,\, x_2\in V_2 \end{align} として一意に表せることは同値です。

不変部分空間による直和分解と行列の分解

今、 を複素数全体の集合として、 とします。ベクトル空間 が -不変部分空間であるとは、 任意の に対して が成り立つときに言います。

を -不変部分空間として は と直和分解されるとしましょう。ただし、 とします。このとき、ある可逆な行列 が存在して\begin{align} P^{-1}AP = \begin{pmatrix} A_1 & 0 \\ 0 & A_2 \end{pmatrix} \end{align} と書けます。ただし、 です。実際に、ある一次独立なベクトル を用いて と書くことができ、\begin{align} A \begin{pmatrix} p_1& p_2 & \cdots & p_n \end{pmatrix} =\begin{pmatrix} p_1& p_2 & \cdots & p_n \end{pmatrix} \begin{pmatrix} A_1 & 0 \\ 0 & A_2 \end{pmatrix} \end{align} と表現できることから分かります。

逆に、\begin{align} P^{-1}AP = \begin{pmatrix} A_1 & 0 \\ 0 & A_2 \end{pmatrix} \end{align} が成り立つと、-不変部分空間 が存在して が成り立つことが分かります。

ここで説明した不変部分空間の概念は以下の記事で説明したようにシステム制御理論の中でもよく使われています。

内積空間の直交直和分解

ベクトル空間 には内積 が導入されているとします。つまり、 は内積空間とします。ベクトル空間 の部分集合 が与えられたとすると、 の内積を用いて の部分空間\begin{align} U^{\perp}:= \{ x\in V\,|\, (x,y)=0,\,\,\forall y\in U\} \end{align}が定義できます。この を の直交補空間と言います。 が の部分空間だとすると、\begin{align} V = U\oplus U^{\perp} \end{align} が成り立ちます。

内積空間の例であるユークリッド空間の直交直和分解

ユークリッド空間 には内積 が定義されているとして、ユークリッド空間 から への線形写像 が与えられているとします。つまり、 です。線形写像 が与えられているので、\begin{align} {\rm Im}\, A &:= \{ Ax\,|\, x\in {\bf R}^n\} \\ {\rm Ker}\,A &:= \{x\in {\bf R}^n\,|\, Ax=0\} \end{align} が定義できます。 を の像空間と言い、 を の核と言います。 は の部分空間であり、 は の部分空間になっています。

線形写像の像空間と核という概念を使うと、ユークリッド空間は次のように直交直和分解できます。\begin{align} {\bf R}^m &= {\rm Im}\, A \oplus ({\rm Im}\,A)^{\perp} \\ {\bf R}^n &= {\rm Ker}\, A\oplus ({\rm Ker}\,A)^{\perp} \end{align}これと\begin{align} {\rm Ker}\, A^T = ({\rm Im}\, A)^{\perp} \end{align} より、以下のような感じで考えることができます。

上のユークリッド空間の直交直和分解と\begin{align} {\rm rank}\, A:= \dim ({\rm Im}\, A) = {\rm rank}\, A^T \end{align} より、次元定理\begin{align} n = {\rm rank}\,A + \dim {\rm Ker} A \end{align} が得られます。

参考文献

 記事を書くにあたって次の本を参考にしました。

線型代数学(新装版) (数学選書)

多様体上の接続と平行移動

この記事では多様体上の接続と平行移動という概念について解説します。なお、この記事を理解するためには多様体、接空間、ベクトル場といった概念を理解しておく必要がありますが、それらについては以下の記事を参考にしてください。

多様体上のアファイン接続

多様体上のアファイン接続という概念は多様体上の異なる2点の接空間を関係付ける（つなげる）概念であり、以下のように定義されます。                                                                                              

ここで、 は 上の滑らかなベクトル場全体の集合です。定義の(i)と(ii)から は について -線形で、(iii)と(iv)から は について -線形であることが分かります。また、(ii)は がライプニッツ則を満たすことを意味しています。

アファイン接続の定義はかなり抽象的であるため、異なる接空間のつながり方を定めていることがイメージしにくいと思います。そこで、以下で詳しくアファイン接続が接空間をつなげている様子を見ていきたいと思います。そのために、まず共変微分が具体的には何なのかを考えます。

ユークリッド空間の場合の共変微分

まず、多様体がユークリッド空間の場合には、方向微分は共変微分になることを説明します。

多様体 がユークリッド空間 の場合を考えましょう。ユークリッド空間 上の任意の滑らかなベクトル場 が与えられているとします。このとき、 の点 での に沿った方向微分（ガトー微分)とは、

で紹介したように、\begin{align} ({\rm D}_X Y)(p):={\rm D}_{X(p)} Y(p) = \lim_{t\rightarrow 0} \frac{Y(p+tX(p)) -Y(p)}{t} \end{align} のことです。ベクトル場のベクトル場に沿った方向微分は共変微分と同じ形をしている以下の性質を満たします。

方向微分が上の性質を満たすことの証明はどれも簡単ですが、(ii) と (iii) を証明しておきます。まず (ii) の証明をします。任意の に対して \begin{align} ({\rm D}_X (fY))(p) = \lim_{t\rightarrow 0} \frac{ (fY)(p+tX(p)) -(fY)(p)}{t} \end{align} が成り立ちますが、右辺は \begin{align} \lim_{t\rightarrow 0} \frac{ f(p+tX(p))Y(p+tX(p)) -f(p)Y(p+tX(p))}{t} + \lim_{t\rightarrow 0} \frac{f(p)Y(p+tX(p)) -f(p)Y(p)}{t} \end{align} のことですので (ii) が成り立ちます。次に (iii) の証明をします。 ベクトル場 は滑らかなのでガトー微分とフレッシェ微分が一致して \begin{align} {\rm D}_X Z(p) = {\rm D} Z(p)[X(p)] \end{align} が成り立ちます。フレッシェ微分 (ここでは普通のヤコビ行列) は線形ですので、 \begin{align} {\rm D}_{X+Y} Z(p) = {\rm D} Z(p) [X(p)+Y(p)] = {\rm D} Z(p)[X(p)] + {\rm D} Z(p)[Y(p)] = {\rm D}_X Z(p) + {\rm D}_Y Z(p) \end{align} となるので (iii) が成り立ちます。

任意の に対して方向微分 も の要素となるので、多様体 がユークリッド空間の場合は方向微分は共変微分になっているということが確認できました。つまり、ユークリッド空間の場合は方向微分によってアファイン接続が定義できるということです。

ユークリッド空間の部分多様体の場合の共変微分

次に、多様体がユークリッド空間の部分多様体の場合には、方向微分は共変微分にならず、方向微分の接空間への射影が共変微分になることを説明します。

局所座標を使わない説明

上と同じように多様体 で任意の滑らかなベクトル場 が与えられているとします。そして、 をユークリッド空間 の部分多様体だとします。ベクトル場 は 上で与えられていますが、 上に制限して だとも考えることができます。このとき の に沿った方向微分 は に入っているでしょうか？ 一般には入っていません。つまり、 は多様体 の点 での接空間 の要素ですが、 は接空間 の要素にはなっていないことがあります。これは、 は言えますが、 は言えないということです。 なら が言えないので を共変微分とは言えないということになります。

しかし、 と直交直和分解すると、 を                                                                                            \begin{align} {\rm D}_X Y(p) = {\rm P}_p ({\rm D}_X Y(p)) + {\rm P}^{\perp}_p({\rm D}_X Y(p)) \end{align} と一意に分解することができます。ここで、\begin{align} {\rm P}_p: T_p {\bf R}^n \rightarrow T_p U \end{align} は射影です。この事実を利用して\begin{align} \nabla_X Y(p):={\rm P}_p ({\rm D}_X Y(p)) \end{align} と を定義すると は共変微分の性質 (i)~(iv) を満たします。つまり、方向微分の接空間への射影は共変微分になり、これによってアファイン接続が定義できました。ここまでの議論を図示すると以下のような感じです。

局所座標と曲線を使った説明

次に、多様体がユークリッド空間の部分多様体の場合で、ユークリッド空間上のベクトル場を与えられた曲線から定められる速度ベクトル場に沿った方向微分は共変微分には一般にはならないことを局所座標を用いて確認します。

多様体 と任意の滑らかなベクトル場 を考えます。そして、 をユークリッド空間 の 次元の部分多様体だとして、 上の曲線 が与えられているとします。

曲線 は局所座標 を用いて と書けます。部分多様体 の曲線 上ではベクトル場 と速度ベクトル場 は \begin{align} X(c(t)) &= \sum_{i=1}^m f_i(x_1(t),x_2(t),\ldots, x_m(t)) \left( \frac{\partial}{\partial x_i}\right)_{c(t)} \\ \dot{c}(t) &= \sum_{i=1}^m \dot{x}_i(t) \left(\frac{\partial}{\partial x_i}\right)_{c(t)} \end{align} と書けます。つまり、 です。

これからベクトル場 を曲線の速度ベクトル場 に沿って方向微分します。ここで、 は曲線 上の滑らかなベクトル場全体の集合です。曲線 上では になることを注意してください。ベクトル場のベクトル場に沿った方向微分の性質 (i)~(iv) を用いると方向微分 は以下のように計算できます。

つまり ですが、 とは以下の理由で言えません。                                                                                            

さらに、 がベクトル場 の積分曲線、つまり だとすると、上の計算結果より\begin{align} {\rm D}_{\dot{c}} \dot{c}(c(t)) = \sum_{j=1}^m \ddot{x}_j(t) \left( \frac{\partial}{\partial x_j}\right)_{c(t)} + \sum_{i=1}^m \sum_{j=1}^m \dot{x}_i(t)\dot{x}_j(t) {\rm D}_{(\frac{\partial}{\partial x_i})_{c(t)}}\left( \frac{\partial}{\partial x_j}\right)_{c(t)} \end{align}が得られます。以下の具体例で具体的に見るように、この は局所座標を用いた曲線の2回微分 、つまり加速度ベクトルに等しいです。したがって曲線 の速度ベクトル は に入っていますが、加速度ベクトル は一般には に入っていないということが分かりました。 

具体例

ここまでの内容を具体的に見てみます。例として、多様体 を以下の単位球面とします。この球面の上半分を局所座標 を用いてパラメータ表示します。

この球面上に曲線 があり、この曲線に沿ったベクトル場 があるとします。このとき、ベクトル場 を同じベクトル場 に沿って共変微分するとどうなるか具体的に見てみます。

そのために、まず点 での接ベクトル が\begin{align} \dot{c}(t) = \dot{x}_1(t) \left(\frac{\partial}{\partial x_1}\right)_{c(t)} + \dot{x}_2(t) \left(\frac{\partial}{\partial x_2}\right) _{c(t)} \end{align} と書けたことを思い出しましょう。つまり、接空間 は \begin{align} T_{c(t)} M={\rm span}\, \{\left(\frac{\partial}{\partial x_1}\right)_{c(t)}, \left(\frac{\partial}{\partial x_2}\right)_{c(t)} \} \end{align} と書けました。しかし、 という書き方は接ベクトルの微分作用素としての側面を強調した書き方のため分かりにくいかもしれません。接ベクトルを矢印のベクトルとして理解するために、 と の2次元の部分空間を同一視して考えましょう。つまり、 を2次元のユークリッド空間だと考えましょう。

具体的には以下のように を2次元のユークリッド空間だと考えることができます。上の図で示した写像 を用いて曲線 を\begin{align} c(t) = q(x_1(t),x_2(t))=q(x(t)) \end{align} と書きます。そうすると、接ベクトル は\begin{align} \dot{c}(t) = \dot{x}_1(t)\frac{\partial q}{\partial x_1}(x(t))+\dot{x}_2(t)\frac{\partial q}{\partial x_2}(x(t)) \end{align} となります。ここで、\begin{align} \frac{\partial q}{\partial x_1}(x(t)) = \begin{pmatrix} 1 \\ 0 \\ -\frac{x_1(t)}{\sqrt{1-x_1^2(t)-x_2^2(t)}} \end{pmatrix}, \,\,\,\, \frac{\partial q}{\partial x_2}(x(t)) = \begin{pmatrix} 0 \\ 1 \\ -\frac{x_2(t)}{\sqrt{1-x_1^2(t)-x_2^2(t)}} \end{pmatrix} \end{align} です。したがって、 を2次元のユークリッド空間だと考えてるということは を と同一視するということを意味しています。

さらに、接ベクトル を について微分して加速度ベクトル を計算すると以下のようになります。\begin{align} \ddot{c}(t) = \sum_{i=1}^2 \left( \ddot{x}_i(t) \frac{\partial q}{\partial x_i}(x(t))+\dot{x}^2_i(t)\frac{\partial^2 q}{\partial x_i^2}(x(t)) \right) +2\dot{x}_1(t)\dot{x}_2(t)\frac{\partial^2 q}{\partial x_1\partial x_2}(x(t)) \end{align}ここで、 なので、\begin{align} \ddot{c}(t) = {\rm D}_{\dot{c}}\dot{c}(c(t)) \end{align} となることを確認できました。

もっと詳しく加速度ベクトル を調べます。表記を簡単にするために、 と書いて、 と と の外積によって を定義すると、 は の基底ベクトルになるため \begin{align} \frac{\partial^2 q}{\partial x_i \partial x_j}(x(t)) = \Gamma^1_{ij}(x(t))q_1(x(t))+\Gamma^2_{ij}(x(t))q_2(x(t)) + v_{ij} e \end{align} と書くことができます。ここで、 なので が成り立ちます。したがって、加速度ベクトルは \begin{align} \ddot{c}(t) =& \sum_{i=1}^2(\ddot{x}_i(t) + \dot{x}_1^2(t) \Gamma_{11}^i + 2\dot{x}_1(t)\dot{x}_2(t) \Gamma_{12}^i + \dot{x}_2^2(t) \Gamma_{22}^i) q_i\\ &+ (\dot{x}_1^2(t)v_{11} + 2\dot{x}_1(t) \dot{x}_2(t)v_{12} + \dot{x}_2^2(t) v_{22} ) e \end{align} となります。この式から一般には加速度ベクトル には 方向の成分があることが分かります。よって、ベクトル の定義から と は直交しているため、 の成分がゼロにならない限り は接空間 からはみ出るということを意味しています。

加速度ベクトル の の成分がゼロになると実は は接空間 の要素だということになりますが、一般にはならないことを念のため数値的に確認します。まず、 なので \begin{align} e = \begin{pmatrix} \frac{x_1(t)}{\sqrt{1-x_1^2(t)-x_2^2(t)}} \\ \frac{x_2(t)}{\sqrt{1-x_1^2(t)-x_2^2(t)}} \\ 1 \end{pmatrix} \end{align} となります。また、\begin{align} \frac{\partial^2 q}{\partial x_1^2} = \begin{pmatrix} 0 \\ 0 \\ \frac{x_2^2-1}{(1-x_1^2-x_2^2)^{3/2}} \end{pmatrix},\,\, \frac{\partial^2 q}{\partial x_2^2} = \begin{pmatrix} 0 \\ 0 \\ \frac{x_1^2-1}{(1-x_1^2-x_2^2)^{3/2}} \end{pmatrix},\,\,  \frac{\partial^2 q}{\partial x_1 \partial x_2} = \begin{pmatrix} 0 \\ 0 \\ -\frac{x_1x_2}{(1-x_1^2-x_2^2)^{3/2}} \end{pmatrix} \end{align}となります。したがって、\begin{align} \frac{\partial^2 q}{\partial x_1^2} &= \frac{x_1(1-x_2^2)}{1-x_1^2-x_2^2}q_1 + \frac{x_2(1-x_2^2)}{1-x_1^2-x_2^2}q_2 -\frac{1-x_2^2}{\sqrt{1-x_1^2-x_2^2}}e \\ \frac{\partial^2 q}{\partial x_2^2} &= \frac{x_1(1-x_1^2)}{1-x_1^2-x_2^2}q_1 + \frac{x_2(1-x_1^2)}{1-x_1^2-x_2^2}q_2 -\frac{1-x_1^2}{\sqrt{1-x_1^2-x_2^2}}e \\ \frac{\partial^2 q}{\partial x_1 \partial x_2} &= \frac{x_1^2 x_2}{1-x_1^2-x_2^2}q_1 + \frac{x_1x_2^2}{1-x_1^2-x_2^2}q_2 -\frac{x_1x_2}{\sqrt{1-x_1^2-x_2^2}}e \end{align}です。よって、 のとき、\begin{align} \frac{\partial^2 q}{\partial x_1^2} &= \frac{2}{3}q_1 -\frac{2\sqrt{3}}{3}e \\ \frac{\partial^2 q}{\partial x_2^2} &= \frac{1}{2}q_1 -\frac{\sqrt{3}}{2}e \end{align} となって、\begin{align} \Gamma_{11}^1 = \frac{1}{2},\,\, \Gamma_{11}^2 = 0,\,\, \Gamma_{22}^1= \frac{1}{2},\,\, \Gamma_{22}^2 = 0,\,\, \Gamma_{12}^1=\Gamma_{12}^2=0,\,\, v_{11}= -\frac{2\sqrt{3}}{3},\,\, v_{22} = -\frac{\sqrt{3}}{2},\,\, v_{12} = 0  \end{align} が得られます。つまり、加速度ベクトル の 成分は \begin{align} -\frac{2\sqrt{3}}{3} \dot{x}_1^2(t) -\frac{\sqrt{3}}{2}\dot{x}_2^2(t) \end{align} となって、 でない限り 成分はゼロにならないことが分かりました。これは一般には であることを意味しています。

ユークリッド空間の部分多様体の場合における平行と平行移動の概念

上の説明よりユークリッド空間 上のベクトル場 を 次元部分多様体 上の曲線 の速度ベクトル場 に沿って方向微分すると\begin{align} {\rm D}_{\dot{c}}X(c(t)) \not\in T_{c(t)} M \end{align} でした。そこで、上で説明した射影 を用いて\begin{align} \nabla_{\dot{c}(t)} X(c(t)) := {\rm P}_{c(t)} ( {\rm D}_{\dot{c}} X(c(t)) ) \end{align} を定義します。すると、 はアファイン接続となります。射影 は線形なので\begin{align} \nabla_{\dot{c}} X(c(t)) &= \sum_{j=1}^m \frac{df_j}{dt}(c(t)) \left( \frac{\partial}{\partial x_j}\right)_{c(t)} + \sum_{i=1}^m \sum_{j=1}^m \dot{x}_i(t) f_j(t) {\rm P}_{c(t)} \left({\rm D}_{(\frac{\partial}{\partial x_i})_{c(t)}}\left( \frac{\partial}{\partial x_j}\right)_{c(t)}\right) \\ &= \sum_{j=1}^m \frac{df_j}{dt}(c(t)) \left( \frac{\partial}{\partial x_j}\right)_{c(t)} + \sum_{i=1}^m \sum_{j=1}^m \dot{x}_i(t) f_j(t) \nabla_{(\frac{\partial}{\partial x_i})_{c(t)}}\left( \frac{\partial}{\partial x_j}\right)_{c(t)} \end{align} となります。ただし、です。さらに、ある滑らかな関数 を用いて\begin{align} \nabla_{(\frac{\partial}{\partial x_i})_{c(t)}}\left( \frac{\partial}{\partial x_j}\right)_{c(t)} = \sum_{k=1}^m \Gamma_{ij}^k(c(t)) \left( \frac{\partial}{\partial x_k}\right)_{c(t)} \end{align}と書けますので、\begin{align} \nabla_{\dot{c}} X(c(t)) = \sum_{k=1}^m \left( \frac{df_k}{dt}(c(t)) + \sum_{i=1}^m \sum_{j=1}^m \Gamma_{ij}^k(c(t)) \dot{x}_i(t) f_j(t) \right) \left( \frac{\partial}{\partial x_k}\right)_{c(t)} \end{align}となります。これがゼロになるとき、つまり、\begin{align} \nabla_{\dot{c}} X(c(t)) = 0 \end{align} が成り立つときにベクトル場 がアファイン接続 に関して曲線 に沿って平行であると言います。また、 は\begin{align}  \frac{df_k}{dt}(c(t)) + \sum_{i=1}^m \sum_{j=1}^m \Gamma_{ij}^k(c(t)) \dot{x}_i(t) f_j(t)=0 \quad (k=1,2,\ldots, m) \end{align} のことであることに注意しましょう。ただし、 で です。この微分方程式は\begin{align}\frac{d}{dt} \begin{pmatrix} f_1 \\ \vdots \\ f_m \end{pmatrix} = -
\begin{pmatrix} \sum_{i=1}^m\Gamma_{i1}^1\dot{x}_i & \cdots & \sum_{i=1}^m\Gamma_{im}^1\dot{x}_i \\ \vdots & & \vdots \\ \sum_{i=1}^m\Gamma_{i1}^m\dot{x}_i & \cdots & \sum_{i=1}^m\Gamma_{im}^m\dot{x}_i \end{pmatrix}\begin{pmatrix} f_1 \\ \vdots \\ f_m \end{pmatrix} \end{align} と書けるのでベクトル場 の成分 に関して線形の微分方程式となっていることが分かります。したがって、点 における接ベクトル を任意に与えると、曲線 に沿って平行なベクトル場であって、 を満たすものが、初期条件 のもとでの上の線形微分方程式の解として一意に定まります。このようにして定まる を曲線 に沿って を から まで平行移動して得られる接ベクトルと言います。

このように平行と平行移動の概念が定義されました。しかし、この定義を満たしたときに平行と呼ぶ理由や、平行の定義に曲線が登場する理由は自明ではないと思います。そこで以下では、これらの理由を説明します。

平行の名前の由来

以下では、 が成り立つときに平行と呼ぶ理由を調べます。まず、2次元ユークリッド空間 の場合では以下のことが成り立つときに（ が成り立つかは知らなかったとしても）ベクトル場を平行と呼ぶことを自然に感じる人が多いと思います。

上と同じベクトル場 に加えて曲線 が与えられたすると、次のようにベクトル場 はアファイン接続 (この場合は通常の方向微分から定義される）に関し曲線 に沿って平行、つまり であることが分かります。

このようにユークリッド空間に直交座標系を入れて考える場合、各点から出る矢印ベクトルがすべて同じ大きさと向きを持つようなベクトル場 は曲線 が与えられたときに を満たします。

では、ユークリッド空間に直交座標系 ではない以下のような曲線座標系 を導入したらどうなるでしょうか？

共変微分（方向微分）の結果が座標に依存するようでは困るので、直交座標系 のときに だったら曲線座標系 の場合でも と言いたいです。では、どのように曲線座標系 の場合でも だと言えるのでしょうか？直交座標系 の場合は と から が言えました。曲線座標系 の場合でも  と から言えるのでしょうか？一般にはそのようには言えませんが、 を曲線座標系 で表現したときの の成分と の成分がゼロになることから言えるということになります。つまり、曲線座標系 の場合ではベクトル場 がアファイン接続 に関し曲線 に沿って平行であるというのは \begin{align} \frac{dh_k}{dt}(y_1(t),y_2(t)) + \sum_{i=1}^2 \sum_{j=1}^2 \Gamma_{ij}^k(y_1(t),y_2(t))\dot{y}_i(t) h_j(t) = 0\quad (k=1,2) \end{align} が成り立つときに言います。直交座標系を使うと がゼロになりましたが、曲線座標系を使うとゼロにならなくなってしまうことからベクトル場が平行だということを上の微分方程式を満たすときに言おうということになります。なぜかというと、このときに直交座標系の場合と同様に になるからです。

曲線の重要性

ここでは、平行の概念を論じる際にはどの曲線を考えているかが重要であることを多様体 が以下の単位球の場合に説明します。

ただし、\begin{align} \frac{\partial p}{\partial v} = \begin{pmatrix} -\cos u \sin v \\ \cos u \cos v \\ 0 \end{pmatrix} \end{align} なので \begin{align} -\frac{\pi}{2}< u < \frac{\pi}{2},\quad -\pi \leq v \leq \pi \end{align} とします。

このとき、 となる 上の任意の滑らかなベクトル場 は\begin{align} X(u,v) = f_1(u,v)e_1+ f_2(u,v)e_2 \end{align} と書けます。また、 上に曲線 があるとすると、この曲線に関する速度ベクトル場は\begin{align} \dot{c} = \dot{u}(t)\frac{\partial}{\partial u} + \dot{v}(t) \frac{\partial}{\partial v} \end{align} となります。共変微分として方向微分の接空間への射影を採用してアファイン接続 を定めます。そうすると、ベクトル場 がアファイン接続 に関して曲線 に沿って平行である、つまり、 は\begin{align} \frac{d}{dt}\begin{pmatrix} f_1 \\ f_2 \end{pmatrix} = \begin{pmatrix} 0 & \dot{v} \sin u \\ -\dot{v}\sin u & 0 \end{pmatrix} \begin{pmatrix} f_1 \\ f_2 \end{pmatrix} \end{align}ということになります。

いま、 を定数で とすると、 なので上の微分方程式の解は\begin{align}\begin{cases}  f_1(u(t),v(t)) = \cos (\lambda t)f_1(u(0),v(0)) +\sin (\lambda t) f_2(u(0),v(0)) \\ f_2(u(t),v(t)) = -\sin(\lambda t) f_1(u(0),v(0)) + \cos (\lambda t) f_2(u(0),v(0)) \end{cases} \end{align} となります。ただし、 です。よって、 のとき\begin{align} \begin{cases} f_1(u(\pi),v(\pi)) = \cos (\lambda \pi) \\ f_2(u(\pi),v(\pi)) = -\sin(\lambda \pi) \end{cases} \end{align} となります。つまり、時刻 で\begin{align} X(u(0),v(0))= \begin{pmatrix} 0 \\ 1\\ 0 \end{pmatrix} \end{align} のベクトルが時刻 で \begin{align} X_1:= X(u(\pi),v(\pi))= \cos (\lambda \pi)\begin{pmatrix} 0 \\ -1\\ 0 \end{pmatrix} -\sin(\lambda \pi) \begin{pmatrix} \sin \alpha \\ 0 \\ \cos \alpha \end{pmatrix} \end{align}

となります。このベクトル は点 のベクトル を曲線 に沿って点 まで平行移動したベクトルとなっていることに注意してください。

同様に、 を定数で とすると、 時刻 で\begin{align} X(u(0),v(0))= \begin{pmatrix} 0 \\ 1\\ 0 \end{pmatrix} \end{align} のベクトルが時刻 で \begin{align} X_2:=X(u(\pi),v(\pi))= \cos (\lambda \pi)\begin{pmatrix} 0 \\ -1\\ 0 \end{pmatrix} +\sin(\lambda \pi) \begin{pmatrix} \sin \alpha \\ 0 \\ \cos \alpha \end{pmatrix} \end{align}となることが分かります。このベクトル は点 のベクトル を曲線 に沿って点 まで平行移動したベクトルとなっています。

上の二つのベクトル と は なら異なりますが、\begin{align} p(\alpha,\pi)=p(\alpha,-\pi) = \begin{pmatrix} -\cos \alpha\\ 0 \\ \sin \alpha \end{pmatrix} \end{align} となっており、 と は同じ点のベクトルとなっています。しかも、この二つのベクトルは両方とも点 のベクトル を平行移動して得られたベクトルでした。違いは、どの曲線に沿って平行移動したかだけです。

このように、同じ場所の同一のベクトルを異なる曲線に沿って平行移動すると、以下の図のような感じで一般には異なるベクトルが得られるので曲線を使って平行の概念を定義します。

一般の多様体の場合の平行と平行移動の概念

ここまでの話は多様体 をユークリッド空間の部分多様体としてきました。つまり、多様体 の外の世界もあるとしてきました。外の世界も考えていたので多様体の接空間からはみ出たベクトルを射影して接空間に落とすということも考えることができました。

以下では多様体 の外の世界は考えないで説明します。つまり、アファイン接続は定義の(i)~(iv)を満たす抽象的な写像のことであり、部分多様体のときの場合のように「方向微分の射影」から定義されません。しかし、抽象的なままでは分かりにくいので部分多様体の場合をイメージしながら理解すれば良いかと思います（多様体がユークリッド空間の部分多様体の場合にも以下の議論は成り立ちますし、応用上はユークリッド空間の部分多様体を考える場合の方が多いと思われますので）。

次元の多様体 にアファイン接続 が定義されているとします。このとき、多様体 の座標近傍 で \begin{align} \nabla_{\frac{\partial}{\partial x_i}} \frac{\partial}{\partial x_j} = \sum_{k=1}^m\Gamma_{ij}^k \frac{\partial}{\partial x_k} \end{align} で定まる 個の滑らかな関数 を局所座標系 に関する接続係数と言います。

多様体 上の滑らかな曲線 に沿って定義されたベクトル場 が\begin{align} \nabla_{\dot{c}}X(c(t))=0 \end{align} を満たすとき、 はアファイン接続 に関して に沿って平行であると言います。これは、多様体 がユークリッド空間の部分多様体の場合の平行の定義と一致しています。 座標近傍 上で を局所座標表示すると、 が部分多様体の場合のときと同様に、\begin{align}  \frac{df_k}{dt}(c(t)) + \sum_{i=1}^m \sum_{j=1}^m \Gamma_{ij}^k(c(t)) \dot{x}_i(t) f_j(t)=0 \quad (k=1,2,\ldots, m) \end{align} となります。ただし、 で です。この微分方程式は\begin{align}\frac{d}{dt} \begin{pmatrix} f_1 \\ \vdots \\ f_m \end{pmatrix} = -
\begin{pmatrix} \sum_{i=1}^m\Gamma_{i1}^1\dot{x}_i & \cdots & \sum_{i=1}^m\Gamma_{im}^1\dot{x}_i \\ \vdots & & \vdots \\ \sum_{i=1}^m\Gamma_{i1}^m\dot{x}_i & \cdots & \sum_{i=1}^m\Gamma_{im}^m\dot{x}_i \end{pmatrix}\begin{pmatrix} f_1 \\ \vdots \\ f_m \end{pmatrix} \end{align} と書けるのでベクトル場 の成分 に関して線形の微分方程式となっていることが分かります。したがって、点 における接ベクトル を任意に与えると、曲線 に沿って平行なベクトル場であって、 を満たすものが、初期条件 のもとでの上の線形微分方程式の解として一意に定まります。このようにして定まる を曲線 に沿って を から まで平行移動して得られる接ベクトルと言います。

平行移動を定める線形微分方程式の中には接続係数 が含まれていて、この接続係数はアファイン接続から定まります。平行移動は異なる2点の接空間の要素である接ベクトルを関係付けていますから、アファイン接続は異なる2点の接空間のつながり方（関係性）を定めているというように考えることができます。

参考文献

(1) アファイン接続などの説明の参考にしました。

情報幾何学の基礎 (数理情報科学シリーズ)

(2) 平行の概念を曲線を使って定義する理由の解説を参考にしました。

曲線と曲面の微分幾何

 (3) 多様体がユークリッド空間の部分多様体である場合には、方向微分の接空間への射影が共変微分になることの説明の参考にしました。

Optimization Algorithms on Matrix Manifolds

ガトー微分とフレッシェ微分：方向微分と勾配の一般化

この記事ではノルム空間の間に定義された関数のガトー微分とフレッシェ微分について解説します。この記事の全体を通して を 上のノルム空間とします。ここで、ノルム空間とはノルムが定義されたベクトル空間のことです。例えば、 は 次元のベクトル空間で任意の に対して を と定義することで はノルムとなり、 は 次元のノルム空間ということになります。

ノルム空間 は有限次元かもしれないし、

で紹介したような2乗可積分な関数全体の集合 のように無限次元かもしれないことに注意してください。

全微分と方向微分

まず、 とします。このとき、 が において全微分可能であるとは線形写像 が存在して、\begin{align} \lim_{h\rightarrow 0} \frac{||f(p+h) -f(p) -Lh||}{||h||} = 0 \end{align} となるときに言います。ここで、 はユークリッドノルムです。この線形写像 は存在したら一意に定まって、 の での微分と言い \begin{align} \frac{\partial f}{\partial x}(p) \end{align} と書きます。行列 は の でのヤコビ行列と言います。特に、 のときのヤコビ行列を勾配と言います。

また、関数 の での に沿った方向微分とは\begin{align} \lim_{t\rightarrow 0} \frac{f(p+th)-f(p)}{t} \end{align} のことでした。方向微分とヤコビ行列の間には、ヤコビ行列が存在するなら、 \begin{align} \lim_{t\rightarrow 0} \frac{f(p+th)-f(p)}{t}=\frac{\partial f}{\partial x}(p) h \end{align} という関係があります。特に、 のときは、\begin{align} hに沿った方向微分 = 勾配とhの内積 \end{align} という関係が得られます。

以下で紹介するガトー微分は方向微分の一般化、フレッシェ微分は勾配の一般化です。その前に、線形写像の連続性と有界性の関係について紹介しておきます。

ノルム空間の間の線形写像の連続性と有界性

ノルム空間の間の関数 が点 で連続であるとは、任意の に対して、ある が存在して\begin{align} ||x-x^*||<\delta \Rightarrow ||f(x)-f(x^*)||<\epsilon \end{align} が成り立つことでした。ここで、 の左の は のノルムで の右の は のノルムであることに注意してください。

関数 が線形で、ある が存在して、任意の に対して\begin{align} ||f(x)|| \leq K ||x|| \end{align} が成り立つときに関数 を有界線形写像と言います。

ノルム空間の間の線形写像 に対して一般に\begin{align} 連続 \Leftrightarrow 有界 \end{align} が成り立ちます。さらに が有限次元なら常に線形写像 は有界、つまり連続になります。 が無限次元の場合は不連続線型写像 - Wikipediaで説明されているように線形写像 は連続になるとは限りません。

ガトー微分：方向微分の一般化

ガトー微分は次のように方向微分の一般化です。

通常の方向微分は が有限次元のユークリッド空間になっているガトー微分です。上のガトー微分の定義は が無限次元の関数空間も含んだ定義になっているという違いがあることに注意してください。

ガトー微分 は について線形です。実際に、 のガトー微分 が存在したとすると、\begin{align} \begin{cases} {\rm D}_h (f+g)(x) = {\rm D}_h f(x) + {\rm D}_h g(x)\\ {\rm D}_h(\alpha f) (x) = \alpha {\rm D}_h f(x) \end{cases} \end{align} が成り立つからです。ここで、 です。

しかし、ガトー微分 は以下の例のように について一般には線形ではありません。

上の例は関数 が不連続でしたが、たとえ が連続であってもガトー微分 は以下の例のように について一般には線形にはなりません。

フレッシェ微分：勾配の一般化

フレッシェ微分可能は次のように全微分可能の概念の一般化です。

フレッシェ微分 はガトー微分 とは異なり、 の について線形であることに注意してください。また、 が有限次元ならフレッシェ微分 は常に連続となりますので定義に連続という条件は必要ありませんが、 が無限次元だと一般には は連続にならないため連続の条件を定義に入れています。フレッシェ微分可能と全微分可能の定義と比較すると、 のときに点 でのフレッシェ微分 はヤコビ行列 ということになり、 ならフレッシェ微分 は勾配だということになります。

フレッシェ微分可能の定義の中で には名前を付けていませんでしたが、実は次の定理で示すように は方向微分 に一致します。

上の定理が言ってることは、 が の開集合のある点 でフレッシェ微分可能であるための必要条件は、 で が連続であることを言っています。つまり、上の例で示したように不連続な点でガトー微分は存在することがありましたが、フレッシェ微分は存在しません。

関数 の でのフレッシェ微分は存在したら一意に定まります。実際に、フレッシェ微分が と というように二通り存在したと仮定します。このとき、フレッシェ微分の定義から \begin{align} \lim_{h\rightarrow 0} \frac{ ||({\rm D} f(x) - {\rm D}' f(x))[h]||}{||h||} = 0 \end{align} が成り立ちます。この関係式から が言えるのでフレッシェ微分は一意に定まることが言えます。このことは上の関係式より、 を十分小さな正数とすると、\begin{align} \frac{ ||({\rm D} f(x) - {\rm D}' f(x))[\epsilon h]||}{||\epsilon h||}=\frac{ ||({\rm D} f(x) - {\rm D}' f(x))[h]||}{||h||} \end{align} の左辺がいくらでもゼロに近くなるということから言えます。なぜなら、右辺は に依らないので、等号が成り立つためには、\begin{align} ||({\rm D} f(x) - {\rm D}' f(x))[h] ||=0 \end{align} が成り立つ必要があるからです。これとノルムの定義から \begin{align} {\rm D} f(x)[h]=  {\rm D}' f(x)[h] \end{align} が任意の に対して成り立つことが分かったので、 となります。

参考文献

ガトー微分とフレッシェ微分の定義を参考にしました。関数が変数の汎関数の最適化問題（変分問題）にガトー微分やフレッシェ微分の概念が役立つことも説明されています。

Optimization by Vector Space Methods (Series in Decision and Control)

ベクトル場

この記事では、多様体上のベクトル場について解説します。なお、この記事を理解するためには多様体や接空間などの概念を理解しておくことが必要です。それらについては

を参考にしてください。

多様体上のベクトル場

多様体 上のベクトル場 とは、 という対応のことです。 をよく と書きます。この記事では基本的には と書くことにして、 だと読みづらくなると思われるところで を使うことにします。また、 次元多様体 の座標近傍系が であるとき、 上のベクトル場 が滑らか( 級 )であるとは を 上で と局所座標表示したときに、成分 が 上で滑らかであるときに言います。以下では単にベクトル場と言ったら、滑らかなベクトル場のことを言ってることにします。

ベクトル場を可視化した例を2次元ユークリッド空間 という馴染みのある多様体で与えておきます。 多様体 の(局所)座標は だとします。 このとき、多様体 上のベクトル場 を としますと、以下のような感じでこのベクトル場 を可視化できます。

つまり、 上のベクトル場が与えられると各点に馴染みのある矢印のベクトルがくっついてるというように考えることができます。したがって、天気予報でよく見かける以下のような図は地球の表面の一部を で表現して風というベクトル場を可視化していると考えることができます。

ベクトル場全体の集合の代数構造

多様体 上のベクトル場全体の集合を と書くことにして、任意の の和 を任意の に対して\begin{align} (X+Y)(p):= X(p)+ Y(p) \end{align}と定義します。また、任意の と に対し、 の 倍を\begin{align} (fX)(p):=f(p)X(p) \end{align} と定義します。このような和と積を に導入すると、多様体 上の滑らかな関数の集合 は代数学の言葉では環の性質を満たすので、 は 加群ということになります。また関数 が定数関数、つまり任意の に対して が一定なものも 級の関数だと考えられますので、 は上の和と積で 上のベクトル空間の構造も入っていることになります。

さらに、任意の と に対し、\begin{align} (Xf)(p):= X_p f \end{align} と定義します。ここで は の要素だったのに対して は の要素であることに注意してください。

ベクトル場 は局所座標表示すると、 というように書けたので1階の微分作用素だとみなせます。次に、, として を定義して を局所座標表示すると2階の微分作用素だとみなせます。同様に も2階の微分作用素だとみなせます。ところが、 と の差 は1階の微分作用素となります。つまり、 となります。

この は重要で、 は と のLie(リー)括弧積と呼ばれています。リー括弧積は以下の性質があります。

ただし、上の は の任意の要素です。一般に、 上のベクトル空間 と が与えられときに、リー括弧積の性質(i), (ii), (iii) を満たすならベクトル空間 はリー代数と呼ばれています。したがって、多様体 上のベクトル場全体の集合 はリー代数という代数構造も持ちます。

積分曲線

上で紹介した天気予報でよく出てくる風のベクトル場を可視化した矢印たちを眺めていると曲線が見えてくるかもしれません。以下では、そのような曲線を数学的に考えます。

で説明しているように、多様体 上の曲線 が与えられると曲線 の速度ベクトルを考えることができて、速度ベクトルは曲線上の点の接空間の元、つまり接ベクトルになっていました。曲線上の各点の速度ベクトルを集めると曲線上のベクトル場が定義できたことになります。この曲線 の速度ベクトルを集めてできるベクトル場を と書くことにします。このとき、曲線 の積分曲線は以下のように定義されます。

上の が具体的には何ものなのかを見るために、曲線 の一部が多様体 の座標近傍 上にあるとして、 を局所座標系を使って表してみます。曲線 を 上で と書くと、\begin{align} \dot{c}(t) = \sum_{i=1}^m \frac{dx_i}{dt}(t) \left( \frac{\partial}{\partial x_i} \right)_{c(t)} \end{align} となります。また、 を の居所座標表示とすると、\begin{align} X(c(t))=\sum_{i=1}^m f_i(c(t))\left(\frac{\partial}{\partial x_i}\right)_{c(t)} \end{align} と書けます。よって、 は局所的には\begin{align} \frac{dx_i}{dt}(t) = f_i(x_1(t),x_2(t),\ldots,x_m(t))\quad (i=1,2,\ldots, m) \end{align} という微分方程式のことであることが分かりました。

微分方程式の解の存在定理より、初期条件 を与えると、\begin{align} \frac{dx_i}{dt}(t) = f_i(x_1(t),x_2(t),\ldots,x_m(t))\quad (i=1,2,\ldots, m) \end{align} を満たす解 が で存在することが分かります。ただし、 は十分小さな正の実数です。また微分方程式の解の一意性定理より、 で が解で で が解で なら で  となります。以上は局所座標を使った議論ですが、局所座標を使わないで同じことを述べると以下のようになります。

二つの多様体上のベクトル場の関係性

 集合 と を多様体だとして、滑らかな写像 とベクトル場 が与えられているとします。このとき、 の点 における微分写像 によって、ベクトル を得ることができます。しかし、そのような が 上のベクトル場を定義するとは限りません。実際に、写像 が全射でないとすると、点 には の微分によってベクトルを定めることはできません。また、写像 が単射でないとすると、 は の異なる2点を の同一の点に移すことがあり、そのような の2点での接ベクトルは の微分写像によって異なる接ベクトルに移されることがあるからです（接ベクトルの始点は同じなのに）。したがって、滑らかな写像 とベクトル場 、 が与えられたときに、 と が で関係付けられるとは一般には言えません。ベクトル場 と が任意の に対して以下のように滑らかな写像 で関係付けられるとき、ベクトル場 と は -関係を持つと言います。

 現段階では、 に -関係な 上のベクトル場が存在することは言えていないのですが、実は が微分同相写像なら任意の に -関係な 上のベクトル場が存在することが言えます。実際に、任意の に対して\begin{align} Y_q = (dF)_{F^{-1}(q)} (X_{F^{-1}(q)}) \end{align} と ベクトル場 を定めると、 と は -関係を持ち、 が滑らかであることは、 という滑らかな写像の合成だからです。また、 の定め方より に -関係な 上の滑らかなベクトル場は一意だということも分かります。このような に -関係な 上の滑らかなベクトル場を と書いて による の押し出しと言います。上の議論から、任意の に対して\begin{align} (F_*X)_q = (dF)_{F^{-1}(q)} (X_{F^{-1}(q)}) \end{align}です。

参考文献

(1) ベクトル場の説明を参考にしました。

多様体の基礎 (基礎数学5)

 (2) 微分方程式の解の存在と一意性などについて詳しく書いています。

常微分方程式の安定性 (実教理工学全書)

 (3) ベクトル場の関係性についての議論を参考にしました。

Introduction to Smooth Manifolds (Graduate Texts in Mathematics)

可制御可観測な線形システム全体の集合は多様体になる

この記事では、可制御・可観測な線形システム全体の集合は多様体になることを説明します。ここで言う線形システムとは、

で解説した

のことですが、状態方程式表現は行列の三つ組 で決定するので、一つの線形システムは の一点である\begin{align} (A,B,C)\end{align}

のことだ考えられます。そうすると、線形システム全体の集合とは\begin{align} {\bf R}^{n\times n}\times {\bf R}^{n\times m}\times {\bf R}^{p\times n}\end{align}

のこととなります。この線形システム全体の集合の中には、

で解説した可制御な線形システムや可観測な線形システムが含まれることになり、上の解説記事を注意深く読むと可制御な線形システム全体の集合とは、 \begin{align} S_c:=\{ (A,B,C)\, |\, {\rm rank} \begin{pmatrix} B & AB & \cdots & A^{n-1}B \end{pmatrix}=n\} \end{align}

のことであり、可観測な線形システム全体の集合とは、 \begin{align} S_o:=\{ (A,B,C)\, |\, {\rm rank} \begin{pmatrix} C \\ CA \\ \vdots \\ CA^{n-1} \end{pmatrix}=n\} \end{align}

のことだということになります。つまり、この記事では、

\begin{align} S_c\cap S_o\end{align}

という可制御可観測な線形システム全体の集合が多様体になるということを説明します。多様体については、

を参照してください。

多様体の開集合は多様体になる。

結論から先に言うと、可制御可観測な線形システム全体の集合 が多様体であることは、 が多様体である の開集合であることから分かります。そこで、多様体の開集合は多様体になるという事実を解説しておきます。あとで、 が の開集合だということを説明します。

そもそも開集合とは何かというと、

で説明したように、位相空間の要素のことでした。位相空間 が与えられると、 の任意の部分集合 に対して、

\begin{align} \mathcal{O}_Y:= \{ U\cap Y\,|\, U\in \mathcal{O} \} \end{align}

とすることで、 が の位相になります。このような を の位相 から導かれた の相対位相と呼んで、位相空間 を の部分空間と呼びます。多様体は上のリーマン多様体の記事で定義したように任意の異なる2点を開集合で分離できるという性質を持ったハウスドルフ空間でした。実は、ハウスドルフ空間 の部分空間 もハウスドルフ空間になります。なぜなら、任意の , に対して、 はハウスドルフ空間なので、 となる の開集合 が存在して、 は の開集合で となるからです。

上のことから、多様体 の開集合 に から導かれた相対位相を導入すると開集合 はハウスドルフ空間となります。さらに、多様体 の 級の座標近傍系が だとすると、これを に制限した は の 級の座標近傍系になります。したがって、多様体 の任意の開集合は の位相から導かれた相対位相を導入することで多様体になります。

距離空間は位相空間になる

応用上もっとも重要な空間は距離が定められた空間であり、その距離を使って位相を導入できる、つまり、空間の異なる点たちの近さを議論できるようになります。あとで線形システム全体の集合にも距離を導入して位相空間としますので、ここでは簡単に距離空間について説明しときます。

距離空間の定義は以下の通りです。

ベクトル空間にノルムが導入されたノルム空間は距離空間になります。ここで、ノルム空間の定義は以下の通りです。

実際に、ベクトル空間 にノルム が導入されているとすると、 上の任意の2点 に対して

\begin{align} d_{\rm norm}(x,y):= ||x-y|| \end{align}

と定めると、 上に距離 が導入できます。この をノルム から定められる距離と言います。

距離はノルムを使わなくても定義できます。例えば、集合 の任意の2点 に対して

\begin{align} d(x,y) := \begin{cases} 1\quad (x\neq y\, のとき) \\ 0 \quad (x=y\, のとき) \end{cases} \end{align}

と定めると、 上に距離 が導入できますが、これはあるノルムから定められた距離ではありません。 というのは、ノルムから定められる距離 はノルムの定義の(3)から を満たしますが、上の距離 はこれを満たさないからです。

距離空間 に対しては次のように距離 を用いて位相を導入できます。

工学系の研究論文は、距離空間を扱うことが多く、位相について何も言わなくても暗黙のうちに上の意味での距離 から定められる位相 が導入されていることがほとんどです。この記事でも距離空間の位相は上のように距離 から定義された位相を導入するとします。

線形システム全体の集合  は多様体になる

線形システム全体の集合 が多様体になることを確認しておきます。

まず、線形システム全体の集合   は次の和(+)とスカラー倍()でベクトル空間になります。

\begin{align}  (A_1,B_1,C_1)+(A_2,B_2,C_2) &:=(A_1+A_2,B_1+B_2,C_1+C_2)  \\  \lambda \cdot (A,B,C)&:= (\lambda A,\lambda B, \lambda C) \end{align}

次に、ベクトル空間である線形システム全体の集合  に以下のノルムを導入します。任意の に対して、

\begin{align} ||(A,B,C)||:= ||A||_F +||B||_F + ||C||_F \end{align}

この はフロベニウスノルムと呼ばれており、任意のサイズの行列 に対して

\begin{align} ||M||_F:= \sqrt{\sum_{i,j} m_{ij}^2} \end{align}

というように各成分の２乗和の平方根で定義され、行列の集合のノルムとしてよく使われています。上で説明したように、線形システム全体の集合 には

\begin{align} d( (A_1,B_1,C_1), (A_2,B_2,C_2) ) &:= ||(A_1,B_1,C_1)- (A_2,B_2,C_2)|| \\ &=||A_1-A_2||_F + ||B_1-B_2||_F+||C_1-C_2||_F\end{align}

というように上のノルムを用いて距離が定義できて距離空間となります。したがって、上で説明したように、この距離 を用いて線形システム全体の集合 には位相 が定義でき位相空間になります。

この位相空間 がハウスドルフ空間 (任意の異なる2点が開集合で分離できる位相空間) になることは任意の とすると、 で

\begin{align} B(p_1; d(p_1,p_2)/2)\cap B(p_2; d(p_1,p_2)/2) =\emptyset \end{align}

となることから分かります。さらに、 の座標近傍は 自身と行列の3つ組をベクトル化することと同値な微分同相写像 の組だけの集合 であり、これは 級の座標近傍系なので線形システム全体の集合 は多様体になります。

可制御可観測な線形システム全体の集合 は多様体になる

可制御可観測な線形システム全体の集合 が多様体になることは と が線形システム全体の集合 の開集合であることから従います。なぜなら、 と が多様体 の開集合なら位相空間の定義から も開集合となり、多様体の開集合は上で説明したように多様体になるからです。

可制御な線形システム全体の集合 が開集合であることを示します。可観測な線形システム全体の集合 が開集合であることも同様に示せます。 が開集合であるとは、任意の とすると、ある が存在して、

\begin{align} B( (A,B,C); \delta ) \subset S_c \end{align}

となることを意味しているので、これを示します。 だとすると

\begin{align} \begin{pmatrix} B & AB & \cdots & A^{n-1} B \end{pmatrix} \end{align}

の行ベクトル は1次独立です。つまり、

\begin{align} (\lambda_1, \lambda_2, \ldots, \lambda_n)\neq (0, 0, \ldots, 0)\quad \Rightarrow \quad  \lambda_1 v_1+\lambda_2v_2+\cdots +\lambda_n v_n \neq 0 \end{align}

が成り立ちます。行ベクトル たちは行列 の各成分の和と積から構成されているので、

\begin{align}  f_i: {\bf R}^{n\times n}\times {\bf R}^{n\times m}\times {\bf R}^{p\times n}\rightarrow {\bf R}^{1\times nm}\quad {\rm s.t.}\quad v_i= f_i(A,B,C) \end{align}

となる連続関数 が存在します。連続関数のスカラー倍や連続関数同士の和も連続関数となるので、

\begin{align} f(A,B,C):= \lambda_1 f_1(A,B,C) + \lambda_2 f_2(A,B,C)+\cdots +\lambda_n f_n(A,B,C) \end{align}

で定義された関数 も連続関数となります。よって、任意の に対して、ある が存在して、 \begin{align} d( (A,B,C), (A',B',C') ) < \delta \Rightarrow \| f(A,B,C)-f(A',B',C') \|_F < \epsilon \end{align}

となります。これより、 を適切に選ぶことで

\begin{align} \begin{pmatrix} B' & A'B' & \cdots & A'^{n-1} B' \end{pmatrix} \end{align}

の行ベクトルが１次独立にできることを示せれば、ある が存在して、

\begin{align} B( (A,B,C); \delta ) \subset S_c \end{align}

となることが示せたことになります。いま が1次独立だったことに注意すると、

\begin{align} \exists \alpha＞0\quad {\rm s.t.}\quad ||f(A,B,C)||_F=\alpha \end{align}

が成り立ちます。さらに、\begin{align} | \|f(A',B',C') \|_F - \|f(A,B,C)\|_F | < \| f(A,B,C)-f(A',B',C') \|_F < \epsilon \end{align}

が成り立つので、\begin{align} \| f(A,B,C)\|_F -\epsilon< \| f(A',B',C') \|_F<\| f(A,B,C)\|_F +\epsilon  \end{align}

が成り立ちます。よって、\begin{align} \alpha -\epsilon< \| f(A',B',C') \|_F<\alpha +\epsilon \end{align} が成り立つので、 を が成り立つように選ぶと、\begin{align} \| f(A',B',C')\|_F \neq 0 \end{align} が成り立ちます。これは、関数 の作り方から、\begin{align} \begin{pmatrix} B' & A'B' & \cdots & A'^{n-1} B' \end{pmatrix} \end{align} の行ベクトルが１次独立であることを意味しているので、証明完了です。

このように可制御可観測な線形システムの全体の集合 は多様体になって、特に開集合であることが分かりました。 は開集合なので、ある一つの可制御可観測な線形システムの十分小さな近傍内のすべての線形システムは可制御可観測だということになります。実は、可制御可観測な線形システムの全体の集合 は線形システム全体の集合 の中で稠密であることも示すことができます。つまり、線形システム全体の集合 の任意の開集合を としたとき、 が成り立ちます。このことより、一様にランダムに線形システム を生成すると、可制御可観測なシステムが得られる可能性が極めて高いということや、可制御可観測でないシステムに微小な摂動が加わっただけで可制御可観測なシステムになるということが言えます。言い換えると、可制御可観測なシステムであっても、実際上はほとんど可制御可観測とは言えないようなシステムもあるということであり、

で紹介したような指標を使って可制御性や可観測性の大きさを測ることが応用上は重要だということになります。

参考文献

記事を書くにあたって以下の本を参考にしました。

(1) 距離空間とかの部分を参考にしました。

集合・位相入門

 (2) 第2章の定理11の可制御な線形システム全体の集合は開集合であることの証明を参考にしました。

現代の最適制御理論〈上〉 (1974年) (数学叢書〈23〉)

arXivについて

この記事はarXivについてのメモです。

arXivとは

arXivとは理数系の英語の原稿を無料で読むことができる以下のウェブサイトです。

https://arxiv.org/

arXivは以下のような特徴を持ちます。

1) arXivは査読がないので誰でもすぐに掲載できます。一方で、専門誌は査読があるので投稿から掲載まで1年以上かかったりします。

2) 多くの場合、専門誌に投稿した論文もarXivに投稿できます。

arXivへの投稿は研究成果の優先権の確保になるので、似たようなことをやってる人がいそうな場合はできるだけarXivに投稿した方が良さそうです。最新の成果も速く広まりますし。

arXivに画像入りの論文を投稿するときの注意

arXivには、基本的にtexのソースファイルを投稿することになりますが、画像を入れるときは、画像のファイルも投稿することになります。texや画像のファイルを投稿すると、arXivがpdfを作ってくれますが、texで

\usepackage[dvipdfmx]{graphicx}

を使っていたらダメ（arXivが生成したpdfは、本来あるはずの画像が消滅した内容になっている）です。

画像を載せるためには、\usepackage[dvipdfmx]{graphicx}ではなく

\usepackage[pdftex]{graphicx}

を使うと良いです（TeXworksだと、これ使うとエラーになんだけど、arXivでは問題なくpdfを作ってくれる）。また、elsevierが提供しているクラスファイルelsarticle.clsを利用している場合、texの中に\usepackage[dvipdfmx]{graphicx}等の図を載せるための命令を書かなくても図は載るので、tex中に\usepackage[dvipdfmx]{graphicx}等の命令を書かないでarXivにelsarticle.clsもアップロードすれば画像を載せることができます。

arXivに投稿する画像の入ったepsファイルのサイズを小さくする方法

arXivにアップロードするファイルは一つあたり400KB、合計で1MBの制限があるらしく、制限に引っかかるためepsファイルをアップロードできないことが多いです。そのため、epsファイルのサイズを小さくする方法を知っていると良いです。小さくする方法はたくさんありますが、一例をあげると、epsファイルを「GSview」で開き、Fileからconvertを選びResolution(解像度)を300に設定すると、見た目はほとんど変わらないで良い感じに小さくなったepsファイルが出来上がります。また、epsファイルをpdfファイルに変換してもサイズが小さくなります。epsファイルのpdfファイルへの変換はオンライン上でもできて、例えば以下でもできます。

convertio.co

例

arXivに投稿した自分の原稿はこんな感じです。

1) 与えられた行列に最も近いグラフラプラシアンを構成する方法を提案した論文。

[1802.06482] Optimal Graph Laplacian

2) 多数のリーダーがいるマルチエージェントシステムのリーダーの数を減らしたときに、リーダーを入れ替えた方がもとのシステムのパフォーマンスに近くなるか否かを論じた論文。結論は、入れ替えない方が近い。

[1802.06479] Optimal leader selection and demotion in leader-follower multi-agent systems

3) 安定な線形システムの ノルムの意味では最強のモデル低次元化法を提案した論文。 ノルムの意味ではこれより良い結果になる方法はない。

[1803.01523] Riemannian optimal model reduction of stable linear systems

4) IEEE Transactions on Automatic Control に掲載された論文。このように掲載済みの論文も出版社がarXivにアップすることを許している場合がある（出版社によっては掲載してから２年たったら許すとかがある）。ここで説明している正定値対称行列全体の集合のリーマン幾何学は制御理論だけでなく、信号処理、情報幾何などの研究でも役立つと思われる。

[1803.04097] Structure-preserving $H^2$ optimal model reduction based on Riemannian trust-region method

5) リーマン多様体上の最適化手法を用いた状態遷移行列に対称性をもつ連続時間線形システムの同定法

[1804.10379] Riemannian optimal system identification method of linear continuous-time systems with symmetry