初級Mathマニアの寝言

数学は色々なところで応用可能であり、多くの人が数学の抽象的な概念の意味や意義を鮮明に知ることができれば今まで以上に面白い物や仕組みが生まれるかもしれません。このブログは数学を専門にしない人のために抽象的な概念の意味や意義を分かりやすく説明することを目的としています。数学を使って何かしたい人のお役に立てたら幸いです。

「線形代数を基礎とする応用数理入門」と関係する研究

線形代数を基礎とする応用数理入門に書かれている内容は最新の研究とも密接に関係しています.以下ではそのことを紹介します.

 

深層学習への応用

6.6節「線形システムのモデル低次元化法」は深層学習と関係しており,状態空間モデル (State Space Model: SSM) が組み込まれた深層モデルのパラメータ削減に応用できます.実際に,以下の論文では深層モデルに組み込まれた比較的大きなSSMを6.6節で説明している平衡打ち切り法を利用して小さなSSMに低次元化(パラメータを削減する)し,そこから学習を行うことで,従来の方法よりも少ないパラメータ数に関わらず性能が向上することを示しています.なお,深層モデルのパラメータ数の削減はIoT時代に重要なエッジコンピューティングに役立ちます.

arxiv.org

6.6節「線形システムのモデル低次元化法」で説明した平衡打ち切り法以外にもSSMを低次元化する方法は多数研究されており,例えば以下のようにリーマン多様体上の最適化を利用した低次元化法もあります.

https://www.jstage.jst.go.jp/article/sicejl/60/5/60_375/_pdf/-char/ja

https://www.kurims.kyoto-u.ac.jp/~kyodo/kokyuroku/contents/pdf/2167-12.pdf

 

可制御性スコア

6.7節「大規模ネットワークシステムの可制御性スコア」は我々が考案した可制御性スコアについて説明しており,本書以外で説明している本は存在しないはずです.以下の論文で導入した可制御性スコアは外部入力を受ける動的システムの状態ノードの重要性を可制御性の観点から評価する新しい中心性指標です.

arxiv.org

有向グラフのクロン縮約と有効抵抗

2.15.2項「エルミート行列と対称行列の(半)正定値性」のところでシューア補元を説明し,そこでクロン縮約という言葉がさらっと書いてありますが,我々が以下の論文で無向グラフに対して知られていたクロン縮約と有効抵抗の概念を有向グラフに一般化しました.

arxiv.org

グラフラプラシアンの構築

3.6.2項「行列の低ランク近似」のところで与えられた行列 Aに指定したランク以下でフロベニウスノルムの意味で最も近い行列を構築する問題が特異値分解の応用として紹介されています.この問題に関連して,与えられた行列 Aにフロベニウスノルムの意味で最も近い有向グラフに対応するグラフラプラシアンを構築する問題を凸二次計画問題として新たな効率的な最適化アルゴリズムを以下で与えました.

arxiv.orgここで提案したアルゴリズムは入出力付きのグラフラプラシアンダイナミクスのモデル低次元化に利用することができます.具体的には,以下で提案された方法を利用することで,大規模なグラフラプラシアンダイナミクスのネットワーク構造と入出力の特徴を保存しながら小規模なグラフラプラシアンダイナミクスへと変換する方法に応用することができます.これは以下のSection VIIでfuture workとして述べられていたことを解決したことを意味しています.

arxiv.org