対称性と機械学習

このサイトは「対称性と機械学習」に関する情報、訂正情報などを掲載します。誤りやコメントがありましたら サポートメール宛に送っていただけたら幸いです。

書誌情報 #

対称本 書影

”世界は対称性にあふれている。入力に対する構造的な変換に対して不変であるのが対称性で、物理世界を扱う機械学習で効率的な学習を実現し、未知の状況にも対応できるようになるために欠かせない概念だ。本書は関係する数学を基礎から解説した上で、対称性が機械学習の文脈でどのように表されるのかを示し、利用する手法を紹介する。”（出版社紹介文より）

お知らせ #

  • 2025/8/27 サポートページを公開しました

誤植情報 #

（紙版中のページ番号です。版によって修正済みの場合があります。）

位置 修正前 修正後
p.44 (2.81) x◁_χg x◁g
p.47 例2.13 平面上の図形を原点を中心に回転させる操作を考える。これらの回転操作をa_iとし，群A={a_0,\ldots,a_5} で表わす。図形に (A) の元が作用することで，対応する回転がひきおこされると考える。 平面上の図形 S\subset \mathbb{R}^2 を原点を中心に回転させる操作を考える。角度 (60i) 度の回転を (a_i) とし，A={a_0,\ldots,a_5} とおく。このときAは群であり，さらにa_iの図形Sへの作用をa_i \triangleright S = {a_i x\mid x\in S} と定めると，A は図形の集合に作用する。実際，a_0\triangleright S=S であり，(a_i a_j) \triangleright S=a_i\triangleright(a_j\triangleright S) が成り立つ。
p.49 　群の表現 (\rho,V) は，線形作用と一対一に対応する ベクトル空間 V への群作用であって，各 g\in G が V 上の線形変換として作用するものを線形作用とよぶ。群の表現 (\rho,V) は，このような線形作用と一対一に対応する。
p.55 2.9.3 リー群 G が閉部分群であるという条件は重要であり，そうでない場合は，線形リー群ではない例をつくれる。 G が閉部分群であるという条件は重要であり，閉でない部分群は，GL_n(\mathbb{R}) の部分空間位相を入れても，一般にはリー群，少なくとも埋め込みリー部分群にはならない。
p.56 代表的な線形リー群の説明 O_n(\mathbb{R}) 全体は連結でなく，行列式が 1 の部分と -1 の部分に分かれる。 GL_n(\mathbb{R}) 全体も連結ではなく，行列式が正の成分と負の成分に分かれる。同様に，O_n(\mathbb{R}) 全体は連結でなく，行列式が 1 の部分と -1 の部分に分かれる。
p.86 3.13 群畳み込みは同変性を備える 群畳み込みに対する作用は第一引数の関数 f に対して作用すると定義する。 群上の関数空間への左正則作用を a\triangleright f:=f(a^{-1}g) と定義する。この作用に関して，群畳み込みは次の同変性を満たす。
p.86 式(3.69)前後 a\triangleright(f*_G\kappa)(g):=([a\triangleright f]*_G\kappa)(g) a\triangleright(f*_G\kappa)=(f*_G\kappa)(a^{-1}g) とし，これが ([a\triangleright f]*_G\kappa)(g) に等しいことを示す。
p.102 4.2 並進同変と畳み込みの同値性 ansantz Ansatz
p.120 5.4，式(5.11)前後 また f_g は連続写像であり，f_g(e)=geg^{-1}=e なので，単位元 e を固定する。 また f_g は連続写像である。f_g(e)=geg^{-1}=e なので，f_g は単位元 e を固定する。
p.121 5.4，補題2.6 補題2.6より，gG_0g^{-1}=G_0 であり，G_0 は G の正規部分群となる。 任意の g\in G に対して gG_0g^{-1}\subseteq G_0 が成り立つ。したがって補題2.6より，G_0 は G の正規部分群となる。なお，g^{-1} に対して同じ議論を適用すれば gG_0g^{-1}=G_0 も従う。
p.121 5.4，剰余類の個数 任意のリー群は，単位元成分の離散的な剰余類（コピー）によって構成されており，その個数は有限個または加算無限個である。 任意のリー群は，単位元成分の離散的な剰余類（コピー）によって構成されており，通常の多様体の定義に含まれる第二可算性により，その個数は有限個または可算無限個である。
p.121 5.4，剰余類の個数 加算無限個 可算無限個
p.122 5.5 誘導された群作用 群の右作用は表現により次のように表わされる。 ここでは，ベクトル空間 V 上の右作用が表現 \rho_V によって与えられる場合を考える。このとき，右作用は次のように表わされる。
p.131 下から10行目 リー群の次元数 リー代数の次元数
p.132 (5.71) +b -b
p.134 (5.81) CについてD_1, … D_{n_G - 1} CについてD_1 - I, …, D_{n_G - 1} - I
p.138(5.105) f(y)\kappa(x, y) \kappa(x, y)f(y)
p.127 5.8，式(5.49)直後 は G の閉集合となる（連続写像の逆像は閉集合であることから）。 多様体はハウスドルフ空間であるため一点集合 {f(x)} は閉集合であり，連続写像による閉集合の逆像は閉集合である。したがって h_x^{-1}({f(x)}) は G の閉集合となる。
p.128 5.8，閉部分群からリー部分群を導く箇所 定理2.1より Stab_G(f) はリー部分群である。 閉部分群定理より，リー群 G の閉部分群 Stab_G(f) はリー部分群である。
p.128 5.8，式(5.58)直後 つまり，\xi\in Lie(G(f)) である。 つまり，\xi\in Lie(Stab_G(f)) である。
p.137 5.13 クリロフ法を使った核の効率的な推定方法 Q の零空間を求められる。 C の零空間を求められる。
p.137 式(5.100) (\rho_a\otimes\rho_b)\mathrm{vec}(W)=\mathrm{vec}(\rho_a^T W\rho_b) (\rho_a^*\otimes\rho_b)\mathrm{vec}(W)=\mathrm{vec}(\rho_a^T W\rho_b)
p.138 定義5.3 作用素 I_\kappa が G に対し同変であるとは，以下が成り立つこととする。 入力特徴マップと出力特徴マップへの作用を式(5.106)で定めると，作用素 I_\kappa が通常の意味で G 同変である条件は，以下のように書ける。
p.138 定義5.3の直後 この同変性の定義は式変形すると次を得る。 式(5.107)の左辺を展開すると次を得る。したがって右辺と比較することで，I_\kappa の同変性はフィルタ \kappa に対する条件に帰着される。
p.143 式(5.129) R_{G,0}(F) R_{G,0}(f)
p.143 式(5.130)前 この空間上のノルム |\cdot| を用いて この空間上のノルム |\cdot|_{F’} を用いて
p.149 6.2 幾何積，式(6.8) 収縮公理：xx=|x|^2 収縮公理：x^2=Q(x)
p.151 6.3，例6.2 R_{3,0,0} では 2^3=8 個の基底要素が存在する。 R_{3,0,0} では 2^3=8 個のクリフォード代数の基底要素が存在する。ここでいう基底要素は，台となるベクトル空間の基底ではなく，その幾何積から作られるクリフォード代数の基底を指す。
p.161 6.9 Pin群，Spin群，バーサーの定義 このような変換を定める要素 u=u_1u_2\cdots u_k をバーサーとよぶ。 u_1,u_2,\ldots,u_k の順に反射を適用する場合，対応するサンドイッチ積は u=u_k\cdots u_2u_1 によって表わされる。このような単位ベクトルの積で表わされる要素をバーサーとよぶ。
p.161 6.9 特に u のノルムが 1 のとき，単位バーサーとよばれる。 特に u\tilde{u}=1 を満たす場合，すなわち各因子が二次形式で単位長に規格化された単位ベクトルからなる場合，単位バーサーとよぶ。ここで \tilde{u} は反転を表す。
p.161 6.9 単位バーサー u の幾何積は再び単位バーサーとなること，また単位バーサーは逆元をもつことから，単位バーサーの幾何積全体は群をなしこれらを Pin 群と同一視することができる。また，偶数個の単位バーサーの幾何積からなる群を Spin 群と同一視できる。 単位ベクトルの有限個の幾何積からなる群を Pin 群と同一視できる。また，そのうち偶数個の単位ベクトルの積からなる部分群を Spin 群と同一視できる。
p.163 6.12 節タイトル 代数幾何におけるユークリッド同変写像 幾何代数におけるユークリッド同変写像
p.163 式(6.58)前後 ここで任意の u\in Pin(d,0,1) と x\in R_{d,0,1} に対して，\rho_u(x) はサンドイッチ積で定義され，f(uxu^{-1})=uf(x)u^{-1}（u が偶数個のバーサー積）と表わされる。 ここで u が偶数個の単位ベクトルの積からなる場合，すなわち u\in Spin(d,0,1) の場合には，\rho_u(x)=uxu^{-1} であり，同変性条件は f(uxu^{-1})=uf(x)u^{-1} と表わされる。Pin 群の奇数成分については式(6.54)の作用を用いる。
p.164 6.12，式(6.61)前 この作用を微分するとリー代数 \mathfrak{g} の元 X に対して 単位元成分，すなわち Spin 側の作用を微分すると，リー代数 \mathfrak{g} の元 X に対して
p.164 6.12，式(6.64)前 そのため，グレードをまたぐような変換は同変とならない。 そのため，任意のグレード間混合は一般には同変とならない。特に，異なる既約成分を任意の係数で混ぜる線形写像は群作用と可換ではない。
p.164 6.12，式(6.65)前 さらに e_0 を左から掛ける操作 ただし，e_0 はこのモデルで群作用により不変に保たれるため，e_0 を左から掛ける操作

目次 #

  • 1 対称性とは

    • 1.1 対称性とは
    • 1.2 対称性と幾何
    • 1.3 対称性と物理法則
    • 1.4 関数と対称性
    • 1.5 機械学習における入力に対する不変性の例
    • コラム1.1 連続的に変化する入力に対する予測タスクに不変性が求められる
    • コラム1.2 完全ではないが対称性が一部成り立つ現実のデータを扱う
    • 1.6 同変性
    • 1.7 変換情報の保持と対称性
    • 1.8 無限の変換をどのように扱うのか
    • 1.9 群・表現
    • 1.10 作用と表現
    • 1.11 位相群とリー群
    • 1.12 機械学習とは
    • 1.13 帰納バイアス
    • 1.14 データオーグメンテーション
    • 1.15 もつれを解いた表現と対称性
    • 1.16 各章の構成
    • 第1章のまとめ

  • 2 群・表現論

    • 2.1 群の導入
    • 2.2 同型写像・準同型写像
    • 2.3 部分群
    • 2.4 剰余類
    • 2.5 正規部分群・商群
    • 2.6 作用
    • 2.7 作用の例
    • 2.8 群の表現
    • 2.9 リー群
      • 2.9.1 滑らかな群と線形代数
      • 2.9.2 指数写像
      • 2.9.3 リー群
      • コラム2.1 ロドリゲスの回転公式
    • 2.10 リー代数
      • 2.10.1 リー代数
      • 2.10.2 リー群とリー代数の関係
      • 2.10.3 曲線上の指数写像
      • 2.10.4 リー群の準同型写像
    • 第2章のまとめ

  • 3 対称性を備えた関数

    • 3.1 対称性を備えた関数
    • 3.2 ニューラルネットワークとは
    • 3.3 ニューラルネットワークへの対称性の導入
    • 3.4 G不変な仮説空間
    • 3.5 軌道・軌道集合
    • 3.6 軌道集合を用いた仮説空間
    • 3.7 商仮説空間
    • 3.8 等質空間
    • 3.9 安定部分群
    • 3.10 等質空間と商空間
    • 3.11 写像の持ち上げと射影
    • 3.12 畳み込みと群畳み込み
    • 3.13 群畳み込みは同変性を備える
    • 3.14 等質空間の同変性
    • 3.15 特徴マップ
    • 3.16 一般化群畳み込み演算
    • 3.17 一般化群畳み込みの問題点
    • 第3章のまとめ

  • 4 対称性を備えたニューラルネットワーク

    • 4.1 並進群の特徴マップ上での作用
    • 4.2 並進同変と畳み込みの同値性
    • 4.3 畳み込みニューラルネットワーク
      • 4.3.1 並進同変であるバイアス加算
      • 4.3.2 並進同変である要素ごとの非線形活性化関数
    • 4.4 アフィン群同変な畳み込みニューラルネットワーク
    • 4.5 アフィン群による作用
    • 4.6 アフィン群の表現
    • 4.7 積み重ねられた特徴マップ
    • 4.8 アフィン群同変ニューラルネットワーク
    • 4.9 アフィン群同変であるバイアス加算や非線形活性化関数
    • 4.10 G同変写像の求め方
    • 第4章のまとめ

  • 5 リー群に同変な関数の設計

    • 5.1 対称性をもつ関数の設計
    • 5.2 群の分解
    • 5.3 リー群の単位元成分の生成
    • 5.4 リー群の単位元成分による剰余類分解
    • 5.5 誘導された群作用
    • 5.6 リー代数の作用
    • 5.7 リー微分
    • 5.8 安定化群のリー代数の特徴づけ
    • 5.9 リー群に対し同変となる必要十分条件
    • 5.10 線形層での同変性導入
    • 5.11 実際の数値計算
    • 5.12 制約の構造を使った効率的な計算手法
    • 5.13 クリロフ法を使った核の効率的な推定方法
    • 5.14 特徴マップ間の同変な線形写像
    • 5.15 力学系における対称性と保存則
    • 5.16 対称性の促進
    • 5.17 対称性の促進：離散群の場合
    • 5.18 対称性の促進：連続群の場合
    • 第5章のまとめ

  • 6 クリフォード代数にもとづく対称性

    • 6.1 クリフォード代数
    • 6.2 幾何積
    • 6.3 グレード・ブレード・マルチベクトル
    • 6.4 グレード射影
    • 6.5 幾何積による内積とウェッジ積の統一
    • 6.6 マルチベクトルがもつ幾何的な意味
    • 6.7 マルチベクトルと幾何
    • 6.8 双対化演算
    • 6.9 Pin群，Spin群
    • 6.10 バーサーによる作用
    • 6.11 射影幾何代数
    • 6.12 代数幾何におけるユークリッド同変写像
    • 第6章のまとめ

  • Appendix

    • A 群・表現論の補足情報
      • A.1 準同型定理
      • A.2 群作用の全単射性
      • A.3 正則表現
      • A.4 正則表現の分解
      • A.5 交絡作用素
      • A.6 部分表現，既約表現
    • B 行列とベクトル操作について
Calendar October 28, 2025