極私的関数解析：ベールの範疇定理 |
作成日：2013-01-23 最終更新日： |
ベールの範疇定理というのは、ベールのカテゴリー定理と呼ばれることも多い。 なお、単にベールの定理ともいわれることもある。ベールはこの定理を証明した数学者の名前である。 さて、ここではカテゴリーのことを範疇と訳しているのだけれど、 何をどのように区分するのか、という問題意識から来ている。
区分する対象は空間である。どんな空間かというと、 `(X, d)` を完備な距離空間としたときの `X` の部分集合 `A` 、すなわち、`A sub X` である。 この `A` をある基準で分類すると 2 種類しかないというのがベールの範疇定理である。 どのような基準かはすぐ後で述べる。
さて、ベールの範疇定理は数学的には次のように表される。 `(X, d)` を完備な距離空間とし、`A sub X` とする。 まず用語を定義する。`A` の閉包が内点をもたないとき、`A` は `X` のなかで疎な集合（または希薄な集合、粗な集合）と呼ばれる。 可算無限個の疎集合 `A_n (n = 1, 2, cdots)` があり、`A sub uuu_(n=1)^oo A_n` とあらわされるとする。 このような `A` は (`X` の) 第 1 類集合（または痩せた集合）と呼ばれる。第 1 類集合ではない `A` は (`X` の) 第 2 類集合とよばれる。 この第 1 類か 第 2 類かという類を気にすることが、範疇（カテゴリー）の名前のいわれである。
`(X, d)` を完備距離空間とする。第1類集合と第2類集合という名称を用いた言い方は次のとおりである。
`X` の第 1 類集合は内点を持たない。特に空でない完備距離空間は第 2 類集合である。
一方、第1類集合と第2類集合を用いない言い方は次のとおりである。
可算個の閉集合 `F_n sub X (n=1, 2, cdots)` を用いて、空でない集合 `X` が
`X = uuu_(n=1)^oo F_n` （０）
と表されたならば、`F_n` のうちの少なくとも一つは内点を含む。
ベールの範疇定理からは、関数解析学における重要な定理である一様有界性定理や開写像定理、 閉グラフ定理などが導かれる。
上記定理の証明の前に、定義を再確認しよう。 内点、内部、開集合および 集積点と閉包、閉集合、閉球も参照のこと。
集合 `A` の集積点全体の集合を `A` の閉包といい、`A^-` または `bar(A)` で表す。
点 `a in X` を中心とし、半径 `r gt 0` の球（開球）`B (a,r)` とは、下記の集合のことをいう。
`B(a, r) = {x in X | norm(x - a) lt r}`
点 `a in X` を中心とし、半径 `r gt 0` の閉球 `bar B (a,r)` とは、下記の集合のことをいう。
`bar B(a, r) = {x in X | norm(x - a) le r}`
`X` を距離空間とする。`K_n = bar B (x_n,r_n)` を中心`x_n in X` 、半径 `r_n gt 0` の閉球の列とする。 この閉球列は次の２条件を満たすものとする。
このとき、ある `x_0 in X` が存在し、`nnn_(n=1)^oo K_n = {x_0}` が成り立つ。
任意の `m, n >= N` に対して、`K_n sub K_N, K_m sub K_N` であるから、`K_n, K_m` の中心 `x_m, x_n` に関して三角不等式を利用すると次の式が成り立つ。
`norm(x_m - x_n) <= norm(x_m - x_N) + norm(x_N - x_n) <= 2r_N`
ここで、`N -> oo` のとき `r_N -> 0` であるから、`{x_n}` はコーシー列である。
そして `X` は完備であるから、ある `x_0 in X ` が存在し、
`lim_(x->oo) x_n = x_0`
が成り立つ。 さらに、
`x_n in K_n ( n gt= N) `
において `n -> oo` とすれば、`K_n` は閉集合だから、
`x_0 in K_N (AA N in NN)`
が得られる。すなわち、
`x_0 in nnn_(n=1)^oo K_n`
となる。
次に、このような `x_0` はただ一つだけであることを示す。仮に、`y in X` もまた `nnn_(n=1)^oo K_n` に属すると仮定する。すると、
`x_0 in K_n, y in K_n (n in NN)`
であるから、最初と同様の議論により、
`norm(x_0 - y) lt= 2r_n (n in NN)`
となる。ここで、`n -> 0` とすると、`r_n -> 0` であるから、`norm(x_0 - y) = 0` すなわち、`y = x_0` である。∎
背理法を使う。すなわち、
＜すべての閉集合 `F_n` は内点を含まない＞ （２）
と仮定して、矛盾が生じることを導く。ここで、`F_n` が内点を含まないとは、任意の球 `B(a, r) sub X` をとっても `B(a, r) sub F_n` とはならないことである。
まず、完備距離空間 `(X,d)` において `F_n` の補集合を `G_n` とおく。すなわち、
`G_n = F_n^c = X \\ F_n = {y in X | y !in F_n}, n =1, 2, 3, cdots `
定義より `G_n` は開集合である。また特に `G_1 = O/` である。なぜなら、`G_1 = O/` とすると `F_1= X` であり、
`F_1` が内点を含まないことに反するからである。したがって、`a_1 in G_1` である `a_1 in X` が存在する。ここで、
`G_1 = F_1^C (= X \\ F_1)` は空でない開集合となる（閉集合の補集合は開集合）。
そこで、`x in G_1` となるある点 `x` をとると、`G_1` が開集合であることから、次の条件を満たすような開球 `B(a_1, r_1)` をとることができる。
閉球 `bar(B)(a_1, r_1) sub G_1` かつ `0 lt r_1 lt 1 / 2` （条件１）
なお、ここで、区間を`(0, 1/2)` としたが、なぜ `1/2` が出てきたのか。これはあとの便宜のためである。`r_1` は十分小さいから、 上限を固定した数にとっておけば 1/2 であろうがなんだろうがいいはずだ。あえていえば、この区間を次の列でどんどん縮小させていくと、 最後の形が美しいからということである。
さて、開球 `B(a_1, r_1)` と `G_2` は少なくとも１点を共有している（この１点を `a_2` とする）。 もし、そのような `a_2` が存在しないとすれば、`B(a_1, r_1) sub G_2^c = F_2` となり、`F_2` が球を含むことになる。 これは仮定（２）に反する。よって、 `a_2` は存在する。すると、a_2 は次の式を満たす。
`a_2 in B(a_1, r_1) nn G_2` （３）
（３）の右辺は開集合である（開集合どうしの交わりは開集合）。したがって、`a_2` を中心とする開球 `B(a_2, r_2)` の半径 `r_2` を十分小さくとることにより、次の条件が成り立つような開球が得られる。
閉球 `bar (B)(a_2, r_2) sub ( B(a_1, r_1) nn G_2)` かつ `0 lt r_2 lt 1 / 2^2` （条件２）
あれ、この（条件２）はどこかで見たような覚えがある。そう、（条件１）と似ている。ということは、同じ論法を繰り返し適用できそうだ。やってみよう。
開球 `B(a_2, r_2)` と `G_3` は少なくとも１点 `a_3` を共有している。すなわち、
`a_3 in B(a_2, r_2) nn G_3`
したがって、`a_3` を中心とする開球 `B(a_3, r_3)` の半径 `r_3`
を十分小さくとることにより、次の条件が成り立つような開球が得られる。
閉球 `bar (B)(a_3, r_3) sub ( B(a_2, r_2) nn G_3)` かつ `0 lt r_3 lt 1 / 2^3` （条件３）
`cdots`
以上のことから一般の自然数 `n` について次のことがなりたつ。
点列 `a_n in X` および `a_n` を中心とし半径が `r_n` である開球 `B(a_n, r_n)` の列を、
閉球 `bar(B)(a_n, r_n) sub B(a_(n-1), r_(n-1)) nn G_n (n = 1, 2, 3, cdots) （４）`
および
`0 lt r_n lt 1 / 2^n` （５）
を満たすように選ぶことができる。（４）から `bar(B)(a_(n+1), r_(n+1)) sub bar(B)(a_n, r_n) (n = 1, 2, 3, cdots) ` が成り立つから、
補題（閉球列の原理）により
`a^** = lim_(n -> oo) a_n in nnn_(n=1)^oo bar(B) (a_n, r_n) `
が存在する。ところが、
`a^** in bar(B)(a_n, r_n) (n = 1, 2, 3, cdots)`
は、（４）によると次を意味している。
`a^** in G_n` すなわち `a^** notin F_n (n = 1, 2, 3, cdots)`
よって、
`a^** notin uuu_(n=1)^oo F_n`
となる。しかしこれは（０）に矛盾する。よって、定理は証明された。∎
このページの数式は MathJax で記述している。
図は、HTML5 のcanvas を用いた。
`(X, d)` の距離空間の説明で完備性を抜かしていた。 これでは、私がこのベールの範疇定理を理解していないことが明らかである。 気づいたので付け加えた(2017-02-07)。
