WGANの論文読んでTensorflowで実装する その2
WGANの論文読んでTensorflowで実装する その1 - 時給600円の続き
前回はEarth Mover Distance
もしくはWasserstein Distance
が他のJSダイバージェンスやTV距離と比べて優れてるというのをまとめた。
このEM距離をGANの目的関数として使いたいが、
このままでは使うことができないと書いてある。そもそも同時分布の集合を求めるのも大変だし、KLダイバージェンスと違って積分が閉じてないとかなんとか。
駄目じゃん。ってなるがその次のセクションに双対性というので以下の式を計算することでEM距離の値を求めることができると書いてある。双対問題はまだよくわかってない(´・ω・)
なんというかAの世界では掛け算で解くけど、Bの世界では足し算で解けるみたいな物事を別の世界で考えて計算を楽にする感じなんだろうか
という謎のものがある。まず関数がリプシッツ関数( 1 - Lipshitz )であることが条件らしい。リプシッツ関数って何だよって思ったけど
ある関数 が存在して、その曲線が上の赤の三角形のように表せるならリプシッツ関数といえる認識でいいっぽい。間違ってるかもしれない。
要は増加量が線形というか緩やかなものがリプシッツ関数といえるのかな。そうなるととかはリプシッツ関数とはいえないはず(/・ω・)/
論文の端っこに、sigmoid
やtanh
などはリプシッツ関数の例であると説明があった。そういう認識で問題なさそう
問題はのの部分。期待値の差分を取るから値はスカラーなはずで、その差が1以下のものって条件かな。ぬん・・・
GANなので識別器と生成器の2つがある。この式に2つをあてはめて目的関数として実用するには
とすればいいらしい。maxだから最大値を求めるのか。識別器はDiscriminator
だからよく d(x) みたいに表されるけど、なんでと書かれているのかというのは後にわかるから置いておいて、この式の条件下で最大値を取るとき、その時のパラメータ で生成器は本物に近い生成データを得られる、つまり欲しい真の分布に近くなってるはず。前にEM距離は連続であると書かれていたから、微分ができて徐々にに近くなるように学習できるぜってことなんだな。すごい・・・すごくない・・・?
と思ったら次にこんな一文がある
Now comes the question of finding the function f that solves the maximization problem in equation (2).
うん?関数 を見つける?
関数 を表現するために使われる、集合 の中から取れるパラメータ を先に最適化して式(2)が最大になるような関数 もといパラメータ 先に見つけないと駄目なのかな。
だからあくまでこの関数 は識別の役割とはいえないから Discriminator ではなく Critic という名前でこの論文では呼ばれている。
で、パラメータの更新によっては の値が集合 にはない値を取る場合もある。これでは式(2)の条件を満たせないので、無理やり値を抑える(クリッピングと呼ばれてる)。式(2)の条件というより値がはみ出るとリプシッツ関数として成り立たないからとかだろうか。
値を抑える範囲としては論文では [ -0.01 , 0.01 ]が採用されている。この範囲が大きすぎると最適なパラメータ を見つけるのに時間が掛かって、小さすぎると今度は勾配消失の問題が起きやすいと書かれている。難しい・・・
まとめると、先に Critic のパラメータ を式(2)
が最大になるように訓練して、(パラメータの値がある範囲を超えたら抑える)
何回か訓練させた後、つまりEM距離になってくれているCritic を使って、生成器 のパラメータ をより本物が作れるような方向に、つまり分布に近づくように更新していく。
生成器のパラメータの更新については数式ではこう表現されている。
GANやDCGANでいえば critic を discriminatorと見立てたとき、 の返す値は 1(本物)と見れるので、上記の式でも が 1(本物)の値を返すように学習するという見方で大丈夫だろうか。
学習の方法の流れが優しく書いてあったので、WGANを実装してみる。UnrolledGANのときと同じくガウス分布のデータを使って実験する。
1回の学習ステップの流れとしてはこうする
先に k回 critic を更新してから、k回更新したcritic、もといEM距離を使って1回だけ生成器を更新する。なんかUnrolledGANと似てるな。
前回コード載せたけどここにも置く
論文で再三リプシッツ関数だからなと述べているのに、出力にtanh
関数やsigmoid
関数を使ってしまって、最初学習がうまくいかなかった。
出力を critic、generatorどちらとも
### Generator #fc = tf.tanh(tf.nn.xw_plus_b(h2, self.gen_w3, self.gen_b3)) fc = tf.nn.xw_plus_b(h2, self.gen_w3, self.gen_b3) ### Critic #fc = tf.nn.sigmoid(tf.nn.xw_plus_b(h2, self.cri_w3, self.cri_b3)) fc = tf.nn.xw_plus_b(h2, self.cri_w3, self.cri_b3)
に直したらうまくいった。アレ・・・?ただの恒等関数ってリプシッツ関数でいいのかな?)`Д゚).・;'∴
UnrolledGANのときは、ガウス分布の入力の組が [ -1 , 1 ] の範囲の値をとるからGeneratorの出力関数をtanh
関数に設定したけど、そうしないでただの恒等関数でもちゃんと [ -1 , 1 ] の値を取ってきてくれるのだろうか。不思議だなあ・・・
あとはWGANでめんどいクリッピングの操作はゴリ押ししか今のとこできなかったので次のようにオペレーションを定義した
clip_value = 0.01
clip_list = [
self.critic.cri_w1.assign(
tf.clip_by_value(self.critic.cri_w1, -clip_value,
clip_value)),
self.critic.cri_w2.assign(
tf.clip_by_value(self.critic.cri_w2, -clip_value,
clip_value)),
self.critic.cri_w3.assign(
tf.clip_by_value(self.critic.cri_w3, -clip_value,
clip_value)),
self.critic.cri_b1.assign(
tf.clip_by_value(self.critic.cri_b1, -clip_value,
clip_value)),
self.critic.cri_b2.assign(
tf.clip_by_value(self.critic.cri_b2, -clip_value,
clip_value)),
self.critic.cri_b3.assign(
tf.clip_by_value(self.critic.cri_b3, -clip_value,
clip_value))
]
self.clip_op = tf.group(*clip_list)
今回はtf.group()
というのを使ってみた。これを使うと訓練時にいちいち各パラメータのクリッピングのオペレーションを呼ばずに、
# Train Critic # Critic step for Critic for k in range(critic_step): # ノイズ事前分布からノイズをミニバッチ分取得 noise_z = np.random.uniform( -1, 1, size=[batch_size, 100]).astype(np.float32) # 訓練データのミニバッチ取得 cri_perm = np.random.permutation(datanum) X_batch = X_train[cri_perm][:batch_size] sess.run( self.opt_cri, feed_dict={ self.input_X: X_batch, self.is_train: False, self.gen_z: noise_z }) # Clip Critic Parameter sess.run(self.clip_op)
一行でクリッピングの操作を済ませることができる。かしこい
論文通りcritic_step
の回数を5回に設定して実験する。最適化の手法としてAdam
のようなmomentum based optimizer
はWGANの訓練を不安定にさせるからRMSProp
のがいいよと書いてあったけど、なんかこのガウス分布のデータにおける実験ではAdam
のがよかったからこっちを採用した。RMSPropはよく知らなかったけど、
We therefore switched to RMSProp [21] which is known to perform well even on very nonstationary problems [13].
と書いてあって、RMSPropおもろいなと思った。いい情報だ(∩ ^ω^ ∩)
実験結果としてはこんな感じ
マジでただの恒等関数の出力で [ -1 , 1 ]の範囲の値を取ってやがる・・・。ほんまか・・・
前のUnrolledGANの時の結果は次の通りだった
うーん・・・。UnrolledGANのが綺麗に生成できている気がする。同じネットワーク構造、ハイパーパラメータじゃないから比較は難しいんだけども
でも大体入力データを真似てくれているから実装としてはあまり間違えはなさそう
ポアンカレ埋め込みの論文と同じで距離についてワクワクさせてくれる素敵な論文だった。Appendixのところとかまだ完璧に理解できないのでまた成長したら読みたいな。
どっちも同じFacebookのリサーチャーの人が関わっているらしくてFacebookすげえ・・・
おまけでこの論文では feedforward neural network のことを
By a feedforward neural network we mean a function composed by affine transformations and pointwise nonlinearities which are smooth Lipschitz functions (such as the sigmoid, tanh, elu, softplus, etc).
と下に小さい箇所で述べていた。なんかめっちゃカッコいい・・・?カッコよくない・・・?
WGANの論文読んでTensorflowで実装する その1
前回、間違えてUnrolledGANの論文を読んでしまった。
このWGANというのが本当は読もうと思った論文。正直UnrolledGANを先に読んでなかったらWGANの理解が深まらなかったと思う。読んでてよかった
という訳で論文はここからどうぞ
あとコードも先に置いておく
WGANという名前が付いてるから、このWが重要になってくる。WはWasserstein
の略。わずさーなのかわっさーなのか英語がカスなので読み方がわからん・・・
Wasserstein
というのは論文ではEarth Mover (EM) distance
とも呼ばれる。distanceだから距離を表すもの。この距離をGANに使ったらいい感じになったってことなのか?と読み始めに思った。
今まで自分が読んだGANはどれも GeneratorとDiscriminatorの学習速度のバランスが悪いから何とかする、というのだった。両モデルにバッチ正規化層を追加したり、学習方法を変更したりとか、、
WGANはざっくりいうと、バランスを調整するためのバッチ正規化といったトリックを使う必要がなく、単なるMLP
を用いたGANでもEarth Mover (EM) distance
を使うことで学習が崩壊せずに上手く行くぜってことが書いてある。
ス、スゲー!!!わずか論文3ページ目でこのインパクト・・・。続きが知りたくなるやんけ
それで何でEarth Mover (EM) distance
が出てくるんだよってなる。ここで生成モデリングについて考える。
を「知りたい目的のデータの分布」とする。
今をこのに近づける、もとい形状が似るようにしたい。どうするか・・・
がパラメータで作られているとしたら、の値を変えてやれば形状が変わったり、軸 も別のところに移動できるはず
じゃあパラメータの値を上げたり下げたりするとして、どっちの操作をすればいいのか。パラメータが3つの値から成ってたら、一つ目の値は今より小さくして、二つ目の値は今より大きくして、、という決定をどうすればいいかわからない。
今パラメータが持つ値を全て今より大きくしたとき、はに近づいているのか、遠のいているのか、その情報が得られれば、「パラメータを大きくしたらに遠のいたから下げよう」といったことができそうだ
近いってどう数値として表すか・・・シンプルだと
関数 と関数 の二つがあったとして、この二つが近いとしたら がとる値の± した範囲(赤の部分 、は小さい正の数)に関数のとる値が入っていれば、が小さい値であるほど赤の範囲は狭くなるからより二つの関数が「近い」といえるはず。
| |みたいに距離を使えば二つの分布が似ているかどうかがわかりそうだ(∩^ω^∩)
だから EM距離を使うぜ といった話になるんだな。多分・・・
話は戻って、論文では EM距離がすごいんだぜーというのを説明するためにEM距離含めて分布が近いかどうかを教えてくれる距離を4つ紹介している
せっかくなので一つずつ見ていく
まず前提として をコンパクトな集合とする。有界な閉集合ならコンパクトだけど、コンパクトは後なんか被覆が云々で言えたような・・・
論文だと 例として [0,1] の閉区間とかーって書いてある。うん、、
を上での確率測度(probability measure)とする。が確率測度といえるための条件満たしてるぜってことでいいかな
1. Total Variation (TV) distance
をでのボレル集合とする、と書いてある。 え何それは・・・
話を聞いたら、 という集合の中で、でその値を知りたいもの全部を含めた集合ってことでいいらしい。
その認識で考えれば、絶対値の差をとってるし、sup(上限)を選べってあるから
こんな感じかな。(図ではボレル集合を一つの範囲でしか取らなかったけど)
確率の値での差を取るから、もし二つの分布が一致してたらTV距離は最大で0、一致してなかったら最大で1を取るから、 この距離は小さい方が近いってことを表してくれるのか。
2. The Kullback-Leibler (KL) divergence
KLダイバージェンスについては解説の記事が沢山あるから省くけど、とが似てると、logの部分は log1 になってく、つまり 0に近づいていくので距離としては値が小さいほど二つが似ていることになる。分母のが 0 をとったらその・・・計算できないというか・・possibly infiniteと書いてあった。
ダイバージェンスという単語は電話レンジが云々のアニメで知ってた。
でも「距離」の紹介なのに「ダイバージェンス」っておかしくね?って思うんですが、距離 は
この3つの条件を満たしていればを距離と(正確にはをxとyの距離)いえる世の中のルールらしい
ダイバージェンスは二つ目を満たしてないから距離とは言えないとか
ところで距離の公理を初めて知った時、三角不等式が点列の収束を調べるときに使うものと知ったんですが、高校時代ナニコレ?と思ってたものがすげー役割を持ってたって思うと興奮した
3. Jensen-Shannon (JS) divergence
ジェンセ・・イェンセン・・論文でも他3つの距離と比べて説明少ないんだけど、の分母が2になってるから無限大になるのは回避できそう?
4. Earth-Mover (EM) distance or Wassterstein-1
これが今回の主役のEM距離だけど、式がむずそう
まず、 は同時分布の集合を表すそうだ
論文ではどうやらtranspoted、日本語だと輸送がうんぬんと言っている。これも話を聞いてみたら
二つの分布をそれぞれ四角のブロックの集まりで表す。
がもつブロックを、の方に移すとする。と重なっていないブロックを移していけば、いつかはと同じ形になる
ここで移し方には、初期の分布の設定にもよるけど、沢山のパターンがあると思う。
ブロックを移すにも時間がかかる。EM距離は求めたい時の分布の位置状態で、ブロックの移す時間が一番少ない、最小コストの値を二つの分布の「近さ」として与えてくれる。
の右端にあるブロックをの左端の方に移したら、移すのにめっちゃ時間がかかってもったいない。
つまりブロックの輸送を開始する時点で、二つの分布が似ていれば、もともとブロックの移すコストも少なくなるはずだろってことか。発想がすげえ・・・
地味にこのEM距離はコンパクトな集合においてだけ使えるといったものじゃなくて、コンパクトじゃない集合においても使えるらしい。その時不思議な結果が出るとか何とか・・・
論文ではこの4つの距離を紹介したあと、この4つの距離を使ってシンプルな ([0,1]の一様分布 )をで近づけていく実験をしてた。
結果としては EM距離は以外は、二つの分布がぴったり重なる時と重ならない時で値が TV距離だと 1と0、 JSダイバージェンスだとlog2と0、といったように極端な結果を出していた。
論文の実験図だとこんなん
左がEM距離の値、右がJSダイバージェンスの値
のパラメータを0に近づけていくのがゴールで、EM距離はパラメータが0に近づいていくほど、徐々に小さくなっていくのに対して、右のJSダイバージェンスでは、=0以外では の値を取り続ける。
よくスイカ割りするじゃないですか。目隠しして歩いてスイカにたどり着くとして、1歩歩くごとにその地点からゴールまでの距離を教えてくれる人が
「ゴール以外は全部と教えてくれる人」と、「ゴールからあとメートル(ゴールに近くほどKが小さい)と教えてくれる人」だったらどっちのが嬉しいっていったら自分は後者。スイカ割りしたことないけど
きっと生成モデリングにおいても、がある「距離」が小さくなる方向に収束していくにつれて、から作られるが目的の分布に近づいていけるなら、それが嬉しいパラメータの修正の仕方なんだろう
だからEM距離はすごいんだぜー というのがわかったけど、どうやら上のEM距離の定義式のまんまGANの目的関数として使うのは厳しいらしい。ええ・・・
長くなったので分ける
この論文読む前に志賀浩二先生の「位相への30講」を読んでいなかったらほぼ即死だった・・・
でもこの論文で「測度」の公理なり、ちょいちょい見ていた「加法族」の意味なり知ることができてよかった(∩^ω^∩)
測度論はフーリエか何かの勉強で「オイラーの公式が成り立つことを詳しく知るには「測度論」について調べることをオススメする」みたいな文章があって単語だけ覚えてたんだけど、こんなとこで会うとは思わなんだ・・・
ちょいちょい意味が繋がるのは嬉しい
UnrolledGANをTensorFlowで実装した
別のGANの論文を読むつもりが間違えてUnrolledGANと呼ばれるものを印刷して読んでしまった
途中でこれ違う論文やんけと気づいたけど紙がもったいないのでちゃんと読んでUnrolledGANを実装した。
まちがえて読んだ論文はこれ
[1611.02163] Unrolled Generative Adversarial Networks
GANのまとめはこっち
GANとDCGANでは学習の不安定さや生成される画像の多様性がしょぼい、ノイズがかなり含まれる、などが問題として挙げられてた
この論文で学習の不安定さの原因として識別器の方が生成器よりも学習が早いというのが書かれていた
先に識別器の方がめちゃ強くなってしまう。ある学習途中のまだ弱い生成器にとって、強力な識別器の学習信号は学習信号として役立たなくなるとも書いてある。まじかよ・・・
リアルで考えれば、AとBの二人がお互い助け合って数学の勉強をしているとして、Aの方が成長が早く、AがBに教えようとするとBはまだAと同じレベルにいないからAの言っていることが時々わからずBの成長が悪くなってしまう感じだろうか。GANに限るかわからないが二人三脚な感じで学習していくのがベストってことなのかな
こういったことが起こると途中で学習が収束(悪い意味で崩壊)してそのエポック以降は同じもの、またはそれに類似したものしか生成しなくなってしまうんだとか。
これには思い当たりがある。実際前に作ったDCGANでも途中で識別器と生成器の損失が変わらず、次のような画像しか生成されないことが何回かあった
識別器が強力になることが原因だったとは知らなんだ。DCGANで識別器にのみバッチ正規化を適用しなかったり、重み減衰を適用してうまくいったのはつまりそういうことだったのか
ここまで論文を読んで、じゃあ識別器の学習をのろまにさせる手法がUnrolledなのかなと思ったけどそうじゃなかった。逆に生成器の学習スピードが識別器に追いつけるようにする方法が書かれてあった。識別器を悪くさせる必要ないもんな・・・
今までのGANは次のように両モデルのパラメータを更新していった
は学習係数で、 は目的関数
Unrolled GANではまず次のように定義して
以下のようにパラメータを更新する
GANと変わったところは赤で書いた。数式眺めてすぐに理解できるほど賢くないけど、生成器のパラメータ更新は k回
パラメータを更新した識別器を用いて更新するということなんじゃなかろうか
もしk = 0
なら1回だけ識別器を更新して、次に生成器を1回更新する今までのGANと同じと書いてあるからk
が1以上の自然数で与えればいいんだな
こうすることで生成器は識別器がどのように反応するかを考慮してより本物を作れるように学習ができるという理由が定義式の後に書いてあった。
まとめると識別器の更新パラメータは最初の1回の更新パラメータを採用する。生成器の更新パラメータはk回
更新したときの識別器のパラメータを用いて更新したものを採用するということ。
論文ではこの生成器の更新の説明で 'see into the future' とかっこよく書かれていた。この一文を見たとき「才気煥発の極みじゃん」とかくだらないこと思ってしまった。
GANとの変更点は上記のパラメータ更新あたりしかない。それだけで改善するんかほんま・・・と思いつつ論文の実験の部分を読んで次のような実験結果が載っていた
右端のTargetが二次元のガウス分布の入力データで、上の段がUnrolledGAN、下の段が通常のGAN(k=0)の学習の途中経過
UnrolledGANのがうまく多様性も含めて学習してるのがわかる。下の段でTargetの一部分しか学習できていない。それ以上にめちゃくちゃこの画像かっこいい。
かっこいいと思ったので同じような結果が得られるのか自分でUnrolledGANを実装して観察することにする
コードはここ
Unrolledな実装部分は流れとしてはこんな感じで作ることにする
めんどくさいのがUnrolledStepに入る前の識別器の重みの保存。生成器のパラメータ更新が終わった後に識別器のパラメータを のものに復元しないといけない。
グラフをUnrolledする前にフリーズさせて終わった後にフリーズさせたグラフから のパラメータ取れるかなとか思ったけど、Variableノードのassign使えば雑だけどできそうだったのでこっちでやった
TensorFlow: Mutating variables and control flow – metaflow-ai
困ったのがメモリーリークだった
最初次のように識別器の重みをforループ内でコピーした
copy_dis_w1 = sess.run(self.discrimitor.dis_w1)
そして復元については次のようにしてた
sess.run(tf.assign(self.discrimitor.copy_dis_w1,copy_dis_w1))
何がまずいってforループ内でこんなことすると学習するたびに1Epochの終わる時間が4秒、5秒、7秒、...と増えていった
さすがにおかしいと思って調べたら復元のところでtf.assign()
の引数でcopy_dis_w1
がTensor
じゃないため、呼び出すたびにcopy_dis_w1
を格納するtf.constant()
もどきの変数を作っていたらしい。いかんでしょ
それに加えてtf.assign
のオペレーションのノード自体も呼び出すたびに作られていた。アホやんけ・・・
めんどくさがって学習のループ内でオペレーションを呼び出すんじゃなかった。学習に入る前に事前にオペレーションを定義しておいた。
いちいちtf.constant
で退避させた重みを入れるのも嫌なのでtf.placeholder
を作っておいてそれに格納してメモリーリークの問題を解決した。
以下結果
入力データを分散が0.01くらいの正規分布から作って8方向にシフトさせる
Unrolledする回数として論文のコードを参考に k=5
と設定した。また入力のノイズ変数の次元は100次元じゃなくて50次元に削減した。
自分で作ったUnrolledGANの生成結果としてはこんな感じ(Epoch : 1000)
途中経過
同じモデル構造で、k=0のGANだと次のような学習結果が得られた
論文と同じような結果が大体得られた。重み減衰入れなくてもめっちゃ安定している。
おまけでノイズ変数を20次元にしてk=3
で学習させてみたら芸術的なものができた
TensorflowでDCGANを実装した
前回でMLPでのGANの実装が大体できたので、次はDCGANを実装に挑戦する。
DCGANのDCは Deep Convolution のDCだから畳み込み層を追加してパワーアップした感じのGANなんだろかというのが論文を読む前のイメージだったりする。
コードはここ
いつも通り先に論文を読んだ
前回読んだ論文で提案されたGANでは学習が不安定だったり、生成物にノイズがあったり、キメラみたいな意味的に、視覚的に理解が難しいものが生成されることがあると書いてあった。その後LAPGANというGANを拡張したものも出たがそれでもノイズなどは残ったらしい
DCGANではそのような学習の不安定さを低減するようにしたり、より精密なものを生成できるように改善されたGANのアーキテクチャと書いてある。すごいやん・・・。変更点としては生成モデルと識別モデルのネットワーク構造にCNNを用いるのと、3つのアプローチを採用するとある
CNNといっても、Max Pooling とかを無くし、畳み込み層オンリーのネットワーク all convolution net というものを採用する。モデル自体が独自に空間ダウンサンプリング、アップサンプリングできるようにするためとか何とか。
分類問題においてのCNNでは畳み込み層のあと、それを平坦化(flatten)して全結合層に渡してクラス数に対応する出力を得るといったものが多い。Alexnetは何層もの畳み込みと最大プーリングのあと、全結合層が3層くらい続いている。DCGANでのCNNはこういった畳み込みの後の全結合層を生成器と識別器の両ネットワークにおいて排除する
生成器では最後の畳み込み層で入力と同じ画像サイズ、チャンネルのものを返して、識別器では最後の畳み込み層の値を平均プーリングを適用して(バッチ数、クラス数)といった形の出力を返すようにする感じで合ってるはず学習の不安定さの改善策として、両モデルの中間層にバッチ正規化(Batch Normalization)を適用する。それと生成器では出力層以外の層での活性化関数をRelu関数を、出力層はtanh関数([-1,1]の値を返す)を用いる。識別器には出力層にはシグモイド関数を、出力層以外にはLeakyRelu関数を用いる。まだLeakyReluについては知見はないけどこの関数のハイパーパラメータとして
alpha=0.2
がいいらしい
変更点の次に実際のネットワーク構造は次のような図が論文に載ってあった
相変わらず生成器の入力は100次元で一様分布から取ってくるっぽい。畳み込みの後の全結合層がダメだから、その前の全結合層はいいのかな。100次元の入力を全結合層に渡して 4*4*1024
の次元にする感じか。
よくチュートリアルとかで見る畳み込みは上の図で言えば右にいくにつれて四角が小さくなっていくけど、これは逆で四角が大きくなっていく。アップサンプリングってそういうことらしい。誤ってデコンボリューションと呼ばれると論文に書いてあった。
試したいデータセットがMNISTの手書き数字 28*28
の1チャンネルの画像なので上の図のまんま適用ができない。困った。
上の図と似た次のようなネットワークを自分で考えて最初試すことにする。
すごく・・・アナログです・・・
前回でのGANで5の手書き数字のみを訓練データとして渡して学習したところ、精一杯学習させてできたものは次のものが限界だった
エポック数としては1エポック6000枚程度で3000エポックほど回した。2000エポックほどでは左のようにすごくぼやけた感じのものしかできていなかった。後心なしか生成できるものが同じ形状の5ばっかだった。
DCGANだし畳み込みを導入して前よりパワフルなはずだし、手書き数字5だけじゃなくて形状が似てる手書き数字3も訓練データとして渡してみよ〜^^と考えて入力のノイズを一様分布の [-1,1] の 100次元から取ってきて、約11000枚ほどのデータで100エポックほど回したところ
こんなものしかできなかった。なんだこれは・・・
学習係数を変えてみたり、ネットワーク自体のパラメータを変更したりしてみたけど、大体上と同じ結果しか生成されなかった
背景が黒だから学習自体は似せるように学習しているとは思うんだけど
原因として考えられそうな仮説をいくつか考えて、試行錯誤しつつ検証していって何とか期待できる生成物が得られた。
次のような変更をした
ネットワークは
4*4*256
->7*7*128
->14*14*64
->28*28*1
とユニット数を少なくした入力の次元数を手書き数字の5と3といった一部のみを渡すときには 100次元ではなく50次元と次元数を削減すること
識別器のネットワークにはバッチ正規化層を適用しないこと、また最後の出力層に全結合層を用いること
重み減衰を両モデルのパラメータに適用すること
2つめに関しては、MNISTの手書き数字0~9全体のおいて入力を100次元で [-1,1]の一様分布から取ってくるんだから、一部だったら次元数をその分少なくしたり、範囲を [-0.2,0.2]とか小さくした方が表現の幅として適切なのかなと考えた。結果的には範囲の制限より次元数の削減の方がかなり効いていた。
他もすごい効いた。ただ3つ目に関しては最初、識別器の出力を
h4 = tf.reduce_mean( tf.nn.avg_pool( h3, ksize=[1, 4, 4, 1], strides=[1, 1, 1, 1], padding='VALID'), axis=[3])
といった形で実装していたのだが、ミスってるのかな・・・と思い一旦全結合層で試してしまった。割とよかったのでそのまんまにした。
入力が次元数50で[-0.2,0.2]の範囲の一様分布から値をとってくるもので、重み減衰ありで手書き数字3と5を渡したときの結果
希望が見えてきた
入力が次元数50で[-1,1]の範囲の一様分布から値をとってくるもので、重み減衰ありで手書き数字3と5を渡したときの結果
こっちのが早く学習しているように見える。前回のGANと比べて生成物の表現の幅が広くて嬉しい
入力が次元数50で[-1,1]の範囲の一様分布から値で重み減衰なしだと
50エポックまででこんな感じだった。有り無しで結構変わっている。
最後にMNISTの手書き数字の全訓練データ(約5万枚)を渡して学習させてみる
上と同じネットワークで入力が次元数50で[-1,1]の範囲の一様分布、重み減衰ありの結果
上と同じネットワークで入力が次元数100で[-1,1]の範囲の一様分布、重み減衰ありの結果
途中で学習が打ち切られてしまったのでエポック100まで回し損ねた
次元数100の方が次元数50の方より鮮明な感じがある。数字0〜9全体においては次元数は少し増やした方がいいのか
論文には一様分布から取ると書いてあったが、特に書いてなかったけど実際VAEみたいに正規分布から取ってくると精度が悪かったりするのか気になった
解決策を見つけた後にtensorflowのライブラリにtf.image.resize_images
というメソッドがあることを知った。
これでMNISTの画像を 28*28
から64*64
にして論文通りネットワークを実装すればよかった・・・
GANの論文を読んだ自分なりの理解とTensorflowでのGANの実装メモ
タイトルのまんま
VAEの理解のために変分ベイズの方を優先したいが卒業がかかっているので先にGANの論文を読んだ
GANの論文って多いっぽいが以下のリンクのものを読み読みした
[1406.2661] Generative Adversarial Networks
これは自分の頭がお猿さんなせいもあると思うがハチャメチャ読みやすかった
Algorithm 1というパートのところは感動で涙が出た。な、なんてわかりやすい解説なんだ・・・・・
GAN(Generative Adversarial Nets)よろしく敵対学習は今自分が知りたいVAEと同じく生成モデリングのひとつ。VAEの論文を読んだときにもあったが既存の生成モデリングの手法は、MCMCといった計算時間がかなり掛かるものが依存関係として必要だったり、そもそも観測データの周辺分布の計算の積分が計算困難なことがあったりして困っていたっぽい(近似も困難だとか)
このGANはそういった計算の困難なところとかを回避した生成モデリングの手法。この手法ではモデルの学習中にMCMCが必要ないと書いてある。マジで?
そもなんでGenerative Adversarial Netsといった強そうな名前が付いたのか。論文での例を使うことにする。
本物に近い偽札を作りたい人がいたとする。偽札を作るモデルを生成モデル G (Generate)とする。
その一方で、偽札の検出をしたい人がいる。本物か偽札かどうかを見分けるモデルを識別モデル D (Discriminative)とする
GANではこの2つのモデルを同時に学習させて、生成モデルの作った偽札が識別モデルによる本物との識別が難しいくらいのものを作れるようにしていく。
偽札の例だと2つのモデルは作るものと見分けるもので反対のもの同士だからここら辺から敵対という名前が付いたといったことが書かれていた、、はず、、
どう学習するかというと生成モデルが本物と同じくらいの偽札を作るように、識別モデルが受け取った入力が本物か偽物か完璧に識別できるようにする、ある目的関数を設けてそれを最適化していく。具体的には確率勾配法を用いて最適化していく。
生成モデルと識別モデルの両方を多層パーセプトロンで構築すると、逆伝搬とドロップアウト、順伝搬から生成モデルによって得たサンプルの3つの要素を使うことでよりシンプルにそして同時に両モデルの学習が可能となると書いてある。天才か・・・
多層パーセプトロンを用いるのはわかったけどどういった枠組みなんじゃい。
生成モデル G は事前入力ノイズ変数 とパラメータ をもつ。そして はデータ空間へのマッピングを表すと書いてあったが要は入力変数z
と生成モデル自身が持つパラメータ を使って目的のデータと似たデータを作るってことかな。生成モデル G が多層パーセプトロンによって表され、微分可能な関数となっている。このGが観測データ (上の例で言えば本物のお札) に対するジェネレータの分布を推定するために必要なのだ。
2つめの多層パーセプトロンとして を定義する。これは入力ベクトル と識別モデル自身が持つパラメータ を用いて識別結果(偽物か本物か)を単一のスカラーを出力として返す。
関数 は入力がジェネレータの分布から来ているのか、学習に用いているデータの分布から来ているのかを確率として表して、出力として返す。二値分類みたいなものの解釈でいいだろうか
識別モデル D は訓練データ(本物のお札データ)と生成モデル G からのサンプルの両データに対して正しいラベル(1は本物、0は偽物といったラベル)を割り当てる確率を最大にするように学習する。
そして生成モデル G は次の式が最小になるように学習する
偽札のラベルを 0 とすれば、上の式は log(1-0) で 0 が最小の値になるから、が作った偽物をがしっかり偽物と識別するように学習させろよってことだな
GとDを同時に学習させるのでこれらをまとめた値関数を考えていく
数式書くのクッソ疲れた。右辺の第1項はだから本物のお札を入力として渡している。期待する値はが最大になればいいのだから log(1) = 0 でその平均、期待値は0が望ましくて、第2項は上で述べたように が望ましい値であり結果としてその周りの期待値も 0 に近い方が良いで合ってるだろうか
お猿に優しい学習アルゴリズムの教育的な説明が書いてあった。次のように自分なりに理解した。
訓練データのサンプルから作られるデータ分布 、生成モデルGから作られるジェネレータ分布 、入力が本物か生成モデルから作られたものかを確率的に表す識別モデルDの3つが画像のようになっているとする。
生成モデルGが本物に近いものを生成できるようにするということは上の図のデータ分布の形状とジェネレータ分布の形状が一致、もしくは限りなく近くなればいいのがわかる。そうするには上記のを最適化しろと論文が述べている。
過適合の問題を避けるために、先に識別モデルDの更新を kステップ 行ってから、生成モデルGを更新後の識別モデルDを元に 1ステップ 更新すると書いてある。
Dはデータからサンプルを識別するように学習していく。具体的には次のように学習する。
生成モデルGの更新が終わった後にまた識別モデルDの更新を行うが、そのときのDの勾配は入力が本物のデータとして分類されるような可能性が高い方に生成モデルを導くと書いてある。
識別モデルDを学習する(kステップ)
G の持つ事前入力ノイズ変数からm個のノイズをサンプリングする。これら{ }を元にm個の偽物を生成する。そして訓練データセット(データ分布)からm個の本物をサンプリングする。2つから次のようにDを確率勾配法を用いて更新する。
とが似ているところは識別が難しい=値が大きい(はっきりしている)ということ。真ん中あたりは形状が違うから値があやふやになっている感じ・・・なのか・・・?エントロピーみたいなもん?
このD(の勾配)を元にがデータ分布と類似するように学習させる。
上と同様にG の持つ事前入力ノイズ変数からm個のノイズをサンプリングする。これら{ }を元にm個の偽物を生成する。そしてその偽物たちから次のようにモデルGを確率勾配法より更新する。
これで1エポックが終了か?これを何エポックか繰り返していくと
=となるくらいに類似することが可能なはず。このときは2つが似すぎていて入力がどちらのものか判断が難しい=の値をとるということなんだな
2つの確率密度分布とが類似していることを確かめる指標としてカルバックライブラダイバージェンスは使えないんだろうか?と思ったが、その後のアルゴリズムがちゃんと機能するかの裏付け?っぽい Theorem のパートで出てきていた。うーん証明難しい
損失関数の定義からアカン・・・めっちゃ自分でも作れそうなほどシンプルやんけ・・・と思ったのでTensorflowで実装してみた
ソースはここ
GeneratorとDiscrimitorの作成において、論文通りMLPで構築した。
ノイズ事前分布については正規分布のがいいのかと思ったが一様分布を用いている人が多かったのでそっちにした。
最適化の方法は Adam でいいかと思ったけど論文通りに Momentum で行った方が割とうまく行ったので論文のモデル設定に従った。
最初に損失関数を次のように定義していた
self.dis_loss_X = tf.log(self.discrimitor.run(self.input_X)) self.dis_loss_G = tf.log(self.label_t1 - self.discrimitor.run(self.generator.run(self.gen_z,self.is_train))) self.dis_loss = -tf.reduce_mean(self.dis_loss_X + self.dis_loss_G) + dis_norm_term*dis_lambda_ self.gen_loss = tf.reduce_mean(tf.log(self.discrimitor.run(self.generator.run(self.gen_z,self.is_train))))
識別モデルの方は上で定義していた通りに実装したが、生成モデルは 1 - D(G(z)) じゃないやんと思うが、論文において
こっちのが収束がいいとか云々が少し書いてあった。
生成モデルで 1 - D(G(z)) を最小にするというのは生成したものが偽物とわかるようにパラメータを更新してねということになるから D(G(z)) のがいいよな・・・でもなぜかこれを最大化しろと書いてあって困ったがいう通りに従って-tf.reduce_mean()
ではなくマイナスを取り去ったtf.reduce_mean()
にした
そんなこんなでこれで学習を行ったところ損失がnanやinfになったりしてダメだった。そのせいか生成した画像は真っ暗なものしかできなかった。
損失関数は結局次の形で落ち着いた(後ろのnorm_term
は重み減衰)
self.dis_entropy_X = tf.nn.sigmoid_cross_entropy_with_logits(labels=self.label_t1, logits=input_X) self.dis_entropy_G = tf.nn.sigmoid_cross_entropy_with_logits(labels=self.label_t0, logits=generated_X) self.dis_loss = tf.reduce_mean(self.dis_entropy_X + self.dis_entropy_G) + dis_norm_term*dis_lambda_ self.gen_entropy = tf.nn.sigmoid_cross_entropy_with_logits(labels=self.label_t,logits=generated_X) self.gen_loss = tf.reduce_mean(self.gen_entropy) + gen_norm_term*gen_lambda_
クロスエントロピーを使った。生成モデルに関しては、正解ラベルを本物 = 1 のラベルを与える。
こうすることで識別モデルでは生成モデルのものを偽物と判断するように学習していって、生成モデルは識別モデルを騙せるくらいの本物に近いものを作れるように学習していけるのだ・・・
次に詰まったのは最適化を行う際のパラメータの指定だった
最初はminimizeの部分でvar_list
の指定をしていなかった。しかしこれを指定しないと、生成モデルの最適化を行う際に生成モデルのパラメータの更新と一緒に識別モデルのパラメータを偽物を本物と識別するような誤った方向に更新してしまう。
参考にしたもの
TensorFlowで特定の変数を指定して学習させる方法
TensorFlowで必要な変数を選択してsave/restoreする
ようは識別モデルの更新には(生成モデルの推論結果を更新に用いるが)識別モデルのパラメータのみを、生成モデルの更新には(識別モデルの推論結果を更新に用いるが)生成モデルのパラメータのみを更新するようにしないと学習がうまくいかない(´・ω・)
両モデルのMLP構築におけるパラメータのユニット数や初期値にも苦労して何とか次のような結果が得られた
これはMNISTのデータセットの中の手書き数字が 4 のみのデータで学習したもの
はっきりした形のものは得られなかったが、それっぽい形状が得られてるんじゃなかろうか
これはbatch_norm
をモデルの層に追加していないものでの学習結果だが、追加したものは収束がのんびりで、かなりのエポック数を回せばいい感じの形状が得られそうだと試して思った。
当たり前だがハイパーパラメータやユニットの初期値の設定がかなり大事何だろうか
GANのより良い学習方法については論文があるらしいので読んで改善したい
地味に損失の定義式で関数名と引数名が長すぎて途中で定義式をぶった切る形にしないといけなかったのがムズムズした
追記
世の中には Google Colaboratory という便利なものがあるそうでGPUを使って学習できるように改造した。
チェックポイントも作るようにした賢い
ソースはここ
10エポックほど回してみてCPUでの学習とどれくらい変わるのか計測して見た
まあ・・・こんなもんすよ・・・
ベイズ推論の事後分布(離散)の更新について
前回の続き
VAEの理解に必要なベイズ学習について - 時給600円
パラメータの事前分布を自分で仮定して、観測データを元により適したパラメータを推定するのがベイズ学習といった話だった。
事前分布として固定値ではなく正規分布といった確率分布を与えてその時にちゃんとパラメータが学習されるのか確認する。
例としてある1枚のコインが存在して、そのコインで100回コイントスをする。
表が10回ほど、裏が90回ほど出たとする。このとき結果から1枚のコインの表が出る確率が求められるか。
100回中10回程度しか表が出てないんだから確率としては でいいじゃん^^と自分は思うがベイズ学習で似たような結果が得られるか確認する。
まずは上記の設定に似たコイントスの結果を生成はこんな感じ
true_mu = 0.16 X = np.random.binomial(n=1,p=true_mu,size=100) # 結果の例 # (array([0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, # 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, # 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, # 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, # 0, 0, 0, 0, 0, 0, 0, 0]) )
コイントスは二値の値 { 0 , 1 } を取るので、{0,1}を生成してくれるベルヌーイ分布を使う。(1がコインの表とする)
ここではベルヌーイ分布に必要なパラメータの真の値を 0.16 とした。この値に近いものを観測データから求めるのが目標。
前回の通りにやるとパラメータの推定は i.i.d な観測データ {}としたとき、ベイズの定理から
とできる。
タイトル通り事前分布として固定値ではなく確率分布を与える。前提としてベルヌーイ分布のパラメータの取りうる範囲は (0,1) の間でなくてはいけない。
つまり (0, 1) の間で実数を生成してくれるような確率分布を与えればいいんだな。
ベータ分布なるものは となる実数を生成してくれる連続確率分布らしい。これを使ってみよう。定義は以下のようになっている
a,bは非負の実数でなくてはならず、自分で設定するハイパーパラメータ。 殺傷力ありそうな記号がついた関数はガンマ関数。階乗を表現してるそうだ。
a,bを適当に設定したベータ分布をプロットしてみた結果はこんなんになった
ふわ^〜
aとbの値が小さいと下に凹んだ形状で、大きいと正規分布みたいな山のような形になるのかな。いや数式見れば形状に説明つくんだろうけど・・・
観測データの見えない生成規則がベルヌーイ分布
に従うとしているから、この式と上のベータ分布の式を事後分布の右辺に代入してみる
ヴワッ・・・果てしなく汚い式になってしまった・・・
ガンマ関数と分母はパラメータによらないので、定数Aとおいて見ればこの式は
こんな感じで書けるはずなのだ。ようはとでまとめられる。
この式の形はベータ分布と似ている。共役性とやらで実はをベルヌーイ分布に設定して、事前分布をベータ分布にしたとき事後分布はベータ分布と同じ形の分布になるのだ・・・
何が嬉しいって分母、もとい周辺尤度を計算しなくて済む。
多分この周辺尤度ってパラメータが取りうる範囲で積分、つまりは周辺化して得られるはずだから
こうなるはずなんだよな・・・違うかな・・・
積分するものによっては難しいものあるんじゃなかろうか(´・ω・)
気を取り直して観測データの集合Xからパラメータを推定するを計算するにはをベルヌーイ分布にして、事前分布をベータ分布に設定すれば、ベータ分布のハイパーパラメータに観測データの情報を加えたものから得られることがわかった。
ベータ分布のハイパーパラメータを a = 0.1 , b = 0.1 に設定して、が本当に推定されていくのか見ていく
for i in range(0,len(X),10): est_mu = 0 est_mu = scipy.stats.beta.rvs(np.sum(X[0:i+10])+a[0], len(X[0:i+10]) - np.sum(X[0:i+10]) + b[0]) print('観測データの数 : {0}件 、 パラメータμの推定値 : {1} '.format(i,est_mu))
観測するデータを10件ごと増やしていくと50件以降から真のパラメータの値 0.16 に近くなっていくのが若干わかる
学習できていると見ていいんじゃなかろうか
もういっちょ別の確率分布を使ってパラメータの推定をやってみる
ベルヌーイ分布は二値に対してのみだったが、サイコロの目のようなKパターンの確率も推定してみたい
このようなK次元の確率分布としてカテゴリ分布なるものがある
はといった、K次元のうちk番目の値が1で他の値が0といったonehot表記であること、はで、かつとなることが条件
ベルヌーイ分布でのパラメータのように、このカテゴリ分布では がパラメータになる
次元数をK=6 とし、とすれば等確率のサイコロが表せるんだな
同様に
としたとき事前分布はどうすればいいだろう
ベータ分布は、つまり変数1個しか生成してくれない。同じ (0,1) 区間で実数を多次元で、かつそれらの和が 1 となってくれるようなものを生成してくれる分布はないだろうかと悩むところでディクリレ分布というものがその役割を果たしてくれる。すげえ!!!
の要素は正の実数が条件のハイパーパラメータ
何はともあれ事後分布に代入だ。観測データを { }とすると
ヴォエッ・・。こっちも汚くなったが分母とガンマ関数の部分は定数とみなせるのでAとして、総乗の部分はどちらもkのものだからまとめることができる。整理すると
こんな感じで事後分布をディクリレ分布と似た形の式にみることができるのだ。共役性ありがてえ・・・
等確率でないサイコロを作って、そのサイコロの確率、もといパラメータを推定してみる
まずサンプルとなるインチキなサイコロを投げた結果を作る
weights = [0.1,0.1,0.35,0.1,0.25,0.1] dice = [1,2,3,4,5,6] obs_dice = np.random.choice(dice,p=weights,size=300) # カテゴリ分布に投げるためにonehot表記する obs_dice_onehot = [] t = np.zeros(6) for d in obs_dice: t = np.zeros(6) t[d-1] = 1 obs_dice_onehot.append(t)
np.random.choice()
で任意の重みで設定した結果をsizeの数だけくれるようだ。
ここでweights = [0.1,0.1,0.35,0.1,0.25,0.1]
が左からサイコロで1がでる確率、2が出る確率、として、これらの重みを結果から推定する
ディクリレ分布に必要なハイパーパラメータの値を全て 0.2 とする
データを10件ずつ増やしていってパラメータ の推定値がどう変わるか見ていく
for i in range(0,300,10): s = [0] * 6 alpha = [0.2,0.2,0.2,0.2,0.2,0.2] for k in range(0,6): s[k] = np.sum(list(map(lambda x: x[k], obs_dice_onehot[0:i+10]))) alpha = np.add(alpha,s) p = scipy.stats.dirichlet.rvs(alpha) print(i,p)
10件あたりでもそこそこいい値が出ている気がする。データが増えていくほど値が安定していくようなそうでないような
ベルヌーイ分布なら事前分布をベータ分布に、カテゴリ分布なら事前分布をディクリレ分布にといった共役の事前確率分布を取れば計算がかなり簡単になることがわかった。それでも現実の問題によっては共役でない事前分布を取ることとかあるのだろうか?必ず共役な事前分布をとれって訳ではないしな・・・
これはベイズ学習であって自分が知りたい変分ベイズではない。変分ベイズはこのような手順を踏んではいるけどちょっと違う推定の仕方とかそういうのなんだろうか?(´・ω・)というか試したのは離散であって連続値に対する推定ですらなかった
VAEの理解にはまだ遠い
VAEの理解に必要なベイズ学習について
自己符号化器、初めて知った当初は中間層にて入力の次元数より少ない次元数で表現し、出力層(入力と同じ次元数)で復元を行うすごいやつといったイメージがあった。入力にあえてノイズを加えて出力としてノイズを除去したものを得るデノイジング自己符号化器といったものもあった。
これらを知った時、復元できんの!!!!!!!すげえじゃん!!!!!!と感動した思い出がある。そして近頃VAEなるものを知った。(出たのは2015年頃で今更感はあるけども)
人からVAEの話を聞いた限りでは、VAEは入力されるモノがパラメータ(μ,σ)に従う正規分布によって生成されていると仮定して、そのμとσを推定できれば、入力と似たものを出力として得られる、という認識をもった。
やっぱり正規分布は便利なんだなと思いつつ、自己符号化器は復元だけではなく、入力と似たものの生成もできるのかとワクワクした。
個人的に興味を持ったので、VAEの論文を読んでみた。([1312.6114] Auto-Encoding Variational Bayes)
が・・・・駄目っ・・・・・!
自分が読んだ限り
有向確率モデルとやらで事後分布を持つ潜在変数またはパラメータの近似的な推論と学習を効率的に行いたいということ
そのアプローチとして、変分ベイズ(variational Bayesian)を使う。これは事後分布の近似を最適化を含んでいて、その最適化に確率勾配法を用いることでより簡単に最適化が可能ということ。
それにより、MCMCといった計算に時間のかかる反復推論スキームを必要としないでシンプルなサンプリングからモデルのパラメータを効率よく学習、そして推論もできるようにしたということ
あとはメソッドあたりのセクションで最適化と思われる手法の数式やその説明とかがビャーっと書いてあった。わかんなかった
この論文を読んだときに、初めて変分ベイズなるものを知った。メソッドの説明に
連続または離散値の変数(入力) x が連続確率変数 z を含む何らかのプロセスで生成されているとする。すなわち入力 x はある条件付き分布から生成されるということ。
zとパラメータは観測できない。そのためパラメータに対する近似最大尤度または最大事後の推定を行う
生成に必要なパラメータが観測できないから、近似及び推定でパラメータを決定するということだな。そしてパラメータをいい感じに推定できれば、それを用いて実際のデータxに似た人工データを生成できるというのが人から聞いた時の話に繋がるのかな。変数 z を正規分布に見たてるとかか?
大体読んで、変分ベイズとか全くわからん・・・何で事後分布の推定とかが出てくるんだ?と頭を抱えたがこんなことでめげる自分ではない。
変分ベイズについて理解を深めればこの論文をより充実して読めるはずと思い、調べることにした。どうやらベイズ学習とはなんぞやというとこから理解をする必要があるっぽい。以下勉強中なので振り返り用のメモ
観測データを生成するための確率的な法則、確率モデルと呼びこれを考える。確率モデルを作るのに必要なものは観測データが何らかのプロセスに従って生成されるとしてその条件付き確率
と、そのプロセスに相当するパラメータの事前分布
この2つの組{}が必要。言い換えれば観測データはあるプロセスに依存しているとも言える。
等確率のサイコロで言えば、観測データがサイコロを降って出た目で、プロセスの部分は各サイコロの目がでる確率と考えていいかな。
問題はパラメータが観測できない状況のとき。観測できるのは上で言えばサイコロを降って出た目だけ。
ある6面のサイコロをN回降って、出た結果(観測データ)からそのサイコロの各面がでる確率を求めることができるだろうか。
これは確率で言えば、観測データが与えられたもとでのパラメータの確率
に相当すると解釈できる。事後確率ともいう。これはベイズの定理を使えば
右辺を計算すれば事後確率を計算できそうだ
サイコロの各面が出る確率を求めたいのに右辺にはパラメータに関するものが出てきている。どうするんだというと
自分で指定する
ええ・・・。例えば「多分6面サイコロだし、等確率で考えるのが無難なはず・・・」と仮説を立ててパラメータと固定値を与える。
ベイズ学習ではこのようにパラメータに関する仮説、もとい事前分布を自分で与えて観測データを元にその仮説を更新、尤もらしいものにしていく。観測できないパラメータを観測できるデータを元に明らかにするという認識で合っているのだろうか。
事前分布については固定値を与えてあげる他に、正規分布やベータ分布などの確率分布を与えることもできる。VAEでは生成データに必要なパラメータを正規分布で与えるといった文章があった。正規分布に必要な分散パラメータはウィシャート分布から与えるといったこともできるし複雑そう
VAEで生成は画像だけと拘ってしまっていたが、二項分布またはカテゴリ分布を用いればインチキな裏表のコインや6面サイコロなど色々作れそうだ。
長くなったので多分続く