走れSMTPと2018年振り返りもどき

OSI参照モデル走れメロスで初めて小説書きました。
書いてて思ったけど、キソーな内容なのに人に説明できるほど理解が自分の中で根付いてなくて腑甲斐ない

メロヌは困惑した。必ず、かの無謬の叡智アマ=リの論文をシオリンティウスに届けねばならぬと決意した。メロヌには通信がわからぬ。 メロヌは、村の学生である。ほらを吹き、本と遊んで暮して来た。きょう未明メロヌは偶然にもアマ=リの論文を村を出た先の市にて見かけた。アマ=リとはメロヌの唯一無二の友人、シオリンティウスが愛してやまない偉人の一人である。メロヌはこの論文を我が友に渡したらきっと喜ぶだろうと思い買い取ることにした。友の渡した時の笑顔を想像しながら穏やかな気持ちで村に戻ったとき、メロヌはある事実を忘れていることを思い出した。シオリンティウスはついこの間サポッロという遠い国に引っ越してしまったのだ。いくらメロヌといえども、地の果てではなく海の果てまでは自らの足で赴くことはできない。メロヌは蒼白になった。

このことをシオリンティウスの弟子であるイシクロラトスに話すと「ならば光にて届ければよかろう。」と、その術を教えてくれた。すぐさまメロヌはエヌティという王国に行き、ルータを借り受けた。ネットという世界への門であり、自身の郵便受けともなる役割の道具が必要だったのである。その後メロヌは届けたかった論文と付属する手紙のメッセージを量子化した。
メロヌは論文を届けるために、アプリケーション層に手続きをしに向かった。イシクロラトスは「25番の扉を叩くべし」と言っていたので扁額に25と記されている門を探し、扉を叩いた。老爺が扉の中から現れメロヌを迎え入れた。

「こんにちは。今日は一体なんのご用でしょう」 「友に贈りたいものがあるのだ。」 「なるほど。あなたとそのご友人の宛先はご存知ですか」

メロヌはしばし返答に詰まったが、イシクロラトスがくれた数字と記号のの文字列が書かれた紙切れのことを思い出した。それを老爺に見せると「はい。わかりました。ではデータをお預かりします。」と頷いたので、メロヌは友への贈り物を渡した。

これで一件落着か、メロヌは心の中で息をついた。そして老爺に背を向け扉に足を進めようとすると後ろから静止の声がかかった。 「一体何用か」 「あなたはここへ来る過程すべてが初めてのように見えました。よければ、この贈り物が届けられていく過程を、一緒に見て行きませんか。」とても優しい声音だった。

トランスポート層?」メロヌは反復した。老爺は相槌を打ち、答える。
「大事なご友人への贈り物ですから、届ける途中で紛失や損壊したら困るでしょう。この階層では届けるという信頼性を高めるための手続きを行うのです。」
メロヌは自身の贈り物が新しい箱で包まれていく様が視界に焼きついた。その箱にはTCPと大きく書かれていた。
「あれは何をしているのだ。なぜ贈り物をまた新しく包むのだ」 「あの箱で包むことで、確実に届ける丁寧な手続きが踏めるのです。」 「とてもそんな風には見えないが。」 「わたしたちは電子の海を漂う魚ではありませんから。」老爺は微笑み、さてネットワーク層へとまた階段を降りましょうと促すのだった。

「ここでもまた新しい箱で贈り物を包むのだな。」IPと書かれた箱で包まれていく過程を見ながらメロヌは訪ねた。 「あの箱にはあなたとご友人の宛先の情報が入っているのですよ。宛がなければ贈り物といえども迷子になってしまいます。」 「なるほど。でもなぜ私の情報もいるのだ。」 「あなたのためでも、ご友人のためでもあるのです。あなたの情報も一緒に送れば、もし送り名が一緒の手紙があっても情報は一緒じゃないですから、区別することができます。ご友人に書いた覚えのない手紙があなたから送られてきた、なんてことが起きたら嫌でしょう」 「確かに、それは大いに困る。」メロヌは頷いた。

「きっとここでも新しい箱で包むのだろう?」データリンク層へと降り、すぐさまメロヌは問いかけた。 「ここではEtherと書かれている箱で包みます。これはご友人様へと贈り物を運ぶため必要なのです。あの箱に含まれる情報によってご友人様への運送経路が確立できるのです。」それには、メロヌ様自身の情報も必要ですが。と老爺は付け足した。 「ふむ。電子の海にも道案内がいるのだな。」 贈り物はEtherと書かれた箱でまたしても包まれていった。

「さて、いよいよご友人の元へと贈り物が届けられて行きますよ。ここが最後の階層の物理層です。」 「ここへ来る際、知人は光にて届ければよかろう。と言っていた。」 「はい、おっしゃる通りです。ここに来るまでの過程でいくつかの箱に包まれてきた贈り物を光、信号に直すのです。我々の世界は電離層と呼ばれている層に包まれています。この恩恵で、光であれば彗星万里、海の向こうであろうと贈り物を届けることができます。」 「もちろん、光のままでは贈り物は読むことも、箱から開けることすらもできません。なので届け先の物理層にて受け取った信号を箱に直すのです。その後は、私たちが降りてきたこの階層から上に箱を渡していき、ご友人の元へと読める形で送られていくのです。」

メロヌは箱をじっと見つめていた。瞬きの間に箱は消えていた。
「これで贈り物は彼方へと向かいましたよ。ご友人から返事の手紙があると良いですね。」

後日メロヌの郵便受けに手紙が入っていた。 送信先MAILER-DAEMONと書かれていた。

メロヌの贈り物は海の中か、あるいは雪の中へと埋まってしまったのだった。

〜完〜

2-3月にインターンしてたのがつい最近のように感じてしまうほどに2018年、あっという間に終わってしまった。
思えば大学2年生頃はとにかく勉強していればいつか報われるなんての信じながら熱意もなく本を読んでいたけど、ある論文読んでから双曲幾何学に興味が沸いて、そこからは志向を持って勉強するようになったかも。
手始めに位相空間論わかりてえ!と位相の本を読んで、高校数学ってすげーことやってたんじゃんヤバ・・・とか感動できて頭パンクしながらとても楽しかった。
あと色々読んできた論文の数学的な説明とか記述が読む前は「???」で流してたところところが、読んだ後だと「ウワ・・だからあの論文こういう説明してたのか・・」となる部分も出てきてよかった。

小学校の友達と話してて、自分の卒業文集に将来の夢は漫画家になりたいって書いてたのを内容にダメージ受けながら知った。
ある職に就くといった具体的な夢よりは、今は論文とか本に書かれた文章や言葉に今まで聞いたり読んできたりした内容との繋がりや身近な距離を感じ取れるような日々が送れたらいいなあ。なんというか、いつか社会人になって忙しい日々を送るけど、川で泳いでるカルガモをみて和みながらも「うわ〜カワイ〜あのカルガモが作る波紋って数式で表せるのか・・?」といった一瞬を流れる出来事にアンテナを張れる姿勢は持っていたいというか

でも文章や言葉はそれ以上でもそれ以下でもなくて、それに距離を与えるのも感じ取るのも自分だし、距離を与えるための道具は自分の経験というか思考?だしな、そういう意味では最終的には時間がほしーってなるのかな・・まあ5000兆円じゃなくていいから毎日5000円欲しい!!!とか落ち葉搔き集めるだけで褒められる東京トガリになりて〜とか思いながら過ごしてるけど・・・

9月にもインターンしてたけど、そのインターンでは自分の実力が乏しいせいで課題に悩むのも辛い悩み方にしまって、ちょっと鬱になってしまった。どうせ悩むならカードを増やして色んな角度から光を当てて課題とぶつかり合うような前向きな悩み方ができるようにしたい・・・したくない?

来年は自分のために勉強できる時間を増やせたらいいなあ。あとは上で述べた日々がうまく言葉にできたらいいんだけど。暗号を記号として見るのではなく、言葉として理解できる豊かさ的な

DropBlockを読んで試したかったかも

タイトル通りDropBlockという論文読みますた
どういう内容かを雑にいえば、CNNのパラメータに対して cutout と呼ばれる一定のサイズの矩形でマスクする操作を行い、ドロップアウトと似た正則化の効果を得るみたいな話だったはず

[1810.12890] DropBlock: A regularization method for convolutional networks

正則化でそこそこ見かけるドロップアウトは全結合層に対しては効果があるけれど、畳み込み層に対してはあまり効果的ではないと述べられていた。というのは畳み込み層の一部のパラメータを欠落させても、その隣接しているパラメータからドロップアウトなしとほぼ同じ情報量が次に伝搬されてしまうとか
これは論文に載っている次の図から納得がいった

f:id:Owatank:20181220170416p:plain

(b)の図が畳み込みのパラメータをドロップアウトで一部欠落させたものと解釈する。もしこの一部が黒で塗りつぶされた画像を渡されて、緑の領域を復元してほしいと言われたら確かにその隣接しているピクセル情報からおおよそ見当がつくし復元もできそう
一方で(c)の方を渡されたら、(b)よりは復元が難しそうだ。できたとしても(b)より復元の精度は落ちてしまう自分なら自信がある

ドロップアウトが畳み込み層に対して効果が微妙なのは上の図のようにランダムに情報を落としてしまうから。だから畳み込み層に対して効果のあるドロップアウトの方法を考えよって流れはわからんでもないような

そして提案されたDropBlockは図(c)のように連続した一定の領域をドロップアウトさせる方法になっている
ちなみに SpatialDropout と呼ばれるドロップアウトは畳み込みがもつパラメータの一部フィルターを丸ごとドロップアウトさせる方法でこれは畳み込みに対して効果があったそう
RNNにも独自のドロップアウトあるらしい。無知な自分にはRelated Workはお宝の山やでほんま

DropBlockは block_size と γ の2つをパラメータで持っている
block_sizeはドロップアウトさせる領域のサイズのために、γはドロップアウトさせる箇所の選択に用いられる

f:id:Owatank:20181220172731p:plain

論文の図でいえば赤の箇所の選択にγが、γで選ばれた箇所を中心にblock_sizeでマスク領域を作る

まずはマスクの中心位置となる赤の箇所を決める。Dropoutはkeep_probの値をパラメータに持つベルヌーイ分布に従ってランダムに選んでいた。同様にDropBlockでもγをパラメータに持つベルヌーイ分布に従って赤の箇所を決めるけど、γは次の式に従って計算して決める

{ \displaystyle \gamma = \frac{1 - \verb|keep_prob|}{\verb|block_size|^2} \frac{\verb|feat_size|^2}{ {( \verb|feat_size - block_size| + 1 ) }^2} }

やべえアンダースコア打てないのバレる
keep_prob はDropoutで使われている各ユニットを保持するか欠落させるかの確率の値で、 feat_size は特徴マップのサイズの値をしている

なんでγはこんな計算しないといけないかというと、DropBlockはDropoutと違って欠落させるユニットを中心にマスク領域を作るため、ポンポン欠落させる箇所が増えるとマスク領域で特徴マップ全体が欠落してしまう可能性が考えられるのでγは慎重に選ばねばならないのだ・・・

適当に値をそれぞれ入れてみると、 keep_probの値が小さい、またはfeat_sizeが大きいとγの値は大きくなって(赤の箇所が多く選ばれる)、逆にblock_sizeの値が大きいとγの値は小さくなった

うまく設計されてるなと思いつつ、一つ疑問に思ったのがこの計算式によって { \displaystyle 0 \leq \gamma \leq 1 } になる保証ってあるんだろうか?ということ
いや自分が計算式見て感じ取れなかっただけなんですけど・・・ { \displaystyle 1 - \verb|keep_prob| } はいいけど、{ \displaystyle { ( \verb|feat_size - block_size| + 1 ) }^2 }は何故差分とって割ってるんだろうここが保証している部分なのか

なんかこう距離とはいえずとも指標になるような空間ができているんだろうな多分・・・めっちゃ気になるしわからんままだとムズムズするがな

話は戻ってγが計算できたら、γをパラメータに持つベルヌーイ分布に従ってマスクの行列(マスクを適用する入力と同じサイズ)を作る。上の図のようにそのマスクの行列はどっかしらの要素が 0 (赤の箇所) になっているはずなので、その要素の位置を中心に block_sizeの大きさに従ってマスク領域を作る。図(b)のように赤の箇所を中心に黒の部分を作る

ブロックマスクができたのであとは入力に適用して、最後のその入力の特徴量を正規化すればDropBlockの操作は終わり

ちなみにDropBlockはγ間接的にはkeep_probを入力として受け取るけども、keep_probの値は固定値よりかは 0.95 あたりから徐々に減らしていく方が効果があるそう。レベルが上がると難易度が上がるパズルゲームじゃん

実際に試してみたくなる。というわけでPyTorchで実装、テストを試みる

一度もPyTorchのモジュール使ってオリジナルの最適化とか活性化関数とか作ったことがないので、どないすればか悩む。
dropoutの実装コードでも見てみようかと探したら次の実装が見つかった

github.com

DropBlockというクラスを作ってforwardを定義すればなんとかできそう
次に悩んだのがマスク領域の作成。なんかこの操作って画像処理でのDilationって操作に似てるなと思いそれを参考に実装した

DropBlockの実装は次のようになった

import numpy as np
import torch
import torch.nn as nn

class DropBlock(nn.Module):
    def __init__(self, keep_prob, block_size):
        super(DropBlock, self).__init__()
        self.keep_prob = keep_prob
        self.block_size = block_size
        self.gamma = 0.

    def forward(self, x):
        if(self.training==False):
            return x
        gamma = self.calc_gamma(x)
        init_mask = torch.zeros((x.shape[0], x.shape[2], x.shape[3])).add(1. - gamma)
        init_mask = init_mask.to(x.device)
        init_mask = torch.bernoulli(init_mask)
        mask = self.create_block_mask(init_mask, self.block_size//2)
        output = x * mask[:,None,:,:]
        output = (output * output.shape[0] * output.shape[2] * output.shape[3]) / output.sum()
        return output
    def calc_gamma(self, x):
        gamma = ((1. - self.keep_prob) * x.shape[2] ** 2) / (self.block_size ** 2 * (x.shape[2] - self.block_size + 1)**2 )
        return gamma

    def create_block_mask(self, m, kernel_size):
        width = m.shape[1]
        height = m.shape[2]
        out = m.clone()
        for n in range(0, m.shape[0]):
            for i in range(0,width):
                for j in range(0,height):
                    if(m[n, i, j] < 1):
                        out[n, np.maximum(0,i-kernel_size):np.minimum(width,i+kernel_size),
                         np.maximum(0,j-kernel_size):np.minimum(height,j+kernel_size)] = 0
        return out

output = x * mask[:,None,:,:]この部分は x は nチャネル持ってるけど、そのnチャネルに対して1チャネルのマスクをそれぞれ適用させたかったのでこの方法で適当した。

python - How does numpy.newaxis work and when to use it? - Stack Overflow

実験に使うデータはMNISTより複雑のがいいかなと思いcifar10を使った。Dropout(keep_prob=0.2) と DropBlock(keep_prob=0.95, block_size=3) で精度を比較してみる
学習データをbatch_size = 100、100step = 1epochで20epochまで回す

実験のモデルの詳細はこっちに置いておく
github.com

訓練の1epochごとのlossはこんな感じだった

f:id:Owatank:20181220221528p:plain

DropBlock悪い方向に学習してはいないんじゃないかと思ったけど精度でダメだった

Dropoutが 10000 test images: 36 % だったのに対して DropBlock は 10000 test images: 10 %だった。グエー
追い打ちで致命的だったのが計算時間 Dropoutありで1epochにかかる時間はcolab上の環境だと2秒ほど。DropBlockありだと1epoch何秒かかったかというと約300秒かかった

f:id:Owatank:20181220222539j:plain

倍プッシュってレベルじゃないよ使いもんにならねえだろ・・・lossの下がり方を見るに正則化のとしての役割をトンチキに実装してしまったとは思いたくはないんだけれども
ブロックマスクを作る処理が効率悪い書き方なために遅くなってるのかなあ。各ピクセルを見ていくんじゃなくて各行sum()でチェックすべきだったか
だから時給600円なんだよお前

うーんDilationの操作にこだわりすぎてて、似た感じでブロックマスク生成できてもっと早い操作とかがあるのかもしれない

TUCTF2018に参加した

TUCTFというのにチームjikyu600で参加できました。
もともとこっち方面で友達がほとんどいないんですが、研究室の先輩とその先輩の知り合いと、毎度質問ばっかして迷惑かけてしまっている先輩の3人が出てみたいと駄々こねたら忙しい中参加してくれてめちゃくちゃ咽び泣いた。サンキュですほんま・・・

ほぼ初心者のチームなために2日で1問解ければいいなあ程度でゆるく挑戦して、111位とかなりいいんじゃないか!?という結果になった

f:id:Owatank:20181128221728p:plain

自分はLiteral Ancient Easter Egg: Copper Gate Easter Egg: Crystal Gate の4つを解いた。

Literal(misc 50pt)

問題文にあったURLをwget http://18.222.124.7したらLiteral.htmlというのが見えたのでwget http://18.222.124.7/Literal.htmlで中身みる

<html>
  <head>
  <meta http-equiv="Refresh" content="1; url=https://en.wikipedia.org/wiki/Fork_bomb">
  </head>
  <body>
  <!--
        *   *                     f   f   f
      *  ** *                   ff  ff  ff
      * * ** ||                ff  ff  ff
    **   ||||T||              fUffffffff
      *   |C|||T| oooooooooooo fFff
           |||||||{ooooooooooRfff3o
          ooo4ooooooooooooooLff.ooooo0
        oooNooooooooooooooo3ooooooo5ooo.
        oooo4oooooRoooooooooo3oooooooooo.
        oooDooooo4oooooNooooooooooooooooo
        ooooooooooooooGoooooooooooooooooo
        ooooooooooooooooooooo3oooooooooRo
         oooooooo0oooooooooooooooooooooo
          oooooooffUoooooooooooooooooo
            ooofff5ooooooooooooooooo
             fff }ooooooooooooooo
            fff
  -->
  Redirecting to Wikipedia...!
  </body>
</html>

trコマンドで文字除去したりしてflagが得られた

Ancient(misc 464pt)

可愛いイモリと暗号もどきが写った画像が渡される
f:id:Owatank:20181128223106p:plain
チームの人曰くヒョウモントカゲモドキらしい

ステガノグラフィーってやつなのかなと思ったけどそうではなく画像からflagを読み取る系とのこと。トカゲモドキがヒントとか
特にトカゲモドキでピンと来なくて、 The lizard is meant as a visual clue to describing the language この言葉をヒントにググる
Lizard Languageでググったら教育番組もどきが出てきたけど全く違かった。足跡に意味は?と思いlanguage footprintググると画像検索で足跡とアルファベットの対応表が出てきた。
うまい具合に問題の画像にある足跡とも対応してたので、地道にアルファベットに直していくとTHE FLAG IS IF_ONLY_JURASSIC_PARK_WAS_LIKE_THISという文字列が得られた。

解いた後に問題文を読むと

Gurney showed me this tablet he found on some far off secret island, but I have no idea what it says... (Standard flag format, letters in all caps)

James Gurneyがダイノトピアという絵本を書いていたらしく、その中で足跡をアルファベットに対応させる表とかが出ていたらしい。いやかいけつゾロリしか知らんし・・・デルトラクエストすらエアプやし・・

Easter Egg: Copper Gate(web 258pt)

指定されたURLに飛ぶと工事中みたいな感じのページがでる。疑心暗鬼すぎてバナー画像が手がかりと思ってそっちを怪しんでしまっていた。
なんもねーと思ってたけどバナー画像が images/bannar.png だったの思い出して /images に移動する。するとsitenotes.txtというのがあった。
中身は Site is in development, but active updates can be viewed by going to /devvvvv/index.html と書かれていたのでそこに移動する。そこから /devvvvv に移動して最終的には /enterthecoppergate/gate.html にたどり着いて flag がゲットできた。

Easter Egg系の問題はレディプレイヤーワンが元ネタらしいんだけど、自分以外のチーム全員元ネタ知ってたらしくて困惑した。映画みんな詳しい・・・

Easter Egg: Crystal Gate(web 446pt)

基本的にこの問題は Copper Gate -> Jade Gate -> Crystal Gate と順に解いていく。Jade Gateを別の人が解いてくれて、flagがあった場所にCrystal Gateを解くための手がかりとなる画像があったので調べる

$ exiftool star.jpg
...
`XP Comment: /crystalsfordays/traversethebridge.php`
...

/crystalsfordays/traversethebridge.phpに飛ぶと次のような文が書いてある

Note: Only used for access management and to check user info.
Note2: I can’t seem to remember the param. It’s “file”

paramからチームの人が ?file=../ と ?file=../../ でトラバースしてた

$ curl http://18.191.167/crystalsfordays/traversethebridge.php?file=../
Note: Only used for access management and to check user info.<br>Note2: I can't seem to remember the param. It's "file"<br>..
enterthecoppergate
devvvvv
youfoundthejadegate
images
.git
.
index.html
crystalsfordays
$ curl http://18.191.167/crystalsfordays/traversethebridge.php?file=../../
Note: Only used for access management and to check user info.<br>Note2: I can't seem to remember the param. It's "file"<br>..
.bash_history
webserver
.
.bash_logout
.bashrc
.bash_profile
TheEgg.html

そこで詰まったらしいけど、$ curl -X POST -v http://18.191.167/crystalsfordays/traversethebridge.php?file=../../TheEgg.html してみたらflagが出てきた。別にPOSTしなくてもGETでも取れた

初心者向けのCTFってあっただけに難易度がマイルドな感じの多くてよかった。なんだけど
f:id:Owatank:20181128230914p:plain 流石にチームみんなpwn真っ黒でやべえな・・・練習しとこ・・・てな感じで終わった
めっちゃ楽しい土日だった。ハンバーグがうまい

MeanShiftFilteringをProcessingでアニメーションしたかも

月に1回は更新したかった。GANばっかも飽きるので別のこと書く
openCVcv2.pyrMeanShiftFilteringっていう画像変換がある。何というか入力画像の色合いが均一になってのっぺりした感じのものが出力として返ってくる。

f:id:Owatank:20181029130442j:plain f:id:Owatank:20181029130356j:plain
左が入力画像で右がcv2.pyrMeanShiftFilteringを実行した出力結果

もうどこのサイトだったか忘れたけど、この手法を3次元の色空間にプロットして直感的に理解しやすい画像を前に見た。 分散の気持ちになれて感動した。
せっかくなので自分もProcessingでMeanShiftFilteringを実装してアニメーションというか変化をプロットをしてようと思った。ちょっと失敗した

コード

github.com

デザインはこんな感じで作ってみる
f:id:Owatank:20181029131925p:plain

入出力画像を表示するのは簡単なんだけど、RGB値を3次元空間にプロットするための軸はどうしようか最初に悩んだ
P3Dというのがあるらしく、これを使えばキャンバス内で3D表現できるらしい。
このモードで面が塗られていない線だけの長方形を用意すれば3次元空間もどきが作れた。rotateY()使ってマウスでぐりぐり立方体を動かせるようにもできた。

f:id:Owatank:20181029133142p:plain

入力画像を (256, 256) サイズにリサイズして、ピクセル情報をこの立体内にプロットするとこんな感じになった
f:id:Owatank:20181029133547p:plain
雑だけどメインの部分じゃないからいいや

次は難しいMeanShiftFilteringの部分の実装。次のリンクとかを参考にした。

http://visitlab.jp/pdf/MeanShiftSegmentation.pdf
http://seiya-kumada.blogspot.com/2013/05/mean-shift-filtering.html

うーん。入力画像の各ピクセル { \displaystyle \boldsymbol{p_i} = (x_i, y_i, r_i, g_i, b_i) } について、次の条件式を満たすようなピクセル { \displaystyle (x^{\prime}, y^{\prime}, r^{\prime}, g^{\prime}, b^{\prime}) }の集合をまずは求めていくのか

{ \displaystyle |x^{\prime} - x_i| \leq h_s \ \  |y^{\prime} - y_i| \leq h_s , \ \  \sqrt{ {(r^{\prime} - r_i)}^2 +  {(g^{\prime} - g_i)}^2 + {(b^{\prime} - b_i)}^2 \leq h_r} }

{ \displaystyle h_s }{ \displaystyle h_r }はそれぞれ画像(の位置)の空間、色空間のカーネルサイズ。公式だと窓の半径とか書かれてた。これを指定しないと、あるピクセルの近傍 { \displaystyle h_s } 内に存在してかつそのピクセルのRGB値の近傍 { \displaystyle h_r } 内にも存在しているピクセルを集めることができないからかな。

よく見ると画像の位置の方の条件式と、色の条件式は式の形が違う。後者はユークリッド距離に見える
これって前に本で読んだこの部分を意味してるのかな
f:id:Owatank:20181029144948j:plainf:id:Owatank:20181029144921j:plain

前者はL1距離かなと思ったけど、それならXとYの和の式になるはずだから違うっぽい。絶対値で判断してるだけか
色の条件式で球のイラストが載ってたのは多分こういうこと・・なのかなあ・・・

次にこの条件式に当てはまったピクセルの集合に対して位置情報と色情報の重心を求める。ある場所に要素が密集してたらそっちに重心が偏るはず。これが出力画像がのっぺりする理由かな

位置情報と色情報の重心をベクトルで{ \displaystyle (x^\ast , y^\ast , r^\ast, g^\ast, b^\ast ) } 表現したら参考文献によると { \displaystyle \boldsymbol{p_i} = (x_i, y_i, r_i, g_i, b_i) } とこの重心が以下の条件のいずれかを満たせばいいらしい

{ \displaystyle x_i = x^\ast \cap y_i = y^\ast }

{ \displaystyle n \ge N}

{ \displaystyle |x_i - x^\ast | + |y_i - y^\ast | + {(r_i - r^\ast )}^2 + {(g_i - g^\ast )}^2 + {(b_i - b^\ast)}^2 \leq \varepsilon }

3つ目の{ \displaystyle \varepsilon }閾値を表す。思ったのが{ \displaystyle |x_i - x^\ast | + |y_i - y^\ast | }{ \displaystyle {(r_i - r^\ast )}^2 + {(g_i - g^\ast )}^2 + {(b_i - b^\ast)}^2 }の二つは単位が違くね?距離ってわけじゃ無いのかな。数学は難しい

2つ目の{ \displaystyle n }{ \displaystyle N }は何かというと上の条件式のどれにも満たなかった場合、{ \displaystyle \boldsymbol{p_i} = (x_i, y_i, r_i, g_i, b_i) }{ \displaystyle \boldsymbol{p_i} = (x^\ast, y^\ast, r^\ast, g^\ast, b^\ast) }にして新たにまた重心を求めるステップから繰り返す。{ \displaystyle n }{ \displaystyle N }は反復回数と反復の上限数を表す。何か勾配となるようなものを手がかりに最適な値へと近づいていく感じか

どれかの条件式に当てはまったなら、出力ピクセル{ \displaystyle \boldsymbol{p'_i} = (x_i, y_i, r^\ast , g^\ast , b^\ast) }として出力用の画像配列に代入する。これを入力の各ピクセルに対して行うとのっぺりした出力が得られる

次のように最初は実装した

for(int iter=0; iter < 5; iter++){
    center_p = get_center(filter_img, x_dash, y_dash, r_dash, g_dash, b_dash);
    condition = abs(x_dash - center_p.x) + abs(y_dash - center_p.y) 
    + pow(r_dash - center_p.r, 2) + pow(g_dash - center_p.g, 2) + pow(b_dash - center_p.b, 2);
    if(condition <= eps || (int(x_dash) == int(center_p.x) && int(y_dash) == int(center_p.y))){
      r = center_p.get_r();
      g = center_p.get_g();
      b = center_p.get_b();
      break;
    }
    x_dash = center_p.get_x();
    y_dash = center_p.get_y();
    r_dash = center_p.get_r();
    g_dash = center_p.get_g();
    b_dash = center_p.get_b();
}
output_color = color(r, g, b);

get_center()はこんな風にした

Pixel_vec get_center(PImage data, int x_dash, int y_dash, float r_dash, float g_dash, float b_dash){
  
  color c;
  float r = 0, g = 0, b = 0;
  float rgb_distance = 0;  
  
  float len = 0;  
  float sum_x = 0, sum_y = 0;
  float sum_r = 0, sum_g = 0, sum_b = 0;
  float center_x = 0, center_y = 0;
  float center_r = 0, center_g = 0, center_b = 0;
  
  Pixel_vec center_p;
  for(int x = 0; x < data.width; x++){
    for(int y = 0; y < data.height; y++){
      
        c = data.pixels[x*data.width+y];
        r = red(c);
        g = green(c);
        b = blue(c);

        rgb_distance = sqrt(pow(r-r_dash, 2) + pow(g-g_dash, 2) + pow(b-b_dash, 2));
        if(abs(x-x_dash) <= hs && abs(y-y_dash) <= hs && rgb_distance <= hr){
        len += 1;
        sum_x += x;
        sum_y += y;
        sum_r += r;
        sum_g += g;
        sum_b += b;
        
        center_x = sum_x / len;
        center_y = sum_y / len;
        center_r = sum_r / len;
        center_g = sum_g / len;
        center_b = sum_b / len;
        }
    }
  }
  center_p = new Pixel_vec(int(center_x), int(center_y), center_r, center_g, center_b);
  return center_p;
}

画像空間のカーネルサイズ hs = 16、色空間のカーネルサイズ hr = 16にして実行してみた
卑劣なので反復上限を超えても最適なピクセルが得られなかった場合はその位置の入力画像のピクセル情報を出力として代入するズルをした

f:id:Owatank:20181029130442j:plain f:id:Owatank:20181029164954p:plain

f:id:Owatank:20181029165055g:plain

画像だとなんか赤みが増したくらいにしか見えないけど、出力画像の各ピクセルのRGB値のプロットを見るとどことなく色の分散が小さくなっているのがわかる。でも冒頭に貼ったopenCVcv2.pyrMeanShiftFiltering結果とは全然似てない。openCVの方は色味はあまり変化せずにのっぺりしてるし。

原因としては重心を求めるためのピクセルを集めるための条件式とか、重心を求める式の部分が違うのかな。微分の気持ちになれなくてここら辺の理解が足りなかった。またチャレンジしよう

そういえば、どっかで計算幾何学にいる人は数式で証明して終わりってだけじゃなくて、それをルールとしてコンピュータに与えられるところまでやる責任があるって本で読んだ気がする。まだまだわからんことのが多いけどかっこいいなあ

RelativisticGANの論文を読んでPytorchで実装した その2

その1の続き

Standardな方のRSGANを実装してみる。
WGANまでTensorflowで実装してて今更Pytorchに変えたのはGeneratorとCriticのアーキテクチャの部分とか訓練の部分の定義がめんちいから。自分が効率悪い書き方してるだけの向上心がクズなだけです・・・

訓練のデータセットはhiragana73なるものを使ってみた。某開始5分村焼きソシャゲとデータセットの名前が似てたからそれだけ。
文字画像データセット(平仮名73文字版)を試験公開しました | NDLラボ

コードはここ

github.com

Pytorch初めて触ったけどかなり良さげだった。

書いてて感動したのはまず最適化の部分

GANではgeneratorとcriticで別々に更新するパラメータを指定しないといけない。
tensorflowのときはパラメータを指定するとき

self.cri_vars = [x for x in tf.trainable_variables() if "cri_" in x.name]
self.gen_vars = [x for x in tf.trainable_variables() if "gen_" in x.name]

こんな感じでパラメータのリスト用意してoptimizerに突っ込んだ。

pytorchだとこれで終わる

self.critic = Critic()
self.opt_critic = torch.optim.RMSprop(self.critic.parameters(), lr=0.00002)
        
self.generator = Generator()
self.opt_generator = torch.optim.RMSprop(self.generator.parameters(), lr=0.00002)

訓練中に更新ステップでself.opt_critic.step()とか呼び出せばいい。特に一部のパラメータは更新しないとかじゃなきゃ楽すぎる。嬉しい

あとDataLoaderなるものもよかった
今まで向上心がないので画像データを[-1,1]の範囲に正規化するのをミニバッチ(X_train)でデータ取得してから

(X_train, _) = train_generator.next()
X_train = (X_train - 127.5) / 127.5

こんな感じで取得してそこから直してモデルに渡してた。

pytorchだとこんなのでいけた

transform = torchvision.transforms.Compose([
                torchvision.transforms.Grayscale(),
                torchvision.transforms.ToTensor(),
                torchvision.transforms.Lambda(lambda x: (x*255. - 127.5)/127.5)
                 ])

train_dataset = torchvision.datasets.ImageFolder(
    root='./hiragana73/',
    transform=transform
)

それがtransform・・・僕の求めていた力・・・。RandomCropなりFlipなり色々あるけど特にtorchvision.transforms.Lambdaこれすき
kerasにもkeras.preprocessing.image.ImageDataGeneratorみたいのあるけどrescaleしかなくて[-1,1]の範囲に正規化するのめんどかった(探せば楽な方法あるんだろうけど)

地味にWGANのクリッピングの操作がこれだけで終わるのも嬉しすぎた

for p in self.critic.parameters():
    p.data = torch.clamp(p.data,-self.clip_value,self.clip_value)

元の定義されてたRSGANの数式

{ \displaystyle L^{RSGAN}_{D} = - \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } [log(sigmoid(C(x_r) - C_(x_f)))] }
{ \displaystyle L^{RSGAN}_{G} = - \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } [log(sigmoid(C(x_f) - C_(x_r)))] }


これに従ってRSGANの更新ステップは次のように書いた

generated_X = self.critic(self.generator(noise_z))
real_X = self.critic(X_train.detach())

cri_loss = -torch.mean(torch.log(torch.sigmoid(real_X - generated_X)))
total_cri_loss += cri_loss.item()
self.opt_critic.zero_grad()
cri_loss.backward()
self.opt_critic.step()

for p in self.critic.parameters():
  p.requires_grad = False

generated_X = self.critic(self.generator(noise_z))
real_X = self.critic(X_train.detach())

gen_loss = -torch.mean(torch.log(torch.sigmoid(generated_X - real_X)))
total_gen_loss += gen_loss.item()
self.opt_generator.zero_grad()
gen_loss.backward()
self.opt_generator.step()

話は戻って論文で学習時間も改善できると書いてあったし折角なのでWGANもpytorchで書き直して1エポックあたりにかかる学習時間を比較してみた

1エポック 48x48 のグレースケール画像を2万枚として環境は貧乏なのでGoogle Colaboratoryを頼る
WGANはcriticの回数を5に固定して1エポック100秒ほどかかったのに対してRSGANは1エポック35秒ほどだった。criticの回数1と思えば早いのはそれもそう

学習時間が早くても精度が悪かったら駄目じゃん。50エポックまでの精度を比較する。

WGANのGeneratorが生成したひらがなと思わしき画像はこんな感じ
f:id:Owatank:20180923224643p:plain

各エポックごとのCriticとGeneratorのロス(1ステップ100枚=200ステップの合計)についてはこんなん
f:id:Owatank:20180923224717p:plain

これに対してRSGANのGeneratorが生成したひらがなと思わしき画像たち
f:id:Owatank:20180923224831p:plain

RSGANのCriticとGeneratorのロス
f:id:Owatank:20180923225219p:plain ヤベ100エポックまで回してるのバレた

う、うーん・・どっちも魔界の王を決める戦いの魔本の文字みたいなのしか生成してない気がする。RSGANのがちょっとだけ良さそうに見えなくもない
早くてこの精度ならめっちゃいいじゃんRelativistic GAN

参考にしたもの

https://github.com/AlexiaJM/RelativisticGAN
実践Pytorch




論文ちょいちょい読んでいるけれど、自分の元の数学の知識が乏しいせいで大事でとても面白い部分をスルーして読んでいるのを毎回痛感する・・・。
高校のときに読んだ算数の小説に「ゼータ関数の自明でない零点の実数部は全て1/2である」といったのが載ってた。当時は全くわかんなくてそれでもすごい惹かれて大学入って数学の授業受ければわかるかなあとか思ってたし、Poincare embeddingという論文を読んで双曲幾何学をすげーと思ってせめて論文の述べてる仕組みわかるようになりたいとか、読んでいくたび論文に勉強足りなさすぎだハゲといった感じでボコボコにされつつ聞いたことのある数学の単語とかが出てきて、どうしてそれが出てきたのか意味が知りたかったり。わかればきっと楽しいはずで、多分・・・
まだまだ勉強足りないのに時間だけが迫ってくる。うーん。全く手をつけていない卒論頑張ろう

RelativisticGANの論文を読んでPytorchで実装した その1

生きてます
お世話になってる博士の人にRelativistic GANなる論文を教えてもらったので読んだ。相変わらず自分から良さげな論文を探すスキルが向上しない・・みんなどっから情報収集してるんだ

[1807.00734] The relativistic discriminator: a key element missing from standard GAN

点線から点線までは論文と直接関係ない

自分が最初に読んだGANはGenerator(生成器)Discriminator(識別器)の2つを持ってて、識別器は与えられたデータが本物か偽物(生成器が作ったもの)であるかを識別する役割だった。
一方でWGANと呼ばれるやつはGeneratorCriticの2つを持ってた。CriticはどちらかというとWasserstein距離というものを求める役割で上のDiscriminatorと役割は違う。

ところでWGANのようなものはIPM (Integral probability metrics) GANと呼ぶらしい。積分と確率、、うーん、WGAN読んだとき2つの確率分布が似ているかどうかの指標となる距離を求めるには期待値を計算しなくちゃいけなくて、その期待値の計算に積分が出てくるから関係あるのか。測度論について勉強していくとわかってくるのかな。そうでもない?そう・・・

話は戻って初期の頃のGANはGeneratorDiscriminatorの学習バランスが不安定なのが問題と自分が読んできたGANの論文で指摘されていた。

そういえば何で2つの学習バランスが悪いんだっけ。
GeneratorDiscriminatorに自身が作った偽物を渡して返ってくる結果が本物(確率として1に近い値)であるように自身のパラメータを修正していく。学習ステップが初期の頃にGeneratorが作るものが本物のデータとかけ離れていればDiscriminatorは容易に本物と偽物の識別ができるに違いない。

そうなるとGeneratorは返ってきた結果のほとんどが偽物と返ってくるため、本物のデータに近づくための手がかり(教師信号)が得られないんじゃなかろうか。1個でも本物と返ってきたならばその1個に近いサンプルを作れるようにパラメータを修正していって試行錯誤できるけど、色々作ったサンプルが全部偽物と返ってきたら自分ならどうすればいいか分かんなくて挫ける。
でもこれって判別する役割より作る役割のが大変だからなのかなあ。そんなこんなで訓練の改善策としてUnrolledGANなりWGANなり出てきた。

本題

Relativistic GANの改善点はどうやらWGANみたいに1ステップCriticをn回更新、Generatorを1回更新、といったことをせず両モデル1ステップ1回更新で学習するから400%の時間短縮できて、今流行りのWGAN-GPとかより高品質な生成物を作れるぜって書いてある。ス、スゲー!!!
この論文でのGANにおけるDiscriminatorはWGANみたいに距離の最小化の役割も持ってて、かつ偽物か本物かを識別する役割も持ったDiscriminatorと述べてる。

初期の頃に登場していたGANには、Generatorが作った偽物{ \displaystyle x_f}をDiscriminatorに渡したときの確率{ \displaystyle D(x_f)}が高まる(偽物渡してるのに本物と識別されてる)につれて、本物のデータ{ \displaystyle x_r}を渡した確率{ \displaystyle D(x_r)}は反対に下がるべきという特性が失われているらしい。
この論文で初めて2年も前に登場していたGANの重要な特性を知った。考えもせず無知なままなのは罪である。

どうもGeneratorの訓練がうまくいったとして、与えられた入力{ \displaystyle x}がどれだけ現実的(realistic)かを出力する関数{ \displaystyle C(x)}に偽物 { \displaystyle x_f} と本物 { \displaystyle x_r} を渡したら{ \displaystyle C(x_r) \approx C(x_f)}といった状況になってるらしい。どっちも本物っぽいぜ〜 1に近い値出すぜ〜ってことか

いや、別にその状況よくね?とも思ったんだけど、もし { \displaystyle C(x)} に渡す N個のうち半分が本物で半分が偽物と事前に知っていたなら、このような状況はおかしいというか不合理、良くて「うわ〜どれも本物っぽくて迷うな〜〜どうしよっかな〜〜〜わっかんねーからどっちつかずの 0.5 って返しとこ」あたりが自然だよねって述べてる、はず。

マークシートの試験で全8問のうち4問はAが正解と知っているのに全問Bで埋めてる奴はどう考えてもヤバイ・・・中忍試験のように白紙のがまだ理解できる。

じゃあGeneratorの学習が良い方向に進む、{ \displaystyle C(x_f)} が本物っぽくなる(値が大きくなる)につれて{ \displaystyle C(x_r)}は反対に下がるような大事な特性を与えてあげるのがRelativistic GANの特徴なのか。というよりは今まで読んできたGANはこの特性を与えるように工夫したGANだったんだな。

この大事な特性が失われている「どっちも本物っぽいから1に近い値出すぜ」な感じになってるGANの学習と「どっちも本物っぽくて迷うからどっちつかずの 0.5 って返しとこ」な感じのGANの学習ではどう違うのかの説明が論文に述べられてる。

最初に登場したGANの学習方法として論文にはこんなのが載ってた。

{ \displaystyle  \min_{G}\max_{D} V(D,G) = \mathbb{E}_{\boldsymbol{x} \sim p_{data(\boldsymbol{x})}} \ {[}logD(\boldsymbol{x}){]} +  \mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}(\boldsymbol{z})}} \  {[}log(1-D(G(\boldsymbol{z}))){]} }

Relativistic GANの方の論文だとDiscriminatorの目的関数はJSダイバージェンスと等しく、そして目的関数を最大化するように学習していくと書いてある。数式だとこんな感じ。

{ \displaystyle  JSD(\mathbb{P} || \mathbb{Q}) = \frac{1}{2}( log(4) + \max_{D:X \to [0,1]} \mathbb{E}_{x_r \sim \mathbb{P}}[log(D(x_r))] + \mathbb{E}_{x_f \sim \mathbb{Q}}[ 1 - log(D(x_f))]  ) }

本物データ分布{ \displaystyle \mathbb{P} }とGeneratorの偽物のデータ分布{ \displaystyle \mathbb{Q}}が近いかを示す指標のJSダイバージェンスを最大化するって二つの分布が遠ざかってる、似てないってことだよな。
{ \displaystyle log(4)}は置いといて、上の式の第二項と第三項の{ \displaystyle D(x_r)}{ \displaystyle D(x_f)}どうなれば大きくなるか。識別器としては{ \displaystyle D(x_r) = 1}{ \displaystyle D(x_f) = 0 }と割り当てるのが役割なので、{ \displaystyle log(D(x_r)) = log(1) = 0}{ \displaystyle 1 - log(D(x_f)) = 1 - log(0) }となっちゃうから{ \displaystyle log(0) }によってJSダイバージェンスは無限大になっちゃうな。最大化だからいいのか

GeneratorはこのJSダイバージェンスが小さくなるように自身の偽物のデータ分布を本物データ分布に近づけるように学習していく。上の式の場合{ \displaystyle D(x_r) = D(x_f) = \frac{1}{2} }と識別器に割り当てさせるように学習させればJSダイバージェンスが最小になると書いてある。自分はならなかったんですけど(´;ω;`)
{ \displaystyle D(x_f) = 1}{ \displaystyle D(x_r) = 0}となってしまうと{ \displaystyle log(D(x_r)) = log(0)}となってしまうからそれもそっか

JSダイバージェンスの最小化としては{ \displaystyle D(x_r) = D(x_f) = \frac{1}{2} }、次のような感じで徐々に二つの分布が近づくようにしていきたい。(論文の図だとこんなのが載ってる)

f:id:Owatank:20180922181708p:plain


赤が本物のデータで青がGeneratorが作った偽物のデータ

GANの大事な特性が失われていると、{ \displaystyle D(x_f)}のみが増加する。(論文の図)

f:id:Owatank:20180922182244p:plain

どっちも本物っぽいって状況だ。これではJSダイバージェンスは最小にはなってないからGeneratorの学習としてはゴールじゃない
Discriminatorの学習において{ \displaystyle D(x_f)}の変動に対し{ \displaystyle D(x_r)}が変化してないというのはDiscriminatorは識別するための一体何がデータの本物らしさを意味しているのかということをGeneratorの偽物のみから(焦点をおいて)学習していることに繋がっているそうで。本物のデータも参考にして学習してくれよ・・・。そうなるとGeneratorもより本物らしく偽物を作るように学習ができず訓練自体が行き詰まるとか。

理想としては{ \displaystyle D(x_r) = D(x_f) = \frac{1}{2}}な状況。{ \displaystyle D(x_f)}の値が大きくなるのに対して{ \displaystyle D(x_r)}は下がるとDiscriminatorが本物のデータに対しても誤って「偽物」と割り当てる可能性も出てきて、偽物と本物の両方のデータを参考にして本物らしさを学習している感じかな(論文の図)

f:id:Owatank:20180922182949p:plain

Ideal が眩しいぜ

実際にどういう変更を加えるとそういった学習になってくれるのか。
初期のGANのDiscriminatorとGeneratorの各目的関数は次のように定義されてる

{ \displaystyle  \nabla_{\theta_{d}} \frac{1}{m} \sum_{i=1}^{m} {[}logD({\boldsymbol{x}}^{(i)}) + log(1-D(G({\boldsymbol{z}}^{(i)}))) {]}}

{ \displaystyle  \nabla_{\theta_{g}} \frac{1}{m} \sum_{i=1}^{m} log(1-D(G({\boldsymbol{z}}^{(i)}))) }

上で述べてるのはこの定義で訓練すると{ \displaystyle D(x_r)}が変化しない、Generatorの偽物しか参考にしてない悪い状況になるはずで。

Discriminatorの最後の出力層を{ \displaystyle C(x) }、それにシグモイド関数で活性化したものを{ \displaystyle D(x) = sigmoid(C(x)) }と定義しておく。

本物{ \displaystyle x_r } と偽物{ \displaystyle x_f } の両方 { \displaystyle \tilde{x} = (x_r,x_f) } を見比べるようなDiscriminatorは次のように定義すれば実現できるそうだ。

{ \displaystyle D(\tilde{x}) = sigmoid(C(x_r) - C(x_f)) }

思ったよりシンプル。{ \displaystyle C(x_r) - C(x_f) }の時点では確率にはなってなくて、この{ \displaystyle D(\tilde{x}) }は与えられた本物のデータ{ \displaystyle x_r }がGeneratorの偽物{ \displaystyle x_f }より本物らしいといった確率を推定していることを意味する(解釈できる)と書いてある。

逆にGeneratorの偽物の方が本物のデータよりも本物らしいといった確率はこうなる

{ \displaystyle D_{rev}(\tilde{x}) = sigmoid(C(x_f) - C(x_r)) }

このDiscriminatorの定義に従って学習していけばいいんだな。目的関数としては次のようにすればいいそうだ

{ \displaystyle L^{RSGAN}_{D} = - \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } [log(sigmoid(C(x_r) - C_(x_f)))] }
{ \displaystyle L^{RSGAN}_{G} = - \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } [log(sigmoid(C(x_f) - C_(x_r)))] }

Discriminatorの方で考えると{ \displaystyle sigmoid(C(x_r) - C(x_f)) }が 1 に近ければ嬉しいのでlogでくくると log1 = 0になってくはずだから最小化なのかな。

RSGANは Relativistic Standard GANの略でStandard GANについては論文だとこう述べてる。

In the original GAN by Goodfellow et al. [2014], which we refer to as Standard GAN (SGAN), D is a classifier, thus it is predicting the probability that the input data is real.

RelativisticなDiscriminatorは他のGANにも適用できないかと思ってしまうのは自然で、次に一般的な表現というか定義の説明があった。
多くのGANを次のように表現する

{ \displaystyle L^{GAN}_{D} = \mathbb{E}_{ x_{r} \sim \mathbb{P} } [ f_{1} (C(x_r))] + \mathbb{E}_{ x_{f} \sim \mathbb{Q} } [ f_{2} (C(x_f))] }
{ \displaystyle L^{GAN}_{G} = \mathbb{E}_{ x_{r} \sim \mathbb{P} } [ g_{1} (C(x_r))] + \mathbb{E}_{ x_{f} \sim \mathbb{Q} } [ g_{2} (C(x_f))] }

where f1, f2, g1, g2 are scalar-to-scalar functions.

これにRelativisticなDiscriminatorをソイヤ

{ \displaystyle L^{RGAN}_{D} = \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } \ [ f_{1}(C(x_r) - C_(x_f)) ] + \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } \ [ f_{2}(C(x_f) - C_(x_r))] }
{ \displaystyle L^{RGAN}_{G} = \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } \ [ g_{1}(C(x_r) - C_(x_f)) ] + \mathbb{E}_{ (x_{r}\ , \ x_{f}) \sim (\mathbb{P},\mathbb{Q}) } \ [ g_{2}(C(x_f) - C_(x_r))] }

これが・・・Relativistic GAN・・・!ほとんどのGANではGeneratorの{ \displaystyle g_{1}}は無視される、勾配がゼロと書いてある。本物のデータから本物らしさを学ばずに学習してしまう悪い状況じゃん。
RGANの方では非ゼロの勾配を持つそうで、本物データからもGeneratorは影響を受けて学習できる。いいじゃん!!!

もう一つRelativistic average GAN(RaGAN)というものの説明が載ってたんですけど犬の画像がとても可愛くて癒されたので見てほしい。
f:id:Owatank:20180923215626p:plain
食パンと類似した画像なら他にもあっただろうにあえて犬のケツを選ぶセンスすこだ・・・

まずはStandardなRSGAN試したろと思って長くなったので毎度のこと分ける

参考文献というか論文
[1807.00734] The relativistic discriminator: a key element missing from standard GAN
[1807.00734] The relativistic discriminator: a key element missing from standard GAN
[1807.00734] The relativistic discriminator: a key element missing from standard GAN

WGANの論文読んでTensorflowで実装する その2

WGANの論文読んでTensorflowで実装する その1 - 時給600円の続き

前回はEarth Mover DistanceもしくはWasserstein Distanceが他のJSダイバージェンスやTV距離と比べて優れてるというのをまとめた。

このEM距離をGANの目的関数として使いたいが、

{ \displaystyle W(\mathbb{P}_r\ ,\ \mathbb{P}_g) = \inf_{\gamma \in \Pi (\mathbb{P}_r\ ,\ \mathbb{P}_g)} \mathbb{E}_{(x,y) \sim \gamma} [ || x\ - \ y || ] }

このままでは使うことができないと書いてある。そもそも同時分布の集合を求めるのも大変だし、KLダイバージェンスと違って積分が閉じてないとかなんとか。

駄目じゃん。ってなるがその次のセクションに双対性というので以下の式を計算することでEM距離の値を求めることができると書いてある。双対問題はまだよくわかってない(´・ω・)
なんというかAの世界では掛け算で解くけど、Bの世界では足し算で解けるみたいな物事を別の世界で考えて計算を楽にする感じなんだろうか

{ \displaystyle W(\mathbb{P}_r\ ,\ \mathbb{P}_\theta) = \sup_{|| f ||_L \ \leq 1} \mathbb{E}_{x \sim \mathbb{P}_r} [ f(x) ] -  \mathbb{E}_{x \sim \mathbb{P}_\theta}[ f(x) ] \ \ \ (2) }

{ \displaystyle || f ||_L }という謎のものがある。まず関数{ \displaystyle f }リプシッツ関数( 1 - Lipshitz )であることが条件らしい。リプシッツ関数って何だよって思ったけど

f:id:Owatank:20180627153242p:plain

ある関数 { \displaystyle f }が存在して、その曲線が上の赤の三角形のように表せるならリプシッツ関数といえる認識でいいっぽい。間違ってるかもしれない。
要は増加量が線形というか緩やかなものがリプシッツ関数といえるのかな。そうなると{ \displaystyle x^{3} }とかはリプシッツ関数とはいえないはず(/・ω・)/
論文の端っこに、sigmoidtanhなどはリプシッツ関数の例であると説明があった。そういう認識で問題なさそう

問題は{ \displaystyle || f ||_L \leq 1}{ \displaystyle \leq 1}の部分。期待値の差分を取るから値はスカラーなはずで、その差が1以下のものって条件かな。ぬん・・・

GANなので識別器と生成器の2つがある。この式に2つをあてはめて目的関数として実用するには

{ \displaystyle \max_{w \in \mathcal{W} }  \mathbb{E}_{x \sim \mathbb{P}_r} [ f_w(x) ] -  \mathbb{E}_{z \sim p(z)}[ f_w(g_\theta(z) ) ]  }

とすればいいらしい。maxだから最大値を求めるのか。識別器はDiscriminatorだからよく d(x) みたいに表されるけど、なんで{ \displaystyle f_w(x)  }と書かれているのかというのは後にわかるから置いておいて、この式の条件下で最大値を取るとき、その時のパラメータ { \displaystyle \theta } で生成器{ \displaystyle  g_\theta(z) }は本物に近い生成データを得られる、つまり欲しい真の分布{ \displaystyle P_r }に近くなってるはず。前にEM距離は連続であると書かれていたから、微分ができて徐々に{ \displaystyle P_r }に近くなるように学習できるぜってことなんだな。すごい・・・すごくない・・・?

と思ったら次にこんな一文がある

Now comes the question of finding the function f that solves the maximization problem in equation (2).

うん?関数 { \displaystyle f} を見つける?
関数 { \displaystyle f} を表現するために使われる、集合 { \displaystyle \mathcal{W} }の中から取れるパラメータ { \displaystyle w } を先に最適化して式(2)が最大になるような関数 { \displaystyle f} もといパラメータ { \displaystyle w } 先に見つけないと駄目なのかな。
だからあくまでこの関数 { \displaystyle f}識別の役割とはいえないから Discriminator ではなく Critic という名前でこの論文では呼ばれている。

で、パラメータの更新によっては { \displaystyle w } の値が集合 { \displaystyle \mathcal{W} } にはない値を取る場合もある。これでは式(2)の条件を満たせないので、無理やり値を抑える(クリッピングと呼ばれてる)。式(2)の条件というより値がはみ出るとリプシッツ関数として成り立たないからとかだろうか。

値を抑える範囲としては論文では [ -0.01 , 0.01 ]が採用されている。この範囲が大きすぎると最適なパラメータ { \displaystyle w } を見つけるのに時間が掛かって、小さすぎると今度は勾配消失の問題が起きやすいと書かれている。難しい・・・

まとめると、先に Critic { \displaystyle f_w }のパラメータ { \displaystyle w } を式(2)

{ \displaystyle W(\mathbb{P}_r\ ,\ \mathbb{P}_\theta) = \sup_{|| f ||_L \ \leq 1} \mathbb{E}_{x \sim \mathbb{P}_r} [ f(x) ] -  \mathbb{E}_{x \sim \mathbb{P}_\theta}[ f(x) ] \ \ \ (2) }

が最大になるように訓練して、(パラメータの値がある範囲を超えたら抑える)

何回か訓練させた後、つまりEM距離になってくれているCritic { \displaystyle f_w }を使って、生成器 { \displaystyle  g_\theta(z) } のパラメータ { \displaystyle \theta } をより本物が作れるような方向に、つまり分布{ \displaystyle P_r }に近づくように更新していく。

生成器のパラメータの更新については数式ではこう表現されている。

{ \displaystyle \nabla_\theta W(\mathbb{P}_r\ ,\ \mathbb{P}_\theta) = -  \mathbb{E}_{z \sim p(z)} [ \nabla_\theta f(g_\theta (z)) ] }

GANやDCGANでいえば critic を discriminatorと見立てたとき、{ \displaystyle f_w(x)} の返す値は 1(本物)と見れるので、上記の式でも { \displaystyle f(g_\theta (z)) }が 1(本物)の値を返すように学習するという見方で大丈夫だろうか。

学習の方法の流れが優しく書いてあったので、WGANを実装してみる。UnrolledGANのときと同じくガウス分布のデータを使って実験する。

1回の学習ステップの流れとしてはこうする

f:id:Owatank:20180627170709j:plain

先に k回 critic を更新してから、k回更新したcritic、もといEM距離を使って1回だけ生成器を更新する。なんかUnrolledGANと似てるな。

前回コード載せたけどここにも置く

github.com

論文で再三リプシッツ関数だからなと述べているのに、出力にtanh関数やsigmoid関数を使ってしまって、最初学習がうまくいかなかった。
出力を critic、generatorどちらとも

### Generator 
#fc = tf.tanh(tf.nn.xw_plus_b(h2, self.gen_w3, self.gen_b3))
fc = tf.nn.xw_plus_b(h2, self.gen_w3, self.gen_b3)

### Critic
#fc = tf.nn.sigmoid(tf.nn.xw_plus_b(h2, self.cri_w3, self.cri_b3))
fc = tf.nn.xw_plus_b(h2, self.cri_w3, self.cri_b3)

に直したらうまくいった。アレ・・・?ただの恒等関数ってリプシッツ関数でいいのかな?)`Д゚).・;'∴

UnrolledGANのときは、ガウス分布の入力の組が [ -1 , 1 ] の範囲の値をとるからGeneratorの出力関数をtanh関数に設定したけど、そうしないでただの恒等関数でもちゃんと [ -1 , 1 ] の値を取ってきてくれるのだろうか。不思議だなあ・・・

あとはWGANでめんどいクリッピングの操作はゴリ押ししか今のとこできなかったので次のようにオペレーションを定義した

clip_value = 0.01

clip_list = [
    self.critic.cri_w1.assign(
        tf.clip_by_value(self.critic.cri_w1, -clip_value,
                         clip_value)),
    self.critic.cri_w2.assign(
        tf.clip_by_value(self.critic.cri_w2, -clip_value,
                         clip_value)),
    self.critic.cri_w3.assign(
        tf.clip_by_value(self.critic.cri_w3, -clip_value,
                         clip_value)),
    self.critic.cri_b1.assign(
        tf.clip_by_value(self.critic.cri_b1, -clip_value,
                         clip_value)),
    self.critic.cri_b2.assign(
        tf.clip_by_value(self.critic.cri_b2, -clip_value,
                         clip_value)),
    self.critic.cri_b3.assign(
        tf.clip_by_value(self.critic.cri_b3, -clip_value,
                         clip_value))
]

self.clip_op = tf.group(*clip_list)

今回はtf.group()というのを使ってみた。これを使うと訓練時にいちいち各パラメータのクリッピングのオペレーションを呼ばずに、

# Train Critic
# Critic step for Critic
for k in range(critic_step):
    # ノイズ事前分布からノイズをミニバッチ分取得
    noise_z = np.random.uniform(
        -1, 1, size=[batch_size, 100]).astype(np.float32)
    # 訓練データのミニバッチ取得
    cri_perm = np.random.permutation(datanum)
    X_batch = X_train[cri_perm][:batch_size]

    sess.run(
        self.opt_cri,
        feed_dict={
            self.input_X: X_batch,
            self.is_train: False,
            self.gen_z: noise_z
        })

    # Clip Critic Parameter
    sess.run(self.clip_op)

一行でクリッピングの操作を済ませることができる。かしこい

論文通りcritic_stepの回数を5回に設定して実験する。最適化の手法としてAdamのようなmomentum based optimizerはWGANの訓練を不安定にさせるからRMSPropのがいいよと書いてあったけど、なんかこのガウス分布のデータにおける実験ではAdamのがよかったからこっちを採用した。RMSPropはよく知らなかったけど、

We therefore switched to RMSProp [21] which is known to perform well even on very nonstationary problems [13].

と書いてあって、RMSPropおもろいなと思った。いい情報だ(∩ ^ω^ ∩)

実験結果としてはこんな感じ

f:id:Owatank:20180627172915p:plain

マジでただの恒等関数の出力で [ -1 , 1 ]の範囲の値を取ってやがる・・・。ほんまか・・・

前のUnrolledGANの時の結果は次の通りだった
f:id:Owatank:20180601115051p:plain

うーん・・・。UnrolledGANのが綺麗に生成できている気がする。同じネットワーク構造、ハイパーパラメータじゃないから比較は難しいんだけども
でも大体入力データを真似てくれているから実装としてはあまり間違えはなさそう

ポアンカレ埋め込みの論文と同じで距離についてワクワクさせてくれる素敵な論文だった。Appendixのところとかまだ完璧に理解できないのでまた成長したら読みたいな。
どっちも同じFacebookのリサーチャーの人が関わっているらしくてFacebookすげえ・・・

おまけでこの論文では feedforward neural network のことを

By a feedforward neural network we mean a function composed by affine transformations and pointwise nonlinearities which are smooth Lipschitz functions (such as the sigmoid, tanh, elu, softplus, etc).

と下に小さい箇所で述べていた。なんかめっちゃカッコいい・・・?カッコよくない・・・?