つづき
4.パラメータを変えたときの正解率
(1)フィルタ数
codExaのテキストでは32となっていた。他に64,96とした時の正解率は下記のとおりである。
フィルタ数に比例している訳ではない。(2)以降はフィルタ数96で試してみる。
フィルタ数 | 32 | 64 | 96 |
正解率 | 0.7548 | 0.7516 | 0.8092 |
(2)フィルタサイズ
codExaのテキストでは3×3となっていた。他に4×4,5×5とした時の正解率は下記のとおりである。
基準値の3×3が良い。サイズを大きくすると、正解率が下がるようである。
フィルタサイズ | 3×3 | 4×4 | 5×5 |
正解率 | 0.8092 | 0.8044 | 0.7451 |
(3)プールサイズ
codExaのテキストでは2×2となっていた。他に3×3、4×4とした時の正解率は下記のとおりである。
基準値の2×2が良い。サイズを大きくすると、正解率が下がるようである。
プールサイズ | 2×2 | 3×3 | 4×4 |
正解率 | 0.8092 | エラー(*) | 0.7868 |
(*)(入力データ数ープーリングサイズ)÷スライドサイズ+1=(62-3)÷2+1=30.5で
整数にならないと、エラーとなるようである。
(4)ドロップアウト率(プーリング層)
codExaのテキストでは0.25となっていた。他に0.33、0.5とした時の正解率は下記のとおりである。
ドロップアウト率に比例している訳ではない。(2)以降はドロップアウト率0.25で試してみる。
ドロップアウト率 | 0.25 | 0.33 | 0.5 |
正解率 | 0.8092 | 0.7564 | 0.7804 |
(5)隠れ層のユニット数
次の(6)を先に試すので、後に回す。
(6)ドロップアウト率(全結合層)
codExaのテキストでは0.33となっていた。他に0.25、0.4とした時の正解率は下記のとおりである。
ドロップアウト率に比例している訳ではない。以降はドロップアウト率0.33で試してみる。
ドロップアウト率 | 0.33 | 0.25 | 0.4 |
正解率 | 0.8092 | 0.7387 | 0.7676 |
次回へつづく
<個人的な感想>
そもそも、ドロップアウトの目的は、訓練データに過剰に適応し過ぎて実際の予測データの
正解率が下がることを防止する為のものである。どの程度、訓練時にユニットを無効化(ドロップ)
するかは理論的に求められない。その値が良いかは試してみないと分からないように思う。
更に、プーリング層と全結合層で正解率が上昇する値が同じでないのも理解し難い。