Fixed a problem with neldermead sometimes searching for out-of-range coordinates.

[KanaiYuma-aist]

neldermead で範囲外の座標の計算結果をinfとして扱わず、通常通り計算を行う場合が現象を修正しました。

• 座標が範囲外かどうかを判定する箇所で、n(=ハイパパラメータの個数)回ループを回せば十分なところを、n^n回ループを回していました。
  • これによりフラグ変数 new_param["out_of_boundary"] の上書きが発生しており、最後のハイパパラメータの座標が範囲内に入っているかどうかのみを判定しています。
  • 例えば 0< x1 < 5, 0< x2 < 5 の範囲設定で、x1 = -1, x2 = 2 だった場合、x1が範囲外ですが無視されて、x2が範囲内なので通常通り計算する処理が適用されます。 https://github.com/aistairc/aiaccel/blob/12aad568cfa4c04327a78a3bddbe02d9b661f6e2/aiaccel/optimizer/nelder_mead_optimizer.py#L52-L59
• 座標が範囲外かどうかを判定する箇所を、別のn回ループとして書き直して、正常に範囲外の処理が実行されるように修正しました。

close #335