【統計分析】機械学習・データマイニング8

1 名前：デフォルトの名無しさん mailto:sageteoff [2016/05/30(月) 14:28:15.04 ID:lmnfFsu1.net] 何でもいいので語れ ■関連サイト 機械学習の「朱鷺の杜Wiki」 ibisforest.org/ 前スレ 【統計分析】機械学習・データマイニング7 echo.2ch.net/test/read.cgi/tech/1460535528/ 【統計分析】機械学習・データマイニング6 echo.2ch.net/test/read.cgi/tech/1455651930/ 82 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 00:20:44.88 ID:VCr+WiRz.net] >>79 こっちはFXで儲けてる とか書き込むだけならなんとでも 83 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 07:51:48.03 ID:gNLNt8FQ.net] 仮に事実だったとしても短期的な上振れかもしれないしな 84 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 11:11:07.68 ID:bEVMMAZb.net] コカコーラ三社とハウス食品が見込み以上の成績だった 次はJALが上がると出てる 信じなくていいけど、梅雨が終わる頃にまた来ます 85 名前：デフォルトの名無しさん [2016/06/05(日) 11:37:20.68 ID:s9qbmUow.net] おかしいな 単に値動きだけ見て投資繰り返してるなら中国株のはずだぜ 86 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 12:36:44.46 ID:3IJ+HIal.net] マインちゃんの話まだ？ 87 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 12:42:18.96 ID:qcrG/FZK.net] 相場は勝ってる報告に具体的なアプローチが書かれない 勝ってる人は自分の苦労の結晶を晒したくないし、負けてる人は書けることがないから 勝ち続ける確率を上げるためには情報交換したほうが有益だと分かっていても、 自分から先に情報を出せば損だという考え まぁ答えがない中でようやく見つけた自分なりの答えだから、晒したくないのも当然だが 88 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 12:48:03.91 ID:VWp4MdUH.net] 検証できない買った負けたという自慢話が参考になったことはない。 おそらく作り話なんだろう。 89 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 13:02:18.45 ID:qcrG/FZK.net] >>86 いや、検証させないために曖昧に書いてるのに誰かの参考になったら失敗じゃねぇか 90 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 13:17:23.64 ID:VCr+WiRz.net] >>87 結果だけ書けばどうやって実現したかは判らない 検定で優位差があれば予測の正確さを検証できるんじゃね 91 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 14:11:40.98 ID:Rr9l5R0i.net] 妄想垂れ流しwww 92 名前：デフォルトの名無しさん [2016/06/05(日) 14:42:51.85 ID:TTFVA4ez.net] オタク機械学習勉強会 goo.gl/r1Fciw 93 名前：デフォルトの名無しさん [2016/06/05(日) 16:02:23.18 ID:190BmVkj.net] ある人がミルクティーを飲めば ミルクに紅茶を入れたのか、紅茶にミルクを入れたのか解る と主張しました この人が本当にどちらの作り方か飲んだだけで判るのかどうすれば見破れるでしょうか？ 94 名前：デフォルトの名無しさん [2016/06/05(日) 18:31:34.06 ID:9KX3TPwC.net] 冷たい紅茶でなく熱い紅茶とした場合。 もし同じ状態で二種が置いてあったとすれば タンパク質の固形化が多い方が あとからミルクを入れたと特定できる。 でも、飲んでじゃわかんねーだろなー 95 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 19:17:38.99 ID:wLdN2nnt.net] >>92 見分け方では無くて 見分けられると主張する人が 法螺吹きか本当に見分けられるのか それを判別する方法 96 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 19:29:55.94 ID:fa5iqzk/.net] 普通に検定でいいだろ。 97 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 19:44:08.37 ID:RTnHyAjF.net] >>94 同様に投資の件も検定で判別できる 98 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 20:08:04.62 ID:ZwSvbAgp.net] JAL以外に上がる予想はあるの？ 1つだけだと丁半博打だから 二、三株書き込んだらいいのでは？ 99 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 20:12:31.90 ID:/OhSCxqq.net] 株式板でやれよ 100 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 20:24:56.80 ID:RTnHyAjF.net] >>96 2、3株では少ない まぐれ当たりする 101 名前：デフォルトの名無しさん [2016/06/05(日) 20:36:22.41 ID:s9qbmUow.net] 多くても5株以下にしないと平均化して投資の意味がなくなる 102 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 21:00:58.56 ID:VCr+WiRz.net] >>99 別に買わなくても良いんじゃね ただここに書くだけで良い 90%くらいの確率で的中できたらまぐれじゃないだろうな 103 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 21:28:03.93 ID:ZMvx2kKp.net] どうとでもいえるｗ 104 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 21:36:35.93 ID:7t8K1VZI.net] >>100 書くのはココよりも市況関係が向いてると思う。成績を適切に評価できる人も多いだろうし。 105 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 21:55:29.03 ID:ZMvx2kKp.net] 馬鹿丸出し 106 名前：デフォルトの名無しさん [2016/06/05(日) 22:10:49.78 ID:s9qbmUow.net] 馬鹿丸出し 107 名前：デフォルトの名無しさん mailto:sage [2016/06/05(日) 23:36:36.69 ID:yEQu3KWw.net] >>102 同意。 108 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 01:21:23.45 ID:EkzftdEW.net] 馬鹿中出し 109 名前：デフォルトの名無しさん [2016/06/06(月) 02:36:30.65 ID:228X9IIl.net] 絶句 110 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 09:30:22.39 ID:YGYCifzk.net] >>102 それを言い始めたら機械学習での作曲を語るのはここより作曲板のほうが向いてるし、 機械学習が書いた絵を語るのはここより芸術を扱える板のほうが向いてる 画像判別と文章生成以外やることなくなる 111 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 09:52:39.55 ID:51Lpbmqs.net] 雑談してるだけだろ、力を抜けよ 112 名前：デフォルトの名無しさん [2016/06/06(月) 22:54:32.81 ID:Kks43qK0.net] 『初めてのディープラーニング』という入門書を買ったんだけど ディープラーニングのソフトはなんでないの？ カフェを使って体験する説明があるんだけど UIなんて皆無で、すげー使いにくそう！ 学習に時間かかるなら、クラウドでディープラーニングをやる サービスとかあったら良くないか？ 113 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 22:56:06.52 ID:XsKqGEJO.net] 初めてか、力抜けよ 114 名前：デフォルトの名無しさん [2016/06/06(月) 22:57:22.66 ID:Kks43qK0.net] 難しいのうｗ 115 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 23:21:48.24 ID:amctUJNl.net] google MLとかあるよ 116 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 23:29:11.82 ID:/ojbA3WN.net] 一番有名なのはAzure MLかな クラウドでディープラーニングやるサービスなんて他にもいくらでもあるけど、 アホみたいにコンピュータリソースを食うからエンタープライズ向け 無料はありえない 117 名前：デフォルトの名無しさん mailto:sage [2016/06/06(月) 23:44:37.60 ID:ZQA9Mfoh.net] 何回同じ質問してるんだw 118 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 00:12:27.17 ID:sZPZyAmM.net] 自演なんだろ 119 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 00:25:19.38 ID:j4ska5ij.net] ディープラーニングにUI求めてるとか程度低すぎな 120 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 04:09:36.73 ID:dR0pYcW4.net] 組み込みでなきゃ UI 作るだろう? 121 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 07:21:57.90 ID:XbyzgD5d.net] そういう話ではないと思う 122 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 07:30:21.51 ID:wxocoQF4.net] >>118 どんなUI？ 結合とかとんでもない数になる ニューロンも >>119 どんな話？ 123 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 10:32:09.76 ID:LfNar0rW.net] 何か情報を発信したいと思ったとき、タグ打ちして作ったサイトが 必ずしもホームページビルダーで作ったサイトより優秀とは限らない 124 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 10:46:56.98 ID:xqPFZ3UU.net] 可能な選 125 名前：択肢の多くがすでに列挙されているような状態であれば GUIなど整備する利点もあるかもしれないが、 現状そうなってはいない。 [] [ここ壊れてます] 126 名前：デフォルトの名無しさん mailto:sage [2016/06/07(火) 14:45:41.41 ID:GM81CXhl.net] アルゴリズムをブラックボックスとして使うなら、GUIでデータ分析できるツールは普通にあるけどね(SPSS Modelerとか) ETLの一ステップとして組み込むだけだよ 127 名前：デフォルトの名無しさん [2016/06/08(水) 12:57:12.16 ID:LiG98aYF.net] グーグル、AIソフトウェア「TensorFlow」に「iOS」サポートを追加 japan.cnet.com/news/service/35083908/ 128 名前：デフォルトの名無しさん mailto:sage [2016/06/08(水) 22:34:16.11 ID:JuzhuTPo.net] Common lispでdeep learning フレームワーク作るから誰かお金ください 129 名前：デフォルトの名無しさん [2016/06/08(水) 22:42:32.21 ID:7z7ZNnbY.net] ウエブアプリに簡単に組み込めるようにAPIにするとか 130 名前：デフォルトの名無しさん mailto:sage [2016/06/08(水) 23:01:07.66 ID:uBtppVIz.net] .NETで頼む 131 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 07:42:32.87 ID:sulveNBl.net] >>125 つ 1ペリカ >>127 つ 燃えないゴミ 132 名前：デフォルトの名無しさん [2016/06/09(木) 15:04:31.49 ID:cHHEsXa1.net] 制限ボルツマンマシンは組合せ最適化問題の確率的な解を計算できるって認識で合ってますか？ 133 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 16:40:14.81 ID:/P7WMZ0d.net] パターン認識と機械学習読んでいて思ったのだが、 日本人の貢献度少なすぎない？ 参考文献のところにほとんど日本人いないんだけど… 体感では物理の１０分の１くらいか 日本に世界的に通用する研究者いるの？ 134 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 17:00:33.55 ID:2xjmpOA+.net] CNNは日本人の発明だよね。 ながらく忘れられていたわけだけど。 135 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 19:30:05.17 ID:XOYYyOSO.net] >>129 学習にCD法とかを使って尤度を最大化するんじゃないの？ 結果的には学習させたら組み合わせ問題を近似的に解く事にはなるんだろうけど 普通は逆にイジング問題を解ける量子コンピュータとかを使って学習するんだと思う 136 名前：デフォルトの名無しさん [2016/06/09(木) 19:41:14.31 ID:3BOdw9Dz.net] だからこそ日本初のSOINNです 137 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 19:53:27.06 ID:b4+yu0Se.net] >>131 福島さん？ 138 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 20:16:00.70 ID:b4+yu0Se.net] 日経の押し広告 日経プラス10　人工知能AIが株取引を!?進むフィンテック革命 6/9 (木) 22:00 〜 23:00 （60分） ＢＳジャパン(Ch.7) 139 名前：デフォルトの名無しさん [2016/06/09(木) 20:53:30.43 ID:WS/bpjg2.net] バカだろ 140 名前：デフォルトの名無しさん [2016/06/09(木) 21:58:39.02 ID:O+qexS3f.net] >>125 ファンド・マネージャー大量失業。 141 名前：デフォルトの名無しさん [2016/06/09(木) 22:10:36.95 ID:PXwEkvAt.net] GUIを搭載したディープラーニングはないのかよ！？ 142 名前：デフォルトの名無しさん [2016/06/09(木) 22:21:15.93 ID:WS/bpjg2.net] caffeが近いけど、ＧＵＩにしたからなんだというのかって感じがある こういう枯れてない技術はライブラリの変化激しすぎてGUIにするのきつい 143 名前：デフォルトの名無しさん [2016/06/09(木) 22:22:10.64 ID:9NDqg7t3.net] GUIにする前にそもそもなんでうまく行ってるのかよくわかってないからなｗ 144 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:25:09.31 ID:cwAig2fg.net] これ本スレじゃないよね、 あまりの幼稚さに驚いた 145 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:26:29.66 ID:EYDvGbZG.net] パラメタが増えると局所解が無くなるみたいなんだよね 146 名前：デフォルトの名無しさん [2016/06/09(木) 22:26:41.02 ID:PXwEkvAt.net] 10年後の機械学習ってどうなってる？ 147 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:26:51.46 ID:567X3u/H.net] 煽り入りました 148 名前：デフォルトの名無しさん [2016/06/09(木) 22:31:01.77 ID:M5f+kfRV.net] お前は一体いつの話をしているんだ（憤怒）と思うけど >>6 はこういつことかな？と勉強を兼ねて書いてみた 【統計分析】機械学習・データマイニング bl.ocks.org/anonymous/raw/219f43dc64d3e99bccb0b01b7b2aaa46/ プログラムは素人でtensorflowもnumpyも初めてなので信用しないで 149 名前：デフォルトの名無しさん [2016/06/09(木) 22:35:30.86 ID:WS/bpjg2.net] 局所解はある ってか機械学習のアルゴリズムは解に一意性があるほうが弱い 150 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:41:01.90 ID:EYDvGbZG.net] なくなるっていうと語弊があるかな。 局所解はだいたい等価 パラメタが増えると「悪い局所解」にはまる確率は減る ということが最近言われてる。 まあどこまで信じていいかわからんが。 151 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:46:59.44 ID:567X3u/H.net] すげー馬鹿なんだろ 152 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:47:43.06 ID:567X3u/H.net] 日経の主張 alpaca thebridge.jp/2015/10/alpaca-fundraises-1-million-to-launch-capitalico-trading-platform ヘッジファンド ventureclef.com/blog2/?p=2979 153 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:50:44.85 ID:EYDvGbZG.net] ところでRMSpropだのAdamだの出てきているのに未だにMomentunSGDばかり使われている理由知ってる人いる？ 154 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 22:58:03.28 ID:567X3u/H.net] >>148 補足：実際の問題は複雑で解の存在も一意性も保証されていない 155 名前：デフォルトの名無しさん [2016/06/09(木) 23:16:01.18 ID:WS/bpjg2.net] 解が存在しなかったり一意性がなかったりするとバックプロバケーションでは無理だな 156 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 23:16:24.24 ID:Ldnb3Sh9.net] 素人エンジニアの間で 投資×ディープラーニングが盛り上がっているのを 生暖かい目で見ている 157 名前：デフォルトの名無しさん mailto:sage [2016/06/09(木) 23:22:37.09 ID:SS3PJg9r.net] >>152 お前も馬鹿か 158 名前：デフォルトの名無しさん [2016/06/09(木) 23:45:32.82 ID:WS/bpjg2.net] （笑） 159 名前：デフォルトの名無しさん mailto:sage [2016/06/10(金) 00:40:32.61 ID:4Cl/388C.net] DQNにFXやらせてみたけど全然ダメ。 取引しないのが最善手だと学習しちゃう。 真理なのかもしれない。 160 名前：デフォルトの名無しさん mailto:sage [2016/06/10(金) 01:59:47.27 ID:Xu3Q8PMQ.net] FXは難易度が異常だから、株なら少しはマシかもな 161 名前：デフォルトの名無しさん mailto:sage [2016/06/10(金) 12:36:09.68 ID:yEGZMfCQ.net] DeepMindかどっかが、「やらないのが最善」という学習を防ぐ技術を開発していた気がする。 162 名前：デフォルトの名無しさん [2016/06/10(金) 16:27:27.71 ID:R3lGWxox.net] Extreme Learning Machineいじってるやついる？ 163 名前：デフォルトの名無しさん [2016/06/10(金) 23:00:01.35 ID:/w5qBRYP.net] >>145 バグ見っけ #{ #w2 = matrix (w.2 [[i]], nr = length (w1), nc = length (w3)); w2 = t (matrix (w.2 [[i]], nc = length (w1), nr = length (w3))); #} たまたま対称行列に近かったので結果が変わらない分タチが悪い キリがないので新しいバグを見つけてももう書きません >>150 そのそも他の人が何を使ってるのかも知らない池沼だけど 自分の場合は、MomentunSGDはパラメータが二つ必要と怒られて パラメータが一つでいい方法で収束が早いのを使ったよ 中身はオイラー法改ということぐらいしか知らない 自分の常識は世界の非常識だけど、通常の常微分方程式の数値計算では lsodaかルンゲクッタのどっちかでうまくいけば良しと思っている人が多い気がする 最初に試すのはどっち？ということに関しては使い慣れた方では？ ヒトというのは多少良いぐらいでは新しいものに乗り換えないらしい スレ違いだけど: Linuxに勝てなかったPlan 9 − ＠IT www.atmarkit.co.jp/news/analysis/200902/09/future 164 名前：.html [] [ここ壊れてます] 165 名前：デフォルトの名無しさん [2016/06/11(土) 06:36:28.76 ID:Lft7k7ig.net] >ヒトというのは多少良いぐらいでは新しいものに乗り換えないらしい ということは、乗り換え続ければ、シンギュラリティが起こることね？ 166 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 12:48:37.07 ID:hBL0iHmr.net] >>150 最近見るサンプルだと、むしろ RMSprop ばかり使われてる印象だが 167 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 12:59:56.64 ID:YCY5eb9V.net] >>162 sampleではAdamやRMSpropをよく見かけるが、 論文中では最近でもMomentumSGDが使われてる印象がある。 大規模なImagenetだと特に 168 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 17:48:59.76 ID:JU9k/El9.net] Chainer派が減ってるように感じるのは気のせいか？ 169 名前：デフォルトの名無しさん [2016/06/11(土) 18:54:40.76 ID:e45U+qMQ.net] 気のせいじゃない 世の中すべてgoogleに寄ってる 170 名前：デフォルトの名無しさん [2016/06/11(土) 19:06:32.14 ID:uqzo+r9w.net] >>164 TensorFlowが出てから、勢力がみるみるうちに無くなってしまった。 171 名前：デフォルトの名無しさん [2016/06/11(土) 20:07:47.87 ID:uegKPJVI.net] ●AI技術で起業したい方へ3000万円まで投資します● 技術と情熱のある方のみ、お願いします。 good-hill.xsrv.jp/?id=772322 『 グッドエンジェル 』 投資家と起業家のマッチングサービス 172 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 20:30:50.28 ID:YCY5eb9V.net] Chainerのほうがtfより進んでると思うんだがなあ。 173 名前：デフォルトの名無しさん [2016/06/11(土) 20:32:26.15 ID:e45U+qMQ.net] おまえすごいな 両方理解して優位点分かってんのかよ 174 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 22:05:18.87 ID:n+6FlSA7.net] >>162 >>163 Keras のサンプルは RPMProp だったな。SGD 系の方が皆に知られているから分かりやすい、という程度の理由じゃないかな。 >>164 気のせいじゃない、自分のまわりの Chainer 派はみんな TensorFlow に乗り換えやがったw 現実問題として、最近はお客さんが TensorFlow の名前くらいは知ってるからな、仕方がない。泣く子とグーグルには勝てんw 175 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 22:24:00.70 ID:n+6FlSA7.net] >>168 Chainer は未だに分散に対応できてないでしょ。 趣味でやるならともかく、企業レベルだとそれだけで勝負にならない。 >>169 このスレの住人なら、両方とも使ったことくらいならあるでしょ。Caffe, Torch, Theano あたりも。 176 名前：デフォルトの名無しさん mailto:sage [2016/06/11(土) 22:29:38.74 ID:PEhHwJ/Q.net] chainer は昨年末くらいからアップデートを繰り返されて使う気が失せた 177 名前：デフォルトの名無しさん [2016/06/11(土) 23:39:10.16 ID:1rbAcpRy.net] 小数点以下で関数を変えるな 178 名前：デフォルトの名無しさん mailto:sage [2016/06/12(日) 00:02:36.72 ID:8Rsz5yWA.net] よし、あえてここで俺がcommon lispでフレームワーク作る 179 名前：デフォルトの名無しさん [2016/06/12(日) 06:32:34.63 ID:9Yu7iVS3.net] >>172 今　どのくらいまでアップデートしてるのかな？　172さんの言うよう にアップデートを繰り返されて使う気が失せたので全然、見てない。 180 名前：デフォルトの名無しさん [2016/06/12(日) 07:23:35.39 ID:vVZR4K/C.net] >>130 物理や数学との違いの一つとして多くの方言があるように思う ターゲットの問題の多様さや人口の多さに起因しているのかもしれない 例えば、同じ自然言語をターゲットにした研究者でも言葉が通じなかったりする word2vec Explained: Deriving Mikolov et al.’s Negative-Sampling Word-Embedding Method | Omer Levy Omer Levy](wp.me/2zQFd > We found the description of the models in these papers to be somewhat cryptic and hard to follow. 「word2vecイミフ過ぎwww 人間の言葉で書き直したった」盛りましたすみません 目抜き通りで日本人の名前をを見ることがないのは事実かもしれないけど 裏通りに入ると日本人村があったりする >>65 で挙げた論文はモントリオールのチームだと思うけど普通の物理や数学よりも 日本人密度が高いように思う ヘシアンの負固有値の数が標高が下がるにつれ少なくなることを観察して 標高の高いところの極値をスキップしやすいオイラー法改を提案している >>147 に関係した話題だと思う 181 名前：デフォルトの名無しさん mailto:sage [2016/06/12(日) 08:54:04.48 ID:hE/WfIPg.net] しらみ潰しで済むなら、それに越したことはない。 182 名前：デフォルトの名無しさん [2016/06/12(日) 20:55:47.50 ID:vVZR4K/C.net] つながり見っけ 裏道どころかタイムズスクエアの真ん前にいたんですね 前のスレッドで「現在のDNNにおける未解決問題」というスライドを挙げたんですが スピングラスの下りでの元ネタの一つです Open Problem: The landscape of the loss surfaces of multilayer networks www.jmlr.org/proceedings/papers/v40/Choromanska15.html > Earlier theoretical analysis, conveniently reviewed in Dauphin et al. (2014), suggest the > existence of a certain structure of critical points of random Gaussian error > functions on high dimensional continuous spaces. > ... > Nevertheless they provide no theoretical justification for the existence of this connection. 読んでないので憶測ですが、Dauphinさん達の観察したモース指数と標高の関係を スピングラスを使って導けるよという趣旨のようです そのDauphinさん達の仕事です Identifying and attacking the saddle point problem in high-dimensional non-convex optimization arxiv.org/abs/1406.2572 これも読んでないのですが、これを紹介しているブログを読むと >>65 の路線をそのまま発展させたか整理したもののようです No more local minima? blog.terminal.com/no-more-local-minima/ >>65 は悪乗りで書いたんですが、色々とつながり勉強になりました 灯台下暗し 一旦突破口を見つけるとイナゴのようによってたかって片付けるNN48恐るべし

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef