【統計分析】機械学習・データマイニング5

1 名前：デフォルトの名無しさん [2015/08/11(火) 23:14:48.92 ID:bKFrJLVz.net] 何でもいいので語れ ■関連サイト 機械学習の「朱鷺の杜Wiki」 ibisforest.org/index.php?FrontPage 654 名前：デフォルトの名無しさん mailto:sage [2015/12/29(火) 18:58:35.99 ID:aJvrR+4g.net] >>637 クオンツトレードするならバイオプより、普通の市場 バイオプは、カジノみたく証券会社との勝負だから稼ぎすぎるとアカウント止められる >>639 過去の時系列データでいいと思う 655 名前：デフォルトの名無しさん mailto:sage [2015/12/30(水) 11:20:11.90 ID:FOybMCZk.net] へーみんな結構高度なことしているのね 656 名前：デフォルトの名無しさん mailto:sage [2015/12/30(水) 11:32:28.48 ID:cW7DRrYW.net] totoでDL使って上手くいってるってどっかのサイトで 657 名前：デフォルトの名無しさん mailto:sage [2015/12/30(水) 23:40:55.63 ID:RCH2rw3r.net] aial.shiroyagi.co.jp/2015/12/word2vec/ chainerがGPU使っても思ったより遅い やっぱtensorflowの方がいいのかねえ 658 名前：デフォルトの名無しさん mailto:sage [2015/12/31(木) 10:06:24.68 ID:AY7KRUed.net] テンソルって何？ 659 名前：デフォルトの名無しさん mailto:sage [2015/12/31(木) 13:12:56.65 ID:6ZwKk7rF.net] >>644 word2vecの実装が違うだけ 本家以外は単なるサンプル それ見てライブラリ同士の速度差だと思っちゃう時点でこっちの世界に向いてない ちなみに単独GPUではテンソルフローはくっそ遅い あれはGPUクラウド前提だから 660 名前：デフォルトの名無しさん [2015/12/31(木) 15:01:42.69 ID:3vN1+9vc.net] クラウド前提ってつまり糞ってことだろ 661 名前：デフォルトの名無しさん mailto:sage [2015/12/31(木) 15:04:24.51 ID:6ZwKk7rF.net] じゃあTITAN4枚刺し程度でチマチマやってればいいよ あっという間にそんな程度じゃ何も学習できなくなるから 662 名前：デフォルトの名無しさん mailto:sage [2015/12/31(木) 15:31:52.83 ID:mqCdG3MZ.net] ディープラーニングは完全に札束で殴る世界だから、個人戦なら別の土俵の方がいいと思うけどね 663 名前：デフォルトの名無しさん [2015/12/31(木) 19:03:14.84 ID:3vN1+9vc.net] 別の土俵ってなに 664 名前：デフォルトの名無しさん [2015/12/31(木) 19:57:35.64 ID:CR0rWf5B.net] 門外漢で悪いんだか、ディープラーニングによる画像認識てどの程度にものなんだ？ディープラーニングを利用してCTやMRIの画像診断てどの程度で可能なんだ？ 665 名前：デフォルトの名無しさん mailto:sage [2015/12/31(木) 22:17:51.16 ID:i29G/u5n.net] >>651 確かGoogleが人工知能のコンテストで位置関係を含めた画像認識（ex. hat on a dog, 等）の大会で95%以上出してた（すまん、記憶に自信ない）し、 2014年の春にはFacebookが顔認識で97.53%(人間と互角)をたたき出してる。 ただ、まだ発展途上だし誤認識もあるから、現状はあくまでも補助としてなら役立つかも。（見落としチェック等） 何万枚もの画像データで学習させる必要があるから、そのうち大規模に病院と連携する企業が現れないかと思っている。あくまで私が思ってるだけだが。 長文スマソ 666 名前：デフォルトの名無しさん [2015/12/31(木) 22:29:21.22 ID:3vN1+9vc.net] 医用画像処理は金かかってる分野だからもうやってるだろう 667 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 09:45:17.04 ID:jOxKmjAB.net] 意外と反発があるんじゃない？ 職が無くなる、とか 668 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 09:59:06.28 ID:NyAncdiT.net] と言うか、ミスがあった時にプログラマの責任がどうなるかが気になるところ。 自動運転とかも、何万件も事故ったらプログラマの責任？って思うと怖い 669 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 11:49:01.86 ID:pFQdixxO.net] でも自動運転って今の段階ではまず高速道路で有効な技術だろ 責任がどうとか保障がどうとか以前に、高速道路で事故ったら死ぬんだぞ 670 名前：デフォルトの名無しさん [2016/01/01(金) 15:06:05.05 ID:/G9sGytX.net] 医用画像処理は医者に匹敵してれば使うって分野だから 671 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 20:27:22.01 ID:tlGU01R9.net] まあ人間でも同じ程度にはミスあるからいいんじゃねとは思うけど、 世間的にはどうだろうね。 672 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 21:41:12.23 ID:SR45kccS.net] 情報に限らずエンジニアって、動いて当たり前の減点方式で世間から評価されるから辛いよなあ。 673 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 21:43:03.24 ID:DpH1qtEO.net] ぶっちゃけ医用画像処理は教師データ集めるのが鬼門 674 名前：デフォルトの名無しさん [2016/01/01(金) 23:54:27.20 ID:/G9sGytX.net] 鬼門っていうかもう既存業者しかやれないように法改正されちゃったから新規参入できん 675 名前：デフォルトの名無しさん mailto:sage [2016/01/01(金) 23:56:12.74 ID:SR45kccS.net] まじで？ ソース欲しい 676 名前：デフォルトの名無しさん [2016/01/01(金) 23:59:01.72 ID:/G9sGytX.net] 1960年に制定され約50年が経過していた従来の薬事法が、「医薬品、医療機器等の品質、有効性及び安全性の 確保等に関する法律（以下、医薬品医療機器等法）」と改正され、2014年11月25日に施行される。 従来はソフトウエア部分のみでは薬事法の規制対象とならず、ハードウエア部分に組み込んだ形で規制していたが、 欧米との国際整合も踏まえ、ソフトウエアを単体で流通することを可能とし、「医療機器プログラム」として 規制対象となることとなった。 この改正のインパクトは大きく、少なからず影響を受ける企業も多いことから施行までのわずかな期間の動向を 注視する必要がある。 そこで本連載『11.25薬事法改正――「ソフトウエア」はどうなる』では、単体プログラムの取扱いに関する 厚生労働科学研究班；医療機器に関する単体プログラムの薬事規制のあり方に関する研究　研究代表者の菊地眞氏 （医療機器センター 理事長）に、医薬品医療機器等法の規制対象となるプログラムはどのようなものか、 規制対象となったプログラムはどのような手続きが必要かなどについて示してもらう。 （以下省略） https://archive.today/E4WDV ■受験資格 医師、獣医師、歯科医師、または理系大卒で既に医療機器製造販売の免許を持つ企業（東芝や日立、富士フイルムなど）での実務経験３年以上があるもの。 製造販売の免許申請には上記を満たす者が３人以上必要。 名義貸しは禁止。 677 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 03:36:49.53 ID:onI2UJFj.net] 画像診断は一番有用有望だと思うな あくまで医師が全部見るのが前提だけど、 コンピューターも同時に全画像を見ることで医師の見落としを拾い上げられるかも 生成系は苦手だけど認識は得意だし ガンなんかで写るぼんやりとした影だけでもピックアップできるようにはな� 678 名前：驍ﾍず [] [ここ壊れてます] 679 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 05:07:32.47 ID:p9EpDgFg.net] 欧米との国際整合ってダメなとこ見習ってどうするんだ 680 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 07:16:10.83 ID:O0D/ggNy.net] 何も関係ないけど、高校の自由研究（1年間かけて論文を作る課題）で、 DNNチックなものを実装したコンピュータを更にニューロンみたいに扱ったら、 人間で言うところの「知らない」� 681 名前：ｱとを人に聞くみたいな感覚でもっと難しい問題を解けて便利なものが作れるかな、 と考えてやってみたら、通信量が凄くて学校のネットワークの一部を落としたことを思い出した。 どうすれば良かったんだろう。根本的に無理があるのかな？ [] [ここ壊れてます] 682 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 07:49:41.34 ID:h7qcKowt.net] 既存の医療機器メーカーは画像診断の分野にディープラーニングを突っ込んでいるのかな 国内だと富士フイルムとかオリンパスとかテルモとか 国外だとJ&JやGE、シーメンス 国外のほうが強いし 進んでいるだろうな 683 名前：デフォルトの名無しさん [2016/01/02(土) 07:56:41.71 ID:xYXCrfm4.net] Baiduの音声認識とかがRNNの損失関数に使ってるCTCって、 入力と出力の数の差は、スペースで置き換えて埋めてるって認識でおｋ？ 入力より出力のほうが多い場合、解決できないってことだよね。 684 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 11:32:55.68 ID:XLcEsM1y.net] 医用画像はMRIならまだいけるだろうが、病理じゃまだまだ遠い話だな 685 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 18:29:04.83 ID:LK3/d6P7.net] 人によって違うんだろうけど、あかん、俺の場合GPUはあかん TITANなんかでもメモリが12Gしかないのは少なすぎる 中間層は数千ぐらいまで増やしたいのに2000あたりでもうメモリエラー 686 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 18:47:31.51 ID:p9EpDgFg.net] もっと課金しよう 687 名前：デフォルトの名無しさん mailto:sage [2016/01/03(日) 10:17:16.20 ID:YZDc7m3f.net] DNNガチャ 688 名前：デフォルトの名無しさん mailto:sage [2016/01/03(日) 12:09:44.19 ID:K+ss0pfU.net] >>670 今年GPUのメモリ32GBまで増えるから後半年我慢しなよ 689 名前：デフォルトの名無しさん mailto:sage [2016/01/03(日) 14:26:26.62 ID:F9hbAH74.net] >>670 ちなみにどういうネットワークでやってるの？ 690 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 10:33:16.61 ID:zpDhAVzD.net] >>674 いたって普通のchainer 691 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 13:57:49.49 ID:aF0kBQvd.net] >>675 CNNですか？層の深さと各ユニット数はどんな感じ？ GPUがダメならCPUで計算してるの？ 692 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 14:13:25.31 ID:7bH4D1Hq.net] >>666 伝説作ったな。 後は偉業を達成するだけか？ 693 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 15:13:39.68 ID:zpDhAVzD.net] >>676 CNNも使っていなくて層はせいぜい3ぐらいまでの 今のところ2000ちょっとあたりまでかな CPUでやるしかないけど、この際JAVAやC++のライブラリを使ってみようかと 694 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 16:50:18.41 ID:UQyFG7Oy.net] nd4jでdnn書いたことある人いる？ 695 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 19:50:53.71 ID:jp1KtVTt.net] >>653 画像処理は100%人間を超えている。疲労もなく延々見続けることができる上、どんな些細な変化でも見ることが出来る。 なぜ実装されないのかはまぁ、いつもの既得権益とかだろう・・・ って思ってたら別の切り口で実装されるかも。レントゲンすら取らなくていいらしい。尿検査でガンが分かるんだって 人工知能と医療 がん研究に“革命” www3.nhk.or.jp/news/web_tokushu/2016_0103.html 696 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 20:43:30.83 ID:mKJ6s0Ma.net] >どんな些細な変化でも見ることが出来る これ短所なんだよなぁ 既得権益云々より偽陽性を弾けない 腫瘍の診断レベルならまだしも他の疾病マーカーはまだ人力の診断に勝てない 697 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 20:46:03.26 ID:aF0kBQvd.net] >>678 なんか根本的に間違ってると思うよ 2012のGoogle猫認識みたいに1万レベルのCPUクラスタ使うならともかく、 普通の人が手持ちのCPUでTaitanですら収まらないネットワークを学習してまともなモデルができるわけが無いよ 1万年ぐらいかかるんじゃない � 698 名前：lットワークは？に「普通のchainer」って答えるあたり… >>680 リンゴとかシマウマを認識するのとはわけが違う そういうのは発展途上国や低所得の人間を大量に使ってラベル付けした正解データがあったからDNNでブレークスルーしただけの話 ドクターの画像診断は正解データを揃えるのが大変すぎるからそんなすんなりいかない 前も書いたけど「ぼんやりとした影」みたいなのを検出するのは今でも出来るはず [] [ここ壊れてます] 699 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 21:25:59.20 ID:jp1KtVTt.net] >>681,682 それはそのまま患者に返さなくていいのでは？ あるブログで、機械学習で数年分の気温を学習させたところ、ある日に1000度行ったって結果がありました。しかしそれ以外は大体あっている。 URLは忘れましたが、年に二回飛び抜けて気温が高い時期のグラフがありました。 そういうだいたい危険な注意報を、医者が再確認するシステムができればいいと思います。 なんだったら研修生以下の医学部生や、本人の同意があればネットに公表してもいいと思います。 と思いましたが、現実的に無理だったらすいません。 できるだけ苦しまず、例え末期がんでも精神的になんらかの救済処置があればいいな、と思いレスさせていただきました。 700 名前：デフォルトの名無しさん [2016/01/04(月) 23:26:55.55 ID:ooGMsO2x.net] GPUとアルゴリズムの進化を待った方が良い 701 名前：デフォルトの名無しさん mailto:sage [2016/01/04(月) 23:42:25.27 ID:O1teGQFD.net] >>682 >そういうだいたい危険な注意報を、医者が再確認するシステムができればいいと思います。 昔からあるAIの応用の目標の一つ、サンプルレベルならいっぱいあるはず 702 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 00:35:07.73 ID:WmL/JmIH.net] 診断と天気予報を一緒くたにするとか「大体あっている」のレベルで診断に使うとか それで実用されないのは既得権益のせいとか言ってしまう そもそもそういう部分が逆撫でしてくれる 703 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 00:39:46.72 ID:6OGV1jFC.net] 癌なら疑わしいのレベルで精密検査すればええやないの 704 名前：デフォルトの名無しさん [2016/01/05(火) 00:45:56.79 ID:eUGyXOEJ.net] 例えば、MLのモデルで７０％の正答率でも医師の診断基準との合議制で９０％までいけば有益なのでは？ 705 名前：デフォルトの名無しさん [2016/01/05(火) 01:04:09.29 ID:kZWqPdiD.net] 検査の統計処理は医療でさんざんやられてることだから機械学習で議論することじゃない 706 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 01:45:14.48 ID:nA6EWt+2.net] 面接で使えないかね 顔写真やプロフィールから、1年以内で辞める可能性の高い新卒をはじく 707 名前：デフォルトの名無しさん [2016/01/05(火) 01:46:27.20 ID:kZWqPdiD.net] 企業の選考はなぜか検出器を直列に繋いでるので信頼度が低下してる 並列で繋ぐべきだ 708 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 02:02:51.37 ID:bKMIisOn.net] 人間の判断は適合率が高くて、DNNは再現率が(このまま順調に伸びれば)高い なので人間が見落としたのを洗いざらい見て「ガンかもしれないのでもう一度見て」って提案する こんな感じで医療の現場には根付くと思う あくまで全件人間が見るのが前提 >>689 まあそうなんだけどDNNで一番進んでるのは物体認識系だからガン診断とかには絶対有望じゃん 自動運転あたりが今は注目されてるけど人間の生死に関わるところに 709 名前：機械学習が貢献するのは夢がある [] [ここ壊れてます] 710 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 10:11:03.70 ID:yViwPYXt.net] 医療への応用で問題になるのは問題が起きた場合誰が責任をとるのかということ 自動車の自動運転ではようやく法的責任の議論が始まったところ 711 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 12:15:02.85 ID:0R/x+K8o.net] 「道路の白線を認識して、道から外れそうになっても自動でハンドルを操作して道に戻す技術」をテレビで見た時に「道に斜めに白線引いて崖から落とせそう」とか思った。 712 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 12:37:48.57 ID:nP/joZyQ.net] 癌が有るか無いかだけでなく どこにどんな大きさのどの程度の進行具合の癌が有るかが治療には必要じゃねーの？ 癌の有無だけなら血液や尿検査で分かるようになるかも知れない 治療の面だとどの抗癌剤がどの程度効果があるかとか今は手探りみたいだし 713 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 12:39:10.50 ID:nP/joZyQ.net] >>694 GPSとか他の情報も使うだろう 自動運転の一つの要素技術じゃね？ 714 名前：デフォルトの名無しさん mailto:sage [2016/01/05(火) 12:53:25.84 ID:obWQh19X.net] 人は知識と経験を積んで、予想外の例外にも演繹で対応できる点が優れ、 機械では当面追いつけないないと思う。 むしろ>>695氏の言うように、過去の病歴や生活パターンから注意点を導いたり 健康管理で一人一人の健康レベルの底上げをはかり、社会に寄与できると思う。 715 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 02:32:20.19 ID:sR20wUY6.net] 悪性腫瘍の診断では、人間の診療放射線技師より上だそう。 教師データは診療放射線技師が作成。 ディープラーニングの肺がん検出率は人間より上、スタートアップの米Enlitic techon.nikkeibp.co.jp/atcl/column/15/425482/122400073/ 716 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 07:48:02.26 ID:iTSdr/2d.net] tensorflow 何か凝ったことしようとするとC++のコード書かないといけないみたいだけど そんな話題になるほどすごいの？ Sec2Secは良くできてるというのは見た でもそれをちょっと改造とか簡単に出来ないようにわざとしてない？ そのためにC++必須になってるでしょ 717 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 09:01:15.50 ID:lsW5ZHIj.net] 必要ならＣ++のコード書けばいいじゃん… 718 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 11:29:03.99 ID:k/EYRH1D.net] >>699 スクリプト言語しか書けないのが異常だから 719 名前：デフォルトの名無しさん [2016/01/06(水) 19:00:17.75 ID:ytcJhMv2.net] kaggleの株の問題、全然歯がたたない＼(^o^)／ 相関が高そうな系列同士で周期とか分散をFeatureで回帰した状態空間なんだろうか。 720 名前：デフォルトの名無しさん [2016/01/06(水) 21:10:28.38 ID:8fQ2QgwP.net] BackPropって計算が非線形だから苦しいんだけど・・・ 事前学習してるのに多層だと誤差が減っていかない・・・ 721 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 21:14:45.25 ID:CT8NBJL6.net] そこで転移学習ですよ 722 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 22:54:42.91 ID:lsW5ZHIj.net] >>703 何を今更 w 723 名前：デフォルトの名無しさん [2016/01/06(水) 23:05:39.83 ID:Jr2tfpvm.net] このスレの人は普段どういう環境で仕事や研究してるの？マシンスペックや言語晒してください。 自分専用のはwin7 64 16gb corei7 3.6Ghzだったかな？ あと、サーバーは、、、よく覚えてないが、メモリは1テラあった気がする。 724 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 23:06:11.51 ID:CSSATOB0.net] 線形か非線形かは誤差の減少という観点で見るなら本質的な部分じゃない そんな発言するのは何も 725 名前：わかってないからだろう [] [ここ壊れてます] 726 名前：デフォルトの名無しさん [2016/01/06(水) 23:09:52.39 ID:8fQ2QgwP.net] え？何の話？ 727 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 23:35:37.39 ID:ZkA7CQKn.net] いや何の話ってあんたが言い出したことだろうに・・・ 728 名前：デフォルトの名無しさん mailto:sage [2016/01/06(水) 23:42:19.64 ID:k/EYRH1D.net] たまに出てくるツッコミ所満載の書き込み、味わい深い 729 名前：デフォルトの名無しさん [2016/01/07(木) 00:30:50.55 ID:eforQfo6.net] >>709 >線形か非線形かは誤差の減少という観点で見るなら本質的な部分じゃない 意味がわからないんだけど。 線形回帰なら厳密解出せるし BackPropのコツ云々は全部非線形だから生じてる問題なわけで 730 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 01:02:45.43 ID:+tDbaGUk.net] 線形だと単層と同じになっちゃう 731 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 01:35:03.91 ID:3W4TUIrV.net] 大抵の問題では誤差からしてすでにほぼ非線形なんですが・・・ 732 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 05:24:17.00 ID:FwQlPiGy.net] >>706 コーディングはMac、深層学習機はUbuntu14.4 980ti メモリ32G CPU8スレッド　CUDA7.0 Ubuntu14.4が一番楽 733 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 06:39:42.50 ID:UuGU9Ruz.net] いつのまに Ubuntu 14.4 が出たんだw 734 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 07:48:27.88 ID:mMyFA9di.net] 14.04LTSと予想 735 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 14:36:13.95 ID:FwQlPiGy.net] はい>>716です、すいません 736 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 18:15:49.18 ID:gwiVtHRa.net] 学習させる分野によってはいろいろと変わってくるものだな 画像以外を扱うときはよく言われていることを一度全部忘れたほうがいいと思う 737 名前：デフォルトの名無しさん [2016/01/07(木) 21:04:05.30 ID:eforQfo6.net] >>713 誤差が非線形って？ 確率密度関数が非線形って意味？ 当たり前じゃん 738 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 21:27:36.52 ID:wxG0+LQJ.net] 初学者で今ニューラルネットワークの実装を行っているところなのですが 論理演算のような2入力2出力などの簡単な分類は成功するのですが 入力50次元出力3次元の教師データ5000サンプルを学習させると 結合の重みが学習を重ねるごとに大きくなってしまい，どのサンプルを入力しても同じ出力を出してしまいます 本を参考に作ったのですがこれは何が原因でしょうか？ 739 名前：デフォルトの名無しさん [2016/01/07(木) 21:40:14.58 ID:eforQfo6.net] BackPropはコツがいろいろあるよ。学習係数は調整した？ ウィキペディアに載ってるノウハウは試した？ 740 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 21:55:15.09 ID:wxG0+LQJ.net] >>721 ありがとうございます 目から鱗な情報がたくさんありました 一つ一つ試してみようと思います 741 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 22:00:30.20 ID:QdppxSxV.net] 過学習起こしてるから、なんか工夫しないと ドロップアウトとか 742 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 22:45:44.11 ID:wxG0+LQJ.net] >>721 >>723 教師データが一通り訓練し終わったらシャッフル 非線形関数をシグモイド関数からアークタンジェント関数に変更 時間とともに学習係数を小さくする（手抜きで一通りするごとに×0.95） 試しにこれだけやってみたところ期待した出力に近いものが得られるようになってきました ただ学習回数，学習係数，学習係数低下具合の手探り感が否めません 743 名前：デフォルトの名無しさん [2016/01/07(木) 22:53:07.41 ID:eforQfo6.net] 実際、提案されてよく使われてるのなんかも経験則だから手探りだよ。 非線形最適化だから量子コンピュータでもないとまともに解けない。 ついでに乱数の質がいいもの使わないと誤差の収束悪くなるよ。 C標準のrand()なんかじゃ駄目。俺はメルセンヌツイスタ使ってる。 744 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 23:20:44.71 ID:aiGbFH0T.net] あほと言っていいですかｗ 745 名前：デフォルトの名無しさん mailto:sage [2016/01/07(木) 23:27:06.06 ID:QdppxSxV.net] 収束は確率的最適化だから最適解に落ちていくから少し違うような どんな乱数使ってもオートエンコーダ使えばあまり関係ないような 746 名前：デフォルトの名無しさん mailto:sage [2016/01/08(金) 00:42:49.27 ID:tl8xR71t.net] 乱数の選び方は関係がある ただそれはメルセンヌツイスタがどうとかそういう話ではない 良い乱数を使うべきなのはもちろんそうだが、メルセンヌツイスタ使ってるからいいとはならない 747 名前：デフォルトの名無しさん mailto:sage [2016/01/08(金) 01:15:23.15 ID:Jxm/dn3x.net] 乱数をどういう分布からサンプリングするのかとどうやって生成するかって話を混同してるのか 748 名前：デフォルトの名無しさん [2016/01/08(金) 01:17:24.58 ID:yzqusPMF.net] いやもちろん一様分布生成器使ってるよ 749 名前：デフォルトの名無しさん mailto:sage [2016/01/08(金) 16:10:06.89 ID:N/KCc9Ka.net] CNNの層を増やすとテストデータでの精度どころかの学習時精度も下がるんだけど、なんでか分かる？ 750 名前：デフォルトの名無しさん [2016/01/08(金) 16:43:16.95 ID:zcJ6neBq.net] 増やしたから 751 名前：デフォルトの名無しさん mailto:sage [2016/01/08(金) 17:07:06.05 ID:N/KCc9Ka.net] >>732 学習時の精度に限ったら多層化すればするほど上がるんじゃないの？ 752 名前：デフォルトの名無しさん [2016/01/08(金) 17:54:22.92 ID:zcJ6neBq.net] 　　　　 　,一-、 　　　　 /￣　l |　　　／￣￣￣￣￣￣￣￣￣￣ 　　　　■■-っ　＜　んなこたーない 　　　　´∀｀/ 　　　＼＿＿＿＿＿＿＿＿＿＿ 　　 ＿_／|Ｙ/＼. 　Ё|＿_　| /　　| 　 　　　| У..　　| 753 名前：デフォルトの名無しさん mailto:sage [2016/01/09(土) 00:21:22.71 ID:KXJBMPU3.net] >>733 増やしたせいで妙なところにハマるようになった可能性はある 学習率と更新アルゴリズム（adadeltaとか）いろんなのためしてみ まあ一番可能性高いのはプログラムが普通に間違ってる可能性だけど 754 名前：デフォルトの名無しさん mailto:sage [2016/01/09(土) 00:34:21.06 ID:du0v5r2E.net] >>735 単純に層を減らすだけでちゃんと精度出るし、ライブラリそのまま使ってるからプログラムのミスはないと思うんだよなー まぁ色々試してみるよ

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef