- 1 名前：デフォルトの名無しさん mailto:sage [2019/01/13(日) 09:13:37.19 ID:lpjZ4t830.net]
-
機械学習とデータマイニングについて語れ若人
■関連サイト
機械学習の「朱鷺の杜Wiki」
ibisforest.org/
DeepLearning研究 2016年のまとめ
qiita.com/eve_yk/items/f4b274da7042cba1ba76
■前スレ
【統計分析】機械学習・データマイニング21
https://mevius.5ch.net/test/read.cgi/tech/1541309676/
VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured
- 496 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 08:55:48.62 ID:xCJYZ1tAM.net]
- 赤子からちまちま勢って総じて昨今のAI技術知らない無能だよな。
- 497 名前：デフォルトの名無しさん [2019/02/05(火) 11:02:47.01 ID:dQJUt0gZF.net]
- AVの動画のカットから女優の名前とか作品名を教えてくれるツールが欲しい
出来ればまんこから女優が判るとか
究極は女優からまんこが判るとか
あったらいいな
- 498 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 11:07:59.58 ID:U3ovACoN0.net]
- >>482
スケベ博士
で検索
＞まんこから女優が判る
＞女優からまんこが判る
これはちょっと厳しそうだ
- 499 名前：デフォルトの名無しさん [2019/02/05(火) 14:17:15.43 ID:6QU1ObOX0.net]
- 467
既に知ってる人が観て自分の知識で補完しながら判る(というより変なこと言ってるなーと確認)だけの糞動画
知らない人はこんなの観ても判らないだろうから役に立たない
しかも読んだことない本を他人に薦めるとか基地外レベル
不動産とか詐欺師要素満載
- 500 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 14:59:16.82 ID:en83hCX30.net]
- >>479
自分はそもそも >>457 からの流れで書いてるから、いまのディープラーニングブームがこのまま進んで、AGI(汎用人工知能)へ発展していく可能性はあるか? という話をしている。
その観点から言うと、人間が教師データをすぐに与えられるような問題はすでに解決されつつあるし、今回のブーム内で遠からず解決するでしょう。
でも、AGIに求められるのはアブダクション(仮説形成)で仮説を立ててそれを演繹的に適用していくようなことだから、特徴量が違ったら(センサーが違ったら)その過程で人間とはまったく違うものになっていったりしないのかな? と。
- 501 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 15:08:27.57 ID:en83hCX30.net]
- 教師データを与えられないような問題とは何かというと、例えば、対話破綻検出チャレンジで、
人間とBotが雑談対話したログについて、Botの発言が「破綻していない、破綻している、どちらともいえない」で○×△のアノテートを付けた教師データを用意したわけだけど、
複数のアノテータ間で○×△がぜんぜん一致しない、みたいな。
- 502 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 15:08:46.86 ID:U3ovACoN0.net]
- このスレにTPU使える人ってどれぐらいいるの？
TPU使える人はレスして欲しい
俺？使えない。勉強中。
- 503 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 15:54:41.38 ID:g69ahB5U6.net]
- このスレでDQNて見るとDeep Q Networkかなって思っちゃう
- 504 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 16:22:43.88 ID:wW+clSha0.net]
- Deep Que Network、つまり超遅延ネットワークか
- 505 名前：デフォルトの名無しさん [2019/02/05(火) 17:19:44.79 ID:B/yuDWEQp.net]
- >>486
ランダムとか分布に従って○×△を出力すればいいのでは？
分布を学習するくらいかな
- 506 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 17:52:32.16 ID:eyH/A/wk0.net]
- particular convolution をやろうとしてるけど、GPUよりTPUの方が遅くなってしまう。
バッチサイズの上手い上げ方が分からん。。。
- 507 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 20:39:31.43 ID:U3ovACoN0.net]
- GAN関連まとめ
https://urusulambda.wordpress.com/2018/07/09/%E4%BD%95%E3%82%92%E3%81%97%E3%81%9F%E3%81%84%E3%81%8B%E3%81%A7%E6%9C%89%E5%90%8D%E3%81%A9%E3%81%93%E3%82%8D%E3%81%AEgan%E3%81%AE%E7%A8%AE%E9%A1%9E%E3%80%81%E6%B4%BE%E7%94%9F%E3%82%92%E6%95%B4/
- 508 名前：デフォルトの名無しさん [2019/02/05(火) 20:43:51.48 ID:XGEa1Xama.net]
- >>443 >>442 >>439
東ロボは失敗したわけではない。
Google最新技術「BERT」と「東ロボ」との比較から見えてくるAIの課題
https://hbol.jp/179474
- 509 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 21:24:10.02 ID:U3ovACoN0.net]
- >>493
サイドバーに安倍総理と統一教会の関係とかあるのがなぁ
信憑性低すぎる
- 510 名前：デフォルトの名無しさん mailto:sage [2019/02/05(火) 21:47:10.77 ID:8rla1P690.net]
- え？それって昔からそうじゃん。
今更ｗ
- 511 名前：デフォルトの名無しさん [2019/02/06(水) 08:14:07.00 ID:IN2INEgva.net]
- >>494
ハーバービジネスっって、扶桑社系列でちょっとオカルト的な色彩と政治色があり
あの菅野完とか持ち上げたりというメディアですよ。
信用して読む雑誌じゃ～ない。ま、宝島みたいなものかな。
名前からハーバードビジネスに勘違いしそうだけど、まるきり関係ない。
- 512 名前：デフォルトの名無しさん [2019/02/06(水) 08:17:24.24 ID:IN2INEgva.net]
- >>495
それは左巻き洗脳にだまされてるよ。
統一教会は中東で人質になった人などに関係がある、西早稲田の
教会などとの関係が深い。
日本ではいわゆるリベラルグループに見せかけてる。
- 513 名前：デフォルトの名無しさん mailto:sage [2019/02/06(水) 09:44:52.91 ID:c+72sooX0.net]
- >>496
やっぱりそういうサイトだよね、ありがとう
- 514 名前：デフォルトの名無しさん [2019/02/06(水) 12:18:03.19 ID:VRrkIzS/0.net]
- 【スパコン】「京」、8月に運用を停止し、その後撤去
https://asahi.5ch.net/test/read.cgi/newsplus/1549414089/
- 515 名前：デフォルトの名無しさん mailto:sage [2019/02/06(水) 20:08:00.76 ID:a9JemvY20.net]
- >>497
安倍の親父の岳父は岸信介だから洗脳も何も
ないじゃん。
- 516 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 06:06
]
- [ここ壊れてます]
- 517 名前：:55.76 ID:OXMTVmAn0.net mailto: kaggleは成績ランキング見れないんだな
見れるのは上位三人だけか。
外人じゃ仕事ふるの面倒くさいし、これじゃ仕事がくるわけないな [] - [ここ壊れてます]
- 518 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 09:29:31.79 ID:0RPtZKEtM.net]
- kaggleのタイタニックが80%行かない
webで80超えたって行ってる人たちとそんなに変わったことしてないはずなんだけどな
100%がチートなのはすぐわかるけど、90%行くのも信じられない
- 519 名前：デフォルトの名無しさん [2019/02/07(木) 11:56:40.72 ID:QFRGgOnCd.net]
- 未経験からAI人材になれる
Neural Network Console スターターパック19万8000円は買いですか？
www.itmedia.co.jp/news/spv/1902/04/news003.html
- 520 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 12:11:05.30 ID:vY2rplJUa.net]
- それを使いこなせてもAI人材ではなくNeuralNetworkConsoleという内部的にディープラーニングを利用したソフトウェアのオペレーターにしかなれないだろ
- 521 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 12:16:25.54 ID:9WOIINk00.net]
- >>503
今はまだ時期早々って感じ
「工場の傷の検品」ぐらい超簡単な判別機ぐらいなら作れると思う
ただ、判別した結果を別のシステムにつなげるのはハードル高そう
>>504
日本人が使うと、エクセルがAIに変わるだけのような気がする
AIよりも手作業の方が早い、みたいな
- 522 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 14:17:07.43 ID:0z5C548Yp.net]
- >>505
時期尚早かも知れないが今のDeep Learningは所詮はこんなもんだからいいんじゃない？
コンポーネント組み合わせているだけだしね
途中の出力結果をモニタリングできればTensorboardの代わりになる
- 523 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 14:25:14.03 ID:9WOIINk00.net]
- >>506
そうだねぇ
今は結果がでなくて良い、将来の投資と考えれば20万は全然アリだろうね
恐らくそういうのは主流になっていくから、良いスタートダッシュが出来ると思う
結果を求めて20万を投資するのは止めたほうが良い
- 524 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 18:21:38.91 ID:1H8mfBsSM.net]
- >>503
その金額だとGoogle colabを使った方が良い。
- 525 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 18:44:00.55 ID:drP3SkmE0.net]
- >>508
いやいや本１冊とGPU１つの方が全然いいだろ。
５万円で終わって１から１０まで全て自分でできる。
そのサービスが何をやっているかは動画見ればもう分ったろ？
しかも１９万円「から」って何だよｗ
- 526 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 18:49:24.57 ID:0eYcDFTf0.net]
- youtubeで
アメリカ VS 中国 "未来の覇権"
を検索。
- 527 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 19:03:30.40 ID:9WOIINk00.net]
- >>509
要はこのサービスはpython使えない人用ってことでしょ
python使えればGPUで済むけど、
大企業になるほど企業の担当者がpythonから覚えるってのは時間的にも人件費的にもコストが高く付く
- 528 名前：デフォルトの名無しさん [2019/02/07(木) 20:21:51.37 ID:+UWXd1n20.net]
- >>511
大企業なら社内で研修とか外部に元々委託している研修とかあると思うけどな
- 529 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 20:36:00.25 ID:9WOIINk00.net]
- >>512
上場クラス・事務がメインの銀行なんかは絶対にやると思う
効果半端ないからな
小売とかは導入が遅そうだ
- 530 名前：デフォルトの名無しさん mailto:sage [2019/02/07(木) 23:51:27.14 ID:9WOIINk00.net]
- これって過学習？
https://raw.githubusercontent.com/sssste/DeepLeraningNotes/master/pic/stage1.jpg
- 531 名前：デフォルトの名無しさん mailto:sage [2019/02/08(金) 06:36:02.42 ID:yMYWywMo0.net]
- >>514
Stack GANのStage-1だから低解像度なのでは？
- 532 名前：デフォルトの名無しさん mailto:sage [2019/02/08(金) 06:56:58.65 ID:yMYWywMo0.net]
- >>511
論文読んでSEnet組むような場合にMATLAB/SIMLINKのようにGUIで線を伸ばせば実装されるくらいの出来であればpython使いでも有用かな
もしGUIで組んでpythonコードやC++コードが出力されるなら価値はグンと上がるけどどうかな
価格設定は高いように見えるけど、このレベルのソフトウェアはいくらでもあるし、お試しで導入するところはあるだろう
- 533 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 00:07:31.20 ID:3BsusPtA0.net]
- dcganとかのGANSって誤差がどんな推移すればいいの？
調べてもみんな言うこと違っててわからん
やっぱり生成画像みて判断するしかない？
- 534 名前：数おたさらり mailto:sage [2019/02/09(土) 01:10:09.52 ID:p2xboAXNd.net]
- >>517
>>221
- 535 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 01:24:39.56 ID:mHvlvZK80.net]
- >>517
誤差推移っとかもう職人ワザ
極論
＞生成画像みて判断
これで何も問題なければ良い
- 536 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 01:30:13.00 ID:mHvlvZK80.net]
- ロスが突然0になるってどういう状態？
https://i.imgur.com/HUwZbEi.png
- 537 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 09:29:36.35 ID:QwW7KGIt0.net]
- GANやってるのかな？
多分、generateする方よりも検出する方が強すぎる状態になってるってこと。
つまり失敗しとるってことだね。
- 538 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 09:56:17.78 ID:mHvlvZK80.net]
- >>521
ありがとう！
「奇跡の設定に成功してしまったのか！？」なんて考えていよ！失敗だよね、うん
- 539 名前：デフォルトの名無しさん [2019/02/09(土) 11:04:05.64 ID:GXylZ965a.net]
- >>517
wasserstein ganは誤差が綺麗に収束して学習が上手く行ったか分かりやすいのでおすすめ
- 540 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 12:08:32.81 ID:3BsusPtA0.net]
- >>518,519,523
やっぱり実際に画像みて判断するしかないか
あと気になってるのはたまに誤差が負の値になるんだけどありえないよね？
なんで負が出てくるんだろ
- 541 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 13:36:37.83 ID:oCn/KMFX0.net]
- 前に書き込んだモザイク消しを試そうとしてた者だけど、ぼかしよりはマシな感じなのができた。もっと学習させれば実用化までいけそう。
- 542 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 14:00:27.71 ID:wHMUkJ2C0.net]
- >>525
応援してます！w
- 543 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 14:11:22.61 ID:8SxZYHb30.net]
- モザイク消しって公開・販売できるのかな
- 544 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 14:27:00.81 ID:kQ2GB04C0.net]
- みんなKaggleとかSignateやってんの？
Signateは賞金安いのに権利全部よこせとか、優秀だけど安く雇える学生だけ探してるわとか、
訓練画像20枚な、とかで絶望しか感じないんだが
- 545 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 14:34:37.19 ID:7TWwPtew0.net]
- ついにこのスレからAI戦士が生まれてしまうのか
- 546 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 14:48:19.38 ID:L4+PAs2u0.net]
- AI戦士参上、シャキーン
- 547 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 15:02:24.59 ID:mHvlvZK80.net]
- >>527
「わいせつ物頒布罪」はあるが、このプログラム自体はわいせつでもなんでもない
しかし、モザイク付きの画像・動画とセットで配布した場合、
それは単に特殊な圧縮形式と看做されるかもしれない
どうなるかは其の時にならないと分からない
- 548 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 15:18:53.88 ID:oCn/KMFX0.net]
- 納得はできないが、重み付きのモデルデータ配布はグレーな気はする。
学習装置のみ配布だったらクリアだろうよね。
- 549 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 15:30:03.48 ID:mHvlvZK80.net]
- よく考えたらモザイクなんてpix2pixで簡単に実装でき�
- 550 名前：ｻうな気がしてきた []
- [ここ壊れてます]
- 551 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 15:30:24.79 ID:mHvlvZK80.net]
- モザイクじゃなくて、モザイク解除だった
- 552 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 17:47:46.95 ID:vFLtltfzp.net]
- >>528
たまにやるけど最適化競争より面白いモデルや新しいモデルを試してる感じ
良いスコアが出そうなら頑張るけど工数はそれなりにかかるんでね
それでもSIGNATEを日本の企業はもっと活用すべきだと思うけどね
同じ仕事を外部に発注したら賞金の10倍以上の予算使ってもコンテスト以上の物は絶対に出て来ない
コンテスト終わったらデータ全部消せとかプログラムの版権寄越せというなら上位以外にも賞金出さないとダメだと思うし、いろいろと改善の余地はあるんじゃないかな
- 553 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 18:42:16.00 ID:FxR8wGmH0.net]
- >>531
昔モザイクかけるFLMaskの作者が捕まってたよね
あんまりきわどいとこで目立つと何されるかわからん
- 554 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 19:28:51.64 ID:xSakQZALa.net]
- モザイク除去はcyclegan出て真っ先に試されてたな
やはりエロは技術を進める
- 555 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 19:39:09.50 ID:FxR8wGmH0.net]
- エロ系ってコーディングしてるうちにムラムラしてくるのが厄介だよね
- 556 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 21:44:47.21 ID:oCn/KMFX0.net]
- 好みの画像だけで学習させれば、微妙な画像を良い感じの画像に変換できるんだよな。
マジでAVやIVがモーションデータみたいに使われるのが普通になっていくかもしれん。
- 557 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 22:54:16.11 ID:3BsusPtA0.net]
- やっぱり今のディープラーニングはGANSが流行ってるのかな
やってる人多いね
- 558 名前：デフォルトの名無しさん mailto:sage [2019/02/09(土) 23:48:24.43 ID:QwW7KGIt0.net]
- GANは正直収束させるのが激ムズだけど、出てくる画像とか見てると面白いんだよね。
- 559 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 00:48:54.78 ID:tgFjaU2a0.net]
- 深層学習ってなんでちゃんといい解求まるのか不思議
自分でコード書いて実行してちゃんと学習してるのみるともっと不思議
たまに盛大に失敗するけど、どういうときにちゃんと学習するのか経験と勘が必要だなって感じる
- 560 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 01:37:52.39 ID:Z3H3Tv4Q0.net]
- >>536
そりゃーただの復元可能なマスクだからな
あんまり意味ない・・・
＞わいせつ図画公然陳列幇助
- 561 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 01:38:42.68 ID:Z3H3Tv4Q0.net]
- >>542
楽しいっちゃ楽しいんだけど、デカイ事やろうとすると2,3日かかるのが辛い
もっとテンポよくやりたいけど、精度が下がるんだよね
- 562 名前：デフォルトの名無しさん [2019/02/10(日) 12:26:32.09 ID:n7nGuX8W0.net]
- tensorflowの公式サイトがIEやedgeだとレイアウトがうまく表示できないようになってて笑った
chrome以外のブラウザでは観るなってことか
- 563 名前：デフォルトの名無しさん [2019/02/10(日) 12:33:17.40 ID:yDa0fUpq0.net]
- Microsoftは老害と成り果てたか
この前のアプデでレジストリいじってもCortana消せなくなったしよぉ
- 564 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 16:10:37.32 ID:QrqKTPz3M.net]
- 参考コード探してるんだけどKerasがなかなかなくて辛い
ライブラリシェアはtensorflow以下はどの程度なんだろ
- 565 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 16:13:45.99 ID:/5t+184M0.net]
- >>511
分析だけならデータ放り込めば良いだけのツールが有るし、
機械学習でモデルだけ作っても実装にはPGが必要なので、
Neural Network Consoleは中途半端
パラメータを自動で最適化してるらしいが、
同一の学習データに対して、他のライブラリの方が明らかに良い結果が出てた
- 566 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 17:10:47.85 ID:UkuyqG6P0.net]
- keras使うくらいならpytorth使えよ
- 567 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 17:18:21.64 ID:Z3H3Tv4Q0.net]
- >549
知ら�
- 568 名前：ｸに言ってるのが良く分かるぞぉ～
大抵は両立している。kerasで学習中にpytorch、その逆、等 [] - [ここ壊れてます]
- 569 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 18:19:58.29 ID:L/vUvPOUp.net]
- >>548
構造の自動最適化はちょっと羨ましい
自分で書くと面倒なんだよね
交換可能なモジュールのグループ化とかね
みんな自分用の最適化ツール作ってるのかな
- 570 名前：デフォルトの名無しさん [2019/02/10(日) 19:22:40.50 ID:Jb5869jLa.net]
- >>545
GoogleはChromiumに仕掛けしているようで、たとえばYoutube
なども稼働するOSの上で弄っているらしい。それはChromiumで吸収してい
ようで、たとえば各種のOSじょうに独自のブラウザ提供しYoutubeも支障なく
見られるようにするには、一つ一つ別途に弄るか、Chromiumをレンダリング
エンジンに使うかの選択が必要になるようだ、マイクロソフトは今後の方向と
して主要OSにさまざまなものを提供する方向にあるが、その際に開発負荷を
減らすためにレンダリングエンジンをChromiumに変更した。
とのことらしい。
これと同じようなことだとしたら、Vivaldiで動かしてみたら使えるかも
しれんよ。暇だったら試してみて。
- 571 名前：デフォルトの名無しさん [2019/02/10(日) 19:24:05.44 ID:Pbk6oQIR0.net]
- 改行きもいけどどこからコピペしてきたん？
- 572 名前：デフォルトの名無しさん [2019/02/10(日) 19:29:33.73 ID:Jb5869jLa.net]
- ＞＞５４２
＞深層学習ってなんでちゃんといい解求まるのか不思議
解が求まっているっというわけでもないんだが
ま、求めているものに近いものが他より効率よく出力される
と言った方がいいのかな？
だから、深層学習も、自分で出した結果を見て
「真相はいかに？」と思ってんだと思うよ
- 573 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 19:32:49.87 ID:xy09hI340.net]
- 藪の中
- 574 名前：デフォルトの名無しさん [2019/02/10(日) 19:36:56.56 ID:PsXGMK3/0.net]
- 飼い主にとってきたものを見せる猫
- 575 名前：デフォルトの名無しさん [2019/02/10(日) 19:46:23.77 ID:4R8paj5za.net]
- >>542
誤差曲面には局所解や鞍点が無数にある筈なのにSGDのような単純な方法で良い解に辿り着けるのは長い間謎だったけど最近になってこの辺が理論的に解明され始めてる
- 576 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 20:05:40.24 ID:EWmLbbO60.net]
- バッチサイズを大きくすると学習効果が低いというのもよくわからん話だな。
これって人間でいえばドリルを一気にやってから答え合わせするよりもちょこちょこ
答え見て解答してった方が勉強効率が良いってことだよね？
- 577 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 20:39:31.71 ID:L/vUvPOUp.net]
- >>558
バッチサイズの大きさと学習効果については相反する議論が展開されていて、バッチサイズが大きくても学習率を下げれば性能は変わらないとする論文がある
更新分は
(epsilon / batch_size) * (sum of grad)
なのでbatch_sizeを倍にしたら学習率を半分にするといい
勾配分だけがbatch_sizeの影響を受けるので、モデルおよびデータ次第ではどっちにも転ぶことになる
- 578 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 20:49:45.78 ID:spsEs2Cn0.net]
- 最近勉強し始めた超初心者だけど、なんとか学習モデル生成出来るとこまできた
(ほとんど参考サイトのコピペだけど…)
が、マシンスペックが全然足りなくて学習が進まない…
↓この参考サイトの著者は100epochsで12時間かかったらしいが、俺は7時間かけて2epochsだけ
app.m-cocolog.jp/t/typecast/603293/510034/88662045
「ちょっと自分でモデル作って味見してみようかな」っ人には着手しづらいなぁ
- 579 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 21:00:11.02 ID:Z3H3Tv4Q0.net]
- >>560
cpuで動かしてない？
tensorflowがgpuで動いてるか試してみて
from tensorflow.python.client import device_lib
device_lib.list_local_devices()
https://qiita.com/yt6t6t/items/5df4a83f3223c6a8c600
- 580 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 21:03:00.43 ID:L/vUvPOUp.net]
- >>560
そこそこ良いGPUないと面白さは半減だねぇ
Google Colaboratryでもいいけど長い時間の学習は処理を分割させる必要があるし、画像系はデータが巨大になりがちだし、趣味でやるには少しハードル高いよね
- 581 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 21:07:42.13 ID:Z3H3Tv4Q0.net]
- ColaboratryのGPU性能はGTX970ぐらいだったかな
結構微妙な性能な上に、制約が多いから買ったほうが良い
TPU使えるなら凄いんだけど、俺は無理だった
- 582 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 21:35:28.36 ID:7aqx1gb30.net]
- ColaboravoryでTPU使うのにただ切り替えるだけじゃだめなんだよね
あれ使えればかなり楽になると思うし体験してみたいけどそれ用にコード変更しなくちゃいけないんでしょ
- 583 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 21:41:12.60 ID:Z3H3Tv4Q0.net]
- >>564
一から書ける技量が無いと対応できない
githubに転がってるやつをちょっと変えれる程度じゃ無理
データも容量的に厳しいので、googleドライブにおいてそこからapiでひっぱってきて・・・とかなり面倒
その内ラッパーとか出来ると思うけどね
- 584 名前：デフォルトの名無しさん mailto:sage [2019/02/10(日) 22:44:44.91 ID:7aqx1gb30.net]
- >>565
そうか残念
拾ったCycleGANのコード動かそうとしたら重くなって落ちたからTPUでやってみたかったんだけどね
ところでcolaboratoryでコードの出力欄に四角いダメ顔マーク出てくるのはなんの意味なんだろうか
メモリ不足？
- 585 名前：デフォルトの名無しさん [2019/02/11(月) 07:49:10.66 ID:hy2CndF0a.net]
- >>553
それ使ってる環境しだいだよ。胆くするブラウザ使ってるから。
- 586 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:15:55.18 ID:/CQzGcw7a.net]
- 機械学習とAIの違い
https://pbs.twimg.com/media/DzFdrL4XQAAKsnr.jpg
- 587 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:19:26.96 ID:pkTvfEUJ0.net]
- >>563
嘘乙 Tesla K80 12GBだろ。GTX970の速度じゃない事くらい試せばすぐ分かる。
- 588 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:34:49.25 ID:QSAhduNJ0.net]
- >>561
cpuでやってました！
gpu版になんとか設定したものの新たなエラーが出て四苦八苦中ですw
- 589 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:38:20.31 ID:QSAhduNJ0.net]
- >>562
5年くらい前に組んだPCでゲームはやらずマルチディスプレイが出来ればいいので、安物グラボ積んでます…
玄人志向GTX650で当時5000円ぐらいだったような
https://i.imgur.com/CaDWMha.jpg
- 590 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:39:32.95 ID:fMjwAL+60.net]
- >>569
こないだ暇だったからmnistで計測してみたから間違いない
スペックも実測値も、ほぼGTX960～GTX970当たりの性能
K80のGPUが1/2になる事を考慮すると、スペック的にも大体合うはず
- 591 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 13:58:09.69 ID:pkTvfEUJ0.net]
- >>572
それはすまない。GTX1060Tiよりも速かったので、俺の組み方が悪かったのだろうな。メモリが少なかったせいかもしれない。
- 592 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 16:51:58.13 ID:OF3/TB8A0.net]
- mnistとかなんのベンチマークにもならんわ。imagenetくらい回してくれ。
- 593 名前：デフォルトの名無しさん [2019/02/11(月) 17:06:00.23 ID:UQjSOk2h0.net]
- GPUに辿り着く以前にラーニングの前処理で異様に時間がかかる
ひょっとしてcolaboratoryのCPU1コア？
データ読み込んで特徴量増やしてるだけなんだが・・・
- 594 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 17:38:33.08 ID:pkTvfEUJ0.net]
- >>575
zip解凍も結構時間かかってるよ。CPUやファイルアクセスは貧弱っぽい。
- 595 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 19:02:48.18 ID:rLkbUlECp.net]
- >>573
モデルによるかな
小さなモデルでバッチサイズ大きめな学習はK20速いけどモデルが大きくなると遅い
- 596 名前：デフォルトの名無しさん mailto:sage [2019/02/11(月) 19:32:19.07 ID:TvLOMK+p0.net]
- >>568
ネタなのは分かるけど、共感できなくてどこがおもしろいのかわからない
|
 |
