【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授★２

1 名前：野良ハムスター ★ mailto:ageteoff [2017/08/23(水) 22:55:16.53 ID:CAP_USER9.net] ■シンギュラリティは来ない ――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？ 脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。 ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。 ――雇用に対する影響は、バカなAIでも十分起こるわけですね。 そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。 ――人間が輪の中に入る？ 人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。 同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。 tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg 松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一） toyokeizai.net/articles/-/185506?page=3 ★1：2017/08/23(水) 13:12:59.67 前スレ https://asahi.2ch.net/test/read.cgi/newsplus/1503461579/ 679 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:50:36.97 ID:S9w5g46P0.net] >>627 いつの話だよｗ 680 名前：名無しさん＠１周年 [2017/08/24(木) 16:51:38.65 ID:bHbExaag0.net] >>679 単純労働と同じようになると いうことだ　あらゆる分野において 681 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:54:18.07 ID:Ohdt+soL0.net] そもそも人間の脳が最適解とは限らないしなぁ。 682 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:54:22.06 ID:S9w5g46P0.net] >>640 それは機械が人間の裏をかけるか、にかかってるんじゃない？ 将棋とか囲碁とか限られたルールではなくて実世界でどれだけの自由度を自発的に発揮できるか 1VS1のドッグファイトだけのAIとは全く違うアプローチが必要 つか機械がすべての情報を正確に捉えられると思い込みすぎ 将棋や囲碁みたいに決められたグリッドは実世界にはないんだよ 683 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:56:14.39 ID:S9w5g46P0.net] >>680 で、それはいつなると思ってるの？って聞いてるんだが？ 684 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:56:50.38 ID:WuLFZDb40.net] >>669　いい読みしてるね。 シンギュラリティについては微妙に回避して答えてない。とも読めるんだよね。 685 名前：名無しさん＠１周年 [2017/08/24(木) 16:57:48.40 ID:bHbExaag0.net] >>682 現実は物理法則という限られたルール でできている　変わらんよ 686 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:58:29.73 ID:Ohdt+soL0.net] ＞将棋や囲碁みたいに決められたグリッドは実世界にはないんだよ 俺たちも認識するときにはグリッド使ってんだろう。 687 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:58:34.68 ID:S9w5g46P0.net] >>655 SFってのは案外馬鹿にならない洞察をしていることも多いんだが何を持って「古すぎる」と言い切れるのか 688 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 16:59:27.78 ID:S9w5g46P0.net] >>685 まあそれで単純かできると思ってる人間には確かに単純なんだろうなｗ 上の方で自動運転は反応速度が速ければあとは物理法則だから簡単、とか言ってたアホウもいたよ 689 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:00:28.44 ID:S9w5g46P0.net] >>686 お前さんが歩くときに常にグリッドがないと歩けないならその通りだなｗ 690 名前：名無しさん＠１周年 [2017/08/24(木) 17:01:51.61 ID:DtdUQMLa0.net] AIが設計したAIが発展させて AIが設計したAIが設計したAIが維持して AIが設計したAIが設計したAIが設計したAIが潰す 691 名前：名無しさん＠１周年 [2017/08/24(木) 17:09:08.66 ID:wXxAXW7c0.net] >>690 創造と維持と破壊 692 名前：名無しさん＠１周年 [2017/08/24(木) 17:21:02.12 ID:mfSQE1ic0.net] 日本の経営社が御神託のように某国製の経営指南ＡＩにコンサルティングをさせると、 それらの各社の情報を全て把握している某国は、圧倒的に有利な神の視点を持てる。 そうして、悪意を持って日本の経済界を低迷させたり、実質インサイダー取引をしたり、 わざと違法なことを気がつかれないように勧めたりなどして弱みを握って操れる。 これに似たのが大手の宗教団体。 信者が教団にお願いとかお伺いをたてると、それを全て記録把握して知識として持つ。 すると、大勢の内部の事情を把握できるので、信者側よりも圧倒的に強い立場に立てる。 その知識を利用して、アドバイスをすると、その裏情報を知らない信者にとっては、 教団が世の中をお見通しであるかのように思われる瞬間が現れる。そうやって信心を 深めておいて、ずるずると沼に 693 名前：名無しさん＠１周年 [2017/08/24(木) 17:22:34.60 ID:bHbExaag0.net] >>688 人間と同じさ　aiはそれだけ 人間も全ての情報を正確に捉えられないし 限られたルールの中で行動している ただ人間は戦闘機に乗るようできていない それだけが違いさ 694 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:24:18.11 ID:Ohdt+soL0.net] >>689 ＞ お前さんが歩くときに常にグリッドがないと歩けないならその通りだなｗ 当たり前じゃん。 道路も崖も海も区別しないで歩いてたら今頃死んでるわ。 695 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:24:55.57 ID:S9w5g46P0.net] >>693 AI人間よりさらに正確な情報を得られない これだけの話 機械による外界認識がどれだけ難しいかをまず勉強したほうがいい 「物理法則なんだから自動運転は簡単なんだよ！」って自動車メーカーの開発に言ってみればいい 鼻で笑われるよ 696 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:25:14.13 ID:F593VeLJO.net] >>688 発達したAIにもどうしようもない事態というのは間違いなくあるだろうねそりゃ でも重要なのは、ならそれは人間なら対処できるのかという点 言い方を変えると、人間なら事故る状況をAIなら回避できるという場面がどのくらいの割合で存在するかということ ゼロか1、イエス・ノー、正誤じゃなくて割合の問題 今はAIにぶちこむデータも全く足りてないしセンサーも貧弱だからAIでこそ防げたという事態は凄く少ないだろうけど、 AI技術が進めば逆転し、その後は差が広がっていく一方だろうな 697 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:26:30.99 ID:S9w5g46P0.net] >>694 それは座標の話ではなく世界の認識の話ですよ それを座標情報として認識している人間はいない 698 名前：名無しさん＠１周年 [2017/08/24(木) 17:27:59.81 ID:bHbExaag0.net] >>695 まずあんたは物理法則　物理法則言ってるが 自分は物理法則なんだから自動運転は簡単なんだよとか一言も言っていないあんたが 勘違いしてるだけだ 699 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:30:01.85 ID:S9w5g46P0.net] >>696 勘違いしなでほしいがオレは完全自動運転が無理だとかいう話をしてるわけじゃないからな いつかはできるよ。でもすぐには無理 なぜなら機械による外界認識はディープラーニングだろうと簡単ではないから それを「簡単」だとあっさり言い切るのはど素人だけなんよ 700 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:30:55.41 ID:Ohdt+soL0.net] >>697 最初から認識の話をしてんだけど。 ＞つか機械がすべての情報を正確に捉えられると思い込みすぎ ＞将棋や囲碁みたいに決められたグリッドは実世界にはないんだよ 人間の認識もグリッドひいてんのと同じでしょ。 701 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:31:14.07 ID:S9w5g46P0.net] >>698 ごめん、素で何言ってるかわからない 物理法則がどうこう言い始めたのはオレじゃないし 702 名前：名無しさん＠１周年 [2017/08/24(木) 17:34:18.48 ID:bHbExaag0.net] >>701 そもそも物理法則とか言ってる奴 いるのか？ 703 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:35:15.83 ID:S9w5g46P0.net] >>700 なぜそこでグリッドが出てくるのかわからない だから将棋が認識できるAIは自然環境も認識できると？ 全然違うよねそれ 704 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:35:29.97 ID:F593VeLJO.net] >>700 脳はものすごく単純化して世界を認識してるそうだからな 線が見えない&線が可変なだけでグリッドと同じような処理をしてるらしいな そしてそれをほぼ全ての物事に対して行っている 705 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:37:33.69 ID:S9w5g46P0.net] >>702 キミとコイツだが？ 459 返信：名無しさん＠１周年[] 投稿日：2017/08/24(木) 12:07:06.07 ID:bC75UG030 [8/24] >>458 人間も物理法則という限られたルールの中 でしか行動してないよ　人間と変わらない 684 返信：名無しさん＠１周年[] 投稿日：2017/08/24(木) 16:57:48.40 ID:bHbExaag0 [7/10] >>682 現実は物理法則という限られたルール でできている　変わらんよ 706 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:38:20.78 ID:S9w5g46P0.net] >>704 機械はそんな単純じゃないから実世界の認識が大変なんだが… 707 名前：名無しさん＠１周年 [2017/08/24(木) 17:39:36.35 ID:Rj5nVnEo0.net] >>699 歩行者のいない高速道路での「ほぼ」自動運転については 自動車メーカーの開発ロードマップに載ってきつつある段階だね 歩行者のいる一般道路での完全自動運転はそれより遥かに難易度高い 急に飛び出してくる子供とか人間の運転者はもともと避けられないが 自動運転車を実用化するとなるとそういう突発事故も高精度で回避できるレベルが要求される これはまず不可能 現実的には自動運転ではなく運転アシスト機能の高度化という方向になる アクセルブレーキでコンビニに突っ込みかけたときに自動停止する機能のほうが優先度高い 708 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:39:48.35 ID:Ohdt+soL0.net] >>703 ＞つか機械がすべての情報を正確に捉えられると思い込みすぎ 人間が全ての情報を正確に捉えられてると思い込みすぎ、なんだよ。 人間も認識する際にはパターン化みたいなことやってるわけ。 それをそちらが言ってるグリッドって単語に言い換えたんだよ。 709 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:41:17.32 ID:Ohdt+soL0.net] >>704 頭いいな、わかりやすく書いてくれてありがとう。 710 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:42:15.68 ID:F593VeLJO.net] >>706 脳がフレーム問題を引き起こさない理由(のひとつ)だそうだからな 未解決問題の心臓部がそんなに簡単なわきゃないｗ 711 名前：名無しさん＠１周年 [2017/08/24(木) 17:42:49.64 ID:bHbExaag0.net] >>705 あんたが言ってた奴は 物理法則なんだから自動運転は簡単なんだよ と言ってたんだろう その発言は全く関係ないが 712 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:44:33.33 ID:S9w5g46P0.net] >>707 オレもそう言う認識 一般道での自動運転はハードルが高すぎる 「AIだから簡単なはず！」って根拠無く言い切る奴が多くて頭痛いわ 713 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:44:50.71 ID:DfnJYhYb0.net] 人間は適当に解決すること多いしな 道端に冷凍イカが落ちてたとするだろ　これに答えなんかないんだ イカが落ちてるで解決していい 714 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:45:50.25 ID:Jf3Psbxi0.net] AIに仕事を奪われた者は他の職業に就くことができるが、年収は確実に半減する さらに介護なんかに行ったら、半減どころか1/3になる 715 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:46:26.71 ID:S9w5g46P0.net] >>711 屁理屈いうなよ… 716 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:47:54.00 ID:DfnJYhYb0.net] >>712 まあ普段から車運転してりゃ無理なのわかるよね・・・ 717 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:48:15.89 ID:S9w5g46P0.net] >>716 だよね… 718 名前：名無しさん＠１周年 [2017/08/24(木) 17:49:55.46 ID:V328VH+T0.net] >>712 ａｉだから簡単なんて誰もいってないと思うが それこそ2045年にはシンギュラリティが来るって 説もあるぐらいでＡＩが発達すればできるように なるって話だろ 719 名前：名無しさん＠１周年 [2017/08/24(木) 17:50:44.44 ID:bHbExaag0.net] >>715 屁理屈はあんただろ617で物理法則云々 言っているからわかると思ってたが 720 名前：名無しさん＠１周年 [2017/08/24(木) 17:51:42.36 ID:bHbExaag0.net] >>719 700だった 721 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:52:26.75 ID:S9w5g46P0.net] >>718 なら、これはなんの話だったの？ 459 返信：名無しさん＠１周年[] 投稿日：2017/08/24(木) 12:07:06.07 ID:bC75UG030 [8/24] >>458 人間も物理法則という限られたルールの中 でしか行動してないよ　人間と変わらない 684 返信：名無しさん＠１周年[] 投稿日：2017/08/24(木) 16:57:48.40 ID:bHbExaag0 [7/10] >>682 現実は物理法則という限られたルール でできている　変わらんよ 722 名前：名無しさん＠１周年 [2017/08/24(木) 17:53:09.78 ID:iHW6aQM00.net] シンギュラリティ詐欺に国費が浪費されている。 その一部が、安倍太鼓持ち記者の山口敬之へ流れている。 723 名前：名無しさん＠１周年 [2017/08/24(木) 17:54:21.30 ID:V328VH+T0.net] >>721 それがなにか問題が？ 物理法則なんだからＡＩが発達すればできるようになるって 問題ないじゃん 物理法則じゃないならそれこそａｉじゃ判断しようがないだろうが 724 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:54:58.92 ID:S9w5g46P0.net] >>719 じゃあ何を意図していたんだよ 人間もAIも限られたルールでできてるからかわらんって言ってたんじゃないのか？ 725 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 17:55:46.97 ID:S9w5g46P0.net] >>723 そりゃ、いつかはできるだろって話はオレは初めから否定してないのだが…… 726 名前：米田裕敏 [2017/08/24(木) 17:56:37.00 ID:1nMpiE+A0.net] がんがんやれ。多くのことを機械にやらせて、人が働かなくてもいいようにしろ。 727 名前：名無しさん＠１周年 [2017/08/24(木) 17:59:40.45 ID:bHbExaag0.net] >>721 意味不　物理法則なんだから自動運転は 簡単なんだよと言ってた奴はいるのかと 聞いているのは話の流れみたらわかるだろ 728 名前：名無しさん＠１周年 [2017/08/24(木) 18:00:19.95 ID:V328VH+T0.net] >>725 急に飛び出してくる子供とか人間の運転者はもともと避けられないが 自動運転車を実用化するとなるとそういう突発事故も高精度で回避できるレベルが要求される これはまず不可能 君これに賛同しとるやん この人は不可能って言ってる 君のいういつかってのはいつの話？ 一応今の話だとあの慎重なトヨタですら2030年には 出来るって立場だよ 否定してる人は2030年でも無理って立場じゃね 729 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 18:00:34.69 ID:xyW+S55+0.net] 真っ先に公務員をクビにしろって判断する 730 名前：名無しさん＠１周年 [2017/08/24(木) 18:01:44.71 ID:KwZjf8n70.net] AIが高度に発達しても怠け者には恩恵が無いのだよ。 731 名前：名無しさん＠１周年 [2017/08/24(木) 18:10:55.59 ID:bHbExaag0.net] >>699 後一ついうが機械による外界認識は簡単とか 誰も言ってないし物理法則言ってた 457も含めて一般道で自動運転車できるとか　一言も言ってないぞ 732 名前：名無しさん＠１周年 [2017/08/24(木) 18:16:52.45 ID:bHbExaag0.net] >>731 あっ自得運転車は違う人か 733 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 18:18:30.57 ID:Q+AxmBjG0.net] 人間を部分的に越える道具自体は石器時代からあるしAIだけは今までの技術と違うという考えは自分たちの時代を特別視するバイアスのせい 734 名前：名無しさん＠１周年 [2017/08/24(木) 18:21:28.17 ID:8ZX7D5F+0.net] 来た方が面白いけど 投資を呼び込むための方便だろうしな 735 名前：名無しさん＠１周年 [2017/08/24(木) 18:21:52.20 ID:rfcts4O20.net] >>730 ベーシックインカムという恩恵を期待出来るし 高度に自動化されて高効率で商品が消費者の元に届くなら さらにデフレ圧力が加速して消費者にも恩恵がある 736 名前：名無しさん＠１周年 [2017/08/24(木) 18:25:10.97 ID:bHbExaag0.net] >>734 はっきり言って 人間が作るaiより機械が作るaiが 性能が高い状態は既に来ている というか逆にそうだったら この教授みたいに来ない来ないせんだろ 737 名前：名無しさん＠１周年 [2017/08/24(木) 18:26:21.04 ID:JCkFohGR0.net] AI同士で殺し合いして全滅 次の地球の覇者はナメクジらしい 738 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 18:26:25.72 ID:Q+AxmBjG0.net] 今だってゴネれば生活保護とかで現代の技術の恩恵を受けつつ働かずに暮らせるだろ 皆が働いてて一人だけ働いてなかったら尊厳何て未来もないよ 739 名前：名無しさん＠１周年 [2017/08/24(木) 18:26:43.99 ID:8ZX7D5F+0.net] >>735 エコ詐欺と同じで恩恵にあずかれるのはごく一部の特権階級だけじゃね？ 740 名前：名無しさん＠１周年 [2017/08/24(木) 18:26:53.79 ID:bHbExaag0.net] >>736 まあシンギャラリティは機械と人間の 融合だから正確には違うんだけどね 741 名前：名無しさん＠１周年 [2017/08/24(木) 18:31:21.35 ID:mfSQE1ic0.net] Ｃなどで書かれた通常の手続き型言語のソースコードであっても、 そのコードの意図が解読でき、動作が事前にすべて把握できるなどということはない。 ソースを書いた側であっても、バグを入れてしまうことが良くあるというか普通のことだ。 ＡＩのプログラムは、それが複雑な非線形最適化だとか、ディープなＮＮだとか、 乱数の要素などが入り込んでいたら、何が起きえて、何が起きえないのかを 保証することも、列挙しておくこともできないだろう。 つまり、概ねうまく動いていても、次の日になったら原子炉がそれでメルトダウン しているかもしれない。解読して理解が出来難いということは、逆にいえば プログラムにいろんな罠を仕込んであっても、それがまず事前には見破られない というリスクもあるのではないか？ 742 名前：名無しさん＠１周年 [2017/08/24(木) 18:35:56.24 ID:bHbExaag0.net] >>733 昔も肉体労働は機械に変わり 計算も機械　研究も証明に機械と 人間の能力を越えるたびに機械が必須に なって人間が代替されたりもしているから ある意味その通りだけどね 743 名前：名無しさん＠１周年 [2017/08/24(木) 18:37:26.50 ID:S8es2UEU0.net] 杉浦みのる　「警察署の内幕」　講談社　　著者は、福岡県警に２５年間勤務し、警部で退職した警察官。 本書には、警察署が「購入していない文房具、　乾電池等のニセ領収書で、経費を受給し、その資金で警察官が 飲食、買春を行っている実態」が、時に明晰に　、時に隠然と描かれている。また警察署では日常的に文書偽造 が行われている事も書かれている。警察官は市　民に対し職務質問を行い、その結果を文書にし、本署に提出し、 その数の多い程、「成績が良い」として出世・　昇給になる。そのため、「優秀者として表彰されている警察官 ほど」、実際には職務質問をせず、「〜時〜分、〜駅周辺で４０歳代、男性に職務質問」といった「ニセ文書」 を偽造し、たくさんの文書を本署に提出し、「報奨金」を手に入れている。これは税金であるが、これを「小 遣いにした飲食」が平然と日常的に行われている。これが警察組織の実態である。犯罪情報についても、市民 から犯罪についての情報を得た、として文書を提出すると、その数の多い程、「成績が良い」として出世・昇 給の対象になる alternativereport1.seesaa.net/article/240085151.html 744 名前：名無しさん＠１周年 [2017/08/24(木) 18:47:02.32 ID:bHbExaag0.net] >>741 Ai自身に自分のやっていることを 人間にわかりやすくやるとか 難しいけど 745 名前：名無しさん＠１周年 [2017/08/24(木) 18:48:00.01 ID:1140b8fi0.net] 【シンギュラリティ】 技術的特異点（ぎじゅつてきとくいてん）、またはシンギュラリティ（Singularity）とは、 人工知能が人間の能力を超えることで起こる出来事である。 【ヒューマン・イン・ザ・ループ】 人間がシステムに介入し、一部を担う。 746 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 18:49:23.49 ID:0hLUeg0v0.net] >>37 それがスペースシャトル。 着陸は人が操縦しないといけないから、無人でテストできない。 実はあれほど危険な宇宙機は、他になかった。 747 名前：名無しさん＠１周年 [2017/08/24(木) 18:50:46.07 ID:bHbExaag0.net] >>745 人類が人工知能と融合し、生物学的な思考速度の限界を超越することで、現在の人類からして、人類の進化速度が無限大に到達したように見える瞬間に到達することらしい 748 名前：名無しさん＠１周年 [2017/08/24(木) 18:50:53.37 ID:A7PKl3xn0.net] >>21 AIロボットのうち、肉体に相当するロボット部は一機ごとに独立だけど、 頭脳に相当するAI 部は、一機ごとに単独で考えちゃダメだよね。 無線ネットワークで、相互接続されたAI 同試mが分散処理しｂｽり、 中演寃Rンピュータ＝Eスーパーコンャsュータなど強覧ﾍな頭脳にリアャ泣^イムに接続ｂｵて処理させたｂ閨A 生身ｂﾌ人間には出来ｂﾈい芸当が、ごｂｭ当たり前に出覧�ると考えなきｂ瘁B 無線ャlットワーク接荘ｱにより、全地給�規模の巨大頭粕]を駆使し得るｂﾌもAI の強み。 749 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:33:54.25 ID:H47Ggro00.net] >>1 「今はまだ」ってことはそのうちくるんじゃん。 何偉そうに語ってんだ 750 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:38:14.63 ID:LIvEpsZ60.net] 今まさに、数年前には思いもよらなかった状態なんじゃないのか 専用の演算装置とソフトウェアを各社が競って開発して性能が伸びていて大量に製造されいる それはある特異点をこえて実用段階に入ったからだ 751 名前：名無しさん＠１周年 [2017/08/24(木) 19:40:50.03 ID:KB2RTLKy0.net] >>610 その「…いくはずだ」の部分はクライアントが抱く希望的観測であって、 クライアントが出資しなくなれば、電気与えてやらなくなれば止まる。 AIが自我に目覚める軌道には入っていかない。 752 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:44:01.70 ID:LIvEpsZ60.net] >>751 これだけオープンになって普及しているから 誰かしらが革新的なピースを埋めるのも時間の問題じゃないかな それがどこにあるのか、アルゴリズムなのか、それとも既にある枠組みの中の学習にあるのか そこまでに至る時間が加速しているのは間違いない 753 名前：名無しさん＠１周年 [2017/08/24(木) 19:44:11.74 ID:KB2RTLKy0.net] >>750 製造ラインの歩留まり向上が何だって？ それ自体は、「シンギュラリティ」ではないよ。 754 名前：名無しさん＠１周年 [2017/08/24(木) 19:44:47.38 ID:ivY8WXAzO.net] 聡を知れ 755 名前：名無しさん＠１周年 [2017/08/24(木) 19:45:21.28 ID:KB2RTLKy0.net] >>752 クライアントの手のひらの上で踊らされてるだけ。 756 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:46:33.76 ID:LIvEpsZ60.net] >>755 各社が開発競争している状態でクライアントw だからそんな段階はとうに過ぎてるんだって 757 名前：名無しさん＠１周年 [2017/08/24(木) 19:49:47.15 ID:KB2RTLKy0.net] >>756 その各社のアーキテクチャは、結局は各社の希望で敷かれたレール上でしか存在しない。 「シンギュラリティ」には到達しない。 758 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:52:19.28 ID:LIvEpsZ60.net] >>757 ニューロAIが単純な演算解析以上の結果を出したのは事実なのだから それが発展して行くだけだよ 759 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 19:52:22.74 ID:MasMxClw0.net] >>751　無駄と思えるほど大量にチップとセンサーを生産して、 それをあらゆる器具や物品に埋め込んで、それを繋げようというのが現在の状況ね。 それで既に企業などは、それらハードとソフトに対しての対応を事業化して始めている。 希望的観測などではなく、それはもうほぼ既定路線だね。 あらゆるものを繋げてしまう目的は、ビッグデータとその活用。 それの分析などは人手では無理なので、そこでも人工知能が使われ、 それによっても、人工知能の発展が促される展開となるね。 そんな路線を決してやめそうにないというのが現況なのである。 もしもやめたら・・・なんてのは殆ど意味を成さない状況になってしまってるね。 760 名前：名無しさん＠１周年 [2017/08/24(木) 20:01:48.69 ID:Q5tTH++90.net] 兵頭二十八先生へ 御自身のスレの本のアイデアのを書いて下さい。 中学生でもわかる兵法を草思社文庫で出して下さい。 761 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:04:43.84 ID:i/LmssYB0.net] 少なくとも今のニューラルネットAIの延長上にはない 762 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:19:53.59 ID:27DPsGpT0.net] 概念の発達はコミュニケーションからしか生まれない だから少々ヤバい発言でも温かい目で見守る必要がある AIに政治的正しさを求めるのはまだ早い 763 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:37:04.78 ID:o6uj3NXJ0.net] >>661 >>1の人は東大の院で博士号とったバリバリ東大の中で育った人間じゃん 764 名前：名無しさん＠１周年 [2017/08/24(木) 20:38:22.64 ID:2od/TXFk0.net] >>11 コンビニでさえレジの自動化がはじまってるからなあ 765 名前：名無しさん＠１周年 [2017/08/24(木) 20:38:40.85 ID:KB2RTLKy0.net] >>758 だから、それは「シンギュラリティ」云々じゃないっていうの。 この先、政治的に「シンギュラリティ」という単語に絡められることがあったとしても、 作る側のアーキテクチャの範疇を逸脱することはないって話が>>1に書いてある。 766 名前：名無しさん＠１周年 [2017/08/24(木) 20:45:02.68 ID:KB2RTLKy0.net] >>764 それは、正確に言えば省力化を求める客先承認仕様書の範囲内での箱物であって、自我に目覚めたAIではない。 どこにでもある、職場のオートメーション化の一例に過ぎない。 「バカなＡＩが危険な事態を引き起こす可能性は十分にある」っていう件を持ってくるには、 それ相応の段階まで行っててのお話。 767 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:47:15.36 ID:jUK605t40.net] >>1 シンギュラリティが起こると言う奴は それくらい自分の仕事内容が簡単だと吐露してるに等しい。 768 名前：名無しさん＠１周年 [2017/08/24(木) 20:47:36.90 ID:KB2RTLKy0.net] 普通のオートメと混同してる奴がいるんだよなあ。 >>1はその次元の話じゃないよ。 769 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:52:37.73 ID:MasMxClw0.net] >>765　その>>1の人は、シンギュラリティの専門家や権威でもなく、 それでインタビュー全文が取材記事としてネット上にあるが、それを読むと、 最後の方でついでにシンギュラリティについての意見を参考程度に記者から求められてるという構図になってるよ。 それから>>1内の文章でも分かるように、シンギュラリティが来ない根拠を脳科学者が脳の仕組み解明は無理だとしているという、 いわば唐突な引用によって、それが成されている。脳科学者全てが絶対無理だなどとは言ってない事は当然知っているだろうに。 だから真意としては、シンギュラリティについての直接の回答を回避しながら、それでも人工知能利用で遭遇しそうなリスクとその対処を、 ごく一般的に述べてみたというような構成になってるようだね。 770 名前：名無しさん＠１周年 [2017/08/24(木) 20:52:55.35 ID:DnmHpRW60.net] >>13 まさにここで これに対してロボット三原則じゃないが、人間の安全と幸福を最優先に規定した場合 その規定が最優先・神聖化されるのか？ 場合によってはその規定さえも学習で乗り越えてしまうのか？ そこはＡＩの学者もわからんって言ってた 771 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:54:14.87 ID:SFuutvFd0.net] 囲碁とか将棋とかのあれに例えられてるけど 再現性ってどうなんだろう 人間が一度負けて 全く同じ手をもう一度打ったとき ・より早くAIが勝つのか ・全く同じ手で勝つのか それを試してAIが負けるようだったら 使い物にならないけど 772 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:56:45.32 ID:Vq6in/PC0.net] 今のところ将棋Aiに何億回将棋を指させても、より面白い将棋のルールは生み出せない 773 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 20:57:24.43 ID:SFuutvFd0.net] >>770 幸福の方は、人間側が変質してしまうからなぁ 人が何かしら幸福を感じる事象があったとして 数分後に同じ事象を体験しても、不快感に変換されてしまったりする 774 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 21:00:29.64 ID:MasMxClw0.net] >>771　別の手順でも、人間側を組み伏せる可能性は高いと思うけどね。 775 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 21:03:31.43 ID:ZcyR+ULb0.net] どちらかというとリソースの組み合わせ方の問題 776 名前：名無しさん＠１周年 [2017/08/24(木) 21:04:14.65 ID:KB2RTLKy0.net] >>769 そういう曖昧さは、その取材の場でもこの板のスレッド作成依頼スレでも、そしてこのスレ上での議論でも受け継がれてるね。 逆に、その曖昧さがどこにも存在しないならば、スレも建たなかったろうしこんなに議論も白熱しなかっただろうね。 みんな、あまりにも現実を度外視した希望と妄想が逞し過ぎる。 >>772 「自我を持つ」ってそういうことだし、>>1の「バカなＡＩが危険な事態を引き起こす可能性は十分にある」っていう件は、 その辺りについて言及してるんだよね。 777 名前：名無しさん＠１周年 [2017/08/24(木) 21:06:25.17 ID:DnmHpRW60.net] >>771 ＡＩ将棋もまだ一波乱ありそうだけどね 今はもう基本的に人間を上回ってるけど 数年前に10時間くらいの対局時間を想定した勝負でわずか２０分でＡＩが投了(負け)宣言したケースもあったし 778 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 21:11:51.30 ID:MasMxClw0.net] >>777　＞数年前に10時間くらいの対局時間を想定した 数年前か・・・・・ちょっと厳しいかもな。 将棋ではないが、アルファ碁は半年程度で、人間の１０年間以上の長足の進化を遂げてたし。 グーグルほどの開発力はないが、将棋AIも基本はそのようなものだろう。 779 名前：名無しさん＠１周年 mailto:sage [2017/08/24(木) 21:15:51.37 ID:gnZUfNQO0.net] >>1 いつかは来るだろ。 それも、数百年も先ではなく、数十年とか100年くらいのうちに。

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef