(強いAI)技術的特異点/シンギュラリティ(世界加速)4

(強いAI)技術的特異点/シンギュラリティ(世界加速)4 at FUTURE

650:オーバーテクナナシー
12/09/03 19:26:50.21 xMAar2QN
未だにカブトムシや魚程度の脳も作れないし、それらの心をアップロードすることも出来ない。
このままコンピューターの計算速度が上がったところで人を超える知性は産まれないだろう。

651:オーバーテクナナシー
12/09/03 19:43:59.66 xMAar2QN
ただコンピューターは計算や一定の定められた作業は今でも人間の能力を十分に凌駕している。
コンピューターの発展はこうした方面ではより一層進むだろうがそれは人間の知性とは似て非なるものだ。

652:オーバーテクナナシー
12/09/03 19:58:51.61 +AJLCv5c
４０年前なら国家予算出しても手に入らないような高性能のパソコンが
現在では個人の目の前にあったりするわけだが。

653:オーバーテクナナシー
12/09/03 20:12:48.36 xMAar2QN
確かに高性能化は進むだろうが前述したようにそれで人間を超える知性が生まれるわけではない。
ただ単純～中程度の判断を必要とする作業はコンピューター(ロボット)に置き換えられる位にはなるだろう。

654:オーバーテクナナシー
12/09/03 20:21:59.21 J77ulXYx
>>653
コンピュータの計算速度だけが上がるわけじゃないだろ。
人間の脳をシミュレートすれば強いAIを作ることは可能。
意見が分かれているのは実現時期だけだ。

655:オーバーテクナナシー
12/09/03 21:53:38.32 fHCkCBym
>>654
不可能だと思う、そもそも人間の知性のなぞが解けていない以上
コンピュータ上で実現できたと証明する術が存在しない。

656:237
12/09/04 01:07:07.86 L1GPFFgu
>>646
＞結局到達出来た観測範囲の問題
＞特定の人/AIにしか理解できないものなんて公理にならんだろ

「結局到達出来た観測範囲の問題」を「結局発見できた公理の範囲の問題」と言い換えても
君の言わんとする事が変わらないなら、同意だ。
問題は、公理系が確かに無矛盾である事の理解（証明）に「妥当な時間内で到達できるか」という事。
（天下り的にその公理を受け入れるだけだったら、標準的な人間にもできるが）

>>647
案外、経済学的な側面がカーツワイルの主張の弱点になり得るかもしれない。
彼は実業家としてかなり成功した部類に入り、当然それなりに経済の素養があるが、経済学者ではない。
『1000ドルで買える計算機資源』といった表現にもみられるとおり、暗黙の裡に、
「米国経済がずっと安泰で、世界経済において主導的立場に在り続ける」という前提に立っている。
アメリカは「科学技術研究が幅広く分厚い層」を持つという以外にも底知れない潜在力を持つのでそうそう簡単に傾くとも思えないが、
リーマンショックなどに見られるように、その揺るぎ無さには疑念も有る。（そもそも、１ドルの価値は誰が決めている？）

657:オーバーテクナナシー
12/09/04 01:34:39.29 L1GPFFgu
＞いずれにせよ研究畑でなければ、有意に『密かに力を増大させる事に邁進する』ことは難しいだろう。

果たしてそうだろうか？　今の世界の法人同士の関係でも、
「高い技術力を持つ中小企業を、元来その技術を持たなかった大企業が買収する」という例は枚挙に暇が無い。
マイクロソフトは豊富な資金力にものを言わせて多くの法人を傘下に収めてきたが、これとて買収合戦の中ではまだ穏便な部類らしい。

このような場合だと「密かに」の側面は弱くならざるを得ないが、それでも、その分野に詳しい者以外には気付かれない事が多い。
（Windows7の仮想化技術も、Officeパッケージの中のPowerPointも、元々は他社の技術が生み出したものだが、ご存じだったか？）

超AIが人間の法体系を継承し、遵守するのなら、技術に関しても今の世界の法人同士のやり取りと同様になると考えられる。
こうなると、それぞれの「研究畑」の超AIと交渉したりあるいはそれらを傘下に収めたりして技術を獲得し、
それを組み合わせて新しい製品やビジネスモデルを開発したりする事で
「個々の研究畑AIには見えてなかった組合せが見えていた」超AIが世界経済において支配的な立場に立つというのは、充分考えられる。
往々にして、研究畑の者は自分の専門分野以外は良く見えてない事が多いものだし。

658:オーバーテクナナシー
12/09/04 01:47:49.30 L1GPFFgu
>>650

>>156についてはどう思う？
これでも、「カブトムシや魚程度の脳も作れないし、それらの心をアップロードすることも出来ない」と仰る？

>>655

>>116や>>138が言ってるように、
「(未だ誰も解いてない)リーマン予想を人間のお膳立て無しに解けるAIが実際にできた場合」
「なおかつその解法を人間に分かりやすく説明できるレベルにまで達したら」

「それでもそいつは人間の知性に及ばない」と言い張るのはかなり無理があると思うが、どうだろう？

あと、「人間の知性はニューロンの活動によって生じる」「ニューロンの機能を人工的に再現する事は可能である」と思うが、
これについてはどうだい？

659:オーバーテクナナシー
12/09/04 03:22:23.22 igKFiOo5
猫の脳をシミュレートしても猫のように意識を持ったコンピューターが出来たわけではないよ。
逆にコンピューターが意識を持たないという絶望的な話だと思うが。

660:オーバーテクナナシー
12/09/04 07:03:14.96 UAQ8Z0Dm
>>658
>前スレ510が脳スキャン技術に関する記事

って言うのはこの記事だけだと内容が判断しにくいな。
元論文の日本語訳は無いかな。何をどうしたのか詳しく知りたい。

あと、BMIと強いAIっていうのは関連はあったとしても別の技術だと思うけど。

661:オーバーテクナナシー
12/09/04 07:09:49.82 igKFiOo5
心はニューロンの活動から直接生まれるのではなく、全体の機能が噛み合わさって発生すると考えられているわけだが、ではどうしてそんな機能が何の前触れもなく発生し、成り立っているのかは全く分かっていない。
心を解明する上でニューロンの機能を調べる事は確かに必要だが同時にこれらの機能がいかにして全体の機能として働いているのかといったシステム的な研究も進めて行くべきだろう。

662:オーバーテクナナシー
12/09/04 19:56:18.93 Z9zTWtYO
>>658
＞「(未だ誰も解いてない)リーマン予想を人間のお膳立て無しに解けるAIが実際にできた場合」
と言うAIが作れたとして、数世代進んだアシモに搭載したとしましょう。
アシモくんは分かりやすく説明を初めて聴衆は納得してるようです。
さて、ある人がアシモくんと外見上区別が付かずアシモくんの挙動を
完全にコピーできるコピーアシモを作ってしまいました。
今あなたの前で素晴らしい説明を繰り広げているアシモはどちらでしょうか？

分解すれば分かるだろってのは無しにして下さいね。
ロボット（アシモくん）だから分解できるのであって、もし人間とそっくりなアンドロイドって
組み合わせの場合、傷害罪あるいは殺人罪に問われる可能性を「分解」はひめてますから。

ニューロンの件も同じです、人工的に再現可能かどうかは本質的ではなく
人間そのものの知的活動のなぞが解明できてないのですから。

663:237
12/09/05 00:32:35.85 nQniFrih
>>659
＞猫の脳をシミュレートしても猫のように意識を持ったコンピューターが出来たわけではない

元の記事の要約をざっと読み返してみたが、少なくとも、そのコンピューターをロボットの体につないで
通常の猫と同様に学習や予測に基づく行動が見られるかどうか確かめた、というのではなさそうだ。
かと言って、そのコンピューターについて「確かに意識が宿っていない」と断言したわけでも無い。
その辺りの詳細を知るには元の記事に当たるしかなさそうだ。
（Scientific Americanの日本語版にあたるのが日経サイエンスだが、件の記事の日本語版が載っていたとしても、
原文の内容を一部端折っていないとも限らない）

>>660
＞元論文の日本語訳は無いかな

ちょっと探してみたが、今の所見つけきれてない。

664:オーバーテクナナシー
12/09/05 00:52:44.21 nQniFrih
>>661
＞システム的な研究も進めて行くべき

その意見自体には、同意。
ただ、ニューロン同士が組み合わさった結果である「システムとしての性質」がブラックボックスのままであっても、
部品としてのニューロンの機能を再現できれば、怪我や病気や加齢で失われた元来のニューロンを
人工ニューロンで少しずつ置き換えてみる、というアプローチは可能だろう。
（元来のニューロンの個々のふるまいは怪しみたくなるほど機械的だ。生気論の入り込む余地が無いほどに）

>>662
＞ある人がアシモくんと外見上区別が付かずアシモくんの挙動を完全にコピーできるコピーアシモを作ってしまいました。

？　「完全にコピーできる」んなら、それ、その人が独立に超AIを開発したのと、どこが違うんだ？
そういう話じゃなくて、コピーがオリジナルから漏れ出ている信号か何かを傍受して行動を真似してるだけ、という話なら分かるが。
その場合、信号が空間を伝わるのにごく僅かながら時間を要する（３ｍ離れているなら10ナノセカンド）し、コピーが信号を解析するのにもそれなりに時間がかかるから、
分解せずとも見分ける余地は残されている。（そして、フェムト秒単位の変化を測定する技術は既に存在している）

665:オーバーテクナナシー
12/09/05 02:00:36.77 EzcPZUu7
>>663

> >>660
> ＞元論文の日本語訳は無いかな
>
> ちょっと探してみたが、今の所見つけきれてない。

分かりました。どうもありがとう。

666:オーバーテクナナシー
12/09/05 02:43:57.77 ELjfnp7S
哲学的ゾンビの事じゃない？
知的活動がなくてもそれらしく振る舞うロボットを人間は会見から知性があると判断してしまう虞があることを言いたいのでは。
ニューロンの活動が機械的であり生命活動の根源が見出されないなら逆に、(ニューロンには)人間の知的活動を解く鍵はなく、再現可能性は問題ないということかな。

667:オーバーテクナナシー
12/09/05 05:56:21.92 eH+fxT5p
ニューロン一つには意識はないけど、沢山集まると自我ができるのは不思議だね。

668:表現だけの問題だが
12/09/05 10:41:59.73 GQ/hbkW3
>>664
開発とか技術というのはコピーした模様を開発したとか作ったとは【表現】しない。
写真をとってプリントしたら、それを描いたとは言わない。
そういう思考ってマネキンを作って写真映りで同じに見えるから同じだと
誇張する思考に誘導されるのが常だからそういう心情には触らないほうがいいね。

669:オーバーテクナナシー
12/09/05 10:48:49.79 rMRKaQeu
人間だって他人の言葉を全部鵜呑みにして
知的活動無くてもそれらしく振る舞う奴がいるな。

670:オーバーテクナナシー
12/09/05 11:17:07.46 w+yw+Cch
>>669
システムは効率化するものだからなぁ。
その状態はその人の言いたいことやりたいことに対して、極度に効率化している状態と言えるかもね。