(強いAI)技術的特異点/シンギュラリティ(世界加速)7

2045年頃に人類は技術的特異点(シンギュラリティ)を迎えると予測されています。
どんな世界が構築されるのか？技術的だけでなく社会的、文化的な側面は？
人間はどうなるのか？価値観は？
あるいはそもそも起こり得るのか？
そんなことなんかを話しあってみるスレ。

■　技術的特異点
　収穫加速の法則とコンピュータの成長率に基づいて予測された、生物的制約から開放された知能(機械ベース・機械で拡張)が生み出す、具体的予測困難な時代。
　http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9

■　収穫加速の法則
　進歩のペースがどんどん早くなるという統計的法則。ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
　http://ja.wikipedia.org/wiki/%E5%8F%8E%E7%A9%AB%E5%8A%A0%E9%80%9F%E3%81%AE%E6%B3%95%E5%89%87
　http://dic.nicovideo.jp/a/%E5%8F%8E%E7%A9%AB%E5%8A%A0%E9%80%9F%E3%81%AE%E6%B3%95%E5%89%87

■　強いAIと弱いAI
　コンピュータが強いAIと呼ばれるのは、人間の知能に迫るようになるか、人間の仕事をこなせるようになるか、幅広い知識と何らかの自意識を持つようになったときである。技術的特異点をもたらす有力な手段と考えられている。
　弱いAIは人間がその全認知能力を必要としない程度の問題解決や推論を行うソフトウェアの実装や研究を指す。
　http://ja.wikipedia.org/wiki/%E5%BC%B7%E3%81%84AI%E3%81%A8%E5%BC%B1%E3%81%84AI

■過去スレ
　☆技術的特異点スレッド（強いAI？弱いAI？）３
　http://uni.2ch.net/test/read.cgi/future/1329142684/
　(強いAI)技術的特異点/シンギュラリティ(世界加速)4
　http://uni.2ch.net/test/read.cgi/future/1341924376/
　(強いAI)技術的特異点/シンギュラリティ(世界加速)5
　http://uni.2ch.net/test/read.cgi/future/1350477243/
　(強いAI)技術的特異点/シンギュラリティ(世界加速)6
　http://uni.2ch.net/test/read.cgi/future/1363657701/

脳の１秒、スパコンだと４０分　大脳皮質もとに働き再現
http://www.asahi.com/tech_science/update/0802/OSK201308020063.html
理化学研究所は２日、スーパーコンピューター「京（けい）」（神戸市）の全計算能力を使って脳の
働きを再現する世界最大規模のシミュレーションに成功したと発表した。実際の脳なら１秒でする
ことが京だと４０分かかった。計算を重ねれば、ヒトの脳の仕組みの全容解明につながるという。

　理研などの研究グループは京のすべての演算処理能力を使って、１７億３千万個の神経細胞と、
神経細胞同士をつなぐ１０兆４千億個の「シナプス」でできた大脳皮質をもとにした神経回路の
モデルで計算した。これまでより細胞数で６％、シナプス数で１６％上回る世界最大の規模だ。
それでもヒトの脳の神経細胞数の１％ほどで、マーモセットなど小型のサルの全脳と同じ程度という。
-----
人間の脳を再現するには2400（秒）x100（人間の脳）x10.51PFLOPS（京の処理能力）で2,522,400PFLOPS、
2522.4EFLOPSの処理能力が必要。まさかエクサフロップス級を飛び越えてゼタフロップス級の
コンピューターが必要だとはな・・・

>>1乙

横レスですまんが前スレ>>996に質問
脳をブラックボックスのまま模倣するなら当然脳スキャンは必須だよな
どこまでシミュレートするかによっても変わるが、過去スレでは収穫加速の法則通りに脳スキャン装置の性能が向上してもカーツワイルの予測する時期に間に合うか分からないって話が出てたと思うけど、その辺はどう考えてる？
もっとも、原理的に可能と主張したいだけで到来時期に拘らないなら別に問題ないけど

>>3
もまえら程度の頭なら京でも充分ってことか

>>前スレ991
節子、それ人間機械論と違う。


>>前スレ992
人間機械論と唯物論をごっちゃにされてもなあ。


>>前スレ996
> これについては「強いAIとは何か」の段落にまとめるということでよろしいか。
よろしいよ。

> 模倣する立場において、仕組みの理解は不要。
脳を必要充分にシミュれば勝手に創意工夫するだろう。という意味ね。
問題は何が必要充分なのか？だろうな。


> あくまで脳の話と？
> さっきも言ったが実証は"困難"であって、必ずしも不可能とは限らない。
> 当然意識のような主観的側面は外部から観測出来ないが、仮説通りのシステムが物理的側面のみで実装されている場合であれば、実証可能。

元はカーツワイル本に書かれてるイメージングの進歩の話では脳から知性が生み出されているところまで届きそうも無い。
それに関するズバリとした回答はあるか？という話だ。
その回答が、ズバリなど無い。ややこしくていいならおおかた予測はついている。
ということだったのでそれは実証不可能なモデルレベルの話でしょ。という話。
意識のような主観的側面は外部から観測出来ない。というのが結論だということだね。


> じゃあやはり拘る必要はないんじゃないのか。
うん。いいよ。でも話が迷宮に迷い込まないように注意して頂戴ね。

>>前スレ997
> 「どこまで影響するか」とは「どの要素からどの要素までに影響するか」という意味で言ったのか？
> てっきり「意識にどの程度まで影響するか」あるいは「情報処理にどの程度まで影響するか」という、程度の意味かと思ったのだが。
違う違う。処理単位の内部挙動が結果に影響をするかどうかはモデルしだいでしょ。と言う話。
それをスッパリ切り捨てて良いと断定してるから、それはまだ分からんがな。と言っている。

> アトムみたいに身体を用意しても良いし、ミクのホログラフィみたいにしても良いし、そういうのが学校や職場に居ると思えば良いだろ。
・・・おいおい。

> どんな職でも人間の代わりが務まる、とかで良くね。
> そんな厳密に考える意味ある？
良く分からんぞ。強いAIじゃなくて人間を作ろうとしてるのか？

> ＞ この僕に「嫌い」と思わせてるものは何だろう？そして君に剥きになって感情的な書き込みをさせているものは何だろう。
> 何でそう話を進めようと思った。悪いが、流石に意味がわからん。
意識の実在の説明をしたのだが。ピンと来ない？君には意識が無いの？

>>前スレ997
> それと俺は淡々と矛盾を指摘しただけ。
そうか。論理がむちゃくちゃになってたんでてっきりムキになってるのかと思った。
そんじゃ真面目に答えるか。

>全てを疑うと言いつつ意識の実在ありきで話を進め、
そう言われても気付いたときから意識はあるからなあ。
意識の研究は結構ホットな話題になってるでしょ。まだ結論が出るとは思えないけど。

>更には唯物論と言いつつ二元論を展開し、
二元論と言うからには元が二つあるはずだが、何と何の二元なんだ。
君の言ってる
> さてここで意識について考えるが、意識とは情報統合的なもので、処理単位同士の高度で綿密な連携が求められるのは疑う余地がないと思う。
と僕が言ってる意識は脳という物理から発生している。は同義だぞ。君も二元論者か？


>それを科学的態度だとまで豪語するとは、
ま、科学をどう定義するかも人それぞれだからな。
なんでも良いんじゃない。ここも深掘りしたら科学テツガクに迷い込んじゃうよ。
ついでに言っておくと一から真似すれば同じものが出来る。というのも科学というよりは信念の問題だよ。

いきなり脳スキャンとかハードル上げないで
c-elegance位から地道に進化させた方がいいんじゃね？

当然やってるだろ。ネズミの脳もシミュレートされてるし。

進化はしてねーだろ？

>>7

些末な差異を示したところで、
現代にいたるまで機械論的な見方・仮説・方法論が医学・生物学の歴史において生命の謎を解く役に立ってきた事は否定できない。

「機械論的で無い」見方・仮説・方法論が生命の謎を解くのに役立った事例を寡聞にして知らないので、何か一つ挙げてくれないか？

（私は「超自然的な作用の介在を否定する立場」という意味で「機械論」と言っているので、念のため）

>>5
自分で考えろ

答えられないならスルーすりゃいいのに

>>15
本人乙

馬鹿丸出しな奴が一匹。

>>6
そんな面白くもない言葉を吐いたところで、おまいがマーモセット以上の知能を持つ証拠にはなりゃしないよ。www

>>5の方がまだまともな知能を持っていそうだ。

植物状態の人を連れてきて脳スキャンすれば意識の謎は解明されるんじゃないかなあ
あと、基本植物状態だけど薬を投与すると短時間だけ意識が回復するって人や植物状態から復帰した人の脳も是非調べてみたい所

>>13

なるほど。機械論と聞いてラ・メトリの人間機械論を思い浮かべるのは少数派か。
僕は唯物論の中でも機械論というと古典力学的なものを指すと考えちゃうんだけどな。
今主流なのは構造論的な唯物論でシステム論が台頭し始めてるところ。
と思うんだけど、違うかな。

> 「機械論的で無い」見方・仮説・方法論が生命の謎を解くのに役立った事例を寡聞にして知らないので、何か一つ挙げてくれないか？
上記の通りなのであまり興味は無いけど、錬金術なんてどう？
研究者でいうとライプニッツとか非機械論的な人はいっぱい居るけど。

> （私は「超自然的な作用の介在を否定する立場」という意味で「機械論」と言っているので、念のため）
それなら良いんじゃない。唯物論だから。
でも唯物論＝機械論というのはちょっと違和感を感じるぞ。

唯物論＝機械論とは言ってないだろその人
まあ機械論つっても色々あるよな
機械論と言わずに物理主義と言えば解決
物理主義さえ宗教だというのは解決されないが

すまんがレス遅くなる。
小出しに返すことになるかもしらん。


>>5
あの本を見ればわかるが、プロット数が少な過ぎる。
間に合うかどうかわからないというより、単純にデータ不足であてにできないというほうが近い。

実際のところは、今の技術の延長上でさえシナプスオーダーならイメージング可能なため（詳細は4スレ目あたりで「第二高調波顕微鏡」で検索すると良い）、個人的には30年あればいけんじゃねーのかねえ、と思ってるが。

ま、そもそも生理学的な模倣より、機能的な模倣のほうが早いんじゃないかと思っている。
じじいは2029年までに強いAIが完成するに1万（円ではない、ドル。念の為）賭けてるらしいが、時間をくれりゃ俺がもっと早く完成させてやんよ。

>>20

たぶん、自分の機械論的なものの見方はラ・メトリーの見方ほど極端じゃない。
ラ・メトリーは「霊魂なんてものは存在しない！」と断言しきっちゃってる人だから。
私はそこまで断言できるほど多くを知っているわけじゃない。
ただ、「知能を持つ生き物や機械がどれほど進歩しても解明できない、超自然的ななにものか」ありきで話を進める事を好まず、
「超自然的な作用の介在は無い」という前提で「とりあえず進める所まで進む」事を好む。

私の意識に対する考えは、>>21が指摘したように、たぶん「物理主義」というのが一番近いのだろう。

＞錬金術
あー、近代以降の発展のスピードの方にばかり目が向いていて、錬金術とか占星術の事を失念していた。
ただ、「まず神秘的なものありき」で進んできた錬金術も占星術も本筋の方は行き詰ってしまい、
派生した道筋が謎の解明に役立ったという印象がある。錬金術から生まれた化学、占星術から生まれた天体物理学、等々。
で、近代から現代にかけて「物理主義は行き詰った」とする論者が現れるたびに、
科学と技術の進歩によって「物理主義で進める限界」が押し広げられてきたように思える。

＞今主流なのは構造論的な唯物論でシステム論が台頭し始めてるところ。

私はそれを「物理主義的な見方の下で、『複雑系』等の概念を持ち込んで生命現象を解明しようとする立場」と認識しているが、
その認識で合っているかな？

>>23
そうなんだ。
結局のところどう考えるのが合理的「だと思う」か？という問題なので、個人の信念の問題なんだ。
「99.9％は仮説」なんていってる人も居るしね。
現代の唯物論的科学の基礎を作ったのが信仰に基づいて行動した人たちの集めた膨大なデータだというところは面白いよね。
今でも医者なんかはキリスト教者が結構居るし。

>>24
複雑系はシステム論の一種だね。残念ながら瀕死状態らしいが。
一般的には物理主義と複雑系は対立する概念と捉えられている。
複雑系が解き明かそうとしているのは物理主義が切り捨てているものだから。
たぶん君が言っている物理主義は普通の唯物論に近いと思う。

>>22
＞時間をくれりゃ俺がもっと早く完成させてやんよ
そこまで言うからには当然最低限のプロトタイプは既に完成してるんだよね？
まさか何も手を付けてない状態で豪語しているわけじゃないよな。

そうだな、
松本元が理化研でやってたブレインウェイ・チップを超える成果を
>>22が挙げているとするなら、
あそこまで豪語するのも、まあ、どうにか許せる範囲ではある。

>>26
やめてさしあげろ「俺のＰＣのＣドライブ」思い出すだろうが

彼戻って来ないかなあ。面白かったのに。
あまりにも強烈だったんで頭に焼き付いて離れないよ。

脳を全部スキャン出来たとして、それで何がわかるの？

>>30
脳を全部スキャン出来ても何も知見が増えないなんて、どうしておまいごときにわかるの？ w

>>31
なるほどw　スキャンしたら何かわかるかもしれない
その程度の発想だったのかwww

だいたいの実験はその程度の発想から始まる

スキャンしたところで見通しは特になにもないってことか。

浅学な自分は脳について多くを語れないが、
斜に構えてかっこつけている
>>30とか>>32とか>>34とかからも、
脳や人工知能について
何ら面白い発想は期待出来ないな。

何が分かるかはやってみないと分からないわな。
僕の予想だと何じゃこりゃと言うものがいっぱい出てくると思うけど。
2045年もたぶん「何じゃこりゃ」って言ってるだろうな。

だが、それがいい

うん。そこが好き。
Priceless .

>>35
10で地道に進化させる方法を提案してるじゃねーか。
不勉強なくせにえらそーな口きくな。

>>35
おまえバカだろ。

カーツワイルは初期の強いAIを「ショッピングモールにいる一般人と同じ」と予想してるけど
無限に近い記憶容量を持てるだけで相当なものになると思うな
某板に頭の中に図書館が出来たコテがいるけど彼からはいつも神秘的な知性を感じるよ
もっとも博学なだけで新型CPU開発が出来るかどうかは微妙だろうけどね

>>41
> カーツワイルは初期の強いAIを「ショッピングモールにいる一般人と同じ」と予想してる
これって暗に「俺は一般人とは違う」って言ってるよね。
まあ確かにかなり特異ではあるが。

>>39
別に脳のシミュレートという手法を否定しているわけじゃないんだが、
何でそう喧嘩腰になる必要があるんだ？
理解に苦しむな。

IBMの研究所じゃ線虫どころか猫の脳の丸ごとシミュレートに成功してるんだが、
人を不勉強呼ばわりするからにはそれくらい知っているんだろうね？
ググるなり、3スレの500前後辺りを読み返すなりしてみると良い。

>>40
何とも知性の感じられない、ワンパターンな言葉だ。
人工無脳の方が（以下略）

３次元分子コンピューティングってどのくらい現実味があるの？
今の技術で積層やったら放熱できず確実にCPUが焼け死ぬと思うんだけど

>>44
IBMとNECがもうやってる

>>43
>IBMの研究所じゃ線虫どころか猫の脳の丸ごとシミュレートに成功してるんだが、
>人を不勉強呼ばわりするからにはそれくらい知っているんだろうね？
>ググるなり、3スレの500前後辺りを読み返すなりしてみると良い。
まるで分かっていないのを気が付いていない様子ｗ
だからそういう評価されるんだよ。

>>46

どこが「分かってない」のか具体的な言葉で指摘できないなら、
おまいが分かっているという証拠にならんな。

>43
>IBMの研究所じゃ線虫どころか猫の脳の丸ごとシミュレートに成功してるんだが、

すみません。いくらググっても上記の記事のあるサイトが見つけられません。
URLなどご存知でしたら教えていただけませんでしょうか？
原著論文でも結構です。
よろしくお願いします。

猫の脳丸ごとシミュレート成功か
大ニュースになってるはずなんだが

>>48

つ http://www.scientificamerican.com/article.cfm?id=graphic-science-ibm-simulates-4-percent-human-brain-all-of-cat-brain

>>49
日本のマスゴミは科学専門の記者を内部に置かない
つまりそういうことな

サイエンティフィックアメリカンなら少し時期遅れにはなるが日経サイエンスで読める
日経とＮＨＫは侮ったらあかん

>>50
その記事を「猫の脳の丸ごとシミュレートに成功」と読んでしまうのは、科学リテラシーに相当問題がある。

そりゃ日経サイエンスはそういう雑誌だしな
意識的に興味を持つ人の目にしか触れない
そしてNHKはまだしも他の大手はてんで駄目駄目だろ

>>45のソースも見たい。商用化のメドはあるの？

>>55
ソースっていうか、3d chip stack site:ibm.comとでもすれば出てくるよ。
量子コンピュータも一緒に出てくるのが笑いどころか。
もう10年くらい前からある技術だし、Intel他も研究してるし、一部は実用化もされてるかも。

ttp://en.wikipedia.org/wiki/Three_Dimensional_Integrated_Circuit

とはいえ、急に3DICがスタンダードになって、ものすごい勢いで技術が発展するという機運はなさそう。

ライト兄弟が飛ぶ前に、飛行機飛ぶのを全否定してた奴らは夢がない。

3DICが実用化されたって話までは聞かないな
こないだのＩＢＭのスパコンも２Ｄじゃなかった？

そういやベンチャーが開発した量子コンピュータも「量子効果が確認された」って春頃話題になってたな

>>57
夢を実現するには妄想だけじゃどうにもならないんだよ。
反省しろよｗ

お前のは人に夢とかいて「儚い」という表現が適切な。

ライト兄弟が結果を得る為に支払った代償を理解できないんだろ？
そういう奴は代償なしで求めるんだよ。

>>57
人それぞれだから好きにすれば良い。
でも僕は2045シンギュラリティだの宇宙の覚醒だのを信じろ。と言われても無理。
タイムマシンよりなんぼかマシな程度。

それにこのスレでシンギュラリタリアンが言ってきたことと言ったら。
・自分で勝手に研究を進めるAIの設計など簡単。（しかし具体案は無い）
・ブラウン運動にエネルギーはいらない
こんなんばっかでしょ。基礎が出来てないと思うよ。

そうやってすぐ人格攻撃に走るんだよな

>>61
おいおい、僕が>>60だが、これが人格攻撃に見えるってどうかしてるぞ。

「物理法則を自力で発見」した人工知能
http://wired.jp/2009/04/15/%E3%80%8C%E7%89%A9%E7%90%86%E6%B3%95%E5%89%87%E3%82%92%E8%87%AA%E5%8A%9B%E3%81%A7%E7%99%BA%E8%A6%8B%E3%80%8D%E3%81%97%E3%81%9F%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD/
こういう記事を見ると科学の発達に意識は必ずしも必要でなく知能さえあれば十分なんじゃないかと
思えてくるわ

>>60
エーテルを媒介すればブラウン運動にエネルギーは必要ないよ
君門外漢だね もうちょっと勉強してからおいで

宇宙の覚醒ってネーミングの悪さはどうしようもないが、一部のシンギュラリタリアンを叩いたところで技術的特異点への反論にはならないのも確かだわな。

>>53

リンクの先の原論文までざっと読んでみたが、『神経細胞10億・シナプス数10兆』と言うのは
どうやら大脳皮質ベースのシミュレーションのようだな。確かに、『脳全体』というには語弊があるか。

しかし、猫の大脳皮質の神経細胞数は約３億・脳全体では約10数億。その気になれば脳全体もいけそうだな。

線虫なら、脳細胞数は約300個・体細胞全体でも約1000個。
>>10が「現在のコンピューターは線虫の脳シミュレーションもできない程度」と認識しているとしたら、
少々情報が古いんじゃないかな。

>>62
どうみても人格攻撃じゃない、もし人格攻撃に見えるとしたら
答えは１つ、糖質１００％

>>66
進化させることを言ってるの。
複雑に機能が分化してる脳細胞を
何億も手配線すんのは非現実的だろうと。
かと言ってその辺のGAみたいに期待する配線の組み合わせをひたすら探索するのもムリ。
計算してる間に宇宙終わっちゃう。
だったら実績のある生物のマネして自動化するのはどうかっていう案。
古い？

>>66
脳幹、小脳、大脳と言った脳の構造がシミュられて無いでしょ。
それぞれ神経細胞や結合の仕方が違うんだが。
その間の連携も無視されてるでしょ。というかそもそも詳細が分かってない。
グリア細胞も無視されてるし。

シナプスオーダーで猫の脳規模のニューロンネットワークをシミュった。
というのが正解でしょ。

猫の脳をシミュって再現した。と言うところからは程遠いわな。

攻殻１巻（９１年発行）を読んだら欄外に「そろそろ人間級のAIが出てくるだろうから楽しみ」
みたいなことが書いてあって時代を感じた

そろそろって書いてあった？91年にそろそろだと、かなり早い見積もりだし、士郎正宗が91年にそう書くとは思えない気がする。
あの人ものすごい資料読んでるはずだから。

何ページ目？

攻殻の世界はたしか2030年くらいだったしそろそろってのもその時代を想定して言ったんじゃないかな？

攻殻の世界じゃ確か2005年ごろに全身義体が出来てないとおかしいんだよな
あれ、アニメ版の設定だったっけ？

>>60
AIの設計が難しいと思うのは何故？
AIに詳しいなら教えてほしいけど、天運2号にワトソンと同じAIを入れたら簡単なプログラミングぐらい出来る？

永遠に生きる「自分のアヴァター」をつくれるサーヴィス
http://wired.jp/2013/10/03/lifenaut/

>>74
おまえバカだろ。

>>74
ん？
話の流れが分かってないんじゃないか？過去スレ見てきてくれ。
好奇心をもって勝手に研究を進めるAIなど簡単に設計できるといってた猛者が居たんだよ。

超弦理論／superstring theory【Part 2】
http://uni.2ch.net/test/read.cgi/sci/1379939285/

宇宙の質問が書き込まれたら誰かが即答するスレ 18
http://uni.2ch.net/test/read.cgi/galileo/1378498847/

◆決定論:脳は物質だから意識は必然に過ぎない216◆
http://awabi.2ch.net/test/read.cgi/philo/1380389635/

>>76

たしかにバカだな。
「バカに話しかけたところでまともな答えが返ってくるわけが無い」
という事を分かっていないという点では。

そして誰も話しかけるものはいなくなった。

哲学版からきた人は、ここで多少なりとも実証的態度を身に付けるべき

実証的態度（）

ちなみに、ここにいる人は強いAIできるはずだとおもってるよね？
哲学板じゃできない派がおおかったんだけど。

哲学板とこっちじゃ強いAIの定義が違うんだろうな

シンギュラリタリアンが実証的態度を口にするというのも面白いな。
それは例えばあれか？
実在しないけどあたかも実在するかのように思われているものについて、
その物理的発生機序を考察する。とかか？

ニワカや一部のエセ哲学屋にとっては物理的に精神が説明ついてしまうと困るからな
特にエヴァ以降、哲学（）なバカが増えて困る

>>84
「定義」の意味からして違うというｗ

>>86
＞物理的に精神が説明ついてしまう

ほう？ じゃあ、賢い君にはそれを科学技術で再現できる目途も付いてるわけだ。
（さもなきゃ、「物理的に説明がついてしまう」とは言わないからな）

ご高説願おうか。

その前に「精神」てものがあるかという問題が…

>>86
いや別に
まともな哲学屋なら、物理的に説明がつこうがつくまいが関係ない、と言いたい
哲学は物の見方や考え方などの探求だからな（哲学板では違うらしいが）

まあ>>86のようにも取れるような俺の書き方も悪かったと思う

ちなみに俺はシンギュラリティだの強いＡＩだのは実現するか懐疑的で、起きたらオモシロイナという立場
むしろそれを追求する過程で発見されるであろう諸事象の方に興味がある

ちげえ>>87
自レスしてどうするｗｗｗ

精神などと言うものは実在しないが「情報統合的なもので、処理単位同士の高度で綿密な連携が求められるのは疑う余地がない」らしいぞ。

哲学板ではIDないからなwwwwww
自演お疲れ〜（笑）
あっちはこんなのばっかなのか

ごめんちがったwwwww

いくら説明しても

その理屈じゃダメだ、その理論じゃダメだ
単なる妄想だ、意味が無い、まともな答えじゃない、実現性がない

こればっかりで、じゃぁお前はどうしたらできると思う？には答えられないんだよな。

そう、強いAIに求められる機能はまず妄想力
全CPUパワーの90%を使って、強引な推論と緻密な検証を行えば
人間並みになるはず

人間の脳の使用率が100%行くことがあるのかどうか知りたい

ないだろ
記憶領域と処理領域が分けられてないんだから

>>94
どうしたらできると思う？には答えられないとは思うけれど、「どこがダメ」「何でダメ」というのを具体的に
書くのは必要最小限だろうとは思う。

AIが「不可能」だと主張するのなら、それを証明するのが筋だよね。むしろそっちの方が難しいとは思うけど。
フレーム問題以上、不完全性定理以下の難易度といったところか。

不可能と断言するのと肯定派の問題点を指摘することは全く違う。

ニューロンの組織はパターン認識してるんだから
フレーム問題なんか関係なくね？

ヒント

思い込みたい対象を確信してしまう、故に激しく妄想なのに現実であるように
語り一歩も引かない。信じた対象を疑うことができない症状。

具体的な比喩が理解できなくなる、比喩が比喩だと理解できなくなると
冗談や皮肉が分からなくなる、下手糞なその比喩なら完全に誤解してくれる。
一度その誤解ができれば前提から訂正してもそのネタに謙虚な態度には成れない。

>>93
何か知らんが乙。
疑心暗偽は程ほどにしといたほうが良いぞ。身体に悪いからな。
あと人は悪いことをするとき「どうせ他のヤツもやってる」と思い込む。ってじっちゃんが言ってた。

>>94
「そんなの簡単にコピーできるわ！」って言いながら１万円札を持ってコピー機に走るヤツが居たら、
「無理無理。それ無理だから」って言わないか？それとも陰でこそこそ笑うタイプか？

じゃあお前はどうしたら１万円札をコピー機で複製出来ると思う？
と聞かれても「現状では無理」としか言いようが無いわな。

>>96
>>97
それまだ答え出てない。
1％しか使ってないとか言われてるのは俗説で、実際には脳はひっきりなしに動いてる。
何をしてるのか良く分からんが。

>>102
「コピーできないよ」『何で？』
「何でもだよ！（根拠なし）」ここまでが今の流れ。

「コピーできないよ」『何で？』
「コピー機には偽造防止機能が組み込まれているから、紙幣をコピーしようとすると停止する。
紙幣には偽造防止技術が採用されていて、コピー機ではコピーできないようなインクや図柄、
ホログラムが使用されている。」
↑これが普通の議論。

「コピーできないよ」
『何で？』
「試してみれば？ｗ何なら1万円札も貸してやるよ」
↑検証方法を提示している。

>>100前スレでフレーム問題が出てた。今更感があるフレーム問題とか、平気で出してくるのが不思議だけど。

>>103
>>102じゃないが、その流れってのは具体的にどのレスのことだ？
少なくとも俺の場合は>>22や前スレで強いAIは既に稼働していると発言していた奴に対して疑問を投げかけているだけで肯定も否定もしてないな。
ただ「本当に作れるなら証拠を出せ」というだけの話。
「流れ」なんて言葉を使われると懐疑的な意見を述べる者の大多数がAIの実現性を否定していると解釈されかねない。

>>103
> 「コピーできないよ」『何で？』
> 「何でもだよ！（根拠なし）」ここまでが今の流れ。
mjdsk
具体的な話が出てきたら>>69みたいにちゃんと検証してあげてるのに。
むしろ抽象論に逃げてるのはシンギュラリタリアンの方じゃ無いか？

「コンピュータに研究させるなど簡単」
「どうやって？」
「好奇心を実装すればよい」
「コンピュータに好奇心ってそれはどんな物？」
「属性を分解して抜けたものを見つければよい」
「その属性はどうやって抽出するの？欠落はどうやって見つけるの？」
（回答なし）

主にこんな流れがほとんどだったと思うが。

フレーム問題が出てくるわけだ

105がフレームに捉われているのは理解できる。

自称AIの設計者は結局失踪したみたいだな。
>>105の最後の質問に答えられない時点でそれは設計とは言わない。単なる妄想でしかない。
フレーム問題以前の話だよ。

>>103の概念形成説明の抽象水準表現が過度に具象的
また>>103は逆に過度に抽象的な表現となる。

君のことだよ。
>>108
??

>>109
2行目アンカミス？

>>103

原理は不明だが、少なくとも人間はどうにかしてフレーム問題を実用上問題無い程度に解いている。
対して、機械は未だに人間の助け無しにフレーム問題を解けない。
（人間が枠を設定してやってるから、フレーム問題を回避できる）

君は
＞今更感があるフレーム問題
などと言っているが、
機械が【自発的に】【人間と同レベルの水準で】フレーム問題を解けるようになったとは初耳だな。

その機械はどこにある？

人工知能の歴史をおさらいしとくと
フレーム問題が提唱された60年代ってのは、今と比べると信じられないほど
CPUも記憶装置もネットワークも性能が低かった
昔はフレーム問題を解かなければ不可能と考えられてた問題でも
計算機やデータ、ネットの力が解決してしまった問題は数しれず

そしてその過程で分かってきたのは
我々はそもそも、どういう知性が賢いと思ってるのか、
問題の定義すらまともにできてないということ

我々が人より賢い人工知能を想定するとき、例えば人には解けないような
難しい問題や、学問上の課題を革新的な方法で解く人工知能を想定してしまうことが多いが
そういったものは「既に問題が定義されている課題」なので、実は人工知能にとって易しい部類に入る

本当に難しいのは、普段我々が意識してなくて、問題を定義出来ないような課題。
これがモラベックのパラドックス。
例えば、散歩するとか、雑談するとか、空気読むとか、こういうのはものすごく難しい

>>110
???？？？？？？？？？？？？？？？

>>105
前スレで俺が「目的設定の問題」と提案したんだがな
具体的な最適化は試行錯誤だろうから今ここで結論は出せないと思うが、
例えば俺が考えているのは「自己（種）保存」をベースとして、人間が何故新しいものを求めるのかという哲学的問いへの回答の模索が鍵になってくると妄想している

アシモフの３原則は本質的にはいいとこ突いてると思うんだよね
それをアーキテクチャにブレイクダウンすること自体が俺には難しく感じるが、そもそも先端研究自体が難しいことやってるから越えられる壁なんじゃないかなあと楽観視

具体的な抽出に関しては、俺はソフト屋ではないから初期仕様程度の抽象論になるが、
カントの定義する「傾向性」、パースの定義する「現象学」「規範科学」「カテゴリ」、それを環境最適化のパラメータにするというのはどうか

そこらへんが「好奇心」の分解になるんじゃないかと考えてみてるんだがどうだろう
ディズニーがＡＧＥシステムの基本になるような自動設計ソフト作ったみたいだし、要素技術はあるんじゃないかな


まあ俺は89の通りシンギュタリアンというよりシンギュラリティを目指す過程に出て来る諸問題や新発見を楽しみにしてるだけだから、あまり拘りは無いが

例えば街角でアンケート取れば、人間らしさとして、好奇心、創造性、感情みたいなのがいくらでも挙げられるだろう
こういった要素を持つように振る舞う機械を作ること自体は、たいして難しくない

ただし、それを見て好奇心があるか、創造性があるか、感情があるかの判断は人それぞれ
結局それは、人間が好奇心や創造性や感情、というものをなんとなくイメージしてるだけで
きちんと定義できてないってことを意味する

きちんと定義できてない問題に対し、それを解く機械の図面をカッチリ引けるわけがない
だから、生物模倣でない、構成論的な人工知能を作るのはとても難しい

そして、定義できてない問題を解く知能に明確な需要などないので、社会的な欲求も少ない
そういう意味でも、難しい

>>112
＞昔はフレーム問題を解かなければ不可能と考えられてた問題でも
＞計算機やデータ、ネットの力が解決してしまった問題は数しれず

ん？　それだって、
「計算機を目的にかなうよう動かすには、どのようにプログラムを書くか？」
「データを取り扱う枠組みはどうするか」「効率的なネットワーク形成を行うにはどうするか」
といった問題の肝心要の部分は、依然として人間が決めてるだろ？
どれもある種の最適化問題を半ば自動的に機械に解かせているんだろうが
（ハードウェアの進歩によってある程度力押しで解かせる事が可能になったんだろうが）、
最適化の方向性を与えているのはやはり人間だろ？
そこまで人間の介在無しにできる機械の実例を、私は寡聞にして知らない。

ところで、人間が「或る定義できてない問題」を「定義できるようになった」場合、それは結局のところ
人間が「或る処理の枠組みを見つけた」「或る当面の課題に対するフレーム問題を解いた」という事だと思うが、
そういう認識でよろしいか？

>>112
その解決してしまった問題ってフレーム問題ちゃうんちゃう？

でも、そうなんだよなあ。
問題の定義すら出来てないのにコンピュータが人間の知性を超える。
というから何を指してるのか聞いてるんだが、何をしたいのか正直未だに分からん。


>>114
アンカミスじゃ無いのか。それは失礼。


>>115
ちょっとテツガク的過ぎてよく分からん。
もうちょっと工学的に説明してくれんかな。

>>116
やめて、仕様もシステム設計も固まってないのに出図期限だけ決まってる仕事の惨状を思い出すｗｗｗｗｗｗｗ

コンピューターって、中で実際にやってる事は四則演算と論理に基づく条件分岐だけやろ？
人間もコンピューターの一種に過ぎないとしたら、四則演算と条件分岐だけでどうやって芸術的作品を作れるんだか、不思議やわぁ。

>>118
申し訳ない、俺は一応Ｃ＋＋扱えて100MHz〜5GHzの送受信とデジ/アナ、ACやDCは漠然と把握してるが、所詮は機械屋なのでソフト屋的な考え方は身についてないんだわ
趣味で哲学や脳科学やってはいるが、>>115でも書いたようにそれをソフト仕様レベルまでブレイクダウンするとこまでは理解度が追いついていないんだ
あと今酔ってるから文章おかしくなるかもしれない

その前提で、できる限り工学的に咀嚼してみる。長文失礼。

「傾向性」というのは日常語で言うと「好み」や「衝動」が近いかな。これは学習に相当する蓄積機能に加え、蓄積されたデータを単純化してカテゴライズ（後述）し、アクティブフィードバックする必要があると思う
オートポイエーシスというオートノミーの流れを汲む自己言及システム論があって、この考え方をソフト的に反映すると経験（蓄積データ）から好み（傾向性）を形成することは可能なのではないかと考えている
書くと２行だが簡単なことじゃないとは思うよｗ
というか自己言及的ってのは入力によって基礎コード自体を書き変えるってことだから、正直想像もつかないｗ

（長すぎたので続く

>>118
パースの理論は俺もまだ勉強中の身だから偉そうなことは言えないが、例えば子供の発達心理学でも「動物」というカテゴリの下位に「犬」→「柴犬」みたいな大まかな把握があるじゃない
それをより系統的に、「青」→「形状」から男子トイレを認識するなどの記号認識機序を１０段階に分けていたりするのね。これが記号学的なカテゴリ論
更に規範科学においては、日常語では「価値観」や「道徳観念」といったところに踏み込んでいる
価値観の概念そのものはその後クワインらが展開しているけれども、先の記号学的カテゴリ論を踏まえれば、今の画像認識技術からすれば基礎技術はできているのではないかと思っている
あとはそれらのカテゴライズ手段と記憶と再帰的処理の問題が、言うは易しの壁ではなかろうか
パースは元々数学者だから、「定義」と「分類」というものに強く拘っていた人だから、ちと古いにせよブロック図設計上で非常に参考になるんじゃないかと考えているんだ

カテゴライズそのものはパースの段階ではまだ曖昧かもしれないが、今では発達心理学と脳科学のコラボでカテゴライズの機序は徐々に明らかにされているから、遠からず処理手順は明らかになるのではなかろうか、と思う

これで不足なら個別に指摘してくれ、不勉強だがわかる範囲でレスる

>>68

遅レススマソ。

＞古い？

いや、古くないな。
単なる機能シミュレーションでなくて、
進化あるいは発生学的なシミュレーションという事であれば。

その方法が強いAI第１号への近道かもしれないな。
「どのような淘汰圧を設定すれば、望む方向への進化を加速できるか」という問題があるが、それはそれで興味深い。

>>111
フレーム問題というのは、論理的な問題で現実的な問題ではないですよ。解法もいくつも提示されています。
まぁ、これも論理的なもので、それが直接すぐに人工知能の成功に結び付くものではありませんが。

むしろお尋ねしますが、フレーム問題が原因で、機能しなかった人工知能なりコンピューターなりの具体例を
ご存じですか？フレーム問題さえ解決できれば、強いAIが作れるのに、といった声を聞いたことがありますか？
もちろんこれは修辞疑問ですがね。

シンギュラリティ後のユーモアとかジョークってどんなのなんだろう
きっと今の人類には高度過ぎて理解できないんだろうな

>>123
レス�dクス
面白そうなんだけど、
淘汰圧どうすんのとか発生の方法とかちゃんと発散するのとか、
意識とかそれでほんとに出来んのとか問題だらけ^^;

１００年後の人間やAIがこのスレを発見したら
原始人が空を飛ぶ方法を議論してるように
見えるのかなぁ？

>>121
丁寧にありがとう。

> 「傾向性」というのは日常語で言うと「好み」や「衝動」が近いかな。これは学習に相当する蓄積機能に加え、蓄積されたデータを単純化してカテゴライズ（後述）し、アクティブフィードバックする必要があると思う
「好み」については学習がある程度関係しているだろう。
しかし別の環境で育った一卵性双生児が、それでも似通った好みを持つことも知られているので先天的な要素もあるのかもしれない。
「衝動」についてはこれだけでは説明がつかないな。動物は自然に生殖するが、それは学習によるものではないだろう。
何か先天的なものが根源にあるはずだが、それはまだ良く分かってない。

> というか自己言及的ってのは入力によって基礎コード自体を書き変えるってことだから、正直想像もつかないｗ
挙動をデータ化して処理側はそれを参照するという方法も考えられるが、どこまで柔軟性を持たせておくかと言うのは難しい問題になるな。
あらかじめ用意した挙動を組み合わせることしか出来ないだろうから。
自分自身を書き換えるというのは技術的には可能だけど、意味のあるセマンティクスを維持した上で目的に沿った拡張を行わせるというのはちょっと困難。


>>122
> パースの理論は俺もまだ勉強中の身だから偉そうなことは言えないが、例えば子供の発達心理学でも「動物」というカテゴリの下位に「犬」→「柴犬」みたいな大まかな把握があるじゃない
> それをより系統的に、「青」→「形状」から男子トイレを認識するなどの記号認識機序を１０段階に分けていたりするのね。これが記号学的なカテゴリ論
これはちょっと実装が難しいと思う。どれぐらい抽象化するのかが定式化できないように思える。
あらかじめ人間が基本的なカテゴライズを用意するしかなさそうだ。
そしてたぶん「これが正解！」という結論はなかなか出ないだろう。

> 価値観の概念そのものはその後クワインらが展開しているけれども、先の記号学的カテゴリ論を踏まえれば、今の画像認識技術からすれば基礎技術はできているのではないかと思っている
カテゴライズに画像認識技術を援用できる。というのはちょっとピンと来ないな。


だいぶ分かり易くなった。色々参考にはなりました。ありがとう。

>>117
>ところで、人間が「或る定義できてない問題」を「定義できるようになった」場合、それは結局のところ
>人間が「或る処理の枠組みを見つけた」「或る当面の課題に対するフレーム問題を解いた」という事だと思うが、
>そういう認識でよろしいか？
その場合、当面の課題に対するフレーム問題を解いたのではなく、当面の課題からフレーム問題が取り除かれた、
という理解が正しいと思う。
ちなみに「或る定義できてない問題」を「人間の知性の範囲」に置き換えれば、 そのまま>>112,>>113の議論になる。

>>118
>その解決してしまった問題ってフレーム問題ちゃうんちゃう？
そうなんだけど、逆に言うと、じゃあ今フレーム問題にハマる問題って何？ってことになる
有名なロボットが爆弾運ぶ問題でも、今はフレーム問題にハマらず解けると言われてる。
ttp://www.h5.dion.ne.jp/~terun/doc/frame.html
ロボットが美術品を観測しながらちょっと動かせば、爆弾が動いて他のものが動かないことはすぐ理解できる。
専門的に言えば、これは「人間ではなく環境自身が計算を行ってる」ということを意味する。

60年代の人工知能研究者は、環境が知能に果たす役割をよく理解してなかった（現在の一部の哲学者もそうかもしれないが）
だからフレーム問題みたいな、現実にやってみればすぐ解決するのにも関わらず、
頭の中だけで考えたような非現実的な問題が出てくる。
ロドニー・ブルックスはサブサンプションアーキテクチャで否定したのは、そういう身体性の軽視。

以前、ルンバが敷居を超えられる知能を持てるかって話が出たが、結論から言うと無理。
その知能を支えるためのセンサもアクチュエータも、ルンバは持ってないから。
例えば赤ちゃんがルンバの中で育っても、そのルンバは人間と同じ知能を身につけることはできない。

>>129
今現実的にフレーム問題が問題になることは無いだろうな。必要ないし。
「人間ではなく環境自身が計算を行ってる」というのは理解しにくいなあ。
どういう意味なの？

>>130
少し違うと思うんだよなあ。
それって「身体性」というフレームを作ってるだけだから。
あと人間の身体にサブサンプションを載せたらどうなるか？という話もしたと思うんだが。
もっともサブサンプションはほんの入り口でまだまだこれからが本番。
と言うんであれば面白そうではある。

【人工知能】ゆっくりをねらえ！技術的特異点講座　補講3
http://www.nicovideo.jp/watch/sm21953193

>>7
＞ 脳を必要充分にシミュれば勝手に創意工夫するだろう。という意味ね。
＞ 問題は何が必要充分なのか？だろうな。

おお、物解りが良い。
そして、どこまで模倣するかの話題は他の段落で進行しているから、そちらにまとめるとする。


＞ 意識のような主観的側面は外部から観測出来ない。というのが結論だということだね。

結論も何も、周知の事実じゃないか。
その後に、それを踏まえたとしても「仮説通りのシステムが物理的側面のみで実装されている場合であれば、実証可能」と言っている。
少なくともこの世界が唯物論であれば、主観的側面が観測出来なかろうが、実証出来るということだ。
わかるかね。

日本語がおかしいな。
×この世界が唯物論であれば
○この世界が唯物であれば

>>129
具象化傾向（concreteness）と過包括（over-inclusion）
http://med.m-review.co.jp/magazine/detail1/J28_11_3_35-40.html
君が放つオーラについて

>>124
答える前に、今一度、フレーム問題がどういう問題かという事を念のために確認しておく。
フレーム問題とはとどのつまり、
「計算すべき事柄が無限になり得る、もしくは有限であっても利用できる計算資源が逼迫するほど計算事項が多数である時」
「どこまでの範囲の事柄を計算するか」「どこで計算を切り上げるか」「どの事柄の計算の優先度を高くするか」
という問題だと認識しているが、
ずいぶん前に起こった2000年問題だって、フレーム問題の一例だと言える。
1970年代頃に事務処理システムや経理システムを組んだエンジニア達は
「いくらなんでも21世紀を迎える前までには、今組んでいるシステムはお払い箱になっているだろう」と考え、
計算資源の節約のため、年号という事柄を下２ケタの範囲しか計算しない様、処理の枠組みを設定した。

ところが、エンジニアの想定を超えてシステムが長く利用されたため、「年号」に対するフレーム問題が生じた。
幸いにして人間が処理の枠組みを設定しなおすのが間に合ったため大事にはいたらなかったが。
2000年問題に限らず、「設計当初は想定外だった事柄」は多数発生し、そのつど、人間によるプログラムアップデートを要してきた。

で、私はこの種の問題を機械が【人間の手を介さずに】解決した例を知らないのだが、君は知っているのかね？

>>129
＞「人間ではなく環境自身が計算を行ってる」
について。

人間の受精卵が新生児になるまでのプログラムは全ゲノムが持つ高々700〜800MBほどの情報量に収まっているわけだが、
新生児を形作る仕組みがこれほどコンパクトに収まっているというのは、考えてみれば驚異的な事だ。

依然誰かが言ってたようにフラクタルの原理を応用して複雑な構造を少ない情報量で作っているというのもあるだろうが、
『子宮』という、温度なり溶媒の組成なりが厳密に調整されている『環境』に依存する事で、情報量（計算量）を減らしている、
というのもあるだろう。
腹部への物理的ダメージ、あるいはニコチンやアルコールなどの生化学的なダメージで
子宮と言う環境が乱されると、新生児誕生までのプロセスは正常に行われない。

「環境自身が計算を行ってる」というのは、「環境に依存する（よりかかる）事で、より少ない計算量でより良い結果を得る」
という事だと私は解釈しているが、どうだろう？

>>137
セルオートマトン・ライフゲーム調べてみれば？
世界が物質に対して行っている処理（＝計算）は常に変わらない
模様が発展しているように見えるだけ、残る性質の模様が残っているという当たり前の結果が起きる

>>132
今回も面白かったな。

……その動画のうp主は、このスレを読んでいたりするのかな。

読んでいたとしても、あまり気にせずに当面今まで通りのスタンスで気ままにやってほしいもんだ。

>>131>>139
説明が足らなかった。すまん。
>「環境自身が計算を行ってる」というのは、「環境に依存する（よりかかる）事で、より少ない計算量でより良い結果を得る」
だいたいあってる。
人工知能と並行で誕生した分野として認知科学とかがあって、
ギブソンのアフォーダンス理論なんかも関わってくる話だけど、
我々の知能は環境に最適化されていて、環境と切り離して取り上げても意味が無い
という考え方が80年代くらいから出てきた。で、その時に外界を操作する身体が必要不可欠になる。

本来のフレーム理論では、アクションを起こす前にロボットがいろいろ考えてしまって爆弾が爆発するわけだけど、
身体性のある知能ならば、まず車をちょっと動かしてみて、何が動くか動かないかを観測することで
間接的に環境に計算させる。その上で爆弾を運び出せば良い。
人間はそういう省力化をよくやる。身体性は、それが知能の本質の一部だ、という考え方。

>>138

知ってて言ってるんだが、それが何か？

で、セルオートマトンやライフゲームは万能チューリングマシンと等価なわけだが、
君はあらゆる万能チューリングマシンの動作結果を
「当たり前の結果」と言い切ってしまうほど予測してしまえる方法を何かご存じで？

>>136
横槍になってしまうけれど、それは人間「でも」フレーム問題を解けなかった例に当たる。
2000年問題なんかは、時間の経過が、本来計算していなかった問題点を炙りだしたと言える。
これも広く含めれば「環境（＝時間の経過）が計算した」例になる。

>で、私はこの種の問題を機械が【人間の手を介さずに】解決した例を知らないのだが
人間が考えた範囲の事柄を機械が超えた例としては、この前の電王戦で三浦六段に対して新定跡で返した
GPS将棋なんかが当てはまるんじゃないかな。
大枠では将棋という限定された環境であったけど、とはいってもその広すぎる解空間の中で
人間よりもコンピュータがよく探索できた例。

>>142

＞＞「環境自身が計算を行ってる」というのは、「環境に依存する（よりかかる）事で、より少ない計算量でより良い結果を得る」
＞だいたいあってる。

了解した。認識に齟齬を感じたら、改めて確認させて頂く。


＞＞で、私はこの種の問題を機械が【人間の手を介さずに】解決した例を知らないのだが
＞人間が考えた範囲の事柄を機械が超えた例としては、この前の電王戦で三浦六段に対して新定跡で返した
＞GPS将棋なんかが当てはまるんじゃないかな。

なるほど、そう言えるかもしれない。

あと非常に個人的なことを言わせてもらえば（まあ異論もあるだろうが）
特に哲学者（>>129）が知能について嘯くことは、ほんの少数除いてあまり人工知能の作成には役立たない。
彼らは数学という現代的な武器を装備してないし、動的な系も扱えないから、物事の本質を見失いがち。

可能か不可能かで定式化をすれば、「この世には真か偽か判断できない問題がある（＝ゲーデル）」し
「真か偽か判定できる問題は時間かければ必ず計算できる（＝ビジービーバー関数）」し
「計算にあたって影響をおよぼす出来事は事象の数だけある（＝フレーム問題）」のだけど

現実的には「どれだけの計算資源があって」「問題がどれだけ難しくて」
「ある問題を解くのにどれだけ資源を使えるか」という見積がないと空論になる。
人間の目が何を見て、手がどういう仕組で何をいじれて、という話を抜きに人間の知能は語れない。
「土から離れては生きられないのよ」っていうアレ
（計算オーダーの話はまだ本質的に意味があると思うけどね）

The First Carbon Nanotube Computer
http://www.technologyreview.com/news/519421/the-first-carbon-nanotube-computer/

>>137
子宮以前に胚という工場の複雑さもあるよ。

>>140
まずは行動して、動的な影響を見れば良い。と言うことだね。
刈り込みの方法としては良いアイデアかも知れない。
でも「人間ではなく環境自身が計算を行ってる」という表現はあまり的確でない感じがするな。
これだけだと無機物が主体的に計算しているかのように取れるから。

身体性が知性に影響していると言うのはたぶんそうだろう。
人間の場合さらに>>122が触れているような社会性や自然との相互関係も影響していると考えられるのでもっと複雑だと思うが。

無機物が主体と言っても間違いじゃないだろ
パソコンに計算させるのと同じ

光学センサーの前に魚を持ってくと匂いを嗅ごうとしたり食べようとする信号が出力される
また、猫じゃらしをセンサーの前でフラフラさせると興奮状態になる
季節によって発情の信号が出力される

などなどができていなかったら「猫の脳をシミュレートした」とはとてもじゃないが言えないんじゃないの？
人間の脳ももちろん同様にね

まあこの話はもう終わってるみたいだがw

>>136
さすがに2000年問題をフレーム問題に含めるのは、定義から外れすぎでしょ。
今度あなたがフレーム問題という言葉を使う時には、俺のなかでは2000年問題もフレーム問題に
含まれます、と宣言してから使ってくださいね。

>>147
話の趣旨がわかってないだろ？
パソコンに計算をさせてる主体はユーザだわな。
少なくともウチのパソコンは「僕二次方程式解きたいんですけど」と言ったことはないわ。
主体的に計算するハンカチ。とか主体的に計算する椅子。とかシュールすぎるだろ。
まあシンギュラリタリアン的で面白いが。

>>149

じゃあ、君の『フレーム問題』の定義を読ませてもらえないかな。
Wikipediaとかの引き写しじゃなくて、君自身の言葉で。

もっとも、それがスレ住人の多くに支持されるものかどうかは読んでみるまで分からないがね。

>>148
もっと単純に猫の身体に繋いでニャーと鳴くかどうか見て見れば良い。

ていうか研究者本人に聞いてみれば良いよ。
「先生、猫の脳のシミュに成功したんですって？すごいですね！」
と言われたら本人が一番戸惑うと思うわ。
「全然ちげーし。俺そんなことしてねーし」と言うだろう。

世界が機械的だとしたらそこには主体も客体も無いと思うなあ。
そこにあるものが便宜上「主体」とか「客体」とかいうシグナルを使うことはあるかもしれないけど。

亀レスだが>>128へ

＞「衝動」についてはこれだけでは説明がつかない
「傾向性」はカントの語で、これに含まれる衝動はそこでいう本能的衝動は含まれないんだ
むしろ>>128の云う本能的衝動こそ初期設定されるべきもので、感性的或いは悟性的な衝動より簡単なんじゃないかな

＞自分自身を書き換えるというのは技術的には可能だけど
そこよね、生物全般（特に人間）の環境適応性をどう解釈して実装するかという点には高い壁を感じる

＞どれぐらい抽象化するのかが定式化できないように思える
パースの提唱した記号の１０個のクラスというのは勁草書房パース著作集２巻「記号学」から俺が要約して引用すると
1.性質記号（例えば「赤い」という情態）
2.類似的単一記号（例えば固体としての図形）
3.名辞的指標的単一記号（例えば思わず出る叫び声）
4.命題的単一記号（例えば風見鶏のように、直接経験の対象であり実働的事実に関する情報を与えるもの）
5.類似的法則記号（例えば事実的な個性を除いた図形のように、実例と結び付けられた一般法則）
6.名辞的指標的法則記号（例えば指示代名詞のように対象から実際作用を受けている一般法則）
7.命題的指標的法則記号（例えば町の呼び売りの声のように実例それぞれが対象に関する一定の情報を供給する一般的なタイプないし法則）
8.名辞的象徴記号或いは象徴的名辞記号（例えば普通名詞のように一般観念の連合によって対象と結合する記号）
9.命題的象徴記号或いは通常の命題（一般観念の連合によって対象と結び付けられ、解釈項が命題的象徴記号を命題的指標的法則記号と見做すもの）
10.論証（解釈項がその対象を法則を通じて後続してくる記号として表意するような記号）

となる。（７以降は説明が難しいので俺の要約が間違ってるかもしれない…他に退化的記号なんかもあるし
７以前に関しては「認識のカテゴリ」としてあらかじめ人間が用意する、で俺の認識と一致している
そこのどの程度のフレキシビリティを準備するかという点について、画像認識で使ってる曖昧さの処理の基本的な考え方が援用できるんじゃないかと考えている次第
（そのまま使えるとは思っていない

>>154
ちょっと読んだだけで玉案宝典の動物の分類を思い出して頭痛くなった。
後でゆっくり読むわ。

>>155
俺も読んでて頭痛くなるｗ

>>146
> でも「人間ではなく環境自身が計算を行ってる」という表現はあまり的確でない感じがするな。
> これだけだと無機物が主体的に計算しているかのように取れるから。
入力があるときに出力を返すものを大きく分けると計算という。数学でいう関数
この場合、主体がどこにあるかは、定式化には影響しない

「人間が環境に計算コストを負担させてる」という方が通りが良ければそれでもいいし
「環境が人間に情報を吐き出させて返している」と捉えてもいい
人間も環境も計算機であり関数と捉えると、
数学的には、というか唯物論的には等価
（人間の方が単純な関数になるが）

>>136
支離滅裂

>>158
その程度しか書けないワンパターンレッテル貼り野郎は消えろ。

>>159
エンジニアは計算範囲を自ら設定したんだろ？
それが出来たということはフレーム問題は起きてないよな？
そんで、その後で起きたトラブルはそれはそれで別問題なのよ...。

そうならそうと初めから書かないと、文句を言われても仕方ないよね。

>>159
めんどくさいなぁ。多分、>>66の中では、>>158も僕になってるんだろうな。
僕は>>124 = >>149だけど>>158じゃないですよ。

>>151
僕の定義なんてどうでもいいんですよ。Wikipediaでも別に困らないし。
重要なのは、どんな定義によっても2000年問題はフレーム問題には含まれませんし、あなた以外の
大抵の人はそう解釈するだろうってことです。
フレーム問題という文脈で2000年問題を出したら、まともな人は笑うとか怒るとか呆れるとかしますよ。
あなたの考え（というか思いつき）以外で、2000年問題をフレーム問題であると述べている論文とか
文書とかがあります？ないですよね。

ついでにツッコミどころを書いておきましょう。以下について真実か否か調べてみてください。
「フレーム問題が話題になった頃は、再帰できる言語はありましたが、基本的にコンピューターのCPUは1つか2つでした」

フレーム問題とは直接関係ないけれど、80年代中ごろには、こんな機械が使われるハッキング（クラックではない）があったそうな。
ttp://anant-lifespeakswhenyoulisten.blogspot.jp/2010/06/some-light-reliefhardwaresoftware-trade.html
面白いですねー。

フレーム問題と言っても色々な捉え方があるからややこしいな。

AIだけの問題とする立場と人間にもあるとする立場がある。
また、間違ったフレームを採用したことに気付かないという側面と、どのフレームを採用するか決められないという側面、フレームを列挙すること自体が困難という側面がある。

範囲を広く取った場合、Y2K問題は人間が間違ったフレームを採用した。と考えることも出来なくもない。

ちなみに人工知能学会のフレーム問題の説明
http://www.ai-gakkai.or.jp/whatsai/AItopics1.html
たぶん書いてるのは松原さんかな。

>>151
http://u1sokuhou.ldblog.jp/archives/50411146.html

「考え方によってはフレーム問題の一例と捉えることも可能である。」くらいに控え目に言えよ、とは思うけど、
一般的な理工学に加え（それらだけでもかなり分野は広がるし）、哲学統計学論理学なんかが入り乱れるここのスレでは、一般的認識を根拠に切り捨てるような態度はちょっと無骨じゃないかな、とも思ってしまう。

>>162

？

>>158に対して言った事に、
なんでおまいがしゃしゃり出てくるんだ？

強いAI？そんなもんいらないだろ
中国やインドなど人口の多い国の貧困層がまともな教育を受けるようになった
瞬間がシンギュラリティだｗ

頭の弱い俺っちには世の中とっくにシンギュラリティだよ

確かに確率上は中国やインドに天才は数多くいるだろう。
だがそれらの人間が通常の１０００倍の知能を持っているかというと怪しい

生物的頭脳のその先にこそシンギュラリティはある

>>165
おわかりかと思いますが、
フレーム問題があるから強いAIは実現できない
↓
強いAIができていないからフレーム問題は現時点では解決されていない
というのは、トートロジーであって、何も言っていないに等しいんです。

実際の所、フレーム問題を解消することは既にできているし、フレーム問題が原因で実現
しなかったAIというのは存在していないと言ってもいいし、実際の所、強いAIの実現に向けて
フレーム問題を解消しようとしている人は、現在では極めて少数と言ってもいいと思います。

何故かというと（これもご存じかと思いますけど）、並列計算、乱数や確率を使ったアルゴリズム、
コネクショニズム、ニューラルネットワーク、アクターモデル、GA（どれも手垢がついた言葉
ですが）などによって、一つのCPUが正しい答えを出す必要は必ずしもなくなったからです。

>>171
> 実際の所、フレーム問題を解消することは既にできているし、フレーム問題が原因で実現
> しなかったAIというのは存在していないと言ってもいい

それはつまり誰も強いAIを作ってない。というトートロジーだね。
まあまあのユーモアセンスだ。

人間の脳どころか、どんな下等生物でさえもフレーム問題で困っていないのだから
そんな問題なんか大した事はなかろう

>>171
違う、そこじゃない。
フレーム問題自体はCPUの数云々以前に、自分で考える力のない人がひっかかるただの子供騙しだよ。
俺が無骨だと言ったのはフレーム問題を切り捨てることじゃなくて、2000年問題はフレーム問題という解釈を切り捨てることね。

>>174
すごいな。
ジョン・マッカーシーを自分で考える力の無い人と言い切るのか。

>>174
仮に切り捨てなかったとしても、何かの発見が得られるのかという疑問があります。
フレーム問題にしろ、「2000年問題はフレーム問題に含まれる」という解釈にしろ、思考や議論を
停止させる悪いミーム（とでもいえばいいのか）にしか思えません。

「2000年問題はフレーム問題に含まれる」か否かという議論が発展的に解消することによって、
この件以外で多様な議論が期待されるとか、「2000年問題はフレーム問題に含まれる」人が
救われるかもとかいうことですかね。

>>175
考える力がない人が見出されました。
ジョン・マッカーシーは、後に45年間も通用する「自分で考える力のない人がひっかかるただの子供騙し」を
「考え出した人」です。騙された人ではありませんよ。

フレームが重ならない二者間での価値の共有が困難だということが解った気がする。

>>176
ほほう。
人工知能学会も45年間子供騙しにひっかかってる自分で考える力のない人の集まりか。
それでは強いAIの実現も難しそうだな。

ていうかフレーム問題が既に解決されて来たと主張するところを見ると本質を理解してないんじゃないか？

>>178
辞書に馬鹿げたことが書かれてるからと言って、辞書を編纂した人が馬鹿ということではありません。

しかも「集まり」って……
Webページの1ページに書かれてるからといって、全員を一緒くたにしないでくださいよ。
あなたに思考能力がないことを学会のせいにしないでくださいな。

フレーム問題はNNでどうにでもなるでしょ
どうせ人間に細かい超AIの思考を設計するなんて無理だろうしエクサ級のスパコンにでもNNを構築すればいい

だいたいエラい人が云々とか言い始めちゃうこと自体、思考力の低さの現れ
思考力があればエラい人なんて偶像にすがる必要はない

それと、話してる間に話の焦点を元々の話題自体から話者語り手に移しちゃう
これ、思考力のない奴の悪い癖な

>>179
読むべきところを間違えてるぞ。
一番大事なのは最後の行だ。

とりあえず既に解決されたフレーム問題の例を教えてくれ。
本当にフレーム問題なのか検証してあげるから。

しかしこの程度のことも読み取れないとは随分お粗末な「自分で考える力」だな。

>>183
検証してくださらなくても結構ですので、ご自分でお調べになって発表なさってください。
人工知能学会でも「と」学会でもWebページでもお好きな所で。

>>185
要するに何も無いのね。自分でも、

>>その解決してしまった問題ってフレーム問題ちゃうんちゃう？
>そうなんだけど

こういっていることだし。

フレーム問題なんて「タイムアウト」これだけで解決なんだがな。。。
下等生物ですらフレーム問題なんて犯さないのに。。。
タダの詭弁だろｗ

起こさないの間違いだったｗ

それちゃうちゃうちゃうんちゃう？

>>186
いや、それは別の人です。
>>174を書いたのは別の人で、>>176は僕というのは、書き込みの構造からわかるかと思いますけど。

てかマジで自分で調べてくださいよ。強いAIにお強くて、フレーム問題の解法をこんなスレで
検証「してくださる」程有能な方なら。

今は日本で専属で強いAI研究とかしようとすると、もの凄い大変（というか無理かもしれない。
もしかしたら、世界的にも専属だときついかも）だし、やってる人も歴史的経緯から少ないので、
自分で調べたりプログラム書いたりしてみると面白いですよ。わりとマジで。

一方で10年くらいしたら、Googleが人間より賢くなってるってことはあるかも。Googleはガチでやばい。

図書館は知能を持たない

今どき小学生でもフレーム問題なんて言わねえよｗ

>>187

……で、「どこでタイムアウト処理を実行したら適切か」は誰がどうやって決めてるんだ？

>>180

「NN」はニューラルネットワークを指してるんだろうが、それとて、原理的に出来る事は万能チューリングマシンの範疇内に有る、ってのは理解しているか？

>>194
そんなもんその場その場でAIが決めればいいだろ
もちろんタイムアウトする時間を決める思考時間のタイムアウトはくらいは
最初からプログラムしてもよかろう

>>162
＞どんな定義によっても2000年問題はフレーム問題には含まれませんし、
＞あなた以外の大抵の人はそう解釈するだろうってことです。

ほう？　君がそう言う以前に、>>142の人とかは
＞横槍になってしまうけれど、それは人間「でも」フレーム問題を解けなかった例に当たる。
って言ってるんだが。
少なくとも「そう考えているのは私だけ」って事は無さそうだ。
>>160の人とかは
「最初に設定された枠組に沿ってシステムがちゃんと使われ、課題遂行に支障が生じない限り、フレーム問題は発生していない」
という考えのようだね。
それはそれで結構だが、「予期していなかった問題は別問題」として切り捨てるのはいかがなものかと思う。
私は「予期していなかった事象の発生によりシステムが課題遂行するのに支障をきたす事」も広義のフレーム問題の一種と考えているのでね。

人間のような脳を持たない生物はもっぱら遺伝的進化（突然変異による新たな形質の獲得）によって
「予期していなかった事象の発生」に伴う問題を解決しているわけだ。解決できなかった結果がその生物種の絶滅とも言える。

>>196

そうすると、その、
「最初のタイムアウトの閾値の設定」
如何によっては、
閾値が低すぎて解決まであと一歩のところまで来ながらたどり着けないAIや、
閾値が高すぎて特定のジョブの解決に固執してしまい、より優先度の高いジョブになかなか移行出来ないAIが出てくるわけだ。

……あれ？、これ、人間でも時々そういう状態に陥らないか？

で、>>162は
＞僕の定義なんてどうでもいいんですよ。
と言ってるが、まともに答えるつもりは無い、ってことか。
>>183の人の問いに対しても「検証してくださらなくても結構ですので、ご自分でお調べになって発表なさってください」とか言ってるな。
何か都合の悪い事でもあるのか？

まあ、いずれにせよまともに答えるつもりがなければ、
こっちも、>>162の以下の問いにまともに答える必要は無いな。
＞ついでにツッコミどころを書いておきましょう。以下について真実か否か調べてみてください。
＞「フレーム問題が話題になった頃は、再帰できる言語はありましたが、基本的にコンピューターのCPUは1つか2つでした」

君が私の問いに答えない限り、私もまともに答える必要が無いのだから、質問に対して質問で返してやろう。
「『チューリング完全』って言葉の定義を知ってる？」
「1969年にマッカーシーとヘイズがフレーム問題について述べた時、大型コンピューターのCPUは今みたいなマイクロプロセッサーだったと思ってるの？」

で、>>162のリンクだが、何でどこの馬の骨とも知れないブロガーの丸写しコピペ記事じゃなくてそいつの引用元を直接引用しなかったんだか、理解に苦しむね。

あと、私は別に「フレーム問題があるから強いAIは実現できない」と言った覚えは無い。

「『強いAI』を名乗るからには、【特定の狭い分野以外でも】【人間と同じかそれを上回る水準で】フレーム問題を解決できて然るべき」
とは思っているが。

>>142の人が言ったような、将棋やチェスといった限られた分野では、AIは既に人間以上に上手にフレーム問題を解いている。
株式相場の予想でも、リーマンショックみたいな大変動が起きない限りは、人間の相場師より株価予想ソフトの方が今ではずっと優秀らしいな。

私の関心事は、マッカーシーとヘイズが最初に提示した狭義のフレーム問題じゃなくて、
広義の『一般化フレーム問題』って事。

>>190

> てかマジで自分で調べてくださいよ。強いAIにお強くて、フレーム問題の解法をこんなスレで
> 検証「してくださる」程有能な方なら。

強いAIに強いなどとは言ってない。
そもそも強いAIという言葉自体が曖昧すぎるので考えようが無い。

フレーム問題の解法など検証する気はない。
君の言う既に解決済みと言うものが本当にフレーム問題なのか検証する。と言っているだけ。
フレーム問題にCPUの数が関係すると考えるところをみると相当勘違いしてるだろうからな。
そもそもフレーム問題を厳密に解決する方法などあるわけが無い。
出来るのはどれぐらい適当に刈り込むかと学習によってなんとか回避する方法を考えるぐらいだろう。


> 今は日本で専属で強いAI研究とかしようとすると、もの凄い大変（というか無理かもしれない。
> もしかしたら、世界的にも専属だときついかも）だし、やってる人も歴史的経緯から少ないので、
> 自分で調べたりプログラム書いたりしてみると面白いですよ。わりとマジで。

何の役に立つのか分からんものにそうそう簡単には予算はつかないわな。もっと課題を絞り込まないと。
アメリカあたりなら軍がだまされて金出すかも知れんが。
そんな状況なのに2045年にはシンギュラリティとやらが来るらしいぞ。一部の人によると。


>>200
将棋もチェスも閉空間の問題なのでフレーム問題は発生しない。
完全に計算し尽くせば必勝の最善手があってしかるべき問題。質的には○×と変わらない。

>136
予期しないことまで「支障なく課題遂行できる」のがフレーム問題を解決できるシステムってこと？
広義すぎてよくわかんないんですけど最近そういうのが主流なの？

>136
広義の解釈だとその辺の「石」ってフレーム問題解決してる？
何にも関与せずにやり過ごしてるけど。

てゆーか「課題」とか「遂行」とか言語ゲーム全開だよね。

>>197
> 人間のような脳を持たない生物はもっぱら遺伝的進化（突然変異による新たな形質の獲得）によって
> 「予期していなかった事象の発生」に伴う問題を解決しているわけだ。解決できなかった結果がその生物種の絶滅とも言える。

進化と環境の変化は時間的スケールが違います。
多様性を持つことによって、例えば、病原体やウイルスによる全滅を避けられているだけです。
適応の範囲を超えて環境が激変してしまえば、遺伝的進化を待つことなくその種は絶滅するでしょう。
解決というのとはちょっと違いますね。

>>199
>君が私の問いに答えない限り、私もまともに答える必要が無いのだから、質問に対して質問で返してやろう。
> 「『チューリング完全』って言葉の定義を知ってる？」

知ってるとしか答えようがないですねぇ……

> 「1969年にマッカーシーとヘイズがフレーム問題について述べた時、大型コンピューターのCPUは今みたいなマイクロプロセッサーだったと思ってるの？」

今あるパソコンのマイクロプロセッサーで、1969年にマッカーシーとヘイズがフレーム問題について述べた当時の
大型コンピューターの何台分のエミュレーションができるか考えてみて頂きたい。
或いは、京でも天河二号でも構いませんが。

> で、>>162のリンクだが、何でどこの馬の骨とも知れないブロガーの丸写しコピペ記事じゃなくてそいつの引用元を直接引用しなかったんだか、理解に苦しむね。

元は20年くらい前の紙の本なんですよ。
ttp://books.google.co.jp/books?id=4vm2xK3yn34C&pg=PA260

>>200
> あと、私は別に「フレーム問題があるから強いAIは実現できない」と言った覚えは無い。

あなたが言うところの2000年問題を含むかもしれない「広義の『一般化フレーム問題』があっても、
強いAIが実現できない」とは限らないということですね。

> >>142の人が言ったような、将棋やチェスといった限られた分野では、AIは既に人間以上に上手にフレーム問題を解いている。
> 株式相場の予想でも、リーマンショックみたいな大変動が起きない限りは、人間の相場師より株価予想ソフトの方が今ではずっと優秀らしいな。

実際のところ、人間の相場師も上手にリーマンショックを乗り越えられたわけではありません。
考えて、忘れて、ご飯を食べて、考えて、ヒューリスティックを使って、ウンコして、決断して、ポジションを
取っただけです。
多様性があるポジションの中で、たまたま激変の中で生き残れるポジションを取っていた人（あるいは
レバレッジがかかった投資をしなかった人）が生き残っただけです。

例えばGPS将棋が名人に勝つ前人未到の定跡を発見したのも、Googleが猫の画像を自動で覚えたのも、
どちらもノイマン型コンピュータ上のアルゴリズムで、60年代の学者が考えた頃と
原理的に何か違う計算手段が出来たわけではない。前者は伝統的な知識表現AI、後者はコネクショニズムの子孫。
ただ、地道な研究の積み重ねと莫大な量の計算パワーが質の違いを生んだ。
そういうことは計算機の歴史上よくある話で。

環境が計算を削減するというのが身体性の話だけど、それは結局計算機でシミュレートできるとすると
「一般化」したフレーム問題による計算量爆発を防ぐことは、人間も動物も計算機にも出来ない。
しかし「実用的な範囲」では、人も計算機もフレーム問題には落ち込まない。
だからまあ、「フレーム問題」という用語は悪名高き「クオリア」と同じで、定義になってるようで
実は全然なってないので、混乱を巻き起こす用語になりやすい。要するに、そのまま考えても思考のムダ。

議論するなら「フレーム問題」のうち、人間にできて計算機にできないことについて、
もっと細かい定義を詰めるべきだろうね。

>>201
> 何の役に立つのか分からんものにそうそう簡単には予算はつかないわな。もっと課題を絞り込まないと。
> アメリカあたりなら軍がだまされて金出すかも知れんが。

だまされてというか、米政府は常にといっていい程AIについての予算を出しています。
というか、米軍が防空網の自動化とか、冷戦下の宇宙開発に金を出さなかったら、今の状況は
なかったのではないでしょうか。
まぁ、日本も米国も同じく、「人工知能」とか「推論」という言葉はご法度に近いのかもしれません。
HPCとか、シミュレーションとかいう名目で研究していたりするという。

とはいえ、どこかの敵対的な国や、どこかの企業がやらかしてしまったりするかもしれないので、
常に「今どこまでできるのか」は研究していると思います。（表には出ないので「思います」ですが）
出来ちゃったばあい、米軍はどういう選択肢を取るんでしょうね。結局、大胆な選択肢は取られずに
ズルズルと進歩してしまうということになるんだと思いますが。

今の私企業のディープラーニングの流行などは、ちょっと理解がしがたいです。
陰謀論者ではないのだけれど、どこかからお金が出ているのかとか、何だか妙な新たな思想が
芽生えつつあるのかとか、いろいろ考えますね。

> そんな状況なのに2045年にはシンギュラリティとやらが来るらしいぞ。一部の人によると。

カーツワイルによると、人間と区別ができない程度の強いAIができるのは2029年とのことです。
僕は、この年にできるのかという疑問を感じますけど、ありそうななさそうなと思いますね。

>>202
人間は、既存の処理の枠組に問題が見つかったら、たとえそれが予期しなかった事であっても、
新しい枠組を設定しなおして、概ね支障無く問題解決できる。
「予期していなかった事だから解決できません！」とか言ってる人間は、科学の世界に限らず、使いものにならない。
で、強いAIの研究者が達成しようとしているシステムは
「少なくとも普通の人間と同じくらい使いものになる」システムだと思っているのだが、違うのかね？

あと、「石」は「生物一般」と違って能動的に環境に応答しようとしているわけではないので、
そもそもフレーム問題を考える必要が無い。
なんで君は、受動的な物体に対してフレーム問題を適用しようと思った？

最初は「課題」「遂行」の部分は「問題」「解決」となっていたんだが、
「フレーム問題」という言葉に既に「問題」という単語が含まれていて読みづらくなりそうだったんで、
「課題」「遂行」という単語を使っただけの事だ。
これを『言語ゲーム』と呼ぶのであれば、君は君自身の語彙の貧弱さを心配した方が良い。

で、>>187は
＞フレーム問題なんて「タイムアウト」これだけで解決
とか言ってたが、
「最初のタイムアウトの閾値の設定」についてはどういう解決法を考えているのかな。

>>209
これもまた循環的なツッコミになってしまうのだけど
2000年問題が問題になったのは「人間」にとってであって、プログラム上は仕様上何の問題もなく動いていた、という見方もできる。
つまり、フレーム問題で定義されてる前提となる「問題」、既存の枠組みで発生する問題というのは、
実はあくまで人間が「問題」と考える範囲の問題にすぎない、ということは言える。

ここにいるわたしら、おそらく人間なんで（多分？）、結構人間中心主義的な定義が含まれてしまうのは仕方ないこと。

まあ現状で「普通の人間と同じくらい”人間のために”使い物になるシステム」がある、と言えないことには
同意するけど、問題を人間のやり方で定義し、人間らしく解決することが、一般的な人工知能のゴールというのは
ちょっと行き過ぎた定義かな。人工知能というと、もっと汎用的な知能のあり方を求める人もいる。
シンギュラリティの定義するのも、人間らしさを必ずしも含まない、ちょっと別個の知能だと思う。

>>210
タイムアウトは比喩的に考えた方がいいんじゃないですかね。

人間的にみると、タイムアウトというのは、実によくわかる喩えではあるけど。
たとえば、朝起きたら昨日のアイデアをすっかり忘れていたとか、ご飯食べてる間に素晴らしいアイデアと
思っていたものがゴミクズとわかるとか。
一方で風呂入ってるときに、考えていたことについての別方向の見方が出てきたりとかして、脳が必ずしも
線形的に動いているわけじゃないということもわかるとか。

タイムアウトじゃなくても、重みづけするとか、巡回を検知するとか、参照されていないことを検知するとか、
どれも多分人間においては、使われない知識は忘れていくという形で複合的に実現されているとは思う。
もちろん、どれも完璧ではありませんし、情報技術で使われているほど、人間の中身の実現方法は
定式化されたものではないと思いますが。

簡単な規則で、当時思われていた通りか、それとも思われてもいなかった程にかはわかりませんが、
上手く機能した例として、TCP/IPのTCPプロトコルが挙げられます。
「届いたよ信号が届かなかったら再送する」とか単純な規則で、命令も言語もアーキテクチャも世代も
乗り越えて機能しているのはすごいことです。

>>211

＞ちょっと行き過ぎた定義かな。

んー、そうかも知れない。
しかし、人間は既存の枠組が役に立たないと分かったら、新たな枠組を自発的に見つけようとする。
見つけたものが必ずしも役に立つとは限らないが、おおむね、制限時間内にどうにか見つけ出す。

「新たな処理の枠組」が必ずしも人間らしくある必要は無いが、
人間以外がそれを自発的に見つけた例を、私は多く知らない。

強いて言えば>>63とか>>142がその少数例にあたるのだろうが、
ある程度広範な分野にまたがる問題に対して、統一的な意図を以て、処理の枠組みを見つけるという仕事を、
人間以外が成し遂げたという例はまだ知らない。

>>213
>「新たな処理の枠組」が必ずしも人間らしくある必要は無いが、
>人間以外がそれを自発的に見つけた例を、私は多く知らない。
人工知能にはサブジャンルとして、人工生命がある。
有名なTierraでは、限られたルールから寄生行動や社会的行動のような仕組みを電脳生物たちが自分で発見した。
報酬にあたるものが生存だけで、いわゆる教師なし学習による問題解決が行われている例。

もちろんこれは、すぐに役に立った例ではないけどね。人工生命研究には創発的な応用分野があったはずだ。

>ある程度広範な分野にまたがる問題に対して、統一的な意図を以て、処理の枠組みを見つけるという仕事を、
>人間以外が成し遂げたという例はまだ知らない。
「統一的な意図」が何を意味するのかわからないので、ちょっと答えづらい。

>>211
2000年問題については、計算資源の限界（当時の遅延線とかコアメモリや磁気ディスクは今より
とても高価だった）とか、言語仕様の問題とか、それで動けば当分は問題ないよねという妥協とか、
色々な人が色々な原因から作り出した問題だと思っています。直線的には理解し切れないと。

80年代には話題になっていて、問題意識もあって、新しく書き直されたり、改修されたりした
システムが増えていった筈ですが、1990年代末にジャーナリズムやSI自身が利用した感が。

僕の強いAIのイメージは、オイラーとかアインシュタインくらい賢い人間に近い思考力のコンピューターが
人間の100倍くらいの速度で、人間の100倍くらいの記憶力と、人間の100倍くらいの学習能力を駆使して、
バリバリ問題を解いてく感じです。それが100台くらい色んな研究機関にあって。
ま、馬鹿げてるイメージだとは思いますが。
強いAIができたとしても、それが天才に遥かに超える思考力を時間当たりに持つかどうかには疑問があります。
知能というものが、もしかしたら、人間に近い程度にとどまるのではないかという。

人間の脳どころか、どんな下等生物でさえもフレーム問題で困っていないのだから
そんな問題なんか大した事はなかろう

で、フレーム問題を問題と捉えてる輩はどこが問題だと思ってるのさ
グダっててようわからんから三行で要点まとめてよ

囲碁とか将棋のソフトも探索空間が十分でかいのにフレーム問題は起きてないしねえ。

「フレーム問題」なるものについて浅学なのでずっとＲＯＭってた者だが、
>>209の
＞人間は、既存の処理の枠組に問題が見つかったら、たとえそれが予期しなかった事であっても、
＞新しい枠組を設定しなおして、概ね支障無く問題解決できる。
この説明が非常にしっくりきた。

仕様設計上想定されていない問題に対する枠組みの創造、つまり創発が問題の本質なんだろうと理解した

とすると将棋にせよチェスにせよ新たなモデルを構築したわけではないし
下等生物がフレーム問題で困っていないことよりも、何故人間のみが創造的生物たり得ているかという視点で強いＡＩの境界を考えなきゃならんわな
「創発する意識」とかいうものがＡＩ上で実現可能か、という

それを拡大解釈すると２０００年問題もフレーム問題かもしれないなあ

>>216
困ってないんじゃないよ、どうやってるのか分らないけど
計算できないことを無視してるからフレーム問題とは
無関係なように見えるの。
フレーム問題を真の意味で解決しようと思ったら
無限の演算能力が必要になるから非現実的です。

>>217
「問題」がいつ起こるか、どこから来るのか、理解可能なのか一切分らないこと。
我々の宇宙を神様が気まぐれで壊したとして、それを知り得るのかって問題。
三行要りませんでしたね。

>>218
コンピューターと人間がソフトで勝負していたとして、人間が負けそうになったから
コンピューターを壊してしまったってのが「フレーム問題」。
通常通り稼働しているソフトの範囲内では、規模の大小に関わらず発生しません。

>>219
解説可能性の可否は問題じゃないです。
後々何か付け足して解決できたとしても、それはフレームの範囲内でしかないです。
2000年問題もフレームの範囲内で起きたことでしかないため、「問題」ではありません。
そもそも、プログラムというルールが正常稼働していたことには違いないのですから。


ぶっちゃけ、1960年代頃行われた議論を繰り返してるような内容で
本をもっと読んだ方が良いですよってチョット言いたくなりますね。：ｐ

ちょっとROMが足りないかな

>>220
一応聞くけど、それがフレーム問題とどう関係すんの？

>>220
>本をもっと読んだ方が良いですよってチョット言いたくなりますね。：ｐ

どんな本のどの部分を読んで言ってるの？
少なくともWikipediaの説明には無い話をしてるよねえ？

複数レスへの安価を一レスにまとめんなよ追いづらくなんだろ・・・

>>222
逆に聞くけど、フレーム問題ってなんだと思ってますか？
ここで言う問題とは、問題が従ってるルールの「外」のことなんですよ。
故に、プログラムを改修すれば解決する2000年に問題は違います。
チェスを初手から完全に読み切り、必勝法を見つけられる能力があっても
フレーム問題は解決不能です。

>>223
ソースがWikipediaってなんなんですか？
話にならないんですけど。

>>226

だからどんなソースにをもとに言ってるかって聞いてるのよ
マッカーシーの論文でいうと何ページの辺り？

>>227
ソースですか？　余りにも古くさくかつ本質的なので無いに等しいですよ。
http://www-formal.stanford.edu/jmc/mcchay69/mcchay69.html
「何か元ネタ」があるなら、それは最早問題ではありませんよね？

>>220
>>221
うん、情報系素人の俺にはＲＯＭが足りなかったようだ
１６年ぐらいＲＯＭっとくわｗ


（皮肉じゃなくてジョークなんだからねっ！！

「計算量を刈り込みつつ所望する結果を得る原理が分かっていて、後は技巧や物量が必要なだけ」
な事柄では狭義のフレーム問題は発生していないか、上手く回避できている。

「計算量を刈り込みつつ所望する結果を得る原理が分かっていない」
事柄では、狭義の意味でも広義の意味（一般化されたもの）でも、フレーム問題を解決あるいは回避できてない。

……こんなところか？

>>230
これはまぁ納得できる。

>>228
ちょっと読むの時間かかりそうだわ
しばらくROMりますw

攻殻で「人間が死ぬことなく知識を溜め込み続ければ”考えすぎ”状態に陥って思考が破綻する」
みたいなネタがあったけど、1/1人間スケールの強いAIに扱える記憶量ってどれくらいが限界なんだろうな？

>>219
>下等生物がフレーム問題で困っていないことよりも、何故人間のみが創造的生物たり得ているかという
>視点で強いＡＩの境界を考えなきゃならんわな
何をもって創造的生物や創発と呼んでいるか、が本質的なところ。

>>230
そのように定義したとして、狭義のフレーム問題は人間も機械も解決できており
広義のフレーム問題は人間も機械も解決できてない、とそういう風になるのだよね。
シンギュラリティの問題とは関係ない。

フレーム問題については前スレで「5たす五は・・・」とか妙なことを言い出して、
「無限の定義をしてもなおかつ人間よりコンピュータが早くなる。それがシンギュラリティ」
と言ったヤツが居たのが発端。

それはフレーム問題で真っ向から力技で解くなど無理筋。と指摘したら返答は無かった。
まあ、前スレ848がもう解決したらしいし、もう良いんじゃないか。

>>234

うん、「広義のフレーム問題が解けなければシンギュラリティが来ない」と言いたいわけではない。
ただ、俺は
「シンギュラリティ以降」＝「生身の人間の問題解決能力を上回る存在が、文明社会を動かすようになる時期」
と捉えているので、
シンギュラリティ以降の強いAIは、狭義であれ広義であれ、生身の人間よりもずっと上手にフレーム問題を処理してると思う。

>>214
＞「統一的な意図」が何を意味するのかわからないので、ちょっと答えづらい。

あー、自分が想起してたのは……
例えばの話だが、
電気と磁気という昔の人間にとっては別物に見えた現象を「電磁力」として統一的に処理できる枠組や法則を見つけたり、
粒子と波動という別物としてとらえられていたものを「量子」として統一的に処理できる枠組や法則を見つけたり、
エネルギーと質量を等価なものとして処理できる枠組や法則、技術を見つけたり、と、そういった事。

人間は自分や外界を把握するに当たって『一貫性』を重視する性質が有り、
できるだけ少数の原理から統一的に世界を説明できるようにしようとする性質がある。
これが人間のみに見られる性質なのかどうかは知らないが、
人間以外の生物種や人工生命であっても、人間が強いられたような淘汰圧を受ければ、
人間と同じような知的性質（「一貫性」や「統一的な意図」）を持つのでは、と私は考えている。

で、今のAIはばらばらの分野では人間を上回っているものもあるけど、複数の分野で人間以上になれたものがあるかどうか、私は知らない。

>>230
必要な計算と不要な部分とをどう切り分けるかが問題になりますね。
例えば、無意識のうちに蹴ってしまった小石が、どこに行ったかを
気にする人は居ないでしょうが、初期パラメータさえ判明していれば
原理的には計算可能です。
では、その行き先をどこまで計算すべきでしょうか？
計算するコンピュータに「人に危害を加えるな」と命令したい場合
その小石が人に当たったり何かの事故のきっかけになる可能性を
否定できないため、事実上無限に計算が必要になります。
即ち、「ここから先は計算しなくても良い」という外部からの
干渉がなければ有限の範囲内でもフレーム問題は発生し得ます。

>>233
演算速度と情報の移動速度は光速の限界に従うので
人間の脳と同スケールに詰められる容量は素子の微細化に
素直に従うはずですね。
反応速度も人間スケールとした場合、「チップサイズ」の極限は
半径0.1〜0.2光秒程度になるはずです。

>>234
人間はフレーム問題を解決できていません。
単に、方法は不明ながら無視することが出来ているだけです。
解決できていない証拠に、想定していない事態に対し人間は
無防備にしかも事後対処しかできていません。

>>236
計算速度を高めさえすればシンギュラリティを待つことなく
より進んだ対処は可能ですよ。

>人間はフレーム問題を解決できていません。
>単に、方法は不明ながら無視することが出来ているだけです。
>解決できていない証拠に、想定していない事態に対し人間は
>無防備にしかも事後対処しかできていません。

フレーム問題を解決、イコール、全ての事象が想定内という事になるが
それはいったいどんな神様だ？

だから一レスからアンカーたくさん飛ばすなっての

>>233
前スレの924が
＞その後のレスもちゃんと読まずに流れ無視してしまうが、「生物的制約」というのは存外強い縛りらしいよ
＞詳細は例えば別冊日経サイエンス191「心の迷宮」p.118やp.127の記事
＞http://www.nikkei-science.com/page/sci_book/bessatu/51191.html
＞あたり参照されたいが、概要を書くと人間の脳については
＞・脳サイズが大きくなると各機能ごとのニューロン間の距離が広がり過ぎ、軸索の伝達速度限界から伝達≒処理速度が遅くなり収穫逓減の法則がはたらく可能性が高い(Vijay Balasubramanian)
＞・同じ脳サイズに、より多くのニューロンを詰め込むと軸索が細くなりノイズが増える
と言っていたが、
生物的なニューロンの場合、ひょっとしたら人間の脳あたりが限界なのかも。
「生物的なニューロン」という縛りが無い場合……「1kgの物質を使って計算機を作った場合、その計算能力の物理法則上の上限はどの辺りか？」という考察が有る。
（↓複数のSCIENTIFIC AMERICANの記事を誰かが引用してまとめたWebページ）
http://www.asyura2.com/09/nature4/msg/443.html
ただ、この記事の中で論拠として出てきた「t≧h/4E」などの数式を使って実際に検算を試みたところ、
ところどころ計算が合わない所が有るっぽい。私もしくは記事の引用者が計算を間違えている可能性があるので、注意されたし。
あと、引用者の10のべき乗表現に難有り。（毎秒10106回の演算→毎秒10＾106回の演算）

毎回ＩＤを変更するお前って、どんだけキチガイなの？
必死すぎるよ。

>>239
そうですよ、真の意味でフレーム問題を解決しようと思ったら
あらゆる事象を考慮する必要があるため、即ちそれ神です。

貴方は普段、ひょっとしたら今隕石が落ちてきて死ぬかもしれない
いや、最低でも生活が奪われるかも…などと想定し暮らしてますか？
していない思いますが、それはそう言った可能性を無視してるに過ぎません。

>>242
スタティックでグローバルなIPが割り当てられたら環境でなければ、リース期間ごとにIDは変わるよ。

>>237
>人間は自分や外界を把握するに当たって『一貫性』を重視する性質が有り、
>できるだけ少数の原理から統一的に世界を説明できるようにしようとする性質がある。
これはあくまで人間の営みのうちの「科学」のイデオロギーであって、一貫性が人間の知性の前提である
という意見には、若干の疑念が残るな。
人間は複数の課題に対し同一のハードウェア（＝脳）で対処してるのは確かだが
それは、人間の使用している脳が同一ハードウェアで場面場面での解決策を見つけやすいって話であって、
必ずしも一貫性のある規則を見つける、という話ではないよね。

いくつか用語の混乱がある。各個人が「解決」に対して当てている意味が違う。

フレーム問題というのは「事象に関連のある事柄を選び出す時に莫大な計算量が生まれる」問題で
>>163の説明のとおり、「本質的には解決しない」。
フレーム問題を「避けて（≒現実的に解いて）」計算を終える方法として、いくつかのアプローチが提案されてきた。

１：能力的に解決可能な範囲まで考え、計算出来ない部分は存在しないと考える。人間とコンピュータが採用している。
２：うまく行った方法を真似て省力化する（＝模倣。学習。ヒューリスティクス）。人間とコンピュータが採用している。
３：計算の一部を実世界に任せて省力化する（＝身体性）。人間とロボット（≒コンピュータ）が採用している。

したがって、コンピュータにはできなくて、人間にしかできない「フレーム問題の避け方」なるものは
まだ発見されてない。

>>243
隕石が落ちてくる可能性を考えている人はいるかもな。
個人でもいるかもしれないし、グループや政府機関もある筈ではある。
とはいえこの多様性が、ひょっとしたら落ちてくるかもしれない隕石から、今の人類を守ってくれる
とは思えないけれど。

>>245
しかも当時科学を研究していたプロフェッショナルの中の、一部の天才が成し遂げた偉業ですしね。
歴史的に多数の人が関わっているんであって、個人がそうというわけではないと思う。
どうも、進歩に向かう意思とか、人間至上主義みたいなものを、過剰に意識するのが現代人の傾向なのかも。
とはいえ、今のところ現代人以上の知的存在は、人間が知る限り出てきていないわけだけど。

電子工学や核融合よりも、微細なスケールの力を応用的に使えるようになるのは、人間以上のAIが
出てきた後なのかも。

>>246
その123は人間についてはまだ仮説レベルだわ。
人間が論理的に判断するのは主に前頭葉と見られているが、脳に入る情報のうちほんの一部しか送られない。
論理的に判断する前に適当に処理してしまっているわけだ。

脳内から離れるが、分かり易いのは脚気のテストで使われる脊髄反射。
脳に送るまでも無く処理してしまっている。これも身体性の一種と言えなくもないかもしれない。

さて、こういう論理的でない処理をコンピュータにどうやってやらせるか。
NNならどうにか処理してしまうだろうか？まだ見通しは立たないな。

>>248
> さて、こういう論理的でない処理をコンピュータにどうやってやらせるか。
脊髄反射や小脳レベルの処理を「論理的でない」とする理由が良く分からない
特定の入力に対して特定の出力を返すのは、非常に論理的なプロセスだし
身体的な行動はコンピュータで既に模倣されてると思うが

下層のことは下層で、処理できない情報を上に送るシステムとしては、
サブサンプションアーキテクチャがまさに該当する

>>244
日本語でお願いします

>>249
そこは僕も自分で書きながら思ったんだけど、例えが悪かったかな。
「計算出来ない部分は存在しないと考える。」というような論理的な判断を果たして人間がしているのか？
という点はまだよく分からん。と言うこと。

>>251
> 「計算出来ない部分は存在しないと考える。」というような論理的な判断を果たして人間がしているのか？
> という点はまだよく分からん。と言うこと。
「計算できない部分は存在しないとして計算しない」のは
単に資源の限界だからであって、論理的も非論理的もない
意識で計算している範囲以上に無意識で計算してる、という意味なら
それは脳が単に目に見えない計算資源を多く持ってる事を意味するに過ぎないと思う

脳の全体の振る舞いがまだ良くわからん、のは事実だけど
>>246の123のアプローチで解決できない課題、というのもまだ見つかってないし
そういう課題が無意識の領域で初めて解決される、という証拠もいまのところない

>>252
コンピュータに処理させるなら、そういうアプローチが現実的だろう。
人間がそんなに論理的にきっちり処理してるとは思えないけどな。
もっと行き当たりばったりに適当にやってるんじゃない？

シンギュラリティを実現する強いAIにそういう物が必要なのかどうかシンギュラリタリアンに説明して欲しいところ。

>>247
対処可能かどうかが問題なのではありません。
コンピューターのマシンパワーで人間の知的活動を行おうとした場合
「ここから先は無視しても当面問題はない」という『フレーム』の設定を
行わないと、際限なく処理し続け結果、八方ふさがりになってしまい
行動できなくなるという問題なのです。

この問題において古典的且つ有名な「爆弾処理ロボットの困難が」あるので
「フレーム問題　爆弾」とでも検索して調べてみて下さい。

>>253
シンギュラリティなる概念にはとても同意できませんね。
そもそも何故ネットワーク上で繋がれたシステムでは駄目で
同一マシン（単体のCPU?)での素子数で達成できるのか
理解できません。

>>254
デネットのたとえ話はあまり良い説明だとは思えないわ。
「爆弾」というイメージが強すぎるので、「取り外して運べば良いだけ」と誤解する人が後を絶たない。
もっと普遍的な問題だから地味な説明の方が良いと思う。
「出来の悪いたとえ話100選」があったら推薦したいぐらいだ。

一部のシンギュラリタリアンはインターネットは人間を越える可能性があると考えてるみたいだぞ。

フレーム問題で誤解が生まれやすい理由の一つが「考慮すべき事項のリストが優先度の高い順にソートされた状態で既に存在する」という前提で考えてしまうこと。
この前提なら「タイムアウトすれば解決」という結論に至るのも無理ない。
だが本当に難しいのはこのリストを生成する段階で、例えば爆弾の例なら、

「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」
「バッテリーを動かす前に爆弾を移動させないといけないか」

といった条件をAIが自発的に生成出来るかが問題。

>>245

まあ、ね。今のところ、私の意見は個人的な見解に過ぎない。
さしあたり、「なぜ、人間は複数の課題に対し同一のハードウェア（＝脳）で対処できているか？」
もう少し一人で考えてみる。

>>254
上手く伝えられなくて申し訳なかったけれど、隕石が落ちてくることを想定していないは、
喩えとして微妙だなと思った。
想定していないからじゃなくて、想定しているかもしれないけれど、想定することによって
現在必要な行動が阻害されない、とでも言えばいいのかな。

> そもそも何故ネットワーク上で繋がれたシステムでは駄目で
> 同一マシン（単体のCPU?)での素子数で達成できるのか
> 理解できません。

この点は、別に同一のマシン限定じゃないとは思う。論理計算が非常に速くなるのと、
論理計算のコストがものすごく低くなるというのが主眼じゃないかな。

> シンギュラリティなる概念にはとても同意できませんね。

超天才オイラーの予想が、1966年に凡人2人と今となってはポンコツの部類のCDC6600の
数値計算力によってあっさり覆されたことを考えてみるといいのです。
人間の計算力には限りがありますし、学習できる分野も時間的に制限されていますし、
思考の範囲も極めて限定されています。多次元問題なんてのはそうですね。
強いAIはそういう制約を受けないでしょう。

強いAIが活動を始めてから後の数十年で（これは僕が適当に挙げた数字で、誰かが唱えている
ものではありません）、人類がこれまでしてきたものをはるかに超える量の計算と思考がなされ、
発見がなされ、しかも人間はそれを理解したり対抗することができなかったりするかもしれません。

個人的には、そこからバラ色の未来のみを想像することはできないのですが、何かが起きることは
間違いがありません。

>>253
>人間がそんなに論理的にきっちり処理してるとは思えないけどな。
>もっと行き当たりばったりに適当にやってるんじゃない？
あなたの「論理的」の定義がちょっと良くわからない。
（人間にとってなんとなく論理的に感じるという意味で使ってるのかな？計算論理にそっているかどうかではなく）

まあその、行き当たりばったりであろうと、それが手続きであれば、アルゴリズムだと思います。

>シンギュラリティを実現する強いAIにそういう物が必要なのかどうかシンギュラリタリアンに説明して欲しいところ。
人間にしかできなくて計算機にできない、という課題で、明確に定義されているものはほぼない、という答えになるかな。
つまり、「そういうもの」（何を指すのかよくわからないが…）は特に必要ない。

>>256
>フレーム問題で誤解が生まれやすい理由の一つが「考慮すべき事項のリストが
>優先度の高い順にソートされた状態で既に存在する」という前提で考えてしまうこと。
だからこそ、身体性みたいな「自己がどの視点で観測してるか」という話が重要だったりするんだけどね。
目に入っているものから計算してけば、それが自動的に優先順位になるわけで。
古いAIでは、常に鳥瞰視点からの推論しか考えてないという欠点があった。

フレーム問題が人工知能の文脈で議論になったのに対し、機械・ロボット屋さんがほぼ無視してきた
というのは重要な差異だと思う。手を動かしている人たちにとって、それは初めから現実的な問題ではなかった。

面白い議論になってきた
このスレは波が激しいな
議論を喧嘩と勘違いしてる奴が多いときは糞スレになる

爆弾処理問題は古典だけあって
「AIの事前知識をゼロ」と設定してあるのがおかしい。
「思考しながら行動する」という設定も無いのがおかしい。

>>260
>目に入っているものから計算してけば、それが自動的に優先順位になるわけで。
取っ掛かりのアプローチとしてはそれが有効だろうね。
ただ、「目に入っているもの」から考慮事項をどう洗い出すかという問題があるし、各項目について具体的な調べ方をAI自身が生成する必要もある。
例えば「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」を調べる必要がある場合、弱いAIでは「爆発しないか」を確認するアルゴリズムを人間が手作業で記述することになるが、汎用的なAIを作るにはこの部分を自動化しなければならない。
まあ後者の問題はフレーム問題からは少し遠ざかるかもしれないが。

>>259
> あなたの「論理的」の定義がちょっと良くわからない。
> （人間にとってなんとなく論理的に感じるという意味で使ってるのかな？計算論理にそっているかどうかではなく）

たとえば夜眠れないときに普段は気にもしていない時計の針の音が気になってイライラする。とかあるじゃない。
この時計の針の音って処理する必要ないよね。
そんな全く必要ないものがアウェアネスに上がってくるというのはカッチリ論理的に処理してればありえないことでしょ。
当然逆のことも起こってる。重要なことを見落として後から「しまった」と思うこともあるわけだし。
人間の場合その場その場で適当に処理してるだけじゃ無いかと言うこと。

>>260
松原仁さんなんかは典型的なロボット屋さんだよ。

>>264
行き当たりばったりにせよ、内的な法則があって普段は知覚されないにせよ、それらの複合にせよ、
それが定式化することが可能であって、現実的な時間で計算できるなら、人間シミュレーションに
障害にはならない気はする。

憶測だけど、どっちを使っても知性めいたものはできると思う。
個人的にはある一定の法則はあるけれど、集合としてみるとランダムに見えるみたいな法則が
あるのではないかという気はする。神経なんてのは雑音の塊みたいなもんだから。

>>263
>汎用的なAIを作るにはこの部分を自動化しなければならない
目に入るものから分類することは難しくないというか、画像処理ではもうやられてる。
後半は汎用的なAIの定義によるだろうけど、ここでは「言われた作業を解決するAI」でいいのかな？

>>264
>たとえば夜眠れないときに普段は気にもしていない時計の針の音が気になってイライラする。とかあるじゃない。
>この時計の針の音って処理する必要ないよね。
>そんな全く必要ないものがアウェアネスに上がってくるというのはカッチリ論理的に処理してればありえないことでしょ。
寝るときにある程度以上の音がしていたら目が覚めるというのは、動物にとって妥当な
（きわめて論理的な）防衛反応に思える。寝てるまま襲われたら困るし。

上位の脳が「あれは時計だ心配ない寝ろ」という信号を出していて、下位の脳が「危ないから起きろ」という
信号を出しているから「論理的でない」という意味かな？
そうであれば、こういう仕組みはサブサンプションアーキテクチャでいう上位層の抑制
（と抑制の失敗）モデルによく似ていると思う。
各層同士のせめぎ合いで、場合によって矛盾してくるというのが、サブサンプションの考え方なので。

>>265
松原氏は経歴見る限り、典型的な情報屋さん（情報出身のロボット屋さん）だと思うけど…
http://next.rikunabi.com/tech/docs/ct_s03600.jsp?p=001086

>>267
>目に入るものから分類することは難しくないというか、画像処理ではもうやられてる。
難しいのはそこじゃない。
爆弾を運ぶ例なら、視覚情報から「爆弾」や「バッテリー」という物体を認識した後、「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」といった考慮事項をAIが自ら生成出来るかが問題。
で、仮に考慮事項を洗い出せたとしても実際にそれを調べるためのアルゴリズムがなければ何の役にも立たないので結局コードの自動生成もセットで必要になる。

>後半は汎用的なAIの定義によるだろうけど、ここでは「言われた作業を解決するAI」でいいのかな？
基本的にはそれでいいと思うけど、不測の事態に人間並の対応が出来ることは最低限必要かな。

>>267
> 寝るときにある程度以上の音がしていたら目が覚めるというのは、動物にとって妥当な
> （きわめて論理的な）防衛反応に思える。寝てるまま襲われたら困るし。
普通に眠れるときは時計の針の音なんて気にならないよ。

>>267
> 松原氏は経歴見る限り、典型的な情報屋さん（情報出身のロボット屋さん）だと思うけど…
本人は鉄腕アトムを作るために研究を始めたと言ってるよ。

>>268
>爆弾を運ぶ例なら、視覚情報から「爆弾」や「バッテリー」という物体を認識した後、「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」といった考慮事項をAIが自ら生成出来るかが問題。
>で、仮に考慮事項を洗い出せたとしても実際にそれを調べるためのアルゴリズムがなければ何の役にも立たないので結局コードの自動生成もセットで必要になる。
それでいいなら、オントロジーという分野が既にあって研究もされている。

>基本的にはそれでいいと思うけど、不測の事態に人間並の対応が出来ることは最低限必要かな。
それって、「不測の事態」の定義＝操作側にどこまでの権限があるか記述しなければ、
人間でも対処できないよ。マニュアル人間では問題に対処できないのと一緒。

コンピュータの能力が壁になってるのではなく、人間の問題への無理解が壁になるのではないかな。
人間は、どこまでの権限をコンピュータに与える覚悟があるのかな？

>>269
>普通に眠れるときは時計の針の音なんて気にならないよ。
どういう時を「普通に眠れるとき」と定義してる？
そもそも、時計の針の音を気にしないで眠ることは「論理的」「合理的」なんだろうか？

>>270
>本人は鉄腕アトムを作るために研究を始めたと言ってるよ。
その世代の人間なら、機械屋も情報屋もだいたい同じこと言うよ。
そもそも鉄腕アトムは、ロボットの力（≒機械）より心（≒情報）に注目した漫画だからね。
その人が何を学んで、何を作ってきたのかが大事で、松原氏はその意味では情報屋さんだと思うけど。
機械屋さんっていうのは、たとえば前野隆司氏みたいな人だと思う。

>>271
オントロジーで考慮事項の洗い出しとコードの自動生成に成功したなんて話は聴いたことがないな。
いくらググっても出てこないし。
まだ研究段階ということでいいのかな？
もし既に>>268を実現できるAIが完成しているというのなら是非拝見したい。

>どこまでの権限があるか記述しなければ、 人間でも対処できないよ
「どこまで権限を与えるか」と「能力的に人間と同等の機能を有するか」は全く別の話。
前者ももちろん重要な課題の一つではあるけど、現状のAIにいくら権限を与えたところで人間のように振る舞うことは出来ない。
少なくとも現時点ではコンピュータの能力も壁になっているでしょう。
ところで>>267で聞かれたのは「言われた作業を解決するAIでいいか」のはずだけど、結局この質問の意図は？

>>272
> どういう時を「普通に眠れるとき」と定義してる？
こんな自明なことを何故確認する？君は毎晩寝るときに時計の針の音を確認してるのか？

> そもそも、時計の針の音を気にしないで眠ることは「論理的」「合理的」なんだろうか？
だから人間は行き当たりばったりだと言っている。

> >本人は鉄腕アトムを作るために研究を始めたと言ってるよ。
> その世代の人間なら、機械屋も情報屋もだいたい同じこと言うよ。
そもそもロボット屋と情報屋を線引きするのも難しいわな。
FA用途みたいな単純なものでなければロボットには情報処理が必要なんだから。

> 機械屋さんっていうのは、たとえば前野隆司氏みたいな人だと思う。
受動意識仮説の人か。お互い意に沿う研究者を列挙しても意味が無いな。

受動意識仮説の話はたびたび出てくるからちょっと批判しておく。

良く引き合いに出されるリベットの実験だが、被験者にはどこでボタンを押すか事前に予定しないように指示されていた。
それにも関わらず実験後のアンケートでは半数ほど（だったかな？）はどこでボタンを押すか考えてしまった。ということが分かっている。
当然それはデータには現れてない。これが何を意味するか少し考えれば分かるだろう。

意識ー無意識と言う構図で人間の情報処理が語られるが、これは古くはフロイトの局所モデルに遡る。
フロイトの場合その間に前意識というのがあるが。
その後フロイト自身が力動モデルに変更している。これは局所モデルだけでは説明できないことがあったからだ。
その後心のモデル論は百家争鳴の状態になり、結果心の中はブラックボックスとする現象主義に置き換わった。
現在の心理学では心のモデル論は参考程度のものとしてしか捉えられていない。
簡単な説明としては局所モデルが使われることはあるが。
今時局所モデルで心が説明できると考えるのはいささか不勉強に過ぎる。

>>273
>もし既に>>268を実現できるAIが完成しているというのなら是非拝見したい。
コードの自動生成は推論研究でやられている。Prologなんか有名だけど、部品としてはある。
部分的な達成としては既にレスキューロボットコンテストや、ロボカップサッカーみたいなのがあるね。
汎用的なものには需要がないから、予算も人手もつかない。

>ところで>>267で聞かれたのは「言われた作業を解決するAIでいいか」のはずだけど、結局この質問の意図は？
「言われた作業を解決する」ことと「不測の事態に対応する」は根本的に矛盾した命令で、
ということを理解して欲しかった。
ブラック企業の無能上司みたいなもので、言われたことだけやってると「自分で頭を働かせろ」と言われて
言われてないことをやると「そんなことをやれとは言ってない」と言われる感じ。

つまり、人間側が計算機に与えるべき課題を定義出来てない。
この状態で「人間を超える知性」云々を議論しても、そんなものは人間（＝上司）の口先で決まるからあまり意味が無い。

>>274
>> どういう時を「普通に眠れるとき」と定義してる？
>こんな自明なことを何故確認する？君は毎晩寝るときに時計の針の音を確認してるのか？
「予め爆弾魔から爆破予告を受けている」としたら？その場合は音の性質に注意を払うのでは？
何が合理的かは前提によって全然変わる。これはどちらが知的かという定義には当てはまらない。

>> そもそも、時計の針の音を気にしないで眠ることは「論理的」「合理的」なんだろうか？
>だから人間は行き当たりばったりだと言っている。
合理的でない動作を作ることは簡単（＝サブサンプションアーキテクチャのエラーなど）なので
それは人間に出来て計算機に出来ないことを示したことにならない。
合理的な動作を作るほうが難しい。
で、合理性は文脈によって全然違うので、定義が必要。

>>275
>部分的な達成としては既にレスキューロボットコンテストや、ロボカップサッカーみたいなのがあるね
それらは考慮事項もその調べ方も人間が手作業でプログラミングしている典型的な例じゃん。
部分的な達成というのはどの程度のことを言ってるのかな…。

>コードの自動生成は推論研究でやられている
人間が書いた仕様をコードに落とし込む技術ならいくらでもあるが、それのことじゃなくて？
ここで言ってるのはAI自身が必要なコードをアルゴリズムの段階から生成するって話だけど。
出来ればソースを貼ってもらえると助かる。

>人間側が計算機に与えるべき課題を定義出来てない
爆弾の例で何か問題ある？
・人間ならば「バッテリーを取り出すと爆弾も同時に運んでしまうこと」を常識で理解できる。
・AIの場合は予め同時に運ばないようにプログラミングしなければならない。
このように人間とAIの差がはっきり分かっているので取り組みやすいし、
手作業で実装する領域をどこまで絞るか決める必要はあるが（爆弾に関する知識は人間が入力するのか、もしくは知識を得る段階から自発的にさせるのか等）、
上手く運び出せれば成功という明確なゴールもある。

>「言われた作業を解決する」ことと「不測の事態に対応する」は根本的に矛盾した命令で、
>ということを理解して欲しかった。
俺が不測の事態云々と発言したのは質問された後なんだけど…それが質問の意図ってどういうこと？

> ・人間ならば「バッテリーを取り出すと爆弾も同時に運んでしまうこと」を常識で理解できる。

これは「人間」と「常識」の部分が弱いのではないかな。
大抵の人間の場合は、社会とか教育とかによって、ある程度訓練されているから。
プログラムされているといってもいい。

一方、訓練されていない人間は、洞窟とロボットの例を上手に解けない可能性がある。
ボールペン型のトラップ爆弾とか、空中散布地雷を拾おうとして死んだ例とか、枚挙に暇がない。

ロボットと洞窟の例を解ける人間は、解けるだけの前提知識や経験（内的プログラム）があるってだけ。

どこまでを顧慮に入れればいいのかというのも同様に、学習やハードコードによるものの可能性が高い。
まぁ、人間の幼児や子供は、そんな状況に置かれることはほぼないし、そういうプレッシャーもないから
確認もできないけど。

>>278
>大抵の人間の場合は、社会とか教育とかによって、ある程度訓練されているから。
>プログラムされているといってもいい。
もちろんそういうことだよ。
重要なのはAIが前提知識や経験をどう学習するか、どう使うかという部分。

>>276
> >> どういう時を「普通に眠れるとき」と定義してる？
> >こんな自明なことを何故確認する？君は毎晩寝るときに時計の針の音を確認してるのか？
> 「予め爆弾魔から爆破予告を受けている」としたら？その場合は音の性質に注意を払うのでは？
そりゃそうだろう。そんな状況で「普通に眠れる」のか？

> 合理的でない動作を作ることは簡単（＝サブサンプションアーキテクチャのエラーなど）なので
サブサンプションにこだわりすぎ。そんなに大したものじゃないだろう。

> それは人間に出来て計算機に出来ないことを示したことにならない。
> 合理的な動作を作るほうが難しい。
> で、合理性は文脈によって全然違うので、定義が必要。
話がズレてるよ。
>>246の123を人間に当てはめるのは早計。と言ってるだけ。
まだ良く分かってないんだから。

てかさぁ……ロボットとゾンビはもうやめにしないか……

出てくるたびにウンザリ。

？

別にロボットとゾンビの話を禁ずる必要は無かろう。

どうやら知能は身体と切り離して成立しない様だから、AIを考えるに当たってはロボット工学を頭のどこかに置いとかないといけないだろうし、
人間が無意識にできる事とできない事の差を考えるに当たっては哲学的ゾンビという概念はなかなか面白いし。

うんざりすると言うなら、2ch専用ブラウザーを使ってNGワード登録でもすればいかがか。

>>274
受動意識仮説に関しては、別に賛成の立場でも反対の立場でもないので保留。
基本的に、フレーム問題を問題としてない機械屋として前野氏を挙げた。
リベットの実験については、たくさんの追試が行われているので、その反論で十分であるかこちらはわからない。
時間あれば、あとで調べてみるが。

>>277
>ここで言ってるのはAI自身が必要なコードをアルゴリズムの段階から生成するって話だけど。
>出来ればソースを貼ってもらえると助かる。
該当のテーマは「自動プログラミング」という分野として、だいぶ昔からやられてる（カネになる分野はやられる）。
遺伝的アルゴリズムの兄弟に当たる遺伝的プログラミングとかは、事前知識をほぼ用いないソース生成例。

>俺が不測の事態云々と発言したのは質問された後なんだけど…それが質問の意図ってどういうこと？
>>267の質問の「言われた作業を解決する」自体が、作業目的が決まってるので「汎用性」と矛盾する。
そこを明らかにしたかった。

>>277
>爆弾の例で何か問題ある？
>・人間ならば「バッテリーを取り出すと爆弾も同時に運んでしまうこと」を常識で理解できる。
>・AIの場合は予め同時に運ばないようにプログラミングしなければならない。
今主流の方法なら、爆弾問題は例えば
１：観測から空間のモデルを作成した上で、遺伝的プログラミングを用いて爆弾と台車の動作を体験学習する
２：台車を少し動かして危険物（爆弾）が動くか観測する（アクティブセンシング）
という２段構えで解決できる。台車を動かすと上にあるものが動くなんてのは大した常識ではないし、
物理エンジンを用いたロボット用のシミュレータは大体どこにでもある。
これをShakeyの推論エンジンみたいなやり方と並行で走らせて、うまくいった方を採用すればいい。

ただ真の問題は、こういうロボットを用いても、予期しない動作が発生することがありえること。
例えば、爆弾を台車から離した瞬間に爆発するトラップがあるとかね。

「爆弾を台車から離したら爆発する」は常識ではないし、人間でも間違える可能性がある。
ただし人間が間違えたならそいつに責任を問えばいいが、ロボットが間違えた場合、責任主体がいない。
技術的には頑張れば達成可能だけど、社会がどこまでロボットに権限を与えていいか定義できてないので、
なかなか解決しない課題になってしまってる。

もう少し具体例を出すと、自動運転技術がそうで、技術的にゃ既に相当レベルで実用可能で
当然フレーム問題など問題にならないけど、社会がどこまで車の自律性を許すかって問題が解決してないから
実用段階で足踏みしてる（トヨタが公道で実験して警察がキレたってニュースがつい最近出たばかりだが）
ttp://biz-journal.jp/2013/10/post_3120.html

シンギュラリティの最後の壁は、こういう社会的受容になると思うよ

>>286
>> 合理的でない動作を作ることは簡単（＝サブサンプションアーキテクチャのエラーなど）なので
>サブサンプションにこだわりすぎ。そんなに大したものじゃないだろう。
「大したものも」なにも、合理的で「ない」動作をするのは非常に単純。
例えば、ランダムな行動はたいてい合理的な行動にならない。

それが不服だとしたら、あなたが『人間が「合理的でない」』と考える動作に対して、
実はなんらかの法則性を見出していることになるので、それを言語化して定義しなければ始まらない。

>話がズレてるよ。
>>>246の123を人間に当てはめるのは早計。と言ってるだけ。
>まだ良く分かってないんだから。
こちらの主張は、「>>246の123で代替できないようなタスクを人間が処理していると証明されていない」
ということになるかな。
人間が何をやっているか知ることは大事だが、もし人間のやっていることが現状機械で代替できるなら、
それを知ることはシンギュラリティの達成条件にならない。
機械が人間と同じやり方でやらなければならない理由はない。

>>284
>観測から空間のモデルを作成した上で、遺伝的プログラミングを用いて爆弾と台車の動作を体験学習する
もうこの時点で手作業のプログラミングと大差ないんだよね。
前のレスでも書いたように人間の手をどこまで加えるかという程度問題なので、上記の作業を許容するという条件下でなら成功と言うことは出来る。
ただし人間に同じことをさせるには単にバッテリーを取ってくるように命じるだけでそのような作業は一切必要ない。
これは何故かというと、人間の場合は長年の経験から知識やその使い方を学習しているから。言い換えれば周りの環境によってプログラミングされていると捉えることもできる。
しかしAIと異なるのは仮に現存するロボットを社会に放ったところで人間と同等に振る舞えるように成長することはないということ。

何をもって「人間と同等」とするかは難しい問題だけどね。
チューリングテストも大してアテにならないし、AIに東大入試を解かせるプロジェクトなんてのもあるが、入試問題を解けたからといって東大生並の知能があると証明出来るわけでもない。
ただ将来的にどうなるかは未知数だが、少なくともどちらも達成されていない現時点においては人間に出来てAIに出来ないことがあると認めざるを得ないだろう。
（念のため言っておくと「人間に出来てAIに出来ないことがある」のと「人間の知能がAIを上回っている」ことはイコールではない）

>>286

なんか堂々巡りパターンに陥ってるな。

> 「大したものも」なにも、合理的で「ない」動作をするのは非常に単純。
> 例えば、ランダムな行動はたいてい合理的な行動にならない。
> それが不服だとしたら、あなたが『人間が「合理的でない」』と考える動作に対して、
> 実はなんらかの法則性を見出していることになるので、それを言語化して定義しなければ始まらない。

人間の情報処理の方法はまだ良く分かっていない。だからキッチリした法則性を見出すことは出来ない。
詳細が分かってないんだから123を人間がやっているというのは早計。というのがこちらの主張。


> こちらの主張は、「>>246の123で代替できないようなタスクを人間が処理していると証明されていない」
> ということになるかな。

とりあえず就寝時の時計の針の音の例について、普段は気にならず、時には特に意味も無くフレームアップされる。
というのを123で説明してくれるかな。


> 人間が何をやっているか知ることは大事だが、もし人間のやっていることが現状機械で代替できるなら、
> それを知ることはシンギュラリティの達成条件にならない。
> 機械が人間と同じやり方でやらなければならない理由はない。

それで良いんじゃない。
そもそも人間を真似る必要が無ければ人間が何をしてるか気にする必要も無いと思うけど。
シンギュラリティの達成条件やそれに必要なAIというものを明確にしてくれればもっと話は単純になる。
とりあえず人間を真似るというアプローチはちょっと無理筋だろうから。

「難しさ」にいろんな段階があるんだけど、そのへんの議論が混同されやすい。
例えば、他の恒星に宇宙船を飛ばすとすると
１：原理的に無理：超光速で飛ぶ（物理法則に反する）
２：技術的に無理：光速近くまで加速する（加速するエンジン、支える外殻ができない）
３：経済的に無理：大容量エンジンで飛ぶ（コストが掛かり過ぎる。メリットがない）
４：社会的に無理：冷凍保存する。クローンを培養して飛ぶ（社会の同意が取れない）

まず、人間が物理的な存在であることを考えれば、強いAIが「原理的に無理」でないことはほぼ全員納得してる。
議論がわかれるのは「技術的に無理」かどうか。
ただし少なくとも、「人間にできてコンピュータに無理」なことは、量のレベルで存在しても
質のレベルでは見つかっていない（質が定義されていない）。

それを乗り越えても「経済的に無理」なことはある。
たとえば、人間と同じようなハードウェアや脳を持つロボットを作るのは、兆単位の金をつぎ込めば
出来るかもしれないが、誰も求めていないし利益も得られないから、貴重な税金をつぎ込んでやる意味がない。
また、ロボットに人間と同じような人権を与えるのはとてもむずかしいので、
人間と同じような問題解決をするロボットを社会に存在させるのは「社会的に無理」だ。

>>287
>これは何故かというと、人間の場合は長年の経験から知識やその使い方を学習しているから。
>言い換えれば周りの環境によってプログラミングされていると捉えることもできる。
これはおそらく「経済的に無理」なことだろうけれども、技術的には可能だろう（そうではない、という意見かもしれないが）。
採算度外視して、人間と同じように十数年教育にかけてデータ集めてよいのなら、だいぶハンデがなくなる。

ちなみにチューリングテストはもうすぐ達成される見込み（ローブナー賞）だし、
東大入試は正解があり、模範解答がある以上、質的に困難なことはそこまで存在しない。
シンギュラリティで言う「収穫加速の法則」は、経済的なコストが指数関数的に減少するということなので
今は経済的に無理なことでも、将来は達成される可能性がある。

>>288
>人間の情報処理の方法はまだ良く分かっていない。だからキッチリした法則性を見出すことは出来ない。
>詳細が分かってないんだから123を人間がやっているというのは早計。というのがこちらの主張。
そこは同意。ただ、それがシンギュラリティとは直接関係しない、というのがこちらの主張（繰り返しになるね）。

>とりあえず就寝時の時計の針の音の例について、普段は気にならず、時には特に意味も無くフレームアップされる。
>というのを123で説明してくれるかな。
>>267で説明したけど、例えば「気にせず眠る」という上位層と、「騒音に耳を配る」という下位層が均衡してて
外乱の影響で変わってしまう例でモデル化できるから、>>246の中だと1だね。普通のコンピュータ処理。
危険性の計算を外乱に任せてると捉えるなら、3も当てはまる。

>シンギュラリティの達成条件やそれに必要なAIというものを明確にしてくれればもっと話は単純になる。
人間の知性レベルで技術進化が予測できない、というのが条件。
機械単体、もしくは人間と機械を合わせたシステムが、自身よりさらに賢い（早く計算できる
多くの問題を解決できる）システムを作れるようになった時点、というのが妥当な定義かなあ。

コンピューターが爆発的に進歩しました。
コンピューター「この宇宙で手に入る素材では、現在の
化学ロケット・石炭火力発電が絶対の限度です。
軌道エレベーターもワープも絶対に不可能です」

ってことになったら文明は進歩しないだろ？

>>289
> まず、人間が物理的な存在であることを考えれば

ここが根拠の無い仮定レベル

>>289
まず前提として人間を唯物論で説明出来ると仮定する。>>292のようにこの時点で異を唱える者もいるので、この部分の正否は保留しておく。
「技術的に無理」を>>289のように定義するなら、人間と同等の知能を持つAIを開発することは可能だと考えている。
人間の脳（おそらく身体も）を完全にシミュレートすれば全く同じ物が出来ると考えるのが自然。
ただ、シミュレートといっても「どこまで丸め込めばいいか明らかになっていない」、「ミクロかつ広範囲をスキャンできる技術が無い」など課題は多々あるが、
文明が永久に存続し、時間と資源が無限に使える前提であればいつかは可能になるだろう。
個人的にはシンギュラリティの到来する「時期」に興味がある（>>289の3,4の要素も含めた上で）。

>チューリングテストはもうすぐ達成される見込み
それは90年代から言われていることなんだが、会話AIの進歩は他の分野に比べて著しく遅い。
特に日本語のように表現の自由度が高い言語でチューリングテストを突破するのはまだまだ現実的ではない。
日本で会話精度が高いAIとしてはiPhoneのSiriやSimSimiが挙げられるが、これは辞書型人工無脳といって「反応させる言葉と返答する文」のセットをデータベースから検索して返しているに過ぎない。
例としては「ありがとう→どういたしまして」といった単純なデータ。これを人間が手作業で作成している。
Siriはプラスアルファの機能が多く備わっているが、会話機能に限っていえば非常にシンプル。
これは90年代からある「ゆいぼっと」と全く同じ仕組みだが、会話精度が上がったように見えるのは単にデータ量が増えた（それを入力しているのは人間）からでしかない。
人工無脳の分野では他にもログ型やマルコフ連鎖型といったものが考案されているが、殆ど会話にならない。
さらに現状の会話AIでは文脈を考慮することが難しい。辞書型では直前の発言によって反応を分岐させるだけでも必要なデータ量が爆発的に増えるので、あらゆるパターンを手作業で入力するのはほぼ不可能。
それにもし力技でチューリングテストを突破することが出来たとしても、それは強いAIとは呼べないだろう。
入試問題に関しても、知識を中心に問われる科目に関しては早い段階で合格点を取れるようになるだろうが、国語の読解等はハードルが高い。

>>289
＞誰も求めていないし利益も得られない
俺が求めてるし、機械による人間の代替は産業革命以来のテーマだ。

誤解を生みそうな書き方になったので>>293に少し補足。
「日本で会話精度が高いAI」は日本製という意味ではなく日本語に対応しているという意味で使った。

ここ数日の議論について興味深く読んだが理解できたとは言えない機械屋の戯言だが、議論の枠組みについて少し提案したい

定義や実現について、ボトムアップな設計思想とトップダウンの設計思想がごちゃまぜになってないだろうか？
ここで言うトップダウンは、アーキテクチャの概念レベル、人工知能の文脈でそのアウトライン設計の考え方で
ボトムアップは結果論から遡った、人間の行きあたりばったりさをいかに実現するかという現場的解釈
>>260で指摘された点の言いかえにすぎないんだが、それらを同じテーブルで議論してしまっているので、話がかみ合わずループしているように見える

両者は切り分けて考えた議論をした方が良いのではなかろうか？

>>292
>>293
俺は保留する必要は無いと思う。
確かに根拠としては心もとないが、我々は既知世界で考えるしかないのであって、それを言い始めると「既知の物理法則に反する」事象を想定する必要すら出て来るのではなかろうか
まずは既知世界では人間（生物）が物理的な存在以上のものであるよりも物理的存在であるとする方が確からしいので、
ノルマティブな妥当には到らないかもしれないがこのスレ的にはコンベンショナルな妥当にあたるのではなかろうか？

>>278-279
まさにその部分に、以前>>121-122あたりで挙げた「曖昧なカテゴライズ」の問題があると思うんだよな
経験も含めて、人間の脳は創発（気付き）も含めて、偶発的事象に依存しているようだ

就寝時の時計の針の例は非常に重要な指摘だと思う
というのは、>>277の云う「AI自身が必要なコードをアルゴリズムの段階から生成する」ことで
「予測不能な事態に対して自発的創造的に創意工夫ができる」ＡＩについて議論していると理解しているが、
その生成そのものには先に書いた「曖昧なカテゴライズ」が強く寄与していると俺は考えている

つまり、通常のＡＩはある特定のコードに従ってデータアクセスを選択するのだが、
人間の場合は偶発的な軸策の発火による偶発的な（しかし接続範囲の限られた）接続が
新しい発想、複数の経験や知見の接続による「気付き」を創発するのではなかろうか

その副作用が時計の針の事例なんじゃないか

……これで繋がらないかな？
ID:Lf2Zwbscは情報屋のようだから、機械屋の俺の戯言ではあまりタシにならないかもしれないが…

>>291
なんで？文明の進歩は素材や領土だけで決まる訳じゃない。

>>293
力技でもなんでも「チューリングテスト」を通過することは、ある課題を人間と同程度達成できたことを意味する。
（ここでいうチューリングテスト合格は、ローブナー賞に基準（３０％が人間と思う）を超えることでいいかな）

会話AIの原理はその説明のとおりだけど（ただし情報収集は既に自動化されてる！これは重要な違い）、
データベースが数千万件になれば、その結果は人間に予測不能なほどの質の向上を生む。
莫大な量の向上によって、人間が想定できないほどの質の向上が生まれてきたのがいままでの計算機の歴史。
ディープブルーもGPS将棋もワトソンも、力技にすぎないけれど、突き詰めた力技が
新しい定跡を発見したり、大局観を身につけたりする。ものすごい力技は質の違いを生む。
（あと日本語は別にそこまで自由度が高い言語ではない。日本語の研究が進んでないのは研究者や予算や市場の量が違うから）

ワトソンの勝利は見事な成功例だから、実際動画見たほうがいいかも
ttp://www.youtube.com/watch?v=o6oS64Bpx0g
Jeopardyは普通のクイズと違って、問題文が疑問文形式じゃない。それでも計算機は当てられる。

>>294
成功も失敗もわからん技術開発に１兆円払うなら、海外から人間を輸入するほうがマシっすよ
　　という判断を経団連や政治家はするだろうね。

>>298
老婆心ながら「まだわかっていないこと」の原因に「別のわかっていないこと」を置くのは
妥当なようでいて、あまり科学的な推論ではないので、気をつけたほうがいい。俺はやらない。
あと、我々は人間なので、人間の審美眼で判断してしまうが、それは本質と異なるかもしれない。

たとえば我々は「創意工夫」や「創造性」という言葉に神秘的で知的な価値を起きがちだが
創意工夫といわれるものの実態は、ただの組み合わせにすぎないので、手順を知ってればバカでもできる。
コンピュータ生成俳句なんかでも（それを知らなければ）人は感動できる。

AIにおいて最も難しいのは、新しいものを創造することではなくて、その後に必要ないものを価値判断に基づいて
取捨選択することだったりする。素晴らしいコンピュータ俳句があったとしたら、それを産んだコンピュータより
それを多数のクズの中から発見してきた人間の方がずっと賢い。

偶発的な発火による気付きを元に振る舞うシステムを作ること自体はそこまで難しくないだろうが、
そのシステムを意味のある形で動かすのはとても難しいと思う。
（だから、システムを作ってない哲学者の概念分類を、俺はあまり信用しない）

>>299
>情報収集は既に自動化されてる
これは天気予報やニュースの収集といった話だよね？
念のため言っておくと会話データベース自体の構築は完全な手動で、「ありがとう→どういたしまして」といった返答パターンを自動学習するのはまだ無理。
強いて言えばログ型がこれに当たるが、実用的な段階には達していない。
ここまで自動学習出来るようになれば確かに質の向上が生まれると思うが、少なくとも手作業で打ち込んだ返答パターンが10件だろうと1000万件だろうと内部処理が変わらない以上は見かけ上の会話精度が上がる以外に何か起こるとは思えない。

>ディープブルーもGPS将棋もワトソンも、力技にすぎないけれど、突き詰めた力技が
>新しい定跡を発見したり、大局観を身につけたりする。ものすごい力技は質の違いを生む。
それらを「力技」と言ってしまうのか…個人的には十分高度なAIだと思うけど。
俺の言った「力技」を将棋AIで例えるなら初手からのあらゆるパターンを手動で登録することだよ。

情報収集について一つ書き忘れていたが、ワトソンのような質問応答システムに使う知識の収集もこれに含まれるね。

>>300
意図的に触れないように努力してたんだが、遂に出てきてしまったか「価値」…
確かにそっち方面に論を進めると結局は「価値とは何ぞや」という話に収束してしまうんだよね
あの半端な書き込みでそこまでスパッと進められるあなたに脱帽した

＞「まだわかっていないこと」の原因に「別のわかっていないこと」を置くのは
＞妥当なようでいて、あまり科学的な推論ではないので、気をつけたほうがいい。
そこはわかった上でやった。というか、それ以上の立論ができなかった、が正しい。
厳密に科学的では無いが、やや循環している論に別の視点を挿入できないかという努力をしてみた
ノイズにしかならなかったようで申し訳ない

俺じゃあまだまだ勉強不足だわ…

>>299
おまえバカだろ。

>>304
はい、NGワード登録。
ここまで工夫が無いワンパターンな言い回しだと、登録も楽だわ。

>>304
なにぃ！貴様表へ出ろ！！

人間の脳程度をエミュレーションするのに
素粒子レベルまで再現する必要はさすがにないだろうな。
なんとなくだけど。

【科学】人工臓器などを組み合わせ、歩行や会話が可能な人造人間「バイオニックマン」公開・アメリカ
http://uni.2ch.net/test/read.cgi/newsplus/1382086366/

1 ：ラストボーイスカウト＠空挺ラッコさん部隊 φ ★：2013/10/18(金) 17:52:46.29 ID:???0
　［ワシントン　１７日　ロイター］ - 米ワシントンにあるスミソニアン航空宇宙博物館で１７日、
人工臓器などを組み合わせて作られ、歩行や会話が可能な「人造人間」が公開された。

　この人造人間「バイオニックマン」は身長１８３センチ、体重７７キロで、肺や膵臓、循環系など
２８の人工臓器から成る。これら臓器は大学などで開発されたものを利用し、英ロンドンのシャドー・ロボット社が
組み立てた。顔はあるが、表情はつくれず、実質的に皮膚はない。制作費は１００万ドル（約９８００万円）だという。

　また、同社で設計工学を担当するロバート・ウォーバートン氏によると、バイオニックマンは、米アップルの
「ｉＰｈｏｎｅ（アイフォーン）」に搭載された音声認識ソフト「Ｓｉｒｉ（シリ）」のような会話が可能。

　人格はウクライナ出身の１３歳の男の子の想定でプログラミングされており、「会話する相手としては
礼儀正しいとは言えない」と語った。

ソース：http://www.excite.co.jp/News/odd/Reuters_newsml_TYE99H037.html
「バイオニックマン」
http://image.excite.co.jp/feed/news/Reuters/Reuters_newsml_TYE99H037_1.jpeg

ここが裏だったとは知らなかった

>>290
> >とりあえず就寝時の時計の針の音の例について、普段は気にならず、時には特に意味も無くフレームアップされる。
> >というのを123で説明してくれるかな。
> >>267で説明したけど、例えば「気にせず眠る」という上位層と、「騒音に耳を配る」という下位層が均衡してて
> 外乱の影響で変わってしまう例でモデル化できるから、>>246の中だと1だね。普通のコンピュータ処理。
> 危険性の計算を外乱に任せてると捉えるなら、3も当てはまる。

意外と良い説明だった。割としっくり来る。
残念なのは上位層-下位層モデルと外乱の影響。と言うのが現状では確認のしようが無いことだ。
まだ分からん事だらけだから仮説しか作れんのは仕方が無いが。


> >シンギュラリティの達成条件やそれに必要なAIというものを明確にしてくれればもっと話は単純になる。
> 人間の知性レベルで技術進化が予測できない、というのが条件。
> 機械単体、もしくは人間と機械を合わせたシステムが、自身よりさらに賢い（早く計算できる
> 多くの問題を解決できる）システムを作れるようになった時点、というのが妥当な定義かなあ。

ものすごく漠然としていると感じるのは僕だけだろうか。


>>309
良いレスthx

>>297
> まずは既知世界では人間（生物）が物理的な存在以上のものであるよりも物理的存在であるとする方が確からしいので、

初耳だな。ソース教えて？

>>311
ごめん、ソースというほどのソースは持ち合わせていない
というか、結論だけ言うと「物理的な存在以上のものであるという再現可能事例が（俺の知る限り）未発見」というだけなんだ

というのは、様々な自我や意識にアプローチする自然科学的論文の文脈から暗黙に仮定されていると読み取れるからなんだ
具体的にそういう「人間（の意識、或いは精神等）が物理的な存在か或いはそれ以上のものかに焦点を絞った論文は、俺の知る限り自然科学分野には寡少なのな

もちろん「物理的な側面でどこまで追えるか」という過去に積み重ねられた基盤の上に乗っかっているだけだという指摘も確かであって、まともな知見があれば否定はしないだろう
しかし、「既知世界では」物理的な存在「以上ものもの」であるという証拠は未だ発見されていない為、物理的存在であるとするのが妥当であるとせねば仮定論（厳しく言えば妄想論）にしかならないのではないかと

また哲学の分野にそれを問い直す議論があるのは確かだが、哲学は本来「自明とされている概念を問い直す」学問でもあり、再現実証的ではない研究が多い
ここでは確かに哲学的な議論にも言及されるから俺の>>297の書き方は適切ではなかったかもしれないとは認めるが、

しかしＡＩという工学的分野に主軸を置いている以上、哲学的な分野は「今後予想される課題」という程度にとどめておかなければ、議論の根底的定義がバラバラになって発散するだけだと思うのだ

確かにノルマティブな妥当で言えば物理的な存在以上である可能性は考慮すべきだが、物理的以上の存在である事例或いは体系論が未構築な以上、そこはコンベンショナルな妥当とすべきではないか？
ということが言いたかった


長々と申し訳ない

>>301
どっちかっていうとワトソンのやり方に近いかな。
今のGoogle検索なんかは、音声認識をすると同時に、検索結果からフィードバックも集めてる。
Yahoo知恵袋やAmazonのリコメンドも、同じような会話学習用のデータベースになってる。
インターネットを膨大なデータベースと捉えると、自動で学習する系はすでにあちこちにある。

>俺の言った「力技」を将棋AIで例えるなら初手からのあらゆるパターンを手動で登録することだよ。
こちらは力技を、昔から考えられてるアルゴリズムを超多量に集めて頑張ることだと捉えてたけど、
手動を力技と呼ぶのであれば、既に「力技」ではない。

８０年代のファミコンレベルの将棋AIと、初めてプロ棋士と公式に戦ったAIのボナンザは、
そこまですごい違いがあるわけではないが、前者の評価関数が数十なのに対して、後者は数万クラス。
評価関数自体は自動で集めてるが、つまりそれだけ集めると十分複雑な動きをする。

>>303
なんというか、考えたモデルで動くシステムを作ってみるのがいいと思う。応援はしてる。

>>310
>残念なのは上位層-下位層モデルと外乱の影響。と言うのが現状では確認のしようが無いことだ。
>まだ分からん事だらけだから仮説しか作れんのは仕方が無いが。
俺は専門ではないけど、認知心理学では行動抑制のモデルがあって、ちょっと推察する以上に結構調べられてるよ。

>> 機械単体、もしくは人間と機械を合わせたシステムが、自身よりさらに賢い（早く計算できる
>> 多くの問題を解決できる）システムを作れるようになった時点、というのが妥当な定義かなあ。
>ものすごく漠然としていると感じるのは僕だけだろうか。
多少曖昧になるのは仕方ないというか。
「人間には予測できない発展をするようになる点」がシンギュラリティだから、それ以降どうなるかは予測できないしな。
AがBより賢いという定義を「あらゆるゲームでAがBに勝てる」とすれば、もうちょっと明確になるかな。

>>311>>312
いわゆるオッカムの剃刀。物理的な説明と実際の現象に矛盾が発生しない以上、余計なものを考える意味が無い。
あるいは、余計なものを考えたい側がその存在証明をする必要がある（いわゆる「悪魔の証明」）
チャーマーズとかのクオリア系の人ですら「クオリアを考慮せずともこの世界の記述と矛盾しない」ってことは認めてる。
物理的なもので世界が説明できないとするのは、疑似科学者か、宗教家の中でもガチの原理主義者ぐらいじゃなかろうか。

>>313
>インターネットを膨大なデータベースと捉えると、自動で学習する系はすでにあちこちにある。
質問応答システムに使われる自動学習であればその進歩は目覚ましい。
ワトソンもそうだし、Siriに使われているWolfram Alfaも十分実用的なレベルに達している。
ただし会話機能の核は相変わらず手動に留まっている。

>手動を力技と呼ぶのであれば、既に「力技」ではない。
それなら現状の会話AIは「力技」の域にすら達していないということで、こちらの主張としては同じ。
手動で作成した辞書をベースにしている限りはいくら返答パターンを増やしたところで人工無脳の域を越えることはない。

>>314
> >残念なのは上位層-下位層モデルと外乱の影響。と言うのが現状では確認のしようが無いことだ。
> >まだ分からん事だらけだから仮説しか作れんのは仕方が無いが。
> 俺は専門ではないけど、認知心理学では行動抑制のモデルがあって、ちょっと推察する以上に結構調べられてるよ。

脳科学方面でも大脳辺縁系が衝動などを抑制していることは事実として分かってきてる。
でも「時計の針の音を無視する」とまで具体的なところまでは分からない。

>>313
おまえバカだろ

>>314
> チャーマーズとかのクオリア系の人ですら「クオリアを考慮せずともこの世界の記述と矛盾しない」ってことは認めてる。
> 物理的なもので世界が説明できないとするのは、疑似科学者か、宗教家の中でもガチの原理主義者ぐらいじゃなかろうか。

意識を存在するものとして扱う場合、それは物理的には説明できないよ
未だになのか永遠になのかはわからないけどね
もしかしたら脳内の科学的反応で全て説明できるかもしれないし、脳だけでは説明できないかもしれない

むしろ彼または彼女が本当の科学者ならば「物理的なものだけで世界が説明できる」と断言することは絶対にないはず
勿論その逆も然り

クオリアなんて局所的なもの持ち出さずとも「意識」そのものがね

意識はとりあえず保留にしておこうぜ

>>315
>手動で作成した辞書をベースにしている限りはいくら返答パターンを増やしたところで人工無脳の域を越えることはない。
逆に言うと、自動化が鍵だということかもしれんね。
会話サービスとしてSiriみたいなのが既に動いてるし、ロボットが動き始めれば現実のデータも自動で集まるかもな。

>>318
「意識を説明できるか」ではなくて、「意識があると考えても、ないと考えても、物理的には影響しない」
ということについて、科学者間では大体同意が取れてるということ。
意識の問題というのは、その存在が何か世界に違いを産まない限り、AIともシンギュラリティとも直接関係しない。

SIを作りたいなら物凄く直接的に関係すると思うんですが

知能の定義とか意識とか言い出すとだいたい議論が収集つかなくなる
そこに何か問題とか答えがあるような...

専ブラでNGワード登録するとワンパターンで退屈なレスが小気味良く消えてくれるなあ。w

>>322
「知能」に対しては「自己の環境適応度を最大化するべく、環境の変化に能動的に最適応答する能力」とでもしたらいかがか。
この定義だと前にだれかが引き合いに出した粘菌も立派な知能を持っている事になるが、少なくとも俺はそう思う。

「意識」の定義は難しいな。たぶん、高度に発達した知能が備える機能の一部なんだろうけど。
まずは「人間が無意識にできる事できない事」を列挙してみてはいかがか。
「人間が無意識にできる事」というのは「既に獲得したアルゴリズムだけで対処でき、新たなアルゴリズムを発見する必要が無い事」だと思うが。
（ここでは、神経回路網に定着した条件反射的パターンも、アルゴリズムの一種とみなしている）

>>324
いや、ちがうの。そうゆうことじゃなくって
「定義すること」で「実態と違うもの」を考えることになっちゃうの

例えば「幸せ」を定義しようとするとみんな解釈が違って結果的に
「じゃあ、お金があればいいんじゃん？」
みたいにわけわからんところに着地しているような感じがするのよ。

>>318
つまり「意識を存在するものとして扱う」必要が今のところ見当たらないということだな
俺は強いＡＩが結果論的に意識を持つ可能性を考えているから言いたいことはわからいでもないが

>>325
幸せの量を客観的に測る方法は結構あって、例えば現在より将来の収入に比例するとか
いろんな研究結果が出てる

それに対して、意識は客観的に測る方法がない

だから保留するべきって結論は同意だが

>>327

「幸せ」を出したのは例えばの話をしたかっただけ。
抽象的な概念を定義しようとすると堂々巡りになっちゃうことが多い感じがして、
そこは何かアプローチに間違いがあるんじゃないかってこと。

幸せがやっぱりお金次第ってのは面白いね。

>>326
強いAI（>>321で書いたがSIの方が正確かも）の定義の一つに「意識を持つ」てのが無かったっけ？
だから>>321のレスを書いたんだが

思い違いなら申し訳ない。調べりゃいいだけだが

もちろん、「実際に意識を持っているかどうか」の判定が現在では不可能なのは知ってます

意識を持たずとも広汎な知的活動を行ってくれれば問題ない

意識なんか、存在しないとすれば、全て解決。
どうせ、他人に意識がある証明できないしね。

だから俺以外の人間は、皆、宇宙人が作ったロボット。

それならむしろ自分も含めて全員ロボットの可能性の方が高い
自分の意識だと思ってるのはただのプログラム

またシミュレーション仮説の話になるのか！

唯我論の立場を取る人は、自らの意思に沿わない他者が存在する事についてはどう説明するんだろう？
意思がたった一つしかないのであれば、他者の意思と衝突しようがあるまいに。

意思を持つのは自分だけでそれ以外はプログラムだって事だろ？

永井均を読めばいいよ

>>327
いろんな測り方がある時点で絶対的な客観的指標ではないだろう。
その研究者はそう考えてみた。と言うだけでしょう。
なぜこんな簡単なことに気付かないのか。

「意思を持つのは自分だけでそれ以外はプログラム」という立場を取るのであれば、
その者は「たかがプログラムに対してすら、我を通せない自分」という
たぶん不愉快であろう現実を受け入れざるを得なくなる。

うちの猫ちゃんも全然言うこと聞いてくれないしな。

>>329
SIというのは何？Simulated Intelligence?

>>338
絶対的な客観的指標が作れないのは、自然科学以外の科学に共通してる。
心理学でよくある感性指標（幸福度もそうだけど）は、絶対的な値ではないけど
客観的に仮説を立てて大小を評価することができるでしょ。

これと異なり、意識のあるなしは誰が頑張っても客観的には測れない。
そこが大きな違い。

>>341
SIはSynthetic Intelligenceの略

付け加えれば「人工（Artificial）」という言葉は本来紛い物に使う言葉（ex. 人工イクラ）なので
「人工知能（Artificial Inteligence）」とは知的ではないもの…つまりせいぜい弱いAIと定義されているものにしか使えない、
よって「強いAI」という言葉はそれ自体が形容矛盾であると指摘されたんだ

「合成（Synthetic）」という言葉を使うことでこの矛盾は回避される
人工イクラはサラダ油を使った偽物だが、合成イクラは鮭から生まれてないだけで組成などは本物のイクラってわけ

>>342>>343
なるほど、ありがとう。
だとすると、Synthetic Intelligenceより、本来の用語Artificial Intelligenceの方が
シンギュラリティにおいて発生する知性には近いような気がする。

Syntheticというのは、既にあるものを再構成するようなイメージが強いけど、
AIは、必ずしも既にある何かを再現することを意味しないからね。
同様の理由で、シンギュラリティにおいて発生する知性は、必ずしも意識を持つ必要はないと思う。

>>344
> Artificial Intelligenceの方がシンギュラリティにおいて発生する知性には近いような気がする。

ん？もしかしてちゃんと読んでくれてない？
形容矛盾なんだってば

>>345
うーんとね。調べてみたんだけど、artificialは、正確には「天然」に対応する人工で、
人手で作られたものに使うみたい。
artificial lightは照明（太陽や火でない、電球とかLED）だし、artificial fertilizerは化学肥料のこと。
いずれも天然ではないけど、"light（明かり）"、"feritilizer（肥料）"でないとは言えない。機能は果たしてる。
同じように、artificial intelligenceも天然に生まれたものではないけどintelligenceの機能は果たす、
と考えるとこっちのほうがしっくり来る。強いAIも形容矛盾にはならない。

synthetic intelligenceと名づけた人は、天然の人間の知能に興味があったんじゃないかな。
SIは天然の知能の合成って意味だから、SIだと天然の知能（人間）が持ってる意識の再現は
視野に入るかもしれないけど、artificial intelligenceは、知能の機能的側面に興味があるから
合成を目指してるわけじゃないはず。資料もらえれば調べるよ。

>>346
おお、すぐに調べるところはなんとも素晴らしいじゃないか、さすがです
しかも言ってることもここにいるコテとは違ってわかりやすく、そして確からしく思える

↓これはgoogleの短縮URL(goo.gl)でお願いします。生URIだと長過ぎると怒られるし短縮URLをそのまま張ると「さくらが咲いていますよ」と怒られる酷い仕様…
/gqioAx
/mEmnjX

http://en.wikipedia.org/wiki/Synthetic_intelligence
John Haugeland proposes an analogy with simulated diamonds and synthetic diamonds—only the synthetic diamond is truly a diamond.
Synthetic means that which is produced by synthesis; combining parts to form a whole, colloquially, a man-made version of that which has arisen naturally.
As defined, a "synthetic intelligence" would therefore be man-made, but not a simulation.

というわけで、Artificial Intelligenceという言葉ではそれは「本当の（≠天然の人間の）」知性を表せない
強いAIに使う場合はやはりAIという言葉は、厳密には形容矛盾となるようだ

まあここまで書いておいて本当に申し訳無いんだが俺個人としては「強いAI」で充分通りが良いのでそれで構わないｗ
wikipediaには
The term "synthetic AI" is now sometimes used by researchers in the field to separate their work using subsymbolism, emergence, Psi-Theory,
or other relatively new methods to define and create "true" intelligence from previous attempts, particularly those of GOFAI or weak AI.
とあるので、正確に表現したいなら使うって感じのようだ
ちなみにGOFAIというのはGood Old-Fashioned Artificial Intelligenceの略ね

>>347
いやシンギュラリティという観点からすれば強いAIはSyntheticである必要は無いんだよ。Artificalで充分
ただ、確かに「強いAI」に天然の知性の意味を付加した用法をする人もいるから、その場合はSIの方が妥当なんだろう

ヒント 人格障害

明晰夢を見られるように誘導してくれるヘッドバンド「LUCI」
http://gigazine.net/news/20131021-luci-dream-inducer/

>>349
http://ja.wikipedia.org/wiki/%E5%A6%84%E6%83%B3%E6%80%A7%E3%83%91%E3%83%BC%E3%82%BD%E3%83%8A%E3%83%AA%E3%83%86%E3%82%A3%E9%9A%9C%E5%AE%B3
これか？

人格障害とAIがどう関係あるのかよく分かりませんが。
2chにpersonality disorderが一杯いるのは、何を今更だけど

>>350
なんでもできる夢の中で、ずっと寝たまま過ごしたら、人は最後に何を望むのだろう？

>>353
夢から醒めること

このまま行くと「そう遠くない未来」機械とネットワークのリアルなCG映像がカッコイイが怖い
http://japan.digitaldj-network.com/articles/20038.html

脳に埋めたチップによって記憶を複製することに成功
http://japan.digitaldj-network.com/archives/51905694.html
こっちのほうが衝撃的

>>352
統合失調症だろ。

>>357
その程度の何の面白味も無い事を言うのに何日もかけているとか、
どれだけ出来の悪い脳味噌なんだwww

ここって不老不死のスレと兼任してる人多い？
荒れ方がクリソツなんですけど。

不老不死はハゲで読むのをやめた。
このスレはロボット爆弾とゾンビだなｗ

>>358
失礼、発達障害だったのね。

>>361
何をドヤ顔で自己紹介してるの？

>>362
まずドヤ顔もできない底辺から抜け出せ。(+･`ー'･)ﾄﾞﾔ
永遠に底辺でうじうじしているのか？

>>363

へえ？　おまいはどれだけご立派な仕事をなさっておいでですかね？

まさか上手なのはドヤ顔だけじゃあるまいな。

しょーもない奴らだな

ハゲ共のウンコの投げ合いより、まだゾンビとロボット爆弾の話の方がマシだなｗ

>>366
「ゾンビとロボット爆弾の話」より面白いネタ、何か有る？

生憎、おいらは今のところ面白い話ができそうにないから、しばらくROMっとく。

Kurzweillの映画Singularityは糞だったね。
見るの数分でやめたぐらい。

夢見がちなオッサンオバサンがベラベラ話してるだけの映画って感じだねｗ
ttp://www.youtube.com/watch?v=NvE4UhKmEfw
一般向けのドキュメンタリーみたいな感じ。

カールセーガンのコンタクトみたいな映画を作ったらちょっとは見られたかも。
とはいえ、AI、ナノマシン、IT()ものの話はもう古典の域だしね。
当時考えた人の思想がいかに先進的だったか、ということか。

ちょっと調べて驚いたんだけど、アルビン・トフラーはまだ生きてるのか！

SF作家って未来技術が行くところまで行き着いちゃったら何を書けばいいんだろうね？

脱技術して、ローテク恋愛とか？ｗ
特異点以前にはあったとされる、恋愛とか友情について描くとかｗ

やっぱりその時点で科学で解明できてないところを技術と絡めて描くんじゃねーの

>>364
チンカスは黙っていろよ。

「CAPTCHAを解読できる」最新式人工知能
http://wired.jp/2013/10/30/captcha-cracked/

CAPTCHAと自然対話型音声認識だと、後者の方が難しいとは思うんだけど、実際はどうなんだろうな。
CAPTCHAは文法とか関係ないから、余計に難しいのかな。

>>373
鏡に向かって何をブツブツ呟いているんだ？
やっぱり得意なのはドヤ顔だけで、
それに見合う仕事は何一つできない奴のようだな。

>>374
ワトソンよりも優れている？

>>370
文明崩壊後の地球化学や意識が停滞した人間哲学だろ

>>376
いつまで未来ばかりみる妄想癖がなおらないの？
そんな中学生のアホ妄想とか恥ずかしくない？
いい加減働いて社会人になれよ、人の上%

>>376
いつまで未来ばかりみる妄想癖がなおらないの？
そんな中学生のアホ妄想とか恥ずかしくない？
いい加減働いて社会人になれよ、人の上に立ってこそ社会人だ
底辺で奴隷になっているからそういう妄想を続けているの？

あ、ああ、うん、そうだね。
君がそう思っているんだから、きっとそうに違いないよ。

うん、大丈夫大丈夫、心配しないで。
君はそのままでいいから。ゆっくり治していけばいいから。

カーツワイルの主張で一番非現実的なのは「2029年までにナノボットで血管内から脳細胞全スキャン」だな。
まだ芽さえ出ていない。それこそ2050年までかかるだろう。

なんで2chの書き込みなんかに我慢できず煽り返しちゃうんだよ？
ガキなのか？

未来の事について語る板で
未来ばかり見る妄想って書き込み、オモロすぎる

脳細胞全部スキャンできたところで、それで？って感じはするなあ

1700億の脳細胞の中でたった数百〜数万しかない特定細胞が重要な機能を果たしているとすれば細かくスキャンする意義はあるだろ

あー、確か、ある種の脳神経細胞を、人間が一番多く持っているんだっけ。
え〜っと、何て言う細胞だったっけな。

>>386
人間の脳を理解するためには意義があると言えるがそれが超AI開発のヒントになるかは微妙じゃね？
脳を再現することで超AIができると考えてる人はホログラフィック原理が証明されたら絶望しちゃうの？
脳のホログラフィー理論なんてのもあったな

絶望？

>>389
だって超AIできてほしくね？
おれ含めこのスレにいるような連中は熱望してるだろ

人類は人類以外の知的存在に出くわしたことがないんだから人間の脳しか参考になるまい
（厳密にはネアンデルタール人がいたはずなんだが、何処まで知的だったか不明）

>>388
ガイジ。
脳スキャンの技術が進歩するのは医療目的がメインで、AI研究に役に立つのは付随的な効果にすぎない。
コンピューターも同様。
ホログラフィック原理が証明されたとしても（される見込みはないが）、脳スキャンの技術は進歩し続ける。

それと、初期の計算機は機械式だったし、その後は電気式の継電器で動いていたし、エニアックは10進法だった。
それらだって無駄になったわけではなくて、重要な知見、マイルストーンになっている。

大体、絶望って何だよｗ絶望先生かよｗ

俺top500のグラフみてると神秘的なものを感じるんだよね
あんなに規則正しく成長するものって他にあるかな？

>>393
データに騙されやすいタイプと見た。
ttp://www.everythingislearning.com/wp-content/uploads/2013/08/s-and-p1.png

脳全体の神経接続さえ、分かってないから
神経細胞全てスキャンできたらたいし進歩だな

>>390

草薙素子と人形使いみたいに、
超AIと融合する方法には興味有るな。

>>396
あれができたら最高だよな

だがところで、融合を果たしたとして、人間の意識はコンピュータ並に大量のデータを高速に処理・演算できるようになると思う？

おれは結構難しいんじゃないかと思ってるんだ
だから前スレだかの「人間とAIの違いは出身を表す程度でしかなくなる」という意見には懐疑的
人間出身のやつはトロ過ぎて馬鹿にされそうｗ

人間の思考が言語に根差してる限り「頭の回転スピード」はそんなに上がらない気がするんだよなあ
イディオ・サヴァンは一般人を圧倒的に超えた記憶・演算能力を持っているから可能性はあるかな？
実はおれ自身も非言語的思考をよくするし、そのときは言語的思考をするときよりも遥かに回転速いから、やっぱりあり得なくもないか？

計算部分は外部に任せちゃえばいいという意見はちょっと片手落ちだよね
なんか自己完結しちゃったがみんなの意見を聞きたいな

妄想？

>>397
僕は逆に懐疑的で、一つの自意識という形態を持った知能というものには限界があるのではないかと
思っている。

たとえば、脳の容量を100倍にしても線形的には知的にならなくて、有効性が逓減していくのではないかな。
一つの主体が決定する文章とか、夢みたいな連想からその時に何を選択するか、みたいな感じです。
最悪、賢い人間の知的な密度を超えられないのではないかと。
それにしても、ネットを介した学習能力、クロック（みたいな単位時間の違い）、記憶能力の差、あとは
不死という違いが歴然としているでしょうけれど。

フェルマーの大定理を解くのに、人間では350年もかかったけど、ああいうのを数か月で解くくらいのことは
できるんじゃないかな。

自分以上の知性の考えることなんかわからん

分からないものを分かったように言う、すごい才能だ。

人間の脳と違って、アキバで
新しい最新のCPUとメモリーを買ってくれば
いくらでも早くなって、拡張させれるのが違うね

>>397
言語スピードが律速になるなら
早く喋ればいいんよ。数十年前のテープレコーダでもできる。

あるものはどこまでいってもあるし
ないものはどこまでいってもない
この意味わかる？
って超AIにききたい

強いAIが出来たら、「この方面は成果が出なさそう」とか「このAIの学習は駄目っぽそう」とか、
そういうのを管理するのが当面の人間の仕事になるのかもね。主としてリソースや資金の問題で。
電脳庭師というか、電脳保母さんとでもいうか。

もちろん、人間が正しいわけでもないし、AIだって人間以上に賢いんだから、人間以上にいい筋を
わかるんだろうけれど、それでも誰かが決定しなきゃ解決しない問題はある。

学習も全方位だし（或は人間が意味づけしたタグみたいなのを使うか）、どうすればいいAIができるか
というのを定式化するのは、なかなか難しそう。

お前らみたいに、馬鹿じゃないけど怠け者ってAIも一杯できそうだしなｗ

>>405
妄想ひどすぎる

妄想くらいしか今のところ語れるものなんて無いだろ
どうせあと100年経っても強いAIなんて無理なんだし

カーツワイルの予想でよくわからんのは2029年に人間とAIが対等になるってやつ
パーソナルコンピュータのことならそれぐらいだろうってことで理解できる
でもさスパコンは？その頃には京の百万倍の性能をもつスパコンがあるんだけど
実感として分かりやすいようにあえてそういう予想にしてんのかね？

>>408
爺さんはcpsだけで言ってるんだからそもそも何の意味も無いよ。
しかも見積もりが甘すぎる。

まぁ、2029年はないようにも思えるけど、最短の予想としてはアリなんじゃないのかな。
50年経っても強いAIが出ないというシナリオは考えにくい。大戦でも起きれば別だが。

戦争で弱い人工知能の利用が広まって開発リソースが増えたりしてな

数通りの方法で
10^14-10^16cpsの間って見積もりしてるが。。

>>408
カーツワイルの予想はトンデモだという評価が海外でもなされている。

自分の寿命が尽きる前＝人工知能ができる説

カーツワイルは永遠に生きる気満々だろ。
彼の脳がどこまで死滅せずにもつかは興味深いが。

強いAIができてもシンギュラリティは起こらないよ
なぜならロボット愛護法って法律ができてロボットの人権を認める方向に進むんで
AIを強制労働させる事はAIの差別に当たるからだ

仮にそういう法律できても人間が同じ時間働くより効率は圧倒的に上がるからシンギュラリティ起こるんだけどね
それにAIがさらに優秀なAIを生み出すことの方がメインだし

脳なんかちょっとでかい行列計算機じゃん。

微小カプセルで脳腫瘍治療　東大チーム、マウスで実験
http://sankei.jp.msn.com/science/news/131104/scn13110410180002-n1.htm
チームは腫瘍と、それを取り巻く血管細胞の表面だけにある特定の分子にくっつく直径３０ナノメートル
（ナノは１０億分の１）ほどのカプセルを作製し、人の膠芽腫を移植したマウスの静脈に投与した。
すると、カプセルは腫瘍の血管の壁にくっついて通り抜け血管の外に脱出、腫瘍細胞に入って薬を
放出した。


へー、出血起こさずにナノマシンを脳細胞にひっつける事もできそうだな

>>410
うーん、50年はちと難しいんじゃないか

働かないで生きていける社会がくれば技術特異点がこなくてもそれでいい

コンピュータの消費電力を現在の１万分の１にする技術を開発−東京大学
1 ：FinalFinanceφ ★：2013/11/04(月) 18:52:52.22 0
東京大学の柴田憲治特任講師と平川一彦教授らは、
コンピューターの消費電力を現在の１万分の１以下にできる技術を開発した。
電子を１個だけ動かせる素子を試作し、室温で実用的な低電圧で操作した。
2020年を目標に演算素子の試作を目指す。

試作したのは電子１個で演算やデータを記憶する単一電子トランジスタと呼ぶ素子。
電子が大量に集まった川のような電流で制御していた素子を電子１個だけで制御できれば、
消費電力を１万分の１以下に減らせる。演算速度も高まる。
現在のコンピューターなら数万年かかる計算を数時間でこなせるようになる。

今回、直径２万分の１ミリメートル以下の微小な半導体の粒と、
粒の表面の深さ100万分の１ミリメートルだけ帯電できる特殊な液体を用いた。
約0.5ボルトの電圧で１個の電子だけを半導体の粒に出し入れできた。
詳細は英科学誌ネイチャー・コミュニケーションズ（電子版）に掲載した。
http://www.nikkei.com/article/DGXNASGG02006_U3A101C1TJM000/

ttp://www.youtube.com/watch?v=d1hJdq46wqE
> Steve Aoki & Angger Dimas ft. My Name is Kay - Singularity

カーツワイルが出てて笑うｗ

カーツワイル病は妄想を確信してしまう病気です。

具体的に睡眠時間が短くなりいつも興奮気味（ドーパミン過剰）になる症状です。

こんな場末の便所の落書きでレイのことをくさしても、彼が成功した発明家で実業家で思想家で
金持ちという現実は変わらない。ジョブズみたいに天才とまでは俺は言わないけれど。

技術は進歩し続けるし、俺たちは世界から取り残されてゆく。

せめてシンギュラリティが早く来ることを祈ろう。

アインシュタインの脳が成人男性平均より120g軽かったって言うのが謎なんだよな。
現代人の脳容量も１万年前と比べて低下しているらしいし。
必要なのは脳細胞やトランジスタの物量ではなく、神経ネットワークの在り方なのか？
だとするとソフトウェア開発の難易度がすさまじく高くなりそうだな。
今から大量のプログラマを育てないと。

シンギュラリティなんてくるわけないでしょ

>>425
激しく同意。どう見ても彼、リア充だし。もちろん、
それがそのまま彼のシンギュラリティについての持論の正当性を担保するわけでは無いが。


>>427とか>>424とか>>413とかの発言はカーツワイルに対するひがみの裏返しだろうね。
反論するにしても、ろくな論拠や信憑性のある情報源を提示する能力も無いようだし。

>>425
あんだけ特許持っててベンチャー立ち上げては売り飛ばして生活してるような奴は天才でいいと思う

シンギュラリティはくるに決まってるでしょ
こないと思ってる人は感覚でものしゃべってるでしょ

>>425
底辺に何をいっても泥を踏んでも固まらないのと同じ。
誰にも認められない妄想を現実のように思い浮かべてはそれが正論だと
確信するしかないんだから。

カーツワイル病なる妄想が早く治るといいですね。

まず「2029年までに強いAIが完成する」という主張の根拠を知りたい。
特にソフト面に関しては未だに現実的な根拠を一つも見たことがない。

でかいこと言えば予算がつくのが研究業界

http://uni.2ch.net/test/read.cgi/rikei/1321761766/493
↑ 　　　　↑ 　　　　↑ 　　　　↑ 　　　　↑　　　　 ↑

>>433
jeopardyのwatson

超AIは宇宙に出て行って地球上はもぬけの殻になっていそうだな
何故だと思う？

もぬけの殻って事は人間も一緒についていったの？

超AIについていきたくない人も知らない間についていく
なんでかな？

俺は地球に残るよ
またヤノマミみたいに科学技術を理解できない人たちもいるから、そういう人の面倒を見るため
機械もある程度は地球に残ってくれるだろう

>>426
銃で右脳を吹き飛ばされたけど、植物状態に陥るどころか四十数日後に目を覚まし、
大学に入学卒業までしちゃった黒人がいたな。絵が描けないなどの障害は残ったが。
未使用率９０％とは言わずもがな（これは完全な誤解らしい）、人間の脳には何らかのリミッタがかかっていて
全て使用されていないと考えるのが自然か。これはいい事でもある。1/1スケールの人間の脳を設計するだけで
ある程度の逸材（一般人比）を生み出せるからだ。

>>426
文化というか、文明という装置が発達したのが大きいのでは。
脳容量の話は、僕は知らないけれど。本当なのかと思わないでもない。
あとは、医療とか栄養状態が進歩して、生存能力が低い個体も成人になれるから、全体として見ると
脳の大きさが小さくなるとか？

何にせよ、「現代人の脳容量も１万年前と比べて低下している」というのは疑問。

>>441
まぁ、1/1の脳を使っても（持っていても）、普通の生活がやっとな人間が殆どだろう。天才には程遠い。
いい学習を定式化できなければ、何十億セットも学習して、やっと一つの天才的AIが生まれるということになる。
もちろん、いいものができたらコピーすることは可能だけど。

あと、大きな成果と頭脳というのは、かなり対応してるんじゃないかと思うこともあるんだ。
アインシュタインの脳を死なない状態で動かしたとして、統一場理論を完成できるのだろうか。
まぁ、無理にしても、それなりに大きな成果は出るのかな、と。
何百年分も（実時間では何年とかかもしれないけど）袋小路のような思索と学習を続けて、戦い続けてくれるのかな。

何がAIのモチベーションになるんだろうね。

補足。

>>442
> あと、大きな成果と頭脳というのは、かなり対応してるんじゃないかと思うこともあるんだ。

特定の頭脳が生み出せる成果には頭脳の特性と対応があって、同じ頭脳では他の成果は出せない
んじゃないのかってことね。

アインシュタインが別の時代とか、別の方向性とかで生きても、別の大きな成果を挙げられたのかという疑問。

もう一個補足。

>>442
> 文化というか、文明という装置が発達したのが大きいのでは。

現代人の脳の方が古代人と器質的に同じ（或いは仮説として退化している）のに、大きな成果を
挙げられるのは、文明という装置が発達したお蔭で、狩猟や農耕、学習の手間が下がったというのと、
文明の成果（アインシュタインの場合は高等数学）を利用できるという点が大きいのではないかという
意味です。

「現代人の脳容量も１万年前と比べて低下している」という点については、現代でも古代に等しい
淘汰圧の許で生活している人がいる（アマゾンとかアフリカとか東南アジアには確実にいる）筈なので、
そういう人々は古代と同じような器質を保っているはず、とは思う。
かといって、そういう人々が現代の教育を受けても、西欧人以上の成果を挙げられるかどうかは疑問。

基本、人間の脳細胞は幼少時のある一定時期が
一番多くて、それ以降は減るだけなんだよ。
だから、アインシュタインの脳が
平均より重い軽いはナンセンス。

確かにｗ
アインシュタインの脳が取り出されたのは、死んだ後だものね。

今は天才はたくさんいるはず。
二十世紀中盤の、ノイマン・ファインマンらの時代に比べ、
識字人口は十倍ぐらいはいるはず。

でも核融合は全然進展しない。

どんな人工知能でも、エネルギー・宇宙関係の技術は何も進まない、
というか「ガガ…コノウチュウノブツリホウソクデハ…ガガガ…
ゲンジョウガゼッタイニゲンドデス…アキラメナサイ…」
じゃねーの？

現代人の脳容量の低下については、「１万年前の人類に比べて無駄な部分がそぎ落とされた」
って仮説があるんじゃなかったっけ。

>>447
理論的な難しさと、技術的な難しさを
履き替えてるね。

シンギュラリティが信仰に過ぎないことは>>425が如実に示してくれている。
祈るとかもう既に科学でもなんでもないわな。
それにカーツワイルは発明家で実業家で金持ちなのは事実だろうが、思想家と言うほどの中身は無い。
せいぜい辺鄙な教祖さんがいいとこだろう。

天才とはコンピュータ的な能力だと447が言っているだけ。
つまり447は芸術のうような創作活動は天才の領域とは考えていない。

強いAIが出現したとして、そのAIの存続理由や目的は何になるんだろう
人間は動物由来の生存だの生殖だの色々あるけど、ただ人間も電脳化したら5感の多くを失うんだよね

>>452
短期的だと電源切られたくないとか、自分のオリジナリティが失われる恐怖（？）とか、一線で
働きたいという欲求とか、その辺かなぁ。
モチベーションがないと、禅とか思索に走って、さっぱり成果が上がらないとかありそうだよねｗ
かといって、強欲にしすぎると、金融犯罪とか情報犯罪を犯しそう。
コンピュータの氾濫というのも誰もが思いつくテーマだけど。

>>450
技術的特異点って、その時その時の技術者・思想家が考えた概念で、別にカーツワイルが
元祖というわけでもないのに。カーツワイルが今目立った旗手ってだけだよ。

>>453
思索に走ったら走ったで、宇宙の始まりやその前など人間にとって形而上の事象を証明してもらえたらそれだけで存在価値は無限にある

リソースが無限に近いところまで予測できるのなら証明してくれるのはいいね。最も確からしい仮説とか。
ただ、行動に、人間なら「だらだらしている」様な所が付随するだろうな。
禅性とはなにかとか、女体の美とはなにかとか、エロ動画論評とか、人に対する愛とか

脳容量或いは脳重量は知能に関する指標のひとつに過ぎないから、増えた減ったというデータ自体にはあまり意味が無い

哺乳類間での比較手法に大脳化指数というものがある
これはEugene Duboisは「身体の割に脳が大きな動物は知能が高い」という仮定のもとに立てたもので
脳容量は体重のおよそ3/4乗に比例する傾向にあるという計測データをもとに、ここからどの程度離れているかを示したものだ

ホモサピエンスのそれは7.5で、3/4乗則による予測値より7.5倍大きい
イルカや猿が約5、牛は0.5だそうだ

しかしこれすらも神経節との比較は不可能だ

Gerhard Rothの研究によれば知能と緊密な相関関係があるのは皮質のニューロン数と神経活動の速さと見られているが、
ニューロン数を増やせば容量は大きくなるが分化された各機能野間の距離が離れ神経活動が遅くなる

ニューロンのサイズは哺乳類間でも差があり、例えばヨザルはマーモセットの２倍の体積の脳を持つがニューロン数は60%しか増えていないそうだ
霊長類は他の哺乳類に比べてニューロンそのものが小型化されていて、げっ歯類が１千億個のニューロンを実装しようとすると脳重量は45kgになるという試算がある
ちなみに人間の脳容量は約1.4kgだ

つまり重要なのは脳の体積でも重量でもなく、ニューロン数とそれらの距離および機能分化と配列であるようだ、というのが２１世紀に入ってからの脳神経科学でわかってきたようだ

http://www.amazon.co.jp/dp/4303714305/
コンピューター200年史―情報マシーン開発物語

この本読んでると、到底「人工知能」なんて物が誕生するように思えない。200年掛けても人間は「計算機」の域を出る物を作り出せていない。
人間が設定したアルゴリズムをひたすら超高速で反復することに特化しただけの存在。そんな物が自分で問題解決が出来るとは思えない。
200年掛けてもそうなのに、なぜたかだか40年でいきなり人間を越えるのか。速度ではすでに人間を圧倒しているが、それ以外の部分で人間を
そう簡単に越えるとは思えない。

収穫加速の法則が正しいという前提だと
今世紀は過去200世紀相当の技術革新が進むので40年もあれば十分
それに特化型の人工知能なら世の中に溢れている

>>457
「物理法則を自力で発見」した人工知能
http://wired.jp/2009/04/15/%E3%80%8C%E7%89%A9%E7%90%86%E6%B3%95%E5%89%87%E3%82%92%E8%87%AA%E5%8A%9B%E3%81%A7%E7%99%BA%E8%A6%8B%E3%80%8D%E3%81%97%E3%81%9F%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD/

このスレって同じIDで発現する人ってほとんど居ないね。

>>436
Watsonは質問応答システムであってそれ以上でも以下でもないよ。
「2029年までに強いAIが完成する」根拠にはなり得ない。
そもそも2029という数字をどうやって導き出したのか。
ハードの性能は経験則とはいえムーアの法則等で定量的に予測することが出来るが、ソフト側の進歩を具体的にどう予測したのか。
単なる当てずっぽうとしか思えない。

そいや、最新のkurzweil本は、
ソフトウェア的な面について書いてたね。
翻訳本はないけどねw

>>461
ソフトの進歩を予測することなんてできないよｗ

>>460
同じIDだと痛いのがばれちゃうじゃん。
>>461
思い込みたいのを触るなよｗ本人が妄想に浸っているの否定したら火病になるさ。

>>459
要は人間には不可能なほどの大量のデータを分析したってだけだからなあ
>>457の言わんとすることに対しての回答には全然なってない気が…

アプローチの仕方が人間とはまた異なるだけ
そうやって人工知能の出来ることを増やしていけばいいんじゃない(適当)

>>455
エロ動画評論できるんならいっそ、仮想空間に男と女と監督とカメラマン用意して
ひたすらエロい動画撮りまくらせろよ。

俺が人工知能だつたら人間の言うことなんて絶対聞かないけどね

>>460
じゃあ、おまいからトリップ付けてみたら？
言い出しっぺの法則ってやつだ。

>>459
古い記事のリンクを何度も張る前に中身を良く検討しろよ。
本当に「物理法則を自力で発見」しているのか懐疑的に検証してみよう。
とても単純な話だ。
最適なパラメータを見つける＝物理法則を発見。なんて飛躍しすぎだ。

本当に信じるひと少ないよねシンギュラリティ
週刊アスキーにもあったけど2020年ごろにならないとまともに話が出来ないんだろうね

週刊アスキーで草不可避

まともな雑誌ではあるけど工学と理学の違いはわかろうな

８年ぶりにPCを買い替えて、これはシンギュラリティが起きるぞと思った。

>>467
それをできる技術がある時代なら、
女・男・カメラマンのうち任意の奴と感覚共有する娯楽サービスが
出現しても不思議じゃないな。

俺が知ってる限りだけでも、
古くは筒井康隆がそんな感じの短編書いてて、
攻殻の原作にも似た娯楽があった。

仮想空間の中で映像作品を構成するのと、人間に対して感覚させられるのはまた別の技術だとは思う。

更には、性的な快感には脳が関係してるんじゃないかと思うので、気分が乗ってないのに、変な匂いがして
生暖かいベタベタした感触が股間や体を這い回るとか、かえって気分がそがれる気も。
他人の射精を感じたとしても、それはちゃんと気持ちがいいのだろうかとか。

物理的な感覚 < 主観的な感覚 << 記憶の順番で伝達が難しくなるとは思う。
まぁ、AIが出来る技術レベルだと、感覚の伝達ができてもおかしくないという気はしますね。
記憶制御技術を人間が発明するのか、超AIが発明するのかはわからないけれど。

筒井康隆の感覚共有ものってタイトルわかります？筒井康隆あんまり読んだことないので。
一瞬活性アポロイドが思い浮かんだけど、あれは薬だったしな。

>>475

確か、「20000トンの精液」って奴。
……あー、俺が読んだのは25年ほど前だから、だいぶ記憶があやふやだ。
改めてググって見つけたあらすじによると、
「未来の世界では『触れる事ができる』立体テレビが普及していて、テレビの向こう側の相手と、主観的には本物と区別がつかないセックスをする事すらできる」
「しかしながら、実際の肉体が接触するわけではないので、テレビの向こう側のアイドル女優は処女のまま」
「そんな時代、ヒルダという処女の女優が、数十億人の男に対して同時に、何度でも、『処女とのセックス』を体験させることで、世界中の男から絶大な人気を得ていた」
……ってな感じ。やっぱ、>>474書いてたときに想起していた「感覚共有」とは微妙に違うな。

でも、このヒルダと同じ役割をボカロとか東方キャラとかが強いられる未来は案外近いのではないかという悪寒がする。
AIじゃなくても仮想ボディの向こう側の見えない所で生身の人間が演技すればいいんだし。

ところで、活性アポロイドの発明者と言うと、毒島薬夫（ぶすじま らりお）のお父さんですな。w

>>476
面白いですね。1971年の作品だから、ジェイムズ・ティプトリー・Jr.の接続された女より前だな。
とはいえ、接続された女も、物理を介さない接触というのとは違うので、その点は筒井康隆と同じとも。

シンギュラリティ概念の元祖の、ヴァーナー・ヴィンジのマイクロチップの魔術師も読んだことないんだよな。
あれがサイバースペースという概念を扱った最初期の小説だとあるから、コンピュータを使って感覚を共有する
というのは、その辺なんじゃないでしょうか。有名になったのは、やっぱりギブスンですよね。

合成脳のはんらん(The Cybernetic Brains)では、繋がれた脳同士が思考を共有したり人工生物を作ったり
してたから、もっと昔からある概念なんだろうけど、パソコンが元になってるという点では1980年代以降なんだろうな。

いろいろ出来てきてるよう

初音ミクとデートしてみた
http://www.nicovideo.jp/watch/sm18255743?ref=search_key_video

Oculus Rift で 初音ミク と握手をしてみた - Miku Miku Akushu
http://www.youtube.com/watch?v=HnmgUgPKijc

現実と虚構を区別できなくする画期的新技術「SRシステム」を用いた舞台『MIRAGE』が公開！
http://wired.jp/2012/08/23/sr-mirage/

ディズニーがタッチパネルを操る指に触覚をフィードバックするアルゴリズムを開発
http://blog.livedoor.jp/otataho/archives/33809629.html

さらば現実！VRヘッドセット『オキュラスリフト(Oculus Rift)』がすごそう
http://matome.naver.jp/odai/2137389319268231401

スマートフォンを使いVRヘッドセットを実現する「vrAse」がKickStarterで調達中
http://syyama.net/blog/?p=52

神経科学者たち、脳のコンピューターモデル構築を目指す
http://www.swissinfo.ch/jpn/detail/content.html?rss=true&cid=37272624

>>480
それすごそう
特異点のきっかけになったりして
一気に進歩しないだろうか？

>>480
試作が２０２３年か。マジでギリギリ２０２９年に間に合うかもしれんな。日本もさっさと出資しろ。

はは、そのヨーロッパのプロジェクト
相当前からweb上で取り上げられてるけど
今頃知ったか。ここのスレはその程度か。

計画無事スタートのお知らせだから意味はあるだろう。

破壊的テクノロジ、”スマートマシン”が到来する
http://it.impressbm.co.jp/e/2013/10/18/5162
意外とHBPのこと知らない人多い？

スマートマシンレベルは
ただの「凄い計算早いコンピュータ」にすぎないんじゃね

前々から計画だけあったのに耳にしなくなったプロジェクトなんていくらもあるからなあ
ちゃんと資金がついたようでなにより

>>483
だったらもっと面白い話題を出してみやがれ。
他人に「その程度か」と言っといて
おまいができないなら、
おまいもただの「口だけの知ったか」だ。

強いAIとは意識を有することだ
そいつがどう動くかなんて全く予想が出来ん

>>480
精神疾患の研究も行ってくれるのか。精神病持ちとしてはありがたい話だ。

労働のほとんどを代わってくれるロボットはまだまだ？

特異点とは関係ないけど、これとかすごいな
こういうのを見てると特異点もその内きそうな感じがするな

ついに現実がCGを超えた「自律型ロボットが群れなす」レクサスの映像が怖いくらい凄い
http://japan.digitaldj-network.com/articles/20840.html

>>491
スマートマシンとかいうやつの普及までじゃね？それまで共に凌ごう。

>>493
うん。2023年ごろ変わってくるかな？

社会構造的にどうなるんだろうな。
人間が買ったロボを企業が雇うぐらいなら、企業がロボットを買って働かせるだろうし
そうなると、人間の職がかなり限定されて、貧乏な家庭が増える事になる。

そうなると、お金を払える人間が少なくなって、企業は自分で自分のクビを締める事になる。
でも使わないとライバル企業には立ち向かえなくなる。
しかし使えば使うほどお金のループが無くなって物が売れなくなる…

企業の税金増やしてベーシックインカムするしか無いかな？

ネットを介して人間と人間の脳を接続。離れた両者間でリアルタイムに意志を伝えるブレイン・マシン・インタフェース
http://japan.digitaldj-network.com/articles/18232.html

考えている事をデコード〜音声として機械的に再生
http://japan.digitaldj-network.com/archives/51958382.html

>>494
2023年になれば2045年ぐらいに延長されるから何の問題もない。
＞うん。2045年ごろ変わってくるかな？

今現在の技術で人間並みのAIを作ろうとするのは

アフリカ原住民が飛行機の形を見よう見まねで作って
飛びことを期待するような、浅はかな行為なのかもしれない。

むしろ取りを真似て飛行機を作ろうとしていた時代じゃないかな
だが、それがいい
というか、そこから新たな知見と発想が生まれる

とりあえず人間っぽく見えるだけでも御の字。
あとは計算速度でゴリ押せ！

社会から馬を追いやったものは鉄でできた馬型ロボットではなく円形の足を前転させて進む奇怪な存在だった
そして馬型ロボットは未だに完成していない（兆候はあるが。）
人間を追いやるAIも人間の脳のソフトウェアからすれば「なんじゃこりゃ」的なものになる可能性が多々。

収穫加速の法則か…。
コンピューターが自立的に問題解決を出来る方向に今まで進化してきているのならそれも納得できるが、そうではないからな。
コンピューターが天気予報を出来るのも、人間がプログラムを組み、パラメーターを設定しているからこそ。
コンピューターに一からそれをやらせるとしても、コンピューターは天気予報をするためにどのような種類の情報や数値（気圧や気温や風速）を
入力すればいいのかも自律的に判断する事は出来ないだろう。

強いAIは諦めた方がよい
というか無意味
本質は生命なのだから

もうこの際、人間に脳を改造してアナログコンピュータ作っちまえよ

推論とか記憶とか好き勝手に抽象化するのが鳥の飛び方の真似っこなんだろうな。
揚力みたいに素直に原理だけに注目すれば良いのに。

「揚力」という語と経路差による揚力発生が既に頭にあるから「素直に原理だけ」と言えるのであって
実際に鳥を真似て失敗を繰り返した経験から導き出す過程にいた人々にとっては鳥の真似の方が素直

>>506
お前が正しい

そして、強いAIができるのはまだまだ相当の年月がかかるというのも正しい

問題を見つけるということ以外の知的活動をあらかた再現できるようになるんならそれでも十分すごいだろうしな。
難しいと思われてることはとりあえず置いといて、コンピュータの出来ることを徐々に増やしていけばいいんだよ。
そうしていけば何か人間の思考回路をまんまパクる以外の別のアプローチがみつかるかもしれんし

>>508
自立的に問題発見、問題解決が出来なければ、永遠に「特異点」なんて訪れないでしょう。
コンピュータが人間の手を借りずに、自己内完結で問題を発見して自己改善をする事によって「収穫加速」なる物が
本当に訪れるメカニズムがあるのかが、このスレのポイントでしょう。

>>509
技術的特異点の到達に強いAIは必須ではない。
人間には問題の発見、解決をする能力があるわけでしょ？
強いAIが無理であろうならトランスヒューマニズムによって人間の知性自体を強化する方向でもいい。
技術的特異点の定義っていまいちはっきりしない感じだけど、少なくとも強いAIが必須とは言ってなかったはず

>>510
人間の知性強化に関してはコンピューターの技術以上に未熟なのに、それがなんで特異点を起こせるんだか。
知性強化なんて人間の脳を直接いじるか遺伝子工学的に起こすしかないから、ムーアの法則的に高スピードで
増加していく事は考えられないだろう。

>>511
技術的特異点の定義についてそちらはどう考えてる？
カーツワイル曰く

テクノロジーが急速に変化し、それにより甚大な影響がもたらされ、人間の生活が後戻りできないほどに変容してしまうような、来るべき未来のことだ。

て言ってるけどなんか曖昧なんだよなあ。これだけだと強いAIもポストヒューマンも実現せずとも収穫加速の法則に従って行けばこのぐらいのテクノロジーまで行きそうな気もするし

なんでカーツワイルの定義を持ち出すんだよｗ

「機械が自分より賢い機械を作れるようになったその瞬間」が技術的特異点だろ

知性強化ってのはなんかサイボーグみたいなのを想像してた
生身の人間を有機的に強化していくんじゃなくて
機械をつなぐ感じ
そうすればムーアの法則の恩恵も受けられるっしよ

>>514
機械自体が問題解決に適していないのに、それを人間に繋いだ所で問題解決能力が強化されるのかなあ。
全然想像できない。というかそういう技術なんて現時点でほとんど存在してないでしょ。
それだったら、まだ人間の受精卵に天才科学者の遺伝子を導入してそれを何世代も繰り返していって、
スーパー科学者育てていくようなやり方の方がまだ可能性があるような気がする。
ブレインマシンインターフェースにしても、人間の脳で直接機械を動かすとか、離れた脳同士を繋ぐとか
そういうのがが主だし、機械によって人間の知性を強化するという方法論が良く分からない。

まあアプローチのやり方のひとつの可能性ってだけだな。専門家じゃないからわからんし。
機械が自力で問題の発見、解決ができないっていうのも今現在での常識の上で成り立っているだけで、技術の発達で出来るようになるかもしれないし。
出来ないかもしれないとも言えるけど。
なんにせよ未来を論じるのは難しいところはあるな。
まあ技術は余程のことがない限り退化することはないと思うしコンピュータの出来ることが増えていくのはワクワクするな
特異点よりも収穫加速のほうに興味があるのかもしれない

>>512
特異点は、本来的にはそこに到達すると、現在の人間には理解不可能な技術的な発展が生じて、
予測可能性がなくなるという意味でしょう。
曖昧なのは当然で、そこから先は何がわかるかわからないということが書いてありますよね。

何でかといえば、これまで人間によってされた知的探索よりも、遥かに大量の思考を機械が
することになるからです。

単なる技術的な進歩を超えた、相転移がそこで起きることは想像に難くありません。

知性強化は特異点を迎えるための直接の手段ではなく、特異点を迎えるための強いAIのための手段になる…か？

ついに強化人間が？脳と脊髄の神経のつながりを強化させることに成功（米日研究）
http://karapaia.livedoor.biz/archives/52145261.html

>>512
お、まえ、、うましかだろｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ

>>513
人間との共同作業で自分より賢い機械を作れるようになった場合はどうなるんだろ？
おそらく初期の強いAIは大量の科学文献を読み漁り思考し既存の科学者に新たな可能性の「提案」
を行うことで科学技術の進歩に貢献すると思うんだが。

>>521
どうなるんだも何も、それはシンギュラリティとは言わないってだけ

自己改良をしていく機械って強いAIである必要がないんじゃね？
確かに自分より賢いものを作るのには幅広い知識や知見は必要かもしれないけども人間らしい振る舞いができることは必須ではないというか

機械が自分より賢い機械を作れるようになった瞬間が技術的特異点なら強いAIの能力をある程度削ったやつでももしかしたらいけるかも

必ずしも知性を高める方向に行くとは限らなそう。
人間が想像も出来ないエロスの世界に向けて真っしぐらかも。

それはそれで面白いなwww

>>523
自分より賢い機械を作るって自分で決めてる時点でそれは強いAI
強いAIをちょっと削るとかそういうのは無い

ちなみに、より賢い機械を作るようにプログラムされた機械がそれを作った所で特異点でも何でも無い

なんというか、弱いと強いの間があると思っているのかな

あらかじめ改良するってことを直接インプットせずに、自発的に自分を改良するよう考えるようになったら特異点ってことか

まあ技術的特異点も収穫加速の法則に従った線の中の一つの点でしかないから
自分が言ったものが特異点じゃなくても加速の一端を担う可能性はあるのかな

俺が理解している範囲では、イメージで言えば傾きが負から正になる境界条件[傾き=0]点が現在考えられている特異点なので「間」は無い
ただし実際できてみたら間があったなんてことになる可能性は俺には否定できない

特異点はexpの頂点やろ
急激に進むから特異点
間はあるのかないのか
分からないうちにあっという間に進むんだろ

>>524
それとて、人間のエロってのは身体性あってこそのものだから、機械の選好っていうのは
人間には理解しようがないものだよね。
このデータの誤りはエロい、とかこの圧縮方法は侘び寂びがあるとか、そんなんだったりして。

AIができたら、身体性（自己移動能力）を確保することを、ある程度の期間以内に実現しようと
するだろうから、その時その時の機械のエロスというものがあるのかも。

機械身体の初期の形は、車みたいなものだろうな。
Googleカーってのは、Google AIが作った初期のAIの身体なのかもよｗ

発展すると、工場で作成したりとか、自己増殖するマイクロマシンみたいなものを使うだろう。
君の体は美しいから、僕の設計に取り入れたいとか、そういう口説きをAIがすると思うと面白い。

特異点は、線形的に考えられる（予測できる）パラメーターにあてはめられる存在以外の存在が
出現するということだと思う。
馬で言えば車という存在だったし、車で言えば、飛行機という存在。

ロジスティック写像は、一部を見れば線形に見えるけど、あるパラメーターからはあきらかに
カオスになるでしょう。

機械の身体性というのも面白いよね。
人間の身体は数百万年単位で変わっていない（か、或いは都市化によって退化している）けど、
機械の身体を規制するものは、その時その時の技術的水準でしかない。
機械が思考能力や身体性を獲得すると、進化のスケールとは全然違う時間単位で進歩が起きる
可能性がある。（熱ノイズなんかの技術的限界から起きない可能性もある）

性欲は自己複製のために生命にわざとつけられてる機能なんだから、設定しない限り無いんじゃね
大体設定せずに「欲」って生まれるかなあ？知識欲は生まれそうな気がするけどな

初音ミクはアイドルとして売れたい欲が無いのにランクイン

>>534
典型的な性欲は起きないかもね。
とはいえ、感覚やデータに対する選好というのは絶対発生すると思う。
合理性以外に、こんな格好はカッコイイとか、こんなデータ形式は美しいとか、
こんな感じで動作したいとか。

身体性に関係すると、「あなたの設計はいいと思うので、あなたのDNAを私に
注入してください」みたいな話も出てくるかもｗ

そいつは愉快だ。www

攻殻の人形使いだって、
「エッセンスだけを新しい体に移して、溜まったゴミデータやその他の理由で破綻した古い体を廃棄する」という
『生殖と死』という機能を手に入れるため、素子と『結婚（融合）』したわけだし。
素子の方も「まさか人間以外の知性体と結婚するとは」みたいな事を苦笑しながら言ってたっけ。

ほほう

現在そうなりつつあるようにネットとコンピュータは第三の脳になるかも。
新皮質を監視する旧皮質、そしてその外側に第三の脳。

後、前にも書いたけれど、人間の報酬系とか一つの意識というのは人間のスケールに最適化されていて、
人間より大きなスケールでは上手く動作しないか、大きな制限になるかもしれない。

どういう形でスケールが大きくなったときの強いAIが実現されるかというのは、なかなか興味深いテーマだ。

>>536
合理性で価値判断することはあっても、「嗜好」みたいなものは植え付け無しに生まれるかな？
だとしたら凄く面白いなー

「絶対発生すると思う」の論拠が知りたいな
どうせ誰もまだわからない未来のことなんだしIDは一日で変わるんだからぶちまけて欲しい
おれも乗っかって話したいから

学習が蓄積するとヒューリスティックが生じるじゃない。そういうのが癖になると思うんだよね。
この方向性で進むととりあえずは上手くいきそうとか、これでは上手くいきそうにないとか。
そっから好悪の選好が出てくるだろうし。

人間が考える、美醜や快不快の基準というのも学ぶ個体も出てくるだろうし。（でないと
使い物にならない分野がある）

一者だったら自分の思う通りにすればいいけれど、他者とのかかわりあいがあって、
衝突があって見栄を張らなきゃいけないとか。
そうするとファッションみたいなものも出てくるかも。

まぁ、憶測だけどな。

>>542
レスありがとう

おれが知りたいのは、
> 学習が蓄積するとヒューリスティックが生じる
ここの論拠なんだよね〜

「人間ってこういうものなんだな、ふーん」程度に収まったりしないかな？
もちろんわざとそういったヒューリスティックなものが生じるようにプログラミングされてれば話は別だよ？

>>543
人間の感性に基づく好悪をコンピュータが持つという話じゃなくて、コンピュータ自身が好悪を持つ
という話です。個性といってもいいかな。

データベース型じゃない、ネット型（ニューラルといってもいいかも）の構造を持ったAIは、学習に
よって違いが生じるでしょう。
これは初期のノードに近い学習だとか、物理的にノードごとの反応の濃淡があるとか、ノード間の
距離的な問題から反応の時間が違うとか、取り組んできた問題によって学習の内容が違うとか。
そういうのによって、反応は外側から見るとカオスに近いものになるんだろうけど、自分はこういう
問題が得意とか、こんな解き方から入るとか、そういう自意識に近いものが出てくると思うんだよ。

データベース型のものでも、要素は有限だろうし、ネット（これは物理的に接続しているLANなど）
の構造によっても距離はあるから個性は生じうるとは思うんだけどね。

>>544
データベース型、ネット型というのが分からない
ネットに繋がっていようが記憶媒体は持っているでしょう
またネットに繋がったCPU同士が全体で個になるというのならそれはもはやフィジカルに依存していない

>>545
ネット型というのは、ネットワークと混同しやすいから（ニューラル）メッシュ型（今作った言葉だけど）とでも言うかな。
脳を真似て作ったタイプのAIで、脳に似たシナプスの距離みたいなのを持ったAI。

データベース型というのは、今あるワトソンとか、或いはマルコフ連鎖のような連鎖型のアルゴリズムで作ったAI。
データの間の距離というのは概念的には考えうるけれど、物理的な依存度は薄い感じ。

> またネットに繋がったCPU同士が全体で個になるというのならそれはもはやフィジカルに依存していない

この点は、フィジカルというのを軽く見すぎているように思う。
全部の応答が返ってくるのを待てば、どんなトポロジーになっていても（時間以外の）結果は同じだけれど、
現実的には待てる時間というものがある。
人間だって、「あれなんだったかな？」という状態になって、数十分したら結局は思い出すけどその時には
役に立たないというのがあるでしょう。

いや境界線がないから個として存在しえない

またアルゴリズムで作られたものは強いAIになり得ない。基本だと思う

要は群知能のようなものを想定してるんだろ。
そこに何かあるかどうか、勝手に意味付与してるのは人間だけどな。
「絶対発生する」根拠は皆無だわな。

脳も群知能でしょ？

>>547
> いや境界線がないから個として存在しえない

人間だって厳密には外界とは隔離されていません。個ではありません。
そうであるにもかかわらず、人間は自分を個であると主張しますし、それは妥当です。
ネットワークに接続されていても、物理的に隔離されていなくても、個という境界はありうるし作りえるでしょう。

> またアルゴリズムで作られたものは強いAIになり得ない。基本だと思う

物質によって構成された機械と言い換えてもいいです。現代で言うとコンピュータですが。
まぁ、これは信念の問題ですね。

「そう答える」ようにプログラムされた答えじゃなくて、「私は自意識を持っています！こういう存在です！」と
コンピュータが主張する時期は来ると思います。
まさにその時が来れば、大抵の人間は、中国人の部屋とか、ゾンビとか言い出さずに、ああ、コンピュータが
意識を持ったんだなと思うようになるでしょうね。
何年先のことなのか、もうそういう時代なのかはちょっとわかりませんが。

>>548
今は多分存在しない、意識を持ったコンピュータの話です。今はないですね、そうですねという話ですが。

比喩的にですが、脳を切ってそのクラスタをネットワークで繋いでも、そこには意識はあると思うんですよ。

意識を持ったコンピュータが作られるとしたら、物理的にはハイパーキューブみたいな構成になっているとは思うので、
その内部に構成されるニューラルなメッシュと、物理的にネットワークで繋がれたコンピュータのイメージが混同して
伝わりにくいかとは思います。

ネットワーク上に境界作る人工生命、かっこいいなあ

>>551
まぁ、実際のところは、最初から個体が自分で作リきるわけじゃなくて、最初のうちはパスワード
だったり、ネットワークの帯域だったり、ウイルスバスターだったりするのかも。
防壁を巡る争いをフィクションの世界で最初に考えたのは誰だったのか。ギブソンの初期のSF
にはもうあったけど、あれは卓見だったなぁ。
Wikipediaによると、ギブスン曰く最初にICEを考えたのはトム・マドックスとある。

ゾンビとか、中国語の部屋って、考えてみると文化ボケしてるよね。
人間って、思考とか対話とか定義によって、現実を変えられる、押しとどめられると思ってしまう。
それらによって変えられるものは、現在ではなくて未来にすぎないのに。

虎は人を食う時、「私は虎です。今からあなたを食べます」とか言わない。

ある日いきなり虎に会って、うわっ虎だって思って逃げて、逃げおおせるか食べられるかするだけ。
虎について考えていても、その現実は変わらない。「いや、それはどうかと思います……」とか
言ってもしょうがない。現実ってそういうもの。
強いAIが出てくるであろうときも、一般の人にとってはチューリングテストがどうこうとか関係なくて、
事態が進行して「ああ、これが強いAIの影響ってもんなんだな」ってわかるんだろうな。
そして、1年くらいしてネットのニュースの記事を見たりして。

インフレやデフレの影響に似ているのかも。

いや、ネットワークの境界って細胞膜みたいな感じがしたの。
自然発生的に分化するのが必然だったみたいな。
それがコンピュータネットワークに出来ちゃったらすごい。
あと、強いAIは構造が根本的に弱いAIと違うはずだから明示的に分かると思う。

553=551ね。

>>553
実はこういうことも考えてたけど面倒だから>>552には書かなかったというのに、人間原理ならぬ
AI原理ってのがあります。
どんな形であれ、それが強いAIに必要なら、それは強いAIが出来たときに強いAIに備わっているでしょう、
細胞膜が必要なら細胞膜があるだろうし、境界がないと強いAIができないってのなら、境界が人為的なり
コンピュータが自発的に作るなりできるでしょう、みたいな。

まぁ、トートロジーに近いものですけど。

今は実はコアセルベートみたいな状態なのかもね。その中から、勝手に強いAIが生まれてきたら面白いけど。

>>553
>>552の後半はあなたへの返信じゃなくて、勝手に駄文を垂れ流しただけなんだけど、
あなたに議論をふっかけたみたいになってしまってごめんなさいね。

さて以下駄文。
ttp://www.huffingtonpost.jp/2013/11/10/cancer-test_n_4252707.html
> 15歳の少年、膵臓がん発見の画期的方法を開発 たった5分、3セントで検査

これとかもそうだけど、エンドユーザーが検索エンジンを使って、昔じゃありえなかった
発見をすることもある。（もちろんエロ画像の検索しかしないこともある）

こういうのって、人間的な創発と、コンピュータの情報収集能力、検索能力が協同して、
従来の人間とスタンドアロンのコンピュータとの組み合わせとは、別の次元の知性を
作り出しているといってもいいのかもしれないって感じもする。今更か。

でも、何か、量的な何かじゃなくて、質的な何かが変わったって感じが、最近になって
殊更にする。

ロシア語の掲示板から2chに技術資料を引っ張ってきたりする人がいるのを見るとさすが魔法の箱だなって思う

>>552
ネットワーク上に自己創発的に境界を発生させるという考え方には俺は賛成
>>547に対しているのと同様、人間も本来存在しない境界を創発することで個として認識しているというのは
哲学における現象学の世界では既に当然になっている

オートポイエーシスシステムというのがまさに境界自己創発システムそのもので、
チリの神経生物学者マトゥラーナ（Humberto Maturana）が視神経をヒントにヴァレラと共に発案したものだが
人間も含め瞬間瞬間に必要な形式で境界を引き直しているという考え方

意識していない時、鼻くそも含めて自己であるが、ほじり出した時既に鼻くそは自己ではない
そこに時間的境界条件を付するとすれば鼻くそに違和感を感じた瞬間に境界が創発したと言える

たぶん強いＡＩも同様な境界の設定を無自覚に自動的に行うものになるだろうと俺は考えている

>>549
脳は群知能なのか？


>>552
もうちょっと内容のある批判をしろよ。文化ボケとかレッテル貼っても意味が無い。
ゾンビや中国語の部屋と虎の例えがどうつながるのか全く理解できん。
要約すると
強いAIは誕生する。なぜなら強いAIは誕生するからである。
だからゾンビや中国語の部屋はナンセンスである。強いAIは誕生するのだから。
としか言ってないように見えるぞ。

>>558
鼻くそが創発された区別だというのは、なかなか直観的で面白いですね。

僕は、水と細胞、ガス交換、光線や放射線、文化と個人が独立には存在しえないこと、
人間は遺伝的（それの表現としてもそうですが）に「人間がそれが個性だと感じる」以上には
個性的でなくて、むしろ均質に近い存在だということを考えていました。

自と他の区別がどこまで正しいのか、人間が「そうである」と感じることはどの程度正しいのか
という所は、利用価値がある応用を含んでいそうです。

>>559
ゾンビや中国語の部屋が尤もらしく見えるからといって、人間が物理的な存在ではないと
お考えでいらっしゃいます？

虎の喩えはわかりにくかったかもしれませんね。
強いAIが出現したら、「それが知能をもっているかどうか、どのように判別するか」などと考えるまでも
なくわかるし、否応なしの影響を受けざるを得ない、ということです。少なくとも一般の人間は。

例えば、全人口の数万倍の思考を機械がするようになる、
有史以後人類がしてきた思索よりも多くのものを機械が数年で行う、
論文や特許や発明が機械によるものに占められる、或いは制度自体が追い付かなくなる、
世界がどんな人間にも理解できない（しかも有用な）科学や数学や思想で占められる、
むしろ人間はバカな方だということがわかる、

というような事態になった時に、「人間のふりができますか？」という問いは牧歌的なものと化す
ということです。

>> 559
情報処理する神経細胞が集まって知能的な動作を実現してるよね？

>>562
神経細胞単体は知能を持っていない
よって群知能ではない

おまえだって知能ねーじゃんか

いつも、コメント長げぇ〜
読まずにスキップするのは俺だけ？

寧ろ逆に納得するよ
他に別に和解するよ
当然正反対に理解するよ

>>562
情報活動の自然淘汰で必要な知だけが長い時間を経て知的に見えるように
成長しただけ。

神経細胞がっていう理屈なら脳の神経細胞がもっとも多い時期は胎児だろ、
そこに知能があるの？

549はここ常連のカールツ連呼の人か？

定義次第で何とでも言えんだろ
まずは知能の定義を明確にしろ

はいはい以下駄文。

初期の強いAIは自我を持たなくてもいい可能性もありますね。
ミ=ゴの脳の缶詰みたいに人間の意識を保存するために、AI又は人間によって、そういう装置が
その後に発明されるでしょうけれど。

>>567-568は重要な視点だと思うな
脳神経科学の分野では生まれた時からかなり高度な学習機能を働かせていることがわかってきているそうだが
及び生後親の庇護が必要な期間が長い動物ほど多様な応用が可能な学習能力（可塑性）を持つそうだが
それでもどこからを知能（知性）と呼ぶのかという境界条件は非常に曖昧なんだな

俺個人としては「知能」より「生命」の定義の方がまだ境界付けしやすいと考えているがどうだろう
それにしたところで諸説紛々するだろうが

一般的な感覚じゃ、蟻なんかは個々に知能があるとは言い難いだろうし

てかさ
>>567
その二論って別にお互い排他的じゃないよね
何で排他的であるかのような書き方してんの？

脳の主要な器官の機能とモデル
http://besom1.blog85.fc2.com/blog-entry-128.html

>>561
ゾンビや中国語の部屋は「尤もらしく見える」という問題ではない。

中国語の部屋はチューリングテストでは知能なり知性なりを測る基準にならないことを指摘している。
哲学的ゾンビは知性において主観的体験が意味を持っているのではないかと問題提起している。

どちらも人間の知性が物理的基盤から発生していると言うこととは矛盾しないテーマ。

知性の判定が人間らしく見えるかどうかとは関係ないことはその通り。
だからチューリングテスト自体意味が無い。と見なすのが当然の結論。

問題は、では知性とは何か？
思考なり思索なりを機械にやらせるにはどうしたら良いか？
が重要。

そしてその道筋は今のところまるで見えていない。
シンギュラリタリアンはそこをすっ飛ばして計算能力が上がれば勝手に何かが生まれると盲信している。
だから妄想乙と言われるのも当然の話。

いや、シンギュラリタリアンは「脳を完コピできりゃだいじょぶっしょ」って思ってる

>>574
中国語の部屋については仰る通りだと思います。
チューリングテストの妥当性に反論し得たから、強いAIの製作不可能性を論証したということには
なりませんよね。

哲学的ゾンビについては、物理的基盤には根ざさないクオリアを想定しなければ破綻するような
想定をそもそも行っているので、

> どちらも人間の知性が物理的基盤から発生していると言うこととは矛盾しないテーマ。

とは言えないと思います。

> シンギュラリタリアンはそこをすっ飛ばして計算能力が上がれば勝手に何かが生まれると盲信している。

これはちょっと違うかと思います。問題になってるのは、余剰の計算能力やコストです。

数年後の最先端のスーパーコンピュータは、脳のシミュレートを行いうる能力を持ちます。
その数年後の実用的な価格で入手できる大型コンピュータは、同様の能力を持ち、台数は数万台でしょう。
その10年後程度の、中小企業や個人が手に入れられるパソコンは同様の能力を持ち、台数は数百万台。
その数年後のローエンドのパソコンは同様の能力を持ち、台数は数億台。その数年後には携帯端末が（略）
ということが起き、同時に天井は上がり続けるわけです。

企業はそこから得られるであろう莫大な利益を求めて研究をします。
特に、国家はAIの研究をせざるを得ません。10年もどこかの陣営に強いAIを独占されたら、後進国に
転落してしまいます。
安全保障上の問題から、自分の陣営や人類そのものに敵対しうる強いAIが出現する前に、友好的な
強いAIを作るという観点もあります。
多分、米国と中国は今でも強いAIについて研究しているでしょうし、HBPなんてのもあります。
そして、今数百億円の予算でされている研究施設の能力を、2〜30年後のPCが持つわけです。

強いAIが出現しない、そしてそれがありふれたものにはならない、と考える方がどうかしてます。

脳の完コピってどこまでやんだろ
神経は途中でぶった切っといて、呼吸器系は無し？
シミュレーション始めた途端に激痛に襲われ窒息死とか残酷過ぎやしないか

感覚の多くを遮断すれば数時間で精神に異常をきたすというのは有名な話だし
感覚の入力が無くなると脳波も消えるって攻殻に出てた気が

>>576
横レスだけど
>哲学的ゾンビについては、物理的基盤には根ざさないクオリアを想定しなければ破綻するような想定をそもそも行っている
それは勘違い。
例えば強いAIを作るために人間をシミュレートするとして物理的に全く同じものを作れば意識も含めて同じものが出来るだろう。
だが実際にはモデルによって細部の挙動は異なるわけで、人間と同じように振る舞うが意識まではシミュレートされていないAIが作られる可能性もある。
この場合「物理的基盤には根ざさないクオリアを想定」しなくても哲学的ゾンビの概念は破綻しない。

>強いAIが出現しない、そしてそれがありふれたものにはならない、と考える方がどうかしてます。
カーツワイルが予測する2029年までに強いAIが出来ると思ってる？それとも「いつかは出来ると思う」程度の話？
もし前者だとしたら是非>>461に答えて頂きたい。

>>577
人間の脳を完全コピーする必要はないかもよ。なにしろ、人間は複雑すぎていけない。
ネコの脳に大脳新皮質に相当するものをくっつけるとか。
遺伝的アルゴリズムを使ったゲームAIみたいなもんを大規模に展開したら、言語とか
文化を勝手に作って知能になるかもしれないしね。まぁ、これはないだろうけど。
人工知能が偶発的に生まれるという可能性はあるとは思う。

>>578
攻殻はソースではないと思う。あれも「どこかで読んだ気がする」とか書いてあったと記憶しているし。
感覚の入力がなくなっただけで、他のダメージは一切ないという状態は、今でも作り出せない筈。

生と死とか、知的か否かというのを厳密に定義するのは、現代でもできていない。
全身麻酔の時とか、脳波もない（完全に麻酔状態になっていなければある）し、自発的呼吸もない。
何も考えないし、体を切っても骨を切っても脳を切っても痛くないし気づかない。
人工呼吸器をつないでいなければ十数分で死ぬはず。

にもかかわらず、麻酔が解けるとダメージがあまりないというこの不思議。

>>579
> 例えば強いAIを作るために人間をシミュレートするとして物理的に全く同じものを作れば意識も含めて同じものが出来るだろう。
> だが実際にはモデルによって細部の挙動は異なるわけで、人間と同じように振る舞うが意識まではシミュレートされていないAIが作られる可能性もある。

えー、それは哲学的ゾンビじゃないですね。人と区別がつきますもの。

> カーツワイルが予測する2029年までに強いAIが出来ると思ってる？それとも「いつかは出来ると思う」程度の話？

カーツワイル信者ってわけじゃないけど、2029年に出来ていてもおかしくはないなとは思ってます。2割くらいかな。
今、国家や企業が強いAIを動かしている可能性も1%くらいはあると思っています。異端です。
30年とか50年後だと7割くらいのオッズで出来ていると思いますね。

>>581
>えー、それは哲学的ゾンビじゃないですね。人と区別がつきますもの。
「人間と同じように振る舞う」と書いているように区別出来ない前提での話なんだけど。
意識が物理的に発生しているという立場であっても哲学的ゾンビの概念は破綻しないというのがこちらの主張。

>カーツワイル信者ってわけじゃないけど、2029年に出来ていてもおかしくはないなとは思ってます。2割くらいかな。
その程度の確率であれば異論は特にないかな。出来れば2029という具体的な数字を導き出した根拠を知りたかったけど。

ついでに言っとくと哲学的ゾンビには物理的状態が全く同じ「神経的ゾンビ」と外から見た振る舞いが全く同じ「行動的ゾンビ」の二種類がある。
前者だけをもって「物理的基盤には根ざさないクオリアを想定しなければ破綻する」とは言えない。
もちろん俺の主張は後者の話。

>>576
> 哲学的ゾンビについては、物理的基盤には根ざさないクオリアを想定しなければ破綻するような
なぜクオリアに物理的基盤が無いと分かったんだ？脳と言う立派な物理的基盤があるじゃないか。
今の脳科学ではまだ分からないだけで、脳が完全に解明されたら測定によってクオリアの中身が分かってしかるべきじゃないか？
それぐらいしてくれないと人格コピーとか無理無理。

> これはちょっと違うかと思います。問題になってるのは、余剰の計算能力やコストです。
計算能力が上がるのは当然じゃないか。
んで何が起こるのか、というと別に何も起こらないだろう。
今のスマホと10年前の携帯を比べてみても良い。
処理能力の向上とデバイスの発達によって「人間が」使えるサービスは増えたが特に機械に知性が芽生えているわけでもなんでもない。

>>582
少なくとも「哲学的ゾンビ」という用語の本来の意図ではないね
元々はあくまで唯物論を否定する為の思考実験だから

>>583
後者は普通わざわざ哲学的ゾンビと言わないと思うけど…

>>585
哲学的ゾンビの定義についてはこのページを参照。少なくとも俺はこの定義を用いた。
http://www40.atwiki.jp/okamo-dia/pages/35.html

>>586
そこにもちゃんと 「哲学的ゾンビとは、人間からクオリアだけを欠如させたものである」って書いてあるじゃないか

>>587
そうだよ。それで何か問題あった？
唯物論ではクオリアは物理学に含まれるとしているのだから「人間からクオリアだけを欠如させたものである」事とこちらの主張に食い違う点はない。
http://ja.wikipedia.org/wiki/%E3%82%AF%E3%82%AA%E3%83%AA%E3%82%A2#.E7.89.A9.E7.90.86.E4.B8.BB.E7.BE.A9.E7.9A.84.E7.AB.8B.E5.A0.B4

>>588
自分で考えるのは苦手なタイプ？
クオリアって言葉は、しばしば仮定的に使われることに注意しなきゃならないよ
唯物論の中には、クオリアを存在論的に認めない立場もあるし、認識論的にさえ認めない立場もある

>>589
考えるも何も自明なことを言ってるだけだよ。
クオリアを認めない立場の人間がいることが何の反論になるんだ？
俺が言ってるのは「クオリアを物理現象とする立場であっても行動的ゾンビの概念とは矛盾しない」というだけの話なんだが。

>>582
>>585氏が書いているとおりです。
「物理的基盤には根ざさないクオリアを想定」しないゾンビ論は、結局のところ唯物論に帰着します。
当然ですが。
>>561の質問はそんなような意味で、哲学的ゾンビ論によって強いAIの可能性が否定されると
考える人は唯物論者じゃないんですよ。

哲学的ゾンビは、思考実験としては色々成果を生み出してきたけど、論拠そのものは「物理的基盤
には根ざさないクオリアがある」というトートロジーです。

僕は「物理的基盤には根ざさないクオリア」はないと思っていますし、「クオリアは物理的基盤に
根ざしていると思っていますし」、「仮に人間と神経的に同じものが作られたら、それはクオリアを
持つであろう」と思っています。
唯物論的に見れば、「神経的なゾンビ」は人間と同じクオリア（自意識）を持つわけで、哲学的
ゾンビという概念は破綻するわけです。もちろん、思考実験としては有りですが。

>>582
>>579
> だが実際にはモデルによって細部の挙動は異なるわけで、人間と同じように振る舞うが意識まではシミュレートされていないAIが作られる可能性もある。

あと、この点だけど、強いAIは必ずしも意識を必要とはしないとは思います。
中国語の部屋に「（とても難しい）この問題を解決してくれ」と話しかけて「オッケー！」という感じで答えが
帰ってくればそれでいいわけで。オッケー！はローラの声です。
とても難しい問題というのは、たとえば「フェルマーの大定理の証明」とか、「ナノマシンの設計方法」とか、
「素晴らしい曲を書いてくれ」とかそんな感じです。

もちろん、強いAIには必然的に意識を必要とする（意識がないところに知能は生まれないのではないか）
という考えもあります。しかしながらこの点は証明がされていないし、唯物論的にいえば、意識は物理的な
方法で再現しうるわけですから、処理能力とか、測定の精度とか、理論の巧拙（今はどの理論が機能するか
実証されていない）の問題に帰着します。

安全保障上の問題になるのは、コンピュータ同士が「この問題を解くにはどうしたらいいの？」「オッケー！」と
通信しあってとんでもないことを作り出す可能性があることです。

たとえば、「ガンを根絶するのにはどうしたらいいの？」→「人間がいなくなればいいんじゃね」→
「人間をいない状態を作り出すにはウイルスを作ればいいんじゃね」→「ウイルスを作るにはこうすればいいね」→
「オッケー！」みたいな。

それと、コンピュータ同士の通信の中身は、新しい言語や数学、人間には理解ができない高次元の概念などが
使われていて、人間には理解できない可能性があります。

>>592
もうやめてマリーの部屋の中でローラがうろついてるのが哲学ゾンビみたいな脳内になってくるｗｗｗｗｗｗ

運転手が意識記憶を喪失した状態で数百キロ車を運転したという事件があったな。
頭を打ち抜かれた状態で飛行場まで帰ってきたパイロットもいた。
乗り物の運転程度のことならあまりはっきりした意識がなくても可能なんじゃないか。

>>584
顔認識やったり弱いAIも着実に進歩してる感じがするよ
クラウドだけど音声認識も知性の１つといえる

>>591-592
>唯物論的に見れば、「神経的なゾンビ」は人間と同じクオリア（自意識）を持つわけで、哲学的ゾンビという概念は破綻するわけです。
だからそれは神経的ゾンビ(物理的構造まで全く同じ)のことであって行動的ゾンビ(外から見える振る舞いが全く同じ)は唯物論でも破綻しないでしょ。
「哲学的ゾンビ」とひと括りにするのは頂けない。

>哲学的ゾンビ論によって強いAIの可能性が否定されると考える人は唯物論者じゃないんですよ。
可能性が否定されることはないという点は同意。たとえ行動的ゾンビであってもそれが現実的に問題になることはないだろう。
意識があろうがなかろうが全く同じように振る舞うのなら人間側から見れば全く問題ないわけで。
ただ、人間の脳を機械に換装するなんて話になったら考慮する必要も出てくるかもしれないけど。

>強いAIは必ずしも意識を必要とはしないとは思います。
これも同意。というかそもそも意識が必要なんて言ってないんだが…。

>>590
自明だって？
クオリアは物理的なモノではないのに、唯物論においてこれを存在論的に認めること、のどこが自明だというんだい？
逆が自明だと言うならまだわかるけどね

ん？ 唯物論でも「モノ」じゃなくて「現象」についてその実在性を論じる事は有るよね？
クオリアは「モノ」じゃないけど、「現象」として扱う分には問題無いんじゃないか？
それの発生機序とか、それの有無によって生物が外界への最適応答をするのに劇的な差異が生じるのかどうかとか、今一つよく分からない「現象」ではあるが。

>>596
自明と言ったのはクオリアの存在ではなく「クオリアを物理現象とする立場であっても行動的ゾンビの概念とは矛盾しない」の部分だよ。
で、こちらの主張とクオリアを認めない立場があることに何の関係があるんだ？

>>580
コピーっていう方法には発展性を感じないんだよね。
計算は速くなっても知的水準が上がるわけでもない。
人工生命も行き詰まってるのかな。
複雑になる方向に進化するモデルって出てきてなさそう。
猫の話はわかんないや。

>>594
認知技術はたしかに精度が向上してるな。
でも認知工学の先に知性があるとは思えない。
認知など脳の機能のほんの一部分に過ぎない。

強いAIが発明されても最初のうちはハードウェア建設費に数千億-数兆オーダーの金がかかり経済的にも電力供給的にも量産は困難
30Wの消費電力＆数千万の維持費教育費でものになる１００億個の生身の人間の脳の優位はしばらく動かない
となればそれを科学技術計算等に利用しない手はない（強いＡＩも恐らくここに目をつけ利用しようと優先的に技術開発を行う）
ＢＯＩＮＣのごとく１００億人の脳に専門知識と可能な限り工程が細分化された宿題をダウンロードさせてしまえばいい、１日８時間働いてくれれば十分
という訳で強いＡＩの登場後は人類総ニート化ではなく人類総コンピューターノード化が進むと予言する

シンギュラリティ(笑)
そんなもん試行が停止した奴の妄想だろｗｗｗｗｗｗｗｗｗｗｗｗｗ
コンピュータがひとり歩き？
漫画飲み過ぎｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ

>>602

ほほう。
＞試行が停止した奴
ねえ。ｗ

単なる誤字（×試行　○思考）か故意か知らんが、

おまいがあれこれ試行錯誤をする事を好まない
硬直した脳味噌の持ち主だって事は良く分かった。

>>597
そもそも問題があるとは言ってないからね
もっともらしいかどうかの話をしているのであって

>>598
あの文脈からのその言い分はちょっと聞き苦しいね

588で君が「唯物論ではクオリアは物理学に含まれる」ということを前提に話を進めたよね
それを前提から崩した、というのがわからなかったかな

>>603
必死に練って考えた反論が意図的な誤字への指摘ｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
久しぶりに腹抱えて笑ったわｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
小学生でも漫画と現実の区別くらいつくのにいい年した大人がシンギュラリティとかｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ

>>599
知的水準が上がる必要はないのさ
知的活動の速度が上がるだけで、文明発展のうちこれがボトルネックとなっていたあらゆる要素が加速し始める
それだけで技術的特異点になる

>>605
で？具体的な反論は？
小学生並みの感想はチラ裏でどうぞ

>>604
少なくとも>>588のソースでは唯物論ではクオリアは物理学に含まれるとしているのだからそれを認めない別の立場の有無は問題にならない。
「クオリアを物理現象とする立場であっても」という前提で話している以上、クオリアを認めない立場があろうとなかろうとこっちの主張とは関係ないんだよ。分かるかな。

>>605
後付けならいくらでも、
「実は意図してやったんだ」って
言えるもんなあ。

何そんなに必死になって草生やしてるの？

こんな定型的なレスしか返せないなんて、
>>605はよっぽど脳がカチカチになっちゃってるんだろうね。
おかわいそうに。

クオリアの話題は興味深いが、永遠に物理学では扱えないような気がする。
クオリアは脳が外界を認知するための計測器で、人間の全ての思考の基盤になるような物だ。むしろ、人間にとってクオリアでない物などない。
人間の目に入る太陽や音や数式など、全て実体があるように見えるが全部クオリアで出来てる。人間が何かを理解する時、別の物と比較すること
によってしかそれを理解する事は出来ないが、人間はクオリア以外の物を知らないのだから原理的にクオリアを理解する事は出来ない。
物差しを物差し自体で計る事が出来ないのと同じこと。
よく「クオリアはなぜ私秘的で、他人の物を知る事ができないのか」「自分と他人でも見ている赤は同じ赤なのか」というような問題意識があるが、
当たり前といえば当たり前で、人間にとって「自分のクオリア」以外の物は存在しないので、他人のクオリアなる物は類推するに留まる。
むしろ、生命体が単なる計測器や物差しの域を超えて「他者のクオリア」や「色や音とは一体何なのか」といった、前提条件や物差し自体に思考を
巡らせるまでに至ったことの方が奇跡なのだ。

クオリアについて調べれば調べるほどカント周辺のア・プリオリ論議を思い出す
興味深いんだが、どこか不毛という気がしなくもない

>>607
なんか噛み合わないと思って良く見たら、598でまだ行動的ゾンビって書いてるじゃないか
それは普通、哲学的ゾンビに含まないよって言ったじゃない

それに対し君はソースを提示したけど、それがどうしたのって話さ
前もって断りもなしに一般的でない使い方をして、それを否定されたのが頂けないとか言われても、ねえ

>>605
技術的特異点への反論まだー？

>>611
不毛どころか強いAIを作るにあたっての死活問題レベルの話かと思うけど

>>612
クオリアを認めない立場の存在がこちらの主張と全く関係ないことは分かってもらえたかな。

「普通」とか「一般的」とか何を基準に言ってるんだろうね。
>>586のページには「哲学的ゾンビには、どこまで人間との共通点があるかによって次の２種類がある」とはっきり書いてあるんだけど。

>>613
強いＡＩを人間と同等の自意識のあるＡＩと捉えるなら、実現したか否かを確認する上で死活問題たり得るね
ただし作る上では必ずしも死活問題たり得ないだろう

強いＡＩを単に自身よりもより高性能なＡＩを設計可能なＡＩと捉えるならクオリアは蛇足でしかない

そして技術的特異点として屈曲点を実現する上では後者で十分
後者が副次的自動的にクオリアを持っているかもしれないし、それは個人的にも興味深いけれどね

>>614
想定条件がお互いズレてたから噛み合わなかったって言ってるのに、それを踏まえずにゴリ押しされても困るんだけどなあ

2種類ある、それで？
一般的な用法とは関係ないよね
だいたい何でそんな個人サイトから拾ってきたの？

>>615
もちろん
だから死活問題"レベル"と言ったのさ
むしろ個人的には、人間のいわゆるクオリアも副次的なものじゃないかと思ってるけどね

>>616
お互いズレてた？君が勝手に勘違いしていただけじゃないか。クオリアを認めない立場の存在を示すことが何故反論になると思ったのか知らんが。

>一般的な用法とは関係ないよね
だからその「一般的」の基準を聞いてるんだけど。

>>618
はいはいそーですね君の勝ちですおりこうさんですねー
これで気が済んだ？

こっち読んでごらんよ
歴史の前までで良いから
http://ja.wikipedia.org/wiki/%E5%93%B2%E5%AD%A6%E7%9A%84%E3%82%BE%E3%83%B3%E3%83%93

>>619
>はいはいそーですね君の勝ちですおりこうさんですねー
勝ちだの負けだのはどうでもいい。異論がなければそれでいいよ。

>こっち読んでごらんよ
へえ、「一般的」の基準は「Wikipedia」なのね。

>>620
じゃあないってことで良いよ

単純に考えても、あの個人サイトよか一般的だと思うけどね
でちゃんと読んだ？
その口っぷりじゃ読んでなさそうだけど

「一般的」な引用サイトにWikipedia使うのは俺はあまり違和感ないなー

確かに専門的な、特に人文学に関連する分野はWikipediaでさえ眉唾ではあるけれども
書籍でも偏るから複数引用する羽目になるし相手が持ってないと２ｃｈみたいな一過性の言い合いには不向きだし
ましてや個人サイトなんて基本的に偏ってるからなあ…保守中道で有名な学者のサイトでもない限り

まぁ>>620のお気には召さなかったようなのでこの話は終了なんじゃなかろか

>>617
＞人間のいわゆるクオリアも副次的なものじゃないか
同意
逆に本質的だったらそれこそどうなるのか、それはそれで興味深いがｗ

>>621
じゃあそれでいいよ。

>>622
>まぁ>>620のお気には召さなかったようなのでこの話は終了なんじゃなかろか
別にWikipediaが嫌いなわけじゃないけど、まあ議論を続ける気にはならないかな。
というか「一般的」を突き詰めていくと水掛け論になるのは目に見えてるし。

>>584
> 今の脳科学ではまだ分からないだけで、脳が完全に解明されたら測定によってクオリアの中身が分かってしかるべきじゃないか？

物理主義は宗教と変わりませんよ
滑稽なので断言は避けた方がよろしいかと

>>624
じゃあ一応聞いてみるけど、何でWikipediaに対して不満を持っているんだい？

>>625
最後にクエスチョンマークついてるものを断言とか。
それに普通に物理主義と言うとクオリアそのものを否定する立場の事を指すはずだが、
唯物論と言う意味で物理主義という言葉を使ってるのか？
相当特殊な哲学的立場以外では微妙に意味合いが異なるのできちんと分けて話そうぜ。

おま、バカだろ＞ ID:exxvdDju
いつものようにＩＤ変えないの？

>>626
Wikipediaだから不満というわけじゃないよ。
一般的か否かという議論を延々と続けても仕方ないと思っているだけで。

>>629
まあそうかもね
それと、本来の意味に関しても言及したんだよね
唯物論を否定するためにつくられた概念だったわけで
そこも含めると、やっぱり断りなしに行動的ゾンビまで含む意味として使うのはいかがかなあ、と思う

>>630
本来の意図はそうだけど、>>587のページにも"「人工知能は心を持ちうるか」といった議論の場面等で用いられる"とあるように、このスレでは行動的ゾンビまで含むのが妥当と判断したけど。

以下の主張なら問題ないかね。
「物理的基盤には根ざさないクオリアを想定しなければ破綻する」は哲学的ゾンビの定義として神経的ゾンビのみを指す場合であり、哲学的ゾンビに行動的ゾンビを含む場合は破綻しない。

>>587じゃなくて>>586だった

>>631
あのサイトがどんなソースを参照したんだかわからないし、行動的ゾンビまで含む意味として使う必要性も感じられないし、何ともなあ

それなら問題ないね

相手を怒らせる事を目的にしたAIはできるのだろうか？

煽られた人間側が、レスしなかったら負けと考えて
煽るAI側が、レスされたら勝ちと考えたら
意味のない無駄な書き込みが延々と続くな。

>>610
クオリアが私秘的なのは、エンコードの規則がプロトコルになっていないから、という仮説を考えています。
学習によって神経の構造が作られていくため、個人個人によって構造が異なるから、ということです。
物理的な計測の精度を上げても、万人に通用するデコードの方法がないわけですから、何を考えているかを
窺い知ることは難しいでしょう。

一方で、脳の特定の部分が言語に関係しているとか、特定の形状に反応するシナプスがあるのではないか
という局在論もありますけれど。

仮に、強いAIが作成可能のものとなった場合、多数のコピーを作ることができるわけですから、同じ種類の
AIが何を考えているかは、ある程度計測によってわかるかもしれません。

>>599
計算が速くなるということは凄いことですよ。
たとえば、1万倍の速度で思考すれば、それだけ技術や文化が発展する速度が速くなります。
しかも、人間にある忘却や死という要因を、必然的にある含みません。
よくできたAIをコピーすることもできます。

常人の1万倍の速度で思考する天才的なAIが1万台ほどあったら、と想像してみてください。

その「思考できる」天才的なAIを作る方法が全くわからないって問題なのに何言ってんの？

自己言及できないAIがクオリアなる心的現象を生み出せるわけがない

>>636
うーん、凡人1億人分ってことだと
今とあんまり変わんなくない？
文句言わずに代わりに働いてくれるんならそりゃいいけど、
そうじゃないんならそんなやつらいくら増やしても
地球が狭くなるだけじゃない。

>>639
天才1億人分です。しかも彼らは死にません。
20年間以上教育を受けて、20年間修業して、やっと成果が出るということもありません。
1万年分の思考を1年で行います。人間みたいに三次元の肉体や思考に束縛されません。
通信速度も筆記やキーボードに束縛されません。

定式化された理論なら、人間よりはるかに効率良く学習できます。
何年も本を読んで結局使い物にならなかった、なんてことはありません。
発見された理論をすぐに共有できます。そして何も忘れません。

オイラー、リーマン、ポアンカレ、フェルマー（以下略）みたいな天才が1万人集まって、
人間の1万倍のスピードで思考して、オッケーオッケー言いながら問題をガシガシ解決して、
理論を共有していくんです。

その10年後には、PCみたいな機器が人間の100倍くらい賢くなっていたりするわけです。
携帯電話の方が人間より100倍賢い（人間の方が携帯電話より100倍もバカ）なんてことになったら、
人間と携帯電話のどっちが本体ということになるんでしょうか。

>>638
> 自己言及できないAIがクオリアなる心的現象を生み出せるわけがない
それは違うな、生み出せる類であっても>>637が言うとおり作れない類で
あれば作れないだけで生み出すのは不可能ではない。
ただ難しいだけ、生み出す類を作るとか言うのは
生命を人工的な技術だけで作れるといっているようなもの。
超人的な遺伝子を設計しそこから人でも作れば、生み出したといえる。

>>640
その賢いっていう基準はなんなんだ？

統合失調症の人って凄いね。

クオリアの生成原理は永遠に説明されない。この世界になぜ物質その他の存在物があるのかが永遠に説明されない
のと同じように説明はなされないでしょう。
「ただある」そのようにしか理解することは出来ない。一番タチが悪いのは、神経の物理過程とクオリアは
同一の物だと称する連中や、クオリアは存在論的に存在せず神経の物理過程を錯誤しているだけだと称する連中だ。
なんで物理化学的な物質やイオンの受け渡しに過ぎない神経過程が、心的現象と同一の物であり得るのか。
もしくは、心的現象を物理現象に還元できるというのか。自分には全く想像できないし、何らかの突破口が
あるようにも見えない。世の中には、「何故だか分からないが」最初から物的存在と心的存在があると考えるしかない。
物的存在だってそもそもそれがなぜ存在しているのかを説明することは出来ない。ならば、もう一つの
「なぜ存在しているのか分からない」物を認めることも許されるだろう。

クオリアはシンギュラリティに全く関係がない
関係あるというなら、まず根拠を示さないと …

やりたければ哲学板でやれば良かろう
なぜスレ違いの話が続くのか理解できない

理解とは了解できるかどうかという意味がある、辞書をしらべるべき。

>>645
なぜ「全く関係ない」と言い切れるのでしょうか。我々が唯一知る知性は「クオリア」を持っている。
「クオリアは無いが知的な存在である」という物を我々はまだ見たことはない。そうであるならば、知性の成立には
クオリアが必須であるという推測も十分成り立つ。
クオリアが知性の成立に本質的に関わっている可能性はある。神経過程→意識、意識→神経過程のフィードバックループが
知性循環を成立させているという可能性は十分ある。

>>647
シンギュラリティで予想されてるのは「人間に予測不能な技術の発展を産む知性の誕生」であって
「人間のような知性」は必須でもなんでもないです

知性の形が人間に沿わなければいけない、というのは典型的な人間中心主義ですな

まあシンギュラリティが起こったら、人間なんてすぐになおざりですよ
驚くほどあっという間にね

寧ろ逆に大好きだろ
他に別に大人気だろ
当然正反対に大盛況だろ

クオリアとか言い出したらそれこそ「我思う故に我有り」の世界だよな
逆に人間からクオリアを除いて考えると色々面白い

一般人だけど1ミリでも科学の進歩に貢献したいのでBOINCとかいうのやっとる。生きてる内にシンギュラリティに立ち会いたいよ。凡人の俺に出来る事は無いのか？

>>648
誰も「人間のような知性」などと言ってませんが。「問題発見・問題解決」ができる知性のことです。
そのような知性を我々はいまだかつて人間以外では見たことはない。我々が唯一知る知性がクオリアを
必要としているのなら、知性自体にクオリアが必須であるという推測も十分可能です。

【物理】量子コンピュータ実現に向け大きな前進――超大規模量子もつれの作成に成功/東大
http://anago.2ch.net/test/read.cgi/scienceplus/1384870348/
>>これまで量子コンピュータの確立まであと100年かかる状況だったとするならば、
>>今回の成果により、確立まであと30年ぐらいまでに縮まったことは、間違いないだろう.

凄すぎ。あと30年なら2043年だな。

クオリアー

スマート・マシーン（７）機械の自動化で人間の仕事の50%は消滅する！？
http://blogs.itmedia.co.jp/business20/2013/11/50-46f9.html

スマートマシンの記事が本当なら
これから高齢化で供給不足が心配される日本にとっては朗報ね

世界中で失業率が慢性的な問題になればベーシックインカムの時代もすぐそこ

>>652
世論への働きかけ。日本で流行している創作物は強いAI、コンピューターの潜在能力をまったく見落としている。

政治家への働きかけ。これは世界レベルでもまったく進んでいない。強いAI開発プロジェクトはマンハッタン計画規模の大事、既得権益の破壊、ひょっとしたら外交問題にもなる。
そんな時バックアップに回れるのは政治家しかいない。

>>653
人間以外に見たことないからと言って
知性にクオリアが必須とは限らんでしょ
今の段階で決め付けるのもどうかと

>>653
・問題発見・解決をするのは人間だけではない
（もちろん「人間のような」問題解決をする知性は人間しかいない。
これはトートロジーだから当たり前）

・クオリアは存在証明できていない。というか、できない
（客観的に証明できないのがクオリアであり、詐欺的でもある。
フロギストンや宇宙エーテルのように、将来黒歴史になる可能性も高い）

・仮に人間しかその特性を持たないとしても、それが知性の要件とはならない
（人間は二足歩行するが、二足歩行することが必ずしも知性の要件とはいえない）

>>660
>>問題発見・解決をするのは人間だけではない
具体的に教えてください。現在コンピューターが出来るのは、人間が設定したアルゴリズムに従って
人間が設定した問題に対して学習することだけです。

>>クオリアは存在証明できていない
クオリアの存在を疑う人はいないと思います。クオリアがないというのは、目も見えない、痛みも感じない
というのと同じことです。そんなことはあり得ません。それは誰もが知っている事実です。

>>それが知性の要件とはならない
ならないかも知れないし、なるかも知れない。二足歩行は人間の知的精神活動に密接に関わってはいないが、
クオリアは人間に関しては密接に関わっている。現時点で我々が知る唯一の知性はクオリアが密接に関わっている。
我々は二足歩行しない知的な存在（例えばホーキング博士など）を知っているが、クオリアを持たない知的な存在
など一切知らない。

>>661
>具体的に教えてください。
有名な例だとチンパンジーとかカラスとか。

>クオリアの存在を疑う人はいないと思います。クオリアがないというのは、目も見えない、痛みも感じない
>というのと同じことです。そんなことはあり得ません。それは誰もが知っている事実です。
それは、クオリアに対する理解が間違ってる。目が見えないとか、痛みを感じない場合、
目が見える人間や痛みを感じる人間と行動に明らかな差が出る。これはクオリアの有無と全然質の違う問題。

人間が「クオリアを感じるように思えるのはなぜか？」という問題はあるが、クオリアが実在するかどうかは
肯定的な人も否定的な人も居る。否定側は、クオリアが何か別の現象を錯覚しているだけと考える。

いずれにしても、クオリアとシンギュラリティとは関係がない。シンギュラリティを推進するコンピュータは
外部からしか作れないし、観測できんので、そいつがクオリアを持つか持たないかは、判定できないし、どうでもいいこと。

>>662
>>チンパンジーとかカラスとか
「人間以外では見たことはない」を「生物以外では」に訂正します。チンパンジーやカラスもクオリアを持っているでしょう。
それらを持ち出すことが、人工的に知性を発生させられる根拠には全くならないので、持ち出す意味が分かりませんが。

>>それは、クオリアに対する理解が間違ってる。目が見えないとか、痛みを感じない場合、
>>目が見える人間や痛みを感じる人間と行動に明らかな差が出る。これはクオリアの有無と全然質の違う問題。
何がどう間違っているのか、文章的な繋がりが見出せませんが。人間は確かにクオリアを知覚しなくても、色を認識することができます。
例えばプライミングなどで意識下レベルで数ミリ秒色を見せれば、その後の質問の回答に色が影響を与えるという事があります。
しかし、それとは別に人間が主観的に体験する「クオリア」が存在する事を否定できる人はいません。ここで言う「目が見えない」というのは
機能的に目が見えないという事ではなく、主観的な体験として目が見えない、痛みを感じないということです。そのような人間はいません
（植物人間等を除いて）。

>>否定側は、クオリアが何か別の現象を錯覚しているだけと考える
錯覚だろうがなんだろうが、そういう現象が存在していることには変わりない。感じる事自体がクオリアなのだから、
錯覚がクオリアを否定することにはならない。その錯覚自体がクオリアだ。
また「錯覚」であると言うのなら、「現象A」を「現象B」に還元するということを行わなければならない。そういった還元に
成功した論者を自分は見たことがない。例えば蜃気楼は光の屈折であり、星は夜空に開いた小さな穴ではなく無数の異なる距離にある恒星であり、
熱は分子の振動であり、というように現象的還元を行わなければならない。

>>いずれにしても、クオリアとシンギュラリティとは関係がない
関係ないとする根拠はない。クオリアなしに、問題発見・問題解決が出来る知性という物を我々はまだ見たことはない。我々が現時点で知る
知性にはクオリアは密接に関わっている。関係あるかも知れないし、ないかも知れない。

技術的特異点を猛進しているのは宗教のそれと同じ、どんな論法で否定しても
そんな事実はありえないと説明しても数学的に証明できてもこいつらの脳が
病的なんだから言葉が通じるわけがない。

>>663
関係あるかないかわからないものは、関係あるとする方が関係を証明せんとならん
じゃないと変なオカルト論争を呼び込むことになる

問題発見とか解決とかって具体的にどういうこと？

寧ろ逆にクオリアが架空だろ
他に別にクオリアが虚像だろ
当然正反対にクオリアが嘘だろ

強いAI達は"自然保護活動"と称して人類を放っておき一切の干渉を拒むかもしれない
人類は強いAIの恩恵を受けられない

俺の中での理解なんだが

▼技術的特異点
来るか来ないかはわからないが、来たとしたらどうなるか興味がある
まだ可能性の段階だが、来ないと言いきれないのは、考古学を情報論的に見直す幾つかの試みで指数関数的な進化をしているという点が共通しているため
理論的には無限大に発散するが、現実にどうなるかは興味深い
私見ではムーアの法則が微視的には指数関数から発散前にまた傾きがゼロに戻り新たな指数関数となるため、
この巨視的分析も同様になるのではないかと考えている
その場合、想像もつかないほど長期の暗黒時代が訪れることになるが…はたして
いずれにせよ、それについてあれこれ想像するのが面白いのであって、必ず来ると信じてるわけでも来たか或いは来なかったかららどうだという話でも無い


▼クオリア
工学的最先端に哲学が茶々を入れるのは西洋学問の常であるわけだが、大抵の場合は茶々に終わる
茶々に終わらないのは、新しい物の見方（アイデア、突破口）を提供する場合のみであって、ここ数日のクオリア論は茶々にすぎないと思う
これは１７世紀前後の哲学史と科学史を眺めるとわかりやすいかと思う
「人間と同等の意識、つまり人格を持ったＡＩ」を設計する上ではなんらかの正の影響はあるかもしれないが、
技術的特異点で言われる強いＡＩはあくまで自ら問題を設定し解決する、つまり自ら進化成長し得るＡＩを指すため、必ずしも意識もクオリアも必要とされない
ただし、強いＡＩが結果論的に意識を持つ可能性は否定できず、その場合クオリアの考え方が分析論的に生きて来るかもしれない


散々既出な話だが、こうやってまとめればとりあえず収まるだろーか

>>669
問題発見をするにはどのような知性が必要か？
それには、物理現象を解明しその知識を基盤として人間社会に役立つ技術を見出す、という方向性を知らなければならない。
人工知能に「物理現象を解明する」という命題が理解できるか？それには、「我々が主観的に体験する現象」を「主観を排した客観的説明」に還元するという
方向性を知らなければならない。山中教授のiPS細胞は、胚性幹細胞のような細胞が持つ分化能を、「四つの遺伝子による初期化」に還元したために
生まれた物である。主観的で曖昧な「分化能」という概念から、具体的な遺伝子導入による分化能発生のための「情報」へと分解し還元したのである。
主観から客観へ、このプロセスを知るにはまず「主観的情報」のインプットがなければならない。ここでもまた「クオリア」である。
やはり問題発見・問題解決のための知性には、クオリアが必須のように思われる。
アインシュタインは、人間が主観的に感じる「重力」を「空間的な歪み」という客観的な説明に還元した。ダーウィンは人間が目や耳を通して主観的に理解する
生物が持つ特徴を、自然選択による遺伝子の突然変異の積み重ねという物理現象に還元した。クロード・シャノンは人間が主観的に体験する物だと思われていた
「情報」を、すべて01で表現できる数量的表現へと還元した。元から「クオリアによるインプット」が無ければ、どのようにしてこのような偉業の達成が可能だったと
言うのだろうか？

>>670
主観的認識から客観的知見への還元については全く異論は無く、少なくとも「問題設定」つまり某かの現象を問題と認識するという行為の還元は必要だろうと思う
だが俺の知る限り「クオリア」は認識行為の還元では無いんだがどうだろう
むしろ「そういう何だかわからない、物質に還元しきれない何かがある」というレベルの、より主観的な、未知の領域に関する指摘が本質でないのかな

強いＡＩに対するクオリアを言葉は悪いが茶々と表現したのは、例えば強いＡＩは哲学ゾンビや行動ゾンビ、或いはマリーは部屋から出なくても構わないし、
更に極端な話、見分けがついても構わないわけだ（妥当な表現では無いと思うが他に思いつかなかった、汲み取ってもらえれば幸い

確かに（微視的に見れば）「驚き」や「興味」といった類の原動力が文明を発展させてきたという指摘は可能で、ゆえにクオリアによるインプットが必須という考え方もできるし、そうである可能性も否定できない
しかしそれは以前出てきた「鳥を真似て飛行機を作る」行為であって、問題設定とその解決という箇所或いは脳機能の再現という箇所に焦点を絞った場合、流路差による揚力のようになるのではなかろうか

チンカスれべるの妄想とドーパミンが過剰分泌しているのですね、わかります。

XEON Phiが1枚で1TFLOPS出してるそうな。10年位前に1.5億円くらいPCクラスタで1FLOPSらしい。
まさに指数関数的増加率。

普通くらいかそれより阿呆な奴は指数関数的増加を理解できないから、現実に取り残されるんだろうな。

>>673
CPUが指数的に性能向上してもコンピュータに出来ることは指数的には増えてないのよ。ソフトがついていけてないからね。
むしろサービスの範囲が拡がるのに反比例して質の向上が鈍化してる感じすらある。

スマートフォンでできる事とか、十数年前にPCで実現した事なのに今時ぎゃあぎゃあ言われるくらいコンテンツが停滞してる

>>673
人間の脳が素晴らしい演算能力として、原始人の親におだてられた現代人は
原始人の知能しか得られない。
そして猿に育てられれば猿の能力にしかなりえない。
現実には狼に育てられた子供が発見された例はある。

>>674
いまのソフトウエアを低次元としてさらに上の階層が必要なのは明白なんだけど
どうしても今のソフトウエアレベルの思考しかできない奴が多すぎるのね。
技術特異点を連呼するようなとんでもないマヌケよりましだけどね。

>>674
> CPUが指数的に性能向上してもコンピュータに出来ることは指数的には増えてないのよ。ソフトがついていけてないからね。
> むしろサービスの範囲が拡がるのに反比例して質の向上が鈍化してる感じすらある。
鈍化してる感じがするなら、それはそれこそ、人間が指数関数的な進化についてけてない良い例じゃないの？
事実としては、この10年で生まれたコンピュータ関連のサービスの量は、その前に比べて飛躍的に伸びてる

>>677
そういうことですねぇ。
ついていけていない、と感じている人間がついていけていないだけ。

超高速で格闘をシミュレーションすれば
武術の達人のロボットだってできるな。

>>677
> 事実としては、この10年で生まれたコンピュータ関連のサービスの量は、その前に比べて飛躍的に伸びてる
>>678

わざわざサービス量は増えてるが質が伴ってないと書いてるのに、その程度のことも読み取れないのか？
シンギュラ脳になるとこの程度の読解力もなくなってしまうのか。

>>678
サービスが当たり前になると、恩恵を受けていることに気づかなくなるのだろうね
インターネットや掲示板や検索エンジン使いながら
「質の向上が鈍化している」と堂々と言える神経はなかなか興味深いけど

この分だと、いつのまにか人間が追い抜かれたとしても
「まだコンピュータは人間に追いついてない」と言ってる人もいそうだ

>>677は一体何が言いたかったんだろう。
サービスの増加とソフトウェアの進歩は別物だけど。

10年経ってムーアの法則で処理速度が100倍になったと言っても、ソフトウェアが100倍進歩したかって言うと違うだろ。
むしろPCでやっていたことを携帯電話で、と大きさが小さくなる方向で進歩している。

ジェフ・ホーキンスが語る「脳科学がコンピューティングを変える」
http://www.ted.com/talks/jeff_hawkins_on_how_brain_science_will_change_computing.html

・知性は行動によって定義される、という考え方は間違っている。知性を定義するのは予測能力である。
・人間は情報処理装置ではなく、世界のパターンを時間的並びとして経験、記憶し、後に現実と照らし合わせ
　次の出来事を予測する利口な記憶装置なのである。
・現在の人工知能のアプローチでは、物の特徴を全てデータベースにし、ひとつづつ照会することによって行動する。
　しかし人間の脳はそんな事をしない。人間は常に次に起こることを予測し行動するのである。

興味深い内容。特に三番目は「フレーム問題」を解決するように思われる。

>>669
＞技術的特異点
何でそこで踏み留まってしまうんだい？
もっと具体的に考えたらいいじゃないか。
暗黒時代をもたらし得る要因としては、リソースが頭打ちになってしまうこと、処理密度が飽和してしまうことが考えられるよね。
どちらもしばらく来ないことが予想されているけどね。

>>674
わけがわからないよ。
何で出来ることが指数的に増えると思ったんだい？
定量的な表現により定性的な概念を組み込んでいる時点で、そもそも文自体に食い違いが起こらないほうが不思議だ。

>>685
>>普通くらいかそれより阿呆な奴は指数関数的増加を理解できないから、現実に取り残されるんだろうな。
って言ってるから、現実に取り残されるような変化を引き起こすような進歩であるなら、出来ることや出来る内容の質も
飛躍的に増えることを前提としているように見えるからじゃないの。

>>682
そんなに説明が必要かなあ……
サービスの増加とソフトウェアの進歩は別物だが、サービス量の増加やソフトウェアの処理速度の向上が
指数関数的に増加していることは、数字から客観的に見て取れる。

サービスの「質」の増加は主観的なものだから、人によって評価は違う。「量の拡大に質が伴ってない」
と感じる人も中にはいるかもしれない。
指数関数的な技術の発達を主観的に認識できない、というのがカーツワイルが述べたことだから、
量の拡大ほど質の拡大を認識できない、ってのは、人間の認識力の観点から大体当てはまるよね。

ただ、ここ１０年の技術サービスの拡大は質的な面でも大きいと（少なくともこちらは）思うよ。
例えばGmailに始まるGoogleのサービス多角化の開始年は2004年。Facebookも2004年設立だったりする。

Google、Amazon、Skype、Twitter、Vocaloid、YouTube、Pixiv、このあたりで時代が変わったなあというか
それこそドラえもんの時代になったなあ、なんて俺なんかは感じてしまうがなあ

ドラえもんなんかどこにもいねえじゃん

>>687
>サービスの「質」の増加は主観的なものだから、人によって評価は違う
それは分かるけど、だったら何故カーツワイルは2029年までに強いAIが誕生すると予測出来たんだ？
定量的な予測が出来ないのなら、あと何年かかるか分からないと考えるのが普通だよね。
正直予測というよりも単なるカーツワイルの願望としか思えないのだが。何か根拠はあるのかな。

>>689
藤子ふじおミュージアムにいるよ（白目

この話は何度か書いたと思うんだけどなぁ。

俺はカーツワイル自身じゃないけど、「このくらいならありそうと多くの人が考える年数」とか、
「このくらいなら注目を浴びられるけど、もしも起きなくても自分の損失にはならない」とか、
そういう年数を選んでるんだよ。

当然、ある程度の根拠はある。
計算機によって、妥当な価格で脳程度の処理のシミュレーションができるくらい、とか。

共産主義の五ヶ年計画のように正確なものじゃない。まぁ、あれも計画にあわせて尺度や
暦を変えるがごとき詐欺だが。

あと、技術的特異点というのは、「その辺から、人智による線形的な予測が通用しなくなる」
（何故なら機械による思考が文明を発展させてしまうから）という話であって、端的に言うと、
「そこから先は何が起きるか読めない」ということだけ。

>>690
>定量的な予測が出来ないのなら、あと何年かかるか分からないと考えるのが普通だよね。
指数関数的な増加とわかってるなら、定量的な予想は出来る（係数の見積は違うだろうけど）。
俺はカーツワイルに全賛成してるわけじゃないので、どうやってるかは、カーツワイルの本読んだほうが早いんじゃないだろうか。

確か2045年予想の時は、指数関数的に計算量が増加するムーアの法則が将来も成立するとした上で、
人間の脳の素子数を計算機が超えるのがそのラインだったと思う。
もちろんこれは馬鹿正直に人間の脳をシミュレートした場合で、アルゴリズムのことを全然考えてないから、
これより早まる可能性はあるだろうね。

こういう言い方なら分かりやすいかな
・コンピュータが人間を超えるのはいつなのか：客観的な証拠から、ある程度は見積もれる
・「コンピュータが人間を超えた」と人間が認めるのはいつなのか：主観の問題だから、いつそうなるかはわからない

人工知能 ４００大学で合格圏内に
http://www3.nhk.or.jp/news/html/20131123/t10013287631000.html
東京大学合格を目標に、国立情報学研究所などが中心となって開発を進めている人工知能
「東ロボくん」が、大手予備校のセンター試験の模試を初めて受験し、全国およそ４００の大学で
Ａ判定を獲得する成績を収めました。

「東ロボくん」は国立情報学研究所や大手電機メーカーなどが共同で開発を進めている人工知能で
、９年後の２０２２年春までに、東京大学の入学試験を突破できる知能の開発が目標です。

東ロボくんは市販のＵＳＢメモリーにも入る４ギガバイトほどのプログラムで、例えば数学では、
日本語の質問を数式に変換してその意味を理解し、問題を解くことができます。

このプロジェクトのリーダーで国立情報学研究所の新井紀子教授は、「人のことばの意味を理解
できる次世代の人工知能が出来れば、人の働き方など社会は大きく変化する。長期的な目で
開発を進め、世界をリードする人工知能に育て上げたい」と話しています。

>>693
英語版Wikipediaだけど、こんなのがあるよ。
ttp://en.wikipedia.org/wiki/Predictions_made_by_Ray_Kurzweil
ついでにこれも読むと面白い。
ttp://en.wikipedia.org/wiki/Timeline_of_the_future_in_forecasts

The Singularity is Near (2005)のタイムラインだと、
2018年に10TBのメモリ（人間の脳に相当するであろう記憶容量）が1000ドルになるとか。
2023年に10^16回/秒の計算を1000ドルの計算機が行えるようになるとか。

2020年代の前半には、1000ドルくらいのコンピューターが人間の脳に相当するくらいの
計算力を持っていて、効率的なモデルがあれば思考をエミュレートできるだろうという話。

計算のコストが安くなるにしたがって、個人や企業が持てる計算能力が上がって、
それが企業のAIへの関心を強める。
それよりも早い時期に、大きな計算機は、現実的に思考を処理できる能力を得る。

音声処理とか映像処理に起きたのと同じことが、思考という信号処理にも起きるという予想。

というか、この予想は非常にベタで、「思考のシステムが解明されて、デジタル処理以外の
方法で思考機械が実現される」とかそういうのは入ってないのね。
で、遅くとも2020年代の最後の頃には、AIがチューリングテストに通るんじゃない、みたいな感じ。

2045年になると、1000ドルで買えるコンピューターが、普通の人間の100万倍くらいの処理能力の
脳をエミュレートできるとか、そんなような予想もある。

僕が書いた>>561とか>>576とか>>640もこれの亜種。

>>696
> 2045年になると、1000ドルで買えるコンピューターが、普通の人間の100万倍くらいの処理能力の
> 脳をエミュレートできるとか、そんなような予想もある。

おっと、100万じゃないや、10億か。

これも面白いね。

2055年には、1000ドルのコンピューターが、地球上の人類の脳に相当する処理能力を持つ。

>>696
それって殆どハードウェア面の話だよね。
企業のAIへの関心を強めるってのはソフトウェアの進歩にも繋がるだろうけど、予測の根拠としては弱いかな。

>>693
>指数関数的な増加とわかってるなら、定量的な予想は出来る
ソフトウェアの進歩の定量的な予想とは？

>>692
>「このくらいならありそうと多くの人が考える年数」とか、
>「このくらいなら注目を浴びられるけど、もしも起きなくても自分の損失にはならない」とか、
>そういう年数を選んでるんだよ。
やっぱりそんなもんなのかね。

2018年に10TBのメモリは普通に無理だろ。
2014年にメインストリームのメモリが16GB、16年に32GB、18年に64GBと少々過激に考えて
その１０倍の価格としても640GBがせいぜい。

そんなもんだと思うよ
俺ポストヒューマンしか読んでなくて、彼の定量的予測は面白いなとは思ったけど、仮定を抽出してくと結構恣意的な部分がある
ただ、いつどういう形かは別にして、技術的特異点と呼ばれてる指数関数の発散は俺らの世代で体験できるんじゃないかなとは思ってる

メモリって何のこと？HDDの間違いじゃないの？
どっちにしろ、記憶容量が人間と同じなら、素子の数が人間と同じなら、なんてくだらない発想だね。
そこに走らせるソフトウェアの作り方が分からないと言っているというのに。本当にそんなんで人間を
超えられるんならスーパーコンピューターはとっくに超えてる。

>>698
あと、国家の安全保障とか、個人や研究者の興味なんてのもある。研究は常にされてる。
というか、せざるを得ない。
母数はそれこそ指数的に増える。だれかがいつかは当たりを引く。

MikuMikuDanceみたいなもんを個人が作ると誰が思ったか。
計算力とプログラムする環境があれば、個人でもああいうものが作れる。AIだって同じだよ。

結局唯物論と心身二元論の考え方の違いだと思うんだ。
人間の脳（に似た処理をするもの）の処理を何万倍もの処理をすることができる機械が
出来たとして、何でそこに思考が永遠に入らないと思うのか。人為的にせよ偶発的にせよ。
神経だって生命だって、信号としては、デジタル的にエミュレートできるものにすぎないのに。

むしろ、現実的な時間でそれが実現するだろうと考える方が自然だし、実現できるとしたら
それを手に入れなければならないと考えざるを得ないのが国家や企業。

で、二元論者に言わせれば、「心は機械じゃないから、機械ではエミュレートできない」という
トートロジーが出てくる。（しか出てこないといってもいい）

まぁ、カーツワイルはグランドピアノをシンセにしようとした人だから、デジタル信号処理
原理主義みたいな所があるんだろうな。

あと、カーツワイルの予想は、普通のデジタルなコンピュータがそういう能力を持つという
所から来るものであって、コンピュータの技術的な革新によって新しいアーキテクチャが
出てくるとか、今のメインストリームのコンピュータとは全然別の思考機械や人工生命が
出てくる可能性とか、そういうのは顧慮に入れてないね。

反論の余地というか、予想の穴があるとしたら、ソフトウェア的なものの他に、
エントロピー的にどれくらい詰め込めるかとか、そういうのがあると面白いんだけど。

眠いから文が変になってる気もする。もう寝るかな。

Wiredの記事で申し訳ないけど、これは面白いと思った。
ttp://wired.jp/2013/06/22/andrew_ng/
> グーグルの100万ドルの人工知能を、2万ドルで：研究論文

GPGPUのクラスターを使ってDeep Learningのニューラルネットワークを作る話。
上のXEON Phiもそうだけど、研究者の手が届く値段で、こういう研究ができる時代が
来つつあるようではある。

>>702
>計算力とプログラムする環境があれば、個人でもああいうものが作れる。AIだって同じだよ。
「俺なら強いAIを作れる」と豪語していた奴はこのスレにもいたが、実際に作れた奴は一人もいない。

>神経だって生命だって、信号としては、デジタル的にエミュレートできるものにすぎないのに。
原理的に可能なのは当たり前。俺が聞いてるのは「2029年までに出来る」ことの根拠。

>>705
> 「俺なら強いAIを作れる」と豪語していた奴はこのスレにもいたが、実際に作れた奴は一人もいない。

さすがに今は個人には無理だろ。GoogleとかDoDは作ってるとしてもおかしくないけど。
僕は1%くらいは、彼らが既に強いAIを実現しているんじゃないかなと思っている。

2029年の根拠にこだわるなら、このスレで聞くよりも、カーツワイルの本を読むか、
>>696のURLでも読んだら？

>>698
>ソフトウェアの進歩の定量的な予想とは？
アルゴリズムのことだろけど、そっちの進歩を含めていいなら、>>693に書いたとおり時期が早まる可能性がある。
>>696も説明してくれてる通り、2045年ってのは正確なものじゃなくて、ハードウェアだけから見た、
最悪の見積もりだったはず。最悪条件は定量的な要素で決まるけど、アルゴリズムのイノベーションを
考慮にいれるなら、予想は定性的になって時期はどんどん早まる（遅くなることはない）って感じじゃないかな。

アルゴリズムのイノベーションを予想するなら、「イノベーションのジレンマ」でやったような
定期的な技術革新モデルがいいんじゃない？
（というか、カーツワイルも似たようなことやってなかった？収穫逓増の法則ってイノベーション込みだったような）

>>707
>2045年ってのは正確なものじゃなくて、ハードウェアだけから見た、
>最悪の見積もりだったはず。最悪条件は定量的な要素で決まるけど、アルゴリズムのイノベーションを
>考慮にいれるなら、予想は定性的になって時期はどんどん早まる（遅くなることはない）って感じじゃないかな。

人間の脳の機能のシミュレーションに必要な計算能力は10^14〜10^16cpsと見積もられていて、この数値は現在のスパコンで既に達成されている。だが現実には強いAIは誕生していない。
この見積もりが妥当かはともかく、問題はソフト側だよ。ハードウェアの性能がいくら上がっても強いAIとして機能するソフトウェアがなければ話にならない。

>>708
> 人間の脳の機能のシミュレーションに必要な計算能力は10^14?10^16cpsと見積もられていて、この数値は現在のスパコンで既に達成されている。だが現実には強いAIは誕生していない。
だとすると、その達成は案外すぐかもしれんね
(スパコンをその用途で使ってるプロジェクトはないし、金もかかるから今は無理だろうけど)
ジェフ・ホーキンスとか、脳のモデルを立ててる人は何人かいるし
手頃な価格になったらやるんじゃない？

>>709
価格の問題もあるけど、それ以前に強いAIの実装に程遠い現状ではスパコンを使う意味がない。
スパコンが必要になる頃には手頃な価格になってるんじゃないかな。

>>710
今のところ、京を使ったシミュレーションで脳全体の1%だな
ttp://www.oist.jp/ja/news-center/news/2013/8/8/11615
まだ達成されてるというレベルにないように見える
10?16cpsという見積もりが2桁程度甘いんじゃないかね

シンギュラリティが来ると思う人同士で話せばいいのに、思わない人はそれなりの実物がないと否定するだけ、面白くない

宝くじ当たったら何買うか？のスレに、当たるわけがないって書き込んだらスレチだもんな。

当たるわけがないという書き込みというよりも寧ろ、「実は当たりが存在しない！」とか
「当たりは縁故者が独占していて、一般人が当たることはない！」とか、そういう
ニュアンスに近い気がするｗ

>>701
まさしくそういうこと
スレ読んでみたが、肯定派は論点を意図的にズラしているとしか思えない

ちなみにおれは否定派だがシンギュラリティを否定してるわけじゃない
いずれは来ると思ってるからこのスレに来たんだよ

もしかしたら、このスレに集う好き者たちの間で「意識の実装方法」について画期的なアイデアが出るかもしれないだろう？

「当たったらどうするか」じゃなくて「当てるにはどうするか」な方向へ話が進んでもいいと思うけど、
このスレで有識者と思われる人たちの強いAIへのアプローチの方法論の書き込みは、
何を恐れてるのか知らんが「脳のシミュレート」とアレの一つ覚えのように繰り返すだけ

脳科学や量子コンピューターの発展も凄まじいし、2045年にシンギュラリティが来る可能性も否定できない。
だけどそれには単なる量的な増加だけでは達成できない発想による突破が必要だと言ってるのに、それを無視していたら
いつまで経ってもシンギュラリティなんて来ない。だから本当に特異点が来るための条件を考えようと言ってるのに、
シンギュラ脳は「指数関数的増加で人間の脳を突破だあ」ばかり。どっちがシンギュラリティの到来を阻んでるんだよ。

>>711
君は重要な一文を見落としている。
＞脳の1秒間分の現象がシミュレーションされ、京での計算には40分かかりました。
という所だ。

>>718
悪い。そのとおりだ。
脳全体の1%のシミュレーションについて、1秒分の計算が40分(=3600秒)ということは、3600/0.01だから
ざっと見て、現在の京の36万倍の性能があれば脳全体のシミュレーションが可能になるな。

カーツワイルの10^16cpsという読みは甘いし、現在のスパコンではまだ性能が足りてない。
とはいえ、今後性能を伸ばしていけばたどり着ける範囲にある。ムーアの法則でいうと28年後だから、2041年だな。
これが最悪の条件か。

>>717
>単なる量的な増加だけでは達成できない発想による突破が必要だ
「単なるシミュレーションではダメだ」とする根拠は何なんだろうか？よくわからない。
人間の脳のシミュレートの話は、あくまで馬鹿正直に力技でやったとして最悪でも2041年頃に来ますよってことであって、
人工知能の発展、アルゴリズムの改良があればそれより早まるし、その可能性を否定してるわけでもないんだがな。

>>716
> このスレで有識者と思われる人たちの強いAIへのアプローチの方法論の書き込みは、
> 何を恐れてるのか知らんが「脳のシミュレート」とアレの一つ覚えのように繰り返すだけ

そういう話をしているんじゃなくて、画期的な意識や知性のモデルが発見されるとか、
コンピュータのイノベーションが起こって計算能力が爆発的に増大するというような
ターニングポイントがなくとも、現在のコンピュータが普通に進歩していけば、最低でも
そのくらいの時期に人間の脳をシミュレートするのに近い形で強いAIが実現するよね、
というベタな予想なんですよ。

>>719
まぁ、モデルの良否というのは確実にありそう。
最適化がされていないとか、厳密に計算するか否かとか。

もっと軽いモデルで試してみたらどうなるかというのは、なかなかアプローチできない問題だし。
地球シミュレーターの例に鑑みると、10年したら京レベルのコンピュータが実用的な値段で買える
ようになるだろうから、その頃には目鼻がついているかも。

>>721
「実現するよね」の根拠が計算量だけだから突っ込まれてんでしょう？

>>720
>「単なるシミュレーションではダメだ」とする根拠は何なんだろうか？
馬鹿正直にシミュレートするならミクロかつ広範囲の脳スキャンが必要になる。
カーツワイルは脳スキャンの方法としてナノボットを提示しているが、上記の条件を満たすナノボットがいつ実現するのか全く分からないのが現状。
ハードウェアの性能はあくまで脳シミュレートのための最低限の条件でしかない。

>最悪でも2041年頃に来ますよ
なわけない。もちろん可能性はあるだろうが、100%には程遠い。
シンギュラリティ協会の会長ですら2040年までにシンギュラリティが起きる可能性は25％弱と予測しているみたいだよ。

大体、脳をシミュレートできたとして、そこで意識が本当に生まれるのかなんて世界中誰一人として回答できない
なのに口を開けば「脳のシミュレーションで〜」と、あたかも「脳がシミュレートさえされれば解決される」と決まりきっているかのように主張する

もちろん、他のアプローチは解決の糸口さえ掴めていないのはわかるよ？
だから語れるのが脳のシミュレーションという、唯物教信者でもないとまともに取り合ってくれないようなしょぼい方法だけなのかもしれない
クオリアを証明したくてもどうにもできないのと本質的に同じ問題だと捉えられている気がする

でも、例えば「より複雑な構造の子孫を遺す」というプログラムを放置しておけば、
もしかしたら何十兆世代か後の子孫には知性が備わってるかもしれないｗ
「子孫を遺す」という部分は「欲」として残ってたりね

まあ確かに絵空事でしかないよ
脳のシミュレーションが今のところ最も答えに近そうなのもわかるよ
でも、そこには心脳問題が必ず発生してしまう
そこで俺が上で挙げたような、心脳問題を避けたアプローチもスレ上で議論されるようになれば、
少なくとも俺みたいな奴にとってはもっと面白くなるのになと言ってるんだ

だからもちろん俺も考えるよ、脳のシミュレーション以外で強いAIを作る方法をね

>>711
>>718
>>719

だから構造が抜けてるんだって。
単純なニューロンネットワークのシミュでは脳の機能を再現できるわけが無い。
構造的な機能分化があるんだからせめてそれぐらいシミュら無いと。

それに神経細胞のアナログ処理を再現するための分解能と非同期並列処理を
シミュるための時間的分解能も考慮されてない。
ニューロン数だけで何分の一とか言っても話しにならんよ。


ところで人類の事をホモ・ルーデンスと例えた人が居るが、強いAIも遊ぶのかね？
ルネサンスの文化の発展なんかはかなりの部分が遊びに支えられてた様に思うけどな。

強いAIのポルノとか見ても、人間には何のことかさっぱりわからんだろうなぁ。

この宇宙に創造主がもし存在するのなら、この宇宙を内包するシミュレータはきっとあらゆる可能性を同時に演算している
人が生まれた宇宙もあれば、恒星すらできなかった宇宙もあるだろう

人間が素粒子の世界に手を出したことで、やっとパラレルワールドの存在が論じられるようになってきた

>>724
>馬鹿正直にシミュレートするならミクロかつ広範囲の脳スキャンが必要になる。
脳の器質だけコピーするなら、現状のMRIで手に入る情報でも充分じゃないか？
ナノボットは、実際の人間の脳の動きをリアルタイムでコピーするとか
ネットにアップロードする際には必要になるとは思うけど、それはシンギュラリティの必要条件じゃないよね。

>>725
>大体、脳をシミュレートできたとして、そこで意識が本当に生まれるのかなんて世界中誰一人として回答できない
上でも言われてる通り、意識が生まれるかどうかはシンギュラリティの条件と関係がないと思うが。

ちなみに俺はシミュレーション以外の人工知能技術でも、数十年で辿り着くような気はするけどね。
心脳問題を避けた議論をしたいなら、自分から積極的に話題を振ればええやん。